Robotlar, yapay zekaya sahip, programlanabilir cihazlardır ve kuşkusuz robotlar, insanlık tarihinin en iyi buluşlarından biridir. Robotlar, insanlar tarafından üretilmeden önce insanların kafasında nasıl bir nesne oldukları canlanmaya, hayal edilmeye başlanmıştı.
İlk olarak robot kelimesinin kökenine indiğimizde 20. yüzyılda yaşamış olan Çekoslovak yazar Karel Čapek'in "robot" kelimesini ilk kullanan kişi olduğunu görürüz. Karel Čapek, "robot" kelimesini kullanan ilk kişi olarak gösterilse de bu kelimenin asıl mucidinin kardeşi Josef Čapek olduğu söylenmektedir.
Karel Čapek, 1920 yılında yazdığı R.U.R. (Rosumovi Umělí Roboti) adlı tiyatro oyununda çağının ötesinde bir konuya değinmiştir. Oyun, insanlar ile insan kadar akıllı olan robotlar arasındaki ilişkilere değinmektedir. Čapek'in insanlar ile robotlar arasındaki yaklaşımı ondan sonra gelen yazarlara ve insanlara ışık tuttu. Yıllar geçtikçe bilim kurgu yazarları, robotlar hakkında hikayeler yazmaya başladı ve insanların hayal dünyasında robotlar hakkında bir kalıp oluşmaya başladı. Bu kalıbın oluşmasında asıl etkili olan şey ise filmlerdi. Bilim kurgu filmleri, robotları çok iyi kullanmaya başlamış, insanların hayal dünyasına robotları sokmayı başarmıştı.
İnsanların hayal dünyasına giren robotların hayatına girmesi de çok fazla zaman almadı. 20. yüzyılın sonlarına doğru bazı şirketler tarafından robot üretme çalışmaları başlamıştı bile. 21. yüzyıla gelindiğinde ise endüstriyel robotlar fabrikalardaki yerini almış ve artık insansı robotlar da ortaya çıkmaya başlamıştı. Honda tarafından geliştirilen ASIMO, 2000 yılında tanıtıldığında büyük ilgi odağı olmuştu çünkü insana benzer yapısı ve davranışları herkesi etkilemişti.
21. yüzyılın başlamasıyla robotik şirketler kurulmaya, yeni yeni robotlar üretilmeye başlanmıştı. Artık insanlar çeşitli medya organlarında ASIMO gibi robotları görmeye başlamıştı ve yine yeni bilim kurgu filmleri de senaryolarında robotlara sık sık yer veriyordu.
Genellikle filmlerde gösterilen robotlarla, gerçekte görünen robotlar farklıydı. Filmlerdeki robotlar, genellikle insanlığı yok etmeye çalışırken, gerçekteki robotlar insanlara yardım ediyordu. Zaman geçtikçe bazı teknoloji şirketlerinin başındaki isimler veya kamuoyu tarafından tanınan isimler, robotların gelecekte kontrolden çıkabileceğini ve insanlığı yok edebileceğini söylemeye başlamıştı. Ortaya atılan bu fikirler sanki senaristlerin ve yönetmenlerin beklediği anmış gibi olmuştu. Çünkü saygın kişiler tarafından robotların dünyayı ele geçirebileceği, insan soyunu yok edebileceği söyleniyordu ve bu, tamda bilim kurgu filmlerinin senaryolarıyla örtüşüyordu. Hâl böyle olunca ortaya çıkan bilim kurgu filmleri daha büyük kitleler tarafından izleniyordu. Tabi burada fikri ortaya atan kişiler ile senaristler arasında bir bağ yoktu, bu sadece bir rastlantıydı ama toplumların robotlara bakış açısı iyice şekillenmeye başlamıştı.
Bugüne baktığımız zaman ise robotların endüstriyel sektörde son derece önemli bir yeri olduğunu rahatlıkla görebiliyoruz. Otomobil üretim tesislerinden tutun, içecek fabrikasına kadar birçok alanda robotlar vazgeçilemez bir yardımcı konumunda. Ve yine bugün, kamuoyu tarafından tanınan bazı kişiler robotların gelecekte kontrolden çıkıp insanlığı yok edeceğini söylemeye devam ediyor ve "insanlığı yok etme" işleminin bilim kurgu filmlerindeki gibi kan dökülerek gerçekleşeceğini savunanların sayısı artıyor.
Ancak bu fikir veya düşüncede bazı hatalar bulunuyor. Bu fikre göre robotlar öyle çok gelişecek ki insanlardan akıllı hâle gelecek ve artık insanlığı yok etmeye başlayacak. İşte bu "insanlığı yok etme" kısmı kan dökülerek gerçekleşmeyecek bu, çoğu sektörde insanların yaptığı fiziksel veya zihinsel işlerin robotlara devredilmesiyle gerçekleşecek. Örneğin, bir otomobil fabrikasında robotlar kullanılmadan önce 1.000 personel çalışıyorsa, robotların gelmesiyle bu sayı 500'e düşebilir. Çünkü montaj hattında robotlar her anlamda insanlardan daha iyi konumda. Örnekten de anlaşılabileceği gibi robotlar farklı iş sektörlerinde farklı konumlarda insanlardan çok daha üstün bir performans sergilediği için insanlar yerine robotlar tercih edilecek.
Yani robotların "insanlığı yok etmesi" savaşarak ve kan dökülerek gerçekleşmeyecek. Robotlar, insanların yaptıkları işleri yapacak -ki şu an çoğu sektörde robotlar oldukça yaygın-, şirket sahipleri de tabi ki daha az masraflı ve kusursuz işler ortaya çıkartan robotları tercih edecek. Gördüğümüz gibi aslında robotlar ile insanlar mücadele etmeyecek, her zaman olduğu gibi yine insanlar ile insanlar mücadele edecek.
İşte burada harika bir noktaya değinmemiz gerekiyor; "insanlar ile insanlar mücadele edecek". Bu cümle, aslında robotların insanlara düşman olmadığını, insanların en büyük düşmanının yine kendisi olduğunu söylüyor ve burada farklı bir detay ortaya çıkıyor. İnsanlar, robotları nasıl diğer insanlara zarar vermek veya yok etmek için kullanabilir? Sorunun cevabı ise çok basit; "hackleyerek".
Peki, Robotlar Hacklenirse Ne Olur?
Robotların, insanlarla savaştığı ütopik düşünceleri ve hayal ürünlerini bir kenara bırakıp, robotların insanlar tarafından oluşturulduğunun farkına varmamız gerekiyor. Eğer bu konuda ütopik bir şekilde düşünmeye devam edersek robotların arkasındaki asıl tehlikeyi fark edemeyiz. Bu tehlike ise robotların insanlar tarafından kötüye kullanılmasıdır. Robotları kötüye kullanmak için ise onları hacklemek gerekmektedir.
Son yıllarda bazı siber güvenlik şirketleri ve araştırmacıları tarafından yapılan araştırmalarda, robotların hacklenmelerinin mümkün olduğu, haclendikleri zaman çeşitli tehlikelerin ortaya çıkabileceği tespit edildi.
Trend Micro tarafından 2017 yılında yapılan bir araştırmada endüstriyel robotların güvenliğine değinilmişti. Araştırmada, endüstriyel robot üreticilerinin robotların güvenliğini sağlamak için gerekli adımları atmadığı söylenmişti. Araştırmaya göre endüstriyel robotlarda kullanılan yazılımlar ve işletim sistemleri eskiydi, kimlik doğrulama yöntemleri de zayıftı. Araştırmacılar, ABB üretimi bir endüstriyel robot üzerinde yaptıkları güvenlik testlerinde robotu hacklemeyi başarmışlardı.
Araştırmacılar robotları ve dolayısıyla geleceği tehdit eden hacklenme durumunun farklı kötü sonuçlar doğuracağını söylüyorlardı. Bunlardan biri üretimin durdurulmasıydı. Hemen hemen her sektörde kullanılan robotlar üretimin büyük bir parçası ve bu robotlara bir şey olduğu zaman üretim durmuş oluyor. Üretim durduğu zaman ise şirket aksaklığın süresine bağlı olarak maddi bir zarar görüyor. Robotların hacklenmesinin diğer sonuçları ise hatalı ürün üretimi, fiziksel hasarlar, fidye isteği, veri sızıntısı gibi sonuçlardı.
Hackerlar robotları hackledikleri zaman robotun hareketlerini değiştirebilirler. Bunu yaptıklarında üretim bandı, üretilen ürün, robotun yanındaki insanlar fiziksel olarak zarar görebilir. Hacklenen robotun hatalı ürün üretmesi, eğer ürünün hatalı olduğu fark edilmezse farklı sonuçlar doğuracağı durumdur. Bir robot hatalı ürün ürettiğinde, ürünün kullanım alanına göre risk değişmektedir. Örneğin, bir otomobilin hareketli parçalarından birinde milimetrik olarak bulunan bir hata farklı kötü sonuçlar ortaya çıkarabilir.
Buradaki en can alıcı sonuç ise veri sızıntısıdır. Endüstriyel robotlar bazı durumlarda üretilen ürün hakkında veri depolayabilir. Hacklenen bir robotun depoladığı bilgiler sızdırıldığında, bu bilgiler artık şirket için bir sır olmaktan çıkar. Örneğin, bir ülkenin savaş uçağı için kanat üreten şirketin parçanın üretiminde kullanılan robotu hacklendiğinde devlet sırrı olarak nitelendirilen ürün bilgileri diğer devletlerin eline geçebilir. Bu durum, çok ciddi askeri ve siyasi sorunlara yol açabilir.
Trend Micro'nun araştırmasındaki bir diğer detay, internete bağlı olarak duran on binlerce endüstriyel robotun olmasıydı. Oldukça riskli olan bu durum, hackerların robotlara erişmesini kolaylaştırıyor. Sonuçta internete bağlı olan her şey hacklenebilir.
Trend Micro, "endüstriyel robotların güvenliği için şimdi ne yapılmalı?" sorusuna ise endüstriyel robotların güvenliğini sağlamak için sektör tarafından belirlenen standartların en iyi şekilde oluşturulması gerektiğini, robot üretici şirketlerin robotlarına gereken güvenlik güncelleştirmelerini yayınlamalarını ve kullanıcıların, kullandıkları robotlar için yayınlanan güncelleştirmeleri yüklemeleri gerektiğini söyledi.
Ancak şirket, çoğu kullanıcının bir yazılım veya güvenlik güncellemesini robotlarına uygulamaktan çekindiğini söyledi. Kullanıcılar, bir robotu güncellemenin olası zorluklarına ve üretimi aksatabilecek hataları göz önünde bulundurarak güncellemeleri uygulamaktan çekiniyor ve bu durum Trend Micro'nun belirttiği gibi endüstriyel robotların güvenliğini tehdit ediyor.
Müşterilerin yani kullanıcıların, güncelleştirmeleri uygulamaktan çekinmesini doğal karşılayabiliriz zira bilişim sektöründe herhangi bir ürünü, yazılımı vb. şeyleri bir üst sürüme yükseltmek her zaman zahmetli olmuştur. Bir şirket, bilgisayarlarında kullandığı işletim sistemini güncelleştirmek istediğinde bile çeşitli zorluklarla karşılaşabilir ama zorluklara ve olası aksiliklere rağmen güncelleştirme yapmak, şirketin güvenliği ve geleceği için son derece önemlidir. Eğer şirketler zamanında güncelleştirme yapmayarak sistemlerini kullanmaya devam ederse hackerların ekmeğine yağ sürmüş olur.
Katil ve Fidye İsteyen Robotlar
Trend Micro'nun araştırmasından sonra şimdi sırada başka bir siber güvenlik şirketinin robotların fiziksel veya maddi zararlara yol açabileceğine dair araştırması var.
2017 yılında IOActive tarafından yapılan araştırmada, endüstriyel alanda kullanılan cobot'ların (iş birliğine dayalı robotlara verilen isimdir) üzerinde bazı güvenlik testleri yapıldı ve ortaya çıkan sonuçlar gelecekte bizleri nelerin beklediğine dair bir rehber konumundaydı. Cobotlar, birçok farklı üretim tesisinde insanlarla birlikte çalışan robotlardır. Bu robotlar, üretim bandında insanlardan çok daha fazla verim sağlarlar ve şirketler bu yüzden onları tercih eder.
Araştırmada, insanlarla birlikte çalışan bu endüstriyel robotların güvenlik yapılandırmalarının hacklenerek değiştirilebileceği ve insanların fiziksel hasarlar alabileceği ortaya çıktı. Güvenlik yapılandırmaları, robotların belirlenmiş sınırlar içerisinde çalışmasını sağlar ve sadece üretici veya kullanıcı tarafından değiştirilebilir. Bu yapılandırmalar bir robotun, çalışma hızının, hareket edebileceği alanın, gücünün belirlenmesini sağlar. Yapılandırmaları değiştirmek, robotun farklı bir şekilde çalışmasını ve onunla birlikte çalışan insanları etkiler.
Örneğin, sadece önündeki 45 derecelik bir alana erişimi olan ve orada işlem yapan bir robotun hareket edebileceği alanlar arasına, arkasındaki bölgeyi de eklediğimiz zaman normal şartlarda orada olması normal olan bir insanın fiziksel bir zarar görmesi mümkündür. Araştırmacıların Universal Robots'un "UR" modellerinin birinde yaptıkları güvenlik testleri sonucu ortaya çıkanlar robotların insanlara fiziksel olarak zarar vermesinin mümkün olduğunu gösteriyor.
2018 yılında yine IOActive tarafından yapılan araştırmada ise robotların fidye virüsü saldırılarına maruz kalabileceği tespit edildi. Araştırmacılar, SoftBank'ın robotlarından Pepper ve Nao üzerinde yaptıkları araştırmada her iki robotu da etkileyebilen bir fidye virüsü oluşturarak robotlara bulaştırmayı başardı.
Pepper ve Nao adlı robotlar, dünya çapında kullanılan oldukça popüler robotlardır. Pepper, insansı görünüşüyle genellikle şirketlerin müşteri veya konuk karşılama kısımlarında kullanılmaktadır. Nao ise Pepper gibi insansı bir görünüşe sahiptir ve yine çeşitli amaçlar için birçok yerde kullanılmaktadır.
Araştırmacılar, ellerinde bulunan Nao robotu üzerinde fidye virüsü çalışmalarını yaptıklarını ancak bunun sadece Nao'yu değil Pepper robotunu da etkileyeceğini çünkü işletim sistemlerinin ve güvenlik zafiyetlerinin aynı olduğunu söyledi. Yapılan çalışmalarda, araştırmacılar tarafından kodlanan fidye virüsü başarılı bir şekilde Nao'ya bulaştırıldı ve robot sesli bir şekilde sahibinden Bitcoin istedi. Oldukça ürkütücü olan bu durum, kullanıcı türüne göre farklı sonuçlara sebep olabilir.
Örneğin; Pepper robotuna sahip bir şirketin mağazasında, müşterilerin kapıdan girdiklerinde ilk gördükleri şey elinde bir ekran tutan insansı robottur. Bu robotun fidye virüsü saldırısına maruz kalarak, istenilen fidye ödenmediği veya virüs kaldırılmadığı sürece ekranında sürekli yetişkinlere yönelik bir içeriğin yayınlandığını düşünün. Çalışanlar bunu fark edene kadar gelen müşterilerin duruma tepkisi nasıl olabilir? Şirket, bu tarz bir fidye virüsü saldırısında müşterilerinden negatif bir puan alacaktır ve dolayısıyla hem maddi hem de manevi olarak zarara uğrayacaktır.
Hackerların robotlara fidye virüsü saldırısı gerçekleştirmek istemesinin arkasındaki motivasyonlardan biri robotların da bilgisayarlar gibi veri barındırmasıdır. Bu veriler, genellikle robot üzerinde geçici olarak durur. Yani veriler robota geldikten sonra işlenir ve başka bir depolama birimine gönderilir. Ayrıca veriler -Pepper için söyleyecek olursak-, görüntü, ses, müşteri bilgileri gibi önemli bilgilerden oluşmaktadır.
Bir diğer motivasyon ise şirketlerin, hackerlar tarafından istenen fidyeyi hemen ödeme oranının fazla olmasıdır. Bilgisayarlara bulaştırılan fidye virüslerinde bile şirketler, fidye virüsünü kaldırmanın bir yolu yoksa ve verilerinin bir yedeği de yoksa istenilen fidyeyi ödeyebiliyor. Robotlarda olan durum bilgisayarlarınkine göre daha farklı. Robotlara fidye virüsü bulaştığında, bunu çözmek için söz konusu robottan anlayan bir personele ihtiyaç duyuluyor ve doğal olarak şirkette robottan anlayan personel bulunması düşük bir ihtimal olduğu için şirketlerin robotu, servise göndermesi gerekiyor. Robotu servise göndermek ve geri gelmesini beklemek ise haftalarca oluşacak iş kaybı demek. İşte bu yüzden şirketler zaman kaybetmemek adına fidyeyi ödeme yolunu tercih edebiliyor.
Sizlerle paylaştığım üç araştırmada da değinilmesi gereken önemli hususlardan biri robot üreticilerinin ve kullanıcılarının güvenlik konusundaki gevşekliğidir. Üreticiler, ürettikleri robotları pazarlarken çoğu zaman -doğal olarak- teknik özelliklerden, robotun yapabileceği iş türlerinden vs. bahseder. Ancak robotların hacklenmesine karşı gerekli önlemlerin alındığından bahsedilmez. Bu, robotlar için hiçbir güvenlik önlemi alınmadığı anlamına gelmiyor elbette ama üreticiler aslında gerekli güvenlik tedbirlerini yeteri kadar almıyor. Yine aynı şekilde kullanıcılar da güvenlik konusunda gevşek davranıyor, yayınlanan güvenlik yamalarını yüklemekte geç kalıyor veya hiç yüklemiyor, robotu kullanırken güvenlik önerilerini gerektiği gibi uygulamıyor.
"Robotlar hacklenirse ne olur?" sorusuna sanırım cevap bulmuş bulunmaktayız. Robotlar hacklenirse şirketler, itibar kaybının ve maddi kaybının yanında personel yararlanmaları hatta ne yazık ki can kaybı yaşayabilir. Tüm bunları önlemek için ise güvenlik önlemleri almanın yanı sıra popüler kültürdeki "robot" algısını değiştirmek gerekiyor. Yazımın başında belirttiğim gibi kafamızdaki "robotlar dünyayı ele geçirecek, insan neslini yok edecek" gibi ütopik, bilim kurgu filmlerinden çıkmış gibi görünen düşünceleri atmamız gerekiyor. Robotlar, zaten yapabildikleri işlerle çoğu alanda insanların yerine geçiyor ve "robotlar dünyayı ele geçirecek" demek aslında doğru. Ancak, "insan neslini yok edecek, onlarla savaşacağız" gibi düşünceler son derece çılgınca ve gerçeklik dışı düşünceler olmaktan bir adım ileriye gidemez. Çünkü robotların sahibi biz insanlarız. Onlara her ne kadar yapay bir zekâ ve öğrenme yetisi versek de onlar, bizim ürünümüz ve robotları katil yapacak veya dünyayı savaşarak ele geçirecek şekilde kullanacaklar da yine biziz.
Yani, robotların dünya ve insanlık için bir tehlike olmadığını asıl tehlikenin biz insanlar olduğunun farkına varmamız gerekiyor. Zaten dünya tarihine baktığımızda da keşfedilen her teknolojinin insanlar tarafından kötüye kullanıldığında insanlığı tehlikeye attığını görürüz. İşte bu yüzden eğer robotları güvenli bir şekilde kullanmak ve geleceğimizi güzel bir şekilde inşa etmek istiyorsak robotların arkasındaki tehlikenin insan olduğunun farkına varmamız ve buna göre önlemler almamız gerekiyor.
Bu yazı ilk olarak Arka Kapı dergisinin 10. sayısında yayımlanmıştır.
Yorumlar