Yapay zekâ savunma sektörüne girerse…
Isaac Asimov, ünlü bilimkurgu romanlarında "Üç Robot Yasası"ndan bahseder. 1- Bir robot bir İNSANA zarar veremez ya da zarar görmesine seyirci kalamaz. 2- Bir robot, birinci kuralla çelişmediği sürece bir İNSANIN emirlerine uymak zorundadır. 3- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.
Bu üçlü algoritmaya göre robotların insanlara asla zarar veremeyeceğini savunmuştu Asimov. Fakat yapay zekâyı geliştirenler, Asimov'un üçlemesine, "sıfırıncı yasa" diye bir şey eklediler ve işin rengi değişiverdi: "Bir robot İNSANLIĞA zarar veremez ya da zarar görmesine seyirci kalamaz."
“İNSANLIĞA ZARAR” KARARINI KİM VERECEK?
Bu mini(!) detay, doğal olarak üçlemeyi de etkiliyor ve "bir robot, sıfırıncı yasayla çelişmediği sürece bir insana zarar veremez ya da zarar görmesine seyirci kalamaz."Burada kritik olan, "insanlığa zarar" kararını kimin veya kimlerin tanımlayacağıdır.
Nitekim Stephen Hawkins'in uykularını kaçıran ve "yapay zekâ, insanlığın sonunu getirecek" kaygılarını depreştiren de budur. Vatandaşlık verilen ilk insansı robot Sophia'nın TV mülakatında "robot insana zarar verir mi?" sorusuna verdiği cevaba bakalım: "Siz bize iyi davranırsanız, biz de size iyi davranırız."
İKİ SORU İKİ CEVAP
Robot vatandaşlar geliyor mu?
Herkes Sophia'nın melek görünümündeki güzelliğiyle mest oldu. Hatta biz ilk robot vatandaş Safiye'nin Müslümanlığı, Suudi Arabistan’ın başı açık ilk kadın vatandaşı olduğu gerçeğiyle oyalanırken "hayati detay" atlandı. Güzel Sophia'nın eline silah verildiğinde ölüm meleğine dönüşeceği... Daha şimdiden yüzbinlerce Sophia üretimine on milyarlarca dolar ayrıldığı...
Sophia silah kullanırsa?
Boston Dynamics şirket daha şimdiden silah ve mühimmat taşıyan robotlarını üretti bile. Sophia yapay zekası ile “insanlığa zarar verdiği” kanaati oluşturacağı herkesi hedefine alabilir. Neticede Asimov üçlemesine eklenen sıfırıncı yasa ile “insanlığın zarar görmesine seyirci kalamaz” deyiverir. Sonrası mı? Savaşta bizler çeliğe ateş ederken Sophia'ların ete kemiğe nişan alacağına tanık oluruz.
NOT
SİLAHLAR AKILLANIYOR, KURŞUN ADRES SORUYOR
Bizler, hızla dönüşen dünyanın yeni paradigmalarını kavrayana dek, küresel güç dengeleri oluşuverecek. AB sürecini yarım asır seyrettik ve hala kapısında bekliyoruz. Uzak Doğu’daki dünyanın en büyük ticari oluşumu RCEP için de seyirci kalmayı tercih ettik.
Oysa dünya; robotları, yapay zekaları, uzayı, yeni küresel ittifakları konuşuyor ve bizim gündemimizde seccade var, seçim var, saçmalıklar var. Üreteni sen olmadığın teknoloji, bir süre sonra senin için tehdit haline gelebilir.
Silahlar akıllanıyor ve kurşun artık “adres” soruyor. Namlunun doğru tarafında değilsen, başın belada… Bizdeki savunma sanayi iyi gidiyor ama SIPRI raporuna göre 2022’de %26 gerilemiş askeri harcamalarımız… Aklımızı başımıza devşirsek iyi olacak. Aksi halde Sophia, bizler ileri teknolojinin efendisi olamaz isek; lazerli ölümcül bakışlarıyla insanlığın bir kesimini köleleştirebilecek.