OpenAI, Terminator ve Matrix’in gerçek olmasından endişe ediyor
ChatGPT'nin arkasındaki şirket, teknolojinin kontrolsüz gelişmesiyle ortaya çıkabilecek olası ‘yıkıcı riskleri’ değerlendirecek. Riskler arasında, kimyasal, biyolojik ve radyolojik tehditler oluşturma ile kimlik avı saldırıları ve insanları kandırma yeteneği de bulunuyor.
Haber Merkezi |Deniz BİLGEN
OpenAI, yapay zeka (AI) modellerini potansiyel tehlikelere karşı test edecek ve değerlendirecek ekip kuruyor. Şirketin azaltmayı amaçladığı risklerden bazıları, teknolojinin "kimyasal, biyolojik ve radyolojik tehditler" oluşturma ve "otonom kopyalamayı" kolaylaştırma kapasitesi. Ekip ayrıca, bir algoritmanın kimlik avı saldırıları ve kötü amaçlı kodlar üretme gibi durumlarda insanları ikna etme ve kandırma yeteneğini de değerlendirecek. OpenAI tarafından kurulan ekip, MIT'nin Konuşlandırılabilir Makine Öğrenimi Merkezi direktörü Aleksander Madry tarafından yönetilecek.
OpenAI tarafından yapılan açıklamada, "Mevcut en gelişmiş modellerde mevcut olan yetenekleri aşacak ileri düzey yapay zeka modellerinin, tüm insanlığa fayda sağlama potansiyeline sahip olduğuna inanıyoruz fakat aynı zamanda giderek daha ciddi riskler de yaratıyor” denildi.
Şirketin değerlendirdiği risklerin 1980 ve 90’lı yıllarda büyük ilgi gören bilim kurgu filmlerinin konusuyla büyük benzerlik gösteriyor. Başrollerini Arnold Schwarzenegger’in oynadığı 1984 yapımı Terminator filminde SkyNet adlı yapay zeka, nükleer savaş başlatarak dünyada insan egemenliğine son veriyor ve robotların hakimiyetini başlatıyordu.
Keanu Reeves ve Laurence Fishburne’ün oynadığı 1999 yapımı Matrix serisinde ise yapay zeka kendisine enerjiyi sağlamak için oluşturduğu sanal dünyayı insanların gerçek hayat olarak algılamasını sağlıyordu.
Bilimkurgu meraklılarına çağrı yapıldı
OpenAI, kurulacak ekibin yanında yapay zekanın insanlığa karşı oluşturabileceği riskler için dışarıdan da yardım alacak. Firma bu konuda fikirleri olanlara çağrıda bulundu. Değerlendirilecek fikirler arasında dikkate alınacaklara 25.000 dolarlık bir ödül ve iş teklifleri de bulunuyor.
Şirketin CEO'su Sam Altman, yapay zeka düzenlemesi oluşturma ihtiyacının en açık sözlü savunucularından biriydi. Bu yılın bahar aylarında ABD Senatosu komitesi önünde ChatGPT'ye güç sağlayan yeni teknolojinin olanakları ve tehlikeleri hakkında ifade veren Altman, “Bu teknoloji ilerledikçe, insanların bunun yaşam tarzımızı nasıl değiştirebileceği konusunda endişeli olduğunu anlıyoruz” demişti.
Yapay Zeka Güvenliği Zirvesi düzenlenecek
Biden yönetiminin üretken yapay zekanın hızlı gelişimi konusundaki endişeleri nedeniyle gerçekleşen toplantının amacı yapay zeka destekli sohbet robotlarının farklı amaçlar için kullanılması tehlikesiydi.
İngiltere’de hükümet, yapay zekanın İngiliz toplumu ve ekonomisine getirdiği yetenekler ve riskler hakkında bir rapor yayınladı. İngiltere, 1-2 Kasım'da Yapay Zeka Güvenliği Zirvesi’ne ev sahipliği yapacak.