OpenAI’ın Eski Yöneticisi Yapay Zekâ Tehdidine Karşı “Kıyamet Sığınağı” Önerisinde Bulundu
OpenAI’ın eski yöneticisi Ilya Sutskever, yapay genel zekâ (AGI) geliştirilmeden önce bir sığınak inşa edilmesi gerektiğini savundu. Sutskever, AGI’nin insan zekâsını aşarak küresel ölçekte tehdit oluşturabileceğini söyledi.
AGI Endişesi Giderek Yayılıyor
OpenAI içerisinde 2023 yazında yapılan gizli bir toplantıda, Sutskever’ın “AGI’yi yayımlamadan önce mutlaka bir sığınak kuracağız” dediği belirtildi. Bu açıklama, gazeteci Karen Hao’nun “Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI” adlı yakında çıkacak kitabında yer aldı.
Toplantıya katılan araştırmacılara göre Sutskever, bu fikri yalnızca bir kez dile getirmedi. OpenAI içinde yapılan birçok iç görüşmede sığınak düşüncesini tekrar tekrar gündeme getirdi. Kurumda çalışan bazı kişiler de aynı endişeleri paylaştı.
AGI konusu, sadece OpenAI içinde değil diğer büyük teknoloji şirketlerinde de gündemde. Google DeepMind CEO’su Demis Hassabis, Gemini modellerinin güncellenmesinin ardından şirketin AGI’ye oldukça yaklaştığını söyledi. Hassabis, bu gelişmelerin toplumun hazır olup olmadığı konusunda kendisini endişelendirdiğini ifade etti.
Anthropic CEO’su Dario Amodei ise şirketin geliştirdiği modellerin tam olarak nasıl çalıştığını bilmediklerini itiraf etti. Amodei, bu durumun gelecekte daha büyük tehditler doğurabileceğini ve toplumun bu bilinmezliğe karşı hazırlıklı olması gerektiğini vurguladı.
Louisville Üniversitesi Siber Güvenlik Laboratuvarı’nın yöneticisi ve yapay zekâ güvenliği uzmanı Roman Yampolskiy, AI’nin insanlığı yok etme ihtimalinin yüzde 99.999999 olduğunu savunuyor. Bazı uzmanlara göre bu ihtimal abartılı görünse de AGI’nin potansiyel etkileri hakkında duyulan kaygı giderek büyüyor.
OpenAI CEO’su Sam Altman ise tehlikenin AGI’nin geliştirildiği anda değil, daha sonraki süreçte ortaya çıkacağını düşünüyor. Altman’a göre AGI’nin geliştirildiği an, toplumda önemli bir kırılma yaratmadan geçebilir.
Sutskever, OpenAI’ın en önemli yapay zekâ projelerinden ChatGPT ve diğer ileri seviye sistemlerinin geliştirilmesinde kilit rol oynadı. Bu nedenle onun güvenlik konusundaki görüşleri sektörde ciddiyetle ele alınıyor. Ancak bir sığınak fikri, bilimsel bir tedbir mi yoksa geleceğe dair sembolik bir kaygı mı olduğu hâlâ tartışma konusu.
