Yapay Zekâ Güvenlik Raporu Alarm Veriyor: Şirketler Büyük Tehlikeye Hazırlıksız
Yapay zekâ alanındaki öncü şirketlerin insan benzeri zekâya sahip sistemler geliştirme hedefine yaklaşırken, bu sistemlerin doğurabileceği riskler konusunda ciddi şekilde hazırlıksız olduğu bildirildi. ABD merkezli Future of Life Institute (FLI) tarafından yayınlanan yeni rapor, sektörün güvenlik planlamasında sınıfta kaldığını ortaya koydu.
Güvenlik Endeksi Notları D Seviyesini Aşamadı
Raporda, Google DeepMind, OpenAI, Anthropic, Meta, xAI, Zhipu AI ve DeepSeek gibi yedi büyük yapay zekâ geliştiricisi değerlendirildi. Kuruluşlar, özellikle “mevcut zararlar” ve “varoluşsal güvenlik” başlıklarında incelendi. FLI’nin değerlendirmesine göre, şirketlerin hiçbiri varoluşsal riskleri yönetmeye yönelik somut ve uygulanabilir bir plana sahip değil. Tüm firmalar bu alanda en fazla D notu aldı.
Anthropic genel güvenlik puanlamasında C+ alarak ilk sırada yer aldı. Onu C notuyla OpenAI, ardından C- notuyla Google DeepMind izledi. Yapay genel zekâ (AGI) olarak adlandırılan, insan gibi her türlü zihinsel görevi yerine getirebilecek düzeydeki yapay zekâ hedefi son yıllarda şirketlerin ana odağı hâline geldi. Ancak uzmanlar bu hedefin kontrolsüz şekilde gerçekleştirilmesinin ciddi tehlikeler doğurabileceğini vurguluyor.
FLI raporunun değerlendirme ekibinde yer alan uzmanlardan biri, şirketlerin AGI geliştirme konusunda iddialı söylemlerde bulunmasına rağmen, güvenliği sağlamak adına net bir plan sunmadığını belirtti. Massachusetts Teknoloji Enstitüsü (MIT) öğretim üyesi ve FLI kurucu ortaklarından Max Tegmark da durumu “ürkütücü” olarak nitelendirdi. Tegmark, hiçbir şirketin olası bir felaketi önlemeye yönelik kamuya açık plan sunmadığını söyledi.
Tegmark, yapay zekâ alanındaki ilerlemenin beklenenden çok daha hızlı gerçekleştiğine dikkat çekti. Şubat ayında Paris’te düzenlenen küresel zirveden bu yana hem kapasite hem de model çeşitliliğinde ciddi artış yaşandığını vurguladı. xAI’ın Grok 4 modeli, Google’ın Gemini 2.5 yazılımı ve yeni nesil video üretim aracı Veo3 gibi örnekler bu gelişmeler arasında yer aldı. Ancak tüm bu ilerlemelere rağmen, firmaların güvenlik konusunda kamuoyunu ikna edecek açıklamalar yapmaktan kaçınması eleştiri konusu oldu.
Yalnızca FLI değil, SaferAI adlı bir diğer bağımsız kuruluş da benzer şekilde şirketlerin risk yönetiminde yetersiz olduğunu savundu. SaferAI yayınladığı raporda, ileri düzey yapay zekâ geliştiricilerinin “zayıf veya çok zayıf” risk yönetimi uygulamalarına sahip olduğunu ve mevcut yaklaşımların kabul edilemez olduğunu dile getirdi.
FLI’nın raporu, İngiliz bilgisayar bilimci Stuart Russell ile Encode Justice kurucusu Sneha Revanur gibi alanında tanınan uzmanlar tarafından da gözden geçirildi. Google DeepMind sözcüsü ise rapordaki değerlendirmelerin kuruluşun tüm güvenlik çalışmalarını yansıtmadığını savundu. Açıklamada, firmanın yapay zekâ güvenliği ve güvenliği konularındaki kapsamlı yaklaşımının rapora tam olarak yansımadığı öne sürüldü. Diğer şirketlerin yorumları ise henüz kamuoyuna yansımadı.
