Google DeepMind CEO’su Demis Hassabis Yapay Zekâ Güvenliği İçin ABD Liderliğinde Yeni Bir Standart Çağrısı Yaptı
Google DeepMind CEO’su Demis Hassabis, gelişmiş yapay zekâ modellerinin güvenliğini denetleyecek yeni bir standart yapısının ABD öncülüğünde oluşturulması gerektiğini söyledi. Hassabis, yapay genel zekâya (AGI) beklenenden daha hızlı yaklaşıldığını savunurken sınır (frontier) yapay zekâ modellerinin yayımlanmadan önce bağımsız güvenlik testlerinden geçirilmesini önerdi. Açıklama, yapay zekâ düzenlemeleri konusunda ABD ile Çin arasında farklı yaklaşımların öne çıktığı dönemde yeni bir tartışma başlattı.
Hassabis Frontier Modeller İçin Ortak Bir Test Mekanizması Önerdi
Demis Hassabis, sosyal medya üzerinden yaptığı açıklamada ABD’nin teknik kapasitesi ile ekonomik gücü sayesinde uluslararası ölçekte kabul görebilecek bir başlangıç modeli oluşturabileceğini ifade etti. Öneriye göre geliştirilen çerçeve zamanla küresel ölçekte ortak yapay zekâ güvenlik standartları oluşturulmasına zemin hazırlayabilir. Hassabis, yapay zekânın tüm dünyayı etkileyecek bir teknoloji hâline geldiğini belirterek en ciddi risklerin ortak kurallarla yönetilmesi gerektiğini savundu. Öneri yalnızca güvenlik kontrollerini değil, yapay zekânın sunduğu fırsatlara daha geniş erişimi de kapsıyor. Hassabis’e göre uluslararası uzlaşı sağlanabilirse güvenlik ile yenilik arasında daha dengeli bir yapı kurulabilir.
Hassabis’in çağrısı son dönemde benzer açıklamalar yapan Anthropic CEO’su Dario Amodei ile OpenAI CEO’su Sam Altman’ın görüşlerini de destekliyor. ABD yönetimi uzun süredir gelişmiş yapay zekâ modellerinin piyasaya sürülmeden yaklaşık 30 gün önce resmî test süreçlerinden geçirilmesini savunuyor. Buna karşılık Çin, tüm ülkelerin katılımına açık küresel bir yapay zekâ kuruluşunun oluşturulmasını öneriyor. Bu farklı yaklaşım, yapay zekâ standartları konusunda uluslararası uzlaşının kolay olmayacağını gösteriyor. Uzmanlar ayrıca ABD merkezli bir değerlendirme mekanizmasının diğer ülkelerde geliştirilen modeller tarafından ne ölçüde kabul göreceğinin henüz netleşmediğine dikkat çekiyor.
Hassabis’in planına göre yeni standart kuruluşu kamu ile özel sektörün birlikte görev aldığı bir model üzerine inşa edilebilir. ABD Ulusal Laboratuvarları ile ilgili federal kurumların desteğini alacak yapı, ulusal güvenliği ilgilendiren risk alanlarında gelişmiş modelleri test etmekten sorumlu olacak. Yapay zekâ güvenliği değerlendirmeleri kapsamında biyolojik tehditler, siber güvenlik riskleri ile güvenlik önlemlerini aşmaya yönelik girişimler düzenli olarak analiz edilecek.
Frontier model geliştiren kuruluşların teknik dokümantasyon paylaşması, iç güvenlik süreçlerini güçlendirmesi, kritik personeli doğrulaması ile güvenlik araştırmalarına yeterli kaynak ayırması da önerilen yükümlülükler arasında yer alıyor. Akademik projeler ile daha küçük ölçekli yapay zekâ girişimlerinin ise aynı kapsamda değerlendirilmesi beklenmiyor.
Hassabis’in önerisi hayata geçirilirse frontier yapay zekâ modeli geliştiren şirketlerin yeni modellerini yayımlamadan 30 gün önce standart kuruluşuna sunması istenecek. Testleri başarıyla geçen modellerin ABD pazarında kullanılmasına izin verilmesi, kritik güvenlik sorunu tespit edilen sistemlerin ise geliştirici şirketlerle birlikte düzeltilmesi planlanıyor. Bu yaklaşım, son dönemde güvenlik gerekçesiyle geçici ihracat kısıtlamasıyla karşılaşan bazı yapay zekâ modellerinin ardından düzenleyici tartışmaların daha da hızlanabileceğine işaret ediyor.
Yapay zekâ teknolojisinin gelişim hızı arttıkça güvenlik testlerinin nasıl uygulanacağı, hangi kurumun yetkili olacağı ile uluslararası şirketlerin ortak standartları kabul edip etmeyeceği önümüzdeki dönemin en önemli teknoloji gündemlerinden biri olmayı sürdürecek.
