Yapay zekâ alanında son günlerde büyüyen açık model tartışmalarına Anthropic CEO’su Dario Amodei de katıldı. Özellikle Çin merkezli modeller etrafında şekillenen tartışmalara yanıt veren Amodei, şirketinin açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını açıkladı. Ancak aynı açıklamada, gelişmiş yapay zekâ sistemlerinin otoriter yönetimler tarafından kullanılmasına ilişkin ciddi güvenlik endişeleri taşıdığını da vurguladı.
Dario Amodei Açık Modeller Konusundaki Eleştirilere Yanıt Verdi
Son günlerde özellikle Çin’de geliştirilen Kimi K3 modeli üzerinden başlayan tartışmalar, ABD’de yeni düzenleme iddialarını da beraberinde getirdi. Bazı haberlerde, Amerikan şirketlerinin Çin kaynaklı açık modelleri kullanmasının yasaklanmasının değerlendirildiği öne sürüldü. Aynı dönemde birçok teknoloji şirketi ise açık kaynak yaklaşımını destekleyen ortak bir mektuba imza attı.
Bu gelişmelerin ardından bazı çevreler, Anthropic’in ticari çıkarlarını korumak amacıyla açık ağırlıklı yapay zeka modellerine karşı olduğu yönünde eleştiriler dile getirdi. Dario Amodei ise yaptığı açıklamada bu iddiaları kesin bir dille reddetti.
Anthropic CEO’su, geçmişte yayımladığı değerlendirmelerin de aynı çizgide olduğunu belirterek şirketinin hiçbir zaman açık ağırlıklı yapay zeka modellerinin yasaklanmasını savunmadığını ifade etti. Amodei’ye göre bu tür yasaklar sorunun çözümüne katkı sağlayacak etkili araçlar değil.
Açıklamasında yalnızca düzenleme tartışmalarına değinmeyen Amodei, yapay zekânın uzun vadeli güvenlik etkilerine ilişkin görüşlerini de paylaştı. Ona göre en büyük risk, gelişmiş yapay zekâ sistemlerinin otoriter yönetimler tarafından askeri üstünlük sağlamak veya toplumları baskı altında tutmak amacıyla kullanılması.
Amodei, Çin Komünist Partisi’nin bu alandaki en yüksek kapasiteye sahip aktörlerden biri olduğunu söylese de kaygılarının yalnızca Çin ile sınırlı olmadığını özellikle vurguladı. Yapay zekânın ilerleyen dönemde siber saldırılar kadar biyolojik tehditler oluşturabilecek senaryolarda da kullanılabileceğini ifade etti.
Anthropic CEO’suna göre açık ağırlıklı modeller bu noktada ilave riskler barındırıyor. Çünkü bu sistemlerde güvenlik önlemlerini merkezi biçimde uygulamak veya modellerin nasıl kullanıldığını takip etmek kapalı sistemlere kıyasla çok daha zor hâle geliyor.
Buna rağmen Amodei, çözümün açık modelleri yasaklamak olmadığını düşünüyor. Bunun yerine uluslararası iş birliğine dayalı bir yapay zeka güvenliği mekanizmasının oluşturulmasını savunuyor. Çin’in de yer alacağı küresel bir güvenlik organizasyonunun kurulmasının uzun vadede daha etkili bir yaklaşım olacağını ifade ediyor.
Yapay zekâ ekosistemi büyümeye devam ederken açık ve kapalı model yaklaşımı arasındaki tartışmaların önümüzdeki dönemde daha da yoğunlaşması bekleniyor. Dario Amodei’nin son açıklamaları ise Anthropic’in bu tartışmadaki pozisyonunun açık modelleri yasaklamak değil, gelişmiş sistemlerin kötüye kullanım risklerini azaltacak uluslararası güvenlik standartları oluşturmak olduğunu ortaya koyuyor.
