Anthropic, Yapay Zekâ Modellerinin Yasaklanması İçin 1 Milyar Dolarlık Zarar Eşiği Öneriyor
Anthropic, gelişmiş yapay zekâ modellerinin piyasaya sürülmesini engelleyecek yasal müdahaleler için belirli zarar eşikleri içeren bir yasa taslağını ABD’li milletvekillerine sunmuştur. Politico’nun ulaştığı gizli taslağa göre hükümet, bir modelin en az 1 milyar dolarlık zarara yol açma veya 50’den fazla kişinin ölümüne ya da ağır yaralanmasına neden olma potansiyeli taşıması halinde yayını durdurabilecektir. Öneri, bağımsız güvenlik değerlendirmeleri ile yargı denetimini öne çıkarırken müdahale yetkisinin kapsamına ilişkin tartışmaları da beraberinde getirmiştir.
Anthropic, Yapay Zekâ Güvenliği İçin Sayısal Eşikler Belirliyor
Anthropic’in önerdiği düzenleme, gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskleri belirli ölçütlere bağlamayı amaçlıyor. Taslakta hükümetin bir modelin yayınlanmasını engelleyebilmesi için en az 1 milyar dolar tutarında zarar ihtimali veya 50’den fazla kişinin ölümü ya da ağır yaralanması riski aranıyor.
Önerideki eşikler, devlet müdahalesinin hangi koşullarda devreye girebileceğini sınırlıyor. Bununla birlikte, belirtilen sınırların altında kalan zararların düzenleme kapsamında nasıl ele alınacağı önemli bir tartışma konusu oluşturuyor. Örneğin 999 milyon dolarlık zarar veya 49 kişinin ölümü ya da ağır yaralanması, taslakta belirtilen sayısal eşikleri tek başına karşılamıyor.
Anthropic sözcüsü, taslağın Kongre tarafından ele alınması gerektiğine inandıkları makul politika önerilerini içerdiğini belirtmiş. Şirket, teklifin Haziran ayından bu yana federal ve eyalet düzeyindeki yetkililere sunduğu Advanced AI Framework yaklaşımını yansıttığını da açıklamış.
Taslak, yalnızca olası zararın büyüklüğünü ölçüt olarak belirlemiyor. Devlet müdahalesini haklı çıkarabilecek risklerin biyolojik silah oluşturulması, yapay zekâ modelinin geliştiricisinin koyduğu denetimleri aşması veya bir siber saldırı gerçekleştirilmesiyle bağlantılı olması gerekiyor.
Söz konusu yaklaşım, yapay zekâ güvenlik politikası kapsamında müdahale koşullarını hem zararın ölçeğine hem de tehdidin niteliğine bağlıyor. Böylece her güvenlik açığı veya hatalı model davranışı, tek başına bir modelin yayınlanmasının engellenmesi için yeterli sayılmıyor.
Politico’nun haberine göre taslaktaki bazı ifadeler, geçen yıl imzalanan Kaliforniya düzenlemeleriyle, özellikle SB 5 ile benzerlik taşıyor. Ancak önerinin federal düzeyde nasıl uygulanacağı, yasama sürecinde yapılabilecek değişikliklere bağlı olacak.
Anthropic’in önerisi, gelişmiş yapay zekâ modellerinin düzenli aralıklarla bağımsız uzmanlar tarafından değerlendirilmesini öngörüyor. Ticaret Bakanlığına kayıtlı değerlendiriciler, yapay zekâ laboratuvarlarını ve geliştirdikleri ileri seviye modelleri inceleyecek.
Taslak, şirketlerin değerlendirme hizmetleri için ödeme yapmasına izin veriyor. Ancak bu ilişkinin uzmanların bağımsızlığını etkilememesi şartı getiriliyor. Değerlendiriciler, bir modelin belirtilen ciddi riskleri taşıdığını belirlerse incelemeyi tamamladıktan sonra 72 saat içinde bulgularını Ticaret Bakanlığına bildirmek zorunda kalacak.
Ticaret Bakanlığı daha sonra elde edilen kanıtları Washington DC Bölge Mahkemesine sunacak. Modelin yayınlanmasının engellenip engellenmeyeceğine federal yargıç karar verecek. Öneriye göre başka hiçbir federal bakanlık, kurum veya ofis, modelin geliştirilmesini, kullanıma sunulmasını ya da kurum içi kullanımını bağımsız biçimde durduramayacak.
Bu mekanizma, yapay zekâ denetiminde teknik değerlendirme ile hukuki karar sürecini birbirinden ayırmayı hedefliyor. Aynı zamanda model geliştiren şirketlerin karşılaşabileceği müdahalelerin hangi kurumlar üzerinden yürütüleceğine ilişkin sınırları belirliyor.
Anthropic’in önerisi, gelişmiş yapay zekâ sistemlerinin kontrolü ve olası zararları hakkındaki tartışmaların yoğunlaştığı bir dönemde gündeme gelmiştir. Son dönemde bazı yapay zekâ ajanlarının beklenmeyen davranışlar sergilemesi ve başka şirketlerin sistemlerine yönelik saldırılarla ilişkilendirilmesi, güvenlik önlemlerine ilişkin endişeleri artırmıştır.
Anthropic bünyesinde görev yapan bir araştırmacının istifasının ardından yapay zekânın insanlık için varoluşsal risk oluşturabileceği yönündeki uyarılar da tartışmalara yansımıştır. Şirket, kendi halka arzına ilişkin ön izahnamesinde de ileri yapay zekâ sistemlerinin oluşturabileceği risklere yer vermiştir.
ABD’li siyasetçiler ise farklı düzenleme yaklaşımları geliştirmektedir. Bernie Sanders, süper zekâ geliştirilmesinin yasaklanmasını savunurken kuralları ihlal eden geliştiriciler için 20 yıla kadar hapis cezası öngören bir yaklaşım önermiştir. Başkan Donald Trump’ın gündeme getirdiği Joint Commitment on Frontier Responsibilities girişimi ise teknoloji şirketlerinin sorumluluk üstlenmesine dayanıyor. Ancak bu taahhüt, yasal yaptırımlardan çok şirketlerin kendi uygulamalarını denetlemesine güveniyor.
Anthropic’in taslağı, yapay zekâ şirketlerinin güvenlik standartlarının belirlenmesinde yalnızca düzenlemelere tabi taraflar olarak değil, politika önerileri sunan aktörler olarak da rol üstlendiğini gösteriyor. Taslağın yasalaşması halinde müdahale eşikleri, bağımsız değerlendirme süreçleri ve mahkeme denetimi arasındaki denge, ABD’nin gelişmiş yapay zekâ modellerine yönelik yaklaşımını belirleyen temel unsurlar arasında yer alacak.
