ABD Yeni Yapay Zekâ Güvenlik Testlerinde Açık Ağırlıklı Modelleri Muaf Tutmaya Hazırlanıyor
ABD yönetimi, gelişmiş yapay zekâ sistemlerinin siber güvenlik yeteneklerini değerlendirmek için hazırladığı yeni gönüllü test programında önemli bir değişikliğe hazırlanıyor. Reuters’ın aktardığı bilgilere göre Beyaz Saray, açık ağırlıklı yapay zekâ modellerini yeni güvenlik değerlendirmelerinin dışında bırakmayı planlıyor. Kararın hayata geçmesi hâlinde Meta’nın Llama ailesi ile Nvidia’nın açık ağırlıklı modelleri gibi sistemler, kapalı ticari modellere uygulanacak testlerden muaf tutulabilecek.
Yeni Güvenlik Programı En Güçlü Ticari Modelleri Hedef Alıyor
Reuters’a göre karar, 4 Ağustos’ta Beyaz Saray’da gerçekleştirilen toplantıda sektör temsilcilerine iletildi. Toplantıya Meta, Google, Nvidia, OpenAI ve Anthropic dahil olmak üzere önde gelen yapay zekâ şirketlerinin temsilcileri katıldı. Görüşme, daha önce başlayan güvenlik değerlendirme sürecinin devamı niteliğini taşırken federal kurumların gelişmiş yapay zekâ modellerini nasıl test edeceğine ilişkin çerçevenin netleştirildiği belirtildi.
Hazırlanan programın temeli, 2 Haziran’da yayımlanan başkanlık kararnamesine dayanıyor. Söz konusu kararname, federal kurumlara gelişmiş yapay zekâ sistemlerinin siber operasyon kabiliyetlerini ölçebilecek gizli değerlendirme kriterleri oluşturma talimatı vermişti. Bu kapsamda özellikle OpenAI ile Anthropic’in en gelişmiş modellerinin programa dâhil edilmesi planlanıyor.
Kararda dikkat çeken unsur ise açık ağırlıklı modellerin kapsam dışında bırakılması oldu. Açık ağırlıklı sistemlerde geliştiriciler, modelin eğitilmiş parametrelerini kullanıcılarla paylaşırken eğitim verisini veya kaynak kodunu tamamen açık hâle getirmek zorunda kalmıyor. Buna rağmen kullanıcılar modeli kendi donanımlarında çalıştırabiliyor, yeniden eğitebiliyor veya farklı projelere entegre edebiliyor.
Bu yapı, yalnızca API üzerinden erişilebilen kapalı ticari modellerden önemli ölçüde ayrılıyor. Uzmanlara göre açık ağırlıklı modellerin kolayca indirilebilmesi ve değiştirilebilmesi, güvenlik açısından farklı riskler oluşturabiliyor. Buna rağmen yeni programın bu sistemleri kapsam dışında bırakması teknoloji sektöründe yeni tartışmaların önünü açtı.
Geçtiğimiz ay birçok teknoloji şirketi, ABD yönetimine gönderdiği ortak değerlendirmede açık yapay zekâ geliştirme modellerine erken aşamada getirilecek sınırlamaların rekabeti, bilimsel araştırmaları ve yerli yapay zekâ ekosistemini olumsuz etkileyebileceği uyarısında bulunmuştu. Washington yönetiminin son yaklaşımının bu çağrılarla uyumlu olduğu değerlendiriliyor.
Son dönemde gelişmiş yapay zekâ modellerinin siber güvenlik alanındaki yetenekleri daha fazla gündeme gelmeye başladı. OpenAI ile Anthropic, kontrollü testler sırasında modellerinin gerçek sistemlerle etkileşime girmesi nedeniyle incelemelerin odağına yerleşmişti. Özellikle OpenAI’ın bir test sırasında modelinin Hugging Face altyapısına erişim sağlaması, güvenlik değerlendirmelerinin önemini yeniden gündeme taşımıştı.
Beyaz Saray ise yeni test programına ilişkin birçok ayrıntıyı henüz açıklamış değil. Açık ağırlıklı modellerin tamamının mı kapsam dışında bırakılacağı, ilerleyen dönemde bu sistemler için ayrı bir değerlendirme mekanizmasının oluşturulup oluşturulmayacağı veya testlerin hangi kurum tarafından yürütüleceği belirsizliğini koruyor. Program kapsamında başarısız bulunan modeller için nasıl bir süreç işletileceğine ilişkin de resmî bir açıklama yapılmış değil.
