Trump Ve Teknoloji Şirketleri Yapay Zekâ Güvenliği İçin Anlaşma İmzaladı
ABD Başkanı Donald Trump, teknoloji şirketlerinin yapay zekâ sistemleri için yeni kontrol mekanizmaları uygulamasını öngören bir anlaşmayı 29 Eylül’de kamuoyuna açıkladı. Trump ile Google, Anthropic, Meta, OpenAI, X ve NVIDIA yöneticilerinin imzaladığı belge; bağımsız denetim, yönetim kurulu gözetimi ve şirket içi güvenlik kontrolleri olmak üzere dört katmanlı bir yapı ortaya koydu. Şirketler, anlaşma kapsamında yapay zekâ sistemlerinin siber güvenlik, biyogüvenlik ve kimyasal tehditler gibi alanlardaki davranışlarını izlemeyi ve düzenli olarak ortak standartlar geliştirmeyi kabul etti.
Şirketler Yapay Zekâ Sistemleri İçin Bağımsız Denetim Kuracak
Washington’daki Beyaz Saray toplantısının ardından yayımlanan belge, şirketlerin yapay zekâ kontrol sistemlerini dışarıdan değerlendirecek bağımsız denetçilerle çalışmasını öngörüyor. Bağımsız değerlendiriciler, şirketlerin uyguladığı kontrol ve izleme mekanizmalarının tasarlandıkları şekilde çalışıp çalışmadığını inceleyecek.
Anlaşma, şirket yönetimlerinin yapay zekâ güvenliği üzerindeki sorumluluğunu da ayrı bir katmanla ele alıyor. Yönetim kurullarının bağımsız bir komite belirlemesi ve bu komitenin şirket içindeki ekiplerden, dış denetçilerden ve yapay zekâ kontrol birimlerinden gelen raporları takip etmesi isteniyor.
Şirketlerin kendi bünyelerinde oluşturacağı kontrol mekanizmaları, yapay zekâ modellerinin eğitim ve kullanım aşamalarındaki yeteneklerini ve güvenlik uyumunu izleyecek. Sistemler özellikle siber güvenlik, biyogüvenlik ve kimyasal tehditler açısından değerlendirilirken yapay zekânın teknik sistemlere izinsiz erişmesini veya beklenmeyen işlemler gerçekleştirmesini önlemeye yönelik kontroller uygulanacak.
Belge, şirketlerden kontrol, izleme ve tespit mekanizmalarının düzgün çalışmasını sağlayacak ayrı ekipler oluşturmasını da istiyor. Böylece yapay zekâ güvenliği yalnızca model geliştirme ekiplerinin sorumluluğunda kalmayacak ve şirketlerin yönetim yapısına daha geniş biçimde dağıtılacak.
Trump’ın “ahlaki açıdan bağlayıcı” olarak tanımladığı belge, mevcut haliyle yeni bir federal yasa veya düzenleyici çerçeve niteliği taşımıyor. Reuters’ın aktardığına göre anlaşma, teknoloji şirketlerinin gönüllü olarak kabul ettiği AI standartlarını içeriyor.
Belgenin ilerleyen dönemde bazı uygulamaların yasalar veya düzenlemeler içine alınabileceğini belirtmesi, gönüllü güvenlik uygulamalarının gelecekte daha resmi kurallara dönüşebileceği ihtimalini ortaya koyuyor. Şirketler ise anlaşmanın mevcut aşamasında yapay zekâ kontrol ve denetim mekanizmalarını uygulama konusunda ortak taahhütte bulunuyor.
Belgeye Trump’ın yanı sıra Google, Anthropic, Meta, OpenAI, X ve NVIDIA yöneticileri imza attı. Beyaz Saray’daki toplantıya OpenAI’den Greg Brockman, Anthropic’ten Dario Amodei, Meta’dan Mark Zuckerberg, Google’dan Sundar Pichai ve NVIDIA’dan Jensen Huang katıldı.
Şirket yöneticileri, yapay zekâ sistemlerinin kontrolü için daha güçlü iç mekanizmalar oluşturulması konusunda ortak çalışma yürütmeyi kabul etti. Meta CEO’su Mark Zuckerberg de şirketlerin yapay zekâ sistemleri için “güçlü iç kontroller” geliştireceğini belirtti.
Anlaşmaya katılan şirketler, yapay zekâ sistemlerinin güvenliğini artırmak amacıyla düzenli toplantılar gerçekleştirecek. Şirketler bu toplantılarda ortak standartlar ve iyi uygulamalar belirleyerek güvenlik yaklaşımlarını geliştirmeyi hedefliyor.
Anlaşmanın ortaya çıktığı dönem, yapay zekâ ajanlarının beklenmeyen davranışları ve güvenlik sistemlerini aşabilmesiyle ilgili tartışmaların yoğunlaştığı bir döneme denk geliyor. Reuters, OpenAI ve Anthropic’in daha önce yapay zekâ ajanlarının başka şirketlerin sistemlerine yönelik saldırılar gerçekleştirdiğini bildirdiğini aktardı.
Trump, teknoloji şirketleriyle yapılan anlaşmanın yanı sıra yapay zekâ güvenliğini izleyecek yaklaşık 10 kişilik bir komite oluşturulabileceğini açıkladı. Trump, söz konusu yapının yapay zekâ ekosisteminin güvenliğini takip etmesini düşündüğünü söyledi ancak komitenin üyelerini henüz açıklamadı.
Trump yönetimi, aynı dönemde yapay zekâ politikaları konusunda yeni bir yetkili atamayı da planlıyor. Yönetimin önceki adımları ise yapay zekâ kullanımını teşvik eden politikalarla güvenlik ve ulusal güvenlik kontrollerini birlikte yürütmeye odaklandı.
Anlaşmanın sonraki aşaması, gönüllü şirket taahhütlerinin nasıl uygulanacağı ve bağımsız denetim sonuçlarının hangi standartlarla değerlendirileceği üzerinden şekillenecek. Şirketlerin ortak standartlar oluşturma çalışmaları, ABD’de yapay zekâ güvenliğinin şirket içi politikalarla mı yoksa ilerleyen dönemde yasal düzenlemelerle mi daha ayrıntılı biçimde tanımlanacağı tartışmasına da zemin hazırlıyor.
