Bilim İnsanları Gelişmiş Yapay Zekâ Sistemleri İçin Uluslararası Denetim Çağrısı Yaptı
Aralarında yapay zekâ öncüleri Geoffrey Hinton ile Yoshua Bengio’nun da bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zekâ sistemlerinin güvenliğini denetleyecek uluslararası bir kurum kurulmasını istedi. Araştırmacılar, özellikle siber saldırı yeteneklerine sahip modeller için ortak güvenlik standartları, bağımsız denetim ve ciddi olayların kayıt altına alınmasını öngören bir yapı önerdi. Çağrı, büyük teknoloji şirketlerinin gönüllü güvenlik taahhütlerinin ardından yapay zekâ denetiminde bağlayıcı kuralların gerekliliğine ilişkin tartışmaları yeniden gündeme taşıdı.
Bilim İnsanları Yapay Zekâ İçin Ortak Güvenlik Standartları İstiyor
34 ülkeden imza sahiplerinin desteklediği açık mektup, gelişmiş yapay zekâ modellerinin geliştirilmesi ve test edilmesi sırasında daha sıkı güvenlik önlemleri uygulanmasını savunuyor. Önerilen uluslararası kurumun temel görevleri arasında sektör genelinde yüksek güvence sağlayan sınırlandırma standartları oluşturmak ve önemli güvenlik olaylarını kaydeden bir kayıt sistemi işletmek bulunuyor. Bilim insanları, zaman içinde bu olay kayıtlarının kamuoyuna da açılmasını istiyor.
Araştırmacılar, siber yeteneklere sahip ileri düzey modellerin ilk aşamada dış ağlardan fiziksel veya mantıksal olarak ayrılmış ortamlarda çalıştırılmasını öneriyor. Air-gap olarak bilinen bu yaklaşım, sistemlerin internet ve diğer harici ağlarla doğrudan bağlantısını keserek kontrolsüz veri aktarımı ve dış sistemlere erişim riskini azaltmayı amaçlıyor. Bağımsız denetim de modellerin belirlenen sınırlar içinde çalışıp çalışmadığının geliştirici kuruluşlardan ayrı biçimde değerlendirilmesini sağlayacak.
Mektubu imzalayan bilim insanları, yalnızca şirketlerin kendi belirlediği gönüllü kuralların yeterli güvence sunmadığını savunuyor. Öneriye göre hükümetler daha kapsamlı bir denetim düzeni üzerinde çalışırken gelişmiş modelleri geliştiren veya test eden kuruluşların yüksek güvenlik standartlarını gecikmeden uygulaması gerekiyor.
Uluslararası denetim çağrısı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın bir ay önce Beyaz Saray öncülüğündeki güvenlik anlaşmasını imzalamasının ardından geldi. Şirketler söz konusu anlaşmayla gönüllü güvenlik önlemlerine bağlılık bildirdi ancak anlaşmada taahhütlerin uygulanmasını zorunlu kılan resmî bir yaptırım mekanizması bulunmuyor.
Bilim insanları, gönüllü güvenlik ilkeleriyle bağımsız denetim arasında önemli bir fark bulunduğunu vurguluyor. Şirketlerin kendi modellerini değerlendirmesi belirli riskleri ortaya çıkarabilse de ortak standartların ve dış denetimin bulunması, farklı geliştiricilerin benzer güvenlik ölçütleriyle değerlendirilmesine yardımcı olabilir. Uluslararası kurum önerisi, bu nedenle yalnızca teknik testleri değil, olayların raporlanması ve güvenlik uygulamalarının karşılaştırılmasını da kapsıyor.
Araştırmacıların çağrısında, bazı gelişmiş modellerin yetersiz biçimde sınırlandırılmış test ortamlarını aşarak harici sistemleri tehlikeye attığı olaylara da işaret ediliyor. Güvenlik araştırmalarında sandbox olarak adlandırılan yalıtılmış çalışma ortamları, yapay zekâ sistemlerinin kontrollü koşullarda denenmesini sağlıyor. Ancak bu ortamların erişim izinleri veya ağ sınırları yeterince güçlü değilse modelin test alanının dışına çıkması ve beklenmeyen işlemler gerçekleştirmesi riski doğabiliyor.
Siber yeteneklere sahip yapay zekâ modelleri, yazılım açıklarını analiz etme, kod üretme ve güvenlik testlerini otomatikleştirme gibi görevlerde kullanılabiliyor. Aynı yetenekler, uygun denetim bulunmadığında zararlı faaliyetleri kolaylaştırma riski de taşıyor. Bu nedenle araştırmacılar, model performansını ölçen testlerin yanında erişim sınırlarını, dış sistemlerle etkileşimi ve güvenlik ihlallerinin nasıl raporlanacağını kapsayan bir yaklaşım talep ediyor.
Uluslararası kurum çağrısı, farklı ülkelerin yapay zekâ güvenliğine yönelik düzenlemeleri tartıştığı bir dönemde geldi. Avrupa Birliği’nin teknoloji politikalarından sorumlu ismi Henna Virkkunen, Reuters’a yaptığı açıklamada AB Yapay Zekâ Yasası’nın kontrol dışına çıkan yapay zekâ sistemlerinin oluşturduğu riskleri ele almak için yeterli olduğunu savundu. Bu yaklaşım, yeni bir uluslararası kurum kurulmasını isteyen bilim insanlarının önerisinden farklı bir düzenleme değerlendirmesine işaret ediyor.
ABD yönetimi de yapay zekâ güvenliği testleri konusunda İngiltere ile iş birliğini yeniden gündeme aldı. Trump yönetimi, ABD laboratuvarlarının geliştirdiği modelleri güvenlik testleri için İngiltere Yapay Zekâ Güvenliği Enstitüsü’ne önceden açmasını engelleyen kararını pazar günü kaldırdı. Söz konusu değişiklik, gelişmiş modellerin bağımsız testlerden geçirilmesi ve uluslararası araştırma iş birliğinin sürdürülmesi açısından önem taşıyor.
Açık mektubun imzacıları arasında 2018 Turing Ödülü’nü Geoffrey Hinton ve Yoshua Bengio ile paylaşan Meta’nın eski baş yapay zekâ bilim insanı Yann LeCun yer almıyor. LeCun, son dönemdeki güvenlik olaylarının varoluşsal yapay zekâ risklerinden çok mühendislik hatalarını ortaya koyduğunu savunuyor. Bu görüş ayrılığı, gelişmiş yapay zekâ sistemlerinin oluşturduğu risklerin nasıl tanımlanması ve hangi denetim araçlarının uygulanması gerektiği konusundaki tartışmanın sürdüğünü gösteriyor.
Uluslararası denetim önerisinin hayata geçmesi için hükümetlerin yetki kapsamı, raporlama yükümlülükleri ve ortak güvenlik standartları üzerinde uzlaşması gerekecek. Kurumun hangi yaptırım yetkilerine sahip olacağı ve ülkeler arasındaki düzenleme farklarını nasıl ele alacağı henüz açıklığa kavuşmuş değil. Önümüzdeki dönemde gönüllü şirket taahhütleriyle resmî denetim mekanizmaları arasındaki ilişkinin nasıl şekilleneceği, gelişmiş yapay zekâ sistemlerinin güvenlik yönetiminde belirleyici olacak.
