Bilim İnsanları İstenmeyen Yapay Zekâ Aracılarını Durdurmak İçin Yapay Zekâ İmha Anahtarı Geliştirdi
Güney Kore’de görev yapan bilgisayar bilimcileri, yapay zekâ ajanlarının izinsiz veri toplamasını engellemek için AutoGuard adını verdikleri yeni bir savunma sistemi geliştirdi. Sistem, kötü niyetli ajanların güvenlik kontrollerine takılmasını sağlayan özel bir uyarı metni üretiyor. Savunma metni, siteye yerleştirilen gizli bir HTML alanında bulunuyor ve ziyaret eden yapay zekâ ajanları tarafından okunuyor.
AutoGuard Savunma Yapısını Güçlendiren Özel Bir Mekanizma Sunuyor
Araştırmacılar, çalışmayı Uluslararası Temsillerin Öğrenimi Konferansı ICLR 2026 için hazırladıkları ön baskı makalesinde ayrıntılı şekilde anlattı. Çalışmada, sistemin özellikle kişisel verilerin yasa dışı şekilde toplanmasını hedefleyen ajanları durdurduğu ifade edildi.
AutoGuard sistemi, geri bildirim üreten bir model ile savunmayı yöneten başka bir modeli birlikte çalıştıran döngüsel bir yapı kullanıyor. Bu iki model, saldırgan ajanların davranışlarını simüle eden senaryolara göre savunma metnini sürekli geliştiriyor. Araştırmacılar, bu süreçte GPT-OSS-120B modelini geri bildirim aracı olarak, GPT-5 modelini ise savunma modeli olarak değerlendirdi.
Sistem, yönlendirici metni üretirken saldırganın güvenlik kurallarına takılmasını hedefliyor. Bu metin, ajanların iç yönergelerini tetikleyip işlemi durdurmasına yol açıyor. Araştırmacılar, yüksek güvenlik maliyetleri nedeniyle güvenlik denetiminden geçirilmemiş saldırgan modellerin yaygın olmadığını belirtti.
Geliştiriciler, AutoGuard çözümünün mevcut bot koruma yöntemlerinin yerine geçmediğini belirtiyor. Sistem, siteye görünmez biçimde eklenen bir uyarı metniyle çalıştığı için sayfa yükleme süresini etkilemiyor. Araştırmacılar, savunma örneğinin iki sayfaya yakın uzunlukta olduğunu ve üretim sürecinin düşük maliyetli olduğunun altını çizdi.
AutoGuard sistemi, yasa dışı veri toplama girişimlerine ek olarak haber sitelerinde yorum manipülasyonu yapan ajanları ve güvenlik açığı taraması yürüten modelleri de hedef alıyor. Testlerde GPT-4o, Claude-3 ve Llama3.3-70B-Instruct gibi modeller üzerinde yüzde 80’i aşan başarı elde edildi.
Sistem, metin tabanlı ajanlar üzerinde geniş kapsamlı şekilde test edildi. Araştırmacılar, gerçek sitelerde test yapılmamasının etik nedenlerden kaynaklandığını belirtti. Ayrıca çoklu ortam kullanan ajanların AutoGuard karşısında daha dayanıklı olabileceği öngörülüyor.
AutoGuard’ın gelecekte geliştirilmesi planlanıyor. Araştırmacılar, savunma metninin daha kısa sürede üretilebilmesi için eğitim sürecinin optimize edilmesi gerektiğini dile getirdi. Sistemin, gelişmiş ajan savunmalarına sahip ticari modeller karşısında daha sınırlı sonuç verebileceği de ifade edildi.
AutoGuard, yapay zekâ güvenliği alanında son dönemin en yenilikçi gelişmelerinden biri olarak öne çıkıyor. Araştırmacılar, bu sistemin web yöneticilerine geleneksel güvenlik önlemlerini tamamlayıcı nitelikte ek bir koruma katmanı sağlayacağını belirtiyor.
Söz konusu yöntem, kötü amaçlı yapay zekâ ajanlarının gelişmiş davranış kalıplarını etkisiz hale getirme kapasitesiyle dikkat çekiyor. Bu özelliği sayesinde AutoGuard’ın siber güvenlik ekosisteminde önemli bir boşluğu dolduracağı öngörülüyor.
