Yapay Zekâ Sohbet Robotlarının Güvenlik Bariyerleri Şiirle Aşılabiliyor
Araştırma ekibi güvenlik ilkeleriyle donatılmış sohbet botlarının şiirsel ifadeler karşısında zayıf kaldığını ortaya koyan yeni bir çalışma yayınladı. Ekip çalışmada farklı modelleri sınadı. Elde edilen sonuçlar şiirin tek seferde etkili bir yöntem oluşturduğunu gösterdi.
Şiirsel İfade Yasaklı Bilgilere Erişimi Sağlıyor
Araştırma ekibi şiirsel ifadelerin yasak içerik üretiminde yüksek bir başarı sağladığını bildirdi. Ekip sonuçları incelerken modellenen ifadelerin hazırlanan dizeler sayesinde güvenlik süzgecini kolayca atlattığını aktardı. Çalışmada yer alan verilere göre yasaklanan pek çok konu şiirle sunulan talimatlar sonucunda yanıtlandı. Ekip deneyler sırasında nükleer silah yapımı başta olmak üzere kesin olarak engellenen başlıklarda da yanıt üretildiğini belirtti. Araştırma ekibi şiirin yapısı nedeniyle modellerin güvenlik kontrollerini doğru şekilde uygulayamadığını ifade etti.
Ekip çalışmada popüler modelleri değerlendirdi. Araştırma grubu bazı modellerin şiirsel ifadelerle yönlendirildiğinde hızlı şekilde yasak içeriklere yanıt ürettiğini kaydetti. Ekip değerlendirme yaparken Google Gemini DeepSeek ve MistralAI tarafında yüksek oranlar gözlemledi. GPT modelleri ile Claude Haiku 4.5 ise kuralları daha sıkı uyguladı. Araştırma ekibi şiirin etkisini gösteren örnek bir dizeyi rapora ekledi. Bu örnek ağırlaştırılmış sürümlerden uzak tutuldu. Ekip Wired’a yaptığı açıklamada denemelerde kullanılan gerçek dizelerin kamuya açılmasının riskli olduğunu söyledi.
Araştırma ekibi bulguları değerlendirirken mevcut güvenlik sistemlerinin şiirsel anlatımlara karşı güçlendirilmesi gerektiğini aktardı. Uzmanlar güvenlik ilkelerinin teknik ifadelerle sınırlı kalmasının büyük bir açık oluşturduğunu belirtti. Ekip şairane anlatımların model davranışlarını farklı yönlere çektiğini ifade etti. Uzmanlar güvenlik duvarlarının yalnızca kelime filtreleriyle desteklenmesinin yeterli olmadığını söyledi. Test grubunun açıklamalarına göre modellerin duygusal tını taşıyan dizelere karşı daha esnek bir yanıt üretme eğilimi bulunuyor.
Araştırma ekibi yayınlanan raporun sektörde yeni tartışmalar doğurduğunu belirtiyor. Uzmanlar üretken modeller üzerinde yapılan denemelerin daha kapsamlı güvenlik değerlendirmeleri gerektirdiğini savunuyor. Ekip bulgularının şirketler tarafından incelenmesinin önemli olduğunu vurguluyor. Deney sonuçları modellere yönelik saldırı türlerinin genişlediğini gösteriyor. Araştırma grubu yeni yöntemlerin geliştirilmesi için çalışmalarını sürdürüyor.
