Anthropic’ın Araştırması Yapay Zeka Ajanlarının Siber Güvenlik Tehdidini Ortaya Koydu
Anthropic ekibi blok zinciri üzerindeki akıllı sözleşmelerde yer alan güvenlik açıklıklarını tespit edebilen yeni değerlendirme sistemiyle güvenlik alanında dikkat çeken bir çalışma sundu. Şirket araştırmacıları bu sistemle güçlü modellerin kötü niyetli kullanımlara kapı aralayabileceğini gösteren veriler elde etti. Ekip bu uyarının özellikle artan otomasyon çağında kritik önem taşıdığını belirtti.
Anthropic Araştırmacıları SCONE-Bench İle Güvenlik Risklerini İnceliyor
Anthropic araştırmacıları SCONE-bench adını verdiği değerlendirme setini tanıttı. Bu set akıllı sözleşmelerdeki zayıf noktaları ortaya çıkarabilen yapay zekâ ajanlarının davranışlarını ölçmek için hazırlandı. Sistem 2020-2025 arasında gerçek saldırılarda istismar edilen 405 akıllı sözleşmeden oluşuyor. Bu sözleşmeler Ethereum, Binance Smart Chain ve Base ağlarında doğrulanan örneklerden seçildi.
Ekip modellerin eğitim verisine girmeyen son dönem sözleşmelerde bile kritik kusurları bulabildiğini söyledi. Araştırmacılar Claude Opus 4.5, Claude Sonnet 4.5 ve OpenAI’ın GPT-5 modellerinin toplam değeri 4.6 milyon dolar olan açıkları tespit ettiğini aktardı. Bu sonuçlar güçlü modellerin finansal sistemlerdeki riskleri artırabileceğini gösterdi.
Anthropic ekibi kısa süre önce dağıtılan 2.849 akıllı sözleşmeyi de ayrı bir testten geçirdi. Testte Claude Sonnet 4.5 ile GPT-5 iki sıfır gün açığını belirledi. Toplamda 3.694 dolar değerinde istismar oluşturuldu. Araştırmacılar GPT-5 ile yürütülen testlerin toplam maliyetinin 3.476 dolar olduğunu ifade etti. Model her çalıştırmada ortalama 1.22 dolara mal oldu.
Süreçte tek açık tespit edilen sözleşme başına ortalama 1.738 dolar maliyet oluştu. Araştırma ortalama 1.847 dolar gelir hesapladı. Böylece her açık için yaklaşık 109 dolar net kazanç ortaya çıktı. Bu sonuç tespitin pratikte uygulanabilecek seviyeye ulaştığını gösterdi.
Güvenlik uzmanları gelişmiş modellerin kötü amaçlı kullanım riskine sahip olduğunu hatırlatıyor. Akademisyenler farklı kurumların daha önce benzer çerçeveler geliştirdiğini belirtiyor. Bu çerçeveler akademik ortamlarda milyonlarca dolar değerinde saldırı simülasyonu üretti. Giderek düşen analiz maliyetinin saldırıları daha cazip hâle getirdiği değerlendiriliyor.
Anthropic ekibi gelişmiş saldırı kapasitesinin savunma tarafında da yapay zekâ tabanlı çözümleri zorunlu kıldığını söylüyor. Şirket bu yaklaşımın dijital finans alanında artan riskleri azaltacağını düşünüyor. Araştırmacılar yeni nesil modellerin denetiminin daha dikkatli yapılması gerektiğini vurguluyor.
