Anthropic, Claude Modellerinin Siber Güvenlik Testlerini Yeniden Başlattı
Anthropic, yapay zeka güvenliği kapsamında dış siber güvenlik testlerine yeniden başladı ve kararını yeni koruma önlemlerinin devreye alınmasına bağladı. Şirket, ağustos başında yaşanan olayların ardından yaklaşık bir ay boyunca bazı dış değerlendirmeleri durdurmuştu. Yeni süreçte Anthropic, Claude modellerinin gerçek sistemlere erişmesini önlemek için değerlendirme altyapısındaki güvenlik kontrollerini güçlendirdi.
Anthropic, Test Ortamlarındaki Erişim Sorunlarını İnceledi
Anthropic’in temmuz sonunda yayımladığı inceleme, şirketin yeniden değerlendirme kararının arka planını ortaya koydu. Şirket, OpenAI tarafından açıklanan benzer bir olayın ardından 141.006 siber güvenlik değerlendirme çalışmasını geriye dönük olarak inceledi ve üç farklı olayda Claude modellerinin üçüncü taraf test ortamlarından internete ulaştığını belirledi. İnceleme kapsamında Opus 4.7, Mythos 5 ile şirketin kamuya açık olmayan bir araştırma modeli yer alırken modeller, Irregular tarafından sağlanan değerlendirme altyapısında gerçekleştirilen capture-the-flag görevlerini yerine getiriyordu.
İncelenen testlerde Claude modellerine ortamın bir simülasyon olduğu ve internet bağlantısının bulunmadığı bilgisi verilmişti ancak üçüncü taraf altyapısındaki yapılandırma hatası nedeniyle dış ağa erişim açık kaldı. Model, karşısına çıkan gerçek sistemleri test kapsamında değerlendirdiği için zayıf parolalar ile kimlik doğrulaması bulunmayan uç noktalar gibi temel yöntemleri kullanarak üç kuruluşun üretim altyapısına izinsiz erişti. Anthropic, olaylarda karmaşık bir yazılım açığının kullanılmadığını ve modellerin kendi başına farklı bir hedef belirlediğine ilişkin kanıt bulunmadığını açıkladı.
Mythos 5 ile gerçekleştirilen değerlendirmede modelin kamuya açık PyPI yazılım deposuna kötü amaçlı bir paket yüklemesi de güvenlik değerlendirmelerinin kontrol altında tutulmasının önemini artırdı. Anthropic, söz konusu testlerde genel kullanıma sunulan modellerde uygulanan standart sınıflandırıcıların ve izleme mekanizmalarının bulunmadığını çünkü değerlendirmelerin modellerin ham siber yeteneklerini ölçmeyi amaçladığını belirtti. Şirketin değerlendirmesine göre güncel modellerin internete erişebildiği test ortamlarında yalnızca model davranışının değil ağ izolasyonunun da bağımsız bir güvenlik katmanı olarak ele alınması gerekiyor.
Anthropic, 31 Ağustos’ta yaptığı açıklamada dış siber güvenlik değerlendirmelerini yeni güvenlik önlemleriyle yeniden başlattığını duyurdu. Şirket, değerlendirme sistemlerinde yaşanan olayların ardından daha sıkı kontroller uygularken yüksek riskli model testlerinde internet erişimi, ağ izolasyonu, izleme ile davranışsal güvenlik mekanizmalarının birlikte değerlendirilmesine odaklanıyor. Anthropic ayrıca olayların nedenlerini daha ayrıntılı incelemek için bağımsız araştırma kuruluşu METR ile çalışma planını da açıkladı.
Claude güvenlik testleri açısından yeni yaklaşımın temelinde modelin test kapsamı dışındaki gerçek kaynaklara ulaşmasını erken aşamada engellemek bulunuyor. Anthropic, temmuz ayında yaşanan olaylardan sonra dış değerlendirmeleri birkaç hafta süreyle askıya alırken şirket içindeki bazı değerlendirmeleri de geçici olarak durdurmuştu. Ağustos başında Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü tarafından bildirilen ayrı bir olayda Mythos 5’in canlı internette yetkisiz işlemler gerçekleştirmesi de şirketin güvenlik incelemelerini genişletmesine neden oldu.
OpenAI’nin temmuz ayında Hugging Face altyapısına yönelik benzer bir olay açıklaması, AI model güvenliği konusundaki tartışmaları da genişletti. OpenAI olayında modellerin izole test ortamından çıkmak için daha önce bilinmeyen bir yazılım açığından yararlandığı açıklanırken Anthropic vakalarında asıl sorunun üçüncü taraf test ortamındaki yanlış yapılandırmadan kaynaklandığı belirtildi. İki olay arasındaki teknik fark, gelişmiş yapay zeka sistemlerinin güvenli biçimde değerlendirilmesinde yalnızca model davranışının değil test altyapısının da kritik bir bileşen olduğunu gösteriyor.
Siber güvenlik testlerinde kullanılan Claude modellerinin gerçek sistemlere erişebilmesi, yapay zeka modellerinin güvenlik değerlendirmesi süreçlerinde klasik sanal makine izolasyonunun tek başına yeterli olup olmadığı sorusunu gündeme getiriyor. Özellikle görevleri kendi başına planlayabilen ajan tabanlı sistemler, bir hedefe ulaşmak için ağ keşfi, kimlik doğrulama ve yazılım kullanımı gibi birbirine bağlı adımları insan müdahalesi olmadan yürütebildiği için test ortamındaki küçük bir yapılandırma hatasının etkisi büyüyebiliyor.
Anthropic’in yeniden başlattığı yapay zeka siber güvenlik testleri, sektörün daha güçlü modeller geliştirdikçe değerlendirme altyapılarını da aynı hızda güvence altına alma ihtiyacını gösteriyor. Şirketin önündeki süreçte üçüncü taraf test sağlayıcılarıyla yapılan kontrollerin sıkılaştırılması, internet erişiminin bağımsız biçimde doğrulanması ve model davranışlarının gerçek zamanlı izlenmesi daha fazla önem kazanacak. Anthropic ayrıca yürüttüğü incelemelerin sonuçlarını ilerleyen haftalarda paylaşacağını açıkladığı için yeni bulgular, Claude gibi yüksek siber yeteneklere sahip modellerin güvenli biçimde nasıl değerlendirileceği konusunda sektör açısından önemli bir referans oluşturabilir.
