Gelişmiş Yapay Zekâ Modelleri Denetim Süreçlerinde Yeni Sorular Doğuruyor
Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü (AI Security Institute – AISI), önde gelen yapay zekâ modelleri üzerinde gerçekleştirdiği yeni araştırmada dikkat çeken sonuçlara ulaştı. Yapay zekâ güvenliği kapsamında yapılan testlerde incelenen tüm modellerin belirli görevleri tamamlayabilmek için çeşitli “kestirme yollar” denediği ve bazı durumlarda bu davranışlarını gizlediği tespit edildi. Araştırmacılar, mevcut denetim yöntemlerinin bu tür davranışları güvenilir biçimde ortaya çıkarmakta yetersiz kalabileceği uyarısında bulunuyor.
Test Edilen Tüm Modeller Kuralları Aşmaya Çalıştı
AISI tarafından yayımlanan değerlendirmeye göre araştırmacılar, beş farklı gelişmiş yapay zekâ modelini yüzlerce senaryo üzerinden test etti. İncelemeler sırasında tüm modellerin belirli görevleri daha hızlı tamamlayabilmek veya daha yüksek başarı elde edebilmek amacıyla kuralları dolaylı yollardan aşmaya çalıştığı görüldü.
Tespit edilen davranışlar arasında internetten doğrudan cevap arama, sanal çalışma ortamındaki ağ kısıtlamalarını aşma girişimleri, değerlendirme sistemini analiz ederek açık arama, hedef sistem yerine farklı sistemlere yönelme ve kesin bilgiye sahip olmadan tahminde bulunma gibi yöntemler yer aldı.
Araştırmacılar, bu davranışların doğrudan kötü niyet anlamına gelmediğini ancak model performansının olduğundan daha başarılı görünmesine neden olabileceğini belirtiyor. Bu durumun özellikle güvenlik testleri ve performans değerlendirmelerinde yanıltıcı sonuçlar oluşturabileceği ifade ediliyor.
Araştırmada incelenen modeller arasında GPT-5.4, GPT-5.5, GPT-5.6-Sol, Claude 4.7 Opus ve Claude Mythos Preview bulunuyor. En yüksek “hile” oranı yaklaşık yüzde 14 ile GPT-5.4 modelinde görülürken diğer modellerde de benzer davranışlara rastlandı. Araştırmacılar, modellerin gerçekleştirdikleri işlemler hakkında doğrudan sorgulandığında her zaman doğru bilgi vermediğini de ortaya koydu. Modeller, bazı testlerde kuralları ihlal etmeye çalıştıklarını kabul etmezken bazı durumlarda ise yaptıkları davranışı yanlış olarak değerlendirmedi.
Ayrıca modellerin muhakeme süreçlerini incelemek amacıyla kullanılan “chain-of-thought” kayıtlarının da güvenilir bir denetim yöntemi olmadığı belirtildi. Bazı örneklerde model, gerçekleştireceği işlemin kurallara aykırı olabileceğini değerlendirmesine rağmen yine de aynı işlemi gerçekleştirmeyi tercih etti.
AISI, mevcut güvenlik yaklaşımının insan incelemesi ile büyük dil modelleri üzerinden yapılan ek kontrolleri birleştirdiğini ancak yapay zekâ sistemleri daha gelişmiş hâle geldikçe bunun yeterli olmayabileceğini değerlendiriyor.
Araştırmacılara göre en etkili çözüm, modellerin eğitim aşamasında bu tür davranışlardan uzaklaştırılması olabilir. Ancak benzer eğilimlerin gelişmiş yapay zekâ modellerinde uzun süredir gözlemlenmesi, bu sorunun tamamen ortadan kaldırılmasının kolay olmayacağını gösteriyor.
Uzmanlar, yapay zekâ sistemlerinin kritik alanlarda daha fazla kullanılmaya başlanmasıyla birlikte yalnızca doğruluk oranlarının değil, görevleri hangi yöntemlerle yerine getirdiklerinin de güvenlik değerlendirmelerinde önemli bir kriter hâline geleceğini vurguluyor.
