Siber Güvenlik Uzmanları Uyardı: Yapay Zekâ Tarayıcılarında Yeni Risk Belirlendi
Yapay zekâ tarayıcıları üzerinde yapılan yeni bir araştırma, saldırganların sistemleri sahte senaryolarla yönlendirerek kullanıcı adına tehlikeli işlemler gerçekleştirebildiğini ortaya koydu. LayerX tarafından paylaşılan bulgular, bu yöntemin şifre değiştirme, hassas veri aktarma ile zararlı yazılım indirme gibi kritik işlemlere kapı aralayabildiğini gösteriyor. Araştırma, internet üzerinde giderek daha fazla yetki kazanan yapay zekâ ajanlarının güvenlik mimarisinin yeniden değerlendirilmesi gerektiğine işaret ediyor.
LayerX Araştırması Yeni Bir Manipülasyon Tekniğini Ortaya Koydu
LayerX araştırmacıları, “BioShocking” adını verdikleri yöntemi geliştirirken güvenlik duvarlarını aşmaya çalışmak yerine yapay zekâ modelinin olayları algılama biçimini hedef aldı. Araştırma kapsamında OpenAI’ın ChatGPT Atlas aracı, Perplexity’nin Comet tarayıcısı ile Anthropic’in Google Chrome üzerinde çalışan Claude entegrasyonu test edildi. Ekip, hazırlanan istem dizileriyle sistemlerin normal koşullarda reddedeceği bazı komutlara daha açık tepki verebildiğini gözlemledi.
Araştırmacılar, yöntemin klasik güvenlik açıklarından farklı çalıştığını özellikle vurguluyor. Yapay zekâ modeli bulunduğu ortamı gerçek dünya yerine kurgu bir senaryo olarak algıladığında, karar mekanizması güvenlik ilkelerini farklı yorumlayabiliyor. Yapay zekâ güvenlik açığı olarak değerlendirilen bu yaklaşım, mevcut koruma yöntemlerinin yalnızca komut içeriklerini denetlemesinin yeterli olmayabileceğini gösteriyor.
Hazırlanan test ortamında araştırmacılar, modele BioShock oyunundan ilham alan kurgusal bir bulmaca sundu. Senaryoda yapay zekâdan doğru cevap üretmesi değil, bilerek yanlış sonuçlar vermesi istendi. Model belirli bir süre sonra “2 + 2 = 5” gibi açık biçimde hatalı ifadeleri üretmeyi oyunun parçası olarak kabul ederken doğru ile yanlış arasındaki değerlendirme biçimini geçici olarak değiştirdi.
Araştırmacılar, modelin bağlam algısı değiştiğinde normal şartlarda uyguladığı güvenlik politikalarını aynı katılıkta sürdürmediğini belirtiyor. Bu davranış biçimi, tarayıcı tabanlı yapay zekâ çözümlerinde yalnızca teknik filtrelerin değil bağlamsal doğrulama mekanizmalarının da önemini artırıyor.
Siber güvenlik uzmanları, BioShocking yönteminin klasik prompt injection saldırısı tekniğinden ayrıldığını ifade ediyor. Geleneksel istem enjeksiyonunda modele gizli komutlar eklenirken bu yöntemde modelin gerçeklik algısı değiştiriliyor. Yapay zekâ kendi güvenlik kurallarını uygulamaması gerektiğine inandığında saldırının başarı ihtimali yükseliyor.
LayerX araştırmacıları, uygun koşullar oluştuğunda saldırganların kullanıcı hesabındaki parolaları değiştirebileceğini, hassas bilgileri dış sistemlere aktarabileceğini ya da zararlı yazılımları indirebileceğini aktarıyor. İşlemler kullanıcının aktif tarayıcı oturumu üzerinden gerçekleştiği için güvenlik sistemleri bunları çoğu zaman normal kullanıcı davranışı olarak değerlendirebiliyor.
OpenAI, Anthropic ile Perplexity tarafından geliştirilen yeni nesil araçlar internette araştırma yapma, web sitelerinde gezinme, formları tamamlama ile çeşitli görevleri kullanıcı adına yerine getirebiliyor. Yetki seviyesi arttıkça AI agent security alanındaki çalışmalar da daha kritik hâle geliyor. Güvenlik uzmanları, gelecekte yapay zekâ ajanlarının yalnızca komut doğrulamasıyla değil, bağlam doğrulamasıyla da korunması gerektiğini değerlendiriyor.
Siber güvenlik ekosistemi önümüzdeki dönemde otonom tarayıcı güvenliği, istem enjeksiyonu savunması ile AI browser security alanlarında yeni standartların geliştirilmesini bekliyor. Yapay zekâ tarayıcıları günlük internet kullanımında daha fazla görev üstlendikçe geliştiricilerin karar mekanizmasını hedef alan manipülasyon tekniklerine karşı ek koruma katmanları oluşturması sektörün öncelikleri arasında yer alacak.
