Siber güvenlik uzmanları, tarayıcı tabanlı yeni bir saldırı yöntemi olan “Man in the Prompt” tekniğinin büyük dil modellerini hedef alabileceğini ortaya koydu. Yöntem, kullanıcı farkında olmadan yapay zekâ tabanlı sistemlerden hassas verilerin sızdırılmasına yol açabiliyor.
Zararlı Kod Tarayıcı Eklentisine Gizleniyor
Saldırıda, güvenilir görünen bir tarayıcı eklentisi kullanılıyor. Saldırganlar, eklentinin güncelleme mekanizmasına zararlı kod ekleyerek kullanıcının tarayıcısına sızıyor. Bu kod, LLM ile etkileşim sırasında giriş alanına doğrudan talimat ekliyor. Böylece istem dışı komutlar çalıştırılarak veri sızıntısı sağlanıyor.
Şirket içinde barındırılan LLM sistemleri, bu saldırıya karşı daha savunmasız durumda. Güvenilir ağ ortamlarında çalışmaları ve hassas verilerle eğitilmiş olmaları, saldırganlar için cazip bir hedef oluşturuyor. DOM seviyesinde yapılan enjeksiyon, finansal tahminlerden fikrî mülkiyet bilgilerine kadar pek çok verinin dışarıya aktarılmasına imkân tanıyor.
Saldırının kullanıcı tarafından fark edilmesi neredeyse imkânsız. Popüler bir eklentinin ele geçirilmesi ya da satın alınıp kötüye kullanılması, saldırının en olası başlangıç noktası olarak öne çıkıyor. Sosyal mühendislik teknikleriyle birleşen bu yöntem, geleneksel ağ güvenlik önlemlerini aşarak sessiz şekilde çalışabiliyor.
Uzmanlar, tarayıcı eklentilerine yönelik izinlerin ayrıntılı biçimde sınırlandırılmasını, DOM etkileşimlerinin gerçek zamanlı izlenmesini ve LLM ortamlarının ana tarayıcı yapısından yalıtılmasını öneriyor. Ayrıca anormal sorgu ve veri aktarım hareketlerini tespit edecek davranış analiz sistemleri de etkili bir savunma yöntemi olarak gösteriliyor.
