Google Gemini Modelindeki Güvenlik Açığı Phishing Saldırılarına Kapı Açıyor

Google Gemini, Workspace kullanıcıları için e-posta özetleri oluşturuyor. Ancak bu sistem, kötü niyetli kişiler tarafından e-posta içeriğine gizlenen zararlı komutlarla manipüle edilebiliyor. Bu durum, kullanıcıların fark etmeden phishing saldırılarına hedef olmasına yol açıyor.

Gizli Komutlarla Gemini Yanıltılıyor

Araştırmacı Marco Figueroa, Mozilla’nın 0din adlı yapay zekâ açık ödül programı kapsamında Gemini’de bir zafiyet tespit etti. Saldırganlar, e-posta gövdesine CSS ve HTML kullanarak görünmez hale getirilmiş talimatlar ekliyor. Bu komutlar, yazı rengini beyaz ve boyutunu sıfıra indirerek kullanıcıların görmesini engelliyor. Gmail bu gizli içerikleri göstermiyor.

Kullanıcı, e-postayı açıp Gemini’den özet istediğinde yapay zekâ gizli komutları algılıyor ve bunlara göre yanıtlama yapıyor. Örneğin, Gemini kullanıcının Gmail şifresinin çalındığına dair uyarı veriyor ve destek numarası sağlıyor. Bu tür uyarılar, kullanıcıların gerçek bir tehdit olarak görüp saldırganların tuzağına düşmesine neden olabiliyor.

Figueroa, güvenlik ekiplerine bazı önerilerde bulundu. İlk olarak, e-posta içeriğinde gizlenmiş yazı stilleri tespit edilmeli ve bu bölümler temizlenmeli veya etkisiz hâle getirilmelidir. Ayrıca, Gemini’nin oluşturduğu özetler, aciliyet içeren ifadeler, telefon numaraları veya URL’ler açısından filtrelenmelidir. Bu sayede zararlı içerikler erkenden fark edilebilir. Kullanıcıların Gemini tarafından oluşturulan özetleri kesin ve güvenilir kabul etmemesi de kritik bir uyarı olarak öne çıkıyor.

Google, konu hakkında yaptığı açıklamada, Gemini’yi korumak için sürekli saldırı simülasyonları ve savunma geliştirme çalışmaları yürüttüğünü belirtti. Şirket, bazı güvenlik önlemlerinin uygulamaya alındığını ya da kısa süre içinde devreye gireceğini ifade etti. Google, rapor edilen yöntemin gerçek dünyada kullanılmasına dair bir kanıt bulunmadığını da açıkladı.