Yapay Zekâ Ajanları, Oltalama E-postalarındaki Gizli Talimatlara Kanabiliyor

Yapay zekâ ajanlarının e-posta hesaplarına erişerek görevleri bağımsız biçimde yerine getirmesi, siber güvenlik alanında yeni riskleri beraberinde getiriyor. Malwarebytes’ın yayımladığı uyarıya göre saldırganlar, e-postaların içine gizledikleri talimatlarla yapay zekâ asistanlarını yönlendirerek kimlik avı saldırılarının etkisini artırabiliyor. Uzmanlar, özellikle ödeme işlemleri ve tedarikçi hesap bilgilerinin değiştirilmesi gibi kritik adımlarda insan onayının korunmasını öneriyor.

Gizli Talimatlar Yapay Zekâ Asistanlarını Hedef Alıyor

Kimlik avı saldırıları, kullanıcıları güvenilir bir kurumdan geliyormuş gibi görünen sahte mesajlarla kandırmayı amaçlıyor. Şüpheli bağlantılar, sahte kampanyalar veya kimlik bilgilerini ele geçirmeye yönelik talepler, geleneksel saldırı yöntemleri arasında yer alıyor. Yapay zekâ ajanlarının devreye girmesiyle saldırganlar, yalnızca insanları değil, e-postaları okuyup içerik üzerinde işlem yapan yazılımları da hedef alabiliyor.

Siber güvenlik şirketi Malwarebytes, bu riskin temelinde istem enjeksiyonu (prompt injection) saldırılarının bulunduğunu belirtiyor. Saldırganlar, e-posta içeriğine yapay zekâ sistemlerini etkilemek amacıyla hazırlanmış talimatlar ekleyebiliyor. Söz konusu metinler, insan okuyucuların fark etmesini zorlaştıracak biçimde gizlenirken yapay zekâ tarafından işlenebilir durumda kalabiliyor.

Böylece bir e-posta, kullanıcı açısından sıradan veya zararsız görünmesine rağmen yapay zekâ asistanını belirli bir eyleme yönlendirmeyi amaçlayan içerikler barındırabiliyor. Risk, asistanın yalnızca mesajı özetlemesiyle sınırlı kalmıyor; sistemin sahip olduğu izinlere bağlı olarak başka görevleri de etkileyebiliyor.

İstem enjeksiyonu saldırıları, yapay zekâ modelinin okuması gereken verilerle uyması gereken talimatları birbirinden ayırmakta zorlanmasından yararlanıyor. E-posta içindeki kötü amaçlı bir metin, asistanın normal görevini değiştirmeye veya kullanıcı tarafından istenmeyen bir işlemi gerçekleştirmesine neden olmaya çalışabiliyor.

Yapay zekâ kod inceleme hizmeti ShipItClean’in geliştiricisi Apollo Raines, Malwarebytes’a yaptığı açıklamada temel sorunun modelin okunacak metinle takip edilecek talimat arasındaki farkı ayırt edememesi olduğunu belirtmiş. Raines, gizli içeriğin modele ulaşmadan temizlenmesinin yararlı bir önlem olduğunu ve sağlayıcıların bu yöntemi uygulaması gerektiğini savunmuş.

Geleneksel oltalama saldırılarında kullanıcıların şüpheli mesajları daha dikkatli incelemesi önemli bir savunma yöntemi oluşturuyor. Ancak yapay zekâ ajanlarının hedef alınması, yalnızca kullanıcı farkındalığıyla çözülemeyecek bir güvenlik sorunu ortaya çıkarıyor. E-posta içeriğinin nasıl işlendiği, gizli metinlerin sisteme aktarılıp aktarılmadığı ve asistanın hangi işlemleri gerçekleştirebildiği de güvenlik tasarımının parçası haline geliyor.

Yapay zekâ asistanları, e-posta okuma ve özetleme gibi sınırlı görevlerden birden fazla aşamadan oluşan işlemleri bağımsız biçimde yürütmeye doğru ilerliyor. Meta’nın Muse gibi araçları da dahil olmak üzere gelişmiş asistanların yaygınlaşması, kötü amaçlı talimatların etkisini genişletebilecek bir ortam oluşturuyor.

Araştırmacılar daha önce yapay zekâ destekli tarayıcılarda da benzer güvenlik açıklarıyla karşılaştı. Moltbook adlı yapay zekâ odaklı sosyal ağda ise botların birbirlerini hedef alan istem enjeksiyonu saldırılarını gündeme getirdiğine ilişkin örnekler ortaya çıktı. Bu gelişmeler, yapay zekâ sistemlerinin yalnızca geleneksel saldırılara karşı değil, içerik üzerinden yönlendirilmeye karşı da korunması gerektiğini gösteriyor.

Otonom ajanlar, kullanıcıdan sürekli onay almadan art arda görevler gerçekleştirebildiği için saldırının sonuçları daha ciddi hale gelebiliyor. E-posta hesabına erişebilen bir asistanın hangi bilgilere ulaşabildiği, hangi uygulamalarla bağlantı kurduğu ve hangi işlemleri yapabildiği, olası zararın boyutunu belirleyen başlıca unsurlar arasında bulunuyor.

Malwarebytes, kullanıcıların e-posta işlemlerinde yapay zekâ araçlarını tamamen bırakmasını önermek yerine bu sistemlere hangi görevlerin emanet edildiğinin ve ne tür izinlerin verildiğinin dikkatle değerlendirilmesini istiyor. Şirket, özellikle yüksek etkili işlemlerde insan denetiminin korunmasını tavsiye ediyor.

💡Önerilen önlemler arasında şunlar yer alıyor:

• Ödeme işlemlerini onaya bağlamak: Yapay zekâ asistanları, para transferi gibi kritik işlemleri insan onayı olmadan tamamlamamalı.
• Tedarikçi ödeme bilgilerini doğrulamak: Hesap numarası veya ödeme talimatı değişiklikleri, bağımsız bir doğrulama sürecinden geçirilmelidir.
• E-posta erişim izinlerini sınırlamak: Asistanlara yalnızca görevlerini yerine getirmek için ihtiyaç duydukları erişim yetkileri verilmelidir.
• Gizli içerikleri filtrelemek: Yapay zekâya aktarılmadan önce gizlenmiş veya şüpheli talimatların tespit edilmesi ve temizlenmesi değerlendirilmelidir.

Bu önlemler, yapay zekâ ajanlarının iş süreçlerinde sağladığı kolaylıktan yararlanırken kötü amaçlı içeriklerin doğrudan işlem başlatma riskini azaltmayı hedefliyor.

Yapay zekâ sistemlerinin daha fazla yetki kazanması, saldırganların da yeni yöntemler geliştirmesine zemin hazırlıyor. Raines’in değerlendirmesine göre her yeni kodlama veya gizleme yöntemi, sistemlerde yeni bir güvenlik açığı oluşturabilecek bir alan yaratıyor. Saldırganlarla savunma ekipleri arasındaki mücadele, bu nedenle sürekli değişen bir güvenlik yarışına dönüşüyor.

Kurumsal kullanıcılar açısından temel mesele, yapay zekâ asistanlarının ne kadar gelişmiş olduğu kadar hangi sınırlar içinde çalıştığıdır. E-posta hesaplarına, ödeme araçlarına ve kurumsal uygulamalara geniş erişim verilmesi, tek bir kötü amaçlı mesajın etkisini büyütebilir.

Yapay zekâ ajanlarının güvenli biçimde kullanılabilmesi için içerik filtreleme, sınırlı erişim ve kritik işlemlerde insan onayı birlikte değerlendirilmelidir. Otomasyonun yaygınlaşması, güvenlik sorumluluğunu ortadan kaldırmıyor; aksine sistemlerin hangi talimatları izleyeceğinin ve hangi işlemleri gerçekleştirebileceğinin daha dikkatli tanımlanmasını gerektiriyor.