Uzun yıllardır siber güvenlik alanında görev alan ve Google’ın Mandiant biriminde yöneticilik yapmış olan John Watters, yakın zamanda kötü niyetli aktörlerin otonom yapay zekâ sistemlerini kullanarak kurumsal çözümleri ele geçireceğini belirtti. Watters’a göre bu tehdit özellikle sohbet robotları ya da dijital ajanlar üzerinden etkisini gösterecek.
Saldırılar Hedefe Özel Şekilde Geliştirilecek
Watters, saldırıların klasik yöntemlerden farklı olarak her kuruma özel şekilde hazırlanacağını ifade etti. Açıklamasına göre saldırganlar, kurumların sistemlerinde daha önce keşfedilmemiş açıkları kullanarak hedeflerine ulaşacak. Böylece standart güvenlik önlemleri yetersiz kalacak ve kurumlar beklenmedik zafiyetlerle karşılaşacak.
Watters, iCounter adlı girişimin başına geçerek bu alanda ürün geliştirmeye başladığını duyurdu. Şirket, saldırganların kurumsal yapay zekâ çözümlerini ele geçirmesini engellemek için büyük dil modelleri tabanlı araçlar üzerinde çalışıyor. Uzmanlara göre önümüzdeki yıl sektörün en önemli gündemlerinden biri “AI-DR” olarak adlandırılan yeni güvenlik çözümleri olacak. Bu sistemler, ağ uçlarını izleyen EDR araçlarının aksine doğrudan yapay zekâ tabanlı yazılımları korumayı hedefliyor.
Son dönemde Salesloft’un yapay zekâ ajanı üzerinden gerçekleşen sızıntılar, bu riskin ne kadar ciddi olduğunu ortaya koydu. Dynatrace, Qualys, CyberArk ve Cato Networks gibi önde gelen firmalar da benzer sorunlar yaşadı. Uzmanlara göre kurumların kullandığı her yeni yapay zekâ tabanlı yazılım saldırganların öncelikli hedefi haline geliyor.
Gartner’ın mart ayında yayımladığı rapora göre 2022’den bu yana yapay zekâ destekli saldırı tespit ve müdahale girişimlerine 730 milyon dolardan fazla yatırım yapıldı. Araştırma, 2028 yılına gelindiğinde tehdit tespiti ve olay müdahalesinde kullanılan yapay zekâ çözümlerinin yüzde 70’inin çoklu ajan sistemlere dayanacağını öngörüyor.
