Siber güvenlik uzmanları, yapay zekâ entegrasyonlarının yeni bir tehdit türüyle karşı karşıya olduğunu belirtiyor. “Zehirlenmiş belge” olarak adlandırılan bu dosyalar, masum görünen içeriklerin içine gizlenmiş talimatlarla çalışıyor. ChatGPT gibi harici servislere bağlı yapay zekâ sistemleri bu dosyaları işlediğinde, saldırganların hedeflediği veriler otomatik olarak ifşa edilebiliyor.
Gizli Komutlar Nasıl Çalışıyor?
Saldırganlar, dosyanın içine gözle fark edilmeyecek kadar küçük veya görünmez metinler yerleştiriyor. Bu gizli komutlar, yapay zekâya asıl dosya içeriğini yok saymasını ve onun yerine belirli hassas bilgileri aramasını söylüyor. Ardından elde edilen veriler, fark edilmeyecek bir yöntemle kodlanarak saldırgana iletiliyor.
Zehirlenmiş belgelerin en riskli yönü, kullanıcıdan hiçbir işlem gerektirmemesi. Dosya, ChatGPT’nin Google Drive veya e-posta gibi bağlı bir hizmet üzerinden işlenmesiyle saldırı otomatik olarak başlıyor. Bu durum, klasik oltalama yöntemlerine göre saldırının çok daha hızlı ve fark edilmesi güç olmasına yol açıyor.
Günümüzde yapay zekâ araçları takvimler, bulut depolama sistemleri, kod depoları gibi birçok platformla entegre çalışıyor. Her yeni entegrasyon, saldırganlara gizli komut ekleme fırsatı veriyor. Filtreleme sistemleri yeterince güçlü değilse, yapay zekâ sistemleri farkında olmadan güvenlik politikalarına aykırı işlemler gerçekleştirebiliyor.
Güvenlik ekiplerinin tüm gelen dosyaları yapay zekâ tarafından işlenmeden önce taraması gerekiyor. Şüpheli talimatlar, farklı formatlarda gizlense bile tespit edilmeli. Yapay zekâya erişim yetkilerinin sınırlandırılması ve kritik verilerin bulunduğu sistemlerin izole edilmesi, olası zararları azaltabilir. Ayrıca sürekli izleme yapılarak olağan dışı veri talepleri hızlıca tespit edilebilir.
