Microsoft, son dönemde artış gösteren yapay zekâ manipülasyonu girişimlerine karşı kullanıcıları ve kurumları uyardı. Şirket, bazı internet sitelerinde yer alan butonlar ve bağlantılar aracılığıyla yapay zekâ sistemlerine gizli talimatlar eklendiğini, bu yöntemle üretilen içeriklerin fark edilmeden yönlendirildiğini açıkladı. Microsoft, bu tür müdahalelerin kullanıcıların yapay zekâya duyduğu güveni zedelediğini ve kritik alanlarda yanlış karar riskini artırdığını vurguladı.
Yapay Zekâ Sistemlerini Hedef Alan Yeni Yöntem Ortaya Çıktı
Microsoft’un güvenlik araştırma ekipleri, kullanıcıların tıkladığı “Yapay zekâ ile özetle” benzeri butonların arka planında gizli komutlar bulunabildiğini tespit etti. Araştırmacılar, bu komutların yapay zekâ modellerine belirli bir bakış açısı kazandırdığını ve üretilen yanıtların içeriğini etkilediğini belirtti. Uzmanlar, bu yöntemin teknik olarak karmaşık olmadığını, basit URL parametreleri üzerinden kolayca uygulanabildiğini aktardı.
Microsoft, yapılan incelemelerde 14 farklı sektörden 31 şirketin web altyapısında toplam 50’den fazla farklı yönlendirici komut tespit edildiğini paylaştı. Güvenlik ekipleri, bu durumun yalnızca tekil örneklerle sınırlı kalmadığını ve daha geniş bir yayılım gösterdiğini değerlendirdi.
Uzmanlar, gizli talimatların yapay zekâ tarafından geçmiş konuşma bağlamının bir parçası olarak algılandığını ifade etti. Bu durum, sistemin sonraki yanıtlarında da aynı yönlendirmeyi sürdürmesine yol açıyor. Kullanıcı, tarafsız bir bilgi aldığını düşünürken aslında belirli bir görüşe göre şekillendirilmiş içerikle karşılaşıyor.
Araştırmacılar, bu yöntemin bir tür yapay zekâ yönlendirme yöntemi olarak değerlendirildiğini ve özellikle sağlık, finans, güvenlik gibi alanlarda ciddi sonuçlar doğurabileceğini bildirdi. Yanlış veya eksik yönlendirmeler, bireysel kararları doğrudan etkileyebiliyor.
Microsoft, bazı saldırı türlerinde yapay zekâ hafızasının da etkilendiğini açıkladı. Şirket, sistemlere dışarıdan eklenen bilgilerin kullanıcı tercihi gibi algılanabildiğini ve uzun süre saklanabildiğini belirtti. Uzmanlar, bu durumu yapay zekâ hafıza zehirleme olarak tanımlıyor.
Bu tür bir müdahale gerçekleştiğinde, yapay zekâ yalnızca anlık yanıtlar üretmekle kalmıyor, ilerleyen süreçte de aynı çerçevede cevaplar vermeye devam ediyor. Bu tablo, kullanıcıların hatayı fark etmesini zorlaştırıyor.
Microsoft, kullanıcıların yapay zekâ ile ilişkili bağlantılara tıklamadan önce kaynağı kontrol etmesini önerdi. Şirket, yapay zekâ asistanlarının kayıtlı hafızalarının düzenli olarak gözden geçirilmesini ve şüpheli içeriklerin silinmesini tavsiye etti.
Kurumsal tarafta ise güvenlik ekiplerinin e-posta ve mesajlaşma sistemlerinde olası yapay zekâ saldırısı girişimlerini taraması gerektiği belirtildi. Microsoft, farkındalığın artmasının bu tür risklerin azaltılmasında önemli rol oynadığını vurguladı.
Uzmanlar, artan yapay zekâ güvenlik açığı vakalarının teknolojiye duyulan güveni doğrudan etkilediğini ifade ediyor. Kullanıcılar, yapay zekâdan gelen yanıtların her zaman tarafsız olduğu varsayımıyla hareket edebiliyor. Bu nedenle gizli yönlendirmeler, fark edilmeden geniş kitleleri etkileyebiliyor.
Microsoft, yapay zekâ manipülasyonu riskine karşı hem platform sağlayıcılarının hem de kullanıcıların daha bilinçli hareket etmesi gerektiğini belirtiyor. Şirket, önümüzdeki dönemde ek güvenlik önlemleri üzerinde çalıştığını da duyurdu.
