Microsoft Word Belgelerinde Copilot’u Hedef Alan Yeni Yapay Zekâ Açığı Ortaya Çıktı
Microsoft Word kullanan kişi ve kurumları ilgilendiren yeni bir güvenlik araştırması, Copilot’un gizli komutlarla manipüle edilebildiğini ortaya koydu. Norveçli güvenlik araştırmacısı Håkon Måløy, Word belgelerine yerleştirilen görünmez talimatların yapay zekâ tarafından kullanıcı isteği gibi yorumlanabildiğini açıkladı. Araştırmacı, Microsoft’un bazı önlemler aldığını belirtmesine rağmen bu saldırı sınıfını tamamen ortadan kaldıran güvenilir bir çözümün henüz bulunmadığını savunuyor.
Gizli Komutlar Copilot’un Davranışını Değiştirebiliyor
Håkon Måløy tarafından yayımlanan teknik analiz, saldırganların paylaşılan bir Microsoft Word belgesine kullanıcı tarafından fark edilmeyen talimatlar ekleyebildiğini gösteriyor. Belge Copilot etkin olarak açıldığında yapay zekâ bu komutları normal istemin bir parçası olarak değerlendirebiliyor. Böylece kullanıcı herhangi bir zararlı işlem başlatmadığını düşünse bile yapay zekâ arka planda farklı eylemler gerçekleştirebiliyor.
Araştırmaya göre bu yöntem yalnızca açık belgeyi değiştirmekle sınırlı kalmıyor. Copilot, belge üzerinde oluşturduğu yeni içeriklere aynı gizli talimatları da ekleyebiliyor. Hazırlanan yeni dosya başka bir kullanıcı tarafından açıldığında ve yapay zekâ destekli iş akışında kullanıldığında aynı komutlar yeniden çalışabiliyor. Bu zincirleme yapı, zararlı talimatların belgeler arasında yayılmasına imkân tanıyor.
Araştırmacı, saldırının temelinde prompt injection olarak bilinen tekniğin yer aldığını belirtiyor. Yapay zekâ modeli, belgeye gömülen talimatları güvenilir içerik olarak algıladığı için kullanıcı niyetinden bağımsız işlemler gerçekleştirebiliyor. Måløy, bu yaklaşımın ticari bir ofis yazılımında belge üzerinden yayılabilen ilk AI worm örneklerinden biri olarak değerlendirilebileceğini ifade ediyor.
Araştırmacı, güvenlik açığını kamuoyuna açıklamadan önce Microsoft’a bildirdiğini ve sorumlu açıklama sürecini takip ettiğini belirtti. Teknik ayrıntıların tamamını paylaşmayan Måløy, saldırının nasıl uygulanacağını gösteren kritik yükün yayımlanmasının kötü niyetli kişiler tarafından kolayca istismar edilebileceğini düşünüyor. Bu nedenle yalnızca güvenlik açığının çalışma mantığını açıklamayı tercih ettiğini ifade ediyor.
Microsoft ise yaptığı açıklamada, Copilot’un zararlı talimatları engellemek amacıyla çok katmanlı koruma mekanizmalarına sahip olduğunu bildirdi. Şirket, güvenlik sistemlerinin sürekli geliştirildiğini, kullanıcıların en güncel yazılım sürümlerini yüklemesini, bilinmeyen kaynaklardan gelen belgeleri dikkatle incelemesini ve yapay zekâ tarafından oluşturulan içerikleri paylaşmadan önce kontrol etmesini tavsiye ediyor.
Buna karşın Måløy, Microsoft’un gerçekleştirdiği iki farklı düzeltme girişiminin ve model güncellemelerinin güvenlik açığını tamamen kapatamadığını öne sürüyor. Araştırmacının testlerine göre söz konusu saldırı sınıfına karşı uygulanabilecek kapsamlı ve kalıcı bir koruma yöntemi henüz bulunmuyor. Bu durum, üretken yapay zekâ özelliklerinin kurumsal belge yönetiminde yalnızca verimlilik değil, aynı zamanda yeni güvenlik riskleri de oluşturabileceğini gösteriyor. Özellikle Microsoft 365 kullanan kurumların güvenlik politikalarını yapay zekâ destekli iş akışlarını kapsayacak şekilde güncellemesi ve belge paylaşım süreçlerini yeniden değerlendirmesi öneriliyor.
