Microsoft’un Yapay Zekâ Görsellerine Gizli Filigran Eklediği İddia Edildi

Microsoft Paint ve Photos uygulamalarının yapay zekâ ile oluşturulan görsellere görünür olmayan kimlikler eklediği öne sürüldü. Güvenlik araştırmacısı Xusheng Li’nin tersine mühendislik çalışmasına göre Microsoft sunucuları, yapay zekâ görseli oluşturulurken bir GUID üretiyor ve uygulamalar bu değeri görselin piksellerine gizli bir filigran olarak yerleştiriyor. Microsoft’un C2PA Content Credentials kullandığını açıklamasına rağmen söz konusu sunucu kaynaklı kimlik mekanizmasının nasıl işlendiğine ilişkin ayrıntılı bir açıklama henüz bulunmuyor.

Paint İçindeki Gizli Filigran Mekanizması Nasıl Çalışıyor?

Microsoft Paint üzerinde yapılan inceleme, uygulamanın yapay zekâ özelliklerinde Watermarker.dll adlı bir bileşen kullandığını ortaya çıkardı. Xusheng Li’nin analizine göre bileşen, kullanıcıların görebildiği Copilot logosundan bağımsız çalışan başka bir filigran mekanizmasına da sahip.

Bir kullanıcı Paint üzerinden yapay zekâ destekli görsel oluşturduğunda istem Microsoft sunucularına gönderiliyor. Sunucu tarafı, Li’nin bulgularına göre istemin değiştirilmiş bir sürümünü uygulamaya geri gönderirken ayrıca 128 bitlik bir GUID değerinden oluşan watermarkId sağlıyor. Paint daha sonra ilgili kimliği yerel olarak oluşturulan görsele görünmeyecek şekilde işliyor.

GUID, tek başına bir isim veya e-posta adresi anlamına gelmiyor. Sistemlerde belirli kayıtları veya nesneleri birbirinden ayırmak için kullanılan 128 bitlik tanımlayıcılar, doğrudan kişisel veri olarak değerlendirilmek zorunda değil ancak sunucu tarafında bir kullanıcı hesabıyla eşleştirilirse farklı bir anlam kazanabiliyor.

Microsoft’un yapay zekâ görsellerinde kullandığı C2PA Content Credentials mekanizması, dijital içeriğin kaynağı ve geçmişi hakkında makine tarafından okunabilir bilgiler taşımayı amaçlıyor. Li’nin incelemesinde watermarkId değerinin C2PA metadata içerisinde de soft-binding adı verilen bir alanla ilişkilendirildiği belirtiliyor.

C2PA yapısı, görselin yapay zekâ tarafından üretildiğine ilişkin provenance bilgilerinin korunmasına yardımcı oluyor. Görselin piksel seviyesindeki görünmez kimliği ile metadata içindeki karşılığının birbirine bağlanması ise iki farklı doğrulama katmanının aynı içerik üzerinde ilişkilendirilmesini sağlıyor.

Microsoft Photos uygulaması da benzer bir altyapı kullanıyor. Araştırmacı, Photos içerisinde de Watermarker.dll bileşenini tespit ederken Image Creator ile Restyle Image özelliklerinin oluşturduğu görsellere GUID tabanlı kimlikler yerleştirdiğini belirledi. İki Microsoft uygulaması arasında önemli bir teknik fark da bulunuyor. Paint, görünmez filigranın eklenemediği durumlarda görsel oluşturma işlemini başarısız sonlandırırken Photos filigranlama işlemi hata verse bile görseli kullanıcıya sunabiliyor.

Microsoft, Paint ile Photos tarafından kullanılan yapay zekâ güvenlik mekanizmaları hakkında bazı bilgileri zaten yayımlıyor. Şirketin belgelerinde istemlerin güvenlik amacıyla Microsoft sunucularına gönderilebileceği, yerel çalışan modellerde dahi istem denetiminin sunucu tarafında gerçekleştirilebileceği belirtiliyor.

Avrupa Birliği’ndeki AI Act düzenlemeleri de yapay zekâ tarafından oluşturulan içeriklerin işaretlenmesini gündeme getiriyor. Özellikle AI Act’in 50. maddesi, belirli yapay zekâ tarafından oluşturulan veya değiştirilmiş içeriklerin makine tarafından okunabilir bir işaret taşımasını öngören şeffaflık yükümlülükleri getiriyor.

Araştırmacının dikkat çektiği asıl nokta ise Microsoft’un görünmez kimliğin varlığını ve sunucu tarafından üretildiğini açık biçimde anlatıp anlatmadığı konusu oluyor. Eğer Microsoft sunucularındaki watermarkId değeri bir kullanıcı hesabı, cihaz kaydı veya başka tanımlayıcı bilgilerle ilişkilendiriliyorsa sistem teorik olarak görselin üretildiği hesaba kadar uzanan bir izleme zinciri oluşturabilir.

Gizli Kimlik Görsel Takibi İçin Kullanılabilir mi?

Bir görselin içine GUID yerleştirilmesi tek başına Microsoft’un kullanıcıları takip ettiği anlamına gelmiyor. Takip edilebilirlik, GUID değerinin Microsoft’un sunucu tarafındaki kayıtlarıyla nasıl ilişkilendirildiğine ve üçüncü tarafların görselden bu değeri çıkararak hangi verilere erişebildiğine bağlı bulunuyor.

Xusheng Li’nin değerlendirmesi, Microsoft’un daha önce Windows kurulumlarına yönelik benzersiz tanımlayıcı kullanımı konusunda yaşanan tartışmalara da benzerlik taşıyor. Söz konusu mekanizmaların teknik açıdan yeni olmaması, kullanıcıların bu uygulamalardan haberdar olmasının önemsiz olduğu anlamına gelmiyor.

Microsoft henüz araştırmacının Watermarker.dll, watermarkId ve C2PA bağlantısına ilişkin iddialarına resmi bir yanıt vermedi. Şirketin yapacağı açıklama, gizli filigranın yalnızca içerik doğrulama amacıyla mı kullanıldığını yoksa sunucu tarafında hesaplarla ilişkilendirilen ek bir kayıt mekanizmasının bulunup bulunmadığını anlamak açısından önem taşıyacak.