Meta Muse Yapay Zekâ Ajanında Kullanıcıların Özel Bilgilerini Açığa Çıkaran Güvenlik Açığı Bulundu
Meta’nın Muse yapay zekâ ajanı, kullanıcıların özel sohbetlerini ve hassas kişisel bilgilerini açığa çıkarabilen bir güvenlik sorunuyla gündeme geldi. Claroc güvenlik araştırmacıları, aracın paylaşım özelliği üzerinden oluşturulan 6.800’den fazla bağlantıyı inceleyerek kurumsal gelir belgeleri, banka işlem kayıtları ve kredi başvuruları gibi gizli bilgilere erişti. Meta, araştırmanın ardından söz konusu özelliği devre dışı bırakırken Muse’un kullanıcı gizliliğine ilişkin güvenlik tartışmaları yeni bir boyut kazandı.
Muse Paylaşım Bağlantıları Özel Sohbetleri Açığa Çıkardı
Meta CEO’su Mark Zuckerberg, Muse yapay zekâ ajanının kamuya sunulması öncesinde ürünün gizlilik ve güvenlik odaklı geliştirildiğini savunmuştu. Ancak siber güvenlik şirketi Claroc tarafından ortaya çıkarılan açık, kullanıcıların paylaştığı içeriklerin beklenmedik biçimde üçüncü kişiler tarafından görüntülenebildiğini gösterdi.
Ars Technica’nın aktardığı araştırmaya göre Muse, kullanıcıların sohbet kayıtlarını veya diğer içeriklerini paylaşmak istemesi durumunda özel web bağlantıları oluşturuyor. Bağlantılar, yapay zekâ tarafından hazırlanan sohbet başlığının yanı sıra rastgele karakterlerden oluşan bir dize içeriyor. Araştırmacılar, bağlantıların internette ziyaret edilen adresleri kaydeden veri kümelerinde bulunabilmesinden yararlanarak farklı kullanıcılara ait içeriklere ulaştı.
Araştırma ekibi, bağlantıların tahmin edilmesini gerektiren karmaşık bir saldırı gerçekleştirmek yerine, herkese açık bağlantı kayıtlarını tarayarak ilgisiz sohbetlere erişti. Claroc araştırmacıları, önceden böyle bir veri kümesini toplamanın ciddi çaba gerektireceğini düşündüklerini, ancak tek bir sorgunun yeterli olduğunu belirtti.
Araştırmacıların incelediği Muse sohbet kayıtları, yalnızca gündelik konuşmalardan oluşmadı. Ars Technica’nın haberinde, bağlantılar aracılığıyla çeşitli hassas belgelerin görüntülenebildiği aktarıldı.
Ortaya çıkan içerikler arasında şu bilgiler yer aldı:
- Şirketlerin gelirlerine ilişkin belgeler
- Kredi başvurularına ait kayıtlar
- Banka işlemlerinin ayrıntıları
- Kullanıcıların gelir bilgileri
- Bir iş yerinin çalışan izin takvimi
Söz konusu bulgular, yapay zekâ araçlarının paylaşım özelliklerinde bağlantı güvenliğinin ne kadar önemli olduğunu ortaya koydu. Kullanıcılar, bir sohbeti belirli bir kişiyle paylaşmak amacıyla oluşturulan bağlantının yalnızca hedeflenen alıcı tarafından görülebileceğini düşünebilir. Ancak bağlantıların başka veri kümelerinde listelenmesi, hassas içeriklerin daha geniş bir kitleye ulaşmasına zemin hazırlayabilir.
Meta, Ars Technica’ya yaptığı açıklamada sorunun ardından ilgili özelliği kapattığını bildirdi. Ancak açıklamada, araştırmacıların eriştiği bağlantılardaki bütün içeriklerin ne ölçüde etkilendiğine veya kaç kullanıcının risk altında bulunduğuna ilişkin ayrıntılı bir sayı paylaşılmadı.
Bağlantıların rastgele karakterler içermesi, tek başına gizlilik garantisi sağlamadı. Araştırmanın ortaya koyduğu temel sorun, bağlantıların dışarıdan erişilebilir kayıtlar üzerinden bulunabilmesi ve kullanıcıların sohbet içeriklerinin beklenmedik şekilde görüntülenebilmesiydi. Dolayısıyla güvenli bir paylaşım sistemi, yalnızca zor tahmin edilen adreslere değil, erişim denetimlerine ve bağlantıların nasıl indekslendiğine ilişkin önlemlere de ihtiyaç duyuyor.
Meta’nın özelliği devre dışı bırakması, tespit edilen erişim yolunu kapatmaya yönelik bir adım niteliği taşıyor. Bununla birlikte, daha önce oluşturulmuş bağlantıların durumu ve olayın kullanıcılar üzerindeki kapsamı hakkında ek bilgi verilmesi, güvenlik riskinin daha net değerlendirilmesine yardımcı olabilir.
Muse’un gizlilik konusundaki sorunları, yalnızca paylaşım bağlantılarıyla sınırlı kalmadı. Daha önce ortaya çıkan bir başka iddiaya göre yapay zekâ ajanı, kullanıcıların arkadaşları ve aile üyeleri hakkında ayrıntılı dosyalar tutuyordu. İddiaya konu olan dahili talimatın, kullanıcının hayatındaki her kişi için ayrı bir sayfa oluşturulmasını istediği öne sürüldü.
Kişisel ilişkiler hakkında sürekli bilgi biriktiren bir yapay zekâ sistemi, kullanıcı deneyimini kişiselleştirme amacı taşısa bile hassas verilerin kapsamı ve saklanma biçimi konusunda soru işaretleri doğurabilir. Paylaşım bağlantılarındaki açık da bu tartışmaya teknik bir boyut ekleyerek erişim denetimi, veri saklama ve kullanıcı onayı gibi konuları öne çıkardı.
Muse örneği, yapay zekâ gizliliğinin yalnızca modelin hangi bilgileri öğrendiğiyle sınırlı olmadığını gösteriyor. Sistemlerin oluşturduğu bağlantılar, tuttuğu kullanıcı kayıtları ve bu verilerin dış hizmetlerle etkileşimi de güvenlik değerlendirmesinin parçası olarak ele alınmalı. Meta’nın sonraki adımları, şirketin hem paylaşım altyapısındaki riskleri hem de kişisel verilerin işlenmesine ilişkin kaygıları nasıl yöneteceğini belirleyecek.
