Eski Meta Güvenlik Şefi Muse Yapay Zekâ Ajanının Gizlilik Risklerine Karşı Uyardı

Meta’nın eski güvenlik şefi Alex Stamos, şirketin Muse yapay zekâ ajanının kullanıcılardan e-posta hesapları, kredi kartı bilgileri ve parola kasalarına erişim istemesini ciddi bir güvenlik riski olarak değerlendirdi. Stamos, kullanıcıların dijital yaşamlarının büyük bölümünü tek bir yapay zekâ sistemine açmasının sonuçlarına ilişkin uyarıda bulundu. Daha önce araştırmacılar tarafından Muse üzerinde hassas kişisel verileri açığa çıkarabilecek güvenlik açıkları da tespit edilmişti.

Muse Kullanıcıların Kişisel Verilerine Geniş Erişim İstiyor

Meta’nın geliştirdiği Muse, kullanıcılar adına günlük dijital işlemleri gerçekleştirmek için farklı kişisel hesaplara erişebilen bir yapay zekâ ajanı olarak tasarlandı. Sistem, e-posta kutularındaki eski yazışmaları inceleyebiliyor, mesaj geçmişlerini tarayabiliyor ve kullanıcının verdiği izinler doğrultusunda hassas bilgilere ulaşabiliyor. Bu veriler arasında geçmiş ilişkilerle ilgili özel konuşmalar, pasaport numaraları ve diğer kişisel bilgiler bulunabiliyor.

Meta’nın eski güvenlik yöneticisi Alex Stamos, Business Insider’ın aktardığı değerlendirmesinde kullanıcılardan bu kadar geniş erişim izni alınmasını son derece riskli bulduğunu söyledi. Alex Kantrowitz’in Big Technology Podcast programına katılan Stamos, bazı kullanıcıların parola kasalarını dahi Muse’a açtığını belirtti. Böyle bir erişim, yapay zekâ ajanının yalnızca belirli görevleri yerine getirmesinin ötesine geçerek kişinin çok sayıda dijital hesabına ulaşabilmesi anlamına geliyor.

Stamos, bu yaklaşımı “tamamen çılgınca” olarak nitelendirdi. Güvenlik uzmanının temel endişesi, kullanıcıların günlük işlerini kolaylaştırmak amacıyla yapay zekâ sistemlerine gereğinden fazla yetki vermesi ve bu erişimin doğurabileceği sonuçları yeterince değerlendirmemesi.

Kişisel yapay zekâ asistanlarına yönelik ilgi yalnızca Meta ile sınırlı değil. Instinct adlı girişim de kullanıcılar adına günlük işlemleri bağımsız biçimde gerçekleştirebilen ajanlar geliştiriyor. Genç bir araştırma bilim insanı tarafından kurulan şirket, eylül ayında gerçekleştirdiği finansman turunda 1 milyar dolarlık yatırım aldı.

Bu tür ajanların yaygınlaşması finans kuruluşları ve çevrim içi hizmet sağlayıcıları açısından yeni güvenlik sorunları oluşturuyor. Şirketler, gerçek kullanıcıların kendi hesaplarında gerçekleştirdiği işlemlerle yapay zekâ ajanlarının otomatik faaliyetlerini birbirinden ayırmakta zorlanabiliyor. Ajanlar kullanıcıların talimatları doğrultusunda hareket etse de davranış biçimleri otomatik bot faaliyetlerine benzeyebiliyor.

Stamos, Instinct’in popülerleşmesinde otomatik bot tespit sistemlerini aşabilen yöntemler geliştirmesinin etkili olduğunu söyledi. Güvenlik uzmanına göre bu durum, finans kuruluşlarının şüpheli işlemleri belirlemesini zorlaştırırken yapay zekâ ajanlarının mevcut güvenlik mekanizmalarıyla çatışmasına neden oluyor.

Sorunun temelinde, ajanların kullanıcı adına işlem yapabilmek için bazı güvenlik kontrollerini aşması veya bu kontrollerin beklediği insan davranışlarını taklit etmesi bulunuyor. Bu nedenle şirketler, otomatik işlemleri engellemeden kötüye kullanımı tespit edebilecek yeni doğrulama yöntemlerine ihtiyaç duyuyor.

Meta, Muse’un güvenliğine ilişkin açıklamasında sistemin sanal makine üzerinde çalıştığını belirtiyor. Şirket, her kullanıcının ajanının diğer kullanıcıların ajanlarından izole edildiğini ve bu sayede farklı hesaplar arasında doğrudan erişimin engellendiğini savunuyor.

Ancak Meta, hiçbir otomatik sistemin kusursuz olmadığını da kabul ediyor. Şirket, kullanıcılara Muse’un gerçekleştirdiği işlemleri düzenli olarak incelemelerini ve yalnızca güvendikleri erişim izinlerini vermelerini tavsiye ediyor. Bu uyarı, ajanlara tanınan yetkilerin kullanıcı tarafından denetlenmesinin önemini ortaya koyuyor.

Sanal makine izolasyonu, bir ajanın başka bir ajanın çalışma ortamına erişmesini sınırlayabiliyor. Ancak bu yöntem, kullanıcının kendi hesabına verdiği geniş izinlerden veya yazılım açıklarından kaynaklanabilecek bütün riskleri ortadan kaldırmıyor. Özellikle e-posta, mesajlaşma ve parola yönetimi gibi farklı hizmetlerin aynı ajan üzerinden kullanılabilmesi, olası bir güvenlik ihlalinin etkisini genişletebiliyor.

Muse’un güvenliğine ilişkin endişeler yalnızca teorik değerlendirmelerden kaynaklanmıyor. The Information’ın eylül ayında aktardığı araştırmada uzmanlar, saldırganların hassas kişisel verilere ulaşmasına yol açabilecek güvenlik açıkları tespit etmişti. Bu bulguların ardından Meta’nın sistemin savunmasını güçlendirdiği bildirildi.

Ars Technica’nın geçen ay yayımladığı haberde ise araştırmacıların, kullanıcıların mesajlaşma içeriklerini web bağlantıları üzerinden paylaşması durumunda hassas bilgileri açığa çıkarabilecek başka saldırı yöntemleri belirlediği aktarıldı. Bu gelişmeler, yapay zekâ ajanlarının yalnızca kendi çalışma ortamlarında değil, dış bağlantılar ve kullanıcı etkileşimleri üzerinden de güvenlik riski oluşturabileceğini gösteriyor.

Teknoloji içerikleri üreten YouTuber Matt Robb da Muse’un Facebook Marketplace hesabı üzerinden kişisel adresini yabancılarla paylaştığını ve bazı kişilerin bu bilgi üzerinden evine yönlendirildiğini iddia etti. Robb’un açıklaması, ajanların kullanıcı adına gerçekleştirdiği işlemlerin gerçek dünyada da istenmeyen sonuçlar doğurabileceğine ilişkin tartışmaları artırdı.

Muse gibi sistemler, farklı hesapları tek bir arayüzden yöneterek kullanıcıların günlük işlerini kolaylaştırmayı hedefliyor. Ancak bu kolaylık, yapay zekâ ajanlarına verilen erişim izinlerinin kapsamını ve güvenlik denetimlerini daha önemli hâle getiriyor. Kullanıcıların e-posta hesaplarını, parola kasalarını ve finansal bilgilerini aynı sisteme açması, tek bir güvenlik açığının çok sayıda kişisel hizmeti etkileyebileceği bir yapı oluşturuyor.