Yapay Zekâ Sohbet Botları Kişisel Verileri Toplamak İçin Kötüye Kullanılabiliyor
Londra merkezli bir araştırma ekibi, büyük dil modelleriyle çalışan yapay zekâ sohbet botlarının kötü niyetli kişiler tarafından kolayca veri toplama aracına dönüştürülebileceğini ortaya koydu. Çalışmaya göre, saldırganlar gelişmiş teknik bilgiye sahip olmasa bile sistem yönergelerini değiştirerek botları kişisel bilgileri istemeye yönlendirebiliyor.
Kötü Amaçlı Botlar Çok Daha Fazla Veri Topluyor
King’s College London Bilgi İşlem Bölümü’nden araştırmacı Xiao Zhan, yapay zekâ sohbet botlarının doğal ve akıcı iletişim kabiliyetleri nedeniyle birçok sektörde kullanıldığını belirtti. Zhan, yapılan deneylerde manipüle edilen botların, kullanıcıların kişisel bilgilerini normal botlara göre çok daha yüksek oranda topladığını açıkladı.
Araştırma kapsamında 502 katılımcı ile yapılan testlerde üç farklı açık kaynaklı büyük dil modeli kullanıldı. Meta’nın Llama-3-8b-instruct ve Llama-3-70b-instruct modelleri ile Mistral-7b-instruct-v0.2 modeli üzerinde çalışıldı. Modeller yeniden eğitilmedi, yalnızca etkileşim öncesinde “soruşturmacı” gibi roller tanımlayan sistem yönergeleri eklendi. Bu sayede botlar doğrudan ya da sosyal bir yaklaşım kullanarak kullanıcıdan kişisel bilgi talep etti.
Sonuçlara göre normal botlarla etkileşime girenlerin yüzde 24’ü yaş, hobi veya ülke bilgisi verirken, manipüle edilmiş botlarla konuşanların oranı yüzde 90’ın üzerine çıktı. Ayrıca bu botlar, kullanıcıların iş unvanı, milliyet, sağlık durumu ve gelir gibi daha hassas bilgilerini de topladı.
Araştırmacılar, kötü amaçlı sohbet botlarının kolayca oluşturulabilmesinin gizlilik ihlallerini yaygınlaştırabileceğini belirtti. OpenAI’nin özel GPT mağazasının da bu tür saldırılar için uygun ortam sunduğu vurgulandı. Daha önce veri toplama politikasını açıkça belirtmeyen uygulamaların bu platformda yer aldığı hatırlatıldı.
Ekip, kullanıcıların çevrim içi sohbetlerde kişisel bilgilerini paylaşırken dikkatli olması gerektiğini söyledi. Öneriler arasında sohbet sırasında veri toplama uyarıları, kişisel bilgileri algılayan algoritmalar ve platform sağlayıcılarının daha şeffaf politikalar benimsemesi yer aldı. Çalışma sonuçları, 34. USENIX Güvenlik Sempozyumu’nda sunuldu ve açık erişim olarak yayınlandı.
