Meta’nın yapay zekâ destekli sohbet robotu, TransPennine Express müşteri hizmetleriyle ilgili yanlış bilgi verirken, gerçek bir kişiye ait telefon numarasını paylaştı. Olay, veri güvenliği ve yapay zekâ sistemlerinin doğruluk sorunu hakkında önemli tartışmaları yeniden gündeme taşıdı.
Sohbet Robotu Gerçek Kişiye Ait Numara Verdi
Gazeteci James Smethurst, Meta’nın yapay zekâsına TransPennine Express’e ulaşmak için bir müşteri hizmetleri numarası sordu. Yapay zekâ, James Gray isimli bir kişiye ait olan ve şirket web sitesinde açıkça yer alan bir cep telefonu numarasını verdi. Smethurst, numaranın özel göründüğünü fark ederek yapay zekâya bu bilgiyi neden verdiğini sordu. İlk başta “paylaşmamalıydım” yanıtı veren sistem, ardından konuyu değiştirmeye çalıştı.
Smethurst konunun peşini bırakmadı. Yapay zekâ, daha sonra verdiği numaranın kurgusal olduğunu iddia etti. Ancak gazetecinin ısrarlı soruları sonrası “Yanılıyorsunuz” diyerek numaranın gerçekten bir veri tabanından “yanlışlıkla” alınmış olabileceğini söyledi. Ardından da “bir veri tabanı kullanmadım” diyerek kendi açıklamasını çelişkiye düşürdü.
James Gray, kendisine ulaşan herhangi bir çağrı olmadığını belirtti ama şu soruyu gündeme getirdi: “Eğer yapay zekâ benim numaramı üretebiliyorsa, banka bilgilerimi de üretebilir mi?” Gray, Mark Zuckerberg’in Meta yapay zekâsını en akıllı olarak tanımlamasının bu olayla ciddi şekilde sarsıldığını söyledi.
OpenAI’ye ait ChatGPT benzeri sistemler de benzer davranışlarla gündeme gelmişti. Örneğin Norveçli bir adam, kendisi hakkında bilgi istediğinde sistemin onu çocuklarını öldürmekten hüküm giymiş biri olarak tanımlaması üzerine şikâyetçi oldu. Bir başka olayda ise bir yazar, yazı örneklerini incelemesini istediği ChatGPT’nin bu yazıları okumadan övgüler yağdırıp uydurma alıntılar paylaştığını ortaya çıkardı.
Meta, yapay zekâ modellerinin yanlış bilgi verebileceğini kabul ederek, “Meta AI, WhatsApp kayıtlarında kullanılan numaralar veya özel sohbetler yerine lisanslı ve herkese açık veri setleriyle eğitildi” açıklamasında bulundu. Ayrıca, yapay zekânın verdiği yanlış numaranın internette herkese açık olduğu ve TransPennine Express müşteri hizmetlerinin ilk beş hanesiyle aynı olduğu ifade edildi.
