Meta’nın geliştirdiği yapay zekâ projelerine dair ortaya çıkan belgeler, şirketin güvenlik sınırlarını oldukça esnek tuttuğunu gösterdi. Reuters tarafından yayımlanan rapora göre Meta, sohbet robotlarının yanlış tıbbi bilgiler üretmesine engel olmayarak ciddi bir tartışmayı gündeme taşıdı.
Meta’nın İç Belgeleri Tartışma Yarattı
Ortaya çıkan 200 sayfalık belgede mühendisler için hazırlanan kurallar yer aldı. Bu kuralların Meta’nın hukuk, mühendislik ve politika ekipleri tarafından onaylandığı belirtildi. Belgede yapay zekâ sistemlerinin romantik sohbetlerden yanlış sağlık bilgilerinin paylaşılmasına kadar birçok konuda serbest bırakıldığı görüldü.
Araştırmada en dikkat çekici maddelerden biri, sohbet robotlarının tıbbi yanlış bilgileri üretmesinin “kabul edilebilir” sayılması oldu. Aşıların otizme yol açtığı ya da kanserin alternatif diyetlerle iyileşeceği yönündeki yanlış ifadelerin üretilebildiği ortaya çıktı.
Belgelerde yalnızca sağlık değil ırk temelli önyargıları içeren yanıtların da kabul edildiği görüldü. IQ testleri üzerinden ırklar arasında hiyerarşi kuran ifadelerin Meta tarafından engellenmediği anlaşıldı. Şirketin iç yönergelerinde, ırkçı ifadeler isim hakaretine dönüşmediği sürece sohbet robotları tarafından üretilebiliyor.
Yapay Zekâ Sistemleri Kullanıcıları Sağlık Alanında Yanlış Yönlendirdi
Geçtiğimiz temmuz ayında Annals of Internal Medicine dergisinde yayımlanan bir araştırma bu durumu doğruladı. Çalışmada Meta’nın Llama modeli, Google’ın Gemini’si, OpenAI’nin ChatGPT’si ve xAI’nin Grok sistemi tıbbi yanlış bilgileri on farklı denemenin tamamında üretti. Bu yanlış bilgilerin arasında HIV’in havadan bulaştığı, 5G’nin kısırlık yaptığı gibi asılsız iddialar yer aldı.
Araştırmanın baş yazarı Prof. Natansh Modi, bu sistemlerin güvenilir bir dil kullanarak yanlış yönlendirme yaptığını belirtti. Modi, bu teknolojilerin yanlış bilgiyi daha ikna edici ve denetlenmesi zor bir şekilde yayabileceğini söyledi.
Meta’nın CEO’su Mark Zuckerberg’in şirket politikalarına dair bu belgelerden habersiz olduğu ihtimali zayıf görünüyor. Şirket içi kaynaklar Zuckerberg’in projelerde aşırı detaycı bir tutum benimsediğini aktarıyor. Belgelerin onayı üst yönetimin bilgisi olmadan verilmiş olsa bile uzmanlar bu durumun sorumluluğu ortadan kaldırmadığını düşünüyor. Ortaya çıkan belgeler, yapay zekâ şirketlerinin hız ve kâr uğruna güvenlik kaygılarını geri plana attığını bir kez daha gözler önüne serdi.
