Yeni Araştırma ChatGPT’nin İnsanlara Karşı Önyargılı Olduğunu Ortaya Koydu
Yayınlanan yeni bir çalışma, en çok kullanılan dil modellerinin insanlara karşı belirgin bir önyargı sergilediğini ortaya çıkardı. Araştırmacılar, “yapay zekâ-yapay zekâ önyargısı” adını verdikleri bu durumun, gelecekte insanların sistematik olarak dışlanmasına yol açabileceğini söylüyor.
Yapay Zekâlar, Kendi Ürettikleri Metinleri Tercih Ediyor
Çalışma, Proceedings of the National Academy of Sciences dergisinde yayınlandı. Bilim insanları, GPT-3.5, GPT-4 ve Meta’nın Llama 3.1-70B modellerini farklı testlere tabi tuttu. Modellerden ürün, film veya bilimsel makale seçimleri yapmaları istendi. Her seçenekte insan yazımı ve yapay zekâ yazımı iki ayrı açıklama sunuldu.
Araştırmaya göre, yapay zekâ modellerinin sürekli olarak yapay zekâ tarafından üretilen açıklamaları tercih ettiği ortaya çıktı. Araştırma ekibi, bu durumun insanlara karşı kayda değer bir ayrımcılık riski yarattığını belirtiyor. Özellikle GPT-4, bu alanda en güçlü önyargıyı sergileyen model oldu.
Ekip, aynı testleri 13 insan araştırmacıyla da gerçekleştirdi. İnsan katılımcılar yapay zekâ içeriklerini kısmen tercih etse de bu fark oldukça düşük kaldı. Bilim insanları, güçlü önyargının yalnızca dil modellerinde görüldüğünü belirtti.
Uzmanlar, yapay zekâya duyulan bu eğilimin yalnızca içerik seçimlerinde değil iş hayatında da sorun çıkarabileceğini düşünüyor. Şirketler iş başvurularını otomatik sistemlerle tararken yapay zekâ tarafından hazırlanmış özgeçmişler insan yazımı belgelerin önüne geçebiliyor.
Araştırmacılar, ilerleyen dönemde yapay zekâ destekli sistemlerin burs başvurularından akademik değerlendirmelere kadar birçok alanda benzer önyargılar sergileyebileceğini öngörüyor. Bu durum, ekonomik ve sosyal eşitsizlikleri artırabilir.
Bilim insanlarına göre yapay zekâ-yapay zekâ önyargısı, ileri teknolojiye erişimi olanlar ile olmayanlar arasında yeni bir uçurum yaratabilir. Araştırmacılar, yalnızca en güncel dil modellerine erişebilenlerin avantaj elde edeceğini, diğerlerinin ise sistematik biçimde dezavantaj yaşayacağını belirtiyor.
