Yapay zekâ endüstrisinin en büyük sorunlarından biri halüsinasyonlar. Şirketler modellerini daha akıllı hale getirdikçe sistemlerin gerçek dışı çıktılar üretme eğilimi de artıyor.
Yapay Zekâ Neden Hayal Görüyor?
Halüsinasyon terimi yapay zekâ dil modellerinin gerçek olmayan bilgiler üretmesini ifade ediyor. Google ve OpenAI gibi şirketlerin geliştirdiği son nesil akıl yürütme modelleri sorunları çözmek için adım adım düşünme yeteneğine sahip. Fakat bu modeller büyüdükçe halüsinasyon oranları da yükseliyor.
New York Times’ın haberine göre yapay zekâ sistemleri güçlendikçe daha fazla hata yapmaya başlıyor. OpenAI’ın geçen ay piyasaya sürdüğü o3 ve o4-mini modelleri önceki versiyonlara göre çok daha fazla halüsinasyon üretiyor. O4-mini modeli şirketin doğruluk testlerinde %48 oranında hayali cevaplar verdi. O3 modelinde bu oran %33 olarak ölçüldü.
Google ve DeepSeek gibi rakip firmaların modelleri de benzer sorunlarla karşı karşıya. Bu durum halüsinasyon probleminin sektör genelinde yaygın olduğunu gösteriyor. Uzmanlar yapay zekâ modelleri büyüdükçe her yeni sürümün avantajlarının azalabileceği konusunda uyarıyor. Şirketler eğitim verileri tükendikçe sentetik verilere yöneliyor. Yapay zekâ tarafından üretilen bu verilerin modelleri eğitmek için kullanılması ise daha büyük sorunlara yol açabilir.
Bazı uzmanlara göre bu sorun yapay zekânın doğasında var. Vectara CEO’su Amr Awadallah halüsinasyonların asla tamamen ortadan kalkmayacağını söylüyor. Okahu firmasının kurucularından Pratik Verma ise bu hataların düzeltilmemesi durumunda yapay zekâ sistemlerinin değerinin sıfıra ineceğini belirtiyor.
Şirketler halüsinasyonları azaltmak için çözümler arıyor ancak şimdilik sorun giderek büyüyor. Yapay zekânın geleceği için bu problemin çözülmesi büyük önem taşıyor.
