OpenAI araştırmacıları, yapay zekâ modellerinin yanlış bilgi üretmesine yol açan temel sorunun eğitim yöntemlerinden kaynaklandığını açıkladı. Şirket, bugüne kadar izlenen yaklaşımın ciddi bir hata olduğunu kabul etti.
Değerlendirme Yöntemleri Sorunu Derinleştiriyor
OpenAI’nin yayımladığı makaleye göre büyük dil modelleri yanıt üretirken bilmedikleri sorularda tahmin yapmaya yönlendiriliyor. Modeller, doğru yanıt verdiklerinde ödüllendiriliyor, yanlış yanıt verdiklerinde cezalandırılıyor. Ancak “bilmiyorum” yanıtı her zaman hatalı sayıldığı için sistemler tahminde bulunmayı öğreniyor. Bu durum modellerin uydurma bilgiler paylaşmasına yol açıyor.
Şirketin açıklamasına göre yapay zekâ performansı ölçülürken modeller yalnızca doğruluk oranına göre sıralanıyor. Yanlış cevaplar ile soruya cevap vermemek aynı şekilde değerlendiriliyor. Bu yaklaşım, sistemleri tahmin yapmaya teşvik ediyor. OpenAI, bu yapısal hatanın yalnızca kendi modellerinde değil sektördeki diğer şirketlerin ürünlerinde de görüldüğünü belirtti.
Araştırmacılar ise bu problemi çözmek için basit bir yöntem önerdi. Modele hatalı fakat emin görünen cevaplar verdiğinde daha fazla ceza verilmeli, belirsizliğini dile getirdiğinde ise kısmen ödüllendirilmelidir. Böylece tahminle üretilen yanlış bilgiler yerine daha temkinli cevapların önü açılabilir. Şirket, yeni değerlendirme ölçütlerinin dil modellerini daha güvenilir hâle getireceğini savundu.
OpenAI son modelinin daha az hata yaptığını iddia etse de kullanıcılar sonuçlardan tatmin olmadı. Uzmanlara göre sorun köklü bir şekilde çözülmediği sürece endüstri milyarlarca dolarlık yatırımı haklı çıkarmakta zorlanacak. Yapay zekâ şirketlerinin, yüksek enerji tüketimi ve çevresel etkiler nedeniyle de baskı altında olduğu biliniyor.
