OpenAI’nin kısa süre önce yayımladığı bir makale, yapay zekâ modellerinin neden hâlâ hatalı cevaplar verdiğine ışık tuttu. Şirket, değerlendirme yöntemlerinin modelleri doğru cevap yerine tahmine yönlendirdiğini kabul etti. Ancak önerilen çözüm yöntemlerinin sektör için ağır sonuçlar doğurabileceği ifade edildi.
Yapay Zekâya Getirilen Çözüm Önerileri Tartışma Yarattı
OpenAI, modellerin yanlış bilgileri güvenle sunmasını engellemek için hata oranlarını farklı şekilde cezalandırmayı önerdi. Bu yaklaşım, belirsizliği ifade eden cevaplara kısmen kredi verilmesini içeriyor. Fakat Sheffield Üniversitesi öğretim üyesi Wei Xing, yayımladığı değerlendirmede bu çözümün iş dünyası için ciddi riskler taşıdığını açıkladı.
Xing’e göre yapay zekâdan yanıt bekleyen kullanıcılar kararlı ve net cevaplar görmek istiyor. Bir modelin yüzde 30 oranında “bilmiyorum” yanıtı vermesi kullanıcıları hızla uzaklaştırabilir. İnsanlar, yanlış olsa bile güvenle verilen açıklamaları tercih ediyor. Bu durum şirketlerin önerilen çözümü benimsemesini zorlaştırıyor.
Yanıltıcı cevapların azaltılması için modellerin daha fazla işlem yapması gerekiyor. Her soruda farklı cevap seçeneklerinin değerlendirilmesi, maliyetleri ciddi biçimde artırıyor. Günlük milyonlarca sorguyu işleyen şirketler için bu durum, operasyon giderlerini katlayarak büyütebilir. Zaten milyarlarca dolar yatırım yapan firmalar, gelirlerini henüz karşılayamıyor.
Xing, finans ya da sağlık gibi kritik alanlarda belirsiz cevapların tercih edilebileceğini söyledi. Çünkü yanlış bilgi burada çok daha ağır sonuçlar doğuruyor. Buna rağmen tüketiciye dönük ürünlerde şirketler net cevaplar sunmaya devam ediyor. Bu yaklaşım, hatalı bilgilerin önüne geçilmesini engelliyor.
Uzmanlar, mevcut ekonomik düzen değişmediği sürece yapay zekâdaki yanıltıcı cevapların süreceğini düşünüyor. Firmalar, kullanıcı ilgisini korumak için kesin açıklamalar yapmayı sürdürüyor. Böylece yanlış cevap verme riski de sistemlerin ayrılmaz parçası olmaya devam ediyor.
