Huawei Yöneticisi Yapay Zekâ Halüsinasyonlarını Kabul Etmemiz Gerektiğini Söyledi
Huawei Connect 2025 etkinliğinde şirketin kalite, iş süreçleri ve bilişim teknolojileri bölümünden sorumlu yönetici Tao Jingwen, yapay zekâ teknolojilerinde en çok tartışılan konulardan biri olan halüsinasyonlar hakkında dikkat çeken açıklamalarda bulundu. Tao, hatalı çıktılar üreten bu durumların yalnızca bir sorun olarak değil, aynı zamanda teknolojinin gelişiminin ayrılmaz bir parçası olarak görülmesi gerektiğini ifade etti.
Yapay Zekâ Halüsinasyonları Kaçınılmaz Bir Durum Olarak Görülüyor
Generatif yapay zekâ çözümleri zaman zaman hatalı bilgiler üretiyor. Özellikle kamuya açık sohbet robotlarında ortaya çıkan bu hatalar, yanlış yönlendirmelere yol açabiliyor. Hukuk alanında yaşanan örnekler, yanlış kararların gündeme gelmesine sebep olmuştu. Şirketler ise kendi verileriyle eğitilmiş özel dil modellerinin bu hataları azaltabileceğini düşünse de uzmanlar hâlâ kontrol mekanizmalarının zorunlu olduğuna dikkat çekiyor.
Etkinlikte konuşan Tao Jingwen, üretim sektörünün yapay zekâyı iş süreçlerine entegre ederken karşılaştığı zorluklara değindi. Tao, halüsinasyonların ve yapay zekânın kara kutu yapısının işletmeler için öngörülebilirlik ve güven sorunları oluşturduğunu dile getirdi. Ancak ona göre bu hatalar olmadan yapay zekâ bugün olduğu noktaya ulaşamazdı. Tao, hataların tamamen ortadan kaldırılmasının gerçekçi olmadığını, asıl önemli olanın onları kontrol altına alacak yöntemler geliştirmek olduğunu söyledi.
Tao, üretim alanında onlarca yıl boyunca dijitalleşme ve otomasyon süreçlerinin geliştiğini hatırlattı. Buna rağmen yapay zekânın mevcut sistemlerle uyumlu hale getirilmesinin kolay olmadığını vurguladı. İşletmelerin başarılı bir entegrasyon için iş birliği içinde hareket etmesi gerektiğini belirten Tao, farklı departmanların ortak çalışma kültürü geliştirmesinin önemine dikkat çekti.
4 eylül 2025’te yayımlanan bir araştırmada, Open AI’ın uzmanları dil modellerinde halüsinasyonların temel bir sorun olduğunu açıkladı. Araştırmada, daha dar kapsamlı veri setleriyle eğitilmiş modellerin hataları azaltabileceği, ancak bu durumun tamamen ortadan kalkmayacağı belirtildi. Bu nedenle işletmelerin, hataları yok etmeye çalışmak yerine onları yönetebilecek çözümler üzerinde durması gerektiği ifade edildi.
