Şirket Yöneticileri Yapay Zekâ Çıktılarını Başka Bir Yapay Zekâyla Doğruluyor

Şirket yöneticileri, yapay zekâ tarafından üretilen bilgileri doğrulamak için başka yapay zekâ araçlarına başvuruyor. GWI araştırmasına göre iş dünyası liderlerinin yüzde 81’i yapay zekâyı günlük işlerinde kullanırken yüzde 56’sı hatalı veya yanıltıcı bir yapay zekâ çıktısına dayanarak önemli bir karar aldı. Araştırma, yöneticilerin yanlış bilgilerin sonuçlarını bilmesine rağmen doğrulama süreçlerinde yine yapay zekâya güvenmesinin yeni riskler doğurduğunu ortaya koyuyor.

Yanlış Yapay Zekâ Çıktıları Şirketlere Finansal Kayıplar Yaşatıyor

GWI tarafından gerçekleştirilen araştırma, yapay zekânın iş dünyasında yaygınlaşmasına rağmen üretilen bilgilerin doğruluğuna ilişkin sorunların sürdüğünü gösteriyor. Birleşik Krallık’taki yöneticilerin yüzde 81’i teknolojiyi günlük iş akışlarında kullanıyor. Ancak katılımcıların yüzde 56’sı, sonradan yanlış veya yanıltıcı olduğu anlaşılan yapay zekâ analizlerine dayanarak önemli bir iş kararı verdiğini belirtiyor.

Hatalı analizlerin şirketlerde yarattığı sonuçlar yalnızca karar süreçleriyle sınırlı kalmıyor. Katılımcıların yaklaşık yüzde 40’ı kurum içinde yeniden çalışma ihtiyacı doğduğunu, yüzde 36’sı kararların geciktiğini, yüzde 35’i ise müşteri şikâyetleriyle karşılaştığını bildiriyor. Bazı şirketler için yanlış bilgiye dayalı kararların etkisi finansal ve kurumsal itibar kayıplarına kadar uzanıyor.

Araştırmaya katılan yöneticilerin yüzde 26’sı hatalı yapay zekâ çıktıları nedeniyle finansal kayıp yaşadığını söylüyor. Katılımcıların yüzde 24’ü itibarlarının zarar gördüğünü, yüzde 20’si ise pazarlama kampanyalarının performansının gerilediğini ifade ediyor. Bu veriler, yapay zekâ analizlerindeki doğruluk sorunlarının şirketlerin operasyonel süreçlerinin yanı sıra ticari sonuçlarını da etkileyebildiğini ortaya koyuyor.

GWI araştırması, şirket yöneticilerinin yapay zekâ kaynaklı riskleri büyük ölçüde bildiğini gösteriyor. Katılımcıların yüzde 84’ü kurumlarında hatalı yapay zekâ çıktılarının en az bir olumsuz sonucunu gördüğünü belirtiyor. Aynı orandaki yönetici, yanlış yapay zekâ analizlerine dayalı kararların önemli bir risk oluşturduğunu düşünüyor.

GWI Kurucusu ve Üst Yöneticisi Tom Smith, yapay zekânın güvenilirliğinin beslendiği verilerin niteliğine bağlı olduğunu vurguluyor. Smith’e göre yapay zekâ yatırımlarında hızlı ilerleyen şirketler, insan değerlendirmesini iş zekâsı süreçlerine yeterince dahil edemediğinde hatalı sonuçlarla karşılaşabiliyor. Yönetici, yapay zekânın yanlış bilgi sunduğunda da doğru bilgi kadar kendinden emin bir dil kullanabildiğini belirtiyor.

Veri güncelliği de şirketlerin karşılaştığı temel sorunlardan biri olarak öne çıkıyor. Araştırmaya katılan yöneticilerin üçte ikisi, güncelliğini yitirmiş veri veya analizlere farkında olmadan dayanarak karar aldığını söylüyor. Katılımcılar, çalışma arkadaşlarının da benzer hatalar yaptığını düşünüyor. Böylece yanlış veya eski bilgilerin kurum içinde yayılması, karar süreçlerinin güvenilirliğini daha da zayıflatabiliyor.

Yapay zekâ tarafından oluşturulan bilgilerin doğrulanması, yöneticiler için tekrarlanan bir sorun hâline geliyor. Araştırmaya göre katılımcıların yalnızca yüzde 29’u yapay zekâ çıktılarının doğruluğunu çoğu zaman kontrol ediyor. Yüzde 31’lik kesim ise doğrulama işlemini yalnızca ara sıra gerçekleştiriyor.

Araştırmanın en dikkat çekici sonuçlarından biri, yöneticilerin yüzde 36’sının bir yapay zekâ aracından aldığı yanıtı başka bir yapay zekâ sistemiyle karşılaştırması. İlk bakışta ek bir kontrol yöntemi gibi görünen bu yaklaşım, kaynak verilerdeki hataların ikinci sisteme de taşınması veya farklı hatalı yanıtların yeni bir belirsizlik yaratması riskini barındırıyor. İki sistemin aynı yanlış varsayıma dayanması hâlinde karşılaştırma işlemi, bilginin doğruluğunu güvenilir biçimde kanıtlamıyor.

GWI, şirketlerin bu sorunu çözebilmesi için daha güçlü yapay zekâ yönetişimi oluşturması ve doğrulama standartlarını iş süreçlerine yerleştirmesi gerektiğini belirtiyor. Ancak araştırma, kurumların bu alanda henüz yeterli ilerleme kaydetmediğine işaret ediyor. Katılımcıların yalnızca yüzde 27’si, kullandıkları verilerin yöntemsel açıdan savunulabilir ve izlenebilir olmasını öncelikli hedef olarak görüyor.

Yapay zekâ destekli bir kararın yanlış çıkması durumunda sorumluluğun kime ait olduğu konusunda şirket yöneticileri farklı görüşler taşıyor. Araştırmaya katılanların yüzde 34’ü sorumluluğun taraflar arasında paylaşılması gerektiğini düşünüyor. Katılımcıların yüzde 23’ü kurumu, yüzde 22’si yapay zekâ sağlayıcısını, yüzde 20’si ise çıktıyı kullanan çalışanı sorumlu tutuyor.

Smith, kurumsal yapay zekâ politikalarının tek başına hesap verebilirlik sağlamadığını savunuyor. Yöneticiye göre şirketlerin hangi verilerle karar aldığını bilmesi, şüpheli sonuçları sorgulaması ve analizleri güncel, temsil gücü yüksek insan verileriyle desteklemesi gerekiyor. Yapay zekâ yönetişimi, yalnızca kullanım kurallarını belirlemekle kalmamalı; kararların dayandığı kaynakları da izlenebilir hâle getirmeli.

Yapay zekâ çıktılarının doğruluğuna ilişkin endişeler farklı meslek gruplarında da gündeme geliyor. ISC2 tarafından bu yıl gerçekleştirilen bir başka araştırmada, siber güvenlik uzmanlarının yüzde 63’ü doğruluk kaygıları nedeniyle yapay zekâ çıktılarını sık sık gözden geçirdiğini ve doğruladığını belirtti. Katılımcıların onda dokuzu ise yapay zekânın önerdiği işlemlerin yanlış sonuçlara yol açtığını bildirdi.

GWI ve ISC2 araştırmaları, yapay zekânın iş süreçlerine entegrasyonunun insan denetimi ihtiyacını ortadan kaldırmadığını gösteriyor. Şirketlerin güvenilir kararlar alabilmesi için yalnızca farklı yapay zekâ araçlarından yanıt toplaması yeterli değil. Kurumların veri kaynaklarını doğrulaması, güncelliği kontrol etmesi ve kritik kararları insan değerlendirmesiyle desteklemesi gerekiyor.