Yapay Zekâ Ajanlarına Duyulan Güvensizlik Şirketlere Pahalıya Mal Oluyor

Capgemini’nin yeni raporuna göre ajan tabanlı yapay zekâ çözümleri, önümüzdeki üç yıl içinde 450 milyar dolarlık ekonomik değer yaratabilir. Ancak kurumların yalnızca yüzde 2’si bu teknolojiyi geniş çapta kullanmaya başladı.

Ajan Tabanlı Yapay Zekâda Güven Sorunu Öne Çıkıyor

İş dünyasındaki yöneticiler bu teknolojinin rekabet avantajı sunacağına inanıyor. Ankete katılan liderlerin yüzde 93’ü, önümüzdeki 12 ay içinde ajan tabanlı yapay zekâyı ölçeklendirmenin şirketlerine ciddi fayda sağlayacağını düşünüyor. Fakat bu inanç, uygulamaya dönüşmüyor.

Capgemini, işletmelerin büyük çoğunluğunun hâlâ planlama aşamasında olduğunu ortaya koydu. Pilot projelere başlayanların oranı yüzde 23’ü geçmezken uygulama sürecine geçenlerin oranı sadece yüzde 14. Neredeyse yarısının ise net bir uygulama stratejisi dahi bulunmuyor.

Bugün devreye alınan ajan sistemlerinin çoğu yarı otonom düzeyde çalışıyor. Capgemini’nin verilerine göre, iş süreçlerinin sadece yüzde 15’i yarı veya tam otonom düzeyde ilerliyor. Bu oranın 2028’de yüzde 25’e çıkması bekleniyor. Ancak şimdilik ajanlar sadece destekleyici görevler üstleniyor ve bağımsız karar alma kabiliyeti sınırlı kalıyor.

Yöneticilerin büyük bölümü, insan denetiminin maliyetine rağmen hâlâ daha güvenli ve etkili olduğunu düşünüyor. Katılımcıların yüzde 74’ü insan müdahalesinin faydalarının maliyetine değdiğini belirtiyor. Geçen yıla kıyasla tam otonom sistemlere duyulan güven de azaldı. 2023’te yüzde 43 olan güven oranı, bu yıl yüzde 27’ye geriledi.

İlk aşamada ajanlara kuşkuyla yaklaşan yöneticiler, uygulama sürecine geçtikçe daha fazla güven duyuyor. Uygulama aşamasında olan kuruluşların yüzde 47’si ajanlara yüksek düzeyde güvendiğini belirtirken bu oran keşif aşamasındaki kurumlarda yüzde 37 seviyesinde kalıyor. Bu durum, ajan sistemlerinin potansiyelini ortaya çıkarmak için kurum içi deneyimin ve sonuçların önemini gösteriyor. İnsan-ajan iş birlikleri önümüzdeki yıl birçok işletmenin öncelikleri arasında yer alabilir.

Şirketlerin yüzde 60’tan fazlası önümüzdeki 12 ay içinde insan-ajan ekipleri oluşturmayı planlıyor. Bu yaklaşım, insan becerilerinin ajan desteğiyle güçlendirilmesini hedefliyor. Rapora göre bu yapı sayesinde yüksek değerli görevlerde insan katılımında yüzde 65, yaratıcılıkta yüzde 53 ve çalışan memnuniyetinde yüzde 49 artış bekleniyor.

Capgemini teknoloji portföyü başkanı Franck Greverie’ye göre başarıya ulaşmak isteyen şirketlerin teknolojiye değil sonuca odaklanması gerekiyor. Etik ve güvenliğe dayalı bir altyapı kurulmadan ajanların etkin biçimde entegre edilmesi mümkün görünmüyor.

Raporda yer alan değerlendirmelere göre, şirketlerin ajan teknolojilerinden tam verim alabilmesi sadece teknik altyapıya değil organizasyonel dönüşüme de bağlı. Çalışan rolleri, iş süreçleri ve kurumsal sistemler yeniden düzenlenmeden geniş ölçekli kullanım mümkün olmuyor. Greverie, kurumların yapay zekâ projelerinde güveni ön planda tutması gerektiğini ifade etti. Ajanların sorumlu şekilde geliştirilmesi ve etik kuralların işin içine baştan dahil edilmesinin şart olduğunu söyledi.