Kurumsal Yapılarda Yönetim Eksikliği Yapay Zekâ Gelişimini Tehdit Ediyor

Kuruluşlar, yapay zekâ tabanlı çözümleri hızla uygulamaya alırken yönetim süreçlerinde büyük açıklar bırakıyor. Trustmarque tarafından yayımlanan yeni rapor, şirketlerin teknolojiyi kullanma hızının, denetim ve yönetişim kabiliyetlerinin önüne geçtiğini ortaya koydu.

Geliştirme Süreçleri Yeni Risklere Uyum Sağlayamıyor

Rapor, şirketlerin büyük bölümünün yapay zekâ tabanlı sistemleri hâlâ geleneksel yazılım geliştirme anlayışıyla yönettiğini gösterdi. Araştırmaya katılan şirketlerin %93’ü bir şekilde yapay zekâ kullanıyor ancak yalnızca %7’si kapsamlı bir yönetim çerçevesi oluşturmuş durumda. Geri kalan firmalarda ya hiç yönetişim uygulanmıyor ya da süreç çok sınırlı tutuluyor. Yazılım geliştirme yaşam döngüsüne entegre edilmiş yapay zekâ yönetişimi olan şirket oranı yalnızca %8’de kaldı. Çoğu firma süreci parça parça yönetiyor ya da doğrudan ihtiyaç doğdukça müdahale ediyor.

Yapay zekâ sistemleri doğal olarak önyargı, yanlış veya beklenmedik çıktılar gibi riskler barındırıyor. Bu durumlara karşı alınan önlemler yetersiz kalıyor. Şirketlerin %28’i test aşamasında önyargı tespiti yapıyor. Sadece %22’si model yorumlanabilirliğini sınamak için özel testler uyguluyor. Geliştiriciler, bazı güvenlik kontrolleri gerçekleştirse de denetim sistemleri yeterince yaygın değil. Sürekli izleme sistemleri uygulayan şirket oranı %18 ile sınırlı kaldı.

Altyapı ve Ekipman Yetersizliği Süreçleri Zorluyor

Araştırmada, yapay zekâ sistemlerini ölçekli bir biçimde destekleyebilecek altyapıya sahip olduğunu belirten şirket oranı sadece %4 olarak açıklandı. Model sürüm kontrolü, denetim kayıtları ve model kayıtları gibi temel süreçlerin çoğu şirkette ya manuel yürütülüyor ya da tamamen eksik bırakılıyor.

Trustmarque Yapay Zekâ Başkanı Seb Burrell, şirketlerin yönetim süreçlerinde yeterli ilerleme kaydedemediğini belirtti. Geliştirme ekiplerinin uygun araçlardan yoksun olduğunu, karar verici pozisyonlardaki yöneticilerin ise güçlü bir yönetişim sistemi kurma konusunda gereken ilgiyi göstermediğini söyledi.

Araştırmaya göre yalnızca %9 oranında şirket, BT liderliği ile yönetim süreçlerini aynı çatı altında buluşturabilmiş durumda. %19’u ise yönetişim faaliyetleri için kimin sorumlu olduğunu belirlememiş. Yönetişim çoğunlukla birim bazında yürütülüyor. Stratejik düzeyde yönlendirme ve kurum çapında iş birliği ise oldukça zayıf. Şirketlerin sadece %20’si işlevler arası bir yönetişim grubu kurmuş. Hukuk, etik ve insan kaynakları departmanları gibi birimler genellikle sürece yalnızca gerektiğinde dahil ediliyor.

Trustmarque’ın raporunda şirketlere, yapay zekâ stratejilerini iş hedefleriyle uyumlu hâle getirme, yönetişimi geliştirme süreçlerine entegre etme ve altyapı ile insan kaynağına yatırım yapma çağrısı yapıldı. Hesap verebilirliğin sadece teknik ekiplerin değil tüm birimlerin ortak sorumluluğu olması gerektiği vurgulandı.

Burrell, yönetişim eksikliğinin sadece uyumluluk sorunu olmadığını, aynı zamanda gizlilik ihlalleri, operasyonel dengesizlik ve güven kaybı gibi ciddi sonuçlara yol açabileceğini ifade etti. Şirketlerin uzun vadeli direnç ve itibar inşa etmek için yönetişimi stratejik öncelik hâline getirmesi gerektiğini belirtti.