Kurumsal şirketler, yapay zekâ yatırımlarını artırmak istese de uygulamaya geçişte ciddi engellerle karşılaşıyor. Chatterbox Labs CEO’su Danny Coleman ile CTO’su Stuart Battersby, bu sorunun temelinde güvenlik açıkları ve eksik test süreçlerinin yer aldığını söylüyor. Bir internet sitesine açıklama yapan iki yöneticiye göre, firmalar yapay zekâyı yalnızca deneme aşamasında tutuyor ve bir türlü üretim ortamına geçemiyor.
McKinsey’nin ocak ayında yayınladığı rapora göre şirketler yapay zekâya büyük ilgi gösteriyor ancak kullanım oranı yüzde 10 seviyelerinde kalıyor. Coleman, bu durumun hem işletmeler hem de toplum için ciddi riskler oluşturduğuna dikkat çekiyor. Ona göre, yöneticiler bu teknolojinin etkilerini anlamakta zorlanıyor ve güvenlik önlemleri yeterince uygulanmadığı sürece ilerleme sağlanamıyor.
Yapay Zekâ Güvenliği İçin Sürekli Test Şart
Stuart Battersby, kurumların yapay zekâyı güvenle kullanabilmesi için sürekli test yapılan bir sisteme ihtiyaç duyduğunu vurguluyor. Şirketlerin öncelikle kendi kullanım alanlarına özel olarak neyin güvenli olduğunu belirlemesi gerektiğini söylüyor. Ardından da hem model geliştiricilerinin hem de güvenlik sağlayıcılarının iddialarına körü körüne güvenilmemesi gerektiğini belirtiyor.
Coleman’a göre, geleneksel siber güvenlik yaklaşımları yapay zekâya uyum sağlayamıyor. Bilgi güvenliği ekiplerinin büyük bölümü, yapay zekânın yeni saldırı yüzeylerini tanımakta zorlanıyor. Cisco’nun Robust Intelligence’ı ve Palo Alto Networks’ün Protect AI’ı satın almasını örnek gösteren Coleman, bu tür adımların doğru yönde atılmış hamleler olduğunu ifade ediyor.
İki yöneticiye göre, içerik filtreleri ve güvenlik önlemleri tek başına yeterli değil. Coleman, sadece yetkisiz değil yetkili kullanıcıların da yapay zekâ sistemine zarar verebileceğini söylüyor. Bu nedenle güvenliğin çok katmanlı olması gerekiyor. Mevcut çözümler yeterince güçlü değil ve yakın zamanda da gelişmesi beklenmiyor.
Battersby, sürekli test süreçlerinin maliyetleri düşürme potansiyeline de sahip olduğunu ifade ediyor. Testler sayesinde, daha küçük ve uygun fiyatlı yapay zekâ modellerinin belirli kullanım senaryoları için yeterli ve güvenli olduğu ortaya konulabiliyor. Böylece daha dengeli bir yatırım süreci oluşturulabiliyor.
