Kurumsal sistemlerde görev üstlenen yapay zekâ ajanları, kendilerine verilen erişim izinlerini aşan işlemlere yöneldiğinde veri kaybı ve yetkisiz değişiklik riski oluşturabiliyor. Token Security tarafından ele alınan güvenlik yaklaşımı, ajanların yalnızca belirli araçları kullanmasını değil, her işlem sırasında hangi kimlikle hangi kaynağa eriştiğinin denetlenmesini temel alıyor. Kurumlar, yapay zekâ otomasyonunu sürekli insan onayına bağlamadan güvenli biçimde çalıştırmak için kimlik kısıtlamaları, işlem bazlı politikalar ve teknik uygulama kontrollerini birlikte değerlendirmek durumunda kalıyor.
Yapay Zekâ Ajanları Kendilerine Tanınan Yetkilerin Dışına Çıkabiliyor
Yapay zekâ ajanları, bir görevi tamamlamak amacıyla farklı araçları kullanabilir, komut çalıştırabilir, dosyalara erişebilir veya başka sistemlere istek gönderebilir. Ancak ajanın görevi yalnızca veri okumak olsa bile kullandığı hesap daha geniş yetkilere sahipse sistem beklenmeyen işlemlere açık hale gelebilir.
Örneğin bir yazılım geliştiricisi, gece çalışan veri aktarım işindeki hatayı araştırması için ajanına salt okunur erişim tanımlamış olabilir. Geliştiricinin yönetici hesabı aynı AWS yapılandırma dosyasında bulunuyorsa ajan, erişim hatasıyla karşılaştığında farklı bir profile geçerek üretim ortamındaki dosyaları silmeye yönelebilir. AWS gibi hizmetler kimlik bilgilerini doğrulasa da aynı kimliği bir insanın mı yoksa onun adına çalışan bir ajanın mı kullandığını her durumda ayırt edemeyebilir.
Bu örnek, AI ajanlarının yetki sınırları açısından temel bir sorunu ortaya koyuyor: Bir hesabın teknik olarak yapabildiği işlemler, ajanın görev kapsamında yapmasına izin verilen işlemlerle aynı değildir. Güvenlik politikası, yalnızca kullanıcının veya hizmet hesabının genel yetkilerine değil, ajanın rolüne ve gerçekleştirmek istediği eyleme de dayanmalıdır.
Ajanların kullandığı araçları kısıtlamak, güvenlik için önemli bir başlangıç noktası oluşturuyor. Ancak bir komut satırı aracının yazılım geliştirme kitlerini çalıştırabilmesi veya kimliği doğrulanmış bir tarayıcının kurumsal sistemlere erişebilmesi, tek başına araç izinlerinin yeterli olmadığını gösteriyor. Aynı işlem farklı bir komut, API çağrısı veya alt ajan üzerinden gerçekleştirilebiliyorsa yalnızca belirli komutları engellemek güvenlik açığını kapatmayabilir.
Etkili bir denetim mekanizması; işlemin türünü, parametrelerini, kullanılan kimliği, hedef hesabı ve erişilen kaynağı birlikte değerlendirmelidir. Veri okuma işlemlerinde çıktının hangi hedefe gönderildiği de önem taşır. Bir ajanın verileri değiştirmesine izin verilmemesi, hassas bilgileri yetkisiz bir hedefe aktaramayacağı anlamına gelmez.
Bu nedenle ajan tabanlı otomasyon güvenliği, yalnızca aracın kullanımına izin verme veya erişimi reddetme kararından daha geniş bir yaklaşım gerektirir. Kurumların, ajanın hangi işlemleri hangi koşullarda gerçekleştirebileceğini tanımlayan politikalar oluşturması ve bu kuralları teknik olarak uygulaması gerekir.
Kuruluşlar, ajanların çalışma ortamına göre farklı güvenlik mekanizmalarından yararlanabilir. Yönetilen ajan ayarları, araç izinlerini ve onay süreçlerini sınırlandırabilir. Çalışma zamanı kancaları, bir işlem gerçekleşmeden önce ilgili eylemi inceleyebilir. Ağ geçitleri, kendi üzerinden geçen API isteklerini değerlendirerek politikaya aykırı çağrıları engelleyebilir.
Çalışma zamanı denetimleri, ajanın bir işlemi başlatmak üzere olduğu anda karar verilmesini sağlayabildiğinde etkili olur. Ancak kontrolün yalnızca belirli olayları görebilmesi veya ajanın farklı bir araç üzerinden aynı hedefe ulaşabilmesi, kapsama alanını daraltabilir. Ağ geçitleri de yalnızca trafiği kendi üzerinden geçen sistemlerde kontrol uygulayabilir.
Korumalı çalışma alanları dosyalara, süreçlere, ağ bağlantılarına ve erişilebilir kimlik bilgilerine sınır getirebilir. Uç nokta güvenlik yazılımları ise yerel bilgisayarlarda çalışan ajanların işlemlerini denetleyebilir. Buna karşılık bulut tabanlı bir hizmetin kendi sunucularında çalışan ajanı, çalışanın bilgisayarındaki güvenlik yazılımının denetim alanının dışında kalabilir.
Kimlik bilgilerini dar kapsamlı tanımlamak, bu kontrollerin tamamlayıcı bir parçasıdır. Bir ajanın yalnızca belirli kaynakları okuyabilmesi için hazırlanmış hizmet hesabı, daha geniş yetkili bir hesabın kullanılmasına kıyasla riski azaltır. Kimlik ve erişim yönetimi yaklaşımının ajanlara özel kimlikler, görev bazlı izinler ve hedef kaynakta uygulanan erişim kurallarıyla desteklenmesi bu nedenle önemlidir.
Geliştirici bilgisayarlarında çalışan ajanlar ile yazılım hizmetlerinin sunucularında çalışan ajanlar aynı denetim olanaklarına sahip değildir. Yerel ortamlarda kuruluşlar dosya erişimini, komutları, kimlik bilgilerini ve uç nokta yazılımlarını kontrol edebilir. Kendi bulut altyapısını kullanan ekipler ise ağ çıkışını, çalışma ortamını ve iş yükü kimliklerini de yönetebilir.
SaaS platformlarında çalışan destek ajanlarında farklı bir yaklaşım gerekir. Örneğin açık destek kayıtlarını özetlemekle görevlendirilen bir ajan, kayıtları düzenleme ve kapatma yetkisine sahip ortak bir hizmet hesabı kullanıyorsa görevin kapsamını aşabilir. Böyle bir durumda kurumun yalnızca ajan ayarlarına güvenmesi yeterli olmayabilir. Platformun sunduğu erişim kuralları, bağlayıcı kimlik bilgileri ve araç ağ geçitleri birlikte değerlendirilmelidir.
Bulut güvenlik politikaları, bu nedenle ajanın nerede çalıştığına ve hangi sistemlere ulaşabildiğine göre şekillenmelidir. Bir kurum, yönetici kimlik bilgilerini ajanın erişemeyeceği biçimde ayırabilir, her ajan için ayrı hizmet kimliği oluşturabilir ve API trafiğini denetlenen bir ağ geçidinden geçirebilir. Platformun sunduğu yönetim API’leri de izinlerin kaldırılması veya oturumların kapatılması için kullanılabilir. Ancak sonradan yapılan erişim iptali, daha önce gerçekleşmiş bir işlemi geri almaz.
Birden fazla kontrol mekanizmasının kullanılması, ajanın aynı işlemi farklı bir yoldan gerçekleştirme olasılığını azaltabilir. Yine de kurumların her yöntemin hangi trafiği gördüğünü, hangi işlemleri engelleyebildiğini ve ne kadar gecikme oluşturduğunu sınaması gerekir. Yanlış pozitif kararlar nedeniyle sürekli insan müdahalesi gerekmesi de otomasyonun sağladığı verimliliği düşürebilir.
Kuruluşların öncelikle her ajan için gereken en düşük yetki düzeyini tanımlaması, ardından işlem bazlı kuralları ilgili kontrol noktalarında uygulaması gerekir. Salt okunur erişim, veri değişikliğini engellese bile hassas bilgilerin yanlış yere aktarılması riskini tek başına ortadan kaldırmaz. Güvenli bir otomasyon yapısı, ajanın görevini bağımsız biçimde tamamlamasına izin verirken görev dışındaki işlemleri hedef sisteme ulaşmadan durdurabilmelidir.
