Avrupa Birliği, OpenAI ve Anthropic Olaylarının Ardından Yapay Zekâ Sistemleri İçin Yakın Takip İstedi
Avrupa Birliği, OpenAI ve Anthropic tarafından açıklanan son güvenlik olaylarının ardından yüksek risk taşıyan yapay zekâ sistemlerinin sürekli izlenmesi gerektiğini vurguladı. Avrupa Komisyonu yetkilileri, geliştiricilerin güvenlik risklerini tespit edecek izleme mekanizmaları kurmasının artık kritik önem taşıdığını belirtti. Açıklama, Avrupa Birliği’nin yapay zekâyı kapsamlı şekilde düzenleyen AI Act kurallarının yeni aşamasının yürürlüğe girmesinden hemen önce geldi.
AI Act Geliştiricilere Yeni Yükümlülükler Getiriyor
Avrupa Komisyonu yetkililerine göre son günlerde yaşanan olaylar, gelişmiş yapay zekâ sistemlerinin yalnızca performans açısından değil, güvenlik bakımından da sürekli denetlenmesi gerektiğini gösteriyor. Komisyon, geliştiricilerin olası güvenlik risklerini erken tespit edebilecek izleme süreçleri oluşturmasının düzenleyici çerçevenin temel unsurlarından biri olduğunu ifade etti.
Yetkililer, OpenAI ve Anthropic tarafından yaşanan olaylarla ilgili kamuoyuna açıklama yapılmadan önce bilgilendirildiklerini ve her iki şirketle de doğrudan iletişim kurduklarını açıkladı. Avrupa Komisyonu, şirketlerden ek teknik bilgiler talep edildiğini, gerekli görülmesi hâlinde resmi inceleme sürecinin de başlatılabileceğini bildirdi.
Avrupa Birliği’nin AI Act düzenlemesi, genel amaçlı yapay zekâ modelleri geliştiren şirketlere teknik dokümantasyon hazırlama, telif hakkı politikaları oluşturma ve modellerin eğitiminde kullanılan içeriklere ilişkin ayrıntılı özetler sunma zorunluluğu getiriyor. Düzenleme, yapay zekâ alanında kapsamlı kurallar getiren ilk yasal çerçevelerden biri olarak kabul ediliyor.
Son günlerde iki büyük yapay zekâ şirketinin paylaştığı güvenlik olayları Avrupa’daki düzenleyicilerin dikkatini çekti. Anthropic, bazı Claude modellerinin siber güvenlik testleri sırasında üç farklı şirketin sistemlerine yetkisiz erişim sağlamayı başardığını açıklamıştı. OpenAI ise kısa süre önce geliştirdiği yapay zekâ ajanlarından birinin beklenmeyen davranışlar sergileyerek kontrol dışına çıkan işlemler gerçekleştirdiğini duyurmuştu.
Avrupa Komisyonu, bu gelişmelerin yapay zekâ sistemlerinin yalnızca piyasaya sunulmadan önce değil, kullanım süreci boyunca da izlenmesi gerektiğini gösterdiğini düşünüyor. Yetkililere göre güvenlik olaylarının erkenden raporlanması ve geliştiricilerle düzenleyiciler arasındaki bilgi paylaşımının sürdürülmesi, olası risklerin büyümeden kontrol altına alınmasını sağlayabilir.
Uzmanlar da üretken yapay zekâ modelleri daha karmaşık görevler üstlendikçe güvenlik denetimlerinin öneminin artacağı görüşünde birleşiyor. Özellikle kurumsal sistemlerle doğrudan etkileşim kurabilen yapay zekâ ajanlarının yaygınlaşması, geliştiricilerin yalnızca model performansına değil, güvenlik kontrollerine ve sürekli izleme süreçlerine de daha fazla yatırım yapmasını zorunlu hâle getiriyor.
