Capgemini, AB’nin Yapay Zekâ Güvenliği Ve Siber Risk Denetimlerini Yönetecek

Capgemini, Avrupa Komisyonunun gelişmiş yapay zekâ sistemlerindeki siber güvenlik risklerini değerlendirmek amacıyla kurduğu Avrupa konsorsiyumunun liderliğine getirildi. Wavestone ile Fransa Ulusal Metroloji ve Test Laboratuvarı LNE’nin de yer aldığı girişim, yapay zekâ modellerinin güvenlik açıklarını keşfetme, istismar kodu üretme ve büyük ölçekli siber saldırıları koordine etme kapasitesini değerlendirecek. Konsorsiyum, Avrupa Birliği Yapay Zekâ Yasası kapsamındaki yükümlülüklerin teknik denetimini destekleyecek standart test yöntemleri ve değerlendirme araçları geliştirecek.

Avrupa Komisyonu Gelişmiş Yapay Zekâ Sistemleri İçin Yeni Konsorsiyum Kurdu

Avrupa Komisyonunun Yapay Zekâ Ofisi tarafından oluşturulan konsorsiyumda Capgemini liderlik görevini üstlenirken teknoloji danışmanlığı şirketi Wavestone ile Fransa’nın ulusal metroloji ve test laboratuvarı Laboratoire National de Métrologie et d’Essais (LNE) da çalışmalara katılıyor. Girişim, Komisyonun İletişim Ağları, İçerik ve Teknoloji Genel Müdürlüğü (DG CNECT) bünyesindeki yapay zekâ güvenliği çalışmalarına teknik destek sağlayacak.

Konsorsiyumun temel hedefi, gelişmiş yapay zekâ modellerinin oluşturabileceği siber tehditleri ortak ölçütlerle değerlendirmek. Otomatik güvenlik açığı keşfi, istismar kodu üretimi ve geniş ölçekli siber saldırıların yönetilmesi gibi yetenekler, değerlendirme kapsamındaki başlıca risk alanlarını oluşturuyor. Ekipler ayrıca saldırgan test yöntemleri, yazılım güvenlik açığı tespiti ve yapay zekâ modellerinin saldırı amaçlı siber kapasitesini ölçen değerlendirme süreçleri üzerinde çalışacak.

Capgemini, ortaya çıkan siber saldırı risklerini modellemek, değerlendirme araçları geliştirmek ve teknik uyumluluk yöntemleri tasarlamakla sorumlu olacak. Şirket, Avrupa Yapay Zekâ Ofisinin talebi üzerine gelişmiş sistemlere yönelik teknik değerlendirmeler de gerçekleştirecek. Bu çalışmalar, genel amaçlı yapay zekâ (GPAI) sağlayıcılarının Avrupa Birliği Yapay Zekâ Yasası kapsamındaki yükümlülüklerinin uygulanmasına destek verecek.

Girişim, Avrupa Birliği açısından önemli bir ilk niteliği taşıyor. AB, sınır teknolojisi olarak değerlendirilen gelişmiş yapay zekâ modellerinde saldırgan testleri, yazılım güvenlik açığı keşfini ve saldırı amaçlı siber yetenek değerlendirmelerini ortak standartlara bağlamaya hazırlanıyor. Özel sektör uzmanlığının LNE gibi kamu laboratuvarlarıyla bir araya getirilmesi, endüstriyel ölçekte sızma testlerinin ve yapılandırılmış doğrulama protokollerinin daha hızlı geliştirilmesini hedefliyor.

Capgemini Güney Avrupa Bölgesi CEO’su ve grup yönetim kurulu üyesi Andrea Falleni, Avrupa Komisyonuyla yürütülen çalışmanın güvenilir yapay zekâ teknolojilerinin geliştirilmesi ve kullanılmasına yönelik ortak yaklaşımı yansıttığını belirtti. Falleni, bilimsel yöntemlerin operasyonel uzmanlıkla birleştirilmesinin Avrupa’nın dijital dayanıklılığını güçlendireceğini ifade etti.

Wavestone ortağı Alessandro Zamboni ise yapay zekânın siber tehdit ortamını hızla değiştirdiğini, gelişmiş modellerin güvenli kalması için yeni risklerin önceden belirlenmesi ve azaltılması gerektiğini söyledi. Zamboni, şirketin siber güvenlik ve yapay zekâ uzmanlığını Avrupa girişimine aktararak Yapay Zekâ Yasası’nın hedeflerinin uygulanabilir teknik süreçlere dönüştürülmesine katkı sağlayacağını kaydetti.

2024 yılının ortasında yürürlüğe giren Avrupa Birliği Yapay Zekâ Yasası, sistemik risk taşıyan genel amaçlı yapay zekâ modelleri için hukuki bir sınıflandırma oluşturdu. Düzenleme, toplam hesaplama gücü 10²⁵ kayan nokta işlemine (FLOP) ulaşan eğitim süreçleri gibi ölçütler üzerinden belirli modelleri sistemik risk kategorisinde değerlendiriyor.

Yasa kapsamında Genel Amaçlı Yapay Zekâ Uygulama Kuralları da hazırlandı. Bağımsız uzmanların çok paydaşlı bir süreçte oluşturduğu gönüllü uygulama çerçevesi, sağlayıcıların sorumluluklarını belirlemeye yardımcı oluyor. Ancak düzenleme, gelişmiş modellerin hangi teknik yöntemlerle test edilmesi gerektiğine ilişkin ayrıntılı bir standart ortaya koymamıştı.

Yeni konsorsiyum, bu eksikliği gidermeye yönelik teknik altyapının oluşturulmasında rol üstlenecek. Girişimin ilerleyen aşamalarında gelişmiş yapay zekâ mimarilerinin Avrupa pazarına sunulmadan önce zorunlu teknik denetimlerden geçirilmesi de gündeme gelebilir. Böyle bir uygulamanın hayata geçirilmesi, yüksek kapasiteli modeller geliştiren şirketlerin güvenlik değerlendirmelerine ilişkin sorumluluklarını artırabilir.

Kâr amacı gütmeyen AI For Developing Countries Forum, girişimin başarısının yalnızca Yapay Zekâ Yasası’ndaki hukuki hedeflere değil, geliştirilecek teknik denetim çerçevelerinin niteliğine bağlı olduğunu vurguladı. Kuruluşa göre belirleyici unsur, kesin sonuçlar üretmeyen yapay zekâ sistemlerinin siber risklerini ölçülebilir kriterlerle değerlendirebilmek olacak.

Forum, denetim yöntemlerinin şeffaf, tutarlı ve düzenleyici kurumların çıkar çatışmalarına karşı dayanıklı olması gerektiğini belirtti. Geliştirilecek standartların küresel teknoloji şirketleri kadar gelişmekte olan ülkeler için de açık ve öngörülebilir ölçütler sunması önem taşıyor. Avrupa’nın başlattığı konsorsiyum, bu nedenle yalnızca teknik güvenlik testlerini değil, gelişmiş yapay zekâ sistemlerinin uluslararası ölçekte nasıl denetleneceğine ilişkin tartışmaları da etkileyebilecek bir sürecin başlangıcını oluşturuyor.