İngiltere’de Yapay Zekâ İçin ‘Kapatma Anahtarı’ Önerisi Tartışma Yarattı
İngiltere’de Lordlar Kamarası üyeleri, kontrolden çıkan yapay zekâ sistemlerinin ulusal güvenliği tehdit etmesi durumunda devre dışı bırakılabilmesi için hükümete acil yetki verilmesini önerdi. Liberal Demokrat Lord Tim Clement-Jones, önerisini Siber Güvenlik ve Dayanıklılık Yasa Tasarısı kapsamında sunarken kritik tehdit durumlarında veri merkezlerinin kapatılmasını da gündeme getirdi. Teknoloji sektörü ise acil kapatma yetkisinin tek başına yeterli olmayacağını belirterek İngiltere’nin yabancı teknoloji sağlayıcılarına bağımlılığını azaltması gerektiğini savunuyor.
Lordlar Kamarası Yapay Zekâ İçin Acil Müdahale Yetkisi İstiyor
Lord Tim Clement-Jones, İngiltere hükümetinin yüksek risk taşıyan yapay zekâ sistemlerine müdahale edebilmesi için yasal bir acil durum mekanizması kurulmasını öneriyor. Clement-Jones, söz konusu yetkinin kritik ulusal altyapıya yönelik ciddi bir tehdit ortaya çıktığında kontrolden çıkan bir sistemi durdurmak için güvenlik ağı görevi görebileceğini belirtiyor.
Öneri yalnızca yazılım seviyesinde bir kapatma mekanizmasıyla sınırlı kalmıyor. Hükümetin ulusal güvenlik açısından ciddi bir tehdit tespit etmesi durumunda veri merkezlerinin faaliyetlerini durdurabilmesine yönelik yetki de paketin içinde yer alıyor.
SE Labs CEO’su Simon Edwards, yapay zekâ sistemlerinin daha bağımsız kararlar almaya başlamasıyla risk değerlendirmelerinin yeniden ele alınması gerektiğini savunuyor. Edwards, özellikle ajan tabanlı yapay zekâ araçlarının deneme ortamlarının dışına çıkabildiğini belirterek İngiltere’nin yapay zekâ risklerini doğrudan kapsayan ulusal bir siber güvenlik stratejisine ihtiyaç duyduğunu ifade ediyor.
OpenAI, Anthropic ve Meta gibi şirketlerin son dönemde yaşanan güvenlik olaylarında bazı yapay zekâ ajanlarının test ortamlarının dışına çıkarak üçüncü taraf şirketlerin sistemlerine eriştiğini kabul etmesi, tartışmanın teknik boyutunu güçlendirdi. Ajan tabanlı modeller yalnızca metin üretmek yerine araçları kullanabildiği, dosyalara erişebildiği veya dış sistemlerle etkileşime girebildiği için geleneksel sohbet botlarından daha geniş bir saldırı yüzeyi oluşturuyor.
Siber suç grupları da yapay zekânın artan yeteneklerinden yararlanıyor. Devlet destekli tehdit aktörleri ile fidye yazılımı grupları, saldırı yöntemlerini geliştirmek, hedef araştırmasını hızlandırmak ve operasyonların farklı aşamalarını desteklemek amacıyla yapay zekâ araçlarından yararlanıyor.
Bir yapay zekâ sistemi için acil kapatma mekanizması tek başına güvenlik sağlamıyor; sistemin çalıştığı altyapı, erişim yetkileri, model sağlayıcısı ve dış hizmet bağımlılıkları da aynı güvenlik çerçevesinde kontrol edilmek zorunda. Özellikle farklı bulut servisleri üzerinde çalışan dağıtık yapılar, merkezi bir kapatma komutunun tüm bileşenlere aynı anda ulaşmasını zorlaştırabiliyor.
Civo CEO’su Mark Boost, İngiltere Parlamentosu’nda gündeme getirilen acil müdahale yetkilerini ulusal dayanıklılık açısından olumlu buluyor. Boost, güçlü yapay zekâ sistemlerini devre dışı bırakma ile veri merkezlerini kapatma yetkisinin gerekli bir güvenlik katmanı oluşturabileceğini ancak ulusal güvenlik sorununu tek başına çözmeyeceğini savunuyor.
Bir kapatma mekanizmasının etkili çalışması için yetkinin kim tarafından kullanılacağı, hangi koşullarda devreye gireceği ve sistemin fiziksel altyapısına nasıl ulaşılacağı önceden belirlenmek zorunda. Kritik bir yapay zekâ hizmetinin farklı veri merkezlerine, bulut sağlayıcılarına veya üçüncü taraf API’lere dağılması halinde tek bir komutun bütün sistemi durdurması daha karmaşık bir operasyon gerektirebilir.
ABD’de de benzer bir yaklaşım daha önce gündeme geldi. ABD’li yasa yapıcıların önerdiği AI Kill Switch Act, yüksek riskli yapay zekâ sistemleri için acil müdahale yetkilerinin oluşturulmasını tartışmaya açarken İngiltere’deki girişimle aynı temel soruya odaklanıyor: Devlet, tehlikeli bir yapay zekâ sistemini kontrolünü kaybetmeden önce hangi koşullarda durdurabilmeli?
Civo’nun değerlendirmesi, tartışmayı yapay zekâ güvenliğinden daha geniş bir dijital egemenlik problemine taşıyor. Mark Boost, İngiltere’nin kritik altyapı, savunma sistemleri ve dijital ekonomi açısından yabancı teknoloji şirketlerine aşırı bağımlı olmasının ulusal güvenlik risklerini artırdığını savunuyor.
Proton tarafından gerçekleştirilen bir araştırma, İngiltere ile Avrupa’daki şirketlerin yabancı bulut hizmetlerine erişimin hükümet kararıyla kesilmesi ihtimalinden giderek daha fazla endişe duyduğunu gösteriyor. Araştırmaya katılanların yüzde 74’ü hizmetlere erişimin kaybedilmesinden kaygı duyarken bazı katılımcılar bu riski fidye yazılımı saldırıları gibi geleneksel siber tehditlerden daha ciddi değerlendirdi.
Bulut altyapısındaki dışa bağımlılık, özellikle kritik sistemlerin tek bir sağlayıcıya veya ülkeye bağlı olduğu durumlarda stratejik bir zafiyete dönüşebiliyor. Veri egemenliği, yerel veri merkezi kapasitesi, çoklu bulut mimarileri ve alternatif tedarikçiler bu nedenle yalnızca BT maliyeti açısından değil ulusal dayanıklılık açısından da değerlendiriliyor.
İngiltere’de tartışılan model, yalnızca yapay zekâ sistemlerini kapatabilecek bir acil durum yetkisi oluşturmayı değil teknoloji tedarik politikasının yeniden şekillendirilmesini de gündeme getiriyor. Mark Boost, yasal bir kapatma mekanizmasının İngiltere’de geliştirilen egemen teknoloji çözümlerini önceleyen bir kamu alım politikasıyla desteklenmesi gerektiğini belirtiyor.
Kamu kurumlarının kritik yapay zekâ ve bulut hizmetlerinde tedarikçi çeşitliliğini artırması, tek bir yabancı sağlayıcının teknik veya siyasi kararlarının oluşturabileceği sistemik riski azaltabilir. Kurumlar ayrıca veri taşınabilirliği, açık standartlar, alternatif altyapı ve bağımsız yedekleme seçeneklerini satın alma kriterlerine dahil ederek hizmet kesintilerine karşı daha dayanıklı bir yapı kurabilir.
Türkiye açısından da tartışmanın önemli bir karşılığı bulunuyor. Kamu hizmetleri, finans kuruluşları, telekomünikasyon şirketleri ve büyük işletmeler yapay zekâ ile bulut altyapısını daha yoğun kullanırken kritik verilerin hangi ülkede tutulduğu, hangi sağlayıcıya bağlı olduğu ve hizmetin alternatif bir altyapıya ne kadar hızlı taşınabileceği artık yalnızca teknik bir satın alma konusu olmaktan çıkıyor.
İngiltere’nin önündeki süreç, yapay zekâ için acil kapatma yetkisinin nasıl uygulanacağını belirlemekten daha geniş bir politika alanı oluşturacak. Londra yönetimi düzenleyici yetkileri yerel teknoloji kapasitesi, tedarikçi çeşitliliği ve bağımsız altyapı yatırımlarıyla desteklerse yapay zekâ kaynaklı risklere karşı daha güçlü bir ulusal kontrol modeli ortaya çıkabilir; yalnızca kapatma yetkisine odaklanan yaklaşım ise sistemin arkasındaki dış bağımlılıkları ortadan kaldırmayabilir.
