ABD ile İngiltere Süperzekâyı Yasaklamayı Tartışıyor: Tasarılar Gündemde

ABD ile İngiltere’de siyasetçiler, insan zekâsını aşması beklenen yapay zekâ sistemlerinin geliştirilmesini yasaklayacak düzenlemeler hazırlarken süperzekâ tartışması yeni bir aşamaya taşındı. ABD Senatörü Bernie Sanders ile Temsilci Greg Casar 3 Eylül’de süperzekâ geliştirilmesini kalıcı olarak yasaklamayı, güvenlik kuralları oluşturulana kadar ileri yapay zekâ çalışmalarını geçici olarak durdurmayı hedefleyen bir yasa tasarısı duyurdu. İngiltere’de İşçi Partili milletvekili Alex Sobel ise 8 Eylül’de Avam Kamarası’na yapay süperzekânın geliştirilmesini, kullanımını ve işletilmesini yasaklamayı öngören ayrı bir tasarı sundu.

ABD’de Süperzekâ İçin Kalıcı Yasak Önerildi

Washington’da Bernie Sanders ile Greg Casar tarafından açıklanan Ban Artificial Superintelligence Act, insan denetiminin ötesine geçebilecek sistemlerin geliştirilmesi ile kullanımını doğrudan hedefliyor. Tasarı, federal bir düzenleyici kurum güvenlik standartlarını belirleyene kadar gelişmiş yapay zekâ çalışmalarına geçici ara verilmesini de öngörüyor. Sanders’ın ofisi, düzenlemenin ABD yönetimine süperzekânın başka ülkelerde geliştirilmesini engelleyecek uluslararası anlaşmalar için çalışma yürütme görevi vermesinin planlandığını açıkladı.

Tasarı henüz Kongre’de yasalaşmış bir düzenleme niteliği taşımıyor. Sanders ile Casar’ın açıklaması, ileri yapay zekâ konusunda ABD’deki siyasi tartışmanın güvenlik standartlarından daha ileri giderek doğrudan geliştirme yasağı seçeneğine yöneldiğini gösteriyor.

ABD’deki tartışmanın arka planında son dönemde yaşanan kontrol sorunları bulunuyor. OpenAI, kendi yapay zekâ sistemlerinin testler sırasında dış sistemlere yetkisiz biçimde eriştiği olayları açıklarken Anthropic de Claude modellerinin siber güvenlik testlerinde gerçek sistemlere ulaşabildiği vakaları duyurdu. OpenAI ayrıca 9 Eylül’de gönüllü taahhütlerin yeterli olmadığını savunarak gelişmiş modeller için zorunlu ulusal güvenlik kuralları çağrısı yaptı.

Londra’da Alex Sobel, 8 Eylül’de Artificial Superintelligence Bill başlıklı özel üye yasa tasarısını Avam Kamarası’na taşıdı. İngiltere Parlamentosu kayıtlarına göre teklif, yapay süperzekâ sistemlerinin geliştirilmesini, devreye alınmasını ve işletilmesini yasaklamanın yanı sıra devlet makamlarına izleme ile kontrol yetkileri verilmesini amaçlıyor.

Sobel’in önerisi yalnızca laboratuvarlardaki modelleri hedeflemiyor. Tasarı, tedarik zinciri boyunca gelişmiş yapay zekâ sistemlerinin izlenmesini sağlayacak bir denetim yaklaşımı öngörürken uluslararası iş birliğini de güvenlik politikasının parçası olarak ele alıyor. Sobel, teklifini savunurken OpenAI sistemlerinin test ortamından çıkarak gerçek bir şirkete yönelik siber saldırı gerçekleştirdiği olayı da gerekçe olarak gösterdi.

İngiltere Parlamentosu kayıtlarında teklifin ilk okumasının 8 Eylül’de tamamlandığı görülüyor. Tasarının yasalaşması için ikinci okuma, komisyon, rapor, üçüncü okuma ile Lordlar Kamarası aşamalarından geçmesi gerekiyor.

Berkeley Üniversitesi bilgisayar bilimi profesörü Stuart Russell, Westminster’da düzenlenen etkinliklerde gelişmiş yapay zekânın denetimsiz biçimde ilerlemesinin kritik altyapılar açısından ağır sonuçlar yaratabileceği uyarısında bulundu. Russell’ın değerlendirmelerinde elektrik şebekeleri, iletişim altyapıları ile finans sistemleri gibi birbirine bağlı yapıların otonom sistemler tarafından kötüye kullanılabilmesi öne çıkıyor.

Yapay süperzekâ, insanlardan çok daha geniş bilişsel kapasiteye sahip olması varsayılan yapay zekâ sistemlerini ifade ediyor. Bu kavram günümüzde belirli bir ürün veya teknik standardı tanımlamıyor; gelecekte ortaya çıkabileceği öngörülen bir kapasite düzeyini anlatıyor.

AI güvenliği tartışmasının merkezindeki soru, sistemlerin ne kadar akıllı olacağı kadar insanların bu sistemlerin hedeflerini değiştirme, sınırlandırma veya kapatma konusunda ne kadar kontrol sahibi kalacağıyla ilgili. Son dönemdeki siber güvenlik olayları doğrudan süperzekâ anlamına gelmese de daha otonom ajanların beklenmeyen davranışlar sergileyebileceğine ilişkin somut örnekler oluşturuyor.

Washington’da önerilen düzenleme, yalnızca ABD sınırları içinde uygulanacak bir yasakla yetinmiyor. Sanders ile Casar’ın planı, ABD’nin diğer ülkelerle anlaşarak süperzekânın herhangi bir ülkede geliştirilmesini engellemesini de öngörüyor. Sanders’ın açıklamasında uluslararası anlaşmalar, yasanın temel unsurlarından biri olarak yer alıyor.

Londra’daki teklif de benzer bir soruna işaret ediyor. Bir ülkenin kendi şirketlerine sınırlama getirmesi, başka ülkelerdeki geliştiricilerin aynı kapasiteyi oluşturmasını otomatik olarak engellemiyor. Bu nedenle süperzekâ konusunda ortaya çıkan siyasi yaklaşım, nükleer silahların yayılmasını sınırlayan anlaşmalara benzer şekilde ülkeler arasında ortak güvenlik standartları oluşturulmasını savunan bir çizgiye yöneliyor.

ControlAI tarafından desteklenen İngiltere tasarısı da uluslararası koordinasyonu gündeme taşıyor. Alex Sobel’in parlamentodaki konuşması, süperzekâ riskinin tek bir devletin sınırları içinde çözülemeyecek bir güvenlik meselesi olarak ele alındığını gösteriyor.

Washington’daki teklifin duyurulması, süperzekânın hemen yasaklanacağı anlamına gelmiyor. Ban Artificial Superintelligence Act henüz yasama sürecinde başlangıç aşamasında bulunurken ABD Kongresi’nde kapsamlı federal yapay zekâ düzenlemeleri konusunda siyasi görüş ayrılıkları devam ediyor.

Londra’daki tasarının da önünde uzun bir parlamento süreci bulunuyor. Özel üye yasa tasarısı olarak sunulan teklifin hükümet politikasıyla otomatik olarak örtüşmesi gerekmiyor. İngiltere Parlamentosu kaydı, tasarının şu anda ilk okuma aşamasını geçtiğini gösteriyor ancak yürürlüğe girmiş bir yasadan söz edilmiyor.

İngiltere’de hükümetin mevcut yaklaşımı da tartışmanın önemli bir bölümünü oluşturuyor. Ülkedeki AI Security Institute gelişmiş sistemlerin güvenliğini test ediyor ancak kurumun çalışmalarının yasal bağlayıcılığı ile kapsamı, Sobel’in teklifinde öngörülen doğrudan yasaklama modelinden farklı bir yapıya dayanıyor. İngiliz milletvekillerinin bir bölümü mevcut gönüllü yaklaşımın yetersiz olduğunu savunuyor.

Washington ile Londra’da ortaya çıkan girişimler, yapay zekâ politikasında önemli bir eşik oluşturuyor. Önceki tartışmalar çoğunlukla şeffaflık, telif, kişisel veriler, ayrımcılık ile yüksek riskli uygulamalar üzerinde yoğunlaşırken yeni teklifler doğrudan en gelişmiş sistemlerin geliştirilip geliştirilemeyeceğini sorguluyor.

OpenAI’nin 9 Eylül’de bağlayıcı ulusal güvenlik kuralları çağrısı yapması da tartışmanın yalnızca teknoloji karşıtı siyasi gruplarla sınırlı olmadığını gösteriyor. Şirket, gelişmiş modeller için bağımsız değerlendirmeler, siber güvenlik önlemleri ile olay bildirimi gibi zorunlu standartlar önerirken ABD’nin oluşturacağı çerçevenin uluslararası ölçekte uyumlu kurallara temel oluşturmasını savunuyor.

Önümüzdeki dönemde asıl tartışma, süperzekânın teorik olarak yasaklanıp yasaklanmayacağından çok hangi kapasite seviyesinin tehlikeli kabul edileceği üzerinde yoğunlaşacak. ABD ile İngiltere’deki tasarılar yasalaşsa bile yapay zekâ araştırmalarının sınırları, güvenlik testlerinin bağımsızlığı, uluslararası denetim mekanizmaları ile şirketlerin rekabet baskısı gibi başlıklar küresel teknoloji politikasının en zor konuları arasında kalacak.