Yapay zekâ güvenliği konusunda çalışan araştırmacılar, kontrolsüz gelişen sistemlerin gelecekte küresel ölçekte ciddi sonuçlar doğurabilecek bir kırılma noktasına ulaşabileceği uyarısında bulundu. ABD ile Çin arasındaki yapay zekâ rekabeti hız kazanırken uzmanlar, güvenlik önlemlerinin aynı hızda gelişmemesinin teknoloji dünyasında “Çernobil anı” olarak tanımlanabilecek büyük bir krize yol açabileceğini savunuyor. Araştırmacılara göre risk yalnızca teknoloji şirketlerini değil, siber güvenlikten biyoteknolojiye kadar birçok kritik alanı ilgilendiriyor.
Uzmanlar Küresel İş Birliği Olmadan Risklerin Artacağını Söylüyor
MIT’de görev yapan bilgisayar bilimcisi Stephen Casper, bu ay Pekin’de düzenlenen uluslararası bir yapay zekâ konferansında yaptığı değerlendirmede, sektörün en büyük endişelerinden birinin büyük ölçekli bir yapay zekâ güvenliği krizi olduğunu dile getirdi. Casper, yapay zekânın sağladığı faydaların küresel olduğu kadar oluşturabileceği zararların da sınır tanımayacağını belirterek ülkelerin yalnızca rekabete değil ortak güvenlik mekanizmalarına da odaklanması gerektiğini söyledi.
Araştırmacılar, “Çernobil” benzetmesini yalnızca olası can kayıplarını ifade etmek için kullanmıyor. Uzmanlara göre büyük çaplı bir yapay zekâ kazası yaşanması hâlinde kamuoyunun teknolojiye duyduğu güven uzun yıllar boyunca zedelenebilir. 1986’daki nükleer felaketin nükleer enerji politikalarını onlarca yıl etkilemesi gibi benzer ölçekte yaşanacak bir olayın da yapay zekâ yatırımlarını ve düzenlemelerini kökten değiştirebileceği değerlendiriliyor.
Uzmanlar arasında risk değerlendirmeleri farklılık gösteriyor. Bazı araştırmacılar gelecekte ortaya çıkabilecek ileri düzey otonom sistemleri en büyük tehdit olarak görürken bazıları ekonomik dönüşümün iş gücü üzerindeki etkilerine dikkat çekiyor. Son dönemde ise yapay zekâ destekli siber saldırılar en fazla tartışılan başlıklardan biri hâline geldi. Büyük dil modellerinin karmaşık yazılımlar üretebilmesi, savunma araçlarını geliştirdiği kadar saldırı yöntemlerini de erişilebilir hâle getirebiliyor.
Üretken yapay zekâ sistemleri yalnızca içerik oluşturmakla sınırlı kalmıyor; yazılım geliştirme, güvenlik analizi ve otomasyon gibi alanlarda da giderek daha fazla görev üstleniyor. Bu durum, gelişmiş araçların kötü niyetli kişiler tarafından kullanılma ihtimalini artırırken devlet kurumları ile teknoloji şirketlerini yeni güvenlik politikaları oluşturmaya zorluyor. Yapay zekâ riskleri konusundaki tartışmaların son dönemde hız kazanmasının nedenlerinden biri de bu teknolojilerin yeteneklerindeki hızlı artış olarak gösteriliyor.
Endişeleri artıran gelişmeler yalnızca akademik uyarılarla sınırlı değil. Anthropic’in kısa süre önce tanıttığı ileri düzey modeli hakkında yaptığı açıklamalarda, belirli yeteneklerin kötüye kullanılma ihtimali nedeniyle herkese açılmayan sistemlerin bulunduğu belirtilmişti. Şirketlerin giderek daha güçlü modeller geliştirirken aynı zamanda erişim kısıtlamaları uygulamaya başlaması, güvenlik tartışmalarını yeniden gündeme taşıdı.
Stephen Casper, çözüm için Soğuk Savaş dönemindeki nükleer silah anlaşmalarını örnek gösteriyor. ABD ile Sovyetler Birliği siyasi rekabeti sürdürmesine rağmen nükleer riskleri azaltacak ortak mekanizmalar geliştirebilmişti. Araştırmacılar, benzer bir yaklaşımın bugün ABD ile Çin arasında da benimsenmesi gerektiğini savunuyor. Çünkü olası bir yapay zekâ kaynaklı felaketin etkileri tek bir ülkeyle sınırlı kalmayacak; dijital altyapılar, kritik hizmetler ve küresel ekonomi üzerinde zincirleme sonuçlar doğurabilecek bir tablo oluşturacak.
