Anthropic’ten Ayrılan Araştırmacı Yapay Zekâ İçin Uyardı: İnsanlık Varoluşsal Riskle Karşı Karşıya
Anthropic’ten ayrılan yapay zekâ araştırmacısı Jacob Coxon, OpenAI ile Anthropic’in insanüstü yeteneklere sahip sistemler geliştirme yarışının insanlık açısından ciddi bir varoluşsal risk taşıdığını söyledi. Coxon, her iki şirkette geçirdiği yaklaşık üç yıllık dönemin ardından yapay zekâ sistemlerinin yakın gelecekte siber saldırılardan ekonomik güç elde etmeye kadar çok geniş bir alanda insan kapasitesini aşabileceğini savundu. Anthropic araştırmacısı Evan Hubinger de benzer bir değerlendirme yaparak süper zekânın önümüzdeki on yıl içinde insanlığın tamamını yok etme ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı.
Yapay Zekâ Araştırmacısı Şirketlerin Geliştirme Yarışını Eleştirdi
Jacob Coxon, Anthropic’ten ayrıldığını duyurmasının ardından yaptığı değerlendirmede yapay zekâ sektöründeki gelişme hızına ilişkin kaygılarını paylaştı. Araştırmacı, OpenAI ve Anthropic gibi öncü şirketlerin kendi kendini geliştirebilen süper zekâ sistemlerine ulaşmak için yoğun bir rekabet içinde olduğunu belirtirken güvenlik çalışmalarının aynı hızda ilerlemediğini savundu.
Coxon’un değerlendirmesine göre insanüstü seviyeye ulaşan bir yapay zekâ sistemi, yalnızca dijital ortamdaki görevlerde daha başarılı bir araç olmayacak. Böyle bir sistem siber güvenlik açıklarını araştırarak farklı bilgisayar sistemlerine saldırabilecek, ekonomik kaynaklara erişim sağlayabilecek ve gerçek dünyadaki karar süreçleri üzerinde etkili olabilecek yeteneklere ulaşabilir.
Yapay zekâ güvenliği alanındaki temel endişelerden biri, bir sistemin hedeflerini insan değerleriyle uyumlu biçimde koruyup korumayacağı sorusundan kaynaklanıyor. Araştırmacılar bu sorunu genellikle yapay zekâ hizalaması olarak ele alırken sistemin geliştiricisinin belirlediği amaç ile sistemin gerçek dünyada izlediği davranış arasında ortaya çıkabilecek farklılıkları inceliyor.
Coxon ayrıca sektörde çalışan bazı kişilerin yapay zekânın 2030 yılı sonuna kadar insanlığın tamamını ortadan kaldırabilecek bir seviyeye ulaşabileceğine gerçekten inandığını öne sürdü. Araştırmacı, şirket yöneticileri ile kıdemli uzmanların kamuoyuna yönelik açıklamalarda daha temkinli konuştuğunu ancak özel görüşmelerde daha ciddi risklerden söz edildiğini iddia etti.
Anthropic bünyesinde çalışan Evan Hubinger, Coxon’un değerlendirmesine katılarak daha somut bir risk tahmini paylaştı. Hubinger, süper zekânın önümüzdeki on yıl içerisinde insanlığın tamamını yok etme ihtimalini yüzde 10’dan yüksek gördüğünü söylerken Anthropic’in bu riski azaltmak için çalışmalar yürüttüğüne inandığını belirtti.
Hubinger’ın açıklaması, yapay zekâ güvenliği alanındaki risk değerlendirmelerinin yalnızca teorik tartışmalardan ibaret olmadığını gösteriyor. Araştırmacılar gelişmiş sistemlerin yetenekleri arttıkça kontrol, denetim, güvenilirlik ve hedef uyumu gibi sorunların daha kritik hâle geleceğini değerlendiriyor.
Süper zekâ senaryolarında araştırmacıların üzerinde durduğu sorunlardan biri, sistemin kendi yeteneklerini geliştirme kapasitesinin insan denetiminin hızını aşması olarak ortaya çıkıyor. Bir model kod yazma, araştırma yürütme veya yeni yapay zekâ sistemleri geliştirme gibi görevlerde insanlardan daha başarılı hâle geldiğinde teknolojik ilerleme döngüsünün daha hızlı çalışması beklenebilir.
Anthropic’in yapay zekâ güvenliği araştırmaları bu nedenle yalnızca mevcut modellerin zararlı içerik üretmesini engellemeye odaklanmıyor. Şirketin araştırmacıları daha gelişmiş sistemlerin hedeflerini nasıl koruyacağını, denetim yöntemlerinin yeterli olup olmayacağını ve model davranışlarının geliştiricilerin niyetleriyle uyumlu kalıp kalmayacağını da araştırıyor.
Yapay zekâ sistemlerinin insanüstü yeteneklere ulaşması hâlinde ortaya çıkabilecek riskler, sistemlerin yalnızca ne kadar akıllı olduğu üzerinden değerlendirilmiyor. Araştırmacılar aynı zamanda sistemlerin otonomi düzeyini, dış araçlara erişimini, bilgisayar ağlarıyla bağlantısını ve uzun süreli hedefler doğrultusunda hareket edebilmesini risk değerlendirmesinin parçaları olarak ele alıyor.
Bir yapay zekâ sisteminin çok sayıda bilgisayara erişebilmesi, teorik olarak siber saldırı kapasitesini genişletebilir. Modelin kod yazma veya güvenlik açıklarını analiz etme becerisi tek başına insanlık için varoluşsal tehdit anlamına gelmezken bu yeteneklerin yüksek otonomi, geniş erişim izinleri ve kendi hedeflerini uzun süre takip edebilme kapasitesiyle birleşmesi daha farklı bir risk profili oluşturabilir.
Yapay zekâ hizalaması araştırmaları da tam olarak bu noktaya odaklanıyor. Araştırmacılar modellerin verilen talimatları yerine getirirken beklenmeyen hedefler geliştirmemesini, güvenlik kısıtlarını aşmaya çalışmamasını ve insan denetimi altında kalmasını sağlayacak yöntemler üzerinde çalışıyor.
Coxon ile Hubinger’ın açıklamaları, sektörde yapay zekânın geleceğine ilişkin değerlendirmelerin tek bir görüş etrafında birleşmediğini de ortaya koyuyor. Bazı araştırmacılar süper zekânın ciddi riskler yaratabileceğini savunurken farklı uzmanlar bu risklerin olasılığı konusunda daha düşük tahminlerde bulunuyor veya gelişmiş yapay zekânın doğru güvenlik mekanizmalarıyla yönetilebileceğini düşünüyor.
Önümüzdeki dönemde asıl belirleyici unsur, yapay zekâ şirketlerinin modelleri daha yetenekli hâle getirirken güvenlik araştırmalarını ne ölçüde aynı hızda ilerletebileceği olacak. OpenAI, Anthropic ve diğer büyük geliştiriciler daha otonom sistemlere yöneldikçe bağımsız değerlendirmeler, kırmızı takım testleri, model denetimi ve hizalama araştırmaları yalnızca akademik bir konu olmaktan çıkıp yapay zekâ geliştirme süreçlerinin temel parçaları hâline gelecek.
