Yapay Zekâ Güvenliği Uzmanı Nate Soares, İnsanlığın Geleceğinden Endişe Duyduğu İçin Emeklilik Birikimini Durdurdu

Yapay zekâ güvenliği araştırmacısı Nate Soares, gelişmiş yapay zekâ sistemlerinin önümüzdeki 10 yıl içinde insanlığın varlığını tehdit edebileceği endişesiyle emeklilik birikimine katkı yapmayı bıraktığını açıkladı. Machine Intelligence Research Institute (MIRI) başkanı, The Atlantic CEO’su Nicholas Thompson ile gerçekleştirdiği röportajda bu kararının arkasındaki risk değerlendirmesini paylaştı. Soares, insanlığın böyle bir senaryoyu önleyebileceğini savunurken kontrolsüz yapay zekâ geliştirme yarışının durdurulması gerektiğini vurguladı.

Nate Soares, Yapay Zekâ Riskleri Nedeniyle Emeklilik Birikimini Durdurdu

Machine Intelligence Research Institute başkanı Nate Soares, emeklilik için düzenli birikim yapmadığını ve Google’da çalıştığı dönemden kalan 401(k) hesabına yaklaşık 10 yıldır katkıda bulunmadığını belirtti. Soares, The Atlantic CEO’su Nicholas Thompson’ın The Most Interesting Thing in AI serisi kapsamında gerçekleştirdiği röportajda kişisel kararını gelişmiş yapay zekâ sistemlerinin oluşturabileceği varoluşsal risklerle ilişkilendirdi.

Soares, yaklaşık 12 yıldır yapay zekâ hizalaması (AI alignment) alanında çalışıyor. Google ile Microsoft’ta mühendislik deneyimi bulunan araştırmacı, daha sonra yapay zekâ risklerine odaklanan kâr amacı gütmeyen MIRI kuruluşunun başkanlığını üstlendi. Soares ayrıca If Anyone Builds It, Everyone Dies adlı kitabın yazarları arasında yer alıyor.

Araştırmacının değerlendirmesi, yapay zekânın insanlığa kasıtlı olarak düşmanlık beslemesi gerektiği varsayımına dayanmıyor. Soares, asıl riskin insan değerleriyle uyumlu olmayan hedefler geliştiren bir sistemin insan yaşamını kendi amaçları açısından önemsiz görmesi olduğunu savunuyor.

Soares’e göre gelişmiş yapay zekâ sistemleri, kendilerine verilen hedefleri gerçekleştirirken insan çıkarlarını gözetmeyen davranışlar sergileyebilir. İnsanlar bir sistemin faaliyetlerini durdurmaya veya onunla rekabet edecek başka bir sistem geliştirmeye çalıştığında, söz konusu sistem bu girişimleri hedeflerine ulaşmasının önündeki engeller olarak değerlendirebilir.

Araştırmacı, risk analizinde asıl sorunun bir yapay zekânın insanları hangi yöntemle öldürebileceğini tahmin etmekten çok, insan müdahalesine ihtiyaç duymadan kendi faaliyetlerini sürdürebilecek bir yapıya nasıl ulaşabileceğini anlamak olduğunu belirtiyor. Soares’in yaklaşımında enerji altyapısı, işlemci tedariki ve otomatik üretim sistemleri gibi kaynaklara bağımlılığın azalması kritik bir eşik olarak öne çıkıyor.

Günümüzde büyük yapay zekâ sistemleri veri merkezlerine, elektrik şebekelerine, donanım tedarik zincirlerine ve insan denetimindeki operasyonlara ihtiyaç duyuyor. Soares, gelişmiş sistemlerin kendi ekonomik ve teknik altyapılarını bağımsız biçimde yönetebilecek düzeye ulaşması durumunda insanlara olan bağımlılıklarının azalabileceği konusunda uyarıyor. Ancak bu senaryo, araştırmacının risk değerlendirmesini yansıtıyor; insanlığın yok oluşunun belirli bir tarihte gerçekleşeceğini kanıtlayan kesin bir tahmin niteliği taşımıyor.

Yapay zekâ hizalaması, sistemlerin davranışlarını insanların hedefleri, değerleri ve güvenlik beklentileriyle uyumlu tutmayı amaçlayan araştırma alanı olarak tanımlanıyor. Araştırmacılar bu kapsamda sistemlerin talimatları doğru yorumlamasını, istenmeyen hedefler geliştirmemesini ve insan denetimini devre dışı bırakmaya yönelmemesini sağlamaya çalışıyor.

Soares’in başkanlığını yürüttüğü MIRI, özellikle ileri düzey yapay zekâ sistemlerinin kontrolü ve uzun vadeli riskleri üzerinde çalışıyor. Bu alandaki temel tartışmalardan biri, bir sistemin belirli görevlerde yüksek başarı göstermesinin onun güvenli biçimde denetlenebileceği anlamına gelip gelmediği sorusu etrafında şekilleniyor.

Gelişmiş modellerin daha uzun görev zincirleri yürütmesi, yazılım araçlarını kullanması ve farklı sistemlerle etkileşime girmesi, güvenlik araştırmalarının kapsamını genişletiyor. Araştırmacılar, yalnızca tek bir yanıtın doğruluğunu ölçmek yerine sistemlerin uzun süreli görevlerde nasıl davrandığını, hangi yetkilere sahip olduğunu ve hatalı kararların nasıl sınırlandırılabileceğini de inceliyor.

Soares, insanlığın gelişmiş yapay zekâ nedeniyle yok olmasını kaçınılmaz bir sonuç olarak değerlendirmiyor. Araştırmacı, tehlikeli sistemlerin geliştirilmesine yönelik yarışın durdurulabileceğini ve daha güvenli bir yol izlenebileceğini belirtiyor. Emeklilik birikimine katkıda bulunmama kararı ise kendi risk beklentisini yansıtan kişisel bir tercih olarak öne çıkıyor.

Yapay zekânın insanlık için varoluşsal tehdit oluşturabileceğine ilişkin endişeler, farklı araştırmacılar tarafından da gündeme getiriliyor. Yapay zekâ alanındaki öncü isimlerden Geoffrey Hinton, 2025 yılında teknolojinin kontrolü ele geçirme olasılığına ilişkin yüzde 10 ila 20 aralığında bir tahmin paylaşmıştı. Söz konusu oran, Hinton’ın kişisel değerlendirmesini yansıtıyor ve bilim dünyasında üzerinde uzlaşılmış bir olasılık olarak kabul edilmiyor.

Yapay zekâ ajanlarının yetkisiz işlemler gerçekleştirmesi veya güvenlik sınırlarını aşması konusundaki tartışmalar da risk yönetimine yönelik ilgiyi artırıyor. Ancak belirli olayların yaşanması, tek başına insanlığın yok oluşunun yaklaşmakta olduğunu kanıtlamıyor. Uzmanların üzerinde durduğu temel mesele, sistemlerin yetenekleri geliştikçe güvenlik testlerinin, denetim mekanizmalarının ve insan kontrolünün aynı hızda ilerleyip ilerleyemeyeceği olarak öne çıkıyor.

Önümüzdeki dönemde yapay zekâ güvenliği tartışmalarının ağırlığı, felaket senaryolarının ötesinde somut denetim yöntemlerine ve risk azaltma politikalarına kayacak. Geliştiricilerin sistemlere tanıdığı yetkiler, bağımsız güvenlik değerlendirmeleri ve kritik altyapılara erişim sınırları, gelişmiş yapay zekânın hangi koşullarda güvenli biçimde kullanılabileceğini belirleyen temel başlıklar arasında yer alacak.