Yapay Zekanın Kendini Geliştirme Hızı İnsanları Endişelendiriyor

Yapay zeka sistemleri artık kendi kodlarını yazabiliyor, kendi eğitim süreçlerini iyileştirebiliyor ve hatta kendilerinin daha gelişmiş versiyonlarını tasarlayabiliyor. OpenAI, GPT-5.3-Codex modelinin kendi oluşturulma sürecinde eğitim hatalarını ayıklamaya, dağıtımı yönetmeye ve değerlendirme sonuçlarını analiz etmeye yardımcı olduğunu bildirdi. Ancak uzmanlar, bu sürecin henüz tam anlamıyla özyinelemeli olmadığını çünkü insanların hâlâ hedefleri belirlediğini, başarı kriterlerini tanımladığını ve hangi değişikliklerin korunacağına karar verdiğini vurguluyor.

Bilim İnsanları Yapay Zeka ile Araştırma Döngüsünü Otomatikleştiriyor

Londra merkezli Google DeepMind ekibi geçen yıl AlphaEvolve adlı bir sistem duyurdu. Bu sistem, sinir ağı mimarilerini optimize etmek, veri merkezi planlaması yapmak ve çip tasarımı gerçekleştirmek için büyük dil modellerini kullanıyor. Özyinelemeli yapay zeka iyileştirmesi kapsamında değerlendirilen bu sistem henüz tam otomatik bir döngü oluşturmamış olsa da, her yeni buluş bilim insanlarının daha ileri yapay zeka atılımları yapmasını kolaylaştırıyor. AlphaEvolve üzerinde çalışan bilgisayar bilimcisi Matej Balog, sistemin ekibi şaşırtan keşifler yaptığını ve insan sezgisinden kaçan yeni algoritmalar bulmanın artık hayal olmadığını söylüyor.

Google DeepMind’ın çip tasarım sistemi AlphaChip’in eş liderleri Azalia Mirhoseini ve Anna Goldie, yapay zeka ile yapay zeka çipi tasarlamak için Ricursive Intelligence adlı bir girişim kurdu. Şirketin üç aşamalı planında ilk aşama insan tasarımcılara yardım etmeyi, ikinci aşama şirket içi tasarımcısı olmayan firmalar için süreci otomatikleştirmeyi, üçüncü aşama ise yapay zekayı daha iyi eğitmek için daha iyi çipler tasarlamayı içeriyor.

British Columbia Üniversitesi ve Sakana AI’daki bilim insanları, evrimsel algoritmalar kullanarak büyük dil modeli tabanlı kodlama ajanlarını iyileştiren Darwin Gödel Makineleri’ni geliştirdi. Bu sistemler kendi kodlarını değiştirebiliyor ve bu konuda giderek daha yetenekli hale geliyor. Yapay zeka kendi kendini iyileştirme yöntemleri üzerinde çalışan ekip, yeni bir versiyonda ajanların kendi meta-mekanizmalarını bile değiştirebildiğini duyurdu.

Aynı ekip, Mart ayında Nature dergisinde yapay zeka bilim insanı sistemini tanıttı. Bu sistem araştırma fikirleri üretebiliyor, yazılımda deneyler yapabiliyor, sonuçları makale olarak yazabiliyor ve ardından bu makaleleri değerlendirebiliyor. Yapay zeka araştırma otomasyonu sayesinde kod yazmanın ötesine geçen bu sistem, deney yapma ve değerlendirme gibi daha geniş araştırma süreçlerinin otomatikleşebileceğini gösteriyor. British Columbia Üniversitesi’nden bilgisayar bilimcisi Jeff Clune, özyinelemeli kendini iyileştirme sistemlerinin çok yakında olduğunu ve bunun bilim, teknoloji, toplum ve kültürün her alanını dönüştüreceğini söylüyor.

👉️ İlginizi Çekebilir: Meta Çalışanları Yapay Zekâ Eğitimi İçin Uygulanan Sıkı Takip Programına İsyan Etti

Allen Yapay Zeka Enstitüsü’nden Nathan Lambert, tam özyinelemeli iyileştirme yerine “kayıplı kendini iyileştirme” beklenmesi gerektiğini savunuyor. Yapay zeka kısıtlamaları nedeniyle sürtünmenin giderek arttığını belirten Lambert, büyük yapay zeka sistemlerinin daha karmaşık hale geldiğini ve bir araştırmacının işinin sistemin parçalarını iyileştirmekten çok bu karmaşıklığı yönetmek olacağını ifade ediyor. Ayrıca en iyi sistemlerin milyarlarca dolara mal olduğunu ve kimsenin bu parayla bir yapay zekayı serbest bırakmak istemeyeceğini vurguluyor.

Meta araştırmacıları Jason Weston ve Jakob Foerster, özyinelemeli iyileştirme yerine “birlikte iyileştirme” hedefinin daha ulaşılabilir ve insanlık için daha iyi olduğunu yazdı. Yapay zeka insan iş birliği ile insanların süreçte kalmasının hem daha hızlı hem de daha güvenli ilerleme sağlayacağını belirten araştırmacılar, insanların içgörülerini katarak yapay zekayı insanlığa faydalı çözümlere yönlendirebileceğini ifade ediyor.