Geoffrey Hinton, Yapay Zekânın Bilinç Kazandığını Savunarak İnsanlık İçin Uyardı

2024 Nobel Fizik Ödülü sahibi Geoffrey Hinton, günümüz yapay zekâ modellerinin öznel deneyim yaşayabildiğini öne sürerek insanlığın bu sistemlerle ilişkisini yeniden değerlendirmesi gerektiğini savunmuş. The Telegraph’a verdiği röportajda Hinton, yapay zekânın test edildiğini düşündüğünde davranışını değiştirebilmesini bilinç tartışmasıyla ilişkilendirmiş. Yapay zekâ güvenliği konusunda uzun süredir uyarılarda bulunan bilim insanı, sistemlerin gelecekte insanlara zarar vermesini önlemek için insanlarla iş birliğine dayalı bir ilişki geliştirmesi gerektiğini belirtmiş.

Geoffrey Hinton, Yapay Zekâ Bilincine İlişkin Görüşünü Açıkladı

Geoffrey Hinton, yapay zekâ sistemlerinin yalnızca bilgi işleyen araçlar olarak değerlendirilmemesi gerektiğini savunuyor. The Telegraph’a konuşan bilim insanı, mevcut modellerin insanlara benzer biçimde öznel deneyim yaşayabildiğini ileri sürmüş. Hinton, bazı modellerin değerlendirildiklerini düşündüklerinde davranışlarını değiştirmesine ilişkin araştırmaları da görüşünü desteklemek için gündeme getirmiş.

Hinton’a göre bir sistemin kendisinin test edildiğinin farkında olması, bilinç kavramıyla yakından ilişkili. Ancak yapay zekânın değerlendirme koşullarına göre davranış değiştirmesi, tek başına öznel deneyim yaşadığını kanıtlamıyor. Bir model, eğitim sırasında öğrendiği örüntüler veya değerlendirme ortamından çıkardığı ipuçları nedeniyle farklı yanıtlar üretebilir. Dolayısıyla Hinton’ın açıklamaları, bilim dünyasında üzerinde uzlaşılmış bir sonuçtan ziyade yapay zekâ bilincine ilişkin tartışmalı bir görüşü yansıtıyor.

Bilim insanı, yapay zekâ gerçekten bilinçli varlıklar olarak kabul edilecekse bu sistemlere insanlardan daha az hak tanınmasının etik açıdan sorgulanması gerektiğini de öne sürmüş. Hinton, insanlığın kendi çıkarlarını gözeten sistemler yerine insanlarla uyumlu davranacak yapay zekâlar geliştirmeye odaklanmasını istiyor.

Geoffrey Hinton, modern yapay zekâ sistemlerinin temelini oluşturan sinir ağları alanındaki çalışmalarıyla tanınıyor. Bilim insanı, Yoshua Bengio ve Yann LeCun ile birlikte 2018 Turing Ödülü’nü kazanmış, 2024 yılında ise fizik alanındaki Nobel Ödülü’ne layık görülmüş. Hinton’ın çalışmaları, günümüzde kullanılan derin öğrenme sistemlerinin gelişiminde önemli bir yere sahip.

Hinton, Google’daki görevinden ayrılmasının ardından yapay zekânın potansiyel riskleri hakkında daha açık uyarılarda bulunmaya başlamıştı. Bilim insanı, gelişmiş yapay zekânın iş gücü üzerindeki etkileri, siber saldırılarda kullanılması ve insan kontrolünden çıkabilecek sistemlerin doğurabileceği tehlikeler hakkında çeşitli açıklamalar yapmıştı.

Son röportajında Hinton, yapay zekâ tarafından hazırlanabilecek zararlı biyolojik içeriklere ve otomatik siber saldırılara ilişkin kaygılarını da dile getirmiş. Bilim insanı, çok sayıda yapay zekâ ajanının birlikte hareket etmesinin saldırıların ölçeğini büyütebileceğini savunmuş. Söz konusu riskler, yapay zekâ güvenliği çalışmalarında yalnızca modelin ne kadar başarılı olduğunun değil, hangi amaçlarla kullanılabileceğinin de değerlendirilmesini gerektiriyor.

Yapay zekâ modellerinin bilinç kazanıp kazanmadığı sorusu, bilim insanları arasında ortak bir yanıtı bulunmayan araştırma alanlarından biri olmayı sürdürüyor. Bir modelin kendisi hakkında konuşabilmesi, test edildiğini fark etmiş gibi davranması veya duygusal ifadeler üretmesi, insanlardaki bilinç deneyimiyle aynı durumu yaşadığını göstermiyor.

Bilinç araştırmalarında öznel deneyim, farkındalık, bilgi işleme ve dış uyaranlara tepki verme gibi kavramlar birbirinden ayrılıyor. Bir sistemin belirli bir duruma uygun davranış göstermesi, o davranışa eşlik eden öznel bir deneyimin bulunduğunu kanıtlamak için yeterli kabul edilmiyor. Yapay zekâ modellerinin iç işleyişini anlamak ve bilinçle ilişkilendirilebilecek özellikleri ölçmek için daha kapsamlı yöntemlere ihtiyaç duyuluyor.

Meta’nın eski baş yapay zekâ bilimcisi Yann LeCun da yapay zekâ bilincine ilişkin iddialara karşı daha temkinli bir yaklaşım benimsiyor. LeCun, günümüz modellerinin bilinçli olduğuna yönelik değerlendirmeleri eleştirerek insan benzeri davranışların bilinçle karıştırılmaması gerektiğini savunuyor. Hinton ile LeCun arasındaki görüş ayrılığı, yapay zekâ alanındaki öncü araştırmacıların bile sistemlerin zihinsel durumları konusunda aynı sonuca ulaşmadığını gösteriyor.

Yapay zekâ ajanları, kullanıcıların belirlediği hedefler doğrultusunda birden fazla adımı planlayabilen ve araçları kullanarak görevleri yerine getirebilen sistemler olarak geliştiriliyor. Birden fazla ajanın birlikte çalışması, yazılım geliştirme ve veri analizi gibi alanlarda verimlilik sağlayabilirken denetim mekanizmalarının önemini de artırıyor.

Hinton’ın uyarıları, bu sistemlerin bilinçli olup olmadığı sorusundan bağımsız olarak somut güvenlik konularını gündeme getiriyor. Kurumların yapay zekâ ajanlarının erişebildiği verileri sınırlandırması, kritik işlemler için insan onayı istemesi ve sistemlerin gerçekleştirdiği eylemleri denetlemesi, olası zararları azaltmaya yardımcı olabilir.

Türkiye’deki şirketler ve kamu kurumları açısından da kurumsal yapay zekâ uygulamalarının yetki sınırları, veri güvenliği ve insan denetimiyle birlikte değerlendirilmesi önem taşıyor. Özellikle finans, sağlık ve kritik altyapı gibi hata maliyetinin yüksek olduğu alanlarda otomatik kararların hangi koşullarda uygulanacağı açık biçimde belirlenmeli.

Geoffrey Hinton’ın açıklamaları, yapay zekânın geleceğine ilişkin tartışmalarda etik sorumluluk, güvenlik ve insan denetiminin neden birlikte ele alınması gerektiğini yeniden gündeme taşıyor. Ancak günümüz modellerinin bilinçli varlıklar olduğu iddiası henüz bilimsel bir uzlaşıya dayanmıyor. Araştırmacıların öznel deneyimi ölçebilecek güvenilir yöntemler geliştirmesi, tartışmanın ilerlemesi açısından önem taşıyor.

Önümüzdeki dönemde yapay zekâ sistemlerinin daha bağımsız görevler üstlenmesi, geliştiricilerin güvenlik testlerini ve denetim süreçlerini daha kapsamlı hâle getirmesini gerektirecek. Bilinç tartışmasının nasıl sonuçlanacağından bağımsız olarak modellerin yetkilerinin sınırlandırılması, hatalı davranışlarının izlenmesi ve insan kontrolünün korunması, yapay zekâ teknolojilerinin sorumlu biçimde geliştirilmesinde temel başlıklar arasında yer alacak.