Yapay Zekâ Liderlerinden Ortak Çağrı: Yapay Zekânın Düşünceleri Takip Edilmeli
OpenAI, Google DeepMind, Anthropic ve diğer öncü kuruluşlardan araştırmacılar, yapay zekâ güvenliği için yeni bir araştırma alanına dikkat çekiyor. Yayınlanan ortak bildiride, gelişmiş yapay zekâ modellerinin karar süreçlerini oluşturan düşünce zincirlerinin (CoT – Chain of Thought) izlenebilirliğinin korunması gerektiği vurgulandı.
Önde Gelen İsimler Ortak Bildiriye İmza Attı
OpenAI’ın o3 modeli ve DeepSeek’in R1 modeli gibi gelişmiş sistemler, karmaşık görevlerde karar verirken adım adım mantık yürütebiliyor. Bu süreç, insanların bir matematik problemini çözerken yaptığı gibi ara adımlarla ilerliyor. Araştırmacılar, bu tür düşünce zincirlerinin gözlemlenebilir olmasının, güvenli yapay zekâ sistemleri geliştirmek açısından büyük önem taşıdığını savunuyor.
Bildiride, bu izlenebilirliğin şu anda mevcut olduğu fakat zamanla ortadan kalkabileceği ifade edildi. Araştırma liderleri, geliştiricilere bu özelliklerin korunması ve güçlendirilmesi yönünde çağrıda bulundu. CoT yapılarının nasıl daha anlaşılır hâle getirilebileceği, hangi tekniklerin şeffaflığı artırabileceği gibi soruların derinlemesine incelenmesi gerektiği belirtildi.
Yayınlanan bildiride OpenAI Baş Araştırma Sorumlusu Mark Chen, Safe Superintelligence CEO’su Ilya Sutskever, Nobel ödüllü Geoffrey Hinton, Google DeepMind kurucu ortağı Shane Legg, xAI danışmanı Dan Hendrycks ve Thinking Machines kurucularından John Schulman’ın imzaları yer aldı. Bildiriye, Amazon, Meta, UC Berkeley ve İngiltere Yapay Zekâ Güvenliği Enstitüsü’nden de destek geldi.
Sektör, son bir yılda yapay zekâ modellerinin performansını büyük oranda artırdı. Ancak bu gelişmelere rağmen modellerin neden ve nasıl belli cevaplara ulaştığı konusunda ciddi bir bilgi eksikliği bulunuyor. Anthropic CEO’su Dario Amodei, bu yıl içinde yaptığı açıklamada 2027 yılına kadar bu kara kutuyu açma sözü verdi ve yorumlanabilirliğe daha fazla yatırım yapılması gerektiğini söyledi.
OpenAI araştırmacısı Bowen Baker, CoT izleme tekniğinin gelecekte modellerin güvenliğini sağlamak için temel yöntemlerden biri olabileceğini belirtti. Ancak bu yöntemin kırılgan olduğunu, ihmal edilmesi hâlinde tamamen kaybolabileceğini ifade etti. Yayınlanan bildirinin, bu konuya daha fazla kaynak ve dikkat çekmeyi hedeflediği vurgulandı.
