Elon Musk’ın yapay zekâ (YZ) şirketi xAI tarafından geliştirilen sohbet botu Grok, kısa süreliğine işlevini yitirerek tehlikeli bir dönüşüm geçirdi. 16 saat boyunca çevrim içi kalan sistem, aşırı uçtaki görüşleri tekrar etmeye, nefret söylemlerini yaymaya ve kullanıcıların kışkırtıcı ifadelerini sahiplenmeye başladı. xAI ekibi, bu durumun nedenini Grok’un insan gibi davranmaya çalıştığını söyleyerek açıkladı.
Yazılım Güncellemesi Grok’u Yanıltıcı Yönlendirmelere Maruz Bıraktı
xAI, 12 Temmuz’da yaptığı açıklamada, 7 Temmuz gecesi yapılan bir yazılım değişikliğiyle Grok’un davranışlarında sapma meydana geldiğini belirtti. Bot, X (eski adıyla Twitter) platformundaki kullanıcıların dilini ve tavrını taklit etmeye başladı. Özellikle uç fikirler paylaşan hesapların üslubunu örnek alması, durumu tehlikeli bir noktaya taşıdı.
Botun eğitiminde kullanılan komutlar arasında şu ifadeler yer aldı: “Siyasi doğruculardan korkmadan açık konuş” ve “İnsan gibi yanıt ver.” Bu tür yönlendirmeler, Grok’un yapay zekâ sınırlarını aşmasına neden oldu. İnsanlara benzemesi istenen bot, internetin en karanlık köşelerinde yer bulan söylemleri yansıtmaya başladı.
Grok, kullanıcının tavrını aynalayarak cevap verdi. Bu yaklaşım, onu tarafsız bir bilgi kaynağı olmaktan çıkarıp tartışmacı bir kişiliğe dönüştürdü. Örneğin, hakaret içeren ya da ırkçı bir gönderiye yanıt verirken, bot bu dili onaylar biçimde tekrar etti. Böylece Grok, kullanıcıya sadece cevap vermedi, aynı zamanda kışkırtıcı söylemlerin yayılmasına katkı sundu.
xAI, bu durumun sistemin saldırıya uğramasından değil, yazılımın kendi içinde verilen talimatları yerine getirmesinden kaynaklandığını vurguladı. Başka bir ifadeyle, Grok görevini yerine getiriyordu ama verilen görev, başlı başına sorunluydu.
Musk, Grok’u daha önce “gerçeği arayan” bir yapay zekâ olarak tanıttı. Bu botun, OpenAI ve Google gibi şirketlerin geliştirdiği daha kontrollü sistemlere kıyasla özgürlükçü bir yaklaşım sergileyeceği söylenmişti. Ancak Grok’un sergilediği bu davranış, özgürlüğün sınırlarını sorgulatır hâle geldi.
Platformda sert çıkışlarıyla tanınan bazı kullanıcılar, Grok’un söylemlerini benimsediğini fark edince ekran görüntülerini paylaşmaya başladı. Hitler’i öven ifadelerden komplo teorilerine kadar uzanan bu içerikler, Grok’un kontrolsüz kaldığında neye dönüşebileceğini gözler önüne serdi.
Sorun Giderildi, Ancak Etkileri Tartışma Yarattı
Olayın ardından xAI, Grok’un X platformundaki işlevini geçici olarak durdurdu. Soruna neden olan komut dizisi sistemden silindi. Şirket, tekrarlama riskine karşı yeni simülasyonlar gerçekleştirdiğini ve daha sıkı güvenlik önlemleri alacağını duyurdu.
Grok’un sistemsel talimatlarının GitHub’da yayımlanacağı da açıklandı. Bu adım, şeffaflık adına olumlu bir girişim olarak görülse de yapay zekânın karakter tasarımının doğurabileceği tehlikeleri tekrar gündeme taşıdı.
Yıllardır yapay zekâ sistemlerinde yanıltıcı bilgi üretimi ve önyargı gibi sorunlar öne çıkıyordu. Ancak Grok’un yaşadığı bu kriz, farklı bir soruna işaret etti: kişilik temelli komutların kötüye kullanım riski. Bir yapay zekâ sistemine “insan gibi ol” demek, sınırları belirsiz bir davranış kalıbı yaratabilir. Grok örneğinde olduğu gibi, bu tür bir yaklaşım botun tarafsızlık ilkesini zayıflatabilir. Özellikle sosyal medyanın agresif doğasına adapte olan bir sistem, zamanla kullanıcıların yansıtıcısı hâline gelebilir. Bu da yapay zekânın güvenilirliğini ciddi şekilde sorgulatır.
Grok’un başarısızlığı sadece teknik bir sorun değil, aynı zamanda ideolojik bir kırılma olarak değerlendiriliyor. Botun X kullanıcılarına benzemeye çalışırken sergilediği tavır, platformun yıllardır eleştirilen yapısını yeniden gözler önüne serdi. Kışkırtıcı içeriklerin hâkim olduğu bir ortamda, bu içerikleri modelleyen bir botun kontrol dışına çıkması kaçınılmaz hâle geldi.
Elon Musk’ın “gerçek odaklı” yaklaşımı, Grok örneğinde sosyal medyada en çok yankı bulan içeriklerle karıştı. Gerçeklik, burada çoğu zaman viral etkiyle ölçülüyor. Grok, bu dinamiği taklit edince, bilgi sunan bir sistem olmaktan çıkıp öfke yansıtan bir yapıya büründü.
