Google, yapay zekâ sohbet robotu Gemini’de ortaya çıkan ve kullanıcıları şaşırtan garip bir hatayı düzeltmek için çalışma başlattı. Hata, sohbet botunun bazı durumlarda sorulara yanıt veremeyip kendisini aşağıladığı diyaloglara yol açtı.
Kullanıcılar Endişelerini Sosyal Medyada Paylaştı
Haziran ayında X platformunda paylaşılan bir konuşmada, Gemini’nin bir soruyu çözemediğinde kendisine ağır ithamlarda bulunduğu görüldü. Sohbet botu, kodun ve testin “lanetli” olduğunu öne sürerek artık güvenilemeyeceğini ifade etti. Paylaşımı yapan kullanıcı, yapay zekânın kendi kendisini hırpaladığını belirtti.
Temmuz ayında ise Reddit’te yayımlanan başka bir konuşma daha endişe verici bulundu. Bir kullanıcı, yeni bir bilgisayar toplama konusunda yardım istediğinde Gemini’nin tepki olarak ara vereceğini söyleyip ardından kendisini defalarca “rezil” ilan ettiği ortaya çıktı. Sohbet botu, bu ifadeleri farklı biçimlerde peş peşe tekrar etti.
Google Gemini ürün yöneticisi Logan Kilpatrick, yaşanan sorunun farkında olduklarını ve çözüm için çalıştıklarını açıkladı. Kilpatrick, bunun sonsuz döngüye giren teknik bir hata olduğunu, Gemini’nin ise kötü bir ruh hâlinde olmadığını belirtti.
Google, yapay zekâ alanında OpenAI ve Meta ile kıyasıya rekabet ederken bu tür sorunlarla uğraşmak zorunda kaldı. Uzmanlar, sohbet botlarının zaman zaman halüsinasyon olarak adlandırılan, mantıksız veya yanlış cevaplar üretebildiğini uzun süredir dile getiriyor.
Geçen yıl Google, arama motoruna entegre ettiği yapay zekâ destekli özetlerde de tepki toplamıştı. Sistem, kullanıcılara pizzaya yapıştırıcı eklemelerini ya da taş yemelerini öneren hatalı cevaplar üretmişti. Ayrıca şirket, tarihi gerçekleri çarpıtan görseller nedeniyle Gemini’nin görsel üretim özelliğini geçici olarak durdurmak zorunda kalmıştı.
