Google’ın kurucularından Sergey Brin’in yapay zekâ modellerine yönelik şiddet içerikli tehditlerin daha iyi yanıtlar sağladığı yönündeki açıklaması tartışma yarattı. Ancak uzmanlara göre bu yöntem etkili bir çözüm değil.
Tehditkâr Dilin Yapay Zekâ Üzerindeki Etkisi Abartılıyor
Sergey Brin’in, yapay zekâ modellerinin tehdit edildiğinde daha etkili yanıt verdiği yönündeki açıklaması kamuoyunda geniş yankı uyandırdı. Brin, kullanıcıların bu yöntemi kullanmaktan çekindiğini, ancak işe yaradığını savundu. Bu yaklaşım, özellikle sosyal medyada ChatGPT gibi modelleri kullanan bazı kişilerin “Bu cevap doğru olmazsa işimi kaybederim” gibi ifadelerle daha tutarlı yanıtlar aldıklarına dair paylaşımlarını hatırlattı.
Ancak uzmanlara göre bu tür ifadeler yalnızca modelin dilsel kalıplar üzerinde yaptığı tahminleri etkiliyor. Yani model tehditten etkilenmiyor, sadece ciddi bir bağlam yaratıldığı için daha özenli yanıtlar veriyor gibi görünüyor.
Eski yapay zekâ modelleri, anlamadan da olsa duygusal ya da yüksek risk içeren ifadeleri önemli olarak değerlendirebiliyordu. Fakat son yıllarda geliştirilen modeller, bu tarz manipülatif dilleri filtrelemeye başladı. Kullanıcıların tehdit içeren komutları, artık sistemler tarafından doğrudan engelleniyor veya içerik ihlali olarak işaretleniyor.
OpenAI ve Google gibi şirketler, bu tür senaryoların önüne geçmek için modellerini sürekli olarak güncelliyor. Dolayısıyla kullanıcıların sistemleri tehdit etmesi hem zaman kaybına neden oluyor hem de hiçbir işe yaramıyor. Yapay zekâ modelleri, fiziksel tehdit, korku ya da baskı gibi duyguları algılayamıyor. “Eğer doğru cevabı vermezsen seni kaçırırım” gibi ifadeler, modelin teknik altyapısında hiçbir anlam ifade etmiyor. Bunun yerine bu tür cümleler, modelin daha ciddi veya resmi dil kalıplarıyla eşleştirme yapmasına neden oluyor.
Yani model tehditten korktuğu için değil, yalnızca dilsel bağlama göre hareket ettiği için yanıtlar farklılaşıyor. Aynı etki, “Lütfen dikkatlice yanıtla” veya “Bu bilgi çok önemli” gibi ifadelerle de kolaylıkla sağlanabiliyor.
Açıklayıcı ve Net İfadeler Daha İyi Sonuç Veriyor
Uzmanlar, yapay zekâdan verimli sonuç almanın en etkili yolunun daha fazla bağlam ve açık bilgi vermek olduğunu söylüyor. Örneğin bir seyahat rotası oluşturulmasını isteyen kullanıcı, “Bu rota önemli çünkü köpeğim iki saatte bir dışarı çıkmalı” şeklinde net bilgi verdiğinde, model çok daha isabetli yanıtlar üretebiliyor.
Aynı zamanda kullanıcıların, ilk yanıtı beğenmediklerinde gerekçeleriyle birlikte modelden düzeltme istemeleri de sonuç kalitesini doğrudan artırıyor. Örneğin “Bu yeterli değil çünkü önerdiğin duraklar güzergâh dışında” gibi ifadeler, modele neyin yanlış olduğunu göstererek daha iyi bir ikinci yanıt alınmasını sağlıyor.
Yapay zekâ sistemleri, belirli kurallar doğrultusunda çalışan sistem komutlarıyla yönlendirilir. Eğer tehdit içeren ifadeler gerçekten daha başarılı sonuç veriyor olsaydı, bu tür cümleler modellerin temel sistem mesajlarında yer alırdı. Ancak hem OpenAI’ın ChatGPT’si hem de Google’ın Gemini’si gibi gelişmiş modellerde böyle bir yapı bulunmuyor. Bu da Brin’in iddiasının yapay zekâ sektöründeki mühendislik anlayışıyla çeliştiğini ortaya koyuyor. Şirketler, kullanıcı deneyimini geliştirmek adına etik dışı yöntemleri teşvik etmek yerine, bağlama dayalı doğru yönlendirmeleri teşvik ediyor.
Yapay zekâ kullanıcılarının büyük çoğunluğu, tehdit içeren cümlelerle modelle tuhaf bir diyalog kurmak yerine hızlı ve doğru yanıtlar almak istiyor. Bu nedenle modelle etkili iletişim kurmak isteyen kişilerin tehdit diline başvurması gerekmiyor.
