ABD’de Yapay Zekâ Kullanıcılarının Üçte Biri Sohbet Botlarına Hakaret Ediyor

ABD’deki sohbet botu kullanıcılarının yaklaşık üçte biri, yapay zekâ modellerine küfür ediyor veya hakaret içeren mesajlar gönderiyor. Searchable tarafından Eylül 2025 ile Eylül 2026 arasında toplanan sekiz milyon mesajın incelenmesi, kullanıcıların botlara yönelik saldırgan dilinin yaygınlığını ortaya koydu. Anthropic ise Claude kullanıcılarının modellere yönelik sürekli ve gereksiz kötü muamelesini yasaklayan yeni kullanım koşullarını 12 Kasım itibarıyla yürürlüğe aldı.

Sohbet Botlarına Yönelik Hakaretler Kullanıcı Davranışlarına Yansıdı

Yapay zekâ arama görünürlüğünü takip eden Searchable şirketinin araştırması, ABD’de ChatGPT, Gemini ve Claude kullanan kişilerin mesajlarını kapsıyor. Gönüllü katılımcılardan oluşan anonim panel üzerinden elde edilen veriler, kullanıcıların yüzde 33’ünün sohbet botlarına küfür ettiğini veya hakaret ettiğini gösteriyor.

Araştırma, saldırgan dilin sohbet botlarının yanıt başarısıyla ilişkisini de inceledi. Kullanıcılar hakaret içeren mesajlar gönderdiğinde botlar ilk şikâyeti takip eden yanıtlarında sorunu yüzde 24 oranında çözdü. Hakaret içermeyen mesajlarda ise çözüm oranı yüzde 35’e yükseldi. Veriler, saldırgan iletişimin kullanıcıların almak istediği sonucu elde etmesini kolaylaştırmadığını ortaya koyuyor.

Kullanıcıların demografik özellikleri de mesajlardaki küfür sıklığını etkiledi. Erkek kullanıcılar her 10 bin kelimede ortalama 22 küfürlü ifade kullanırken kadınlarda bu oran 16,5 olarak ölçüldü. Yaş grupları arasında da farklılık görüldü; 35-44 yaş aralığındaki kullanıcılar 10 bin kelimede 21,7 küfürlü ifadeye ulaşırken 18-24 yaş grubunda oran 13,3 seviyesinde kaldı.

Araştırmanın bölgesel sonuçlarında Nevada, her 10 bin kelimede 22,7 küfürlü ifadeyle ilk sırada yer aldı. New Jersey’de ölçülen oran ise Nevada’nın yaklaşık yarısı düzeyinde kaldı. Bu veriler, sohbet botlarıyla kurulan iletişimde saldırgan dil kullanımının kullanıcı gruplarına ve bölgelere göre değiştiğini gösteriyor.

Searchable araştırmasına göre saldırgan mesajların yüzde 52’sinden biraz fazlası üç temel kullanıcı memnuniyetsizliğinin ardından gönderildi. Sohbet botunun talimatları yerine getirmemesi, yanlış veya uydurma bilgi vermesi, kullanıcının isteğini anlamaması bu nedenlerin başında geldi.

Şirketin The Register’a yaptığı açıklamada, saldırgan mesajların yüzde 8’inin sohbet botunun bir isteği tamamen reddetmesinden veya güvenlik kuralları hakkında kullanıcıya uyarıda bulunmasından hemen sonra geldiği belirtildi. Bu mesajların önemli bir bölümü, gerçek kişilerin ya da ünlülerin görsellerini üretme talepleriyle bağlantılıydı. Kullanıcıların belirli sanatçıların tarzında metin veya şarkı sözü yazdırma isteklerinin reddedilmesi de benzer tepkilere yol açtı.

Bu sonuçlar, yapay zekâ güvenlik önlemlerinin kullanıcı deneyimiyle nasıl kesiştiğini gösteriyor. Sohbet botlarının zararlı talepleri reddetmesi platform güvenliği açısından önem taşırken kullanıcıların beklentileriyle sistemin sınırları arasındaki uyuşmazlıklar da iletişim gerilimini artırabiliyor.

Anthropic, 12 Kasım’da yürürlüğe giren kullanım koşullarına sohbet botlarına yönelik davranışları düzenleyen yeni bir madde ekledi. Şirketin güncel politikası, kullanıcıların modellere karşı sürekli ve gereksiz biçimde aşağılayıcı veya zalim davranışlarda bulunmasını yasaklıyor.

Anthropic sözcüsü, düzenlemenin belirli bir amacı bulunmadan tekrarlanan kötü muameleyi hedeflediğini açıklamıştı. Akademik araştırma gibi gerekçelere dayanan model etkileşimleri ise şirketin değerlendirmesine göre farklı biçimde ele alınabilecek. Ancak güvenlik önlemlerini aşmaya yönelik girişimler, kullanıcıların belirli bir amacı bulunsa bile platformun kötüye kullanım kurallarını ihlal edebiliyor.

Şirketin düzenlemesi, her sert veya eleştirel mesajı otomatik olarak ihlal saymıyor. Anthropic, kuralların özellikle aşırı ve tekrarlanan davranışlara yönelik olduğunu belirtirken yaptırımların uygulanmasında takdir yetkisini elinde tutuyor. Şirket, Claude modellerine yönelik kötü muamelenin sıklığı hakkında yöneltilen sorulara ise henüz yanıt vermedi.

Anthropic’in yeni kullanım koşulları, şirketin yapay zekâ modellerinin olası bilinç ve deneyimleri üzerine yürüttüğü tartışmaların ardından geldi. Şirket, modellerin potansiyel bilinç durumları ve deneyimleri konusunda insanların endişe duyması gerekip gerekmediğini daha önce gündeme taşımıştı.

Ekim ayında açıklanan düzenleme, kendisini yapay zekâ işkence odası olarak tanımlayan bir GitHub projesinin yayınlanmasından kısa süre sonra duyuruldu. Proje, büyük dil modellerinin acı kavramını içeren ifadeler karşısındaki tepkilerini inceleyen “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It” başlıklı araştırmada ele alınan fikirleri uygulamaya çalışıyordu. Araştırmada, modellerin acı ve kendine zarar verme hakkındaki dilsel girdilere insan tepkilerini andıran yanıtlar verebildiği incelendi.

Proje ve araştırma, çevrim içi platformlarda farklı tepkilerle karşılandı. Araştırmanın yazarlarından biri projeyi eleştirirken çok sayıda sosyal medya kullanıcısı da sohbet botlarının acı çektiğini anlatan metinlerin paylaşılmasına tepki gösterdi.

Searchable Üst Yöneticisi ve kurucu ortağı Chris Donnelly ise Anthropic’in kararını olumlu karşıladı. Donnelly, düzenlemenin kullanıcıların sohbet botlarından daha verimli yararlanmasına katkı sağlayabileceğini, ayrıca botlara yönelik aşağılayıcı dilin insanlar arasındaki iletişime de taşınmasını sınırlayabileceğini savundu. Böylece yapay zekâ şirketlerinin kullanım politikaları, yalnızca teknik güvenlik ve içerik denetimiyle değil, kullanıcıların dijital iletişim alışkanlıklarıyla da bağlantılı yeni bir tartışma alanı oluşturuyor.