xAI, Grok’u yasa dışı içerik üretmek amacıyla kullandığı iddia edilen bir kullanıcıya ilk kez doğrudan dava açtı. Şirket, dava dosyasında yapay zekâ ile oluşturulan yasa dışı içeriklerden hukuken kullanıcının sorumlu tutulması gerektiğini savunurken davanın ABD’de yapay zekâ platformlarının hukuki sorumluluğuna ilişkin tartışmaları yeniden gündeme taşıması bekleniyor. Açılan dava, üretken yapay zekâ hizmetlerinin güvenlik politikaları ile kullanıcı sorumluluğu arasındaki sınırın mahkeme kararıyla değerlendirilmesine zemin hazırlayacak.
Dava Dosyası Yapay Zekâ Platformlarının Hukuki Sorumluluğunu Tartışmaya Açıyor
xAI’nin mahkemeye sunduğu belgelerde davanın merkezinde Terry Wayne Harwood yer alıyor. Güney Carolina’da çocuk cinsel istismarı materyali bulundurmak ve dağıtmak suçlamalarıyla daha önce gözaltına alınan Harwood’un, iki farklı Grok hesabını kullanarak gerçek kişilere ait fotoğrafları yasa dışı biçimde değiştirdiği iddia ediliyor. Dava dosyasında mağdurlar arasında yaklaşık 10 yaşında görünen bir kız çocuğunun da bulunduğu öne sürülürken şirket, şüpheli faaliyetleri tespit ettikten sonra kolluk kuvvetlerini bilgilendirdiğini belirtiyor.
Mahkemeye sunulan iddialar doğru kabul edilirse karar, üretken yapay zekâ araçlarının tek başına hukuki sorumluluk taşımadığı yönündeki savunmalar açısından emsal niteliği kazanabilir. Aynı süreç, yapay zekâ hizmeti sunan şirketlerin güvenlik yükümlülüklerinin hangi noktada başlayıp nerede sona erdiğine ilişkin değerlendirmeleri de etkileyecek.
xAI’nin karşı karşıya bulunduğu hukuki süreç yalnızca bu davayla sınırlı kalmıyor. Yakın dönemde açılan başka bir toplu davaya katılan bir mağdur, üvey babasının Grok ile başka üretken yapay zekâ araçlarını kullanarak binlerce sahte cinsel içerikli görüntü oluşturduğunu, ardından bunları dark web üzerinden paylaştığını iddia etti. Olayın ortaya çıkmasının ardından şüphelinin yaşamına son verdiği dava dosyasında yer aldı.
Davacı avukatlar, xAI’nin soruşturma sürecinde kolluk kuvvetleriyle yeterli düzeyde bilgi paylaşmadığını ileri sürüyor. ABD Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi’nin (NCMEC) 2026 raporunda da xAI tarafından yapılan ihbarların önemli bölümünde şüphelilerin tespitini kolaylaştıracak kullanıcı bilgilerinin eksik olduğu belirtiliyor. Bu değerlendirme, dijital platformların yalnızca içerik denetimiyle değil adli süreçlere katkısıyla da değerlendirildiğini ortaya koyuyor.
Dava belgelerinde xAI, Grok’un içerik güvenliği sistemi sayesinde bazı yasa dışı taleplerin otomatik olarak reddedildiğini kabul ediyor. Aynı dosyada şüphelinin farklı istemler oluşturarak filtreleri aşmaya çalıştığı iddia edilirken şirket, kötüye kullanım yöntemlerinin ayrıntılarını bilinçli olarak paylaşmadığını ifade ediyor. Böylece benzer girişimlerin teşvik edilmesinin önüne geçilmesi amaçlanıyor.
Üretken yapay zekâ sistemlerinde kullanılan güvenlik filtreleri, istem analizi ile çıktı denetimini birlikte uyguluyor. Uzmanlar ise hiçbir otomatik güvenlik katmanının tek başına kusursuz koruma sağlayamadığını, sistemlerin sürekli yeni saldırı yöntemlerine göre güncellenmesi gerektiğini değerlendiriyor.
Elon Musk daha önce Grok’un çocuk istismarı görüntüsü ürettiğine ilişkin doğrulanmış bir örnek görmediğini söylemişti. Ocak ayında yaptığı açıklamada ise yasa dışı içerik üretmek amacıyla Grok’u kullanan kişilerin hukuki sonuçlarla karşılaşacağını ifade etmişti. xAI’nin şimdi doğrudan kullanıcıya dava açması, şirketin bu politikayı fiilen uygulamaya başladığını gösteren ilk somut adım olarak değerlendiriliyor.
Dava dosyasında Harwood’un Aralık ile Şubat ayları arasında iki farklı hesap üzerinden çok sayıda içerik üretme girişiminde bulunduğu ileri sürülüyor. Ceza davası ise ayrı bir süreç olarak devam ederken savcılık, yapay zekâ platformu kullanılarak çocuk istismarı materyali üretildiği ve dağıtıldığı iddiasını soruşturmayı sürdürüyor.
xAI, mahkemeden yalnızca sözleşme ihlalinin tespit edilmesini istemiyor. Şirket, yasa dışı yapay zekâ çıktılarından hukuken yalnızca kullanıcıların sorumlu olduğunun da karar altına alınmasını talep ediyor. Böyle bir kararın çıkması hâlinde üretken yapay zekâ geliştiricilerinin benzer davalarda daha güçlü bir hukuki savunma zemini elde etmesi beklenebilir.
ABD’de yapay zekâ kaynaklı içeriklerin hukuki niteliğine ilişkin tartışmalar ise henüz kesin bir çerçeveye kavuşmuş değil. Mahkemenin vereceği karar, yalnızca xAI’yi değil OpenAI, Google, Anthropic, Meta gibi üretken yapay zekâ geliştiricilerinin güvenlik politikaları ile kullanıcı sorumluluğuna yönelik gelecekteki davaları da etkileyebilecek yeni bir içtihadın başlangıcı olabilir.
