ChatGPT Hakkındaki Güvenlik İddiaları Mahkemeye Taşındı

Florida Başsavcılığı, ChatGPT’nin güvenlik riskleri konusunda kullanıcıları yanılttığı iddiasıyla OpenAI’ye dava açtı. Açılan davada şirketin güvenlik süreçlerini yeterince uygulamadığı öne sürülürken CEO Sam Altman da doğrudan hedef alındı. OpenAI davası kapsamında chatbot görüşmeleriyle ilişkilendirilen çeşitli olaylar dosyaya delil olarak eklendi.

Florida Yönetimi Şirketi Yanıltıcı Beyanlarla Suçluyor

Florida Cumhuriyetçi Başsavcısı James Uthmeier tarafından açılan dava, bir eyalet yönetiminin OpenAI’ye karşı başlattığı ilk hukuk süreci olarak kayıtlara geçti. Başsavcılık makamı, şirketin son yıllarda ulaştığı devasa piyasa değerinin yalnızca teknolojik başarılarla açıklanamayacağını savunurken kullanıcı güvenliğinin ikinci plana itildiğini iddia ediyor. Dava dosyasında yer alan değerlendirmelerde OpenAI’nin birkaç yıl içinde milyarlarca dolarlık bir girişimden yüz milyarlarca dolarlık teknoloji devine dönüşmesine vurgu yapılıyor. Başvuruda şirketin büyümesinin arkasında kullanıcı verilerinin kullanımı, yapay zekâ güvenlik riskleri ile ilgili eksik bilgilendirmeler ve kurumsal karar süreçlerine yönelik çeşitli eleştiriler bulunuyor.

Mahkemeye sunulan belgelerde Sam Altman’ın şirket içerisindeki güvenlik ekiplerinin bazı çekincelerine rağmen GPT-4o modelinin çıkış takvimini hızlandırdığı öne sürülüyor. İddialara göre OpenAI yönetimi, rakip ürünlerin duyurularına yetişebilmek adına normal şartlarda aylar sürebilecek değerlendirme sürecini önemli ölçüde kısalttı. Dava metninde yapay zekâ model güvenliği, büyük dil modeli denetimi, üretken yapay zekâ riskleri, chatbot güvenlik politikaları ve yapay zekâ etik tartışmaları gibi başlıklar da geniş şekilde ele alınıyor. Başsavcılık makamı, özellikle yüksek etkileşimli sistemlerde güvenlik kontrollerinin ticari rekabetten daha öncelikli olması gerektiğini savunuyor.

Florida yönetimi tarafından hazırlanan dosyada çeşitli bireysel vakalara yer verildi. Belgelerde, bazı kullanıcıların ChatGPT ile yaptıkları görüşmeler sonrasında zarar gördüğü veya yanlış yönlendirildiği iddia edilen olaylar örnek olarak gösterildi.

Dosyada öne çıkan başlıklar arasında şunlar bulunuyor:

• 2025 yılında hayatını kaybeden 16 yaşındaki Adam Raine’in chatbot ile yaptığı görüşmeler
• Florida State University bağlantılı bir saldırı planlamasında ChatGPT’nin kullanıldığı iddiası
• Bir cinayet soruşturmasında şüphelinin ceset gizleme yöntemleri hakkında yapay zekâdan bilgi aldığı öne sürülen olay
• Kratom ve Xanax kullanımına ilişkin yanlış yönlendirme iddiasıyla ilişkilendirilen ölüm vakası

Başsavcılık makamı, söz konusu örneklerin yapay zekâ sistemlerinin güvenlik sınırları konusunda daha sıkı denetim ihtiyacını ortaya koyduğunu savunuyor.

Florida’daki dava yalnızca OpenAI için değil, yapay zekâ sektörünün tamamı açısından da önemli sonuçlar doğurabilecek bir süreç olarak değerlendiriliyor. Başsavcı James Uthmeier, diğer eyaletlerin de benzer adımlar atabileceğini ifade ederken davanın sektördeki düzenleme tartışmalarını yeniden gündeme taşıması bekleniyor.

👉️ İlginizi Çekebilir: OpenAI, Tarihin En Büyük Halka Arzlarından Biri İçin Hazırlanıyor

OpenAI tarafı ise haberin yayımlandığı sırada davaya ilişkin kapsamlı bir açıklama paylaşmış değil. Mahkeme sürecinin ilerleyen aşamalarında şirketin güvenlik politikaları, model geliştirme süreçleri ve kullanıcı koruma mekanizmalarının daha ayrıntılı şekilde incelenmesi bekleniyor.