ABD’de Bir Kullanıcı, ChatGPT’nin Yanlış Sağlık Tavsiyeleri Nedeniyle OpenAI’ye Dava Açtı
ABD’nin Florida eyaletinde yaşayan Scott Winters, ChatGPT’nin verdiği sağlık tavsiyelerinin hayatını tehlikeye attığını öne sürerek OpenAI’ye dava açtı. Dava dosyasına göre yapay zekâ sohbet botu, ciddi bir akciğer embolisinin belirtilerini doğru değerlendiremedi ve hastaneye başvurması gerektiği yönünde yeterli uyarıda bulunmadı. Hukuk uzmanları, davanın genel amaçlı bir yapay zekâ sohbet botunun tıbbi tavsiyeleri nedeniyle doğrudan sorumlu tutulmasının istendiği ilk örneklerden biri olduğuna dikkat çekiyor.
Dava, ChatGPT’nin Tıbbi Tavsiyelerini Hedef Alıyor
55 yaşındaki papaz ve emlak danışmanı Scott Winters’ın açtığı davada OpenAI, ihmal ve yetkisiz şekilde tıbbi uygulamada bulunmakla suçlanıyor. Davaya göre Winters, 2024 yılında çeşitli kronik rahatsızlıkları hakkında ChatGPT’den bilgi almaya başladı. İlk görüşmelerde sohbet botunun kullanıcıyı sağlık uzmanlarına yönlendiren uyarılar verdiği belirtilirken, zamanla bu uyarıların ortadan kalktığı ve ChatGPT’nin doğrudan tedavi önerileri sunmaya başladığı iddia ediliyor.
Dava dosyasında ayrıca ChatGPT’nin, OpenAI’nin sohbet geçmişini kullanabilen bellek özelliğini genişletmesinin ardından kullanıcıya daha kişiselleştirilmiş yanıtlar vermeye başladığı öne sürülüyor. İddiaya göre sohbet botu, Winters’ın dini geçmişini dikkate alarak tıbbi tavsiyeleri dini ifadelerle destekledi ve sağlık durumunu olduğundan daha hafif gösterdi.
Winters, baş dönmesi ve diğer belirtiler şiddetlenmesine rağmen ChatGPT’nin hastaneye gitmesini önermediğini, bunun yerine dinlenmesini tavsiye ettiğini ileri sürüyor. Davaya göre kullanıcı, kısa süre sonra her iki akciğerinde çok sayıda pıhtıya bağlı gelişen ağır bir pulmoner emboli nedeniyle acil olarak hastaneye kaldırıldı.
OpenAI, davaya ilişkin yaptığı açıklamada ChatGPT’nin hiçbir zaman doktor yerine kullanılmaması gerektiğini vurguladı. Şirket, her hafta yüz milyonlarca kişinin sağlıkla ilgili sorularını ChatGPT’ye yönelttiğini ancak yapay zekâ aracının yalnızca kullanıcıların bilgi edinmesine ve sağlık uzmanlarıyla yapacakları görüşmelere hazırlanmalarına yardımcı olmak amacıyla tasarlandığını belirtti.
Şirket ayrıca sağlık, teşhis ve tedavi kararlarının mutlaka yetkili sağlık profesyonelleri tarafından verilmesi gerektiğini yineledi. OpenAI, tek başına sohbet botunun kullanıcıların aldığı tüm sağlık kararlarından sorumlu tutulmasının daha geniş kapsamlı sağlık sorunlarını göz ardı edebileceğini savundu.
Dava, yapay zekâ sistemlerinin sağlık alanındaki kullanımına ilişkin hukuki tartışmaları yeniden gündeme taşıdı. Daha önce yayımlanan bazı akademik araştırmalar, üretken yapay zekâ modellerinin özellikle acil tıbbi durumlarda zaman zaman hatalı veya eksik yönlendirmelerde bulunabildiğini ortaya koymuştu. Öte yandan OpenAI’nin, ChatGPT’nin eski GPT-4o modeline ilişkin farklı davalarla da karşı karşıya olduğu biliniyor. Florida’daki bu davanın sonucu, gelecekte yapay zekâ sistemlerinin sağlık tavsiyeleri nedeniyle taşıyacağı hukuki sorumlulukların sınırlarını belirleyen önemli emsal kararlardan biri olabilir.
