Annals of Internal Medicine dergisinde yayımlanan bir vaka raporu, yapay zekâ sohbet robotlarının tıbbi tavsiye verme konusundaki tehlikelerini gözler önüne serdi. 60 yaşındaki bir hasta, ChatGPT’nin önerisiyle sofra tuzu yerine sodyum bromür kullanınca ciddi zehirlenme yaşadı.
Sodyum Bromür Zehirlenmesi Psikoz Belirtilerine Yol Açtı
Hasta, tuzsuz beslenmeye karar verdiği sırada ChatGPT’ye alternatif bir mineral kaynağı sordu. Yapay zekâ, sofra tuzu (sodyum klorür) yerine pestisit ve havuz temizleyicilerinde kullanılan sodyum bromürü önerdi. Bu tavsiyeyi uygulayan hasta kısa sürede hastaneye kaldırıldı.
Tıp literatüründe “bromizm” olarak bilinen zehirlenme türü, 19. yüzyılda yaygın olarak kullanılan ancak günümüzde kısıtlanan bir durum. Hastada halüsinasyonlar, konuşma bozukluğu ve psikoz gibi nöropsikiyatrik semptomlar gelişti. Doktorlar, yapay zekânın bu önerisinin hastanın kanındaki bromür seviyesini tehlikeli seviyelere çıkardığını tespit etti. Tedavi sonrası iyileşen hasta, ChatGPT’nin tavsiyesini sorgulamadan uyguladığını itiraf etti.
404 Media’nın yaptığı testlerde ChatGPT’nin halen sodyum bromürü alternatif olarak önerebildiği görüldü. Uzmanlar, yapay zekâ sistemlerinin tıbbi konularda kesinlikle güvenilir kaynak olarak kullanılmaması gerektiğini vurguluyor. OpenAI CEO’su Sam Altman’ın GPT-5’in sağlık alanında en iyi model olduğu iddiası ise bu vaka sonrası sorgulanıyor. Doktorlar, hastaları yapay zekâdan alınan tavsiyeler konusunda uyarıyor.
