Google’ın Yapay Zeka Özetleri Özelliği Sağlık Tavsiyeleriyle Tartışma Yarattı
Google’ın tartışmalı AI Özetler özelliği, sağlık konularında yanlış ve tehlikeli bilgiler vermeye devam ediyor. The Guardian gazetesinin yeni araştırması, yapay zeka tarafından oluşturulan bu özetlerin ciddi hastalıklarla ilgili hatalı tavsiyeler içerdiğini ortaya koydu. Uzmanlar, bu durumun kullanıcıların sağlığı için ciddi bir risk oluşturduğu konusunda uyarıda bulunuyor.
Yapay Zeka Özetleri Hayati Konularda Yanıltıcı Bilgiler Sunuyor
The Guardian tarafından yapılan bir inceleme, Google’ın “AI Özetler” (AI Overviews) özelliğinin tıp alanında kabul edilmiş bilimsel konsensüsle uyuşmayan yanıtlar üretebildiğini ortaya koydu. Araştırma, yapay zekanın sağlıkla ilgili kritik konularda güvenilir olmayan ve hatta potansiyel olarak zararlı bilgiler sunduğunu gösteriyor.
Örneğin, pankreas kanseri hastalarına yüksek yağlı gıdalardan kaçınmalarını tavsiye eden bir AI Özeti, hastalığın ilerlemesinde yetersiz beslenmenin risk oluşturduğunu ve doktorların çoğunlukla tam tersi yönde, besin açısından zengin ve enerji verici bir diyet önerdiği gerçeğiyle çelişiyor.
Benzer şekilde, sistem kadınlar için önerilen kanser tarama testlerine ilişkin yanlış ve eksik bilgiler paylaşarak, kullanıcıların doğru tarama zamanlamasını kaçırmasına veya erken belirtileri önemsememesine yol açma riski taşıyor. Bu durum, otomatik özet sistemlerinin hassas konularda kontrolsüz kullanımının ciddi halk sağlığı sorunlarına yol açabileceğine işaret ediyor.
Zihinsel sağlık konusunda üretilen hatalı özetler, özellikle endişe verici boyutlara ulaşıyor. İngiltere merkezli Zihinsel Sağlık Derneği Mind’ın Bilgi ve Standartlardan Sorumlu Başkanı Stephen Buckle, Google’ın AI Özetler özelliğinin yeme bozuklukları ve psikoz gibi hassas konularda “son derece tehlikeli tavsiyeler” içerebildiğini belirtti.
Buckle, bu otomatik üretilen içeriklerin yalnızca yanlış olmadığını, aynı zamanda doğrudan zarar verebilecek ve insanların ihtiyaç duydukları profesyonel tıbbi yardımı aramasını geciktirebilecek veya engelleyebilecek nitelikte olduğunu vurguladı.
Pennsylvania Üniversitesi Annenberg Kamu Politikası Merkezi’nin Nisan 2025 tarihli bir araştırması, yetişkinlerin yaklaşık yüzde sekseninin sağlık semptomları hakkında internete başvurduğunu ortaya koydu. Katılımcıların üçte ikisi, yapay zeka tarafından oluşturulan sonuçları kısmen veya çok güvenilir bulduğunu belirtti. Bu istatistik, teknolojiye duyulan güvenin endişe verici seviyelere ulaştığını gösteriyor.
Aynı araştırmada, katılımcıların neredeyse yarısı sağlık hizmeti sağlayıcılarının kendi bakımları hakkında karar verirken yapay zeka kullanmasından rahatsız olduğunu ifade etti. Bu çelişkili tutum, kullanıcıların kontrolün kendilerinde olmadığı durumlarda yapay zekaya karşı daha temkinli davrandığını ortaya koyuyor.
MIT tarafından yapılan ayrı bir çalışma daha çarpıcı bir gerçeği gözler önüne serdi. Araştırmaya katılanlar, düşük doğruluktaki yapay zeka cevaplarını geçerli, güvenilir ve tatmin edici olarak değerlendirdi. Katılımcılar, bu cevaplar nedeniyle potansiyel olarak zararlı tıbbi tavsiyelere uymaya ve gereksiz tıbbi yardım aramaya yüksek eğilim gösterdi.
Bir Google sözcüsü, The Guardian’a yaptığı açıklamada şirketin yapay zeka alanında özellikle sağlık gibi konularda önemli yatırımlar yaptığını ve büyük çoğunluğunun doğru bilgi sağladığını öne sürdü. Ancak gazetenin araştırma bulguları, özelliğin hâlâ tehlikeli sağlık yanlış bilgileri yayma potansiyeli taşıdığını gösteriyor.
Kanada Tabipler Birliği, resmi internet sitesinde yapay zeka tarafından üretilen sağlık tavsiyelerini tehlikeli olarak nitelendiriyor. Birlik, halüsinasyonlar, algoritmik önyargılar ve güncelliğini yitirmiş gerçeklerin, üretilen tavsiyeyi takip eden kişileri yanıltabileceğini ve sağlıklarına zarar verebileceğini vurguluyor. Uzmanlar, insanların yapay zeka yerine doktorlara ve lisanslı sağlık profesyonellerine danışması gerektiğinin önemle altını çiziyor.
