Google, yapay zekâ destekli arama özetlerinin bazı sağlık sorgularında yanıltıcı bilgiler sunduğu yönündeki bir soruşturmanın ardından harekete geçti. Şirket, karaciğer fonksiyon testleri gibi spesifik tıbbi aramalarda AI Overviews (Yapay Zekâ Özetleri) özelliğini devre dışı bıraktı. Bu karar, yapay zekâ teknolojilerinin sağlık alanındaki hassas kullanımına dair devam eden tartışmaları yeniden alevlendirdi.
Google Yapay Zekâ Özetleri Özelliğini Belirli Sağlık Aramaları İçin Kaldırıyor
Guardian gazetesi tarafından yapılan bir araştırma, Google’ın AI Overviews özelliğinin potansiyel olarak tehlikeli yanıtlar üretebildiğini ortaya koydu. Araştırmacılar, “karaciğer kan testleri için normal değer aralığı nedir” gibi sorgularda sunulan rakamların milliyet, cinsiyet, etnik köken veya yaş gibi faktörleri hesaba katmadığını tespit etti. Bu durum, kullanıcıların sağlıklı olduklarını düşünmelerine yol açabilirdi.
Guardian’ın yayınlanan raporunun ardından Google, ilgili sorgularda AI Overviews özelliğini sessizce kaldırdı. Habere göre, “karaciğer fonksiyon testleri için normal aralık nedir” gibi spesifik aramalar artık yapay zekâ tarafından oluşturulmuş özetler göstermiyor. Ancak “LFT referans aralığı” gibi farklı varyasyonlarda özelliğin hala aktif kalabildiği görüldü. TechCrunch tarafından yapılan testlerde ise bu sorguların hiçbirinde AI Overviews özetine rastlanmadı. Bazı aramalarda en üst sırada, Google’ın özelliği kaldırmasına dair Guardian’ın kendi haberi yer aldı.
Google sözcüsü, Guardian’a yaptığı açıklamada şirketin Arama’daki bireysel kaldırmalar hakkında yorum yapmadığını iletti. Sözcü, geniş kapsamlı iyileştirmeler üzerinde çalıştıklarını ekledi. Google’ın iç klinisyenlerden oluşan bir ekibinin, Guardian’ın işaret ettiği sorguları incelediği belirtildi. Bu incelemede, ‘birçok örnekte sunulan bilginin yanlış olmadığı ve yüksek kaliteli web siteleri tarafından da desteklendiği’ tespit edildi. Şirket, geçtiğimiz yıl sağlık hizmeti kullanım senaryoları için Google Arama’yı iyileştirmeyi amaçlayan yeni özellikler duyurmuştu.
İngiliz Karaciğer Vakfı İletişim ve Politika Direktörü Vanessa Hebditch, Google’ın aldığı önlemi mükemmel bir haber olarak değerlendirdi. Ancak Hebditch, daha büyük bir endişeye dikkat çekti. Hebditch’e göre asıl sorun, tek bir arama sonucunu düzeltmekle sınırlı değil. Google’ın bu spesifik sorgu için AI Overviews’ı kapatması, sağlık alanındaki yapay zekâ özetlerinin genel sorununu çözmüyor. Uzman, yapay zekâ sistemlerinin tıbbi bilgi sunarken bağlamdan yoksun, genelleştirilmiş cevaplar üretme riskinin sürdüğünü vurguladı. Bu durum, kullanıcıların kendi kendine teşhis koymasına veya kritik tıbbi tavsiyeleri geciktirmesine yol açabilir.
