Google’ın yapay zeka (AI) özetlerinin bazı sağlık aramalarında yanlış bilgiler sunarak kullanıcıları yanıltma riski taşıdığı belirtiliyor.
HABER MERKEZİ – İngiltere merkezli Guardian’ın yürüttüğü bir inceleme, Google’ın arama sonuçlarının üstünde yer verdiği “AI Overviews” başlıklı yapay zeka özetlerinin, yanlış ve yanıltıcı sağlık bilgileri içerebildiğini ortaya koydu.
İncelemeye göre bu özetler, bazı durumlarda kullanıcıların sağlık açısından riskli kararlar almasına yol açabilecek nitelikte.
Google, üretken yapay zeka kullanan bu özetlerin “yararlı” ve “güvenilir” olduğunu savunurken, Guardian’ın araştırmasında tespit ettiği örneklerde kanser ve karaciğer hastalıklarına ilişkin hatalı yönlendirmeler yer aldı.
İncelemede “son derece tehlikeli” olarak nitelenen bir örnekte, Google’ın pankreas kanseri hastalarına yüksek yağlı gıdalardan kaçınmalarını önerdiği görüldü. Uzmanlar, bunun tıbbi olarak yanlış olduğunu ve hastaların yaşam şansını olumsuz etkileyebileceğini belirtti. Pancreatic Cancer UK yetkilileri, bu tür bir diyetin hastaların yeterli kalori alamamasına ve tedaviye dayanamayacak hale gelmelerine yol açabileceği uyarısında bulundu. Bir diğer örnekte ise Google’ın karaciğer fonksiyon testlerine ilişkin sunduğu bilgilerin bağlamdan kopuk ve yanıltıcı olduğu ifade edildi. British Liver Trust, yapay zeka özetlerinde “normal” olarak sunulan değerlerin tıbbi gerçeklerle örtüşmediğini ve bunun ciddi karaciğer hastalığı olan kişilerin durumlarını hafife almasına neden olabileceğini belirtti.
Guardian’ın aktardığına göre, kadınlara yönelik kanser testleriyle ilgili bazı aramalarda da “tamamen yanlış” bilgiler sunuldu. Uzmanlar, bu tür sonuçların gerçek belirtilerin göz ardı edilmesine yol açabileceğini vurguladı.
Google ise örneklerin bir kısmının “eksik ekran görüntülerine” dayandığını savunarak, bağlantıların güvenilir kaynaklara yönlendirdiğini ve uzman görüşü alınmasını önerdiğini açıkladı. Hasta Bilgilendirme Forumu Direktörü Sophie Randall, yapay zeka özetlerinin yanlış sağlık bilgisini arama sonuçlarının en üstüne taşımasının ciddi bir risk oluşturduğunu söyledi. Marie Curie Dijital Direktörü Stephanie Parker da, insanların çoğu zaman endişe ve kriz anlarında internete başvurduğunu, bu anlarda yanlış ya da bağlamından kopuk bilgilerin ciddi zararlara yol açabileceğini ifade etti.
