Z badań przeprowadzonych przez włoskich naukowców wynika, że chatboty oparte na sztucznej inteligencji, stosowane w medycynie, popełniają błędy w około 70% przypadków. Jak informuje dziennik „Il Messaggero”, pomyłki te dotyczyły również poważnych diagnoz, m.in. nowotworów skóry i piersi.
Rezultaty badań opublikowano w czasopiśmie naukowym European Journal of Pathology. Projekt badawczy, rozpoczęty w 2023 roku pod kierunkiem Vincenzo Guastafierro z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano pod Mediolanem, obejmował analizę odpowiedzi generowanych przez ChatGPT dla 200 fikcyjnych przypadków klinicznych z różnych dziedzin medycyny.
Przypadki te zostały opracowane przy współpracy z lekarzami specjalistami i zgodnie z aktualnymi wytycznymi diagnostycznymi. Analiza wykazała, że chatbot udzielał błędnych odpowiedzi w około 70% sytuacji, a w 30% przypadków powoływał się na niedokładne lub całkowicie zmyślone źródła.
Choć w 62% przypadków odpowiedzi ChatGPT zawierały częściowo użyteczne informacje, jedynie 32% z nich było całkowicie poprawnych. Do najpoważniejszych pomyłek zaliczono błędne rozpoznanie raka skóry oraz pomieszanie dwóch typów nowotworów piersi. W niektórych sytuacjach chatbot cytował nieistniejące publikacje medyczne.
Jak podkreślił Vincenzo Guastafierro, cytowany przez „Il Messaggero”, wyniki badań dowodzą, że korzystanie z narzędzi AI w medycynie wymaga dużej ostrożności, ponieważ błędy w diagnozach mogłyby prowadzić do poważnych konsekwencji dla pacjentów.
(za: Nauka w Polsce)