U posljednja dva desetljeća, prvi korak za svakoga tko doživi nove medicinske simptome bio je pretraživanje interneta. Ova praksa postala je toliko uobičajena da je dobila pejorativni naziv “Dr. Google.” No, vremena se mijenjaju, a mnogi tražitelji medicinskih informacija sada koriste velike jezične modele (LLM). Prema OpenAI-u, 230 milijuna ljudi tjedno postavlja zdravstvena pitanja ChatGPT-u.
U tom kontekstu, OpenAI je nedavno lansirao novi proizvod ChatGPT Health. Njegovo predstavljanje dogodilo se u nesretnom trenutku: samo dan ranije, medijska platforma SFGate objavila je priču o Samu Nelsonu, tinejdžeru koji je umro od predoziranja nakon opsežnih razgovora s ChatGPT-om o kombiniranju različitih lijekova. U svjetlu tih vijesti, mnogi novinari su se zapitali o mudrosti oslanjanja na alat koji bi mogao uzrokovati ozbiljne štete. Iako ChatGPT Health postoji kao zasebna opcija unutar ChatGPT-a, ne radi se o novom modelu već o dodatku postojećem modelu koji pruža smjernice i alate za pružanje zdravstvenih savjeta, uključujući pristup elektroničkim medicinskim evidencijama i podacima o kondiciji, ako se dobije dopuštenje.
Nema sumnje da ChatGPT i drugi veliki jezični modeli mogu napraviti medicinske pogreške, a OpenAI naglašava da je ChatGPT Health namijenjen kao dodatna podrška, a ne zamjena za liječnika. No kada liječnici nisu dostupni ili ne mogu pomoći, ljudi će se okrenuti alternativama. Neki liječnici smatraju da LLM-ovi mogu poboljšati medicinsku pismenost. Prosječni pacijent može imati poteškoća s navigacijom kroz ogromnu količinu informacija dostupnih na internetu, a LLM-ovi mogu im pomoći u razlikovanju kvalitetnih izvora od sumnjivih.
Izdanje ChatGPT Health i najava novih zdravstvenih integracija za Claude od strane Anthropic ukazuju da AI divovi sve više priznaju i potiču zdravstvene primjene svojih modela. No, takve primjene nose rizike, s obzirom na dobro dokumentirane sklonosti LLM-ova da se slažu s korisnicima i izmišljaju informacije umjesto da priznaju neznanje.
Ipak, ti rizici moraju se uravnotežiti s potencijalnim koristima. Kada se razmatraju autonomna vozila, ključno je pitanje ne koliko su uključena u nesreće, već uzrokuju li manje štete od ljudskih vozača. Ako je Dr. ChatGPT bolji od Dr. Google-a, mogao bi smanjiti ogroman teret medicinske dezinformacije i nepotrebne zdravstvene anksioznosti koju internet stvara.
Međutim, procjenjivanje učinkovitosti chatbota poput ChatGPT-a za zdravstvene informacije je složeno. Istraživanja su pokazala da LLM-ovi ispravno odgovaraju na medicinska pitanja oko 85% vremena, ali njihova sklonost halucinacijama i sycophancyju može doprinijeti širenju medicinske dezinformacije. OpenAI tvrdi da je serija GPT-5 znatno manje sklona halucinacijama od svojih prethodnika, a uz to, ChatGPT Health može pružiti kontekstualizirane zdravstvene savjete gledajući kroz medicinske evidencije korisnika.
Iako ChatGPT Health i drugi alati predstavljaju značajno poboljšanje u odnosu na pretraživanje Googlea, postoji zabrinutost da bi mogli potaknuti ljude da se oslanjaju na internet umjesto na ljudske liječnike. Uz to, ljudi bi mogli previše vjerovati LLM-ovima, što bi moglo dovesti do zanemarivanja stručne medicinske pomoći. LLM-ovi ne mogu zamijeniti ljudske liječnike – barem ne još.
