Dr. Sina Bari, kirurg i stručnjak za umjetnu inteligenciju u zdravstvu iz tvrtke iMerit, svjedočio je kako ChatGPT može zavesti pacijente pogrešnim medicinskim savjetima.
“Nedavno je jedan pacijent došao k meni, a kada sam preporučio lijek, imao je isprintani dijalog iz ChatGPT-a koji je tvrdio da taj lijek ima 45% šanse za plućnu emboliju,” rekao je dr. Bari za TechCrunch.
Kada je dr. Bari dodatno istražio, otkrio je da je ta statistika dolazila iz rada koji se bavio utjecajem tog lijeka na specifičnu subgrupu ljudi s tuberkulozom, što nije odgovaralo njegovom pacijentu.
Ipak, kada je OpenAI prošlog tjedna najavio svoj posvećeni ChatGPT Health chatbot, dr. Bari je osjetio više uzbuđenja nego zabrinutosti.
ChatGPT Health, koji će biti dostupan u narednim tjednima, omogućava korisnicima da razgovaraju s chatbotom o svom zdravlju u privatnijem okruženju, gdje njihovi poruke neće biti korištene kao podaci za obuku AI modela.
“Mislim da je to sjajno,” rekao je dr. Bari. “To je nešto što se već događa, pa je formalizacija toga s ciljem zaštite informacija pacijenata i postavljanja nekih sigurnosnih mjera vrlo korisna.”
Korisnici mogu dobiti personaliziranije smjernice od ChatGPT Health tako što će učitati svoje medicinske podatke i sinhronizirati ih s aplikacijama kao što su Apple Health i MyFitnessPal. Za one koji brinu o sigurnosti, to postavlja trenutna pitanja.
“Odjednom se medicinski podaci prenose s HIPAA usklađenih organizacija na ne-HIPAA usklađene dobavljače,” rekao je Itai Schwartz, suosnivač tvrtke za prevenciju gubitka podataka MIND. “Zanima me kako će regulatori pristupiti tome.”
No neki stručnjaci iz industrije smatraju da je stvar već van vreće. Umjesto da traže simptome prehlade na Googleu, ljudi sada razgovaraju s AI chatbotovima — više od 230 milijuna ljudi već tjedno razgovara s ChatGPT-om o svom zdravlju.
“Ovo je bio jedan od najvećih slučajeva korištenja ChatGPT-a,” rekao je Andrew Brackin, partner u Gradientu koji investira u zdravstvene tehnologije. “Stoga ima puno smisla da žele izgraditi privatniju, sigurniju verziju ChatGPT-a za ova pitanja u zdravstvu.”
AI chatbotovi imaju stalni problem s halucinacijama, što je posebno osjetljivo pitanje u zdravstvu. Prema Vectarinom Modelu procjene faktualne dosljednosti, OpenAI-ov GPT-5 je skloniji halucinacijama nego mnogi Googleovi i Anthropic modeli.
Za dr. Nigama Shaha, profesora medicine na Stanfordu i glavnog znanstvenika za podatke u Stanford Health Care-u, nemogućnost američkih pacijenata da dobiju zdravstvenu skrb je hitnija od prijetnje koju predstavlja ChatGPT koji daje loše savjete.
“Trenutno, ako želite posjetiti liječnika primarne zdravstvene zaštite, čekanje može trajati od tri do šest mjeseci,” rekao je dr. Shah. “Ako imate izbor čekati šest mjeseci na pravog liječnika ili razgovarati s nečim što nije liječnik, ali može vam pomoći, što biste odabrali?”
Dr. Shah smatra da je jasniji put za uvođenje AI-a u zdravstvene sustave s strane pružatelja, a ne pacijenata.
Medicinske novine su često izvještavale da administrativni zadaci mogu zauzimati gotovo polovicu vremena liječnika primarne zdravstvene zaštite, što smanjuje broj pacijenata koje mogu vidjeti tijekom dana. Ako bi se taj posao mogao automatizirati, liječnici bi mogli vidjeti više pacijenata, smanjujući potrebu za korištenjem alata poput ChatGPT Health bez dodatnog inputa pravog liječnika.
Dr. Shah vodi tim na Stanfordu koji razvija ChatEHR, softver koji je integriran u sustav elektroničkih zdravstvenih evidencija (EHR), omogućujući kliničarima interakciju s medicinskim podacima pacijenata na učinkovitiji način.
“Učiniti elektroničku zdravstvenu evidenciju korisnijom znači da liječnici mogu provesti manje vremena pretražujući je za potrebne informacije,” rekla je dr. Sneha Jain, rana testerica ChatEHR-a. “ChatEHR im može pomoći da dobiju te informacije unaprijed kako bi mogli provesti vrijeme na onome što je važno — razgovarajući s pacijentima i rješavajući njihove probleme.”
Anthropic također radi na AI proizvodima koji se mogu koristiti s kliničarima i osiguravateljima, a ne samo s javno dostupnim Claude chatbotom. Ovaj tjedan, Anthropic je najavio Claude za zdravstvo objašnjavajući kako se može koristiti za smanjenje vremena provedenog na dosadnim administrativnim zadacima, poput slanja zahtjeva za prethodnu autorizaciju osiguravajućim društvima.
“Neki od vas vide stotine, tisuće ovakvih slučajeva tjedno,” rekao je Anthropicov CPO Mike Krieger na nedavnoj prezentaciji na J.P. Morganovoj Zdravstvenoj konferenciji. “Zamislite da skratite 20, 30 minuta iz svakog od njih — to je dramatična ušteda vremena.”
Kako se AI i medicina sve više isprepliću, postoji neizbježna napetost između ta dva svijeta — osnovni poticaj liječnika je pomoći svojim pacijentima, dok su tehnološke tvrtke na kraju odgovorne svojim dioničarima, čak i ako su njihove namjere plemenite.
“Mislim da je ta napetost važna,” rekao je dr. Bari. “Pacijenti se oslanjaju na nas da budemo cinični i oprezni kako bismo ih zaštitili.”
