Javne zdravstvene službe širom Sjedinjenih Američkih Država testirat će alate generativne umjetne inteligencije u okviru novog programa koji uključuje Coalition for Health AI, OpenAI, Anthropic i Accenture.
Program, poznat kao PULSE, podržat će probne projekte u 10 država, lokalnih, plemenskih ili teritorijalnih jurisdikcija. Cilj programa je pružiti smjernice za implementaciju javnim zdravstvenim agencijama koje razmatraju slične projekte.
OpenAI i Anthropic donirali su 10 licenci za poduzeća s kapacitetom do 2,000 javnih zdravstvenih stručnjaka. Accenture će nadgledati proces uključivanja sudionika i pomoći u razvoju priručnika temeljenih na probnim projektima.
Program će omogućiti javnim zdravstvenim stručnjacima pristup AI proizvodima iz OpenAI i Anthropic. CHAI nije precizirao koji će se proizvodi, verzije modela ili konfiguracije koristiti, niti je objasnio kako će se dva pružatelja rasporediti tijekom probnih projekata.
“Svaka velika tehnološka transformacija uspijeva ili propada na temelju povjerenja, upravljanja i izvršenja”, rekao je dr. David Lakey, bivši povjerenik za zdravstvo u Texasu. “PULSE će podržati agencije u ovom nastojanju i posebno je dizajniran za praktičnu implementaciju.”
Pet primjena u javnom zdravstvu
Vodeći odbor Coalition for Health AI odabrat će sudjelujuće jurisdikcije i dodijeliti stručnjake zajednicama koje se fokusiraju na pet primjena. One uključuju biosurveillance i predikciju droga, socijalne determinante zdravlja i mapping SDoH, analizu operacija i učinkovitosti, analizu povratnih informacija zajednice, javne komunikacije i višejezični centar za prijevod, te automatsko preuzimanje kliničkih podataka i FHIR upitni sustav.
NIST-ov okvir za upravljanje rizicima povezanih s AI preporučuje procjenu AI sustava prema njihovoj namjeni, radnom okruženju, pogođenim stranama i potencijalnim posljedicama. CHAI nije objavio zasebne zahtjeve za procjenu, privatnost, sigurnost ili ljudsku reviziju za pet PULSE primjena.
FHIR je HL7 standard koji se koristi za elektroničku razmjenu informacija o zdravstvu između kompatibilnih sustava.
PULSE uključuje automatsko preuzimanje kliničkih podataka i FHIR upitni sustav, iako objava ne definira ulogu generativne AI u tom radnom toku. Nije navedeno hoće li modeli generirati upite, preuzimati zapise, sažimati vraćene informacije ili kombinirati te funkcije.
Objava također ne objašnjava hoće li se netočni upiti, nepotpuna preuzimanja ili nepodržani sažeci provjeravati od strane osoblja prije korištenja informacija.
Neki predloženi primjeri mogli bi uključivati demografske, geografske, kliničke ili informacije o zdravlju populacije. CHAI nije rekao hoće li probni projekti koristiti prepoznatljive zapise, deidentificirane informacije, sintetičke podatke ili agregirane skupove podataka.
Odjel za zdravstvo i ljudske usluge SAD-a zahtijeva od organizacija obuhvaćenih HIPAA-om da štite određene elektroničke zdravstvene informacije. Njihovo vodstvo o računalstvu u oblaku navodi da regulirane organizacije i pružatelji usluga moraju ispunjavati HIPAA zahtjeve kada sustavi u oblaku kreiraju, primaju, održavaju ili prenose elektroničke zaštićene zdravstvene informacije.
HIPAA se neće primjenjivati na svaku sudjelujuću organizaciju ili radni proces. Njegova primjena ovisit će o agenciji, podacima koji su uključeni i funkciji koja se obavlja.
OpenAI navodi da se ulazi i izlazi iz njihovih poslovnih usluga, uključujući ChatGPT Enterprise i njegov API, ne koriste za treniranje ili poboljšanje njihovih modela prema zadanim postavkama. Anthropic također navodi da ne koristi ulaze i izlaze iz svojih komercijalnih proizvoda za treniranje modela prema zadanim postavkama.
Te politike pružatelja ne definiraju kako će biti konfigurirane PULSE implementacije. Objava ne postavlja razdoblja zadržavanja, kontrole pristupa, aranžmane revizije, zahtjeve za pohranu podataka ili pravila koja se odnose na predaju zaštićenih zdravstvenih informacija.
“Vjerujemo da AI treba biti koristan, siguran i dostupan ljudima koji se suočavaju s najvažnijim izazovima društva”, rekao je Felipe Millon, voditelj vladinih odnosa u OpenAI-u. Dodao je da su licence namijenjene pomoći javnim zdravstvenim organizacijama da procijene alate kroz strukturirani proces.
Upravljanje i evaluacija ostaju neodređeni
Probni projekti planirani su za jesen 2026. CHAI očekuje da će rezultantni priručnici biti objavljeni 2027. i korišteni kao referentni materijal od strane drugih javnih zdravstvenih agencija.
CHAI nije objavio mjere koje će se koristiti za procjenu probnih projekata niti je objasnio hoće li se svaki primjer koristiti ocjenjivati prema zasebnim tehničkim, operativnim, privatnim i sigurnosnim kriterijima.
Objava također ne objašnjava kako će se pregledavati rezultati modela. Nije navedeno hoće li osoblje morati odobriti generirane javne komunikacije, provjeriti prijevode, validirati preuzete kliničke informacije ili pregledati rezultate biosurveillance i predikcije droga prije nego što se koriste.
NIST-ova vodstva preporučuju identificiranje koje AI funkcije zahtijevaju ljudski nadzor i obuku korisnika da razumiju performanse i ograničenja sustava. Njihova vodstva o generativnoj AI također pokrivaju testiranje, validaciju, praćenje, dokumentaciju, privatnost i nadzor upravljanja.
“Timovi javnog zdravstva se traže da postignu više s manje, a AI može pomoći – sve dok se uvede pažljivo i s pravim zaštitnim mjerama”, rekla je Elizabeth Kelly, voditeljica korisnih implementacija u Anthropic-u. Dodala je da će PULSE omogućiti stručnjacima da testiraju alate u svojim vlastitim okruženjima s privatnošću, upravljanjem i mjerama odgovorne upotrebe ugrađenima od samog početka.
Podaci Nacionalne asocijacije okruga i gradskih zdravstvenih službi koje citira CHAI pokazali su da gotovo 40% lokalnih zdravstvenih službi nije koristilo AI. Koalicija je rekla da su neke službe zainteresirane za reviziju radnih procesa i poboljšanje operativne učinkovitosti.
PULSE će pružiti licence za poduzeća, uključivanje, zajednice kolega i priručnike za implementaciju. CHAI nije precizirao minimalne zahtjeve za osobljem, infrastrukturom, interoperabilnošću ili kibernetskom sigurnošću za sudjelujuće jurisdikcije.
Prikladni sudionici uključuju državne i teritorijalne zdravstvene odjele, okružne i gradske agencije, plemenske vlasti, indijske zdravstvene organizacije i velike gradske zdravstvene službe.
PULSE planira pretvoriti nalaze iz 10 jurisdikcija u smjernice za širu upotrebu. Objava ne objašnjava kako će se priručnici prilagoditi razlikama u veličini agencija, tehničkim sustavima, pravnim odgovornostima, osoblju ili aranžmanima nabave.
Objava također ne objašnjava hoće li se rezultati iz biosurveillance, predikcije droga ili preuzimanja kliničkih podataka koristiti samo za testiranje, predstaviti osoblju na pregled ili uključiti u operativne radne procese.
PULSE je dio šireg rada Coalition for Health AI na standardima upravljanja za zdravstvenu AI. U svibnju je organizacija objavila planove za razvoj smjernica koje pokrivaju osam područja upravljanja kroz radionice i radne grupe koje uključuju više od 150 predstavnika zdravstvene AI.
Koalicija je od tada započela objavljivanje priručnika o politikama AI u organizacijama, strukturama upravljanja i internim resursima. Dodatne smjernice se očekuju za pokrivanje drugih područja upravljanja zdravstvenom AI.
Odvojeno, CHAI je surađivao s Joint Commissionom na priručnicima o upravljanju usklađenim s njihovom voljnom certifikacijom za odgovornu upotrebu AI u zdravstvenoj skrbi. Objava PULSE-a ne navodi da će se sudjelujuće javne zdravstvene agencije ocjenjivati prema toj certifikaciji.
Dr. Brian Anderson, izvršni direktor Coalition for Health AI, rekao je da su javne zdravstvene agencije ušle u pandemiju COVID-19 nakon godina ograničenih ulaganja u tehnologiju. Rekao je da je program PULSE namijenjen pružanju praktičnog iskustva agencijama s AI-jem prije šire implementacije.
“Znamo da će AI preoblikovati način na koji pružamo javno zdravstvo – pitanje je hoćemo li to učiniti promišljeno ili ne”, rekao je dr. Ashish Jha, bivši koordinator za odgovor na COVID-19 u Bijeloj kući. Rekao je da će program testirati koje primjene funkcioniraju i dokumentirati nalaze za druge agencije.
Pogledajte također: Bunkerhill prikuplja 55 milijuna dolara za razvoj agentne AI u zdravstvenim sustavima
