Nakon istraživanja Guardian-a koje je otkrilo da Google AI pregledi nude netočne informacije u odgovorima na određene zdravstvene upite, čini se da je tvrtka uklonila AI preglede za neke od tih upita.
Na primjer, Guardian je prvotno izvijestio da kada korisnici pitaju “koji je normalan raspon za testove krvi jetre”, prikazivale su im se brojke koje nisu uzimale u obzir čimbenike poput nacionalnosti, spola, etničke pripadnosti ili dobi, što bi ih moglo navesti da pomisle da su njihovi rezultati zdravi kada to nisu.
Sada, Guardian navodi da su AI pregledi uklonjeni iz rezultata za “koji je normalan raspon za testove krvi jetre” i “koji je normalan raspon za testove funkcije jetre.” Međutim, otkriveno je da varijacije tih upita, kao što su “lft referentni raspon” ili “lft test referentni raspon,” još uvijek mogu dovesti do AI generiranih sažetaka.
Kada sam jutros pokušao te upite — nekoliko sati nakon što je Guardian objavio svoju priču — nijedan od njih nije rezultirao prikazivanjem AI pregleda, iako mi je Google i dalje davao mogućnost da postavim isti upit u AI modu. U nekoliko slučajeva, najbolji rezultat bio je zapravo članak Guardian-a o uklanjanju.
Govornik Google-a rekao je Guardian-u da tvrtka ne “komentira pojedinačna uklanjanja unutar pretraživanja,” ali da radi na “općim poboljšanjima.” Također je rekao da je unutarnji tim kliničara pregledao upite istaknute od strane Guardian-a i otkrio da “u mnogim slučajevima, informacije nisu bile netočne i bile su također podržane visokokvalitetnim web stranicama.”
TechCrunch je kontaktirao Google za dodatne komentare. Prošle godine, tvrtka je najavila nove značajke usmjerene na poboljšanje Google pretraživanja za zdravstvene slučajeve, uključujući poboljšane preglede i AI modele fokusirane na zdravlje.
Vanessa Hebditch, direktorica komunikacija i politike u Britanskom povjerenstvu za jetru, rekla je Guardian-u da je uklanjanje “odlična vijest,” ali je dodala, “Naša veća zabrinutost u svemu ovome je to što se radi o sitničarenju jednog rezultata pretraživanja, a Google može jednostavno isključiti AI preglede za to, ali se ne bavi većim problemom AI pregleda za zdravlje.”
