Ponavljajući problemi s AI sažecima proizlaze iz dizajnerske pogreške u načinu na koji sustav funkcionira. Kao što smo izvijestili u svibnju 2024., Google je izgradio AI sažetke kako bi prikazao informacije potkrijepljene najboljim web rezultatima iz svog sustava rangiranja stranica. Tvrtka je ovu značajku dizajnirala s pretpostavkom da visoko rangirane stranice sadrže točne informacije.
Međutim, Googleov algoritam za rangiranje stranica već dugo ima problema s sadržajem koji se manipulira SEO-om i spamom. Sustav sada hrani ove nepouzdane rezultate svom AI modelu, koji ih zatim sažima autoritativnim tonom koji može zavarati korisnike. Čak i kada AI koristi točne izvore, jezični model još uvijek može izvući netočne zaključke iz podataka, proizvoditi pogrešne sažetke inače pouzdanih informacija.
Tehnologija sama po sebi ne pruža činjenicnu točnost. Umjesto toga, odražava sve netočnosti koje postoje na web stranicama koje Googleov algoritam visoko rangira, predstavljajući činjenice s autoritetom koji čini da pogreške izgledaju pouzdano.
Druge primjere i dalje su aktivne. The Guardian je otkrio da tipkanje blago izmijenjenih varijacija izvornih upita u Google, poput “lft referentni raspon” ili “lft test referentni raspon,” i dalje potiče AI sažetke. Hebditch je rekao da je to velika zabrinutost i da AI sažeci prikazuju popis testova podebljanim slovima, što čini vrlo lako da čitatelji propuste da ovi brojevi možda nisu čak ni točni za njihov test.
AI sažeci se i dalje pojavljuju za druge primjere koje je The Guardian prvotno istaknuo Googleu. Kada je upitano zašto ti AI sažeci nisu također uklonjeni, Google je rekao da su povezani s poznatim i uglednim izvorima te su informirali ljude kada je važno potražiti stručni savjet.
Google je izjavio da se AI sažeci pojavljuju samo za upite u kojima ima visoku sigurnost u kvalitetu odgovora. Tvrtka stalno mjeri i preispituje kvalitetu svojih sažetaka u mnogim različitim kategorijama informacija.
Ovo nije prva kontroverza za AI sažetke. Ova značajka je prethodno sugerirala ljudima da stavljaju ljepilo na pizzu i jedu kamenje. Dovoljno je nepopularna da su korisnici otkrili da umetanje psovki u pretraživačke upite potpuno onemogućuje AI sažetke.
