Campbell Brown je tijekom svoje karijere tragala za točnim informacijama, prvo kao renomirana TV novinarka, zatim kao prva i jedina šefica vijesti na Facebooku. Sada, dok gleda kako AI oblikuje način na koji ljudi konzumiraju informacije, vidi povijest koja se ponavlja. Ovaj put, ne čeka da netko drugi to ispravi.
Njezina tvrtka, Forum AI — o kojoj je nedavno razgovarala s Timom Fernholzom iz TechCruncha na večeri StrictlyVC u San Franciscu — procjenjuje kako temeljni modeli funkcioniraju na onome što ona naziva „temama visokog rizika“ — geopolitika, mentalno zdravlje, financije, zapošljavanje — teme za koje „ne postoje jasni odgovori, gdje je situacija zamršena, nijansirana i kompleksna.“
Cilj je pronaći vodeće svjetske stručnjake, angažirati ih da postave kriterije, a zatim obučiti AI suce da procjenjuju modele na velikoj skali. Za geopolitiku, Brown je angažirala Nialla Fergusona, Fareeda Zakariu, bivšeg državnog tajnika Tonyja Blinkena, bivšeg predsjednika Doma Kevina McCarthyja i Anne Neuberger, koja je vodila kibernetičku sigurnost u Obaminoj administraciji. Cilj je da AI suci postignu oko 90% suglasnosti s tim ljudskim stručnjacima, prag koji, kako kaže, Forum AI već može doseći.
Brown povezuje podrijetlo Forum AI, osnovanog prije 17 mjeseci u New Yorku, s određenim trenutkom. “Bila sam u Meti kada je ChatGPT prvi put javno objavljen,” prisjetila se, “i sjećam se kako sam ubrzo nakon toga shvatila da će to biti kanal kroz koji prolaze sve informacije. A to nije baš dobro.” Impikacije za njezinu vlastitu djecu učinile su taj trenutak gotovo egzistencijalnim. “Moja djeca će biti stvarno glupa ako ne shvatimo kako to ispraviti,” razmišljala je.
Ono što ju je najviše frustriralo bila je činjenica da točnost nije bila prioritet nikome. Tvrtke koje se bave temeljim modelima, rekla je, „ekstremno su fokusirane na kodiranje i matematiku“, dok su vijesti i informacije složenije. No, složeno, tvrdila je, ne znači opcionalno.
Kada je Forum AI počeo procjenjivati vodeće modele, rezultati nisu bili ohrabrujući. Spomenula je kako Gemini povlači informacije s web stranica Kineske komunističke partije „za priče koje nemaju nikakve veze s Kinom“ i primijetila lijevu političku pristranost gotovo svih modela. Također postoje i suptilniji nedostaci, rekla je, uključujući propušteni kontekst, propuštene perspektive, iznošenje argumenata bez priznanja. “Postoji dug put do cilja,” rekla je. “Ali također mislim da postoje neka vrlo jednostavna rješenja koja bi znatno poboljšala rezultate.”
Brown je provela godine u Facebooku gledajući što se događa kada se platforma optimizira za krive stvari. “Neuspjeli smo u mnogim stvarima koje smo pokušali,” rekla je Fernholzu. Program provjere činjenica koji je izgradila više ne postoji. Lekcija, čak i ako društveni mediji to ignoriraju, jest da je optimizacija za angažman bila loša za društvo i ostavila mnoge manje informirane.
Njezina nada je da AI može prekinuti taj ciklus. “Trenutno može ići u oba smjera,” rekla je; tvrtke mogu korisnicima dati ono što žele, ili mogu “dati ljudima ono što je stvarno, pošteno i istinito.” Priznala je da ona idealistička verzija toga — AI optimizacija za istinu — može zvučati naivno. No, smatra da bi poduzeća mogla biti neočekivani saveznik. Tvrtke koje koriste AI za odluke o kreditima, zajmovima, osiguranju i zapošljavanju brinu se o odgovornosti, i „žele da optimizirate za točnost.”
Ta potražnja poduzeća također je ono na čemu Forum AI temelji svoj posao, iako je pretvaranje interesa za usklađenost u dosljedne prihode izazov, osobito s obzirom na to da je veliki dio trenutnog tržišta još uvijek zadovoljan provjerama prema popisu i standardiziranim kriterijima koje Brown smatra neadekvatnima.
