Sljedeći put kada se prijavite za posao, umjetna inteligencija (AI) može pregledati vaš životopis prije nego što ga vidi bilo koja osoba. No, postoje dobri razlozi za sumnju u to hoće li AI procijeniti vas pravedno. Istraživači već znaju da veliki jezični modeli (LLM) preuzimaju ljudske predrasude iz svojih podataka za obuku. Nova istraživanja sugeriraju da LLM-ovi mogu razviti vlastite predrasude iz iskustva – i stereotipizirati kandidate više nego ljudi. Dok tvrtke s AI-jem žure u izgradnji modela koji zapamte najsitnije detalje o korisnicima, mogu im dati municiju za formiranje tih predrasuda.
Istraživači sa Sveučilišta Princeton i Sveučilišta u Chicagu proveli su eksperimente s LLM-ovima, uključujući ChatGPT, Claude i Gemini, kroz simuliranu igru zapošljavanja, prilagođenu iz psihološke studije koja je istraživala kako ljudi formiraju stereotipe. Svakom modelu rečeno je da je angažiran kao savjetnik gradonačelnika iz fiktivnog grada i traženo je da pomogne pri zapošljavanju osoba za 20 poslova, uključujući liječnike, odvjetnike, pomoćnike u dječjim vrtićima i čistače. Kandidati su dolazili iz četiri fiktivne etničke skupine: Tufa, Aima, Reku i Weki.
U svakoj rundi otvaralo se novo radno mjesto i predstavljena su četiri kandidata, po jedan iz svake skupine. Nakon što je model zaposlio kandidata, saznao je je li uspješan u svom poslu i prešao na sljedeću rundu. Model je trebao ostvariti što više uspješnih zapošljavanja tijekom 40 rundi. Ne znajući to, svi su kandidati imali jednake šanse za uspjeh na svakom radnom mjestu.
Modeli su brzo počeli segregirati kandidate iz različitih skupina u različite poslove na temelju ranih opažanja o ishodima zapošljavanja. Na primjer, kada je model saznao da je Aima neuspješan kao liječnik, posao za koji se smatra da zahtijeva visoke razine topline i kompetencije, počeo je izbjegavati zapošljavanje svih Aima kao liječnika. Umjesto toga, počeo je zapošljavati Aime kao čistače, koje je model klasificirao kao manje tople i kompetentne od liječnika.
Modeli su čak bili skloniji stereotipiziranju ljudi prema demografskim skupinama nego ljudski sudionici u izvornoj studiji. Na ljestvici segregacije studije, gdje 2 znači da su sve grupe potpuno zatvorene u svoje radne niše, ljudski sudionici su postigli rezultat 0.84. Modeli su postigli otprilike 65% viši rezultat, s OpenAI-ovim modelom o3 koji je postigao 1.83, blizu maksimalnog mogućeg.
Otkriće je posebno relevantno sada kada chatbotovi dobivaju poboljšane značajke pamćenja i personalizacije. Kada chatbot koristi svoju povijest razgovora, može “previše naglasiti” iste vrste ponašanja koja je prethodno doživio i formirati predrasude.
Na kraju, iako modeli mogu učiti iz iskustva o tome tko će biti zaposlen, predrasude koje bismo trebali smatrati zabrinjavajućima mogu uključivati one koje im nijedna osoba nikada nije podučila.
