Ova priča prvotno se pojavila u The Algorithm, našem tjednom biltenu o umjetnoj inteligenciji. Što bi vas uvjerilo da je era opadanja istine, o kojoj smo dugo upozoravani, sada ovdje? Priča koju sam objavio prošli tjedan otkrila mi je da alati koje smo dobili kao rješenje za ovu krizu grozničavo ne uspijevaju.
U četvrtak, izvijestio sam o prvom potvrđivanju da američki Odjel za unutarnju sigurnost, koji obuhvaća imigracijske agencije, koristi AI video generatore iz Googlea i Adobea za stvaranje sadržaja koji dijeli s javnošću. Ova vijest dolazi dok su imigracijske agencije preplavile društvene mreže sadržajem koji podržava agendu masovne deportacije predsjednika Trumpa—neki od njih očito su nastali uz pomoć AI-a (poput videa o “Božiću nakon masovnih deportacija”).
Primio sam dva tipa reakcija od čitatelja koje možda objašnjavaju epistemsku krizu u kojoj se nalazimo. Jedna je bila od ljudi koji nisu bili iznenađeni, jer je Bijela kuća 22. siječnja objavila digitalno izmijenjenu fotografiju žene koja je uhićena na prosvjedu ICE-a, koja ju je prikazivala histeričnom i u suzama. Kaelan Dorr, zamjenik direktora komunikacija Bijele kuće, nije odgovorio na pitanja o tome je li Bijela kuća izmijenila fotografiju, ali je napisao: “Memovi će se nastaviti.”
Druga reakcija bila je od čitatelja koji nisu vidjeli smisao u izvještavanju da DHS koristi AI za uređivanje sadržaja podijeljenog s javnošću, jer su očito i medijske kuće radile isto. Ukazali su na činjenicu da je informativna mreža MS Now (bivši MSNBC) podijelila sliku Alexa Prettija koja je bila AI-uređena i činilo se da ga prikazuje privlačnijim, što je dovelo do mnogih viralnih isječaka ovog tjedna, uključujući jedan iz podcasta Joea Rogana. Borba protiv vatre vatrom, drugim riječima?
Nema razloga spojiti ova dva slučaja izmijenjenog sadržaja u istu kategoriju ili ih tumačiti kao dokaz da istina više nije važna. Jedan je uključivao američku vladu koja dijeli očito izmijenjenu fotografiju s javnošću i odbija odgovoriti je li bila namjerno manipulirana; drugi je uključivao medijsku kuću koja emitira fotografiju za koju je trebala znati da je izmijenjena, ali je poduzela neke korake da otkrije grešku.
Ove reakcije otkrivaju flaw u tome kako smo se kolektivno pripremali za ovaj trenutak. Upozorenja o krizi istine vezanoj za AI vrtila su se oko središnje teze: da ne znajući što je stvarno uništit će nas, pa su nam potrebni alati za neovisno provjeravanje istine. Moja dva mračna zaključka su da ti alati ne uspijevaju, i da, iako je provjera istine i dalje ključna, više nije sposobna sama proizvesti društveno povjerenje koje smo obećali.
Na primjer, bilo je mnogo hypea 2024. oko Inicijative za autentičnost sadržaja, koju su sufinancirali Adobe i usvojili veliki tehnološki divovi, koja bi vezivala oznake na sadržaj otkrivajući kada je napravljen, tko ga je napravio i je li AI bio uključen. No, Adobe primjenjuje automatske oznake samo kada je sadržaj potpuno generiran AI-em. Inače, oznake su opcionalne za kreatora.
