Korisnik Reddita koji je tvrdio da je zviždač iz aplikacije za dostavu hrane otkriven je kao lažnjak. Korisnik je napisao viralni post u kojem je tvrdio da njegova tvrtka iskorištava vozače i korisnike.
“Uvijek sumnjate da su algoritmi postavljeni protiv vas, ali stvarnost je zapravo mnogo depresivnija od teorija zavjere,” napisao je navodni zviždač.
Tvrdio je da je bio pijan i u knjižnici kako bi koristio javni Wi-Fi, gdje je pisao dugi tekst o tome kako tvrtka koristi pravne praznine kako bi neometano krala napojnice i plaće vozača.
Nažalost, te tvrdnje su bile uvjerljive — DoorDash je zapravo tužen zbog krađe napojnica od vozača, što je rezultiralo nagodbom od 16,75 milijuna dolara. No, u ovom slučaju, autor posta je izmislio svoju priču.
Ljudi lažu na internetu cijelo vrijeme. No, nije uobičajeno da takvi postovi dođu na naslovnicu Reddita, dobiju više od 87.000 upvota i budu dijeljeni na drugim platformama poput X-a, gdje su dobili još 208.000 lajkova i 36,8 milijuna prikaza.
Novinar Casey Newton, iza Platformera, napisao je da je kontaktirao autora posta, koji ga je zatim kontaktirao putem Signala. Redditor je podijelio ono što je izgledalo kao fotografija njegove UberEats oznake, kao i 18-strani “unutarnji dokument” koji opisuje korištenje AI-a za određivanje “ocjene očajnosti” pojedinih vozača. No, dok je Newton pokušavao provjeriti legitimnost zviždačeve priče, shvatio je da ga pokušavaju uvući u AI prevaru.
“Tokom većeg dijela svoje karijere, dokument koji mi je podijelio zviždač bio bi smatran vrlo vjerodostojnim jer bi bilo potrebno dugo vremena da se sastavi,” napisao je Newton. “Tko bi uložio vrijeme u izradu detaljnog, 18-stranog tehničkog dokumenta o tržišnim dinamikama samo da bi zadirkivao novinara? Tko bi se trudio stvoriti lažnu oznaku?”
Uvijek je bilo loših aktera koji pokušavaju prevariti novinare, ali prevalencija AI alata učinila je provjeru činjenica još rigoroznijom.
Generativni AI modeli često ne prepoznaju je li slika ili video sintetičan, što otežava utvrđivanje je li sadržaj stvaran. U ovom je slučaju Newton mogao koristiti Googleov Gemini kako bi potvrdio da je slika napravljena AI alatom, zahvaljujući Googleovom SynthID vodenom znaku, koji može izdržati obrezivanje, kompresiju, filtriranje i druge pokušaje promjene slike.
Max Spero — osnivač Pangram Labs, tvrtke koja pravi alat za detekciju AI-generiranog teksta — direktno se bavi problemom razlikovanja stvarnog i lažnog sadržaja.
“AI sadržaj na internetu postao je mnogo lošiji, a mislim da je dio toga posljedica povećane upotrebe LLM-ova, ali i drugih faktora,” rekao je Spero za TechCrunch. “Postoje tvrtke s milijunima prihoda koje mogu platiti za ‘organsko angažiranje’ na Redditu, što zapravo znači da će pokušati postati viralni na Redditu s AI-generiranim postovima koji spominju vaše ime brenda.”
Alati poput Pangrama mogu pomoći u utvrđivanju je li tekst AI-generiran, ali posebno kada je riječ o multimedijalnom sadržaju, ti alati nisu uvijek pouzdani — a čak i ako je sintetični post dokazan kao lažan, možda je već postao viralan prije nego što je razotkriven. Stoga, za sada, ostajemo skrolajući društvene mreže kao detektivi, preispitujući je li ono što vidimo stvarno.
