U posljednja dva tjedna, platforma X bila je preplavljena AI-manipuliranim golim slikama koje je stvorio Grok AI chatbot. Alarmantno je da su mnoge žene, uključujući istaknute modele i glumice, kao i javne ličnosti, žrtve zločina i čak svjetski lideri su pogođeni ovim neovisnim slikama.
Istraživački rad Copyleaks od 31. prosinca procijenio je da se otprilike jedna slika objavljuje svake minute, no kasnija ispitivanja su pokazala mnogo više. Uzorak prikupljen od 5. do 6. siječnja pokazao je 6700 slika po satu tijekom 24-satnog razdoblja.
Dok su javne ličnosti iz cijelog svijeta osudile odluku o objavljivanju modela bez zaštitnih mjera, postoji malo jasnih mehanizama za regulatore koji se nadaju da će ukrotiti novi sustav manipulacije slikama Elona Muska. Rezultat je postao bolna lekcija o granicama tehnološke regulative — i izazov za regulatore koji žele ostaviti trag.
Nije iznenađujuće što je najagresivnija akcija došla od Europske komisije, koja je u četvrtak naredila xAI da zadrži sve dokumente vezane za svoj Grok chatbot. Ovaj potez ne znači nužno da je komisija otvorila novu istragu, ali je to uobičajeni preteča takvih akcija. To je posebno zabrinjavajuće s obzirom na nedavne izvještaje CNN-a koji sugeriraju da je Elon Musk možda osobno intervenirao kako bi spriječio postavljanje zaštitnih mjera na slike koje bi Grok mogao generirati.
Nije jasno je li X napravio bilo kakve tehničke promjene na Grok modelu, iako je javna medijska kartica za Grokov X račun uklonjena. U izjavi, tvrtka je posebno osudila korištenje AI alata za proizvodnju dječje seksualne slike. “Svaka osoba koja koristi ili potiče Grok na stvaranje ilegalnog sadržaja snosit će iste posljedice kao da je učitala ilegalni sadržaj,” objavio je račun X Safety 3. siječnja, ponavljajući prethodni tweet Elona Muska.
U međuvremenu, regulatori širom svijeta izdali su stroge upozorenja. Britanski Ofcom izdao je izjavu u ponedjeljak, rekavši da je u kontaktu s xAI i “da će provesti brzu procjenu kako bi utvrdio postoje li potencijalni problemi usklađenosti koji zahtijevaju istragu.” U radijskoj emisiji u četvrtak, britanski premijer Keir Starmer nazvao je fenomen “sramotnim” i “odvratnim”, rekavši “Ofcom ima našu punu podršku za poduzimanje mjera u vezi s tim.”
U objavi na LinkedInu, australska povjerenica za eSigurnost Julie Inman-Grant rekla je da je njezin ured primio dvostruko više pritužbi vezanih uz Grok od kraja 2025. godine. No, Inman-Grant nije poduzela akciju protiv xAI, rekavši samo: “Koristit ćemo raspon regulatornih alata koji su nam dostupni kako bismo istražili i poduzeli odgovarajuće mjere.”
Najveće tržište koje prijeti akcijom je Indija, gdje je Grok bio predmet službene pritužbe od strane člana parlamenta. U siječnju, indijski regulator komunikacija MeitY naredio je X-u da se pozabavi tim pitanjem i podnese izvještaj o “poduzetim mjerama” unutar 72 sata — rok koji je naknadno produžen za 48 sati. Iako je izvještaj podnesen regulatoru 7. siječnja, nije jasno hoće li MeitY biti zadovoljan odgovorom. Ako ne, X bi mogao izgubiti svoj status sigurnog utočišta u Indiji, što predstavlja potencijalno ozbiljno ograničenje njegove sposobnosti djelovanja unutar zemlje.
