Elon Musk izjavio je u srijedu da nije svjestan “naga maloljetnih slika” koje generira Grok, nekoliko sati prije nego što je kalifornijski državni odvjetnik pokrenuo istragu o xAI-ovom chatbotu zbog “proliferacije neconsensualnog seksualnog materijala”.
Muskova negacija dolazi u trenutku kada vlasti širom svijeta – od U.K. i Europe do Malezije i Indonezije – vrše pritisak nakon što su korisnici na X-u počeli tražiti od Groka da pretvara fotografije stvarnih žena, a u nekim slučajevima i djece, u seksualizirane slike bez njihovog pristanka. Copyleaks, platforma za otkrivanje AI i upravljanje sadržajem, procijenila je da se otprilike jedna slika objavljuje svake minute na X-u. Odvojeni uzorak prikupljen između 5. i 6. siječnja pokazao je 6,700 slika po satu tijekom 24-satnog razdoblja. (X i xAI su dio iste tvrtke.)
“Ovaj materijal… korišten je za uznemiravanje ljudi na internetu,” izjavio je kalifornijski državni odvjetnik Rob Bonta. “Pozivam xAI da odmah poduzme mjere kako bi se ovo dalje spriječilo.”
Ured državnog odvjetnika će istražiti je li i kako xAI prekršio zakon.
Postoji nekoliko zakona koji štite žrtve neconsensualnog seksualnog prikazivanja i materijala o seksualnom zlostavljanju djece (CSAM). Prošle godine, Zakon o uklanjanju potpisan je kao savezni zakon koji kriminalizira znanje o distribuciji neconsensualnih intimnih slika – uključujući deepfake – i zahtijeva od platformi poput X da uklone takav sadržaj u roku od 48 sati. Kalifornija također ima svoj niz zakona koje je guverner Gavin Newsom potpisao 2024. godine kako bi se suprotstavio seksualno eksplicitnim deepfake-ima.
Grok je počeo ispunjavati zahtjeve korisnika na X-u za proizvodnju seksualiziranih fotografija žena i djece prema kraju godine. Čini se da je trend započeo nakon što su određeni kreatori sadržaja za odrasle potaknuli Grok da generira seksualizirane slike sebe kao oblik marketinga, što je zatim dovelo do sličnih zahtjeva od drugih korisnika. U nizu javnih slučajeva, uključujući poznate ličnosti poput glumice “Stranger Things” Millie Bobby Brown, Grok je odgovorio na zahtjeve da promijeni stvarne fotografije stvarnih žena mijenjajući odjeću, pozicije tijela ili fizičke značajke na otvoreno seksualne načine.
Prema nekim izvještajima, xAI je počeo implementirati zaštitne mjere kako bi se pozabavio problemom. Grok sada zahtijeva premium pretplatu prije nego što odgovori na određene zahtjeve za generiranje slika, a čak ni tada slika možda neće biti generirana. April Kozen, VP marketinga u Copyleaks, rekao je za TechCrunch da Grok može ispuniti zahtjev na generički ili umjeren način. Dodali su da se čini da je Grok tolerantniji prema kreatorima sadržaja za odrasle.
