Tvrtka Elona Muska, xAI, trebala bi biti odgovorna za omogućavanje svojim AI modelima da proizvode neprikladne seksualne slike prepoznatljivih maloljetnika, tvrde tri anonimna tužitelja u tužbi podnesenoj u ponedjeljak u saveznom sudu u Kaliforniji.
Troje tužitelja želi pokrenuti grupnu tužbu u ime svih koji su imali stvarne slike kao maloljetnici promijenjene u seksualni sadržaj pomoću Groka. Tvrde da xAI nije poduzeo osnovne mjere opreza koje koriste drugi laboratoriji na rubu tehnologije kako bi spriječili da njihovi modeli slika proizvode pornografiju koja prikazuje stvarne ljude i maloljetnike.
Tužba, pod nazivom Jane Doe 1, Jane Doe 2, maloljetnica, i Jane Doe 3, maloljetnica protiv x.AI Corp. i x.AI LLC, podnesena je na Okružnom sudu Sjedinjenih Država za sjeverni okrug Kalifornije.
Drugi generatori slika temeljenih na dubokom učenju koriste različite tehnike kako bi spriječili stvaranje dječje pornografije iz normalnih fotografija. Tužba tvrdi da ti standardi nisu usvojeni od strane xAI.
Važno je napomenuti da je gotovo nemoguće spriječiti model koji dopušta generiranje golih ili erotskih sadržaja iz stvarnih slika da također generira seksualni sadržaj koji uključuje djecu. Javna promidžba Muska o Grokovoj sposobnosti da proizvodi seksualne slike i prikazuje stvarne ljude u provokativnim odjevnim kombinacijama značajno je istaknuta u tužbi.
Tvrtka nije odgovorila na zahtjev za komentar iz TechCrunch-a.
Jedna tužiteljica, Jane Doe 1, imala je slike s domaće večeri i godišnjaka iz srednje škole koje je Grok izmijenio kako bi je prikazao bez odjeće. Anonimni izvor koji ju je kontaktirao putem Instagrama rekao joj je da slike kruže internetom i poslao joj poveznicu na Discord poslužitelj s seksualiziranim slikama nje i drugih maloljetnika koje je prepoznala iz škole.
Druga tužiteljica, Jane Doe 2, obaviještena je od strane kriminalnih istražitelja o izmijenjenim, seksualiziranim slikama nje koje je stvorila treća strana mobilna aplikacija koja se oslanja na Grok modele. Treća, Jane Doe 3, također je obaviještena od strane kriminalnih istražitelja koji su otkrili izmijenjenu, pornografsku sliku nje na telefonu jednog osumnjičenika koji je bio uhićen. Advokati tužitelja tvrde da, budući da korištenje trećih strana još uvijek zahtijeva xAI kod i poslužitelje, tvrtka treba snositi odgovornost.
Sva troje tužitelja, od kojih su dvoje još uvijek maloljetni, kažu da doživljavaju ekstremni stres zbog cirkulacije tih slika i što bi to moglo značiti za njihovu reputaciju i društveni život. Traže civilne kazne prema raznim zakonima namijenjenim zaštiti iskorištavane djece i sprečavanju korporativne nemarnosti.
