Indija je naredila Elonu Musku da X odmah izvrši tehničke i proceduralne promjene na svom AI chatbotu Grok nakon što su korisnici i zakonodavci ukazali na generiranje “neprimjerenog” sadržaja, uključujući AI-alterirane slike žena stvorene pomoću alata.
U petak je indijsko ministarstvo informatike izdalo nalog koji zahtijeva od Muskova X-a da poduzme korektivne mjere na Groku, uključujući ograničavanje generiranja sadržaja koji uključuje “golišavost, seksualizaciju, seksualno eksplicitan ili na drugi način nezakonit” materijal. Ministarstvo je također dalo ovoj društvenoj mreži 72 sata da dostavi izvješće o poduzetim mjerama koje su poduzete kako bi se spriječilo hostanje ili širenje sadržaja koji se smatra “neprimjerenim, pornografskim, vulgarnim, neprimjerenim, seksualno eksplicitnim, pedofilskim ili na drugi način zabranjenim zakonom.”
Nalog, koji je pregledao TechCrunch, upozorava da bi nepoštivanje moglo ugroziti X-ove “sigurne luke” zaštite – pravnu imunitet od odgovornosti za sadržaj koji generiraju korisnici prema indijskom zakonu.
Indijski potez slijedi nakon zabrinutosti koju su izrazili korisnici koji su podijelili primjere Groka koji je bio potaknut da alterira slike pojedinaca – prvenstveno žena – kako bi izgledali kao da nose badiće, što je potaknulo formalnu pritužbu indijske parlamentaristice Priyanke Chaturvedi. Odvojeno, nedavne izvještaje ukazale su na slučajeve u kojima je AI chatbot generirao seksualizirane slike maloljetnika, problem koji je X priznao ranije u petak kao posljedicu propusta u zaštitama. Te su slike kasnije uklonjene.
Međutim, slike generirane pomoću Groka koje su žene prikazivale kao da nose badiće putem AI alteracije ostale su dostupne na X-u u trenutku objave, otkrio je TechCrunch.
Najnoviji nalog dolazi nekoliko dana nakon što je indijsko ministarstvo informatike izdalo širu preporuku u ponedjeljak, koju je također pregledao TechCrunch, društvenim mrežama, podsjećajući ih da je usklađenost s lokalnim zakonima koji reguliraju neprimjereni i seksualno eksplicitan sadržaj preduvjet za zadržavanje pravne imuniteta od odgovornosti za materijal koji generiraju korisnici. Preporuka je pozvala tvrtke da ojačaju unutarnje zaštite i upozorila da bi nepoštivanje moglo izazvati pravne radnje prema indijskim IT i kaznenim zakonima.
“Ponovno naglašavamo da će se nepoštivanje navedenih zahtjeva shvatiti ozbiljno i može rezultirati strogim pravnim posljedicama protiv vaše platforme, njenih odgovornih službenika i korisnika na platformi koji krše zakon, bez daljnjeg upozorenja,” upozorio je nalog.
