Problem seksualiziranih deepfakeova bez pristanka sada je veći od samo platforme X.
U pismu liderima X-a, Mete, Alphabeta, Snapa, Reddita i TikToka, nekoliko američkih senatora traži od ovih kompanija da dokažu da imaju “robustne zaštite i politike” te da objasne kako planiraju smanjiti porast seksualiziranih deepfakeova na svojim platformama.
Senatori su također zatražili da kompanije sačuvaju sve dokumente i informacije vezane uz stvaranje, otkrivanje, moderiranje i monetizaciju seksualiziranih slika generiranih umjetnom inteligencijom, kao i sve povezane politike.
Pismo je stiglo nekoliko sati nakon što je X objavio da je ažurirao Grok kako bi zabranio uređivanje stvarnih osoba u odjeći koja otkriva, te je ograničio stvaranje slika i uređivanja putem Groka na plaćene pretplatnike. (X i xAI su dio iste kompanije.)
Senatori su ukazali na medijske izvještaje o tome kako je Grok često generirao seksualizirane i gole slike žena i djece, ističući da propisi platformi kako bi spriječili korisnike da objavljuju neovisne seksualizirane slike možda nisu dovoljni.
“Prepoznajemo da mnoge kompanije imaju politike protiv neovisnog intimnog sadržaja i seksualne eksploatacije, te da mnogi AI sustavi tvrde da blokiraju eksplicitnu pornografiju. Međutim, u praksi, kao što se vidi u primjerima iznad, korisnici pronalaze načine kako zaobići te propise. Ili ti propisi ne funkcioniraju”, stoji u pismu.
Grok, a time i X, su podložni snažnoj kritici zbog omogućavanja ovog trenda, no druge platforme nisu imune.
Deepfakeovi su prvi put postali popularni na Redditu, kada je stranica koja je prikazivala sintetičke pornografske videe poznatih osoba postala viralna prije nego što ju je platforma uklonila 2018. godine.
Meta je prošle godine istaknula dva slučaja eksplicitnih AI slika javnih osoba, a platforma je također omogućila aplikacijama za nudifikaciju da prodaju oglase na svojim uslugama, iako je kasnije tužila kompaniju CrushAI.
U odgovoru na pismo, X je ukazao na svoje najave o ažuriranju Groka.
“Ne dopuštamo i nećemo dopustiti nikakav neovisni intimni sadržaj (NCIM) na Redittu, ne nudimo alate koji su sposobni to stvoriti i poduzimamo proaktivne mjere za pronalaženje i uklanjanje takvog sadržaja,” izjavila je glasnogovornica Reddita u e-mail izjavi. “Reddit strogo zabranjuje NCIM, uključujući prikaze koji su lažirani ili generirani umjetnom inteligencijom. Također zabranjujemo traženje ovog sadržaja od drugih, dijeljenje linkova na aplikacije za “nudifikaciju” ili raspravu o tome kako stvoriti ovaj sadržaj na drugim platformama,” dodala je glasnogovornica.
Alphabet, Snap, TikTok i Meta nisu odmah odgovorili na zahtjeve za komentar.
