Aplikacija ClothOff već više od dvije godine proganja mlade žene na internetu, a isključiti je bilo je nevjerojatno teško. Aplikacija je uklonjena iz dva glavna dućana aplikacija i zabranjena na većini društvenih platformi, no još uvijek je dostupna na webu i putem Telegram bota. U listopadu je klinika na Yale Law School podnijela tužbu koja bi mogla potpuno ukloniti aplikaciju, prisiljavajući vlasnike da obrišu sve slike i prestanu s radom. Međutim, samo pronalaženje optuženika predstavlja izazov.
“Registrirana je na Britanskim Djevičanskim Otocima,” objašnjava profesor John Langford, jedan od vođa tužbe, “ali vjerujemo da njome upravljaju brat i sestra iz Bjelorusije. Možda je čak dio veće mreže širom svijeta.”
Ovo je gorka lekcija nakon nedavne poplave pornografije bez pristanka koju je generirao Elon Muskov xAI, koja je uključivala mnoge maloljetne žrtve. Materijal za seksualno zlostavljanje djece je najzakonski toksičniji sadržaj na internetu – ilegalno je proizvoditi, prenositi ili pohranjivati, te se redovito skenira na svakoj velikoj usluzi u oblaku. No, unatoč intenzivnim pravnim zabranama, još uvijek postoji malo načina za rješavanje generatora slika poput ClothOff-a, kao što pokazuje Langfordov slučaj. Pojedinačni korisnici mogu biti procesuirani, ali platforme poput ClothOff i Grok su daleko teže za nadzirati, ostavljajući malo opcija za žrtve koje se nadaju pravdi na sudu.
Tužba klinike, koja je dostupna online, oslikava alarmantnu sliku. Tužiteljica je anonimna srednjoškolka iz New Jerseyja, čiji su razredni kolege koristili ClothOff za izmjenu njezinih Instagram fotografija. Imala je 14 godina kada su izvorne fotografije snimljene, što znači da su AI-modificirane verzije zakonski klasificirane kao slike zlostavljanja djece. No, iako su modificirane slike očito nezakonite, lokalne vlasti su odbile procesuirati slučaj, navodeći poteškoće u pribavljanju dokaza s uređaja osumnjičenika.
“Ni škola ni policija nikada nisu utvrdili koliko je široko CSAM Jane Doe i drugih djevojaka distribuirano,” navodi se u tužbi.
Ipak, sudski postupak napreduje sporo. Tužba je podnesena u listopadu, a u mjesecima koji su uslijedili, Langford i njegovi suradnici bili su u procesu dostavljanja obavijesti optuženicima – težak zadatak s obzirom na globalnu prirodu poduhvata. Kada budu obaviješteni, klinika može zatražiti sudjelovanje na sudu i, na kraju, presudu, ali u međuvremenu pravni sustav nije pružio mnogo utjehe žrtvama ClothOff-a.
Problemi povezani s Grok slučajem mogu se činiti jednostavnijim za rješavanje. Elon Muskov xAI se ne skriva, a ima dovoljno novca za odvjetnike koji mogu dobiti tužbu. No, Grok je alat opće namjene, što ga čini mnogo teže odgovornim pred sudom.
