Grad San Francisco naredio je Appleu i Googleu da uklone desetke aplikacija za “nudify” — softverskih programa koji mogu digitalno mijenjati slike kako bi uklonili odjeću s osoba na njima — iz svojih trgovina aplikacija.
Zakon Kalifornije kriminalizira bilo kakvu aktivnost koja “namjerno olakšava” ili “nepažljivo pomaže ili potiče” stvaranje neovisne duboke pornografije. Godine 2025. Kalifornija je također usvojila zakon koji omogućava žrtvama da pokrenu građanske tužbe protiv trećih strana koje olakšavaju takav materijal. Grad tvrdi da su, unatoč ovim poznatim propisima, obje tehnološke tvrtke nastavile hostati i zarađivati od takvih programa.
“Apple i Google profitiraju od aplikacija koje iskorištavaju žene i djevojke stvaranjem neovisnih intimnih dubokih laži,” izjavio je gradski odvjetnik San Francisca David Chiu u e-mail izjavi za TechCrunch. “Iako su tvrtke prekinule veze s nekim problematičnim aplikacijama, Apple i Google imaju odgovornost da budu proaktivni i budni kako bi spriječili seksualno zlostavljanje.”
Pisma koja je Chiuova kancelarija poslala Googleu i Appleu, a koja su pregledana od strane TechCrucha, ističu da su tvrtke “bile obaviještene” o svojoj ulozi u “obračunu ilegalnih kupnji gotovo godinu dana”, ali su, unatoč tome, nastavile s tim. Prema tim pismima, obje tvrtke su više puta upozorene da hostaju ove aplikacije. U siječnju i ponovno u travnju, Tech Transparency Project izdao je izvještaje i poslao pisma objema tvrtkama napominjući da postoji “desetke aplikacija” unutar njihovih trgovina aplikacija koje “prodaju duboke laži NCII [neovisne intimne slike] u zamjenu za uplatu”.
Izvještaj TTP-a iz travnja rekao je da su Google i Apple namjerno “usmjeravali” korisnike prema takvim aplikacijama i nazvao obje tvrtke “ključnim sudionicima u širenju AI alata koji mogu pretvoriti stvarne ljude u seksualizirane slike.”
Dodatno, Chiu je rekao Wiredu da su obje tvrtke vjerojatno zaradile “milijune dolara u naknadama” od aplikacija koje su nudile takve usluge.
Pisma iz Chiuove kancelarije upozoravaju da bi Apple i Google mogli biti suočeni s građanskim kaznama zbog kršenja zakona i traže da kontaktiraju grad unutar 28 dana.
Kada je TechCrunch kontaktirao Apple za komentar, glasnogovornik je rekao da su aplikacije za nudify zabranjene u njihovoj trgovini aplikacija, dodajući: “Uklonili smo tri od spomenutih aplikacija i u procesu smo ukidanja njihovih računa programera. U kontaktu smo s četiri druge koje moraju riješiti kršenje pravila ili riskirati da budu uklonjene također.”
Glasnogovornik Googlea tvrdio je da su sve pet aplikacija iz Chiuovog pisma obustavljene s Google Playa. “Kada nam se prijave kršenja, istražujemo i brzo djelujemo, što je u slučaju ovih aplikacija uključivalo obustavljanje stotina kršećih aplikacija i ograničavanje povezanih pretraživačkih pojmova poput ‘nudify’ u našoj trgovini,” dodao je glasnogovornik.
Duboka pornografija većinom je bila problem za ženske slavne osobe, iako aplikacije za nudify omogućuju da svatko s javno dostupnom fotografijom može biti meta.
Ažurirano 17. srpnja: Ovaj članak je ažuriran kako bi uključio izjave iz Googlea i Applea.
