Indija je naredila društvenim mrežama da pojačaju nadzor nad deepfake sadržajem i drugim AI-generiranim imitacijama, istovremeno značajno skraćujući vrijeme potrebno za izvršavanje naloga za uklanjanje. Ovaj potez mogao bi preoblikovati način na koji globalne tehnološke tvrtke moderiraju sadržaj na jednom od najvećih i najbrže rastućih tržišta internetskih usluga.
Promjene, objavljene (PDF) u utorak kao izmjene Indijskih IT pravila iz 2021., stavljaju deepfake sadržaj pod formalni regulatorni okvir, obvezujući označavanje i traciranje sintetičkog audio i vizualnog sadržaja, dok istovremeno skraćuju vremenske okvire za usklađivanje, uključujući tročasovni rok za službene naloge za uklanjanje i dvotijesatni rok za određene hitne pritužbe korisnika.
Važnost Indije kao digitalnog tržišta pojačava utjecaj novih pravila. S više od milijarde internetskih korisnika i pretežno mladom populacijom, ova južnoazijska nacija predstavlja ključno tržište za platforme poput Mete i YouTubea, što čini vjerojatnim da će mjere usklađivanja usvojene u Indiji utjecati na globalne prakse proizvoda i moderiranja.
Prema izmijenjenim pravilima, društvene mreže koje omogućuju korisnicima da učitavaju ili dijele audio-vizualni sadržaj moraju zahtijevati otkrivanje informacije o tome je li materijal sintetički generiran, koristiti alate za provjeru tih tvrdnji i osigurati da su deepfakes jasno označeni i sadržavaju tragove podataka o podrijetlu.
Određene kategorije sintetičkog sadržaja — uključujući obmanjujuće imitacije, neodobrene intimne slike i materijal povezan s teškim zločinima — izričito su zabranjene pravilima. Nepoštivanje pravila, posebno u slučajevima koje su označili organi ili korisnici, može izložiti tvrtke većim pravnim odgovornostima ugrožavajući njihove zaštite sigurnih luka prema indijskom zakonu.
Pravila se oslanjaju na automatizirane sustave kako bi ispunila te obveze. Očekuje se da platforme koriste tehničke alate za provjeru korisničkih otkrića, identifikaciju i označavanje deepfakeova te sprječavanje stvaranja ili dijeljenja zabranjenog sintetičkog sadržaja.
Aprajita Rana, partnerica u AZB & Partners, vodećoj indijskoj odvjetničkoj firmi, rekla je da se pravila sada fokusiraju na AI-generirani audio-vizualni sadržaj, dok ostavljaju iznimke za rutinske, kozmetičke ili efikasne upotrebe AI. Međutim, upozorila je da zahtjev za uklanjanjem sadržaja unutar tri sata od saznanja o njemu odstupa od uspostavljenih načela slobode govora.
Grupa za digitalna prava Internet Freedom Foundation iz New Delhija izjavila je da pravila riskiraju ubrzanje cenzure drastičnim skraćivanjem rokova za uklanjanje, ostavljajući malo prostora za ljudsku reviziju i potičući platforme prema automatskom prekomjernom uklanjanju.
