Američki Odjel za domovinsku sigurnost (DHS) koristi AI video generatore iz Googlea i Adobea za izradu i uređivanje sadržaja koji se dijeli s javnošću, otkriva novi dokument. Ova informacija dolazi u trenutku kada su imigracijske agencije preplavile društvene mreže sadržajem koji podržava masovnu deportaciju koju je pokrenuo predsjednik Trump, a neki od tih sadržaja izgleda da su stvoreni uz pomoć AI tehnologije. Zaposlenici u tehnološkom sektoru također su vršili pritisak na svoje poslodavce da osude aktivnosti tih agencija.
Dokument, objavljen u srijedu, pruža popis komercijalnih AI alata koje DHS koristi za zadatke koji se kreću od generiranja nacrta dokumenata do upravljanja kibernetičkom sigurnošću. U dijelu o “uređivanju slika, videa ili drugih materijala javnih poslova pomoću AI-a”, prvi put se otkriva da DHS koristi Googleov Veo 3 video generator i Adobe Firefly, procjenjujući da agencija ima između 100 i 1.000 licenci za ove alate. Također se otkriva da DHS koristi Microsoft Copilot Chat za generiranje prvih nacrta dokumenata i sažimanje dugih izvještaja te Poolside softver za zadatke kodiranja, uz alate drugih tvrtki.
Google, Adobe i DHS nisu odmah odgovorili na zahtjeve za komentar. Ove informacije pružaju detalje o tome kako agencije poput Imigracijske i carinske službe (ICE), koja je dio DHS-a, možda stvaraju velike količine sadržaja koji dijele na platformi X i drugim kanalima dok su imigracijski poslovi prošireni širom američkih gradova. Objavili su sadržaj koji slavi “Božić nakon masovnih deportacija”, referirali su se na biblijske stihove i rođenje Krista, prikazivali lica onih koje je agencija uhitila i dijelili oglase usmjerene na regrutaciju agenata. Agencije su također ponavljano koristile glazbu bez dozvola od umjetnika u svojim videima.
Neki od sadržaja, posebno videa, imaju izgled AI-generiranih, no do sada nije bilo jasno koji AI modeli agencije koriste. Ovo je prvi konkretan dokaz da DHS koristi takve generatore za stvaranje sadržaja koji se dijeli s javnošću. I dalje je nemoguće verificirati koja je tvrtka pomogla u stvaranju određenog sadržaja ili je li on uopće generiran pomoću AI-a. Adobe nudi opcije za “vodeni žig” videa izrađenog s njegovim alatima kako bi se otkrilo da je AI-generiran, no ova oznaka ne ostaje uvijek netaknuta kada se sadržaj prenosi i dijeli na različitim stranicama.
Dokument otkriva da DHS posebno koristi Flow, alat iz Googlea koji kombinira njegov Veo 3 video generator s paketom alata za filmsku produkciju. Korisnici mogu generirati isječke i sastavljati cijele videe uz pomoć AI-a, uključujući videe koji sadrže zvuk, dijalog i pozadinsku buku, čineći ih hiperrealističnima. Adobe je lansirao svoj Firefly generator 2023. godine, obećavajući da ne koristi zaštićeni sadržaj u svom treningu ili izlazu. Kao i Googleovi alati, Adobeovi mogu generirati videe, slike, zvučne zapise i govor. Dokument ne otkriva dodatne detalje o tome kako agencija koristi ove alate za generiranje videa.
Zaposlenici velikih tehnoloških tvrtki, uključujući više od 140 trenutnih i bivših zaposlenika Googlea i više od 30 zaposlenika Adobea, vrše pritisak na svoje poslodavce u posljednjim tjednima da zauzmu stav protiv ICE-a i pucnjave na Alexa Prettija 24. siječnja. Vodstvo Googlea nije dalo izjave kao odgovor. U listopadu su Google i Apple uklonili aplikacije iz svojih trgovina koje su bile namijenjene praćenju prisutnosti ICE-a, pozivajući se na rizike za sigurnost.
Dodatni dokument objavljen u srijedu otkrio je nove detalje o tome kako agencija koristi specifičnije AI proizvode, uključujući aplikaciju za prepoznavanje lica koju koristi ICE, o čemu je prvi put izvijestio 404Media u lipnju.
