Nova inicijativa poziva društvene mreže i tvrtke za umjetnu inteligenciju da usvoje stroge standarde verifikacije, no tvrtka se nije obvezala slijediti vlastite preporuke. U našem online životu, obmane omogućene umjetnom inteligencijom postale su sve prisutnije. Postoje visoko profilirani slučajevi koje lako možemo primijetiti, poput nedavnog slučaja kada su dužnosnici Bijele kuće podijelili manipuliranu sliku prosvjednika u Minnesoti i potom se rugali onima koji su o tome postavljali pitanja. S druge strane, ponekad se obmana tiho uvlači u naše feedove društvenih mreža, poput videa koje ruske kampanje utjecaja trenutno dijele kako bi obeshrabrile Ukrajince od prijavljivanja.
Microsoft je stoga predstavio plan, podijeljen s MIT Technology Review, o tome kako dokazati što je stvarno online. Istraživački tim za sigurnost umjetne inteligencije u tvrtki nedavno je procijenio kako se metode dokumentiranja digitalne manipulacije nose s najnovijim razvojem umjetne inteligencije, poput interaktivnih deepfakeova i široko dostupnih hiperrealističnih modela. Preporučili su tehničke standarde koje mogu usvojiti tvrtke za umjetnu inteligenciju i platforme društvenih mreža.
Da bismo razumjeli zlatni standard koji Microsoft promovira, zamislite da imate Rembrandtovu sliku koju pokušavate dokumentirati. Možda biste opisali njezinu povijest s detaljnim popisom gdje je slika bila i koliko je puta promijenila vlasnike. Mogli biste primijeniti vodeni žig koji bi bio nevidljiv ljudima, ali čitljiv stroju. Također, mogli biste digitalno skenirati sliku i generirati matematički potpis, poput otiska prsta, temeljenog na potezima kistom. Ako biste izložili djelo u muzeju, skeptični posjetitelj mogao bi tada pregledati ove dokaze i potvrditi da je riječ o originalu.
Sve ove metode već se koriste u raznim stupnjevima kako bi se provjerili sadržaji na mreži. Microsoft je procijenio 60 različitih kombinacija tih metoda, modelirajući kako bi se svaka postavka ponašala pod različitim scenarijima neuspjeha, od uklanjanja metapodataka do blagog izmjenjivanja ili namjerne manipulacije sadržajem. Tim je zatim mapirao koje kombinacije daju pouzdane rezultate koje platforme mogu s povjerenjem pokazati ljudima online, a koje su toliko nepouzdane da mogu uzrokovati više zabune nego razjašnjenja.
Eric Horvitz, glavni znanstvenik tvrtke, ističe da je rad potaknut zakonodavstvom poput Kalifornijskog zakona o transparentnosti umjetne inteligencije, koji stupa na snagu u kolovozu, te brzinom kojom se umjetna inteligencija razvija. Iako Horvitz smatra da je ovo oblik samoregulacije, nije se obvezao na korištenje vlastitih preporuka unutar Microsoftovih platformi. Važno je napomenuti da postoji inherentna ograničenja ovih alata; oni ne mogu odrediti je li sadržaj točan ili nije, već samo otkrivaju je li manipuliran. Ako bi industrija usvojila Microsoftov plan, značajno bi otežala zavaravanje javnosti manipuliranim sadržajem.
