YouTube proširuje tehnologiju prepoznavanja sličnosti koja identificira duboke laži generirane umjetnom inteligencijom na pilot grupu vladinih dužnosnika, političkih kandidata i novinara, objavljeno je u utorak. Članovi pilot grupe dobit će pristup alatu koji otkriva neovlašteni sadržaj generiran umjetnom inteligencijom i omogućava im da zatraže njegovo uklanjanje ako vjeruju da krši pravila YouTube-a.
Tehnologija je pokrenuta prošle godine za otprilike 4 milijuna YouTube stvaratelja u YouTube Partner Programu, nakon ranijih testova.
Slična postojećem Content ID sustavu, koji otkriva materijale zaštićene autorskim pravima u videozapisima koje korisnici učitavaju, značajka prepoznavanja sličnosti traži simulirane lica stvorene AI alatima. Ovi alati se ponekad koriste za širenje dezinformacija i manipulaciju percepcijom stvarnosti, koristeći duboke laži poznatih ličnosti — poput političara ili drugih vladinih dužnosnika — kako bi govorili i radili stvari koje nisu učinili u stvarnom životu.
Novim pilot programom, YouTube nastoji uravnotežiti slobodu izražavanja korisnika s rizicima povezanim s AI tehnologijom koja može generirati uvjerljive sličnosti javnih figura.
„Ovo proširenje zapravo se odnosi na integritet javne rasprave,“ rekla je Leslie Miller, potpredsjednica YouTube-a za državne poslove i javnu politiku, na brifingu za novinare prije pokretanja u utorak. „Znamo da su rizici AI impersonacije posebno visoki za one u javnom prostoru. No, dok pružamo ovaj novi štit, također pazimo na to kako ga koristimo,” istaknula je.
Miller je objasnila da neće svi otkriveni slučajevi biti uklonjeni kada se to zatraži. Umjesto toga, YouTube će procijeniti svaki zahtjev prema svojim postojećim smjernicama o privatnosti kako bi utvrdio je li sadržaj parodija ili politička kritika, što su zaštićeni oblici slobode izražavanja.
Tvrtka je napomenula da se zalaže za ove zaštite i na saveznom nivou, podržavajući NO FAKES Act u Washingtonu, koji bi regulirao korištenje AI za stvaranje neovlaštenih rekreacija nečijeg glasa i vizualne sličnosti.
Kako bi koristili novi alat, kandidati moraju prvo potvrditi svoj identitet učitavanjem selfija i državne iskaznice. Tada mogu stvoriti profil, pregledati podudaranja i opcionalno zatražiti njihovo uklanjanje. YouTube planira na kraju omogućiti ljudima da spriječe učitavanje sadržaja koji krši pravila prije nego što postanu javni ili, moguće, da im dozvole monetizaciju tih videa, slično načinu na koji funkcionira njihov Content ID sustav.
Tvrtka nije potvrdila koji će političari ili dužnosnici biti među inicijalnim testerima, ali je rekla da je cilj učiniti tehnologiju općenito dostupnom tijekom vremena.
Ovi AI videi bit će označeni kao takvi, no postavljanje ovih oznaka nije dosljedno. Za neke, oznaka se pojavljuje u opisu videa, dok će se videi koji se fokusiraju na „osjetljive teme“ označavati na prednjoj strani videa. Ovo je isti pristup koji YouTube koristi za sav sadržaj generiran umjetnom inteligencijom.
YouTube trenutno ne dijeli koliko je uklanjanja ovakvih AI dubokih laži upravljano ovom tehnologijom prepoznavanja dubokih laži u rukama stvaratelja, ali napominje da je količina uklonjenog sadržaja do sada bila „vrlo mala.”
„Mislim da je za mnoge [stvaratelje] to samo svijest o onome što se stvara, ali volumen stvarnih zahtjeva za uklanjanje je stvarno, stvarno nizak jer se većina toga ispostavi prilično benignom ili dodatnom za njihov ukupni posao,” rekao je Hanif.
To možda neće biti slučaj s dubokim lažima vladinih dužnosnika, političara ili novinara.
U budućnosti, YouTube namjerava proširiti svoju tehnologiju prepoznavanja dubokih laži na više područja, uključujući prepoznatljive izgovorene glasove i druga intelektualna svojstva poput popularnih likova.
