Meta je u četvrtak najavila da započinje s uvođenjem naprednijih AI sustava za moderiranje sadržaja, s ciljem smanjenja oslanjanja na treće strane. Zadatci vezani uz moderiranje sadržaja uključuju otkrivanje i uklanjanje sadržaja vezanog uz terorizam, iskorištavanje djece, droge, prijevare i prevare.
Tvrtka navodi da će primijeniti ove napredne AI sustave u svojim aplikacijama kad god oni dosljedno nadmaše trenutne metode moderiranja sadržaja. Istodobno, smanjit će ovisnost o trećim stranama za moderiranje sadržaja.
“Iako ćemo i dalje imati ljude koji pregledavaju sadržaj, ovi sustavi će moći preuzeti poslove koji su bolje prilagođeni tehnologiji, poput ponavljajućih pregleda grafičkog sadržaja ili područja gdje neprijateljski akteri stalno mijenjaju taktike, poput prodaje ilegalnih droga ili prevara,” objasnio je Meta u blogu.
Meta vjeruje da ovi AI sustavi mogu otkriti više prekršaja s većom točnošću, bolje spriječiti prevare, brže reagirati na stvarne događaje i smanjiti prekomjerno moderiranje.
Tvrtka navodi da su rani testovi AI sustava bili obećavajući, jer mogu otkriti dvostruko više sadržaja vezanog uz seksualnu ponudu odraslih nego njihovi timovi za pregled, uz smanjenje stope pogrešaka za više od 60%. Također, sustavi mogu identificirati i spriječiti više lažnih računa koji uključuju slavne osobe i druge istaknute pojedince, kao i pomoći u sprječavanju preuzimanja računa otkrivanjem signala poput prijava s novih lokacija, promjena lozinki ili izmjena na profilu.
Pored toga, Meta navodi da sustavi mogu identificirati i ublažiti oko 5,000 pokušaja prevare dnevno, u kojima prevaranti pokušavaju prevariti ljude da otkriju svoje podatke za prijavu.
“Stručnjaci će dizajnirati, obučavati, nadzirati i ocjenjivati naše AI sustave, mjereći performanse i donoseći najkompleksnije, najvažnije odluke,” napisao je Meta u blogu. “Na primjer, ljudi će i dalje igrati ključnu ulogu u tome kako donosimo odluke s najvećim rizikom i onima koje su kritične, poput žalbi na onemogućavanje računa ili izvještaja policiji.”
Ova odluka dolazi u trenutku kada je Meta olabavila pravila moderiranja sadržaja tijekom protekle godine, s dolaskom predsjednika Donalda Trumpa na dužnost po drugi put. Prošle godine, tvrtka je ukinula svoj program provjere činjenica treće strane u korist modela sličnog X-u. Također je ukinula ograničenja oko “tema koje su dio mainstream diskursa” i rekla da će se korisnici poticati na “personalizirani” pristup političkom sadržaju.
Osim toga, Meta i druge velike tehnološke tvrtke trenutno se suočavaju s nekoliko tužbi koje traže odgovornost društvenih medija za štetu koju nanose djeci i mladim korisnicima.
Meta je također u četvrtak najavila pokretanje Meta AI pomoćnika koji će korisnicima omogućiti pristup podršci 24/7. Pomoćnik se globalno uvodi u aplikacije Facebook i Instagram za iOS i Android, kao i unutar Centra za pomoć na Facebooku i Instagramu na radnoj površini.
