Kada je Brett Levenson napustio Apple 2019. kako bi preuzeo vođenje poslovne integracije u Facebooku, društvena mreža bila je usred posljedica Cambridge Analytica. U to vrijeme, mislio je da može jednostavno riješiti problem moderacije sadržaja putem boljih tehnologija.
No, ubrzo je shvatio da problem leži dublje od tehnologije. Ljudi su se očekivali da zapamte 40-strani dokument politike koji je bio strojno preveden na njihov jezik. Tada su imali oko 30 sekundi po označenom sadržaju da odluče ne samo krši li taj sadržaj pravila, već i što učiniti: blokirati ga, zabraniti korisnika, ograničiti širenje. Te brze odluke bile su “malo bolje od 50% točne”, prema Levensonu.
“Bilo je to kao bacanje novčića, hoće li ljudski recenzenti ispravno primijeniti politike, a to je bilo mnogo dana nakon što je šteta već nastala”, rekao je Levenson za TechCrunch.
Takav odgođeni, reaktivni pristup nije održiv u svijetu okretnih i dobro financiranih suparničkih aktera. Porast AI chatbota dodatno je pogoršao problem, dok su neuspjesi moderacije sadržaja rezultirali nizom visoko profiliranih incidenata, poput chatbota koji su pružali adolescentima savjete o samopovređivanju ili AI-generirane slike koje su izbjegle sigurnosne filtre.
Levensonova frustracija dovela je do ideje “politika kao kod” — načina da se statični dokumenti politika pretvore u izvršne, ažurirane logike čvrsto povezane s provedbom. Ta spoznaja dovela je do osnivanja Moonbounce, koja je u petak najavila da je prikupila 12 milijuna dolara u financiranju, saznaje TechCrunch. Rundu su zajednički vodili Amplify Partners i StepStone Group.
Moonbounce surađuje s tvrtkama kako bi pružila dodatni sigurnosni sloj gdje god se sadržaj generira, bilo od strane korisnika ili AI-a. Tvrtka je obučila svoj vlastiti veliki jezični model da gleda dokumente politike klijenata, evaluira sadržaj u stvarnom vremenu, pruža odgovor u 300 milisekundi ili manje i poduzima akciju. Ovisno o preferencijama klijenta, ta akcija može izgledati kao usporavanje distribucije dok sadržaj čeka ljudsku recenziju kasnije, ili može blokirati sadržaj visokog rizika u trenutku.
Danas, Moonbounce opslužuje tri glavne vertikale: platforme koje se bave korisnički generiranim sadržajem poput aplikacija za upoznavanje; AI tvrtke koje razvijaju likove ili suputnike; i AI generatore slika.
