Tvrtka Meta danas je objavila da privremeno obustavlja pristup tinejdžera svojim AI likovima u svim aplikacijama. Kompanija je naglasila da ne odustaje od svojih nastojanja, već želi razviti ažuriranu verziju AI likova za tinejdžere, što je ekskluzivno izjavila za TechCrunch.
Ova odluka dolazi nekoliko dana prije početka suđenja protiv Mete u Novom Meksiku, gdje se tvrtka optužuje za nedostatak napora u zaštiti djece od seksualne eksploatacije putem svojih aplikacija. Wired je izvijestio da je Meta pokušala ograničiti otkrivanje vezano uz utjecaj društvenih medija na mentalno zdravlje tinejdžera.
U listopadu, tvrtka je predstavila roditeljske kontrole za AI likove, omogućujući roditeljima i starateljima da prate teme i blokiraju pristup određenim likovima. Meta je rekla da će roditelji moći potpuno isključiti razgovore s AI likovima. Ove značajke trebale su biti predstavljene ove godine, ali tvrtka sada potpuno isključuje AI likove za tinejdžere dok radi na njihovom ažuriranju.
Meta je istaknula da je od roditelja čula da žele više uvida i kontrole nad interakcijama svoje djece s AI likovima, zbog čega je odlučila uvesti ove promjene.
Tvrtka je pojačala kontrolu nad pristupom tinejdžera AI sadržaju u svojim aplikacijama. Također, u listopadu je Meta uvela značajke roditeljske kontrole na Instagramu, fokusirajući se na prilagodbu tinejdžerskog iskustva interakcije s AI-jem na svojim aplikacijama. Ove značajke, inspirirane ocjenom PG-13, ograničile su pristup tinejdžera određenim temama poput ekstremnog nasilja, golotinje i grafičke upotrebe droga.
„Počevši od sljedećih tjedana, tinejdžeri više neće moći pristupiti AI likovima u našim aplikacijama dok ne bude spremno ažurirano iskustvo. Ovo će se odnositi na sve koji su nam dali datum rođenja tinejdžera, kao i na osobe koje tvrde da su odrasli, ali za koje sumnjamo da su tinejdžeri temeljem naše tehnologije predikcije dobi“, izjavila je tvrtka u ažuriranom blog postu.
Meta je dodala da će, kada predstavi nove AI likove, oni imati ugrađene roditeljske kontrole. Tvrtka je naglasila da će novi likovi davati odgovore prikladne za dob i fokusirati se na teme poput obrazovanja, sporta i hobija.
Društvene mreže su pod velikim nadzorom regulatora. Osim spomenutog slučaja u Novom Meksiku, Meta se također suočava s suđenjem sljedeći tjedan, gdje se optužuje da uzrokuje ovisnost o društvenim mrežama. CEO Mark Zuckerberg trebao bi svjedočiti u tom slučaju kada suđenje započne.
Osim društvenih platformi, AI kompanije su morale modificirati svoja iskustva za tinejdžere nakon što su se suočile s tužbama koje tvrde da doprinose samopovređivanju. U listopadu je Character.AI, startup koji omogućuje korisnicima razgovor s raznim AI avatarima, zabranio otvorene razgovore s chatbotovima za korisnike mlađe od 18 godina. U studenom je startup najavio da će izraditi interaktivne priče za djecu. Tijekom posljednjih nekoliko mjeseci, OpenAI je dodao nova pravila sigurnosti za tinejdžere za ChatGPT i počeo predviđati dob korisnika kako bi primijenio ograničenja sadržaja.
Korekcija: Ova objava je ažurirana kako bi se pojasnilo da će nova verzija AI likova biti dostupna svima, a ne samo tinejdžerima, kada se pokrene. Uključivat će roditeljske kontrole.
