Discord je priznao da je greška u njegovom AI sustavu za moderaciju pogrešno ukinula više od 8,000 korisnika u posljednja dva mjeseca, nakon što su bezopasne slike—uključujući proračunske tablice, šahovske ploče, teksture igara, kao i bijele i sive prozirne pozadine—neispravno označene kao štetan sadržaj.
Tvrtka je potvrdila da je problem utjecao na račune od svibnja, a dodatnih 200 korisnika je ukinuto tijekom vikenda prije nego što je tim identificirao i ispravio problem. Svi pogođeni računi trenutno su u procesu vraćanja.
Ovaj incident ističe jedan od rastućih izazova vezanih uz AI podržanu moderaciju, jer mnoge platforme sve više oslanjaju na automatizirane sustave za identifikaciju ilegalnog ili zlostavljajućeg materijala na velikoj skali.
U detaljnom threadu na X, Discord je objasnio da njegov automatizirani sustav sigurnosti radi usporedbom učitanog sadržaja s bazama podataka poznatog štetnog materijala. Iako je tehnologija dizajnirana za otkrivanje ilegalnog sadržaja, tvrtka je priznala da ponekad može generirati lažne pozitivne rezultate. Ljudski moderator pregledava sadržaj, ali greška je uzrokovala trenutnu zabranu pogođenih računa.
“Radimo na boljim zaštitnim mjerama kako se ovo ne bi ponovilo,” napisali su iz tvrtke.
Naši sustavi označavaju sadržaj usporedbom s poznatim štetnim materijalom. Ova vrsta usporedbe može proizvoditi lažne pozitivne rezultate, zbog čega član našeg tima za povjerenje i sigurnost uvijek pregledava označeni sadržaj prije nego što se poduzmu bilo kakve radnje.
Namjeravana radnja je…
— Discord Support (@discord_support) 7. srpnja 2026.
Na platformama poput X-a i Reddita, korisnici su tvrdili da su trajno suspendirani jednostavno zbog učitavanja slika koje sadrže uzorke kvadratne mreže. Nekoliko korisnika spekulira da su Discordovi AI alati za moderaciju postali sve osjetljiviji na uzorke mreže jer su ranije korišteni u pokušajima prikrivanja ili maskiranja NSFW i sadržaja vezanog uz iskorištavanje djece od automatiziranih sustava za otkrivanje.
Pogođeni korisnici izražavaju frustraciju na društvenim mrežama, a neki tvrde da trajne zabrane računa isključivo na temelju automatske detekcije mogu imati ozbiljne posljedice, posebno za korisnike koji se oslanjaju na Discord za rad, gaming zajednice ili daljinske društvene veze.
“Gubitak Discord računa zbog nečega tako nepravednog može biti izuzetno devastirajuće i ozbiljno utjecati na korisnike, a svaki dan milijuni korisnika su pogođeni lažnim AI zabranama. Ovo se mora zaustaviti,” napisao je jedan korisnik na X-u.
Moj račun je pogrešno ukinut zbog greške u vašem AI automatu koji je moje TEKSTURE IGARA označio kao CSAM. Trebam svoj račun natrag jer sam direktor igre i koristim Discord za svu svoju komunikaciju. Zatražio sam pregled svoje suspenzije.@discord
— JDBRYANT 🎂 TODAY (@jdbryantdev) 4. srpnja 2026.
Discord nije jedini koji se suočava s problemima moderacije zbog automatiziranih sustava. Prošle godine, korisnici Instagrama i Facebook Grupa prijavili su široko rasprostranjene neobjašnjive suspenzije računa za koje su mnogi vjerovali da su uzrokovane AI sustavima za moderaciju. Iako su korisnici ukazali na automatizaciju kao vjerojatnog krivca, Meta nikada nije javno potvrdila jesu li greške AI odgovorne. Sada Meta je povećava transparentnost.
Prošle godine Tumblr također je dobio pritužbe od korisnika koji su rekli da su njihovi računi masovno suspendirani bez jasnih objašnjenja.
