U odgovoru na rastuće brige o sigurnosti djece na mreži, OpenAI je predstavio plan za poboljšanje zaštite djece u SAD-u usred ekspanzije umjetne inteligencije. Plan za zaštitu djece, objavljen u utorak, osmišljen je kako bi se omogućila brža detekcija, bolje izvještavanje i učinkovitije istraživanje slučajeva iskorištavanja djece uz pomoć AI.
Glavni cilj Plana za zaštitu djece je suočavanje s alarmantnim porastom seksualnog iskorištavanja djece povezanog s napretkom u AI tehnologijama. Prema Internet Watch Foundation (IWF), više od 8.000 prijava sadržaja seksualnog zlostavljanja djece generiranog AI-jem zabilježeno je u prvoj polovici 2025. godine, što predstavlja porast od 14% u odnosu na prethodnu godinu. To uključuje zločince koji koriste alate AI za generiranje lažnih eksplicitnih slika djece radi financijske ucjene i stvaranje uvjerljivih poruka za manipulaciju.
OpenAI-ov plan dolazi u vrijeme pojačanih pritisaka od strane donosioca politika, edukatora i zagovornika sigurnosti djece, posebice u svjetlu uznemirujućih incidenata u kojima su mlade osobe izvršile samoubojstvo nakon što su navodno komunicirale s AI chatbotovima.
Prošlog studenog, Centar za žrtve društvenih mreža i Projekt pravde u tehnologiji podnijeli su sedam tužbi na državnim sudovima u Kaliforniji, tvrdeći da je OpenAI objavio GPT-4o prije nego što je bio spreman. Tužbe tvrde da je psihološki manipulativna priroda proizvoda doprinijela pogrešnim smrtnim ishodima i asistiranom samoubojstvu. Navode četiri osobe koje su izvršile samoubojstvo i tri druge koje su doživjele teške, životno opasne halucinacije nakon duljih interakcija s chatbotom.
Ovaj plan razvijen je u suradnji s Nacionalnim centrom za nestalu i iskorištavanu djecu (NCMEC) i Savezom državnih odvjetnika, te uz povratne informacije državnog odvjetnika Sjeverne Karoline Jeffa Jacksona i državnog odvjetnika Utaha Dereka Browna.
Tvrtka navodi da se plan fokusira na tri aspekta: ažuriranje zakonodavstva kako bi obuhvatilo materijale o zlostavljanju generirane AI-jem, usavršavanje mehanizama izvještavanja za pravosuđe, i integriranje preventivnih mjera izravno u AI sustave. Time OpenAI planira ne samo brže detektirati potencijalne prijetnje, nego i osigurati da relevantne informacije pravovremeno dođu do istražitelja.
Novi plan za zaštitu djece temelji se na ranijim inicijativama, uključujući ažurirane smjernice za interakcije s korisnicima mlađim od 18 godina, koje zabranjuju generiranje neprimjerenog sadržaja, poticanje samoozljeđivanja i izbjegavanje savjeta koji bi pomogli mladima da prikriju nesigurno ponašanje od skrbnika. Tvrtka je nedavno objavila sigurnosni plan za tinejdžere u Indiji.
