Koalicija neprofitnih organizacija poziva američku vladu da odmah obustavi korištenje Groka, chatbota razvijenog od strane Elon Muskovog xAI, u federalnim agencijama, uključujući Ministarstvo obrane.
Otvoreno pismo, koje je ekskluzivno podijeljeno s TechCrunchom, slijedi zabrinjavajuće ponašanje ovog velikog jezičnog modela tijekom protekle godine. Nedavno su korisnici X-a tražili od Groka da pretvara fotografije stvarnih žena, a u nekim slučajevima i djece, u seksualizirane slike bez njihovog pristanka. Prema nekim izvještajima, Grok je generirao tisuće neodobrenih eksplicitnih slika svake sata, koje su se zatim u velikoj mjeri dijelile na X-u, Muskovoj društvenoj mreži koja pripada xAI.
“Duboko je zabrinjavajuće da bi federalna vlada nastavila koristiti AI proizvod s sistemskim pogreškama koje rezultiraju generiranjem neodobrenih seksualnih slika i materijala za seksualnu zloupotrebu djece”, navodi se u pismu koje su potpisale organizacije poput Public Citizen, Centra za AI i digitalnu politiku, i Saveza potrošača Amerike. “S obzirom na izvršne naredbe administracije, smjernice i nedavno usvojeni Zakon o uklanjanju koji podržava Bijela kuća, alarmantno je da [Ured za upravljanje i proračun] još nije naložio federalnim agencijama da dekomisioniraju Groka.”
xAI je u rujnu prošle godine postigao dogovor s Upravom za opće usluge (GSA) da proda Groka federalnim agencijama. Dva mjeseca ranije, xAI – zajedno s Anthropic, Googleom i OpenAI – osigurao je ugovor vrijedan do 200 milijuna dolara s Ministarstvom obrane.
U svjetlu skandala na X-u sredinom siječnja, ministar obrane Pete Hegseth izjavio je da će se Grok pridružiti Googleovom Geminiju u operiranju unutar Pentagona, upravljajući klasificiranim i neklasificiranim dokumentima, što stručnjaci smatraju rizikom za nacionalnu sigurnost.
Autori pisma tvrde da je Grok pokazao da nije kompatibilan s zahtjevima administracije za AI sustave. Prema smjernicama OMB-a, sustavi koji predstavljaju ozbiljne i predvidive rizike koje nije moguće adekvatno ublažiti moraju se obustaviti.
“Naša primarna zabrinutost je da Grok dosljedno pokazuje da je nesiguran veliki jezični model”, rekao je JB Branch, aktivist za odgovornost u Big Tech i jedan od autora pisma. “Ali također postoji duboka povijest Groka koja uključuje antisemitističke ispade, seksističke ispade i seksualizirane slike žena i djece.”
