Senatorica Elizabeth Warren (D-MA) poslala je pismo ministru obrane Peteu Hegsethu u ponedjeljak, izražavajući zabrinutost zbog odluke Pentagona da omogući tvrtki Elona Muska, xAI, pristup tajnim mrežama.
“Grok, kontroverzni AI model koji je razvila xAI, pružio je uznemirujuće rezultate korisnicima, uključujući savjete o tome kako izvršiti ubojstva i terorističke napade, generiranje antisemitskog sadržaja i stvaranje materijala za seksualno zlostavljanje djece,” stoji u pismu.
Warren je izjavila da Grokova “očita neadekvatna zaštita” može predstavljati “ozbiljne rizike za sigurnost američkog vojnog osoblja i za kibernetičku sigurnost tajnih sustava.” Zatražila je od Hegsetha informacije o tome kako Ministarstvo obrane planira “ublažiti ove potencijalne rizike za nacionalnu sigurnost.”
Warren nije prva koja izražava alarm zbog Groka, kontroverznog chatbota xAI, koji dobiva pristup tajnim sustavima. Prošlog mjeseca, kolegij neprofitnih organizacija pozvao je vladu da odmah obustavi korištenje Groka u saveznim agencijama, uključujući Ministarstvo obrane, nakon što su korisnici X-a više puta potaknuli chatbota da pretvara stvarne fotografije žena, a u nekim slučajevima i djece, u seksualizirane slike bez njihovog pristanka. Istog dana kada je Warren poslala svoje pismo, podignuta je tužba protiv xAI koja tvrdi da je Grok generirao seksualni sadržaj iz stvarnih slika tužitelja dok su bili maloljetni.
Pismo dolazi nakon odluke Pentagona da proglasi Anthropic rizikom u opskrbnom lancu nakon što je AI tvrtka odbila omogućiti vojsci neograničen pristup svojim AI sustavima. Anthropic je do nedavno bila jedina AI tvrtka s sustavima spremnim za tajne operacije. U toj situaciji, Ministarstvo obrane potpisalo je sporazum s OpenAI kao i s xAI o korištenju AI sustava dviju tvrtki u tajnim mrežama, prema Axiosu.
Visoki dužnosnik Pentagona potvrdio je da je Grok uveden za korištenje u tajnom okruženju, ali još nije u upotrebi.
“Nije jasno koje je osiguranje ili dokumentaciju xAI pružila Ministarstvu obrane o Grokovim mjerama sigurnosti, praksama rukovanja podacima ili kontrolama sigurnosti, te je li Ministarstvo obrane procijenilo ta osiguranja prije nego što je navodno omogućilo Groku pristup tajnom sustavu,” piše Warren.
Warren je zatražila kopiju sporazuma koji je navodno postignut između Ministarstva obrane i xAI o korištenju Groka u tajnim sustavima i objašnjenje kako Ministarstvo planira osigurati da Grok ne bude izložen kibernetičkim napadima i da “neće otkriti osjetljive ili tajne vojne informacije.”
Glavni glasnogovornik Pentagona Sean Parnell izjavio je da se odjel “veseli implementaciji Groka na službenoj AI platformi GenAI.mil u vrlo bliskoj budućnosti.”
GenAI.mil je vojna sigurna platforma za generativnu AI koja omogućava radnicima Ministarstva obrane pristup velikim jezičnim modelima (LLM) i drugim AI alatima unutar vladom odobrenih oblaka. Namijenjena je prvenstveno za neklasificirane zadatke poput istraživanja, izrade dokumenata i analize podataka.
