Zakonodavci u New Yorku usvojili su zakon u četvrtak koji ima za cilj spriječiti da napredni AI modeli iz OpenAI, Googlea i Anthropic-a doprinesu katastrofalnim scenarijima, uključujući smrt ili ozljedu više od 100 osoba, ili štetu veću od 1 milijarde dolara.
Usvajanje RAISE zakona predstavlja pobjedu za pokret za sigurnost AI, koji je izgubio tlo u posljednjim godinama dok je Silicijska dolina i Trumpova administracija naglašavali brzinu i inovacije. Zagovornici sigurnosti, uključujući dobitnika Nobelove nagrade Geoffreyja Hintona i pionira AI istraživanja Yoshua Bengioa, podržali su RAISE zakon. Ako postane zakon, uspostavit će prvi set zakonski obveznih standarda transparentnosti za napredne AI laboratorije u Americi.
RAISE zakon ima neke od istih odredbi i ciljeva kao kontroverzni zakon o sigurnosti AI u Kaliforniji, SB 1047, koji je na kraju stavljeni veto. Međutim, suizvornik zakona, senator New Yorka Andrew Gounardes, rekao je za TechCrunch da je namjerno dizajnirao RAISE zakon kako bi se izbjeglo ometanje inovacija među startupovima ili akademskim istraživačima — što je česta kritika SB 1047.
“Prozor za postavljanje zaštitnih mjera se brzo smanjuje s obzirom na to koliko brzo se ova tehnologija razvija,” rekao je senator Gounardes. “Ljudi koji najbolje poznaju [AI] kažu da su ti rizici nevjerojatno vjerojatni […] To je alarmantno.”
RAISE zakon sada ide na stol guvernerice New Yorka Kathy Hochul, koja može ili potpisati zakon, poslati ga natrag na izmjene ili ga potpuno staviti veto.
Ako bude potpisan, zakon o sigurnosti AI u New Yorku zahtijeva da najveće AI laboratorije objave detaljna izvješća o sigurnosti i zaštiti svojih naprednih AI modela. Zakon također zahtijeva da AI laboratoriji prijave incidente sigurnosti, poput zabrinjavajućeg ponašanja AI modela ili nepoštenih aktera koji kradu AI modele, ako se to dogodi. Ako tehnološke tvrtke ne ispune ove standarde, RAISE zakon omogućuje glavni tužitelj New Yorka da izrekne civilne kazne do 30 milijuna dolara.
RAISE zakon ima za cilj usko regulirati najveće svjetske tvrtke — bilo da su smještene u Kaliforniji (poput OpenAI i Googlea) ili Kini (poput DeepSeek i Alibabe). Zahtjevi za transparentnost primjenjuju se na tvrtke čiji su AI modeli obučeni korištenjem više od 100 milijuna dolara računalnih resursa (što se čini više od bilo kojeg dostupnog AI modela danas) i koji se nude stanovnicima New Yorka.
