U objavi na X-u u utorak ujutro, izvršni direktor Google DeepMind-a, Demis Hassabis, pozvao je na osnivanje novog regulatornog tijela za nadzor objavljivanja naprednih AI modela. Pod naslovom „Okvir za napredni AI i početak nove ere,“ objava argumentira potrebu za „regulatornim tijelom“ koje bi se temeljilo na Financijskoj industrijskoj regulatornoj vlasti (FINRA), koja bi mogla testirati napredne modele i razvijati najbolje prakse za njihovo objavljivanje.
„U početku bi Frontier Labs dobrovoljno dijelili modele s Regulatornim tijelom na pregled do 30 dana prije objave,“ navodi se u objavi. „Jednom kada se protokol za procjenu pokaže učinkovitom i robusnom, formalizacija bi mogla brzo uslijediti, što bi značilo da bi napredni modeli morali proći tu procjenu kako bi bili pušteni na američko tržište. Laboratoriji bi također surađivali s Regulatornim tijelom kako bi se bavili svim kritičnim ranjivostima nakon objave.“
Predloženi sustav oslanjao bi se na ad hoc preglede koje je provodila američka vlada na temelju modela Anthropic Mythos i OpenAI Sol. Ti su pregledi izazvali značajne kritike zbog nedostatka tehničke stručnosti i neprozirnog odlučivanja o tome kada se neki model može objaviti. Prema Hassabisovom predloženom regulatoru, te bi odluke mogle biti povjerene novoj organizaciji, koju podržava američka vlada, ali financira industrija umjetne inteligencije i koja bi radila neovisno.
Perspektiva regulacije AI ostaje kontroverzna i za tehnološku industriju i za Trumpovu administraciju. Nedavno je savjetnik Bijele kuće za AI i generalni partner a16z, Sriram Krishnan, isključio mogućnost postojanja regulatora za AI unutar izvršne vlasti, rekavši „neće biti FDA za AI.“
Uspostava regulatornog tijela kao samoregulacijske organizacije poput FINRA-e mogla bi biti način za rješavanje tih zabrinutosti. Hassabis zamišlja da bi regulator bio osoblje koje čine predstavnici otvorenog koda i tehnički stručnjaci iz industrije, uz financijsku potporu AI laboratorija koja bi bila potrebna za njihovo zadržavanje. Mogu čak i outsourcingati neka ocjenjivanja rastućem broju grupa za sigurnost AI koje bi se mogle specijalizirati za specifične rizike.
„Snaga ovog pristupa je u tome što će biti tehnički usmjeren, dok u isto vrijeme podržava inovacije i potiče odgovorno ponašanje,“ tvrdi Hassabis. „Dizajniran je da prati ubrzanje polja i prilagođava se najvećim rizicima kako se identificiraju, a mogao bi se pojačati ako ozbiljnost situacije to zahtijeva.“
