Red Hat je pokrenuo asago, projekt otvorenog koda koji ima za cilj pretvoriti politike upravljanja AI-jem u kod spreman za proizvodnju.
Projekt se opisuje kao automatizirani, auditable radni tok koji povezuje “fragmentirane korake, alate i zahtjeve” inženjerskih i usklađivačkih timova. S regulativama kao što je EU AI Act koje sada stupaju na snagu, Red Hat definira izbor s kojim se suočavaju organizacije: ili usporiti inovacije u AI-u kroz ručnu reviziju ili dopustiti neuređenim agentima da rade u proizvodnji bez ikakve provjere njihovog ponašanja prema politici.
asago se temelji na radu Red Hata i NVIDIA-e unutar Open Secure AI Alliance. Izdaje se pod Apache Licencom 2.0, a projekt je trenutno u fazi formiranja, s repozitorijem otvorenim na GitHubu za programere, akademske istraživače i rane korisnike iz industrije kako bi pregledali i doprinijeli upravljanju.
Četiri faze od politike do aktivnih kontrola
Radni tok koji opisuje Red Hat prolazi kroz četiri faze. Prva faza je mapiranje rizika: okvir čita učitanu politiku upravljanja organizacije i mapira njezine specifične zahtjeve prema uspostavljenim okvirima, uključujući NIST AI RMF, OWASP LLM Top 10 i EU AI Act, kako je katalogizirano putem IBM-ovog AI Risk Atlasa. Jezik politike automatski postaje profil rizika, umjesto da se oslanja na ručno pretraživanje usklađivačkog tima.
Nakon toga, asago prelazi u procjenu rizika. Projekt generira i pokreće scenarije prilagođene specifičnom slučaju upotrebe, istražujući štetna ponašanja koja je njegovo mapiranje rizika označilo, umjesto da testira prema standardnoj listi. Slijedi ublažavanje rizika: sustav preporučuje zaštitne mjere na temelju onoga što je testiranje pokazalo i gradi rationale trail koji bi trebao izdržati reviziju.
asago organizira preporučene kontrole u konfiguracije spremne za proizvodnju za hibridne oblake i Kubernetes okruženja, prema Red Hatu, smanjujući potrebu za ručnim kodiranjem infrastrukture koje bi inače stajalo između preporuke za ublažavanje i aktivne kontrole. Red Hatov cilj je skratiti vrijeme implementacije s mjeseci na dane.
Audit-trail kao proizvod
Svaka faza trebala bi hraniti jedan, kontinuirani audit trail. Svaka klauzula politike povezuje se s određenim testom, a svaki test s kontrolom u radu. Revizor, načelno, može pratiti bilo koju aktivnu kontrolu u živom okruženju izravno natrag do linije politike koja je to opravdala.
Ta praćenost je stvarna prodajna točka. Red Hatovo vlastito oblikovanje tretira sigurnost AI-a manje kao jednokratnu certifikacijsku vježbu, a više kao kontinuiranu korisnu uslugu (tj. nešto što ostaje provjerljivo dok agenti nastavljaju s radom, a ne samo u trenutku kada su prvi put odobreni).
Steven Huels, potpredsjednik za AI inženjering u Red Hatu, kaže: “Kako organizacije prelaze s eksperimentalnih AI pilot programa na dugotrajne, autonomne agente, uspostavljanje jasnih operativnih zaštitnih mjera postaje kritični infrastrukturni zahtjev.”
Huels povezuje asago s Red Hatovom odvojenom inicijativom Lightwell, koja se fokusira na osiguranje otvorenog lanca opskrbe od AI-pokretanih ranjivosti, nazivajući asago “sljedećim logičnim korakom za korporativni AI automatizacijom veze između definicija korporativne politike i aktivnih produkcijskih agenata.”
Stuart Battersby, arhitekt sigurnosti AI-a i evaluacije modela u Red Hatu, otvorenije govori o obliku projekta: “Projekt asago je istinski suradnički, otvoreni poduhvat koji okuplja dionike iz tehnološke industrije, akademije i vlade.
“Potičemo više suradnika da se pridruže ovom zajedničkom naporu, osobito iz globalnih jurisdikcija, kako bismo osigurali maksimalno pokriće stavova o sigurnosti AI-a.”
Popis glavnih suradnika, a ne jednog dobavljača
Osnovni popis je daleko širi od Red Hata i NVIDIA-e. Brave Software, IBM Research, Microsoft, MIT Lincoln Laboratory, North Carolina State University i Alan Turing Institute također se pojavljuju kao suradnici, uz koaliciju EvalEval i Austrijsku interdisciplinarnu transformacijsku sveučilište (IT:U). Alquimia AI, partner a ne osnivačka istraživačka institucija, također je navedena.
Sarah Bird, glavna direktorica za odgovorni AI u Microsoftu, komentira: “Mnogi od najtežih izazova sigurnosti AI-a još uvijek su neriješeni i nijedna organizacija ne može ih riješiti sama.”
Akademske glasove podržavaju sličnu tvrdnju iz druge perspektive. Veena Misra, privremena dekanica Fakulteta inženjerstva na NC Stateu, naziva sigurnost AI-a “inženjerskim problemom koliko i političkim problemom.”
asago-ovi rezultati trebali bi biti neovisni o infrastrukturi: deklarativne konfiguracije za Kubernetes, Terraform i Ansible, prema Red Hatu, tako da sigurnosni položaj postavljen u jednom oblaku ne treba ponovno projektirati u drugom.
Ništa o projektu još nije testirano u proizvodnji. Nema objavljenih studija slučaja kupaca u Red Hatovom priopćenju, nema benchmarka koji bi pokazao da se tvrdnja “dani, a ne mjeseci” održava tijekom žive regulatorne revizije, i nema naznake kako se razlike između organizacija koje pridonose standardima mapiranja rizika rješavaju kada kod pređe fazu formiranja.
Za sada, projekt postoji kao repozitorij i struktura upravljanja na GitHubu, otvoren za programere, istraživače i timove iz industrije voljne da rade zajedno s popisom suradnika umjesto da usvoje gotov proizvod.
Vidi također: OpenAI usklađuje sigurnosne prakse s GPAI kodom EU AI Act-a
Želite li saznati više o AI-u i velikim podacima od industrijskih lidera? Provjerite AI & Big Data Expo koji se održava u Amsterdamu, Kaliforniji i Londonu. Opsežan događaj dio je TechEx i održava se zajedno s drugim vodećim tehnološkim događajima uključujući Cyber Security & Cloud Expo. Kliknite ovdje za više informacija.
AI News podržava TechForge Media. Istražite druge nadolazeće događaje i webinare o korporativnoj tehnologiji ovdje.
