Kako AI agenti postaju sve sposobniji, poduzeća koja se natječu u njihovom korištenju suočavaju se s novim izazovom: osigurati da agenti rade ono što trebaju raditi kada su implementirani u različitim okruženjima.
Microsoft pokušava riješiti ovaj problem novim otvorenim standardom pod nazivom Specifikacija kontrole agenata (ACS) koja ima za cilj dati programerima dosljedniji i precizniji način kontrole onoga što AI agenti smiju raditi.
Specifikacija omogućava timovima za razvoj, usklađenost i sigurnost definiranje vlastitih pravila koja agenti moraju slijediti. Pravila mogu definirati što agent može raditi, što ne smije raditi, kada ljudska osoba treba odobriti akciju i koje dokaze treba zabilježiti za kasniju reviziju. Ovi policy file-ovi provjeravaju se na nekoliko “točaka presjecanja” kada agent obavlja zadatak kako bi se osiguralo da ostane unutar postavljenih okvira.
Specifikacija dolazi u trenutku kada programeri improviziraju načine kontrole onoga što njihovi AI agenti vide i rade, posebno s obzirom na razgovore o AI radnim procesima koji neuspješno funkcioniraju zbog nepravilne upotrebe alata ili nenamjernih akcija koje dovode do lančanih neuspjeha.
Danas, programeri mogu specificirati upute u sustavskom promptu, dodati prilagođene provjere u aplikacijski kod ili koristiti klasifikatore za otkrivanje problematičnih unosa i izlaza. Ti pristupi rade, ali često ostavljaju tvrtke s fragmentiranim kontrolama koje je teško provjeriti i još teže ponovno upotrebljavati u različitim okvirima, sučeljima i sustavima.
ACS ima za cilj integrirati te kontrole u zajednički sloj upravljanja. Microsoft tvrdi da se specifikacija može koristiti za provjeru pridržava li se agent pravila na više točaka u svom radnom procesu — prije nego što primi unos, prije nego što pozove alat, nakon što alat vrati rezultat i prije nego što se konačni odgovor pošalje korisniku. Politika može odobriti akciju, blokirati je, ukloniti osjetljive informacije ili čak zatražiti odobrenje od osobe.
Programeri također mogu umetnuti klasifikatore za unose i izlaze kako bi kategorizirali informacije, predviđali ishode ili odredili kako bi agent trebao odgovoriti; dodati LLM-ove s promptovima da djeluju kao “suci” za politike; i logiku za provjeru poziva alatima, odabir alata, točnost unosa, korištenje izlaza i odgovore.
Buduci da se ove politike mogu pisati kao jedinstveni datoteke, mogu se povezati s agentima, omogućujući sigurnosnoj politici da prati agenta kroz različite okvire i okruženja.
ACS se isporučuje kao SDK s dodacima za LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP alate i još mnogo toga.
