E.SUN Bank surađuje s IBM-om na izradi jasnijih pravila upravljanja umjetnom inteligencijom (AI) za korištenje unutar banaka. Ovaj napor odražava širi pomak u financijama. Mnoge tvrtke već koriste AI za provjere prijevara i kreditno ocjenjivanje, a neke ga koriste i za rješavanje upita korisnika. Novi izazov je kako upravljati tim sustavima na način koji ispunjava pravne i rizik pravilnike.
Banke se suočavaju s rastućim brojem pitanja dok implementiraju AI. Kako bi se model trebao testirati prije nego što postane aktivan? Tko je odgovoran ako donese pogrešnu odluku? I kako mogu tvrtke dokazati regulatorima da su njihovi sustavi pravedni i sigurni?
Kako bi se riješili ti problemi, E.SUN Bank i IBM Consulting stvorili su okvir upravljanja AI za bankarstvo. Projekt također uključuje bijelu knjigu o upravljanju AI koja postavlja smjernice o tome kako financijske tvrtke mogu izgraditi unutarnje kontrole oko AI sustava. Prema priopćenju kompanija, rad se prilagođava globalnim standardima kao što su EU AI Act i ISO/IEC 42001 za financijske usluge.
Okvir postavlja kako banke mogu pregledati AI modele prije nego što ih implementiraju te objašnjava kako bi se ti modeli trebali pratiti nakon što uđu u proizvodnju. Uključuje pravila o korištenju podataka i načinu provođenja revizija rizika.
E.SUN Bank je izjavila da je okvir namijenjen pomoći financijskim institucijama u uvođenju AI sustava uz održavanje upravljanja i regulatornog nadzora. Mnoge tvrtke već koriste ograničene AI alate. Sljedeći korak je proširiti te sustave na ključne operacije poput kreditiranja i plaćanja, a da pritom ostanu unutar regulatornih okvira.
Banke pokušavaju upravljati rizicima AI
Financijske tvrtke imaju velike razloge za postavljanje ograničenja oko AI sustava. Bankarstvo se oslanja na povjerenje, a regulatori zahtijevaju od tvrtki da prate kako se donose odluke. AI modeli često djeluju kao “crne kutije”, što znači da može biti teško objasniti kako dolaze do rezultata. To može uzrokovati probleme u područjima poput odluka o kreditima ili provjera prijevara. Regulatori u mnogim regijama počeli su se fokusirati na te rizike.
EU AI Act, usvojen 2024. godine, postavlja stroga pravila za AI sustave korištene u sektorima visokog rizika poput financija. Zakon zahtijeva od tvrtki da procijene rizike i dokumentiraju podatke za obuku. Također zahtijeva praćenje ponašanja AI modela nakon implementacije.
Globalni standardi također se oblikuju. ISO/IEC 42001, objavljen 2023. godine, postavlja smjernice za izgradnju sustava upravljanja AI. Standard se fokusira na nadzor i praćenje modela. Također se bavi načinom upravljanja AI podacima. Cilj je dati tvrtkama strukturirani način upravljanja AI kroz cijelu organizaciju, umjesto da svaki model tretiraju kao zaseban alat.
Projekt E.SUN Bank s IBM-om crpi iz oba okvira. Namijenjen je pokazati kako bi ova pravila mogla funkcionirati u svakodnevnim bankarskim operacijama.
