Kako se tvrtke sve više oslanjaju na automatizirane sustave, etika postaje ključna briga. Algoritmi sve više oblikuju odluke koje su prije donosili ljudi, a ti sustavi utječu na radna mjesta, kredit, zdravstvenu skrb i pravne ishode. Ta moć zahtijeva odgovornost. Bez jasnih pravila i etičkih standarda, automatizacija može ojačati nepravdu i uzrokovati štetu.
Ignoriranje etike utječe na stvarne ljude na stvarne načine, ne samo na promjene u javnom povjerenju. Pristrani sustavi mogu odbiti kredite, posao ili zdravstvenu skrb, a automatizacija može povećati brzinu loših odluka ako nema zaštitnih mjera. Kada sustavi donesu pogrešnu odluku, često je teško uložiti prigovor ili čak razumjeti zašto, a nedostatak transparentnosti pretvara male greške u veće probleme.
Razumijevanje pristranosti u AI sustavima
Pristranost u automatizaciji često dolazi iz podataka. Ako povijesni podaci uključuju diskriminaciju, sustavi obučeni na tim podacima mogu ponavljati te obrasce. Na primjer, alat AI koji se koristi za filtriranje prijava za posao mogao bi odbiti kandidate na temelju spola, rase ili dobi ako su njegovi podaci za obuku odražavali te prošle predrasude. Pristranost također ulazi kroz dizajn, gdje odluke o tome što mjeriti, koje ishode favorizirati i kako označiti podatke mogu stvoriti iskrivljene rezultate.
Problemi nisu samo teorijski. Amazon je 2018. godine odustao od korištenja alata za regrutiranje nakon što je favorizirao muškarce, a neki sustavi prepoznavanja lica su otkriveni kao netočni u prepoznavanju osoba boje kože u višim postotcima nego bijelaca. Takvi problemi narušavaju povjerenje i izazivaju pravne i društvene brige.
Još jedna stvar koja brine je proxy pristranost. Čak i kada zaštićene karakteristike poput rase nisu direktno korištene, druge značajke poput poštanskog broja ili razine obrazovanja mogu djelovati kao zamjene, što znači da sustav može još uvijek diskriminirati čak i ako ulaz izgleda neutralno, primjerice na temelju bogatijih ili siromašnijih područja. Proxy pristranost je teško otkriti bez pažljivog testiranja. Porast incidenata pristranosti u AI-u znak je da je potrebna veća pažnja u dizajnu sustava.
Ispunjavanje važnih standarda
Zakonodavstvo sustigne promjene. EU-ov AI Zakon, usvojen 2024. godine, rangira AI sustave prema riziku. Sustavi visokog rizika, poput onih koji se koriste u zapošljavanju ili ocjenjivanju kredita, moraju ispunjavati stroge zahtjeve, uključujući transparentnost, ljudski nadzor i provjere pristranosti. U SAD-u ne postoji jedinstveni zakon o AI-u, ali regulatori su aktivni. Komisija za jednake mogućnosti zapošljavanja (EEOC) upozorava poslodavce na rizike AI alata za zapošljavanje, a Savezna trgovinska komisija (FTC) također je signalizirala da pristrani sustavi mogu kršiti zakone o anti-diskriminaciji.
