Članak 50. EU AI Act-a stupio je na snagu, postavljajući obveze transparentnosti za pružatelje i korisnike AI alata koji djeluju unutar Europske unije.
Tvrtke koje koriste generativne AI alate sada moraju poštovati članak 50, koji zahtijeva od pružatelja i korisnika određenih AI sustava da obavijeste ljude kada komuniciraju s mašinom i da označe AI-generirane sadržaje kako bi se mogli označiti kao takvi.
Napredak u generativnim sustavima otežava razlikovanje između AI interakcije i ljudskog razgovora. Također postaje sve teže razlikovati AI-generirane slike od autentičnih. Ljudi su sada izloženi alatima za prepoznavanje emocija i biometrijsku kategorizaciju bez da to znaju.
Europska komisija povezuje sve to s manipulacijom na širokoj razini i prevarama, s impersonacijom i obmanom potrošača koje slijede blizu na popisu njenih briga. Članak 50. predstavlja pokušaj EU da se suoči s ovim problemom i osigura odgovornu i sigurnu primjenu AI-a širom bloka.
Što pružatelji moraju izgraditi
Članak 50. zahtijeva od pružatelja da dizajniraju sustave tako da svatko tko izravno komunicira s AI sustavom zna to. Izuzetak su slučajevi očiti razmjerno dobro informiranoj, promatračkoj i opreznoj osobi s obzirom na kontekst.
Sustavi za provedbu zakona koji se koriste za otkrivanje, sprječavanje, istraživanje ili kažnjavanje kaznenih djela također su izvan ovog pravila, pod uvjetom da zaštitne mjere štite prava trećih strana, osim ako javnost može koristiti sustav za prijavu kaznenog djela.
Pružatelji sustava koji generiraju sintetički audio, slike, video ili tekst imaju posebnu obvezu prema članku 50. Označavanje je mehanizam. Izlaz mora imati oznaku koju stroj može pročitati, a koja se može prepoznati kao umjetno generirana ili manipulirana.
Što korisnici moraju reći ljudima
Svi koji upravljaju sustavima za prepoznavanje emocija ili biometrijsku kategorizaciju moraju obavijestiti ljude koji su izloženi tom sustavu. Osobni podaci prikupljeni putem tog sustava i dalje podliježu postojećem zakonu o zaštiti podataka: GDPR uređuje opći slučaj, dok se regulativa za zaštitu podataka EU institucija primjenjuje kada EU tijelo upravlja sustavom.
Deepfakeovi imaju vlastitu obvezu otkrivanja. Sadržaj slika, zvuka ili videa koji je umjetno generiran ili manipuliran mora nositi obavijest koja to označava. Umjetnička, satirična ili fikcionalna djela imaju lakši pristup: obavijest samo treba označiti postojanje sadržaja, tako da ne ometa uživanje u djelu.
Svi obavijesti moraju biti dostavljene najkasnije pri prvom kontaktu ili izlaganju, na način koji je jasan, prepoznatljiv i dostupan prema postojećim pravilima o pristupačnosti. Ne postoji prijelazno razdoblje za informiranje nekoga nakon događaja.
