Tehnika poznata kao “strojno zaboravljanje” mogla bi poučiti AI modele da zaborave određene glasove — važan korak u sprječavanju porasta audio deepfakeova, gdje se nečiji glas kopira radi izvršenja prijevara ili prevara. Nedavni napredak u umjetnoj inteligenciji revolucionirao je kvalitetu tehnologije pretvaranja teksta u govor, omogućujući ljudima da uvjerljivo rekreiraju tekst u bilo kojem glasu, s prirodnim govorom i intonacijama, umjesto da se moraju zadovoljiti robotiziranim glasom koji čita riječ po riječ. “Bilo čiji glas može se reproducirati ili kopirati u samo nekoliko sekundi”, kaže Jong Hwan Ko, profesor na Sveučilištu Sungkyunkwan u Koreji i koautor novog rada koji demonstrira jednu od prvih primjena strojnog zaboravljanja u generaciji govora.
AI tvrtke obično drže čvrstu kontrolu nad svojim modelima kako bi spriječile zloupotrebe. Na primjer, ako pitate ChatGPT da vam da nečiji broj telefona ili upute za izvođenje nečega ilegalnog, vjerojatno će vam reći da ne može pomoći. Međutim, kao što su mnogi primjeri tijekom vremena pokazali, pametno oblikovanje upita ili fino podešavanje modela ponekad može natjerati te modele da kažu stvari koje inače ne bi. Neželjene informacije možda i dalje skrivene negdje unutar modela, pa se mogu pristupiti pravim tehnikama.
Trenutno, tvrtke se obično bave ovim problemom primjenom zaštitnih mjera; ideja je provjeriti sadrži li upit ili odgovori AI-a zabranjene materijale. Strojno zaboravljanje umjesto toga postavlja pitanje može li se AI natjerati da zaboravi dio informacija koje tvrtka ne želi da zna. Tehnika uzima “propuštajući” model i specifične podatke za obrisati te ih koristi za stvaranje novog modela — u osnovi, verzije originala koja nikada nije naučila taj dio podataka. Iako strojno zaboravljanje ima veze sa starijim tehnikama u istraživanju AI-a, tek u posljednjih nekoliko godina primijenjeno je na velikim jezičnim modelima.
Jinju Kim, studentica magisterija na Sveučilištu Sungkyunkwan koja je radila na radu s Ko-om i drugima, vidi zaštitne mjere kao ograde oko loših podataka postavljene kako bi se ljudi držali podalje od njih. “Ne možete proći kroz ogradu, ali neki će ljudi i dalje pokušati ići ispod ili preko ograde”, kaže Kim. No, zaboravljanje, dodaje, pokušava potpuno ukloniti loše podatke, tako da iza ograde ne ostane ništa.
Način na koji su trenutni sustavi za pretvaranje teksta u govor dizajnirani dodatno komplicira ovu situaciju. Ovi takozvani “zero-shot” modeli koriste primjere govora ljudi kako bi naučili rekreirati bilo koji glas, uključujući one koji nisu u skupu za obuku — s dovoljno podataka, mogu dobro oponašati čak i uz mali uzorak nečijeg glasa. Dakle, “zaboravljanje” znači da model ne samo da treba “zaboraviti” glasove na kojima je bio obučen, već također mora naučiti ne oponašati određene glasove na kojima nije bio obučen, dok i dalje mora dobro obavljati posao za druge glasove.
