U petak poslijepodne, dok je intervju bio u tijeku, na mom ekranu pojavila se vijest: Trumpova administracija prekida veze s Anthropicom, tvrtkom iz San Francisca koja se bavi AI-jem, a koju je 2021. osnovao Dario Amodei. Ministra obrane Pete Hegseth pozvao se na zakon o nacionalnoj sigurnosti kako bi stavio tvrtku na crnu listu i spriječio je u poslu s Pentagonu nakon što je Amodei odbio dopustiti korištenje Anthropicove tehnologije za masovno nadziranje američkih građana ili autonomne oružane dronove koji bi mogli birati i ubijati mete bez ljudske intervencije.
Ova situacija je šokantna. Anthropic gubi ugovor vrijedan do 200 milijuna dolara i bit će isključen iz rada s drugim obrambenim izvođačima nakon što je predsjednik Trump na Truth Socialu naredio svim saveznim agencijama da “odmah prekinu svaku upotrebu Anthropicove tehnologije.” (Anthropic je od tada objavio da će tužiti Pentagon.)
Max Tegmark provodi veći dio desetljeća upozoravajući da utrka za izgradnjom sve moćnijih AI sustava nadmašuje sposobnost svijeta da ih regulira. Fizik s MIT-a osnovao je Institut za budućnost života 2014. i pomogao organizirati otvoreno pismo — koje je na kraju potpisalo više od 33,000 ljudi, uključujući i Elona Muska — pozivajući na pauzu u razvoju naprednih AI tehnologija.
Tegmark smatra da je kriza s Anthropicom rezultat odluka donesenih ranije, uključujući odabir industrije da se odupre obvezujućim regulacijama. Anthropic, OpenAI, Google DeepMind i drugi dugo su obećavali da će se odgovorno regulirati. Ovaj tjedan, Anthropic je čak odustao od središnjeg načela svoje sigurnosne obveze — obećanja da neće objaviti sve moćnije AI sustave dok ne budu sigurni da neće uzrokovati štetu.
U nedostatku pravila, ne postoji mnogo zaštite za ove igrače, kaže Tegmark. Ovdje su njegovi komentari iz intervjua, skraćeni radi jasnoće. Cijeli razgovor možete poslušati sljedeći tjedan u TechCrunchovom StrictlyVC Download podcastu.
Kada ste vidjeli ovu vijest o Anthropic-u, koja je bila vaša prva reakcija?
Put do pakla popločan je dobrim namjerama. Zanimljivo je sjetiti se prije deset godina, kada su ljudi bili uzbuđeni zbog toga kako ćemo stvoriti umjetnu inteligenciju koja će liječiti rak, povećati prosperitet u Americi i učiniti Ameriku snažnom. A sada smo ovdje, gdje je američka vlada ljuta na ovu tvrtku jer ne želi da se AI koristi za domaće masovno nadziranje Amerikanaca, a također ne želi imati ubilačke robote koji autonomno odlučuju tko će biti ubijen.
Koji je ishod ove situacije?
Postoji mogućnost pozitivnog ishoda. Ako bismo počeli tretirati AI kompanije kao bilo koje druge kompanije — ukinuli korporativnu amnestiju — morale bi provesti nešto poput kliničkog ispitivanja prije nego što objave nešto tako moćno i dokazati neovisnim stručnjacima da znaju kako to kontrolirati. Tada bismo dobili zlatno doba s svim pozitivnim aspektima AI-a, bez egzistencijalnog straha. To nije put kojim trenutno idemo, ali moglo bi biti.
