Izvršni direktor Anthropic-a, Dario Amodei, nedavno je odbacio ideju da previše pesimistično prikazuje umjetnu inteligenciju i njezin utjecaj na budućnost.
Amodeijevi komentari uslijedili su kao odgovor na investitora Gavina Bakera, koji je tvrdio — kako u podcastu All-In, tako i na X-u — da su Amodeijeva upozorenja o opasnostima AI doprinijela reakciji u Sjedinjenim Državama, posebno protiv data centara.
Baker je tvrdio da je Amodei “izgubio raspravu” kada je riječ o regulaciji AI (Anthropic se zalaže za određene regulative, uključujući zakon u Kaliforniji koji nameće zahtjeve za transparentnost velikim AI tvrtkama), te smatra da bi trebao biti pozitivniji zagovornik svoje industrije.
Baker nije jedini koji tvrdi da je skepticizam prema AI i državne mjere protiv nje prirodna reakcija na alarmantna upozorenja nekih AI izvršnih direktora. Amodei je, međutim, u vlastitom objavi izrazio neslaganje s tvrdnjom da je njegova “poruka bila nerazmjerno negativna.” Umjesto toga, smatra da je njegovo pisanje “približno uravnoteženo između rizika i koristi”, a njegov esej “Machines of Loving Grace” napisao je jer “nije smatrao da industrija AI dovoljno inspirativno prikazuje kako tehnologija može radikalno poboljšati svijet.”
Ipak, Amodei priznaje da “javnost ima negativan stav prema AI” i slaže se da je “to veliki problem.” Njegovo neslaganje leži u tvrdnji da je ta negativnost “primarno uzrokovana” njime ili bilo kojim drugim vođom AI koji upozorava na rizike AI.
“Mislim da je to temeljna kriza povjerenja,” rekao je Amodei. “Obični ljudi ne vjeruju tvrtkama, vladama ili tehnološkoj industriji i uvijek sumnjaju da smišljamo neki novi način da ih prevarimo.”
Riječ “povjerenje” često se pojavljuje u naslovima o CEO-u OpenAI Samu Altmanu, a očito je problem i za druge AI CEO-e poput Amodeija. U Amodeijevom tumačenju, ovo je kriza koja se razvijala desetljećima, a reakcija prema AI je “samo najnovija iteracija toga.”
“Mislim da je najtočnija kritika AI tvrtki, uključujući Anthropic, da još nismo ispunili naša velika obećanja o koristima za svijet,” rekao je Amodei. “To je potpuno na nama, i mislim da je to kritika koju trebate postaviti, umjesto svega ovog o porukama i marketingu.”
Drugim riječima, rekao je da obećanje da će AI izliječiti rak “više je kliše nego inspirativno”; ono što bi zapravo promijenilo mišljenje ljudi o AI bilo bi “izliječenje raka.”
Što se tiče regulacije, Amodei je tvrdio da Baker stvara “lažni izbor” između široke distribucije AI bez regulacije ili koncentracije tehnologije u rukama nekoliko tvrtki kroz regulaciju.
“Znam da postoji neka vrsta skraćenice iz Silicijske doline gdje regulacija = regulatorni zahvat = koncentracija moći, ali uvijek sam smatrao da je to pretjerano pojednostavljena slika svijeta,” rekao je Amodei. “Mnogi ljudi izvan ovog balona vide regulaciju kao nešto što ograničava korporativnu moć i koristi običnim ljudima.”
Amodei je dodao da se ne “nužno slaže s tom perspektivom”, ali da je “zato Anthropic uvijek pažljivo oblikovao svoje prijedloge politike.”
“Trudimo se napraviti prijedloge koji otežavaju (usporavaju) vrhunske AI tvrtke dok *pomažu* manjim konkurentima,” rekao je.
Zašto uopće donositi te prijedloge? Amodei smatra da je “AI *strukturno* tehnologija koja teži koncentraciji moći” i da “otvoreni modeli pomažu u tome, ali nisu ni približno dovoljno rješenje jer jednostavno prebacuju koncentraciju na one s najviše računalne snage i čipovima.”
“S druge strane, mislim da pravi ‘pravilnici’ mogu istovremeno (a) adresirati rizike AI u vezi s cyber/bio/usklađivanjem, (b) institucionalno ograničiti moć vrhunskih AI tvrtki, i (c) ostaviti prostora za otvorene modele dok istovremeno rješavaju specifične rizike koje oni donose,” rekao je.
