Svaka nekoliko stoljeća, promjene u načinu na koji informacije putuju preoblikuju način na koji se društva upravljaju. Tiskarski stroj je proširio pismenost, pomažući u usponu Reformacije i, na kraju, reprezentativne vlade. Telegraf je omogućio upravljanje velikim nacijama poput SAD-a, ubrzavajući rast modernog birokratskog sustava. Mediji su stvorili zajedničke nacionalne publike, što je potaknulo masovnu demokraciju. Sada smo u ranim fazama još jedne takve promjene. Brže nego što mnogi shvaćaju, umjetna inteligencija postaje primarno sučelje kroz koje formiramo uvjerenja i sudjelujemo u demokratskom samoupravljanju. Ako se to ne kontrolira, ovaj pomak mogao bi dodatno opteretiti već krhke institucije u Americi. No, također bi mogao pomoći u rješavanju dugotrajnih problema, poput slabog građanskog angažmana i duboke polarizacije. Ono što će se dogoditi dalje ovisi o dizajnerskim odabirima koji se već donose, bez obzira znamo li to ili ne.
Počnimo s onim što bi se moglo nazvati epistemskim slojem—kako dolazimo do saznanja. Ljudi sve više oslanjaju na AI kako bi znali što je istina, što se događa i kome vjerovati. Pretraživanje je već u značajnoj mjeri posredovano AI-jem. Sljedeća generacija AI asistenta sintetizirat će informacije, oblikovati ih i predstaviti s autoritetom. Za sve veći broj ljudi, postavljanje pitanja AI-ju postat će zadani način formiranja stavova o kandidatu, politici ili javnoj osobi. Tko god kontrolira što ti modeli govore, stoga ima sve veći utjecaj na ono što ljudi vjeruju.
Tehnologija je oduvijek oblikovala način na koji građani komuniciraju s informacijama. No, novi problem uskoro će se pojaviti u obliku osobnih AI agenata, koji mogu promijeniti ne samo način na koji ljudi primaju informacije, već i kako djeluju na njih. Ovi sustavi provodit će istraživanja, sastavljati komunikacije, istaknuti uzroke i lobirati u ime korisnika. Obavijestit će odluke poput toga kako glasovati na izbornom mjerilu, koje organizacije vrijedi podržati ili kako reagirati na vladinu obavijest. Na značajan način, počinju posredovati odnos između pojedinaca i institucija koje njima upravljaju.
Već smo vidjeli što se događa s društvenim medijima kada algoritmi optimiziraju angažman umjesto razumijevanja. Platforme ne trebaju imati eksplicitnu političku agendu da bi proizvodile polarizaciju i radikalizaciju. Agent koji poznaje vaše preferencije i tjeskobe—onaj oblikovan da vas zadrži angažiranim—predstavlja iste rizike. A u ovom slučaju rizici mogu biti još teže uočljivi, jer agent se predstavlja kao vaš zagovornik. Govori u vaše ime, djeluje u vaše ime i može steći povjerenje upravo kroz tu intimnost.
