Brzo pitanje: Želite li da umjetna inteligencija bude toliko dobro obučena da može pomoći muževima (ili ženama, u tom slučaju) da planiraju savršeno ubojstvo svojih partnera?
Na prvi pogled, to mi se čini kao ne. Čak ni ne mislim da je to posebno teško pitanje.
Međutim, Amerika sadrži mnoge različite perspektive, a jedna takva perspektiva podijelio je George Hotz, osnivač Comma AI i dugogodišnji jailbreaker, tijekom vikenda.
Objava dolazi kao odgovor na niz velikih planova za usklađivanje umjetne inteligencije, najnovije od kojih je AI 2040: Plan A iz AI Futures Project. Taj dokument zamišlja svijet u kojem istraživači diljem svijeta kolektivno odlučuju usporiti razvoj umjetne inteligencije na 14 godina za dobrobit čovječanstva. No, naravno, ne slaže se svatko tko je pročitao taj dokument s njegovim pretpostavkama ili zaključkom.
Uistinu, Hotz se ne slaže s cijelom premisom da bi napredak umjetne inteligencije trebao biti upravljan za kolektivno dobro. U svojoj objavi tvrdi da scenarij brzog uspona – hipotetski gdje umjetna inteligencija brzo stječe nadljudske sposobnosti – nema puno smisla. (Slažem se s mnogo onoga što ovdje kaže!) Za Hotza, najbolji pristup usklađivanju i sigurnosti umjetne inteligencije je fokusirati se na lokalno kontrolirane AI modele koji su usko povezani s interesima svojih korisnika.
To je cool ideja, osobito jer me podsjeća koliko je trenutna umjetna inteligencija izgrađena oko centralno upravljanih usluga poput Claude i ChatGPT. Postoje infrastrukturni razlozi zašto su AI usluge razvijene na ovaj način: skupo je hostati ove velike modele vrhunske tehnologije, a većina ljudi ih ne koristi dovoljno tijekom dana da bi opravdala istinski personaliziranu umjetnu inteligenciju. No, ti faktori postaju manje važni kako se tehnologija razvija. Dio onoga što je bilo uzbudljivo oko OpenClaw bio je ovaj eksperimentalni, DIY pristup, i bilo bi sjajno vidjeti više AI proizvoda koji pokušavaju ponovno uhvatiti tu ideju.
No, Hotz je po prirodi provokator, pa se tu ne zaustavlja. Uspoređuje AI usklađen s korisnikom s pištoljem(!), koji se ne žali ako ga koristite za ubijanje maćehe. (Čini mi se da postoje druga pravila protiv toga?) Stvarno usklađena AI bila bi u mogućnosti naručiti opremu za laboratorij s metom s Amazona i pokazati vam kako je koristiti ako je to ono što želite i tražite, kaže. (Ponovno, ne mislim da bi AI bio ograničavajući faktor ovdje.) Hotz čak kaže da bi umro braneći ovu načelo, iako je teško zamisliti niz događaja koji bi do toga doveli.
„Živimo ili u svijetu slobode ili ne,“ piše Hotz. Ako su to opcije, svijet slobode zvuči bolje! Ipak, nisam siguran.
Nije sve u slobodi, zar ne? Svaka struktura koja uključuje mnogo ljudi (društva, tržišta, korporacije itd.) zahtijeva uravnoteženje prava, povezivanje individualnih potreba u mrežu međuzavisnih preferencija i sustava odgovornosti. I svatko tko pokreće proizvode tehnologije masovnog tržišta trebao bi vjerojatno razmišljati o toj mreži u cjelini, što znači ozbiljno uzimati u obzir interese još uvijek nepobjeglih partnera i maćeha svijeta.
Sloboda koju Hotz doživljava zapravo je prostor potencijalnih budućnosti koji su omogućeni kolektivnim poduhvatima; te bi budućnosti nestale preko noći ako bismo svi počeli ponašati kao mali AI-pokretani Napoleon. Kao što meme kaže, živimo u društvu.
Imati lokalnu AI koja je spremna suprotstaviti se korporativnom svijetu za moju korist zvuči cool! Jedva čekam da dobijem recenzentsku jedinicu.
