Od velikih jezičnih modela (LLM) do agenata za rasuđivanje, današnji AI alati donose neviđene računalne zahtjeve. Modeli s trilijun parametara, radni zadaci koji se izvode na uređajima i jata agenata koji surađuju na dovršavanju zadataka zahtijevaju novi paradigmu računalstva kako bi postali zaista besprijekorni i svugdje prisutni.
Prvo, tehnički napredak u dizajnu hardvera i silikona ključan je za pomicanje granica računalne moći. Drugo, napredak u strojnome učenju (ML) omogućuje AI sustavima postizanje veće učinkovitosti uz manje računalne zahtjeve. Na kraju, integracija, orkestracija i usvajanje AI-a u aplikacijama, uređajima i sustavima presudni su za isporuku opipljivog utjecaja i vrijednosti.
AI je evoluirao od klasičnog ML-a do dubokog učenja i generativnog AI-a. Najnovije poglavlje, koje je AI učinilo mainstreamom, oslanja se na dvije faze — obuku i inferenciju — koje su energetski i podatkovno intenzivne. U isto vrijeme, Mooreov zakon, koji određuje da se broj tranzistora na čipu udvostručuje svake dvije godine, doseže fizičko i ekonomsko platou.
U posljednjih 40 godina, silikonski čipovi i digitalna tehnologija napredovali su zajedno — svaki korak naprijed u procesnoj sposobnosti oslobađa maštu inovatora za osmišljavanje novih proizvoda, koji zahtijevaju još više snage za rad. To se događa nevjerojatnom brzinom u doba AI-a.
Kada modeli postanu dostupniji, implementacija u velikom obujmu stavlja fokus na inferenciju i primjenu obučenih modela u svakodnevnim slučajevima korištenja. Ova tranzicija zahtijeva odgovarajući hardver za učinkovito upravljanje zadacima inferencije. Centralni procesorski jedinici (CPU) već desetljećima upravljaju općim računalnim zadacima, ali široka primjena ML-a uvela je računalne zahtjeve koji su istegnuli mogućnosti tradicionalnih CPU-a. To je dovelo do usvajanja grafičkih procesorskih jedinica (GPU) i drugih akceleratorskih čipova za obuku složenih neuronskih mreža, zbog njihovih mogućnosti paralelne obrade i visoke propusnosti memorije koja omogućuje učinkovito izvođenje matematičkih operacija velikih razmjera.
Osim silikonskih procesora, pojavljuju se disruptivne tehnologije kako bi se odgovorilo na rastuće zahtjeve AI računalstva i podataka. Start-up Lightmatter, na primjer, predstavio je fotonička računala koja koriste svjetlost za prijenos podataka, čime se postižu značajna poboljšanja u brzini i energetskoj učinkovitosti. Kvantno računanje predstavlja još jedno obećavajuće područje u AI hardveru.
S obzirom na to da AI postaje sve prisutniji u svakodnevnom životu, uloga korisničkog iskustva postaje ključna za masovno usvajanje. Značajke poput prediktivnog teksta na dodirnim tipkovnicama i adaptivnih mjenjača u vozilima nude uvid u AI kao vitalnog omogućitelja za poboljšanje interakcija s tehnologijom.
Kako AI postaje sve prisutniji i zahtjevniji, potrebna su zajednička rješenja, standardi i platforme kako bi se industrija ujedinila. Više od 70% ispitanika u istraživanju DarkTrace 2024. izvijestilo je da AI-pokrenute cyber prijetnje značajno utječu na njihove organizacije, dok 60% smatra da njihove organizacije nisu adekvatno pripremljene za obranu od AI-pokrenutih napada.
