Dok se poduzeća bore s prebacivanjem AI pilot programa u funkcionalne dijelove svojih poslovanja, pouzdanost je postala ključna. Novi startup Pramaana Labs nada se riješiti taj problem koristeći alate matematičke formalizacije, kombinirajući jedan od najpouzdanijih sustava računalnih znanosti s jednim od najhaotičnijih.
U srijedu, Pramaana Labs najavio je 27 milijuna dolara u seed financiranju, predvođen Khosla Ventures, uz sudjelovanje Accel, BoldCap, Nexus Venture Partners, Premji Invest i Unbound.
Pramaana će se fokusirati na vrlo osjetljive sektore poput prava, otkrića lijekova i pripreme poreza — gdje pogreške mogu biti skupe, a pouzdanost je prioritet. Uvođenje AI u te sustave zahtijevat će jače zaštite protiv halucinacija i pogrešaka od onih koje trenutno imamo. No, kako vidi suosnivač i CEO Pramaane, Ranjan Rajagopalan, oni su također jedinstveno prilagođeni formalizaciji.
“To je kao matematika u smislu da imate mnogo pravila kojih se morate pridržavati,” rekao je Rajagopalan za TechCrunch, opisujući pravila poreznog zakona. “Kada imate kodificiranu verziju toga, razmišljanje na tom temelju postaje determinističko.”
Sustav Pramaane i dalje radi na konvencionalnom LLM-u, dajući mu fleksibilnost za odgovaranje na pitanja na prirodnom jeziku i rješavanje složenih problema koje konvencionalni računala ne mogu obraditi. No, postoji deterministički sloj iznad tog LLM-a koji osigurava da je rad LLM-a provjeren.
Ova kombinacija LLM motora s determinističkom verifikacijom je popularna postavka; jedinstveni pristup Pramaane je korištenje alata formalne verifikacije — oslanjajući se na otvoreni LEAN programski jezik koji se koristi za provjeru matematičkih dokaza. Postoji stvarni presedan za većinu ovog rada; Rajagopalan ukazuje na francuski CATALA projekt, koji formalizira veći dio poreznog i socijalnog sustava zemlje u izvršni kod.
Za svaku upotrebu, Pramaana će izgraditi svoj vlastiti LEAN-stil sustava formalne verifikacije, pod nadzorom stručnjaka iz određenih područja. Za porezni zakon, tvrtka surađuje s bivšim povjerenikom IRS-a Dannyjem Werfelom, dok profesori s IIT Delhija, IIT Madrasa i UC Berkeley nadgledaju sustav kibernetičke sigurnosti i otkrića lijekova.
“Najteži problemi na svijetu nisu nerješivi. Oni su neformalizirani,” kaže Rajagopalan. “Svako područje gdje pogreška može koštati nekoga zdravlja, novca ili slobode ima svoja pravila.”
Sada, ta pravila samo trebaju biti kodificirana.
