OpenAI je u ponedjeljak objavio da je preuzeo Promptfoo, startup za sigurnost umjetne inteligencije osnovan 2024. godine, koji se bavi zaštitom LLM-ova od online prijetnji.
Ova tvrtka je u blog objavi navela da će, nakon zatvaranja posla, tehnologija Promptfoo biti integrirana u OpenAI Frontier, njihovu poslovnu platformu za AI agente.
Razvoj neovisnih AI agenata koji obavljaju digitalne zadatke potaknuo je uzbuđenje oko povećanja produktivnosti. Međutim, također je otvorio nove prilike zlonamjernim akterima za pristup osjetljivim podacima ili manipulaciju automatiziranim sustavima. Ovaj dogovor naglašava kako se frontier laboratoriji bore dokazati da se njihova tehnologija može sigurno koristiti u ključnim poslovnim operacijama.
Promptfoo su osnovali Ian Webster i Michael D’Angelo s ciljem razvoja alata koje tvrtke mogu koristiti za testiranje sigurnosnih ranjivosti u LLM-ovima, uključujući otvoreni izvorni sučelje i biblioteku. Tvrtka izvještava da njene proizvode koristi više od 25% Fortune 500 kompanija.
Promptfoo je od svog osnivanja prikupio samo 23 milijuna dolara i bio je procijenjen na 86 milijuna dolara nakon posljednjeg kruga financiranja u srpnju 2025. godine, prema PitchBook-u. OpenAI nije objavio vrijednost transakcije.
Objava OpenAI-a navela je da će tehnologija Promptfoo omogućiti njihovoj platformi agenta da provodi automatizirano crveno-teaming, evaluira agentne tokove rada za sigurnosne probleme te prati aktivnosti radi rizika i usklađenosti. Tvrtka je također izjavila da očekuje nastavak razvoja otvorene ponude Promptfoo.
