OpenAI kondigt overname van AI-teststartup Promptfoo aan
In dit artikel:
OpenAI neemt het test- en beveiligingsbedrijf Promptfoo over om de mogelijkheden van zijn Frontier-platform uit te breiden. Frontier is bedoeld om organisaties te helpen bij het bouwen en beheren van AI-agents binnen bedrijfsprocessen; met Promptfoo wil OpenAI vooral systematische evaluatie, risico-detectie en documentatie voor governance en compliance versterken.
Promptfoo, opgericht door Ian Webster en Michael D’Angelo, begon in 2024 als een open-source testframework en groeide uit tot een commercieel platform dat volgens OpenAI door ruim een kwart van de Fortune 500 wordt gebruikt. De tooling biedt ontwikkelaars en securityteams instrumenten om AI-toepassingen te testen op kwetsbaarheden zoals promptinjecties, datalekken, jailbreak-aanvallen en onveilige uitvoering van externe tools. Tests kunnen gestructureerde inputs, adversarial prompts en realistische scenario’s simuleren en automatisch worden uitgevoerd tegen één of meerdere modellen of applicaties.
Het platform ondersteunt een open-source command line interface en integraties met veelgebruikte ontwikkel-tools en API’s, zodat evaluaties zowel lokaal als in CI/CD-pipelines en geautomatiseerde deploymentprocessen kunnen draaien. Functionaliteiten omvatten prompttests, red-team simulaties, dashboards voor gedragsinzichten en regressietests om outputs van verschillende modelversies te vergelijken voordat updates live gaan.
Door Promptfoo direct in Frontier op te nemen, wil OpenAI organisaties helpen agentgedrag vroeger in de ontwikkelworkflow te toetsen, risico’s te vinden voordat systemen in productie gaan en wijzigingen beter te documenteren voor toezicht. Srinivas Narayanan, CTO voor B2B bij OpenAI, ziet Promptfoo als gespecialiseerd in grootschalige evaluatie en beveiliging van AI-systemen. Webster zegt dat de overname moet bijdragen aan het veiliger maken van AI-agents, zeker nu die steeds vaker gekoppeld worden aan bedrijfsdata en externe systemen.
Promptfoo haalde voorafgaand aan de overname circa 23,6 miljoen dollar aan financiering op, waaronder een ronde van 18,4 miljoen dollar; investeerders waren onder meer Insight Partners en Andreessen Horowitz. De deal moet nog formeel worden afgerond en hangt af van de gebruikelijke voorwaarden.