Red Hat neemt AI-securityspeler Chatterbox Labs over

In dit artikel:

Red Hat heeft recent Chatterbox Labs overgenomen om zijn mogelijkheden op het vlak van AI-beveiliging uit te breiden. Chatterbox, opgericht in 2011, levert geautomatiseerde security- en safetytests die kwantitatieve risicometrics genereren voor enterprise-implementaties, bedoeld om het risico bij opschaling van AI-pilots naar productie te verkleinen.

De technologie van Chatterbox rust op drie hoofdcomponenten: AIMI for gen AI die risicometrics voor LLM’s produceert; AIMI for predictive AI die modellen controleert op robuustheid, eerlijkheid en verklaarbaarheid; en Guardrails die onveilige, toxische of bevooroordeelde prompts detecteren en blokkeren voordat ze modellen bereiken. Vooral die guardrails automatiseren toezicht en helpen problemen als hallucinaties en ongewenste outputs te beperken.

Voor Red Hat is de overname een strategische zet richting agentic AI: het bedrijf wil modellen en agents veilig laten samenwerken met applicaties via standaarden als het Model Context Protocol (MCP), waarvoor momenteel geen ingebouwde beveiliging bestaat. Chatterbox had al onderzoek naar agentic security — onder meer monitoring van agent-responses en detectie van MCP-serveracties — wat aansluit bij Red Hats roadmap rond Llama Stack en MCP-ondersteuning.

De stap past ook in Red Hats bredere hybride-cloudstrategie en zijn samenwerking met leveranciers als Nvidia, Intel en AMD: waar eerder de focus lag op keuzevrijheid in infrastructuur, wordt nu hetzelfde principe doorgetrokken naar de beveiligingslaag. Met de toevoeging van Chatterbox wil Red Hat organisaties helpen AI-oplossingen op een meer verantwoorde en productierijpe manier uit te rollen.