OpenAI en Broadcom onthullen Jalapeño AI-inferentiechip

In dit artikel:

OpenAI en Broadcom hebben vandaag de eerste eigen AI-chip van OpenAI gepresenteerd: Jalapeño, een speciaal ontworpen accelerator voor inferentie van grote taalmodellen. De chip is bedoeld voor de dagelijkse draai van systemen als ChatGPT, Codex en de API, en moet vooral meer prestaties per watt leveren dan bestaande topchips. Concrete cijfers ontbreken nog, maar Broadcom-topman Hock Tan zegt dat Jalapeño in de praktijk kan meekomen met Nvidia’s Blackwell-gpu’s en Google’s TPU’s.

De chip is niet gebouwd als alleskunner, maar als specialist voor één soort AI-werkbelasting. Dat maakt hem efficiënt, maar minder flexibel als toekomstige AI-modellen andere eisen gaan stellen. OpenAI-president Greg Brockman noemt de chip onderdeel van een bredere strategie om de volledige infrastructuur in eigen hand te nemen en AI sneller en betrouwbaarder te maken voor consumenten en bedrijven.

Opvallend is de samenwerking achter het project: OpenAI ontwierp de architectuur samen met Broadcom, dat de netwerk- en verbindingschips levert, terwijl Celestica de servers samenstelt voor uitrol in datacenters, onder meer die van Microsoft Azure. Volgens OpenAI duurde het slechts negen maanden van eerste ontwerp tot productieklaar prototype, mede doordat het bedrijf zijn eigen AI-modellen gebruikte om het ontwerp te versnellen.

De lancering past in een meerjarenplan waarbij OpenAI vanaf 2026 op grotere schaal datacenters wil bouwen, samen met Microsoft en andere partners. Daarmee verkleint het bedrijf zijn afhankelijkheid van Nvidia en zet het een volgende stap richting een volledig geïntegreerd AI-concern. Ook financieel is dat relevant: OpenAI heeft recent al vertrouwelijke beursdocumenten ingediend, en deze hardwarestrategie kan de weg vrijmaken voor een mogelijke beursgang met een zeer hoge waardering.