Qualcomm presenteert AI-chips voor datacenters op basis van smartphone-npu's

In dit artikel:

Qualcomm introduceert twee datacenter‑AI‑chips die voortbouwen op de Hexagon‑npu’s uit smartphones: de AI200, die volgend jaar op de markt komt, en de AI250, die over twee jaar volgt. Het bedrijf positioneert deze processors voor inferentietaken in datacenters, niet voor het trainen van modellen. Per rack kunnen tot 72 units worden geplaatst en samen functioneren als één computer; een opstelling kan maximaal 768 GB geheugen ondersteunen. De chips concurreren met producten van onder meer Nvidia en AMD en worden zowel per rack als los verkocht. De AI250 onderscheidt zich door een nieuwe geheugenarchitectuur die volgens Qualcomm efficiënter is en het stroomverbruik verlaagt; een volledig rack verbruikt maximaal circa 160 kW. Qualcomm zet hiermee smartphone‑npu‑ontwerpen in om een voet aan de grond te krijgen in de datacenter‑AI‑markt.