AMD Instinct MI350P heeft PCIe-formfactor en moet met Nvidia's H200 concurreren

In dit artikel:

AMD heeft de Instinct MI350P aangekondigd, een datacenter-gpu in PCIe-formaat die speciaal is ontworpen voor het draaien van AI-modellen in luchtgekoelde serverracks. De kaart bouwt voort op de CDNA 4-architectuur en wordt gefabriceerd op TSMC’s 3nm-proces, maar levert ongeveer de helft van de rekenkracht van de grotere MI350X: ook het werkgeheugen, het aantal compute-units en de L2-cache zijn gehalveerd. De geheugenbandbreedte bereikt maximaal 4 TB/s.

De MI350P is een dual-slot, PCIe-kaart die AMD positioneert als een kostenefficiënte optie voor kleine tot middelgrote AI-workloads. Tot acht van deze kaarten kunnen in één cluster gekoppeld worden; het piekvermogen ligt op circa 4.600 TFLOPS. De kaart kan theoretisch tot 600 W gebruiken, maar kan voor langere, stabielere prestaties teruggeschakeld worden naar 450 W.

Doordat het een PCIe-kaart is die in luchtgekoelde racks past, vormt de MI350P voor het eerst een sterke concurrent voor Nvidia’s H200 NVL, die ook voor vergelijkbare rack-omgevingen bedoeld is en 141 GB geheugen biedt. De MI350P richt zich dus op organisaties die AI-capaciteit willen uitbreiden zonder te investeren in gespecialiseerde koeloplossingen.