Podatkovni centar · platforma s 8 GPU-ova
NVIDIA HGX B200 8-GPU
Blackwell SXM platforma s osam GPU-ova i NVLink Switch međupovezivanjem za distribuirano treniranje i inferenciju umjetne inteligencije. Integrira se u OEM poslužitelj umjesto da se ugrađuje kao samostalna kartica za proširenje.
Platforma, a ne pojedinačna kartica
Tehničke specifikacije
| Arhitektura | NVIDIA Blackwell |
|---|---|
| Konfiguracija platforme | 8 x B200 SXM |
| Ukupna GPU memorija (zaokružena vrijednost NVIDIA-e) | 1,4 TB na 8 GPU-ova |
| Međupovezivanje GPU-ova | NVLink 5 + NVLink 5 Switch |
| Propusnost NVLinka po GPU-u | 1,8 TB/s |
| Ukupna propusnost NVLinka | 14,4 TB/s na 8 GPU-ova |
Primjene
- Treniranje i fino podešavanje neuronskih mreža.
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Radna opterećenja s više GPU-ova i čestom komunikacijom između akceleratora.
Kompatibilnost
- HGX je platforma s osnovnom pločom za GPU-ove, a ne PCIe kartica ni kompletan poslužitelj. CPU, sistemski RAM, mrežna povezanost, kućište, napajanje i hlađenje ovise o konfiguraciji OEM poslužitelja. Potvrdite cjelokupnu sastavnicu s dobavljačem sustava.
- Memorija pripada pojedinačnim GPU-ovima. NVLink je ne pretvara automatski u lokalnu memoriju jednog GPU-a; upotreba više GPU-ova zahtijeva softver koji raspodjeljuje model ili radno opterećenje.
- Ukupna vrijednost NVLinka zbroj je za osam GPU-ova, a ne propusnost jedne veze ili mreže poslužitelja.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.