Datové centrum · platforma s 8 GPU
NVIDIA HGX B200 8-GPU
Platforma Blackwell SXM s osmi GPU a propojením NVLink Switch pro distribuované trénování a inferenci AI. Integruje se do serveru OEM, neinstaluje se jako samostatná rozšiřující karta.
Platforma, nikoli samostatná karta
Technické specifikace
| Architektura | NVIDIA Blackwell |
|---|---|
| Konfigurace platformy | 8 x B200 SXM |
| Celková paměť GPU (zaokrouhlený údaj NVIDIA) | 1,4 TB napříč 8 GPU |
| Propojení GPU | NVLink 5 + NVLink 5 Switch |
| Propustnost NVLink na GPU | 1,8 TB/s |
| Celková propustnost NVLink | 14,4 TB/s napříč 8 GPU |
Použití
- Trénování a dolaďování neuronových sítí.
- Inference LLM a dalších neuronových sítí.
- Úlohy s více GPU a častou komunikací mezi akcelerátory.
Kompatibilita
- HGX je platforma se základní deskou GPU, nikoli karta PCIe ani kompletní server. CPU, systémová RAM, síťové prvky, šasi, napájení a chlazení závisejí na konfiguraci serveru OEM. Kompletní kusovník potvrďte s dodavatelem systému.
- Paměť patří jednotlivým GPU. NVLink ji automaticky nespojí do lokální paměti jednoho GPU; využití více GPU vyžaduje software, který model nebo zátěž rozdělí.
- Celkový údaj NVLink je součtem za osm GPU, nikoli propustností jednoho spoje ani serverové sítě.
- Pro zamýšlenou úlohu ověřte podporu ovladače, CUDA/frameworku a operačního systému. Virtualizace a podnikový software mohou vyžadovat samostatné licence a podporovanou konfiguraci hostitelského systému.
Zdroje výrobce
Specifikace ověřeny podle uvedených zdrojů NVIDIA: .
Požádat o nabídku
Připravíme individuální nabídku. V rámci RFQ stanovíme variantu, množství, stav, konfiguraci, zdroj, záruku, dodací podmínky a cenu.