Datové centrum · platforma s 8 GPU
NVIDIA HGX H200 8-GPU
Platforma Hopper s osmi GPU, která používá moduly H200 SXM s pamětí HBM3e. Je určena pro trénování AI, inferenci a vědecké úlohy náročné na paměť v integrovaném serveru.
Platforma, nikoli samostatná karta
Technické specifikace
| Architektura | NVIDIA Hopper |
|---|---|
| Konfigurace platformy | 8 x H200 SXM |
| Paměť na GPU | 141 GB HBM3e |
| Propustnost paměti na GPU | 4,8 TB/s |
| Propustnost NVLink na GPU | 900 GB/s |
| Maximální TDP na GPU | Až 700 W, konfigurovatelné |
Použití
- Trénování a dolaďování neuronových sítí.
- Inference LLM a dalších neuronových sítí.
- Vědecké simulace a analýza dat akcelerovaná pomocí GPU.
Kompatibilita
- HGX je platforma se základní deskou GPU, nikoli karta PCIe ani kompletní server. CPU, systémová RAM, síťové prvky, šasi, napájení a chlazení závisejí na konfiguraci serveru OEM. Kompletní kusovník potvrďte s dodavatelem systému.
- Paměť patří jednotlivým GPU. NVLink ji automaticky nespojí do lokální paměti jednoho GPU; využití více GPU vyžaduje software, který model nebo zátěž rozdělí.
- Řádky s pamětí, propustností a TDP uvádějí hodnoty pro jeden H200 SXM, nikoli součty za platformu. TDP GPU není celková spotřeba serveru. NVIDIA označuje tabulku specifikací H200 jako předběžnou a podléhající změnám.
- Pro zamýšlenou úlohu ověřte podporu ovladače, CUDA/frameworku a operačního systému. Virtualizace a podnikový software mohou vyžadovat samostatné licence a podporovanou konfiguraci hostitelského systému.
Zdroje výrobce
Specifikace ověřeny podle uvedených zdrojů NVIDIA: .
Požádat o nabídku
Připravíme individuální nabídku. V rámci RFQ stanovíme variantu, množství, stav, konfiguraci, zdroj, záruku, dodací podmínky a cenu.