Dátové centrum · platforma s 8 GPU
NVIDIA HGX H200 8-GPU
Platforma Hopper s ôsmimi GPU využívajúca moduly H200 SXM s pamäťou HBM3e. Je určená na trénovanie a inferenciu AI a vedecké pracovné úlohy náročné na pamäť v integrovanom serveri.
Platforma, nie samostatná karta
Technické špecifikácie
| Architektúra | NVIDIA Hopper |
|---|---|
| Konfigurácia platformy | 8 x H200 SXM |
| Pamäť na GPU | 141 GB HBM3e |
| Šírka pásma pamäte na GPU | 4,8 TB/s |
| Šírka pásma NVLink na GPU | 900 GB/s |
| Maximálne TDP na GPU | Až 700 W, konfigurovateľné |
Použitie
- Trénovanie a dolaďovanie neurónových sietí.
- Inferencia LLM a ďalších neurónových sietí.
- Vedecké simulácie a analýza údajov akcelerovaná pomocou GPU.
Kompatibilita
- HGX je platforma so základnou doskou pre GPU, nie karta PCIe ani kompletný server. CPU, systémová RAM, sieťové rozhrania, šasi, napájanie a chladenie závisia od konfigurácie servera OEM. Kompletný zoznam komponentov si potvrďte s dodávateľom systému.
- Pamäť patrí jednotlivým GPU. NVLink ju automaticky nemení na lokálnu pamäť jedného GPU; využitie viacerých GPU vyžaduje softvér, ktorý rozdeľuje model alebo pracovnú úlohu.
- Údaje o pamäti, šírke pásma a TDP sa vzťahujú na jeden modul H200 SXM, nie na celú platformu. TDP GPU nie je spotreba celého servera. NVIDIA označuje tabuľku špecifikácií H200 ako predbežnú a môže ju zmeniť.
- Overte podporu ovládača, CUDA/frameworku a operačného systému pre zamýšľanú pracovnú úlohu. Virtualizácia a podnikový softvér môžu vyžadovať samostatné licencie a podporovanú konfiguráciu hostiteľského systému.
Zdroje výrobcu
Špecifikácie overené podľa uvedených zdrojov NVIDIA: .
Požiadať o cenovú ponuku
Pripravíme individuálnu cenovú ponuku. V rámci RFQ stanovíme variant, množstvo, stav, konfiguráciu, zdroj, záruku, dodacie podmienky a cenu.