Dátové centrum · SXM
NVIDIA H100 SXM 80 GB
Modul H100 Hopper SXM s 80 GB pamäte HBM3 a pripojením NVLink pre integrované servery s viacerými GPU. Jeho pamäťový subsystém a výkonový limit sa líšia od karty PCIe 80 GB.
Technické špecifikácie
| Architektúra | NVIDIA Hopper |
|---|---|
| Pamäť GPU | 80 GB HBM3 |
| Šírka pásma pamäte | 3,35 TB/s |
| Formát modulu | SXM5 |
| Šírka pásma NVLink na GPU | 900 GB/s |
| Maximálne TDP | Až 700 W, konfigurovateľné |
| MIG | Až 7 inštancií |
Použitie
- Trénovanie a dolaďovanie neurónových sietí.
- Inferencia LLM a ďalších neurónových sietí.
- Vedecké simulácie a analýza údajov akcelerovaná pomocou GPU.
Kompatibilita
- Ide o modul SXM, nie rozširujúcu kartu PCIe. Vyžaduje zodpovedajúcu základnú dosku pre GPU, firmvér, napájanie a chladenie schválené výrobcom servera. Generácie SXM nie sú navzájom zameniteľné.
- Pamäť patrí jednotlivým GPU. NVLink ju automaticky nemení na lokálnu pamäť jedného GPU; využitie viacerých GPU vyžaduje softvér, ktorý rozdeľuje model alebo pracovnú úlohu.
- Overte podporu ovládača, CUDA/frameworku a operačného systému pre zamýšľanú pracovnú úlohu. Virtualizácia a podnikový softvér môžu vyžadovať samostatné licencie a podporovanú konfiguráciu hostiteľského systému.
Zdroje výrobcu
Špecifikácie overené podľa uvedených zdrojov NVIDIA: .
Požiadať o cenovú ponuku
Pripravíme individuálnu cenovú ponuku. V rámci RFQ stanovíme variant, množstvo, stav, konfiguráciu, zdroj, záruku, dodacie podmienky a cenu.