Datové centrum · SXM
NVIDIA H100 SXM 80 GB
Modul H100 Hopper SXM s 80 GB HBM3 a konektivitou NVLink pro integrované servery s více GPU. Jeho paměťový subsystém a výkonový limit se liší od karty PCIe s 80 GB.
Technické specifikace
| Architektura | NVIDIA Hopper |
|---|---|
| Paměť GPU | 80 GB HBM3 |
| Propustnost paměti | 3,35 TB/s |
| Formát modulu | SXM5 |
| Propustnost NVLink na GPU | 900 GB/s |
| Maximální TDP | Až 700 W, konfigurovatelné |
| MIG | Až 7 instancí |
Použití
- Trénování a dolaďování neuronových sítí.
- Inference LLM a dalších neuronových sítí.
- Vědecké simulace a analýza dat akcelerovaná pomocí GPU.
Kompatibilita
- Jedná se o modul SXM, nikoli rozšiřující kartu PCIe. Vyžaduje odpovídající základní desku GPU, firmware, napájení a chlazení ověřené výrobcem serveru. Jednotlivé generace SXM nejsou vzájemně zaměnitelné.
- Paměť patří jednotlivým GPU. NVLink ji automaticky nespojí do lokální paměti jednoho GPU; využití více GPU vyžaduje software, který model nebo zátěž rozdělí.
- Pro zamýšlenou úlohu ověřte podporu ovladače, CUDA/frameworku a operačního systému. Virtualizace a podnikový software mohou vyžadovat samostatné licence a podporovanou konfiguraci hostitelského systému.
Zdroje výrobce
Specifikace ověřeny podle uvedených zdrojů NVIDIA: .
Požádat o nabídku
Připravíme individuální nabídku. V rámci RFQ stanovíme variantu, množství, stav, konfiguraci, zdroj, záruku, dodací podmínky a cenu.