Dátové centrum · SXM4
NVIDIA A100 SXM4 80 GB
Modul Ampere SXM4 s 80 GB pamäte pre systémy AI a HPC založené na HGX. Využíva pamäť HBM2e a pripojenia NVLink na základnej doske namiesto usporiadania mostíkov karty PCIe.
Technické špecifikácie
| Architektúra | NVIDIA Ampere |
|---|---|
| Pamäť GPU | 80 GB HBM2e |
| Šírka pásma pamäte | 2039 GB/s |
| Formát modulu | SXM4 |
| Šírka pásma NVLink na GPU | 600 GB/s |
| Štandardné TDP | 400 W |
| MIG | Až 7 inštancií |
Použitie
- Trénovanie a dolaďovanie neurónových sietí.
- Inferencia LLM a ďalších neurónových sietí.
- Vedecké simulácie a analýza údajov akcelerovaná pomocou GPU.
Kompatibilita
- Ide o modul SXM, nie rozširujúcu kartu PCIe. Vyžaduje zodpovedajúcu základnú dosku pre GPU, firmvér, napájanie a chladenie schválené výrobcom servera. Generácie SXM nie sú navzájom zameniteľné.
- Hodnota 400 W platí pre štandardnú konfiguráciu. NVIDIA uvádza až 500 W pre SKU HGX A100 80 GB s vlastným tepelným riešením (CTS); nepredpokladajte tento limit pri každom systéme SXM4.
- Pamäť patrí jednotlivým GPU. NVLink ju automaticky nemení na lokálnu pamäť jedného GPU; využitie viacerých GPU vyžaduje softvér, ktorý rozdeľuje model alebo pracovnú úlohu.
- Overte podporu ovládača, CUDA/frameworku a operačného systému pre zamýšľanú pracovnú úlohu. Virtualizácia a podnikový softvér môžu vyžadovať samostatné licencie a podporovanú konfiguráciu hostiteľského systému.
Zdroje výrobcu
Špecifikácie overené podľa uvedených zdrojov NVIDIA: .
Požiadať o cenovú ponuku
Pripravíme individuálnu cenovú ponuku. V rámci RFQ stanovíme variant, množstvo, stav, konfiguráciu, zdroj, záruku, dodacie podmienky a cenu.