Datacenter · 8-GPU-platform
NVIDIA HGX H200 8-GPU
En Hopper-platform med otte GPU'er, H200 SXM-moduler og HBM3e-hukommelse. Den er beregnet til AI-træning, inferens og hukommelseskrævende videnskabelige arbejdsbelastninger i en integreret server.
Platform, ikke et enkelt kort
Tekniske specifikationer
| Arkitektur | NVIDIA Hopper |
|---|---|
| Platformskonfiguration | 8 x H200 SXM |
| Hukommelse pr. GPU | 141 GB HBM3e |
| Hukommelsesbåndbredde pr. GPU | 4,8 TB/s |
| NVLink-båndbredde pr. GPU | 900 GB/s |
| Maksimalt TDP pr. GPU | Op til 700 W, konfigurerbart |
Anvendelser
- Træning og finjustering af neurale netværk.
- Inferens med LLM'er og andre neurale netværk.
- Videnskabelige simuleringer og GPU-accelereret dataanalyse.
Kompatibilitet
- HGX er en GPU-baseboardplatform, ikke et PCIe-kort eller en komplet server. CPU, system-RAM, netværk, kabinet, strømforsyning og køling afhænger af OEM-serverens konfiguration. Bekræft den komplette stykliste med systemleverandøren.
- Hukommelsen tilhører de enkelte GPU'er. NVLink gør den ikke automatisk til én GPU's lokale hukommelse; brug af flere GPU'er kræver software, der fordeler modellen eller arbejdsbelastningen.
- Rækkerne med hukommelse, båndbredde og TDP gælder pr. H200 SXM og er ikke totaler for platformen. GPU'ens TDP er ikke hele serverens strømforbrug. NVIDIA angiver H200-specifikationstabellen som foreløbig og med forbehold for ændringer.
- Kontrollér understøttelsen af driver, CUDA/framework og operativsystem til den tilsigtede arbejdsbelastning. Virtualisering og virksomhedssoftware kan kræve separate licenser og en understøttet værtskonfiguration.
Kilder fra producenten
Specifikationerne er kontrolleret mod de angivne NVIDIA-kilder: .
Anmod om et tilbud
Anmod om et individuelt tilbud. Konfiguration, antal, destination, stand, kilde, garanti, leveringstid og øvrige transaktionsdetaljer fastlægges i jeres RFQ.