Datacenter · PCIe
NVIDIA H200 NVL PCIe 141 GB
En Hopper PCIe-accelerator med 141 GB HBM3e til AI- og HPC-servere. NVL-varianten understøtter NVLink-brokonfigurationer med to eller fire GPU'er og adskiller sig fra H200 SXM.
Tekniske specifikationer
| Arkitektur | NVIDIA Hopper |
|---|---|
| GPU-hukommelse | 141 GB HBM3e |
| Hukommelsesbåndbredde | 4,8 TB/s |
| Formfaktor | PCIe, dual-slot, luftkølet |
| Værtsinterface | PCIe Gen5 |
| NVLink-båndbredde pr. GPU | 900 GB/s; bro til 2 eller 4 GPU'er |
| Maksimalt TDP | Op til 600 W, konfigurerbart |
| MIG | Op til 7 instanser |
Anvendelser
- Inferens med LLM'er og andre neurale netværk.
- Træning og finjustering af neurale netværk.
- Videnskabelige simuleringer og GPU-accelereret dataanalyse.
Kompatibilitet
- Kontrollér den præcise servermodel, pladsen ved slotten, strømkablerne og kølingen med OEM-producenten. En PCIe-slot alene dokumenterer ikke kompatibilitet. Passiv køling kræver tvungen luftgennemstrømning fra serveren.
- 141 GB gælder for én GPU, ikke en NVLink-gruppe. Broen, afstanden mellem kortene og serverunderstøttelsen skal passe til den tilsigtede konfiguration med to eller fire GPU'er. NVIDIA angiver denne specifikationstabel som foreløbig og med forbehold for ændringer.
- Hukommelsen tilhører de enkelte GPU'er. NVLink gør den ikke automatisk til én GPU's lokale hukommelse; brug af flere GPU'er kræver software, der fordeler modellen eller arbejdsbelastningen.
- Kontrollér understøttelsen af driver, CUDA/framework og operativsystem til den tilsigtede arbejdsbelastning. Virtualisering og virksomhedssoftware kan kræve separate licenser og en understøttet værtskonfiguration.
Kilder fra producenten
Specifikationerne er kontrolleret mod de angivne NVIDIA-kilder: .
Anmod om et tilbud
Anmod om et individuelt tilbud. Konfiguration, antal, destination, stand, kilde, garanti, leveringstid og øvrige transaktionsdetaljer fastlægges i jeres RFQ.