Datasenter · PCIe
NVIDIA H200 NVL PCIe 141 GB
En Hopper PCIe-akselerator med 141 GB HBM3e for AI- og HPC-servere. NVL-varianten støtter NVLink-brokonfigurasjoner med to eller fire GPU-er og er forskjellig fra H200 SXM.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Hopper |
|---|---|
| GPU-minne | 141 GB HBM3e |
| Minnebåndbredde | 4,8 TB/s |
| Formfaktor | PCIe, to spor, luftkjølt |
| Vertsgrensesnitt | PCIe Gen5 |
| NVLink-båndbredde per GPU | 900 GB/s; bro for 2 eller 4 GPU-er |
| Maksimal TDP | Opptil 600 W, konfigurerbar |
| MIG | Opptil 7 instanser |
Bruksområder
- Inferens med LLM-er og andre nevrale nettverk.
- Trening og finjustering av nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- Kontroller nøyaktig servermodell, plass rundt kortsporene, strømkabling og kjøling med OEM-produsenten. Et PCIe-spor alene innebærer ikke kompatibilitet. Passiv kjøling krever tvungen luftstrøm fra serveren.
- 141 GB gjelder én GPU, ikke en NVLink-gruppe. Broen, avstanden mellom kortene og serverstøtten må passe til den tiltenkte konfigurasjonen med to eller fire GPU-er. NVIDIA merker denne spesifikasjonstabellen som foreløpig og med forbehold om endringer.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.