Datasenter · plattform med 8 GPU-er
NVIDIA HGX H200 8-GPU
En Hopper-plattform med åtte GPU-er som bruker H200 SXM-moduler med HBM3e-minne. Den er beregnet på AI-trening, inferens og minnekrevende vitenskapelige arbeidsbelastninger i en integrert server.
Plattform, ikke ett enkelt kort
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Hopper |
|---|---|
| Plattformkonfigurasjon | 8 x H200 SXM |
| Minne per GPU | 141 GB HBM3e |
| Minnebåndbredde per GPU | 4,8 TB/s |
| NVLink-båndbredde per GPU | 900 GB/s |
| Maksimal TDP per GPU | Opptil 700 W, konfigurerbar |
Bruksområder
- Trening og finjustering av nevrale nettverk.
- Inferens med LLM-er og andre nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- HGX er en GPU-baseboardplattform, ikke et PCIe-kort eller en komplett server. CPU, system-RAM, nettverk, kabinett, strømforsyning og kjøling avhenger av OEM-serverens konfigurasjon. Bekreft den fullstendige materiallisten med systemleverandøren.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Radene for minne, båndbredde og TDP gjelder per H200 SXM og er ikke totalverdier for plattformen. GPU-ens TDP er ikke hele serverens strømforbruk. NVIDIA merker spesifikasjonstabellen for H200 som foreløpig og med forbehold om endringer.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.