Datasenter · SXM
NVIDIA H100 SXM 80 GB
En H100 Hopper SXM-modul med 80 GB HBM3 og NVLink-tilkobling for integrerte servere med flere GPU-er. Minnesystemet og effektrammen er forskjellig fra PCIe-kortet med 80 GB.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Hopper |
|---|---|
| GPU-minne | 80 GB HBM3 |
| Minnebåndbredde | 3,35 TB/s |
| Modulformat | SXM5 |
| NVLink-båndbredde per GPU | 900 GB/s |
| Maksimal TDP | Opptil 700 W, konfigurerbar |
| MIG | Opptil 7 instanser |
Bruksområder
- Trening og finjustering av nevrale nettverk.
- Inferens med LLM-er og andre nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- Dette er en SXM-modul, ikke et PCIe-utvidelseskort. Den krever et kompatibelt GPU-baseboard samt fastvare, strømforsyning og kjøling som er validert av serverprodusenten. SXM-generasjoner kan ikke brukes om hverandre.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.