Datakeskus · SXM
NVIDIA H100 SXM 80 GB
H100 Hopper SXM -moduuli, jossa on 80 GB HBM3-muistia ja NVLink-yhteydet integroituihin usean GPU:n palvelimiin. Sen muistijärjestelmä ja tehorajat poikkeavat 80 GB:n PCIe-kortista.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Hopper |
|---|---|
| GPU-muisti | 80 GB HBM3 |
| Muistin kaistanleveys | 3,35 TB/s |
| Moduulimuoto | SXM5 |
| NVLink-kaistanleveys GPU:ta kohden | 900 GB/s |
| Enimmäis-TDP | Enintään 700 W, konfiguroitavissa |
| MIG | Enintään 7 instanssia |
Käyttökohteet
- Neuroverkkojen koulutus ja hienosäätö.
- LLM- ja muu neuroverkkojen inferenssi.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- Tämä on SXM-moduuli, ei PCIe-laajennuskortti. Se tarvitsee yhteensopivan GPU-pohjalevyn, laiteohjelmiston, virransyötön ja jäähdytyksen, jotka palvelinvalmistaja on validoinut. Eri SXM-sukupolvet eivät ole keskenään vaihdettavissa.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.