Datakeskus · 8 GPU:n alusta
NVIDIA HGX H200 8-GPU
Kahdeksan GPU:n Hopper-alusta, joka käyttää HBM3e-muistilla varustettuja H200 SXM -moduuleja. Se on tarkoitettu tekoälyn koulutukseen ja inferenssiin sekä muistia vaativiin tieteellisiin työkuormiin integroidussa palvelimessa.
Alusta, ei yksittäinen kortti
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Hopper |
|---|---|
| Alustan kokoonpano | 8 x H200 SXM |
| Muisti GPU:ta kohden | 141 GB HBM3e |
| Muistin kaistanleveys GPU:ta kohden | 4,8 TB/s |
| NVLink-kaistanleveys GPU:ta kohden | 900 GB/s |
| Enimmäis-TDP GPU:ta kohden | Enintään 700 W, konfiguroitavissa |
Käyttökohteet
- Neuroverkkojen koulutus ja hienosäätö.
- LLM- ja muu neuroverkkojen inferenssi.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- HGX on GPU-pohjalevyalusta, ei PCIe-kortti eikä kokonainen palvelin. Suoritin, järjestelmämuisti, verkkoyhteydet, kotelo, virransyöttö ja jäähdytys määräytyvät OEM-palvelimen kokoonpanon mukaan. Vahvista koko osaluettelo järjestelmätoimittajalta.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- Muisti-, kaistanleveys- ja TDP-rivit koskevat yhtä H200 SXM -moduulia, eivät koko alustaa. GPU:n TDP ei ole koko palvelimen virrankulutus. NVIDIA merkitsee H200:n teknisten tietojen taulukon alustavaksi ja mahdollisesti muuttuvaksi.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.