Datakeskus · 8 GPU:n alusta
NVIDIA HGX B200 8-GPU
Kahdeksan GPU:n Blackwell SXM -alusta, jossa NVLink Switch -yhdysverkot tukevat hajautettua tekoälyn koulutusta ja inferenssiä. Se integroidaan OEM-palvelimeen eikä sitä asenneta erillisenä laajennuskorttina.
Alusta, ei yksittäinen kortti
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Blackwell |
|---|---|
| Alustan kokoonpano | 8 x B200 SXM |
| GPU-muistia yhteensä (NVIDIAn pyöristetty arvo) | 1,4 TB kahdeksassa GPU:ssa |
| GPU-yhdysverkko | NVLink 5 + NVLink 5 Switch |
| NVLink-kaistanleveys GPU:ta kohden | 1,8 TB/s |
| NVLink-kaistanleveys yhteensä | 14,4 TB/s kahdeksassa GPU:ssa |
Käyttökohteet
- Neuroverkkojen koulutus ja hienosäätö.
- LLM- ja muu neuroverkkojen inferenssi.
- Usean GPU:n työkuormat, joissa kiihdyttimet viestivät usein keskenään.
Yhteensopivuus
- HGX on GPU-pohjalevyalusta, ei PCIe-kortti eikä kokonainen palvelin. Suoritin, järjestelmämuisti, verkkoyhteydet, kotelo, virransyöttö ja jäähdytys määräytyvät OEM-palvelimen kokoonpanon mukaan. Vahvista koko osaluettelo järjestelmätoimittajalta.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- NVLink-kaistanleveyden kokonaisarvo on kahdeksan GPU:n summa, ei yhden linkin tai palvelinverkon kaistanleveys.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.