Datakeskus · SXM4
NVIDIA A100 SXM4 80 GB
80 GB:n Ampere SXM4 -moduuli HGX-pohjaisiin tekoäly- ja HPC-järjestelmiin. Se käyttää HBM2e-muistia ja pohjalevyn NVLink-yhteyksiä PCIe-kortin siltarakenteen sijaan.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Ampere |
|---|---|
| GPU-muisti | 80 GB HBM2e |
| Muistin kaistanleveys | 2039 GB/s |
| Moduulimuoto | SXM4 |
| NVLink-kaistanleveys GPU:ta kohden | 600 GB/s |
| Vakio-TDP | 400 W |
| MIG | Enintään 7 instanssia |
Käyttökohteet
- Neuroverkkojen koulutus ja hienosäätö.
- LLM- ja muu neuroverkkojen inferenssi.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- Tämä on SXM-moduuli, ei PCIe-laajennuskortti. Se tarvitsee yhteensopivan GPU-pohjalevyn, laiteohjelmiston, virransyötön ja jäähdytyksen, jotka palvelinvalmistaja on validoinut. Eri SXM-sukupolvet eivät ole keskenään vaihdettavissa.
- 400 W koskee vakiokokoonpanoa. NVIDIA ilmoittaa HGX A100 80 GB:n mukautetulla jäähdytysratkaisulla (CTS) varustetulle SKU:lle enintään 500 W; älä oleta tämän rajan koskevan kaikkia SXM4-järjestelmiä.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.