Podatkovni centar · SXM4
NVIDIA A100 SXM4 80 GB
Ampere SXM4 modul s 80 GB memorije za AI i HPC sustave temeljene na HGX-u. Upotrebljava HBM2e memoriju i NVLink veze na osnovnoj ploči umjesto rasporeda mostova PCIe kartice.
Tehničke specifikacije
| Arhitektura | NVIDIA Ampere |
|---|---|
| GPU memorija | 80 GB HBM2e |
| Propusnost memorije | 2039 GB/s |
| Format modula | SXM4 |
| Propusnost NVLinka po GPU-u | 600 GB/s |
| Standardni TDP | 400 W |
| MIG | Do 7 instanci |
Primjene
- Treniranje i fino podešavanje neuronskih mreža.
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Znanstvene simulacije i analiza podataka ubrzana GPU-om.
Kompatibilnost
- Ovo je SXM modul, a ne PCIe kartica za proširenje. Zahtijeva odgovarajuću osnovnu ploču za GPU-ove, firmver, napajanje i hlađenje koje je odobrio proizvođač poslužitelja. Generacije SXM-a nisu međusobno zamjenjive.
- 400 W odnosi se na standardnu konfiguraciju. NVIDIA navodi do 500 W za SKU HGX A100 80 GB s prilagođenim toplinskim rješenjem (CTS); nemojte pretpostaviti da to ograničenje vrijedi za svaki SXM4 sustav.
- Memorija pripada pojedinačnim GPU-ovima. NVLink je ne pretvara automatski u lokalnu memoriju jednog GPU-a; upotreba više GPU-ova zahtijeva softver koji raspodjeljuje model ili radno opterećenje.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.