Podatkovni centar · SXM
NVIDIA H100 SXM 80 GB
H100 Hopper SXM modul s 80 GB HBM3 memorije i NVLink povezivošću za integrirane poslužitelje s više GPU-ova. Njegov memorijski podsustav i energetski okvir razlikuju se od PCIe kartice s 80 GB.
Tehničke specifikacije
| Arhitektura | NVIDIA Hopper |
|---|---|
| GPU memorija | 80 GB HBM3 |
| Propusnost memorije | 3,35 TB/s |
| Format modula | SXM5 |
| Propusnost NVLinka po GPU-u | 900 GB/s |
| Maksimalni TDP | Do 700 W, prilagodljivo |
| MIG | Do 7 instanci |
Primjene
- Treniranje i fino podešavanje neuronskih mreža.
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Znanstvene simulacije i analiza podataka ubrzana GPU-om.
Kompatibilnost
- Ovo je SXM modul, a ne PCIe kartica za proširenje. Zahtijeva odgovarajuću osnovnu ploču za GPU-ove, firmver, napajanje i hlađenje koje je odobrio proizvođač poslužitelja. Generacije SXM-a nisu međusobno zamjenjive.
- Memorija pripada pojedinačnim GPU-ovima. NVLink je ne pretvara automatski u lokalnu memoriju jednog GPU-a; upotreba više GPU-ova zahtijeva softver koji raspodjeljuje model ili radno opterećenje.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.