Podatkovni centar · PCIe
NVIDIA H200 NVL PCIe 141 GB
Hopper PCIe akcelerator sa 141 GB HBM3e memorije za AI i HPC poslužitelje. NVL varijanta podržava konfiguracije s dva ili četiri GPU-a povezane NVLink mostovima i razlikuje se od H200 SXM-a.
Tehničke specifikacije
| Arhitektura | NVIDIA Hopper |
|---|---|
| GPU memorija | 141 GB HBM3e |
| Propusnost memorije | 4,8 TB/s |
| Format | PCIe, dva utora, zračno hlađenje |
| Sučelje glavnog sustava | PCIe Gen5 |
| Propusnost NVLinka po GPU-u | 900 GB/s; most za 2 ili 4 GPU-a |
| Maksimalni TDP | Do 600 W, prilagodljivo |
| MIG | Do 7 instanci |
Primjene
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Treniranje i fino podešavanje neuronskih mreža.
- Znanstvene simulacije i analiza podataka ubrzana GPU-om.
Kompatibilnost
- Provjerite s OEM-om točan model poslužitelja, raspoloživi prostor oko utora, kabele za napajanje i hlađenje. Sam PCIe utor ne potvrđuje kompatibilnost. Pasivno hlađenje zahtijeva prisilni protok zraka iz poslužitelja.
- 141 GB odnosi se na jedan GPU, a ne na NVLink grupu. Most, razmak između kartica i podrška poslužitelja moraju odgovarati predviđenoj konfiguraciji s dva ili četiri GPU-a. NVIDIA označava ovu tablicu specifikacija kao preliminarnu i podložnu promjenama.
- Memorija pripada pojedinačnim GPU-ovima. NVLink je ne pretvara automatski u lokalnu memoriju jednog GPU-a; upotreba više GPU-ova zahtijeva softver koji raspodjeljuje model ili radno opterećenje.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.