Podatkovni centar · platforma s 8 GPU-ova
NVIDIA HGX H200 8-GPU
Hopper platforma s osam GPU-ova koja upotrebljava H200 SXM module s HBM3e memorijom. Namijenjena je treniranju i inferenciji umjetne inteligencije te memorijski zahtjevnim znanstvenim radnim opterećenjima u integriranom poslužitelju.
Platforma, a ne pojedinačna kartica
Tehničke specifikacije
| Arhitektura | NVIDIA Hopper |
|---|---|
| Konfiguracija platforme | 8 x H200 SXM |
| Memorija po GPU-u | 141 GB HBM3e |
| Propusnost memorije po GPU-u | 4,8 TB/s |
| Propusnost NVLinka po GPU-u | 900 GB/s |
| Maksimalni TDP po GPU-u | Do 700 W, prilagodljivo |
Primjene
- Treniranje i fino podešavanje neuronskih mreža.
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Znanstvene simulacije i analiza podataka ubrzana GPU-om.
Kompatibilnost
- HGX je platforma s osnovnom pločom za GPU-ove, a ne PCIe kartica ni kompletan poslužitelj. CPU, sistemski RAM, mrežna povezanost, kućište, napajanje i hlađenje ovise o konfiguraciji OEM poslužitelja. Potvrdite cjelokupnu sastavnicu s dobavljačem sustava.
- Memorija pripada pojedinačnim GPU-ovima. NVLink je ne pretvara automatski u lokalnu memoriju jednog GPU-a; upotreba više GPU-ova zahtijeva softver koji raspodjeljuje model ili radno opterećenje.
- Vrijednosti memorije, propusnosti i TDP-a odnose se na pojedinačni H200 SXM, a ne na ukupnu platformu. TDP GPU-a nije ukupna potrošnja energije poslužitelja. NVIDIA označava tablicu specifikacija H200 kao preliminarnu i podložnu promjenama.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.