Centru de date · Platformă cu 8 GPU-uri
NVIDIA HGX H200 8-GPU
O platformă Hopper cu opt GPU-uri, care utilizează module H200 SXM cu memorie HBM3e. Este destinată antrenării AI, inferenței și sarcinilor de lucru științifice cu cerințe ridicate de memorie într-un server integrat.
Platformă, nu o singură placă
Specificații tehnice
| Arhitectură | NVIDIA Hopper |
|---|---|
| Configurația platformei | 8 x H200 SXM |
| Memorie per GPU | 141 GB HBM3e |
| Lățime de bandă a memoriei per GPU | 4,8 TB/s |
| Lățime de bandă NVLink per GPU | 900 GB/s |
| TDP maxim per GPU | Până la 700 W, configurabil |
Aplicații
- Antrenarea și ajustarea fină a rețelelor neuronale.
- Inferență LLM și pentru alte rețele neuronale.
- Simulări științifice și analiză de date accelerată de GPU.
Compatibilitate
- HGX este o platformă cu placă de bază pentru GPU-uri, nu o placă PCIe și nici un server complet. Procesorul, memoria RAM a sistemului, rețeaua, șasiul, alimentarea și răcirea depind de configurația serverului OEM. Confirmați lista completă de componente cu furnizorul sistemului.
- Memoria aparține fiecărui GPU în parte. NVLink nu o transformă automat în memoria locală a unui singur GPU; utilizarea mai multor GPU-uri necesită software care distribuie modelul sau sarcina de lucru.
- Valorile pentru memorie, lățime de bandă și TDP se aplică fiecărui H200 SXM, nu întregii platforme. TDP-ul GPU-ului nu reprezintă consumul total de energie al serverului. NVIDIA marchează tabelul de specificații H200 drept preliminar și supus modificărilor.
- Verificați compatibilitatea driverului, a CUDA/framework-ului și a sistemului de operare cu sarcina de lucru vizată. Virtualizarea și software-ul enterprise pot necesita licențe separate și o configurație gazdă compatibilă.
Sursele producătorului
Specificații verificate pe baza surselor NVIDIA enumerate: .
Solicitați o ofertă
Solicitați o ofertă individuală. Configurația, cantitatea, starea, sursa, garanția, disponibilitatea, termenul de livrare și prețul sunt stabilite în cadrul RFQ-ului.