Centru de date · SXM
NVIDIA H100 SXM 80 GB
Un modul H100 Hopper SXM cu 80 GB de memorie HBM3 și conectivitate NVLink pentru servere multi-GPU integrate. Subsistemul său de memorie și anvelopa de putere diferă de placa PCIe de 80 GB.
Specificații tehnice
| Arhitectură | NVIDIA Hopper |
|---|---|
| Memorie GPU | 80 GB HBM3 |
| Lățime de bandă a memoriei | 3,35 TB/s |
| Formatul modulului | SXM5 |
| Lățime de bandă NVLink per GPU | 900 GB/s |
| TDP maxim | Până la 700 W, configurabil |
| MIG | Până la 7 instanțe |
Aplicații
- Antrenarea și ajustarea fină a rețelelor neuronale.
- Inferență LLM și pentru alte rețele neuronale.
- Simulări științifice și analiză de date accelerată de GPU.
Compatibilitate
- Acesta este un modul SXM, nu o placă de extensie PCIe. Necesită o placă de bază GPU compatibilă, firmware, alimentare și răcire validate de producătorul serverului. Generațiile SXM nu sunt interschimbabile.
- Memoria aparține fiecărui GPU în parte. NVLink nu o transformă automat în memoria locală a unui singur GPU; utilizarea mai multor GPU-uri necesită software care distribuie modelul sau sarcina de lucru.
- Verificați compatibilitatea driverului, a CUDA/framework-ului și a sistemului de operare cu sarcina de lucru vizată. Virtualizarea și software-ul enterprise pot necesita licențe separate și o configurație gazdă compatibilă.
Sursele producătorului
Specificații verificate pe baza surselor NVIDIA enumerate: .
Solicitați o ofertă
Solicitați o ofertă individuală. Configurația, cantitatea, starea, sursa, garanția, disponibilitatea, termenul de livrare și prețul sunt stabilite în cadrul RFQ-ului.