Rechenzentrum · SXM
NVIDIA H100 SXM 80 GB
Ein H100 Hopper SXM-Modul mit 80 GB HBM3 und NVLink-Anbindung für integrierte Multi-GPU-Server. Speichersubsystem und Leistungsrahmen unterscheiden sich von der PCIe-Karte mit 80 GB.
Technische Spezifikationen
| Architektur | NVIDIA Hopper |
|---|---|
| GPU-Speicher | 80 GB HBM3 |
| Speicherbandbreite | 3,35 TB/s |
| Modulformat | SXM5 |
| NVLink-Bandbreite pro GPU | 900 GB/s |
| Maximale TDP | Bis zu 700 W, konfigurierbar |
| MIG | Bis zu 7 Instanzen |
Anwendungen
- Training und Fine-Tuning neuronaler Netze.
- Inferenz von LLMs und anderen neuronalen Netzen.
- Wissenschaftliche Simulationen und GPU-beschleunigte Datenanalyse.
Kompatibilität
- Dies ist ein SXM-Modul und keine PCIe-Erweiterungskarte. Es benötigt ein passendes GPU-Baseboard sowie vom Serverhersteller validierte Firmware, Stromversorgung und Kühlung. SXM-Generationen sind nicht untereinander austauschbar.
- Der Speicher ist den einzelnen GPUs zugeordnet. NVLink macht daraus nicht automatisch den lokalen Speicher einer einzelnen GPU; der Einsatz mehrerer GPUs erfordert Software, die das Modell oder den Workload verteilt.
- Prüfen Sie die Unterstützung durch Treiber, CUDA/Framework und Betriebssystem für den vorgesehenen Workload. Virtualisierung und Unternehmenssoftware können separate Lizenzen und eine unterstützte Host-Konfiguration erfordern.
Herstellerquellen
Spezifikationen anhand der aufgeführten NVIDIA-Quellen geprüft: .
Angebot anfragen
Jedes Angebot wird individuell für die gewählte Variante, Menge und das Zielland erstellt. Die RFQ umfasst Zustand, Konfiguration, Bezugsquelle, Garantie, Verfügbarkeit und Lieferzeit.