Rechenzentrum · SXM4
NVIDIA A100 SXM4 80 GB
Ein Ampere SXM4-Modul mit 80 GB für HGX-basierte AI- und HPC-Systeme. Es nutzt HBM2e-Speicher und NVLink-Verbindungen auf dem Baseboard statt der Brückenanordnung einer PCIe-Karte.
Technische Spezifikationen
| Architektur | NVIDIA Ampere |
|---|---|
| GPU-Speicher | 80 GB HBM2e |
| Speicherbandbreite | 2039 GB/s |
| Modulformat | SXM4 |
| NVLink-Bandbreite pro GPU | 600 GB/s |
| Standard-TDP | 400 W |
| MIG | Bis zu 7 Instanzen |
Anwendungen
- Training und Fine-Tuning neuronaler Netze.
- Inferenz von LLMs und anderen neuronalen Netzen.
- Wissenschaftliche Simulationen und GPU-beschleunigte Datenanalyse.
Kompatibilität
- Dies ist ein SXM-Modul und keine PCIe-Erweiterungskarte. Es benötigt ein passendes GPU-Baseboard sowie vom Serverhersteller validierte Firmware, Stromversorgung und Kühlung. SXM-Generationen sind nicht untereinander austauschbar.
- 400 W gelten für die Standardkonfiguration. NVIDIA nennt für die HGX A100 80 GB SKU mit Custom Thermal Solution (CTS) bis zu 500 W; dieser Grenzwert darf nicht für jedes SXM4-System vorausgesetzt werden.
- Der Speicher ist den einzelnen GPUs zugeordnet. NVLink macht daraus nicht automatisch den lokalen Speicher einer einzelnen GPU; der Einsatz mehrerer GPUs erfordert Software, die das Modell oder den Workload verteilt.
- Prüfen Sie die Unterstützung durch Treiber, CUDA/Framework und Betriebssystem für den vorgesehenen Workload. Virtualisierung und Unternehmenssoftware können separate Lizenzen und eine unterstützte Host-Konfiguration erfordern.
Herstellerquellen
Spezifikationen anhand der aufgeführten NVIDIA-Quellen geprüft: .
Angebot anfragen
Jedes Angebot wird individuell für die gewählte Variante, Menge und das Zielland erstellt. Die RFQ umfasst Zustand, Konfiguration, Bezugsquelle, Garantie, Verfügbarkeit und Lieferzeit.