Datacenter · SXM4
NVIDIA A100 SXM4 80 GB
Et Ampere SXM4-modul med 80 GB til HGX-baserede AI- og HPC-systemer. Det bruger HBM2e-hukommelse og NVLink-forbindelser på baseboardet frem for et PCIe-korts brolayout.
Tekniske specifikationer
| Arkitektur | NVIDIA Ampere |
|---|---|
| GPU-hukommelse | 80 GB HBM2e |
| Hukommelsesbåndbredde | 2039 GB/s |
| Modulformat | SXM4 |
| NVLink-båndbredde pr. GPU | 600 GB/s |
| Standard-TDP | 400 W |
| MIG | Op til 7 instanser |
Anvendelser
- Træning og finjustering af neurale netværk.
- Inferens med LLM'er og andre neurale netværk.
- Videnskabelige simuleringer og GPU-accelereret dataanalyse.
Kompatibilitet
- Dette er et SXM-modul, ikke et PCIe-udvidelseskort. Det kræver et matchende GPU-baseboard samt firmware, strømforsyning og køling, der er valideret af serverproducenten. SXM-generationer kan ikke udskiftes indbyrdes.
- 400 W gælder for standardkonfigurationen. NVIDIA angiver op til 500 W for HGX A100 80 GB SKU'en med specialtilpasset termisk løsning (CTS); denne grænse må ikke antages at gælde for alle SXM4-systemer.
- Hukommelsen tilhører de enkelte GPU'er. NVLink gør den ikke automatisk til én GPU's lokale hukommelse; brug af flere GPU'er kræver software, der fordeler modellen eller arbejdsbelastningen.
- Kontrollér understøttelsen af driver, CUDA/framework og operativsystem til den tilsigtede arbejdsbelastning. Virtualisering og virksomhedssoftware kan kræve separate licenser og en understøttet værtskonfiguration.
Kilder fra producenten
Specifikationerne er kontrolleret mod de angivne NVIDIA-kilder: .
Anmod om et tilbud
Anmod om et individuelt tilbud. Konfiguration, antal, destination, stand, kilde, garanti, leveringstid og øvrige transaktionsdetaljer fastlægges i jeres RFQ.