Datasenter · SXM4
NVIDIA A100 SXM4 80 GB
En Ampere SXM4-modul med 80 GB for HGX-baserte AI- og HPC-systemer. Den bruker HBM2e-minne og NVLink-forbindelser på baseboardet i stedet for brooppsettet til et PCIe-kort.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Ampere |
|---|---|
| GPU-minne | 80 GB HBM2e |
| Minnebåndbredde | 2039 GB/s |
| Modulformat | SXM4 |
| NVLink-båndbredde per GPU | 600 GB/s |
| Standard TDP | 400 W |
| MIG | Opptil 7 instanser |
Bruksområder
- Trening og finjustering av nevrale nettverk.
- Inferens med LLM-er og andre nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- Dette er en SXM-modul, ikke et PCIe-utvidelseskort. Den krever et kompatibelt GPU-baseboard samt fastvare, strømforsyning og kjøling som er validert av serverprodusenten. SXM-generasjoner kan ikke brukes om hverandre.
- 400 W gjelder standardkonfigurasjonen. NVIDIA oppgir opptil 500 W for SKU-en HGX A100 80 GB med tilpasset termisk løsning (CTS). Ikke legg til grunn denne grensen for alle SXM4-systemer.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.