Datasenter · PCIe
NVIDIA A100 PCIe 80 GB
En Ampere-beregningsakselerator med 80 GB HBM2e i PCIe-format. Den støtter AI-trening, inferens, vitenskapelige FP64-beregninger og maskinvarepartisjonering med MIG.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Ampere |
|---|---|
| GPU-minne | 80 GB HBM2e |
| Minnebåndbredde | 1935 GB/s |
| Vertsgrensesnitt | PCIe Gen4 |
| Formfaktor | Luftkjølt med to spor eller væskekjølt med ett spor |
| Maksimal TDP | 300 W |
| NVLink | 600 GB/s; bro for 2 GPU-er |
| MIG | Opptil 7 instanser |
Bruksområder
- Trening og finjustering av nevrale nettverk.
- Inferens med LLM-er og andre nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- Kontroller nøyaktig servermodell, plass rundt kortsporene, strømkabling og kjøling med OEM-produsenten. Et PCIe-spor alene innebærer ikke kompatibilitet. Passiv kjøling krever tvungen luftstrøm fra serveren.
- Luft- og væskekjølte kort krever forskjellige serverløsninger. NVLink krever en kompatibel bro og støttet avstand mellom kortene. Dette er ikke forbindelsestopologien i HGX SXM4.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.