Datasenter · akselerator
NVIDIA A30
En Ampere-beregnings-GPU med 24 GB HBM2 og en TDP på 165 W for bedriftsservere. MIG kan dele GPU-en i opptil fire instanser for mindre inferens- eller beregningsjobber.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Ampere |
|---|---|
| GPU-minne | 24 GB HBM2 |
| Minnebåndbredde | 933 GB/s |
| Vertsgrensesnitt | PCIe Gen4 |
| Maksimal TDP | 165 W |
| Formfaktor | To spor, full høyde, full lengde |
| NVLink | 200 GB/s; bro for opptil 2 GPU-er |
| MIG-konfigurasjoner | 4 x 6 GB / 2 x 12 GB / 1 x 24 GB |
| Mediemotorer | 4 NVDEC, 1 JPEG-dekoder, 1 OFA |
Bruksområder
- Inferens med LLM-er og andre nevrale nettverk.
- Trening og finjustering av nevrale nettverk.
- Vitenskapelige simuleringer og GPU-akselerert dataanalyse.
Kompatibilitet
- Kontroller nøyaktig servermodell, plass rundt kortsporene, strømkabling og kjøling med OEM-produsenten. Et PCIe-spor alene innebærer ikke kompatibilitet. Passiv kjøling krever tvungen luftstrøm fra serveren.
- MIG-partisjoner deler kapasiteten til én GPU med 24 GB. De legger ikke til minne. NVLink er en brokonfigurasjon med to GPU-er og krever et støttet serveroppsett.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.