Datacenter · accelerator
NVIDIA A30
En Ampere-compute-GPU med 24 GB HBM2 og et TDP på 165 W til virksomhedsservere. MIG kan opdele GPU'en i op til fire instanser til mindre inferens- eller computeopgaver.
Tekniske specifikationer
| Arkitektur | NVIDIA Ampere |
|---|---|
| GPU-hukommelse | 24 GB HBM2 |
| Hukommelsesbåndbredde | 933 GB/s |
| Værtsinterface | PCIe Gen4 |
| Maksimalt TDP | 165 W |
| Formfaktor | Dual-slot, fuld højde, fuld længde |
| NVLink | 200 GB/s; bro til op til 2 GPU'er |
| MIG-konfigurationer | 4 x 6 GB / 2 x 12 GB / 1 x 24 GB |
| Medieenheder | 4 NVDEC, 1 JPEG-dekoder, 1 OFA |
Anvendelser
- Inferens med LLM'er og andre neurale netværk.
- Træning og finjustering af neurale netværk.
- Videnskabelige simuleringer og GPU-accelereret dataanalyse.
Kompatibilitet
- Kontrollér den præcise servermodel, pladsen ved slotten, strømkablerne og kølingen med OEM-producenten. En PCIe-slot alene dokumenterer ikke kompatibilitet. Passiv køling kræver tvungen luftgennemstrømning fra serveren.
- MIG-partitioner deler kapaciteten i én GPU med 24 GB; de tilføjer ikke hukommelse. NVLink er en brokonfiguration med to GPU'er og kræver et understøttet serverlayout.
- Kontrollér understøttelsen af driver, CUDA/framework og operativsystem til den tilsigtede arbejdsbelastning. Virtualisering og virksomhedssoftware kan kræve separate licenser og en understøttet værtskonfiguration.
Kilder fra producenten
Specifikationerne er kontrolleret mod de angivne NVIDIA-kilder: .
Anmod om et tilbud
Anmod om et individuelt tilbud. Konfiguration, antal, destination, stand, kilde, garanti, leveringstid og øvrige transaktionsdetaljer fastlægges i jeres RFQ.