Podatkovni centar · akcelerator
NVIDIA A30
Računalni GPU Ampere s 24 GB HBM2 memorije i TDP-om od 165 W za poslovne poslužitelje. MIG može podijeliti GPU na najviše četiri instance za manje zadatke inferencije ili računanja.
Tehničke specifikacije
| Arhitektura | NVIDIA Ampere |
|---|---|
| GPU memorija | 24 GB HBM2 |
| Propusnost memorije | 933 GB/s |
| Sučelje glavnog sustava | PCIe Gen4 |
| Maksimalni TDP | 165 W |
| Format | Dva utora, puna visina i puna duljina |
| NVLink | 200 GB/s; most za najviše 2 GPU-a |
| MIG konfiguracije | 4 x 6 GB / 2 x 12 GB / 1 x 24 GB |
| Medijski pogoni | 4 NVDEC, 1 JPEG dekoder, 1 OFA |
Primjene
- Izvođenje inferencije LLM-ova i drugih neuronskih mreža.
- Treniranje i fino podešavanje neuronskih mreža.
- Znanstvene simulacije i analiza podataka ubrzana GPU-om.
Kompatibilnost
- Provjerite s OEM-om točan model poslužitelja, raspoloživi prostor oko utora, kabele za napajanje i hlađenje. Sam PCIe utor ne potvrđuje kompatibilnost. Pasivno hlađenje zahtijeva prisilni protok zraka iz poslužitelja.
- MIG particije dijele kapacitet jednog GPU-a s 24 GB; ne povećavaju memoriju. NVLink je konfiguracija s mostom za dva GPU-a i zahtijeva podržani raspored poslužitelja.
- Provjerite podršku upravljačkog programa, CUDA-e/frameworka i operacijskog sustava za predviđeno radno opterećenje. Virtualizacija i poslovni softver mogu zahtijevati zasebne licence i podržanu konfiguraciju glavnog sustava.
Izvori proizvođača
Specifikacije provjerene prema navedenim NVIDIA izvorima: .
Zatražite ponudu
Zatražite individualnu ponudu. Konfiguracija, količina, stanje, izvor, jamstvo, dostupnost, rok isporuke i cijena utvrđuju se u okviru RFQ-a.