Datakeskus · kiihdytin
NVIDIA A30
Ampere-laskenta-GPU, jossa on 24 GB HBM2-muistia ja 165 W:n TDP yrityspalvelimia varten. MIG voi jakaa GPU:n enintään neljään instanssiin pienempiä inferenssi- tai laskentatehtäviä varten.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Ampere |
|---|---|
| GPU-muisti | 24 GB HBM2 |
| Muistin kaistanleveys | 933 GB/s |
| Isäntäliitäntä | PCIe Gen4 |
| Enimmäis-TDP | 165 W |
| Muotokerroin | Kahden korttipaikan, täyskorkea, täyspitkä |
| NVLink | 200 GB/s; silta enintään kahdelle GPU:lle |
| MIG-kokoonpanot | 4 x 6 GB / 2 x 12 GB / 1 x 24 GB |
| Mediamoottorit | 4 NVDEC, 1 JPEG-dekooderi, 1 OFA |
Käyttökohteet
- LLM- ja muu neuroverkkojen inferenssi.
- Neuroverkkojen koulutus ja hienosäätö.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- Varmista täsmällinen palvelinmalli, korttipaikan vapaa tila, virtakaapelointi ja jäähdytys OEM-valmistajalta. Pelkkä PCIe-korttipaikka ei takaa yhteensopivuutta. Passiivinen jäähdytys edellyttää palvelimen tuottamaa pakotettua ilmavirtaa.
- MIG-osiot jakavat yhden 24 GB:n GPU:n kapasiteetin; ne eivät lisää muistia. NVLink on kahden GPU:n siltakokoonpano ja edellyttää tuettua palvelinasettelua.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.