Datakeskus · PCIe
NVIDIA A100 PCIe 80 GB
PCIe-muotoinen Ampere-laskentakiihdytin, jossa on 80 GB HBM2e-muistia. Se tukee tekoälyn koulutusta ja inferenssiä, tieteellistä FP64-laskentaa sekä MIG-laitteisto-osiointia.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Ampere |
|---|---|
| GPU-muisti | 80 GB HBM2e |
| Muistin kaistanleveys | 1935 GB/s |
| Isäntäliitäntä | PCIe Gen4 |
| Muotokerroin | Kahden korttipaikan ilmajäähdytteinen tai yhden korttipaikan nestejäähdytteinen |
| Enimmäis-TDP | 300 W |
| NVLink | 600 GB/s; silta kahdelle GPU:lle |
| MIG | Enintään 7 instanssia |
Käyttökohteet
- Neuroverkkojen koulutus ja hienosäätö.
- LLM- ja muu neuroverkkojen inferenssi.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- Varmista täsmällinen palvelinmalli, korttipaikan vapaa tila, virtakaapelointi ja jäähdytys OEM-valmistajalta. Pelkkä PCIe-korttipaikka ei takaa yhteensopivuutta. Passiivinen jäähdytys edellyttää palvelimen tuottamaa pakotettua ilmavirtaa.
- Ilma- ja nestejäähdytteiset kortit edellyttävät palvelimelta erilaisia valmiuksia. NVLink tarvitsee yhteensopivan sillan ja tuetun korttivälin; tämä ei ole HGX SXM4 -yhdysverkkotopologia.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.