Datakeskus · PCIe
NVIDIA H200 NVL PCIe 141 GB
Hopper PCIe -kiihdytin, jossa on 141 GB HBM3e-muistia tekoäly- ja HPC-palvelimiin. NVL-versio tukee kahden tai neljän GPU:n NVLink-siltakokoonpanoja ja eroaa H200 SXM -versiosta.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Hopper |
|---|---|
| GPU-muisti | 141 GB HBM3e |
| Muistin kaistanleveys | 4,8 TB/s |
| Muotokerroin | PCIe, kahden korttipaikan, ilmajäähdytteinen |
| Isäntäliitäntä | PCIe Gen5 |
| NVLink-kaistanleveys GPU:ta kohden | 900 GB/s; 2- tai 4-suuntainen silta |
| Enimmäis-TDP | Enintään 600 W, konfiguroitavissa |
| MIG | Enintään 7 instanssia |
Käyttökohteet
- LLM- ja muu neuroverkkojen inferenssi.
- Neuroverkkojen koulutus ja hienosäätö.
- Tieteelliset simulaatiot ja GPU-kiihdytetty data-analyysi.
Yhteensopivuus
- Varmista täsmällinen palvelinmalli, korttipaikan vapaa tila, virtakaapelointi ja jäähdytys OEM-valmistajalta. Pelkkä PCIe-korttipaikka ei takaa yhteensopivuutta. Passiivinen jäähdytys edellyttää palvelimen tuottamaa pakotettua ilmavirtaa.
- 141 GB tarkoittaa yhden GPU:n muistia, ei NVLink-ryhmää. Sillan, korttivälin ja palvelintuen on vastattava suunniteltua kahden tai neljän GPU:n kokoonpanoa. NVIDIA merkitsee tämän teknisten tietojen taulukon alustavaksi ja mahdollisesti muuttuvaksi.
- Muisti kuuluu yksittäisille GPU:ille. NVLink ei automaattisesti muuta sitä yhden GPU:n paikalliseksi muistiksi; useiden GPU:iden käyttö edellyttää ohjelmistoa, joka jakaa mallin tai työkuorman niiden kesken.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.