Adatközpont · 8 GPU-s platform
NVIDIA HGX H200 8-GPU
Nyolc GPU-s Hopper platform H200 SXM modulokkal és HBM3e memóriával. Integrált szerverben végzett AI-tanításhoz, inferenciához és memóriaigényes tudományos feladatokhoz készült.
Platform, nem egyetlen kártya
Műszaki adatok
| Architektúra | NVIDIA Hopper |
|---|---|
| Platformkonfiguráció | 8 x H200 SXM |
| Memória GPU-nként | 141 GB HBM3e |
| Memória-sávszélesség GPU-nként | 4,8 TB/s |
| NVLink sávszélesség GPU-nként | 900 GB/s |
| Maximális TDP GPU-nként | Legfeljebb 700 W, konfigurálható |
Felhasználási területek
- Neurális hálózatok tanítása és finomhangolása.
- LLM-ek és más neurális hálózatok inferenciája.
- Tudományos szimulációk és GPU-val gyorsított adatelemzés.
Kompatibilitás
- A HGX GPU-alaplap-platform, nem PCIe kártya és nem komplett szerver. A CPU, a rendszermemória, a hálózat, a ház, a tápellátás és a hűtés az OEM szerver konfigurációjától függ. A teljes anyagjegyzéket egyeztesse a rendszer gyártójával.
- A memória az egyes GPU-khoz tartozik. Az NVLink nem alakítja azt automatikusan egyetlen GPU helyi memóriájává; több GPU használatához a modellt vagy a munkaterhelést elosztó szoftver szükséges.
- A memória-, sávszélesség- és TDP-adatok egy H200 SXM modulra, nem a teljes platformra vonatkoznak. A GPU TDP-je nem a teljes szerver energiafogyasztása. Az NVIDIA a H200 specifikációs táblázatát előzetesnek és változtatás tárgyát képezőnek jelöli.
- Ellenőrizze az illesztőprogram, a CUDA/keretrendszer és az operációs rendszer támogatását a tervezett munkaterheléshez. A virtualizáció és a vállalati szoftverek külön licenceket és támogatott gazdarendszer-konfigurációt igényelhetnek.
Gyártói források
A specifikációkat összevetettük a felsorolt NVIDIA forrásokkal: .
Ajánlatkérés
Egyedi árajánlatot készítünk. Az RFQ keretében meghatározzuk a változatot, a mennyiséget, az állapotot, a konfigurációt, a forrást, a garanciát, a szállítási feltételeket és az árat.