Dátové centrum · platforma s 8 GPU
NVIDIA HGX B200 8-GPU
Platforma Blackwell SXM s ôsmimi GPU a prepojeniami NVLink Switch na distribuované trénovanie a inferenciu AI. Integruje sa do servera OEM, neinštaluje sa ako samostatná rozširujúca karta.
Platforma, nie samostatná karta
Technické špecifikácie
| Architektúra | NVIDIA Blackwell |
|---|---|
| Konfigurácia platformy | 8 x B200 SXM |
| Celková pamäť GPU (zaokrúhlený údaj NVIDIA) | 1,4 TB v 8 GPU |
| Prepojenie GPU | NVLink 5 + NVLink 5 Switch |
| Šírka pásma NVLink na GPU | 1,8 TB/s |
| Celková šírka pásma NVLink | 14,4 TB/s v 8 GPU |
Použitie
- Trénovanie a dolaďovanie neurónových sietí.
- Inferencia LLM a ďalších neurónových sietí.
- Úlohy využívajúce viacero GPU s častou komunikáciou medzi akcelerátormi.
Kompatibilita
- HGX je platforma so základnou doskou pre GPU, nie karta PCIe ani kompletný server. CPU, systémová RAM, sieťové rozhrania, šasi, napájanie a chladenie závisia od konfigurácie servera OEM. Kompletný zoznam komponentov si potvrďte s dodávateľom systému.
- Pamäť patrí jednotlivým GPU. NVLink ju automaticky nemení na lokálnu pamäť jedného GPU; využitie viacerých GPU vyžaduje softvér, ktorý rozdeľuje model alebo pracovnú úlohu.
- Celkový údaj NVLink je súčtom za osem GPU, nie šírkou pásma jedného spojenia ani siete servera.
- Overte podporu ovládača, CUDA/frameworku a operačného systému pre zamýšľanú pracovnú úlohu. Virtualizácia a podnikový softvér môžu vyžadovať samostatné licencie a podporovanú konfiguráciu hostiteľského systému.
Zdroje výrobcu
Špecifikácie overené podľa uvedených zdrojov NVIDIA: .
Požiadať o cenovú ponuku
Pripravíme individuálnu cenovú ponuku. V rámci RFQ stanovíme variant, množstvo, stav, konfiguráciu, zdroj, záruku, dodacie podmienky a cenu.