Центр обробки даних · Платформа з 8 GPU
NVIDIA HGX B200 8-GPU
Платформа Blackwell SXM із вісьмома GPU та з'єднаннями NVLink Switch для розподіленого навчання й інференсу AI. Вона інтегрується в сервер OEM-виробника, а не встановлюється як окрема карта розширення.
Платформа, а не окрема карта
Технічні характеристики
| Архітектура | NVIDIA Blackwell |
|---|---|
| Конфігурація платформи | 8 x B200 SXM |
| Загальна пам'ять GPU (округлене значення NVIDIA) | 1.4 TB на 8 GPU |
| З'єднання GPU | NVLink 5 + NVLink 5 Switch |
| Пропускна здатність NVLink на один GPU | 1.8 TB/s |
| Загальна пропускна здатність NVLink | 14.4 TB/s на 8 GPU |
Застосування
- Навчання й тонке налаштування нейронних мереж.
- Інференс LLM та інших нейронних мереж.
- Навантаження на кількох GPU із частим обміном даними між прискорювачами.
Сумісність
- HGX — це платформа з базовою платою GPU, а не карта PCIe чи готовий сервер. CPU, системна RAM, мережеві компоненти, корпус, живлення й охолодження залежать від конфігурації сервера OEM-виробника. Узгодьте повну специфікацію компонентів із постачальником системи.
- Пам'ять належить окремим GPU. NVLink не перетворює її автоматично на локальну пам'ять одного GPU; використання кількох GPU потребує програмного забезпечення, яке розподіляє модель або робоче навантаження.
- Загальне значення NVLink є сумою для восьми GPU, а не пропускною здатністю одного з'єднання чи серверної мережі.
- Перевірте підтримку драйвера, CUDA/фреймворку й операційної системи для запланованого робочого навантаження. Для віртуалізації та корпоративного програмного забезпечення можуть знадобитися окремі ліцензії й підтримувана конфігурація хоста.
Джерела виробника
Характеристики перевірено за наведеними джерелами NVIDIA: .
Запросити пропозицію
Запросіть індивідуальну пропозицію. Конфігурація, кількість, стан, джерело постачання, гарантія, наявність, строк постачання й ціна визначаються в межах RFQ.