Центр обробки даних · Платформа з 8 GPU
NVIDIA HGX H200 8-GPU
Платформа Hopper із вісьмома GPU, модулями H200 SXM і пам'яттю HBM3e. Вона призначена для навчання та інференсу AI, а також наукових навантажень із високими вимогами до пам'яті в інтегрованому сервері.
Платформа, а не окрема карта
Технічні характеристики
| Архітектура | NVIDIA Hopper |
|---|---|
| Конфігурація платформи | 8 x H200 SXM |
| Пам'ять на один GPU | 141 GB HBM3e |
| Пропускна здатність пам'яті на один GPU | 4.8 TB/s |
| Пропускна здатність NVLink на один GPU | 900 GB/s |
| Максимальний TDP на один GPU | До 700 W, налаштовується |
Застосування
- Навчання й тонке налаштування нейронних мереж.
- Інференс LLM та інших нейронних мереж.
- Наукове моделювання й аналіз даних із GPU-прискоренням.
Сумісність
- HGX — це платформа з базовою платою GPU, а не карта PCIe чи готовий сервер. CPU, системна RAM, мережеві компоненти, корпус, живлення й охолодження залежать від конфігурації сервера OEM-виробника. Узгодьте повну специфікацію компонентів із постачальником системи.
- Пам'ять належить окремим GPU. NVLink не перетворює її автоматично на локальну пам'ять одного GPU; використання кількох GPU потребує програмного забезпечення, яке розподіляє модель або робоче навантаження.
- Значення пам'яті, пропускної здатності й TDP наведено для одного H200 SXM, а не для всієї платформи. TDP GPU не є повним енергоспоживанням сервера. NVIDIA позначає таблицю характеристик H200 як попередню та таку, що може змінюватися.
- Перевірте підтримку драйвера, CUDA/фреймворку й операційної системи для запланованого робочого навантаження. Для віртуалізації та корпоративного програмного забезпечення можуть знадобитися окремі ліцензії й підтримувана конфігурація хоста.
Джерела виробника
Характеристики перевірено за наведеними джерелами NVIDIA: .
Запросити пропозицію
Запросіть індивідуальну пропозицію. Конфігурація, кількість, стан, джерело постачання, гарантія, наявність, строк постачання й ціна визначаються в межах RFQ.