Центр обробки даних · SXM
NVIDIA H100 SXM 80 GB
Модуль H100 Hopper SXM із 80 GB пам'яті HBM3 і з'єднанням NVLink для інтегрованих серверів із кількома GPU. Його підсистема пам'яті й енергетичні параметри відрізняються від карти PCIe 80 GB.
Технічні характеристики
| Архітектура | NVIDIA Hopper |
|---|---|
| Пам'ять GPU | 80 GB HBM3 |
| Пропускна здатність пам'яті | 3.35 TB/s |
| Формат модуля | SXM5 |
| Пропускна здатність NVLink на один GPU | 900 GB/s |
| Максимальний TDP | До 700 W, налаштовується |
| MIG | До 7 інстансів |
Застосування
- Навчання й тонке налаштування нейронних мереж.
- Інференс LLM та інших нейронних мереж.
- Наукове моделювання й аналіз даних із GPU-прискоренням.
Сумісність
- Це модуль SXM, а не карта розширення PCIe. Для нього потрібні сумісна базова плата GPU, прошивка, система живлення й охолодження, перевірені виробником сервера. Покоління SXM не є взаємозамінними.
- Пам'ять належить окремим GPU. NVLink не перетворює її автоматично на локальну пам'ять одного GPU; використання кількох GPU потребує програмного забезпечення, яке розподіляє модель або робоче навантаження.
- Перевірте підтримку драйвера, CUDA/фреймворку й операційної системи для запланованого робочого навантаження. Для віртуалізації та корпоративного програмного забезпечення можуть знадобитися окремі ліцензії й підтримувана конфігурація хоста.
Джерела виробника
Характеристики перевірено за наведеними джерелами NVIDIA: .
Запросити пропозицію
Запросіть індивідуальну пропозицію. Конфігурація, кількість, стан, джерело постачання, гарантія, наявність, строк постачання й ціна визначаються в межах RFQ.