Центр обробки даних · SXM4
NVIDIA A100 SXM4 80 GB
Модуль Ampere SXM4 із 80 GB пам'яті для систем AI та HPC на базі HGX. Він використовує пам'ять HBM2e і з'єднання NVLink на базовій платі замість мостової схеми карти PCIe.
Технічні характеристики
| Архітектура | NVIDIA Ampere |
|---|---|
| Пам'ять GPU | 80 GB HBM2e |
| Пропускна здатність пам'яті | 2039 GB/s |
| Формат модуля | SXM4 |
| Пропускна здатність NVLink на один GPU | 600 GB/s |
| Стандартний TDP | 400 W |
| MIG | До 7 інстансів |
Застосування
- Навчання й тонке налаштування нейронних мереж.
- Інференс LLM та інших нейронних мереж.
- Наукове моделювання й аналіз даних із GPU-прискоренням.
Сумісність
- Це модуль SXM, а не карта розширення PCIe. Для нього потрібні сумісна базова плата GPU, прошивка, система живлення й охолодження, перевірені виробником сервера. Покоління SXM не є взаємозамінними.
- 400 W стосується стандартної конфігурації. NVIDIA вказує до 500 W для SKU HGX A100 80 GB із нестандартним тепловим рішенням (CTS); не вважайте це обмеження чинним для кожної системи SXM4.
- Пам'ять належить окремим GPU. NVLink не перетворює її автоматично на локальну пам'ять одного GPU; використання кількох GPU потребує програмного забезпечення, яке розподіляє модель або робоче навантаження.
- Перевірте підтримку драйвера, CUDA/фреймворку й операційної системи для запланованого робочого навантаження. Для віртуалізації та корпоративного програмного забезпечення можуть знадобитися окремі ліцензії й підтримувана конфігурація хоста.
Джерела виробника
Характеристики перевірено за наведеними джерелами NVIDIA: .
Запросити пропозицію
Запросіть індивідуальну пропозицію. Конфігурація, кількість, стан, джерело постачання, гарантія, наявність, строк постачання й ціна визначаються в межах RFQ.