Centrum danych · SXM
NVIDIA H100 SXM 80 GB
Moduł H100 Hopper SXM z 80 GB HBM3 i połączeniami NVLink do zintegrowanych serwerów z wieloma GPU. Podsystem pamięci i limit mocy różnią się od karty PCIe 80 GB.
Specyfikacja techniczna
| Architektura | NVIDIA Hopper |
|---|---|
| Pamięć GPU | 80 GB HBM3 |
| Przepustowość pamięci | 3,35 TB/s |
| Format modułu | SXM5 |
| Przepustowość NVLink na GPU | 900 GB/s |
| Maksymalne TDP | Do 700 W, konfigurowalne |
| MIG | Do 7 instancji |
Zastosowania
- Trenowanie i dostrajanie sieci neuronowych.
- Inferencja LLM i innych sieci neuronowych.
- Symulacje naukowe i analiza danych przyspieszana przez GPU.
Kompatybilność
- To moduł SXM, nie karta rozszerzeń PCIe. Wymaga odpowiedniej płyty bazowej GPU, oprogramowania układowego, zasilania i chłodzenia zatwierdzonych przez producenta serwera. Generacje SXM nie są zamienne.
- Pamięć należy do poszczególnych GPU. NVLink nie zamienia jej automatycznie w pamięć lokalną jednego GPU; wykorzystanie wielu GPU wymaga oprogramowania dzielącego model lub obciążenie.
- Sprawdź obsługę GPU przez sterownik, CUDA, używany framework i system operacyjny dla planowanego zadania. Wirtualizacja i oprogramowanie korporacyjne mogą wymagać osobnych licencji oraz wspieranej konfiguracji systemu hosta.
Źródła producenta
Specyfikacje porównane z podanymi źródłami NVIDIA: .
Zapytanie o wycenę
Każdą wycenę przygotowujemy indywidualnie dla wybranego wariantu, ilości i miejsca dostawy. RFQ obejmuje stan, konfigurację, źródło, gwarancję, dostępność i termin dostawy.