Datacenter · SXM
NVIDIA H100 SXM 80 GB
En H100 Hopper SXM-modul med 80 GB HBM3 och NVLink-anslutning för integrerade servrar med flera GPU:er. Dess minnessystem och effektområde skiljer sig från PCIe-kortet med 80 GB.
Tekniska specifikationer
| Arkitektur | NVIDIA Hopper |
|---|---|
| GPU-minne | 80 GB HBM3 |
| Minnesbandbredd | 3,35 TB/s |
| Modulformat | SXM5 |
| NVLink-bandbredd per GPU | 900 GB/s |
| Maximal TDP | Upp till 700 W, konfigurerbar |
| MIG | Upp till 7 instanser |
Användningsområden
- Träning och finjustering av neurala nätverk.
- Inferens med LLM och andra neurala nätverk.
- Vetenskapliga simuleringar och GPU-accelererad dataanalys.
Kompatibilitet
- Detta är en SXM-modul, inte ett PCIe-expansionskort. Den kräver en matchande GPU-basplatta, firmware, strömförsörjning och kylning som har validerats av servertillverkaren. SXM-generationer är inte utbytbara.
- Minnet tillhör de enskilda GPU:erna. NVLink gör det inte automatiskt till en enskild GPU:s lokala minne; användning av flera GPU:er kräver programvara som fördelar modellen eller arbetslasten.
- Kontrollera stöd för drivrutiner, CUDA/ramverk och operativsystem för den avsedda arbetslasten. Virtualisering och företagsprogramvara kan kräva separata licenser och en värdkonfiguration som stöds.
Tillverkarkällor
Specifikationerna har kontrollerats mot de angivna NVIDIA-källorna: .
Begär offert
Begär en individuell offert. Konfiguration, antal, destination, skick, källa, garanti, leveranstid och övriga transaktionsdetaljer fastställs inom er RFQ.