Datacenter · plattform med 8 GPU:er
NVIDIA HGX H200 8-GPU
En Hopper-plattform med åtta GPU:er som använder H200 SXM-moduler med HBM3e-minne. Den är avsedd för AI-träning, inferens och minnesintensiva vetenskapliga arbetslaster i en integrerad server.
Plattform, inte ett enskilt kort
Tekniska specifikationer
| Arkitektur | NVIDIA Hopper |
|---|---|
| Plattformskonfiguration | 8 x H200 SXM |
| Minne per GPU | 141 GB HBM3e |
| Minnesbandbredd per GPU | 4,8 TB/s |
| NVLink-bandbredd per GPU | 900 GB/s |
| Maximal TDP per GPU | Upp till 700 W, konfigurerbar |
Användningsområden
- Träning och finjustering av neurala nätverk.
- Inferens med LLM och andra neurala nätverk.
- Vetenskapliga simuleringar och GPU-accelererad dataanalys.
Kompatibilitet
- HGX är en plattform med GPU-basplatta, inte ett PCIe-kort eller en komplett server. CPU, system-RAM, nätverk, chassi, strömförsörjning och kylning beror på OEM-serverns konfiguration. Bekräfta den fullständiga materialförteckningen med systemleverantören.
- Minnet tillhör de enskilda GPU:erna. NVLink gör det inte automatiskt till en enskild GPU:s lokala minne; användning av flera GPU:er kräver programvara som fördelar modellen eller arbetslasten.
- Raderna för minne, bandbredd och TDP gäller per H200 SXM och är inte totalvärden för plattformen. GPU:ns TDP är inte hela serverns strömförbrukning. NVIDIA anger att specifikationstabellen för H200 är preliminär och kan ändras.
- Kontrollera stöd för drivrutiner, CUDA/ramverk och operativsystem för den avsedda arbetslasten. Virtualisering och företagsprogramvara kan kräva separata licenser och en värdkonfiguration som stöds.
Tillverkarkällor
Specifikationerna har kontrollerats mot de angivna NVIDIA-källorna: .
Begär offert
Begär en individuell offert. Konfiguration, antal, destination, skick, källa, garanti, leveranstid och övriga transaktionsdetaljer fastställs inom er RFQ.