Datacenter · plattform med 8 GPU:er
NVIDIA HGX B200 8-GPU
En Blackwell SXM-plattform med åtta GPU:er och NVLink Switch-sammankopplingar för distribuerad AI-träning och inferens. Den integreras i en OEM-server i stället för att installeras som ett fristående expansionskort.
Plattform, inte ett enskilt kort
Tekniska specifikationer
| Arkitektur | NVIDIA Blackwell |
|---|---|
| Plattformskonfiguration | 8 x B200 SXM |
| Totalt GPU-minne (NVIDIAs avrundade värde) | 1,4 TB över 8 GPU:er |
| GPU-sammankoppling | NVLink 5 + NVLink 5 Switch |
| NVLink-bandbredd per GPU | 1,8 TB/s |
| Total NVLink-bandbredd | 14,4 TB/s över 8 GPU:er |
Användningsområden
- Träning och finjustering av neurala nätverk.
- Inferens med LLM och andra neurala nätverk.
- Arbetslaster med flera GPU:er och frekvent kommunikation mellan acceleratorerna.
Kompatibilitet
- HGX är en plattform med GPU-basplatta, inte ett PCIe-kort eller en komplett server. CPU, system-RAM, nätverk, chassi, strömförsörjning och kylning beror på OEM-serverns konfiguration. Bekräfta den fullständiga materialförteckningen med systemleverantören.
- Minnet tillhör de enskilda GPU:erna. NVLink gör det inte automatiskt till en enskild GPU:s lokala minne; användning av flera GPU:er kräver programvara som fördelar modellen eller arbetslasten.
- Det totala NVLink-värdet är summan för åtta GPU:er, inte bandbredden för en enskild länk eller servernätverket.
- Kontrollera stöd för drivrutiner, CUDA/ramverk och operativsystem för den avsedda arbetslasten. Virtualisering och företagsprogramvara kan kräva separata licenser och en värdkonfiguration som stöds.
Tillverkarkällor
Specifikationerna har kontrollerats mot de angivna NVIDIA-källorna: .
Begär offert
Begär en individuell offert. Konfiguration, antal, destination, skick, källa, garanti, leveranstid och övriga transaktionsdetaljer fastställs inom er RFQ.