Datasenter · plattform med 8 GPU-er
NVIDIA HGX B200 8-GPU
En Blackwell SXM-plattform med åtte GPU-er og NVLink Switch-forbindelser for distribuert AI-trening og inferens. Den integreres i en OEM-server og installeres ikke som et frittstående utvidelseskort.
Plattform, ikke ett enkelt kort
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Blackwell |
|---|---|
| Plattformkonfigurasjon | 8 x B200 SXM |
| Totalt GPU-minne (NVIDIAs avrundede tall) | 1,4 TB fordelt på 8 GPU-er |
| GPU-forbindelse | NVLink 5 + NVLink 5 Switch |
| NVLink-båndbredde per GPU | 1,8 TB/s |
| Total NVLink-båndbredde | 14,4 TB/s fordelt på 8 GPU-er |
Bruksområder
- Trening og finjustering av nevrale nettverk.
- Inferens med LLM-er og andre nevrale nettverk.
- Arbeidsbelastninger med flere GPU-er og hyppig kommunikasjon mellom akseleratorene.
Kompatibilitet
- HGX er en GPU-baseboardplattform, ikke et PCIe-kort eller en komplett server. CPU, system-RAM, nettverk, kabinett, strømforsyning og kjøling avhenger av OEM-serverens konfigurasjon. Bekreft den fullstendige materiallisten med systemleverandøren.
- Minnet tilhører de enkelte GPU-ene. NVLink gjør det ikke automatisk til lokalt minne for én GPU. Bruk av flere GPU-er krever programvare som fordeler modellen eller arbeidsbelastningen.
- Den totale NVLink-verdien er summen for åtte GPU-er, ikke båndbredden til én forbindelse eller servernettverket.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.