Rechenzentrum · 8-GPU-Plattform
NVIDIA HGX B200 8-GPU
Eine Blackwell SXM-Plattform mit acht GPUs und NVLink Switch-Verbindungen für verteiltes AI-Training und Inferenz. Sie wird in einen OEM-Server integriert und nicht als eigenständige Erweiterungskarte installiert.
Plattform, keine einzelne Karte
Technische Spezifikationen
| Architektur | NVIDIA Blackwell |
|---|---|
| Plattformkonfiguration | 8 x B200 SXM |
| Gesamter GPU-Speicher (gerundete NVIDIA-Angabe) | 1,4 TB über 8 GPUs |
| GPU-Verbindung | NVLink 5 + NVLink 5 Switch |
| NVLink-Bandbreite pro GPU | 1,8 TB/s |
| Gesamte NVLink-Bandbreite | 14,4 TB/s über 8 GPUs |
Anwendungen
- Training und Fine-Tuning neuronaler Netze.
- Inferenz von LLMs und anderen neuronalen Netzen.
- Multi-GPU-Workloads mit häufigem Datenaustausch zwischen den Beschleunigern.
Kompatibilität
- HGX ist eine GPU-Baseboard-Plattform, keine PCIe-Karte und kein vollständiger Server. CPU, System-RAM, Netzwerk, Gehäuse, Stromversorgung und Kühlung hängen von der OEM-Serverkonfiguration ab. Lassen Sie sich die vollständige Stückliste vom Systemanbieter bestätigen.
- Der Speicher ist den einzelnen GPUs zugeordnet. NVLink macht daraus nicht automatisch den lokalen Speicher einer einzelnen GPU; der Einsatz mehrerer GPUs erfordert Software, die das Modell oder den Workload verteilt.
- Die gesamte NVLink-Angabe ist die Summe über acht GPUs und nicht die Bandbreite einer einzelnen Verbindung oder des Servernetzwerks.
- Prüfen Sie die Unterstützung durch Treiber, CUDA/Framework und Betriebssystem für den vorgesehenen Workload. Virtualisierung und Unternehmenssoftware können separate Lizenzen und eine unterstützte Host-Konfiguration erfordern.
Herstellerquellen
Spezifikationen anhand der aufgeführten NVIDIA-Quellen geprüft: .
Angebot anfragen
Jedes Angebot wird individuell für die gewählte Variante, Menge und das Zielland erstellt. Die RFQ umfasst Zustand, Konfiguration, Bezugsquelle, Garantie, Verfügbarkeit und Lieferzeit.