Datacenter · accelerator
NVIDIA L4
En Ada Lovelace PCIe-accelerator i lav profil med 24 GB GPU-hukommelse og et TDP på 72 W. Den er beregnet til inferens, videobehandling og grafikarbejdsbelastninger i servere med begrænset plads og effektkapacitet.
Tekniske specifikationer
| Arkitektur | NVIDIA Ada Lovelace |
|---|---|
| GPU-hukommelse | 24 GB |
| Hukommelsesbåndbredde | 300 GB/s |
| Værtsinterface | PCIe Gen4 x16 |
| Maksimalt TDP | 72 W |
| Formfaktor | Single-slot, lav profil |
| NVENC / NVDEC / JPEG-dekodere | 2 / 4 / 4 |
Anvendelser
- Inferens med LLM'er og andre neurale netværk.
- Kodning, afkodning og AI-baseret behandling af video.
- Virtuelle arbejdsstationer og realtidsgrafik i understøttede servermiljøer.
Kompatibilitet
- Kontrollér den præcise servermodel, pladsen ved slotten, strømkablerne og kølingen med OEM-producenten. En PCIe-slot alene dokumenterer ikke kompatibilitet. Passiv køling kræver tvungen luftgennemstrømning fra serveren.
- Et lavprofilkort kræver stadig det korrekte beslag, tilstrækkelig luftgennemstrømning i serveren og en slot, der understøtter kortets effektkrav. Kontrollér modellens hukommelseskrav i forhold til 24 GB frem for at antage, at alle LLM'er kan være der.
- Kontrollér understøttelsen af driver, CUDA/framework og operativsystem til den tilsigtede arbejdsbelastning. Virtualisering og virksomhedssoftware kan kræve separate licenser og en understøttet værtskonfiguration.
Kilder fra producenten
Specifikationerne er kontrolleret mod de angivne NVIDIA-kilder: .
Anmod om et tilbud
Anmod om et individuelt tilbud. Konfiguration, antal, destination, stand, kilde, garanti, leveringstid og øvrige transaktionsdetaljer fastlægges i jeres RFQ.