Datasenter · akselerator
NVIDIA L4
En lavprofil Ada Lovelace PCIe-akselerator med 24 GB GPU-minne og en TDP på 72 W. Den er beregnet på inferens, videobehandling og grafikkbelastninger i servere med begrenset plass og effektkapasitet.
Tekniske spesifikasjoner
| Arkitektur | NVIDIA Ada Lovelace |
|---|---|
| GPU-minne | 24 GB |
| Minnebåndbredde | 300 GB/s |
| Vertsgrensesnitt | PCIe Gen4 x16 |
| Maksimal TDP | 72 W |
| Formfaktor | Ett spor, lavprofil |
| NVENC / NVDEC / JPEG-dekodere | 2 / 4 / 4 |
Bruksområder
- Inferens med LLM-er og andre nevrale nettverk.
- Videokoding, videodekoding og AI-basert videobehandling.
- Virtuelle arbeidsstasjoner og sanntidsgrafikk i støttede servermiljøer.
Kompatibilitet
- Kontroller nøyaktig servermodell, plass rundt kortsporene, strømkabling og kjøling med OEM-produsenten. Et PCIe-spor alene innebærer ikke kompatibilitet. Passiv kjøling krever tvungen luftstrøm fra serveren.
- Et lavprofilkort trenger fortsatt riktig brakett, tilstrekkelig luftstrøm i serveren og et spor som støtter effektkravene. Kontroller modellens minnekrav mot 24 GB i stedet for å anta at alle LLM-er får plass.
- Kontroller støtte for drivere, CUDA/rammeverk og operativsystem for den tiltenkte arbeidsbelastningen. Virtualisering og bedriftsprogramvare kan kreve separate lisenser og en støttet vertskonfigurasjon.
Kilder fra produsenten
Spesifikasjonene er kontrollert mot de oppførte NVIDIA-kildene: .
Be om tilbud
Be om et individuelt tilbud. Konfigurasjon, antall, destinasjon, tilstand, kilde, garanti, leveringstid og øvrige transaksjonsdetaljer fastsettes i deres RFQ.