Datakeskus · kiihdytin
NVIDIA L4
Matalaprofiilinen Ada Lovelace PCIe -kiihdytin, jossa on 24 GB GPU-muistia ja 72 W:n TDP. Se on tarkoitettu inferenssiin, videonkäsittelyyn ja grafiikkatyökuormiin palvelimissa, joissa tila ja virrankulutus ovat rajallisia.
Tekniset tiedot
| Arkkitehtuuri | NVIDIA Ada Lovelace |
|---|---|
| GPU-muisti | 24 GB |
| Muistin kaistanleveys | 300 GB/s |
| Isäntäliitäntä | PCIe Gen4 x16 |
| Enimmäis-TDP | 72 W |
| Muotokerroin | Yhden korttipaikan, matalaprofiilinen |
| NVENC / NVDEC / JPEG-dekooderit | 2 / 4 / 4 |
Käyttökohteet
- LLM- ja muu neuroverkkojen inferenssi.
- Videon koodaus, dekoodaus ja tekoälypohjainen videonkäsittely.
- Virtuaalityöasemat ja reaaliaikainen grafiikka tuetuissa palvelinympäristöissä.
Yhteensopivuus
- Varmista täsmällinen palvelinmalli, korttipaikan vapaa tila, virtakaapelointi ja jäähdytys OEM-valmistajalta. Pelkkä PCIe-korttipaikka ei takaa yhteensopivuutta. Passiivinen jäähdytys edellyttää palvelimen tuottamaa pakotettua ilmavirtaa.
- Myös matalaprofiilinen kortti tarvitsee oikean kiinnitysraudan, palvelimen ilmavirran ja sen tehovaatimuksia tukevan korttipaikan. Vertaa mallin muistivaatimuksia 24 GB:hen sen sijaan, että olettaisit jokaisen LLM:n mahtuvan muistiin.
- Tarkista aiotun työkuorman GPU-ajuri-, CUDA-, ohjelmistokehys- ja käyttöjärjestelmätuki. Virtualisointi ja yritysohjelmistot voivat edellyttää erillisiä lisenssejä ja tuettua isäntäkokoonpanoa.
Valmistajan lähteet
Tekniset tiedot tarkistettu luetelluista NVIDIA-lähteistä: .
Pyydä tarjous
Pyydä yksilöllinen tarjous. Kokoonpano, määrä, kohdemaa, kunto, lähde, takuu, toimitusaika ja muut kaupalliset yksityiskohdat määritetään tarjouspyynnössäsi.