Datové centrum · akcelerátor
NVIDIA L4
Nízkoprofilový akcelerátor Ada Lovelace PCIe s 24 GB paměti GPU a TDP 72 W. Je určen pro inferenci, zpracování videa a grafické úlohy v serverech s omezeným prostorem a příkonem.
Technické specifikace
| Architektura | NVIDIA Ada Lovelace |
|---|---|
| Paměť GPU | 24 GB |
| Propustnost paměti | 300 GB/s |
| Rozhraní hostitele | PCIe Gen4 x16 |
| Maximální TDP | 72 W |
| Provedení | Jednoslotové, nízkoprofilové |
| Kodéry NVENC / dekodéry NVDEC / JPEG | 2 / 4 / 4 |
Použití
- Inference LLM a dalších neuronových sítí.
- Kódování, dekódování a zpracování videa pomocí AI.
- Virtuální pracovní stanice a grafika v reálném čase v podporovaných serverových prostředích.
Kompatibilita
- U výrobce OEM ověřte přesný model serveru, prostor ve slotech, napájecí kabeláž a chlazení. Samotný slot PCIe kompatibilitu nezaručuje. Pasivní chlazení vyžaduje nucené proudění vzduchu zajišťované serverem.
- I nízkoprofilová karta vyžaduje správnou záslepku, proudění vzduchu v serveru a slot podporující její napájecí požadavky. Porovnejte paměťové nároky modelu s kapacitou 24 GB; nelze předpokládat, že se vejde každý LLM.
- Pro zamýšlenou úlohu ověřte podporu ovladače, CUDA/frameworku a operačního systému. Virtualizace a podnikový software mohou vyžadovat samostatné licence a podporovanou konfiguraci hostitelského systému.
Zdroje výrobce
Specifikace ověřeny podle uvedených zdrojů NVIDIA: .
Požádat o nabídku
Připravíme individuální nabídku. V rámci RFQ stanovíme variantu, množství, stav, konfiguraci, zdroj, záruku, dodací podmínky a cenu.