top of page
Nvidia
NVIDIA L40S 48GB
Hooper
無與倫比的 AI 與圖形效能，專為資料中心打造
生成式 AI 正在引領一場深刻的變革，為各行各業的企業開啟嶄新的機會前沿。為了因應 AI 帶來的轉型，企業需要更多的運算資源、更高的擴展性，以及更全面的功能組合，以滿足日益多樣且複雜的工作負載需求。
NVIDIA L40S GPU 是目前數據中心最強大的通用型 GPU，為下一代 AI 驅動應用提供端到端的加速能力，涵蓋生成式 AI、大型語言模型（LLM）推論、小型模型訓練與微調、3D 圖形、渲染及影音應用等。
產品規格
L40S | 規格 |
GPU memory | 48GB GDDR6 |
Memory interface | PCIe Gen4 x16: 64GB/s bidirectional |
Memory bandwidth | 864 GB/s |
NVIDIA Ada Lovelace architecture-based CUDA Cores | 18,176 |
NVIDIA fourth-generation Tensor Cores | 568 |
NVIDIA third-generation RT Cores | 142 |
PF32 TFLOPS | 91.6 TFLOPS |
TF32 Tensor Core TFLOPS | 366 TFLOPS |
FP16 | 733 TFLOPS |
FP8 | 1,466 TFLOPS |
RT Core Performance | 212 TFLOPS |
Display connectors | 4x DisplayPort 1.4a |
Max Power Consumption | 350 W |
Power connector | 16-pin |
Virtual GPU (vGPU) Software Support | YES |
MIG | NO |
Secure Boot With Root of Trust | YES |
NEBS Ready | Level 3 |
NVIDIA NVLink | NO |
bottom of page