NVIDIA L40S GPU 可为您提供突破性的多工作负载性能体验。 精心设计的 L40S GPU 将强大的 AI 计算性能与出色的图形和媒体加速功能相结合,旨在为新一代数据中心工作负载提供支持。从生成式 AI 和大型语言模型(LLM)推理与训练,到 3D 图形、渲染和视频,都能应对自如。
1 峰值速率基于 GPU 加速频率。
GPU 架构 | NVIDIA Ada Lovelace 架构 |
GPU 显存 | 带错误校验的 48GB GDDR6 |
显存带宽 | 864GB/s |
互联接口 | PCIe 4.0 x16:双向 64 GB/s |
基于 NVIDIA Ada Lovelace 架构的 CUDA® Core 核心 | 18,176 |
NVIDIA 第三代 RT Core | 142 |
NVIDIA 第四代 Tensor Core | 568 |
RT Core 性能(单位:TFLOPS) | 212 |
FP32(单位:TFLOPS) | 91.6 |
TF32 Tensor Core(单位:TFLOPS) | 183 I 366* |
Bfloat16 浮点运算性能 Tensor Core(单位:TFLOPS) | 362.05 I 733* |
FP16 Tensor Core | 362.05 I 733* |
FP8 Tensor Core | 733 I 1,466* |
INT8 Tensor TOPS 峰值 INT4 Tensor TOPS 峰值 | 733 I 1,466* 733 I 1,466* |
外形规格 | 4.4"(高)x 10.5"(长),双插槽 |
显示端口 | 4 个 DisplayPort 1.4a |
最大功耗 | 300 瓦 |
电源接口 | 16 针 |
散热 | 被动 |
虚拟 GPU(vGPU)软件支持 | 是 |
支持的 vGPU 配置文件 | 请参阅《虚拟 GPU 许可指南》 |
NVENC I NVDEC | 3x I 3x(包含 AV1 编解码) |
通过信任根进行安全启动 | 是 |
NEBS 支持 | 3 级 |
多实例 GPU(MIG)支持 | 否 |
NVIDIA® NVLink® 支持 | 否 |
与NVIDIA产品相关的图片或视频(完整或部分)的版权均归NVIDIA Corporation所有。