
NVIDIA® L4 Tensor Core GPU 基于 NVIDIA Ada Lovelace 架构构建,采用低外形尺寸封装的 L4 GPU 是一款经济高效的解决方案,可在从边缘、数据中心到云端的每台服务器中实现高吞吐量和低延迟。
借助 NVIDIA L4 GPU 的强大功能变革视频应用。无论是向数百万观众直播流媒体、帮助用户构建创意故事,还是提供沉浸式增强现实和虚拟现实 (AR / VR) 体验,配备 L4 的服务器均可为移动端用户托管多达 1040 个 720p30 并发 AV1 视频流。¹
NVIDIA L4 GPU 与 CV - CUDA ® 库搭配使用,可将视频内容推理提升到一个新的水平。 L4 提供的 AI 视频性能比基于 CPU 的解决方案高出 120 倍,可让企业获得实时洞察,从而个性化内容、提高搜索相关性、检测不良内容并实施智能空间解决方案。
1. 测量性能: 720p30 时 8x L4 AV1 低延迟 P1 预设编码。
随着 AI 和视频的日益普及,对高效且经济的计算需求也比以往任何时候都更高。 NVIDIA L4 Tensor Core GPU 可将 AI 视频性能提高多达 120 倍,与基于 CPU 的传统基础设施相比,其能源效率提高 99 % , 降低总拥有成本。这使得企业能够减少机架空间并显著降低碳足迹,同时能够将数据中心扩展到更多用户。在 2 兆瓦的数据中心内从 CPU 换为 NVIDIA L4 所节省的能源可为近 2000 户家庭供电一年,或者相当于 10 年内种植 172000 棵树所抵消的碳 ²。
用于图像和文本的生成式 AI 使客户的生活更加便利,并在所有行业中获得更加身临其境的体验。 NVIDIA L4 增强了计算密集型生成式 AI 推理,其性能比上一代 GPU 提高了 2.5 倍。 L4 的内存容量增加了 50 % , 可实现更大的图像生成,最高可达 1024x768 , 这是上一代 GPU 所无法实现的。
采用第三代 RT 核心和 AI 驱动 NVIDIA 深度学习超级采样 3 (DLSS 3), NVIDIA L4 为基于 AI 的头像、 NVIDIA Omniverse ™ 虚拟世界、云游戏和虚拟工作站提供了超过 4 倍的性能提升。这些功能使创作者能够构建实时、电影级的图形和场景,实现 CPU 无法实现的沉浸式视觉体验。
高效且可持续地加速工作负载
NVIDIA L4 是 NVIDIA 数据中心平台的重要组成部分。专为视频、 AI 、NVIDIA RTX ® 虚拟工作站 (vWS) 在图形、仿真、数据科学和数据分析等方面构建,该平台可加速 3000 多个应用,并可在从数据中心到边缘再到云端的任何地方大规模使用,带来显著提升性能和能源效率。
L4 针对主流部署进行了优化,提供了在 72W 低功耗封装中运行的小尺寸外形,使其成为适用于 NVIDIA 合作伙伴生态系统中任何服务器或云实例的高效、经济的解决方案。
为简化 AI 开发和部署,NVIDIA AI Enterprise 软件套件为包括 AI 解决方案工作流、框架、预训练模型和基础设施而优化,这些都经过认证,并可在通用数据中心平台和装有 NVIDIA L4 GPU 的主流 NVIDIA 认证系统上运行。
NVIDIA AI Enterprise 是 NVIDIA L4 GPU 的新增许可,使几乎每个组织和企业都可以访问 AI ,并在训练、推理和数据科学方面具有最高性能。 NVIDIA AI Enterprise 与 NVIDIA L4 一起简化了 AI 就绪平台的构建,加快了 AI 开发和部署,并提供了性能、安全性和可扩展性,从而更快地收集见解并更快地实现业务价值。
产品规格
与NVIDIA产品相关的图片或视频(完整或部分)的版权均归NVIDIA Corporation所有。
数据源来自:https://www.nvidia.cn/data-center/l4/