英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍

据IT之家8月10日消息，英伟达最近推出了全新的NVIDIA L40S GPU和配备该GPU的OVX服务器系统，有关该技术的文档可以在这里找到

▲ 图片来源：英伟达官网

据悉，这款 L40S GPU 搭配最新发布的 OVX 服务器，可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途，相比 A100 GPU，这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力，并满足不断增长的算力需求”。

根据IT之家的调查，我们了解到L40S GPU是英伟达之前L40 GPU的升级版，具备48GB GDDR6 ECC显存。该GPU基于Ada Lovelace架构，搭载第四代Tensor Core和FP8转换引擎，其计算速度是上一代的5倍。然而，仍然不支持NVLink

根据英伟达的说法，L40S 在生成式 AI 推理性能上比 A100 高出 1.2 倍，并且在训练性能上高出 1.7 倍。英伟达认为，对于“复杂的 AI 工作，具有数十亿个参数和多种数据模式”，L40S 的效能更加显著

英伟达宣布，他们将在今年秋季推出英伟达 L40S GPU。每台英伟达 OVX 服务器系统最多可支持8个L40S加速卡，但英伟达尚未公布该GPU的价格

英伟达宣布华硕、戴尔、技嘉、HPE、联想、QCT和美超微等厂商将很快推出搭载L40S GPU的OVX服务器系统

以上就是英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍的详细内容，更多请关注php中文网其它相关文章！