英伟达发文介绍“黄氏定律”：GPU 推理性能十年提升 1000 倍，无惧摩尔定律影响

本站 10 月 1 日消息，正当人们争论摩尔定律在 2020 年代是否会放缓、是否仍然适用、甚至已死的时候，英伟达发文宣布了“黄氏定律（Huang's Law）”。

据英伟达一篇最新博客称，在过去十年中，英伟达 GPU 人工智能处理能力增长了 1000 倍。“黄氏定律”意味着在“单芯片推理性能”中看到的加速不会逐渐消失，而是会继续出现。

根据英伟达首席科学家比尔·达利所述，“后摩尔定律时代计算机性能如何实现的结构性转变”主要依赖于人类的智慧。虽然这一特征似乎难以被归纳为一条定律，但达利认为下面的图表标志着“黄氏定律”的开始

本站查询发现，“黄氏定律”并非英伟达自己的首创说法。IEEE Spectrum 第一个提出以黄仁勋命名定律，“黄氏定律”后来因《华尔街日报》的一篇专栏而广为人知。

根据 Dally 最近在 Hot Chips 2023 会议上的演讲，上图显示过去十年 GPU AI 推理性能增长了 1000 倍。Dally 表示，有趣的是，与摩尔定律不同，工艺缩小对黄氏定律的进展几乎没有影响。

Dally 回忆起如何通过改变英伟达 GPU 底层数字处理来实现 16 倍的增长。使用 Transformer 引擎的 Nvidia Hopper 架构的到来带来了另一个巨大的推动。据称，Hopper 使用 8 位和 16 位浮点与整数数学的动态组合，实现了 12.5 倍的性能飞跃，并且节省了能源。

Dally 还称，尽管摩尔定律的收益不断减少，但他相信“黄氏定律”仍将继续存在。

广告声明：本文中包含对外跳转链接（包括但不限于超链接、二维码、口令等形式），旨在提供更多信息，节省筛选时间，结果仅供参考。请注意，本站的所有文章都包含此声明

以上就是英伟达发文介绍“黄氏定律”：GPU 推理性能十年提升 1000 倍，无惧摩尔定律影响的详细内容，更多请关注php中文网其它相关文章！