英伟达发布全球最强AI芯片H200：性能较H100提升近一倍

英伟达发布全球最强AI芯片H200：性能较H100提升近一倍

快科技今日（11月14日）消息，在2023年全球超算大会（SC2023）上，芯片巨头英伟达发布了H100芯片的继任者，也是目前世界最强的AI芯片——H200。

H200的性能相较于H100有了60%到90%的直接提升

不仅如此，H200与H100一样都是基于英伟达Hopper架构打造，这也意味着两款芯片可以互相兼容，对于使用H100企业而言，可以无缝更换成最新的H200。

H200是英伟达首款采用HBM3e内存的芯片，具有更快的速度和更大的容量，非常适合用于大型语言模型的训练和推理

除了HBM3e内存外，H200的内存容量为141GB，带宽从H100的3.35TB/s增加到了4.8TB/s。

H200的性能提升最主要体现在大模型推理表现上，H200 在700亿参数的Llama2大模型上的推理速度比H100快了一倍，而且在推理能耗上H200相比H100直接降低了一半。

H200具备更高的显存带宽，对于显存密集型的高性能计算应用而言，这意味着可以更有效地访问操作数据。与中央处理器（CPU）相比，使用H200可以将结果的获取时间最多提升110倍

英伟达表示H200预计将于2024年第二季度出货，售价还暂未公布，不过在算力荒下，大科技公司们估计还是会疯狂囤货。

以上就是英伟达发布全球最强AI芯片H200：性能较H100提升近一倍的详细内容，更多请关注php中文网其它相关文章！