英伟达推出全新AI芯片H200,性能大幅提升90%!中国算力实现自主突破!

PHPz
发布: 2023-11-14 17:37:34
转载
683 人浏览过

当全球还在为英伟达H100芯片痴迷并疯狂购买以满足持续增长的AI算力需求之时,当地时间周一,英伟达悄然推出了最新的AI芯片H200,用于AI大模型的训练,相比于其前一代产品H100,H200的性能提升了约60%到90%

H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。据英伟达官网消息, H200也是公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。英伟达称:“借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。”

根据官方发布的图片,H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍,在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。

H200预计将于明年二季度开始交付,英伟达尚未公布其价格。

不过,与H100等AI芯片一样,英伟达并不会向中国厂商供应H200芯片。今年10月17日,美国商务部发布了针对芯片的出口管制新规,尤其是对高算力的AI芯片进行了更严格的管控。其中一个很重要的新规定就是调整了先进计算芯片受限的标准,设置了新的“性能密度阈值”来作为参数。根据新规,英伟达中国“特供版”H800和A800已经被限制对华出口。

缺少最先进的AI芯片短期内对国内AI产业发展将带来一些挑战,但也同时蕴含着机遇:

首先是国产算力芯片的替代机遇,比如近期百度订购1600片华为昇腾910B芯片;其次是供需错配的情况下,算力租赁价格上涨,将利好算力租赁企业。14日,汇纳科技宣布内嵌英伟达A100芯片的高性能算力服务器算力服务收费同步上调100%;最后,以Chiplet为代表的先进封装技术在一定程度上,可以解决先进制程产能不足的问题,有望迎来加速发展。

那么除华为昇腾外,国产算力还有谁能扛起大旗?产业链相关公司有哪些?还有哪些方向有望间接受益?我们国产AI算力自主可控的四大受益方向和代表公司,制作了专题《AI算力自主可控势在必行》,有需要的小伙伴,欢迎扫描下方二维码或添加小助手微信:hzkyxjyy,免费获取或围观朋友圈阅读。添加成功后,过往所有报告以及未来每期专题报告均可免费阅读。

英伟达推出全新AI芯片H200,性能大幅提升90%!中国算力实现自主突破!

以上是英伟达推出全新AI芯片H200,性能大幅提升90%!中国算力实现自主突破!的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:sohu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!