首页 > 科技周边 > 人工智能 > 谷歌即将推出A3实例:搭载英伟达H100,提供26 exaFlops的AI性能

谷歌即将推出A3实例:搭载英伟达H100,提供26 exaFlops的AI性能

WBOY
发布: 2023-09-05 12:29:01
转载
1374 人浏览过

IT之家 8 月 31 日消息,Google Cloud 在今天召开的云 Next 大会上,宣布下月上线 A3 虚拟机实例。谷歌云在今年 5 月召开的 I / O 开发者大会上宣布 A3 实例,最大的亮点在于配备英伟达 H100 Tensor Core GPU,满足生成式 AI 和大语言模型的需求。

谷歌即将推出A3实例:搭载英伟达H100,提供26 exaFlops的AI性能

IT之家之前有报道,A3实例使用了第4代英特尔至强可扩展处理器、2TB DDR5-4800内存,以及8张英伟达H100“Hopper”GPU,通过NVLink 4.0和NVSwitch实现了3.6 TBps的对分带宽

新的A3超级计算机被专门设计用于训练和服务对人工智能模型要求非常严苛的任务,这些模型推动了当今生成人工智能和大型语言模型的创新。据介绍,这台超级计算机能够提供26 exaFlops的人工智能性能

在今天的发布会上,谷歌云还介绍了全新的TPU v5e,这是迄今为止成本效益最高、最易于访问的云TPU。这些TPU和定制的ASIC旨在加速人工智能和机器学习工作负载

根据SDxCentral的报道,TPU v5e相较于前代产品,在每美元的训练性能上提高了一倍,在每美元的推理性能上提高了2.5倍

以上是谷歌即将推出A3实例:搭载英伟达H100,提供26 exaFlops的AI性能的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:sohu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板