华为云昇腾AI云服务正式上线 让千行万业实现大模型普惠

WBOY
WBOY 转载
2023-09-22 17:41:10 321浏览

9月21日,在华为全联接大会2023上,华为云CEO张平安宣布昇腾AI云服务已正式上线。企业现在可以一键接入,即可获得强大的AI算力,从而让各行各业都能受益于大规模模型的普及。与此同时,昇腾AI云服务的“百模千态”专区也已正式上线,为企业和开发者提供更快速的大模型应用创建,让他们在大模型时代中保持领先地位

华为云昇腾AI云服务正式上线 让千行万业实现大模型普惠

张平安指出,在全智能时代,对AI算力的需求急剧增长。然而,AI服务器的功率密度远远超过通用服务器,单个机柜的功耗是过去的6-8倍,并且需要专门的液冷系统来散热。同时,大型模型的训练需要百卡、千卡甚至万卡的支持,服务器之间的互联、时延、可靠性和运维都非常复杂,自建AI数据中心面临着许多挑战

为了更好地支持"百模千态",华为云在贵安、乌兰察布、芜湖部署了三个大型人工智能算力中心,为企业提供强大的人工智能算力。企业只需点击一键接入,即可随时使用人工智能云服务,无需再花费时间和精力来建设或改造传统数据中心

为保护用户数据,华为云昇腾AI云服务采用数据传输加密、数据存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,保障云上训练的数据全生命周期安全。

同时,华为云昇腾AI云服务的“百模千态”专区已经上线。除了支持盘古大模型外,还将适配业界主流的上百个开源大模型,如LLAMA、GLM等。企业可以利用盘古L0层和L1层的能力来构建自己的大模型应用,也可以利用业界开源的大模型技术来打造专属的大模型

此外,华为云昇腾AI云服务还提供高效长稳的大模型训练环境和完备的工具链,实现千卡训练连续30天不中断,任务恢复时长小于30分钟;并可通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数行业模型的端到端开发,可从过去的5个月缩短到现在的1个月,整体速度提升5倍。

以上就是华为云昇腾AI云服务正式上线 让千行万业实现大模型普惠的详细内容,更多请关注php中文网其它相关文章!

声明:本文转载于:机器之心,如有侵犯,请联系admin@php.cn删除