8月30日,华为云在北京召开了以"开放同飞,共赢行业AI新时代"为主题的盘古大模型主题论坛。华为云EI服务产品部部长尤鹏在他的演讲《盘古大模型,为行业而生》中深入探讨了AI大模型的发展趋势、技术创新实践以及产业发展机会。尤鹏表示,大模型正在重塑各个行业,华为云将充分利用在大模型领域的技术积累和工程能力优势,帮助客户和合作伙伴快速构建盘古大模型的开发和应用能力,使之成为每个企业实现战略转型和智能升级的核心动力
华为云EI服务产品部部长尤鹏发表主题演讲
盘古大模型采用了三层架构的分层解耦,具有天然的生态友好特性
随着大模型逐渐加速行业智能化的转型,越来越多的行业核心业务系统也开始受到大模型能力的渗透。华为云一直致力于为各行各业提供AI解决方案,通过打造盘古大模型,推动千行百业的智能化升级
尤鹏介绍,盘古大模型提供5个基础大模型+N个行业大模型+X个场景模型的三层解耦架构,天然具备良好的生态开放性。基于分层解耦的架构,盘古大模型提供调用集成和定制联创两种应用模式,可以快速适配,满足多种场景业务诉求。在调用集成模式下,华为云L0盘古基础大模型提供100多个能力集,各项能力集互相解耦,可以通过API直接调用。企业用户可以根据业务场景需要,选择所需的能力集,使用盘古大模型工作流,快速开发行业场景应用。在定制联创模式下,企业可以在L0或L1盘古大模型的基础上,通过对自有数据的二次训练,就可以快速训练出自己专属的行业大模型。同时,根据客户不同的数据安全与合规诉求,盘古大模型还提供了公有云、大模型云专区、混合云多样化的部署形态。
华为云昇腾AI云服务为大模型的训练提供强大且即时可用的计算能力,为客户和合作伙伴的大模型开发、部署和运行提供领先且可持续的AI计算基础设施
此外,要重新编写的内容是:在保持原意不变的情况下,需要将语言改为中文。 华为云将积极参与盘古大模型在行业中的实施,这离不开繁荣的生态环境。我们将与各行各业的客户伙伴紧密合作,共同建立全面协同的生态体系,为用户提供丰富的行业场景解决方案。这些解决方案将更加专注于特定的应用场景或业务需求,并为用户提供即插即用的模型服务
盘古大模型工程套件,5倍速开发行业大模型
尤鹏表示,为了应对通用大模型落地行业存在的挑战,华为云提供了大模型工程套件,其中包括数据工程、模型开发和应用开发三大套件。通过使用盘古大模型工程套件,现在可以在一个月内完成一个千亿行业模型的端到端开发,相比过去需要五个月的时间,整体速度提升了五倍
在数据工程套件方面,盘古大模型的数据工程套件相较于传统标注平台,在SFT训练方面提供了基于模板的Prompt在线辅助撰写功能,并为RLHF训练提供了多人Rank在线标注和任务分拨功能。与离线对比,这两种任务的实测效率可提升3倍。此外,数据工程套件还针对数据清洗问题,内置了50+数据清洗算子,能够应对90%以上的清洗场景,大幅提升清洗性能
在模型开发套件方面,大模型开发套件提供了三种工作流,包括自监督训练、有监督微调和强化学习训练。这些工作流涵盖了从超参数配置到模型训练、评估、管理和部署的完整流程。大模型开发套件凝结了大模型专家的实践经验,将复杂的大模型开发流程化、标准化和简化,帮助行业用户轻松启动并一站式开发适用于本行业的大模型。同时,通过模型量化和多种推理加速技术,大幅提升了推理吞吐量,使吞吐量可提高10倍,从而大幅优化了模型的推理性能
在应用开发套件方面,盘古应用开发套件将传统软件工程与大模型相结合,提供灵活的基于SDK的开发方式,只需2行代码即可完成大模型接入,仅需5分钟即可完成大模型应用开发,支撑企业分钟级构建大模型原生应用。作为业内首个同时提供Python、Java版本SDK的大模型应用开发套件,支持更广泛、更全面的大模型应用开发能力。盘古应用开发套件良好地兼容开源生态,实现“一切皆可编排”,结合可视化的编排服务,帮助用户在大模型上更好地使用各种工具和技能
共建盘古大模型全域协同生态,共享行业AI新机遇
大模型的创新不仅仅是模型自身的创新以及AI各项根技术的创新,在算力、算法、平台、应用、服务等方面也需要全链条生态伙伴、客户的参与。对于软件伙伴、服务伙伴以及数字化转型与系统集成伙伴这三个主要伙伴,华为云开放了行业大模型、软件解决方案、插件集成、数字化转型咨询、数据生态等全方位的生态合作路径
华为云为软件伙伴提供了三个开放的生态合作路径,分别是模型联创、解决方案构建和插件集成。我们与具备数据积累和行业经验的伙伴合作,共同构建行业模型和场景模型,打造智能底座。与具备行业实践经验、大模型集成和开发技术的伙伴合作,共同构建面向行业的细分场景模型,提供可复制的软件解决方案。同时,我们与企业服务软件和工具软件伙伴协同合作,通过丰富的插件来完善盘古大模型的技能集,拓宽大模型的能力边界
华为云开放项目为服务伙伴提供了机会,通过赋予各种权益,如认证、技术支持和激励等,帮助伙伴快速构建业务模式,实现可持续快速发展。我们致力于在盘古大模型落地的最后一公里提供优质服务,实现大模型商业闭环
为了实现数字化转型,华为云与具备系统资质的伙伴进行BP互锁和Offering共建,以深耕客户为目标,为客户提供盘古大模型服务相关的咨询与系统集成服务的合作伙伴
尤鹏最后表示,华为云欢迎更多的行业客户和伙伴加入盘古大模型,共同塑造千行百业的未来。我们希望能够共创生态圈,共同创新,分享价值和机遇
以上就是华为云尤鹏:盘古大模型,共享智慧,服务行业的详细内容,更多请关注php中文网其它相关文章!
已抢65055个
抢已抢28186个
抢已抢15203个
抢已抢7624个
抢已抢9519个
抢已抢19299个
抢