2023 北京智源大会 6 月 9 日在北京开幕,这是由智源研究院组织举办的。该会议已经连续举办了五年,是一项年度国际人工智能高端专业交流活动。
据悉,本届大会持续两天,核心议题是人工智能发展面临的机遇和挑战,共有两百余位 AI 领域的顶尖专家参会,包括 OpenAI 创人山姆·奥特曼(Sam Altman)、图灵奖得主杰弗里·辛顿(Geoffrey Hinton)和杨立昆(Yann LeCun)等人。他们都围绕着 AI 的发展和挑战发表了自己观点。
(来源:资料图)
“人工神经网络是否很快会比真实的神经网络更聪明?”辛顿在其演讲中主要讨论了这样一个问题。
(来源:资料图)
能够精确遵循指令,是传统计算中计算机的关键。由于该特性存在,用户可在使用相同程序或神经网络时,选用不同的硬件。这就表明,程序中神经网络的权重和硬件不存在依赖关系。
“它们遵循指令的原因是因为他们被设计成让我们先观察问题,确定解决问题所需的步骤,然后告诉计算机执行这些步骤的模式。”辛顿表示。
为了以更低的成本训练大型语言模型,他提出了“有限计算”,也就是放弃传统计算中硬件和软件分离的基本原则,基于对硬件的模拟,来高效地执行计算任务。
但是,这种方式存在以下两大主要问题。
首先,“学习过程必须利用其运行的硬件部件的特定模拟特性,而我们不确切知道这些特性是什么。”辛顿说。
其次,该方法具有有限性。辛顿解释道:“由于知识与硬件细节密不可分,因此当特定硬件设备失效时,所有掌握的知识都会随之丧失。”。”
为了解决上述问题,他和合作者尝试了许多方法,比如“蒸馏法”,该方法被证明非常有效。
他同时指出,智能体群体共享知识的方式将会影响到计算中的许多因素。这也就是说,目前大型语言模型看似能够学习海量知识,但由于其主要通过学习文档来获取知识,不具备从现实世界中直接学习的能力,因此学习的方式是非常低效的。
非监督学习模型,例如视频建模,可以让它们高效地学习。据辛顿所说,这些数字智能体一经启用,就拥有比人类更强的学习能力,且学习速度非常迅速。”
如果顺着这种发展态势,智能体将很快比人类变得更聪明。然而,这也会带来许多挑战,如智能体和人类之间的控制权争夺、伦理和安全等问题。
“想象一下,在未来十年,人工通用智能系统(Artificial General Intelligence,AGI)将会超过 20 世纪 90 年代初人类所具备的专业水平。”奥特曼表示。
他在演讲以及与智源研究院理事长张宏江的问答环节中,探讨了推进 AGI 安全的重要性和策略。
(来源:资料图)
“我们必须为鲁莽的开发和部署可能引发的问题负起责任。”奥特曼表示,其指出了两个方向,即建立包容的国际准则和标准,以及通过国际合作推动 AGI 安全系统的构建。
就当前而言,如何对大型语言模型进行训练,使其能成为真正安全和有益的人类助手,是首要需要解决的问题。
对此,奥特曼提出了几个解决方法。
首先,投资可扩展的监督,比如训练一个可以协助人类监督其他 AI 系统的模型。
其次,不断升级机器学习技术,进一步增强模型的可解释性。
我们的最终目标是让 AI 系统能够更好地自我优化。”奥特曼说,“随着未来的模型变得越来越智能和强大,我们将找到更好的学习技术,在充分发挥 AI 的非凡好处的同时降低风险。”
杨立昆和奥特曼在如何应对当前 AI 带来的风险问题上持有一致的观点。这句话可以重写成:“虽然存在这些风险,但通过精心的工程设计可以减轻或控制它们。”。”
不过,作为一贯反对 GPT 类大模型的专家,杨立昆在题为《朝向能学习、思考和计划的机器进发》的演讲中,清晰地指明了以自监督学习为代表的 AI 系统的优缺点。
(来源:资料图)
其虽然在自然语言处理和生成等方面表现出了极其强大的效果,但它并不具备像人和动物那样进行推理和计划的能力,因此不可避免地会导致一些事实错误、逻辑错误、价值观毒化等问题。
基于此,杨立昆认为未来几年 AI 将面临三大挑战:学习世界表征及预测的模型;学习推理能力;学习如何将复杂任务分解为简单任务,并进行分层推进。
并且,他提出了世界模型是通往 AGI 之路的核心的观点。
在他看来,世界模型是可以想象未来会发生什么的系统,其能够以最小的成本得出自己的预测。
该系统的运行方式是利用可能存储在记忆中的先前世界观,来处理当前世界状态。然后你用世界模型来预测如何世界接着运转会发生什么。”杨立昆说。
那么,该如何实现这个世界模型呢?“我们有一个分层系统,通过一连串的编码器,提取世界状态的更多和更抽象的表示,并使用不同层次预测器的世界模型。”他说。
简单来说,也就是将复杂的任务,以分解规划到毫秒级的方式完成。需要说明的是,必须有一个系统来控制成本并优化标准。
综上可以看出,虽然三位专家对 AI 的看法和观点不尽相同,但他们都表明了,AI 的发展已经成为大势所趋。正如奥特曼所说,我们不能阻止 AI 的发展。
在此基础上,如何找出 AI 的更好发展方式,抑制其可能带来的一系列风险和危害,最终朝着 AGI 的终点迈进,将是人们在下一阶段需要聚焦的主要方向。
以上就是争鸣:OpenAI奥特曼、Hinton、杨立昆的AI观点到底有何不同?的详细内容,更多请关注php中文网其它相关文章!
已抢23690个
抢已抢118174个
抢已抢139437个
抢已抢6290个
抢已抢36260个
抢已抢66896个
抢