科技观察丨人工智能威胁人类文明引担忧，AI将引发下一场金融危机？

封面新闻记者 燕磊

当地时间5月17日，路透社/益普索民调显示，大多数美国人认为，人工智能AI技术的迅速发展可能危及人类的未来。据民调显示，超过三分之二的美国人担心人工智能的不良影响，而61%的人担心它可能对文明造成威胁。

人工智能或将威胁人类文明

自从OpenAI的ChatGPT聊天机器人成为有史以来用户增长最快的应用程序以来，AI在日常生活中的广泛使用使得其成为公众讨论的重点。ChatGPT正在参与一场AI军备竞赛，其中包括微软、谷歌等科技巨头推出相似产品并进行竞争。

国会议员和AI企业也对此表达了担忧。在国会作证时，OpenAI的CEO山姆·奥特曼表达了对该技术可能被滥用的担忧，并呼吁加强监管。

国会参议员科里·布克在听证会上表示：“无法将这个精灵困在瓶子里。”。在全球范围内，它正在爆炸式增长。”

民调发现，预期AI将带来不利后果的美国人人数是不这样预见的3倍，61%的受访者认为AI对人类构成风险，只有22%的人不同意，还有17%的人不确定。

在2020年投票给特朗普的选民表达了更高程度的担忧：70%的特朗普选民和60%的拜登选民认为AI可能威胁人类。

据未来生命研究所的美国政策主任兰登·克莱恩表示，如此众多的美国人对AI的负面影响表示出担忧。特斯拉CEO马斯克在联署一封公开信中，支持该组织要求暂停6个月的AI研究。

虽然美国人普遍担心AI，但他们最担心的问题是犯罪和经济：77%的人支持增加警察拨款打击犯罪，82%的人担心经济衰退的风险。

路透社/益普索在线民调于5月9日至5月15日期间进行，访问了4415名美国成年人，可信度区间为正负2个百分点。

多方呼吁美国政府加强监管

OpenAI公司CEO奥特曼于5月16日首次在国会露面，敦促政府加强对人工智能领域的监管。他建议，若一家公司欲开发强大的人工智能系统，应取得政府的相关许可。

OpenAI公司首席执行官奥特曼在参议院作证。

奥特曼与IBM首席隐私和信任官克里斯蒂娜·蒙哥马利，以及纽约大学心理学和神经科学荣誉退休教授加里·马库斯一起出席了参议院司法委员会举行的听证会，讨论对人工智能的监督问题。

像ChatGPT这样的人工智能系统的快速发展，促使许多顶尖的技术专家和学者呼吁该行业暂停一些开发，并要求政府对此进行干预。

尚未达成共识的是业内对于实施哪种监管方式，国会和联邦机构一直在探索自己的角色。在作证之前的那天，奥特曼向约60名参议员发表了演讲，赢得了许多人的赞扬，并在其后的近两个小时里回答了问题。

参议员理查德·布卢门撒尔建议，可以要求让人工智能模型公开其训练所涉及的信息。奥特曼对这个想法做出了积极的回应。

共和党国会参议员约什·霍利指出人们可能会使用人工智能作为信息的来源之后，奥特曼再次表示，他认为政府在监管这项技术方面可以发挥作用。但他也表示，他相信公众将学会适应人工智能制造的虚假信息。

有一些行业内专家呼吁政府将完全监管人工智能的工作交由科技公司负责。对此，马库斯呼吁在美国建立一个内阁级别的组织来监管人工智能。

下一场金融危机或由AI引发？

据《华尔街日报》5月17日消息，美国证监会主席根斯勒表示，下一次金融危机可能出现企业对人工智能的使用上，他对该技术传播构成的潜在“系统性风险”发出警告。

当地时间16日，根斯勒在美国金融业监管局于华盛顿举办的一次会议上说，数据聚合器和人工智能平台可能成为未来金融系统“脆弱性” 的主要组成部分。

根斯勒表示：“多年后的观察家可能会回过头来说，2027年的危机是因为一切都依赖于一个基础层面，也就是所谓的生成性人工智能层面，而一堆金融科技应用都建立在这个基础之上。”

鉴于人工智能有望用更少人工完成更多工作，美国经济各领域的许多企业已经接受人工智能，即便在这种情况下，与根斯勒一样，许多政府官员也对这项技术持怀疑态度。

人工智能已广泛应用于银行和其他金融机构的各种功能中，涉及的工作包括评估新客户和检查可疑交易等繁重的合规工作。但根斯勒说，尽管有可能提高效率，但这些系统应受到严格审查。他说：“你不一定需要理解所有的数学，但你必须真正理解风险管理是如何运作的。”。”

以上就是科技观察丨人工智能威胁人类文明引担忧，AI将引发下一场金融危机？的详细内容，更多请关注php中文网其它相关文章！