最近,谷歌正在全力开发生成式人工智能技术。在其年度 I/O 大会上,该公司宣布计划将人工智能工具嵌入其几乎所有产品中,从谷歌文档到编程和在线搜索。
谷歌的声明意义重大。现在,数十亿人将能够使用强大的尖端人工智能模型,帮助他们完成各种任务,从生成文本到回答问题,再到编写和调试代码。正如《麻省理工技术评论》主编马特·霍南(Mat Honan)在对 I/O 大会的分析中所写的那样,很明显人工智能现在已成为谷歌的核心产品。
(来源:STEPHANIE ARNET/MITTR)
逐步将这些新功能引入谷歌产品是他们的做法,但问题迟早会浮现。该公司尚未解决这些人工智能模型的任何常见问题:它们仍然喜欢胡编乱造;它们仍然很容易被操纵,打破人类设定的规则;它们仍然容易受到攻击;几乎没有什么能阻止它们被用作生成虚假信息、诈骗和垃圾邮件的工具。
这类人工智能工具相对较新,因此它们仍然大部分处于缺乏监管的状态。但这是不可持续的。ChatGPT 的热度逐渐冷却,但监管需求不断增长,监管机构开始面临 ChatGPT 技术所带来的挑战。
美国监管机构正试图找到一种方法来管理这些强大的人工智能工具。本周,OpenAI CEO 萨姆·奥特曼(Sam Altman)在美国参议院作证(前一天晚上他刚与政界人士共进了一顿“教育性质的”晚餐)。在听证会之前一周,美国副总统卡玛拉·哈里斯(Kamala Harris)刚与 Alphabet、微软、OpenAI 和 Anthropic 的 CEO 举行了会议。
图 | OpenAI 创始人山姆·奥特曼(Sam Altman)(来源:资料图)
在声明中,哈里斯指出这些公司需承担道德和法律责任,以确保产品的安全。多数党领袖、纽约州参议员查克·舒默(Chuck Schumer)提出了监管人工智能的立法,其中可能包括成立一个新机构来执行这些规则。
斯坦福大学“以人为中心的人工智能研究所”的隐私和数据政策研究员詹妮弗·金(Jennifer King)说:“每个人都希望自己做的一些事情被看到。人们对这一切的发展感到非常焦虑。”
金表示,要让两党支持一项新的人工智能法案将很困难:“这将取决于(生成式人工智能)在多大程度上被视为一种真正的社会层面的威胁。然而,她进一步指出,联邦贸易委员会主席利娜·汗已经采取积极行动。本月早些时候,汗写了一篇专栏文章,呼吁现在就对人工智能进行监管,以防止过去对科技行业过于松懈而导致的错误。据她所述,监管人工智能的美国机构更倾向于利用现有的法律工具包,如反垄断法和商业惯例法。
同时,在欧洲,立法者即将就《人工智能法案(AI Act)》达成最终协议。欧洲议会成员上周签署了一份法规草案,要求禁止在公共场所使用面部识别技术。它还禁止了在网上获取生物特征数据时的预测性警务和情绪识别,以及对所有人不分青红皂白地进行抓捕。
议会希望推出更多规定来管制生成式人工智能,同时欧盟也将加强监管力度,要求涉及开发大型人工智能模型的公司更加透明。潜在措施包括标记人工智能生成的内容,以摘要的形式披露模型训练中使用了哪些受版权保护的数据,以及建立防止模型生成非法内容的保障措施。
但问题是:欧盟距离实施这些规则还有很长的路要走。《人工智能法案》的许多拟议内容都无法进入最终版本。议会、欧盟委员会和欧盟成员国之间仍在进行艰难的谈判。我们还需要数年时间才能看到《人工智能法案》生效。
知名科技人士开始朝着相反的方向努力,反其道而行。微软首席经济学家迈克尔·施瓦茨(Michael Schwarz)在最近的一次活动上表示,我们应该等到看到人工智能带来的“有意义的伤害”后再对其进行监管。他将人工智能比作驾照——许多人在事故中丧生后才有了驾照。只有有一定程度的伤害,我们才能真正了解问题所在。”
这种说法太离谱了。人工智能造成的危害多年来已被充分记录在案。它存在偏见和歧视,会生成假新闻和诈骗信息。成千上万的人因错误指控欺诈而陷入贫困,这是其他人工智能系统导致的无辜被逮捕的结果。随着谷歌大规模宣传自己的下一步计划,生成式人工智能将会越来越深地融入我们的社会,这些危害可能会呈指数级增长。
我们应该问自己的问题是:我们愿意看到多大的伤害?而我的答案是:我们已经看得够多了。
支持:Ren
原文:
https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/
以上就是OpenAI CEO 出席美国参议院听证会,讨论如何更好地监管AI的详细内容,更多请关注php中文网其它相关文章!
已抢23343个
抢已抢117766个
抢已抢139232个
抢已抢6232个
抢已抢35532个
抢已抢8110个
抢