美国《外交政策》杂志5月29日文章,原题:人工智能将加剧全球不平等现象人工智能(AI)竞赛愈演愈烈,其风险也达到了前所未有的程度。包括阿里巴巴、谷歌和微软在内,各大企业都在运用强大的计算能力,推动AI进步。此外,成百上千的私有企业和非营利组织也在推出软件和程序,以期在这一新兴市场占据一席之地。有关人士预测,这些成果将颠覆我们工作、娱乐、交易、创造财富和管理事物的方式。
机器人会代替人类吗?
在一片乐观的氛围中,畏惧的情绪也在滋长。越来越多的科技巨头和计算机科学家都表达了对复杂算法的担忧,他们认为在不久的将来,超级智械将迅速取代人类。根据一项2022年的调查,近50%的AI专家认为,这些技术有可能会导致人类毁灭的风险达到至少10%。
对机器智能风险的担忧由来已久。自1872年起,英国作家塞缪尔·巴特勒在《乌有之乡》一书中便预言,自主意识的机器人最终将取代人类。1942年,俄裔美籍科幻小说大师艾萨克·阿西莫夫提出了著名的“机器人三定律”:机器人不得伤害人类;机器人必须服从人类命令,除非这些命令与第一定律相冲突;机器人必须保护人类存在,只要这种保护不与第一定律或第二定律相冲突。
AI目前的普及程度和混乱程度是前所未有的,这一点可以从历史中得到证实。大型语言模型及其背后强大的计算能力不再局限于实验室,而是走向上亿人的真实生活。然而,一些AI的坚定支持者相信,如果不加以限制,AI将很快带来致命的灾难。曾经远在天边的理论威胁如今变得愈发真切,日前,有3.1万余人联名呼吁,暂停对强大AI模型的培训,因为它们是“当今社会和人类面临的最大风险”。
潜在危害集中在4个方面
在这种焦虑开始蔓延之前,北美和西欧的政府、企业和高校已经开始就人工智能及其潜在危害进行讨论。关注点主要聚焦在4个方面:首先,超级智能机器可能快速取代人类,带来存在性威胁;第二,AI会加重失业形势;第三,AI模仿及传递文本、语音和视频的方式,会加剧虚假和错误信息的传播;第四,AI可能会被用于研发生化或网络病毒等末日科技,从而带来毁灭性打击。
随着有关AI风险意识的增强,用于缓冲风险的标准也在逐步完善。这些标准多数是自愿性的,例如大量有关设计责任感和自我约束的协议和准则。实现人类利益最大化、提升设计安全性、以及算法优化,这些都是常见的AI开发原则。算法透明、有关应用的责任感和公平公正、隐私和数据保护、人为监督和管控、以及合规性,都是AI的发展目标。科技企业正在积极参与,推动建立 AI 管理机构和更完善的制度体系,因为自愿的自我监管将逐渐失去关注。
然而,对保障体系的关注范围还远远不够。目前,有关AI和减轻其危害的策略的讨论主要集中在西方世界。绝大多数现行的政府和行业标准均是源自欧盟、美国或经合组织成员国。
欧盟即将推出新的AI法案,聚焦存在高风险的AI应用和体系。西方世界之所以对AI关注度高,是因为各个地区拥有大量集中的AI企业、投资人和研究机构。而在拉丁美洲、南部非洲、南亚和东南亚等地,尽管AI也在迅猛发展,其需求和担忧却并没有出现在AI的相关讨论中。换言之,有关AI影响和监管的讨论,主要集中在少数人口中。在贫困和发展不足的国家,关注和资金投入都远远不够。全球人口已经达到67亿。
低收入地区危害更甚
由于缺乏人工智能监管,这种形势带来重大风险,全球南方地区面临的负面影响尤其严重。AI更深层次的负面影响在于对平等机遇的侵害。放任AI自由发展,将扩大各国的社会、经济和数字鸿沟,促使企业权力集中,深化技术垄断,使西方早已千疮百孔的民主制度雪上加霜。
尽管AI的危害是全球性的,但其对各地区的影响程度并不相同,在监管体系和制度薄弱的中低收入的国家和地区,其危害尤其严重。一方面,富有国家开发的算法和数据,以及在发展中国家的后续应用,会加重由于意识薄弱和多样性不足导致的偏见和歧视。工资待遇不足以及缺乏劳动保护,收入和技术水平较低的工人更容易面临被人工智能取代的风险。诚然,AI在全球南方的发展将带来巨大的利益,但如果缺乏适当的监管、伦理管控和对公众意识的强化,我们就无法限制其负面影响。
Atas ialah kandungan terperinci 美国《外交政策》杂志:人工智能将加剧全球不平等现象. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!