OpenAI发布ChatGPT插件，引发担忧：内容质量与安全性待衡量

3月24日消息，美国当地时间周四，人工智能研究公司OpenAI为其爆火聊天机器人ChatGPT发布了多个插件，它们将帮助ChatGPT连接网络以实时检索信息或使用第三方应用。

据悉，OpenAI的插件将允许ChatGPT访问第三方知识源和数据库，包括网络，从而大大扩展了聊天机器人的能力。OpenAI将向ChatGPT测试申请用户和开发者提供Alpha版。在面向大众开放访问前，最初将优先考虑少数开发者和ChatGPT Plus订阅者。

最吸引人的插件无疑是OpenAI的第一方网络浏览插件，它允许ChatGPT从网络上寻找数据来回答向它提出的各类问题。而此前，ChatGPT的信息内容仅限于2021年9月之前的日期、事件和人物。新插件使用微软必应搜索API从网络上检索内容，同时显示它在概括答案时所访问的网站，并在ChatGPT的回应中引用其来源。

不过，可以联网访问其他信息来源的行为可能会存在新的风险，正如OpenAI团队此前的研究发现一样。OpenAI曾于2021年创建过名为WebGPT的实验系统，它有时会引用不可靠来源的信息，并被诱导从用户可能信任的网站上挑选数据，即使这些来源客观上并不十分权威。Meta后来下线的BlenderBot 3.0也可以访问网络，但很快偏离了最初设想。当收到某些文本提示时，它会发布阴谋论或其他攻击性内容。

与静态训练数据集相比，实时网络的精确度更低，而且这意味着过滤限制更少。谷歌和必应等搜索引擎使用自己的安全机制来降低不可靠内容升至搜索结果首位的几率，但这些结果可能会被操纵，它们也不一定能代表整个网络。正如此前有报道称，谷歌的算法优先考虑使用加密、移动支持和模式标记等现代网络技术的网站。因此，许多拥有其他高质量内容的网站往往会被漏掉。

这给了搜索引擎很大权力来挑选数据，这些数据可能会为网络语言模型的答案提供信息。人们发现，谷歌在搜索中优先考虑自己的服务，例如用Google Places的数据回答旅行查询，而不是从像TripAdvisor这样更丰富、更社会化的资源汇总信息。与此同时，搜索的算法方法也容易出现漏洞。2020年，Pinterest曾利用谷歌图像搜索算法的一个异常，在谷歌图像搜索中显示了更多内容。

OpenAI承认，能够连网的ChatGPT可能会出现所有类型的不良行为，如发送欺诈性信息和垃圾电子邮件，绕过安全限制，并通常“增强那些欺骗、误导或虐待他人的不良行为者的能力”。但该公司也表示，其已经在内部和外部“实施了几项保障措施”，以防止这种情况发生。

除了浏览器插件，OpenAI还为ChatGPT背后的模型提供了一个在沙盒、防火墙执行环境中工作的Python 解释器，以及一些临时磁盘空间。这种插件支持将文件上传到ChatGPT并下载结果。OpenAI表示，它在解决数学问题、进行数据分析、可视化以及文件格式之间转换方面特别有用。

许多早期合作者已经为ChatGPT构建了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram以及Zapier。

在很大程度上，这些插件的用途不言自明。例如，OpenTable插件将允许聊天机器人在餐厅中搜索可用的预订，而Instacart插件允许ChatGPT从本地商店下订单。Zapier是迄今为止可扩展性最强的应用之一，它可以与Google Sheets、Trello和Gmail等应用连接，从而触发一系列生产力相关任务。

为了鼓励开发者创建新插件，OpenAI已经开源了一个“检索”插件，使ChatGPT能够通过用自然语言提问来访问来自文件、笔记、电子邮件或公共文档等数据源的文档片段。OpenAI发文称：“我们正在努力开发各类插件，并将它们带给更广泛的受众。我们还有很多东西需要学习，在大家的帮助下，我们希望打造出既实用又安全的东西。”

对于ChatGPT来说，插件是必不可少的补充。ChatGPT曾经受到严格限制，只能从其培训数据中学习，但在有了插件后，它突然变得更加强大，或许法律风险也更小。许多专家指责OpenAI通过利用未经许可的数据训练ChatGPT获利，ChatGPT的数据集包含各种各样的公共网站，而插件可能会通过允许公司保留对其数据的完全控制权来解决这个问题。（小小）

Atas ialah kandungan terperinci OpenAI发布ChatGPT插件，引发担忧：内容质量与安全性待衡量. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!