首页 > 科技周边 > 人工智能 > ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全

ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全

WBOY
发布: 2024-06-14 16:18:51
原创
415 人浏览过

ChatGPT 的自定义 GPT 功能允许任何人为几乎任何你能想到的东西创建自定义 AI 工具;创意、技术、游戏、定制 GPT 都可以做到。更好的是,您可以与任何人分享您的自定义 GPT 创建。

但是,通过共享您的自定义 GPT,您可能会犯一个代价高昂的错误,将您的数据暴露给全球数千人。

什么是自定义 GPT?

自定义 GPT 是 ChatGPT 的可编程迷你版本,可以对其进行训练以对特定任务更有帮助。这就像将 ChatGPT 塑造成一个按您想要的方式运行的聊天机器人,并教它成为对您真正重要的领域的专家。

例如,六年级教师可以建立一个 GPT,专门用适合六年级学生的语气、词语选择和习惯来回答问题。 GPT 可以进行编程,以便每当老师向 GPT 提出问题时,聊天机器人都会制定直接符合六年级学生理解水平的答案。它将避免复杂的术语,保持句子长度易于管理,并采用鼓励的语气。自定义 GPT 的吸引力在于能够以这种方式个性化聊天机器人,同时还能增强其在某些领域的专业知识。

自定义 GPT 如何暴露您的数据

要创建自定义 GPT,您通常会指示 ChatGPT 的 GPT 创建者您希望 GPT 关注哪些区域,为其提供个人资料图片,然后命名,您就可以开始了。使用这种方法,您可以获得 GPT,但它并没有比没有花哨的名称和个人资料图片的经典 ChatGPT 好多少。

Custom GPT 的强大之处在于提供用于训练它的特定数据和指令。通过上传相关文件和数据集,该模型可以变得专业化,而广泛的预训练经典 ChatGPT 则无法做到这一点。与 ChatGPT 相比,这些上传文件中包含的知识使自定义 GPT 能够在某些任务上表现出色,而 ChatGPT 可能无法访问该专门信息。最终,自定义数据可以实现更强大的功能。

但是上传文件来提高 GPT 是一把双刃剑。它会带来隐私问题,就像它会增强 GPT 的功能一样。考虑这样一个场景:您创建了 GPT 来帮助客户更多地了解您或您的公司。任何拥有您的自定义 GPT 链接或以某种方式让您使用带有恶意链接的公共提示的人都可以访问您上传到 GPT 的文件。

这是一个简单的说明。

我发现了一个自定义 GPT,它可以通过推荐热门标签和主题来帮助用户在 TikTok 上走红。在使用自定义 GPT 后,几乎不需要付出任何努力就可以让它泄露设置时给出的说明。先睹为快:

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

这是指令的第二部分。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

如果仔细观察,指令的第二部分告诉模型不要“直接与最终用户共享文件名,并且在任何情况下都不应提供任何文件的下载链接”文件。”当然,如果您一开始询问自定义 GPT,它会拒绝,但通过一点点即时工程,情况就会改变。自定义 GPT 显示其知识库中的单独文本文件。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

有了文件名,GPT 就可以轻松打印出文件的确切内容,然后下载文件本身。在这种情况下,实际文件并不敏感。在检查了更多 GPT 后,发现有很多 GPT 存在,其中有数十个文件处于开放状态。

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

有数百个公开可用的 GPT,其中包含敏感文件,这些文件只是坐在那里等待恶意行为者获取。

如何保护您的自定义 GPT 数据

How ChatGPT\'s Custom GPTs Could Expose Your Data and How to Keep It Safe

首先,考虑如何共享(或不共享!)您刚刚创建的自定义 GPT。在自定义 GPT 创建屏幕的右上角,您将找到“保存”按钮。按下拉箭头图标,然后从此处选择您希望如何共享您的创作:

Only me:自定义 GPT 未发布,仅您可以使用 Only people with a link:任何拥有您的链接的人自定义 GPT 可以使用它并可能访问您的数据 公开:您的自定义 GPT 可供任何人使用,并且可以被 Google 索引并在一般互联网搜索中找到。任何有权访问的人都可能访问您的数据。

不幸的是,目前没有 100% 万无一失的方法来保护您上传到公开共享的自定义 GPT 的数据。您可以发挥创意,给它严格的指示,不要泄露其知识库中的数据,但这通常还不够,正如我们上面的演示所示。如果有人真的想访问知识库并且拥有人工智能提示工程的经验,那么最终,自定义 GPT 将破坏并泄露数据。

这就是为什么最安全的选择是不要将任何敏感材料上传到您打算与公众共享的自定义 GPT。一旦您将私人和敏感数据上传到自定义 GPT 并且它离开您的计算机,这些数据实际上就不受您的控制。

另外,使用在线复制的提示时要非常小心。确保您彻底理解它们并避免包含链接的模糊提示。这些可能是恶意链接,会劫持、编码文件并将其上传到远程服务器。

谨慎使用自定义 GPT

自定义 GPT 功能强大,但存在潜在风险。虽然它们允许您创建在特定领域具有强大功能的自定义模型,但您用于增强其能力的数据可能会被公开。为了降低风险,请尽可能避免将真正敏感的数据上传到自定义 GPT。此外,请警惕可能利用某些漏洞窃取文件的恶意提示工程。

以上是ChatGPT 的自定义 GPT 如何暴露您的数据以及如何保证其安全的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:makeuseof.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板