Openai：Chatgpt需要合法权利。您需要忘记的权利。

法律特权保护某些关系的机密性。患者和医师或客户和律师之间所说的话，避免了传票，法院披露和对抗性审查。将相同的保护扩展到AI交互意味着将机器视为工具，而是将其作为特权交易所的参与者。这不仅仅是政策建议。这是法律和哲学上的转变，没有人完全认为后果。

它也是在法律制度已经进行测试的时候。在《纽约时报》针对OpenAI的诉讼中，该文件已要求法院迫使该公司保留所有用户提示，包括该公司说该公司在30天后被删除。该请求正在上诉。同时，阿尔特曼（Altman）关于AI聊天的建议应该得到合法的屏蔽提出了一个问题：如果它们像治疗课程一样受到保护，那会使系统在另一端聆听是什么？

人们已经像对待人口一样对待AI。根据常识媒体，四分之一的青少年使用了AI聊天机器人，一半以上说他们相信他们至少有所收到的建议。许多人描述了对这些系统的日益依赖，以处理从学校到人际关系的所有内容。奥特曼本人称这种过度依赖的情感“真的很糟糕和危险”。

但这不仅仅是青少年。 AI已集成到治疗应用程序，职业教练工具，人力资源系统甚至精神指导平台中。在某些医疗保健环境中，AI被用来起草通信和解释实验室数据，甚至在医生看到它之前。这些系统存在于决策循环中，并且它们的存在正常化。

这就是它开始的方式。首先，保护对话。然后，保护系统。从有关隐私的对话开始的开始，迅速发展成为以权利，自治和地位为中心的框架。

我们以前已经看到了这个游戏。在美国法律中，公司逐渐被授予法律人格，不是因为他们被视为人，而是因为它们是一致的法律实体，这些法律实体需要根据法律进行保护和责任。随着时间的流逝，人格成为有用的法律小说。现在，类似的事情可能正在与AI一起展开 - 不是因为它是有意识的，而是因为它以模仿受保护关系的方式与人互动。法律适应行为，而不仅仅是生物学。

法律制度尚未准备好chatgpt的建议

关于如何调节AI内存，同意或交互日志，尚无全局共识。欧盟的AI法案介绍了透明度的要求，但记忆权仍然不确定。在美国，州级数据法冲突，没有联邦政策解决与启用内存AI互动的含义。 （请参阅我最近的福布斯文章，介绍为什么AI法规有效地死了，以及企业需要做什么。）

服务器的物理位置不仅是技术细节。这是一个法律触发因素。在加利福尼亚州的服务器上存储的对话遵守美国法律。如果它是通过法兰克福路由的，则会受到GDPR的约束。当AI系统保留内存，上下文和推断同意时，服务器位置有效地定义了互动上的主权。这对诉讼，传票，发现和隐私有影响。

技术律师John Kheit说：“我几乎希望他们能继续授予这些AI系统的合法人格，就好像他们是治疗师或神职人员一样。” “因为如果是的话，那么所有这些被动数据收集看起来都很像是一种非法窃听，因此，它会在与AI互动时赋予人类的隐私权/保护措施。然后，它也将要求AI提供者披露“对话其他各方”，即，如果提供者是一个矿业派对，那么矿业派对是宣传数据的，如果是广告商的私人私人对话。”

基础设施选择现在是地缘政治。他们确定AI系统在压力下的行为以及用户出现问题时的追索权。

然而，在所有这些之下，这是一个更深的动机：货币化。

奥特曼（Altman）对AI特权的评论听起来可能是保护性的，但实际效果是不透明的。围绕AI交互的法律盾牌使Openai和其他人能够构建专有的黑盒行为数据库，这些数据库是无法检查，审核或有争议的数据。用户将无法检索他们的数据。他们只能查询系统并获取输出。

但是他们不会是唯一提出问题的人。

每次对话都成为四方交流：用户，模型，平台的内部优化引擎以及广告商为访问付费。对于匹兹堡钢人队的提示来说，这是完全合理的。不是因为它很重要，而是因为它是有利可图的。

最近的研究表明，当用户嵌入AI生成的内容中时，用户在检测未标记的广告方面会明显更糟。更糟糕的是，这些广告最初被评为更值得信赖，直到用户发现它们实际上是广告。那时，它们也被评为更具操纵性。

“在体验式营销中，信任就是一切。” Soho体验的创始人Jeff Boedges说。 “您不能伪造关系，也不能没有后果就可以利用它。如果AI系统会记住我们，向我们推荐事情，甚至影响我们，我们最好确切地知道他们记得的内容和原因。否则，这不是个性化。这是操纵。”现在考虑广告商访问心理模型时会发生什么：“哪些用户在情感上最容易受到此类信息的影响？”成为可行的，可查询的提示。

AI系统不需要交出电子表格才能有价值。通过从人类反馈（RLHF）中进行检索型发电（RAG）和增强措施学习，该模型可以根据先前的情感，ClickStream数据和微调广告商的目标实时塑造语言。这不是假设的 - 这就是现代ADTECH已经工作的方式。

那时，聊天机器人不是聊天机器人。这是影响力的模拟环境。它经过培训以建立信任，然后旨在通过它获利。您的行为模式成为产品。您的情感反应成为优化的目标。

业务模型很清楚：黑盒的行为洞察力，通过有用的设计，隐藏在监督的情况下，几乎无法检测到。

这不是授予AI权利的呼吁。这是关于当我们对待像人一样对待系统的情况，而没有成为一个人的问责制时会发生什么。

我们正在进入一个阶段，其中将授予机器而没有人格的保护，并且没有责任。如果用户在具有法律特权的AI会话中承认犯罪，是否被迫举报或保持沉默？谁做出决定？

这些不是边缘案例。他们快到了。他们正在大规模上映。

为什么Chatgpt必须保持模型，以及为什么人类必须重新获得同意

随着生成的AI系统发展成为日常生活中的自适应参与者，重新确定边界比以往任何时候都变得更加重要：模型必须保持模型。他们不能悄悄地假设一个人的法律，道德或主权地位。人类生成训练这些系统的数据必须保留对其贡献的明确权利。

我们需要的是一种标准化的，可强制执行的数据合同系统，该系统允许个人在使用窗口中有限，相互同意的使用窗口，自愿地，透明地和自愿贡献数据。该合同必须在范围，持续时间，价值交换和终止上清楚。即使在积极使用期间，它也必须将数据所有权视为不变的。

这意味着：

• 即使临时获得AI培训的许可，个人也总是拥有自己的数据。
• 同意必须是明确的，可撤销和跟踪的。
• 所有数据访问都必须用不变的出处记录，并以高融合性分类帐获得。

当合同结束或公司违反其条款时，必须根据法律，从模型，培训集和任何衍生产品中删除个人数据。 “被遗忘的权利”必须意味着它说的话。

但是要可信，该系统必须两种工作：

• 数据贡献者无法接受价值（付款，服务，访问），然后再撤销权利。
• 模型所有者必须在合同期内拥有临时权利，并受相同的法律基础设施保护。

这不只是道德。这是关于可强制执行的，相互责任的。

用户体验必须是无缝且可扩展的。法律后端必须安全。结果应该是一种新的经济紧凑型 - 人类知道何时参加AI开发，并保留模型。

Chatgpt正在改变风险表面。这是回应的方法。

作为准参与者（而不仅仅是工具），向AI系统转变将重塑法律曝光，数据治理，产品责任和客户信任。无论您是构建AI，将其集成到工作流程中，还是使用它与客户交互，您应该立即做五件事：

1. 重新评估您的AI免责声明和同意流动。
   如果您的产品涉及AI生成的互动，尤其是在金融，医疗保健，人力资源或心理健康方面，您需要围绕数据使用，记忆和法律界限的清晰语言。假设用户认为您正在与“真实”交谈。
2. 压力测试您的数据保留和管辖权暴露。
   您的AI模型在哪里托管？交互数据存储在哪里？谁拥有它？这些不是疑问，他们是法律触发器。您可能会遵守您仅通过通过错误的云区域进行推理而没有考虑的法律。
3. 为AI影响建立内部审查协议。
   如果您的AI平台推荐产品，指导决策或创建情感共鸣的产出，则您组织中的某人应审查这些系统的意外偏见，脆弱性开发或嵌入式说服力机制。
4. 要求您的供应商透明度。
   如果您要从OpenAI，人类，元或任何第三方获得许可AI服务，请直接询问：您的数据如何存储？谁可以查询它？如果有传票，泄漏或政府要求，该政策是什么？如果他们无法回答，那就是您的答案。
5. 为责任做准备，而不仅仅是创新。
   如果您的AI输出塑造某人的财务，法律或医疗结果，那么您就不会因为说“模型做到了”而受到掩盖。随着法院赶上这些系统的影响，问责制将取决于部署它们的公司，而不仅仅是训练它们的公司。

Chatgpt可能会获得特权。您应该获得被遗忘的权利。

这一刻不仅仅是AI可以做什么。这是关于您的业务让它做的事情，它记得什么以及谁可以访问该记忆。忽略这一点，您不仅冒着侵犯隐私的风险，还冒着长期的品牌信任和监管反击的风险。

至少，我们需要一个法律框架来定义AI记忆的管理方式。不是作为牧师，不是作为医生，也不是作为伴侣，而是作为证人。可以在上下文要求之外进行信息的内容，并在访问，删除和使用方面进行清晰的边界进行检查。

公众对话仍然专注于隐私。但是基本的转变是关于控制的。而且，除非法律和监管框架迅速发展，否则将不是由政策或用户来确定参与条款，而是由拥有框的人设定。

这就是为什么在AI时代，被遗忘的权利可能会成为我们拥有的最有价值的人权。

不仅是因为您的数据可以对您不利，而且因为您的身份本身现在可以以持续无法控制的方式捕获，建模和货币化。当会议结束时，您的模式，偏好，情感触发器和心理指纹不会消失。他们生活在一个永远不会忘记，永不入睡并且永不停止优化的系统中。

没有撤销数据访问的能力，您不仅会失去隐私。你失去杠杆作用。您将失去选择退出预测的能力。您无法控制自己的记忆，代表和复制。

被遗忘的权利不是隐藏的。这是关于主权的。在一个像Chatgpt这样的AI系统将越来越多地塑造我们的选择，我们的身份和成果的世界中，走开的能力可能是仍然属于您的最后一种自由形式。

以上是Openai：Chatgpt需要合法权利。您需要忘记的权利。的详细内容。更多信息请关注PHP中文网其他相关文章！