聊天机器人的隐私是可以通过开源模型实现的，但大型科技公司可能不会喜欢

发布于 2023 年 5 月 11 日，作者：Glyn Moody

早在二月，PIA 博客就指出，虽然聊天机器人可能确实是人工智慧AI的一次令人兴奋的突破，但它们同时也代表著一个巨大的隐私威胁。果然，几个月后，全球各地的数据保护机构开始关注并发出警报。

在这种监管的最前线是意大利的数据保护机构Il Garante per la protezione dei dati personali。该机构因担心 ChatGPT 违反欧盟通用数据保护条例GDPR，而暂停了在该国的使用。它给 ChatGPT 的背后公司 OpenAI 提供了一系列要求的修改意见，并设置了完成的截止日期。

虽然 OpenAI 遵从了这一要求，但专有聊天机器系统纪录您个人信息的问题仍然存在。最好的解决方案似乎很简单，但对于这一领域最大的参与者来说却可能是个威胁：开源聊天机器人。

专有 AI 系统真的能删除您的个人信息吗？

在 OpenAI 修改其运作方式之后，意大利已经撤回了对 ChatGPT 的禁令。该公司同意提供更多关于其如何处理个人数据的信息，并更新了其在意大利的注册页面，要求用户提供出生日期。这是为了防止年龄低于 13 岁的人使用该系统。

OpenAI 还创建了一个表单，供那些希望反对其个人数据处理的人使用。但其中一项要求是，人们需要提供证据，以表明他们的数据被使用：

请提供任何相关的提示，这些提示导致模型提到数据主体。为了妥善处理您的请求，我们需要明确的证据，证明模型知晓数据主体的信息是基于这些提示。

换句话说，您必须注册 OpenAI 才能反对其处理，这似乎是不太令人满意的。

目前尚不清楚即使 OpenAI 想要，它能多大程度上删除个人数据。它的模型并不直接储存这些数据，而是将信息作为大量训练参数的一部分。这意味著各种个人信息“潜在地”存在于这些模型中，这种存在方式非常微妙且不容易察觉。现在尚无前例可供参考，针对这些庞大且难以理解的模型删除特定的个人数据，因此它能在多大程度上做到仍然是一个问号。

幸运的是，尽管全球各地的数据保护机构对隐私影响感到忧虑，但重大技术进展的出现，可能会解决他们发现的许多问题。现在出现了开源聊天机器人和生成性 AI 系统，这些系统的性能甚至可以和那些市场上昂贵数千倍的商业系统相媲美。此外，这些新系统非常紧凑，这篇 Christopher S Penn 的博客文章 如此描述：

甚至有项目将这些模型安装到您的笔记本电脑作为私人聊天实例，例如 GPT4ALL 软件。这看起来像 ChatGPT 并且运行方式相似，但它是一个桌面应用程序，一旦设置完成就不需要网络连接，更重要的是，它不会将数据共享到您的个人电脑之外，确保隐私。

他的文章很好地解释了这一点如何实现，包括对保护个人数据的影响：

直到现在，像 ChatGPT 这样的服务将您的数据发送给第三方公司使用，这就是为什么我们强调您绝对不应该在使用敏感信息时使用它们的原因。现在，情况不再如此您可以在完全隐私的状态下使用 GPT4ALL。这是兼具性能和隐私保障的最佳选择像 ChatGPT 这样的服务的性能和能力，数据您的数据不会离开您的电脑。这对金融、医疗保健、政府等行业来说是理想的任何您不想随意交出受保护信息的地方。

开源聊天机器人隐私是可能的

现在，公司可以在自己的硬件上运行强大的聊天机器系统，并且无数据传送至外部世界，这似乎使得一个新的技术行业，开始为企业和一般用户提供高度定制的解决方案，这一趋势很可能会兴起。

本地托管的 AI 聊天机器人将通过将其功能限制在非常特定的领域，避免许多流行解决方案的问题。这意味著它们不太可能开始产生荒谬的、不相关的，甚至是危险的回答。最重要的是，隐私问题会减少，因为用于训练这些系统的任何个人数据不会离开公司的办公场所尽管在用户同意方面仍可能存在重要的 GDPR 问题。

这对于企业和一般用户来说都是个好消息。但这也引出了有关目前领先聊天机器人领域的公司如 OpenAI、Google 和 Microsoft的问题，这些公司正花费数十亿美元开发专有解决方案。看起来 一份泄露的谷歌内部文件 显示，至少部分公司内部人士意识到他们和其他公司面临著严重的问题：

最终，OpenAI 并不重要。他们在开源上的立场与我们面临的错误是相同的，他们保持优势的能力必然受到质疑。开源替代品可以且最终将超越他们，除非他们改变立场。

虽然目前仍是早期阶段，但开源的紧凑型强大聊天系统的兴起，或许是我们所能希望的最佳技术发展。这使得新兴的 AI 市场不太可能被一家巨头公司所拥有，并且能够快速启动基于开源代码的新创公司。此外，能在企业甚至个人电脑上运行 AI 聊天机器人的能力，使解决目前困扰聊天机器人的重大隐私问题变得比最初担心的要容易得多。

购买 PIA VPN

封面图片由 Stable Diffusion 创作。