当你与聊天机器人交谈时，谁在听？

　　

　　随着科技行业竞相开发和部署一系列功能强大的新型人工智能聊天机器人，它们的广泛采用引发了一些公司、监管机构和行业观察人士对数据隐私的新担忧。

　　出于对员工使用第三方软件的合规性担忧，包括摩根大通 (JPM) 在内的一些公司已禁止员工使用 ChatGPT，ChatGPT 是病毒式 AI 聊天机器人，它首先拉开了 Big Tech 人工智能 军备竞赛 的序幕。

　　

　　当 ChatGPT 背后的公司 OpenAI 披露它不得不在 3 月 20 日暂时下线该工具以修复一个允许一些用户看到其他用户聊天记录的主题行的错误时，它只会增加隐私担忧。

　　同样的错误，现在已经修复，也使得“一些用户可以看到另一个活跃用户的名字和姓氏、电子邮件地址、支付地址、信用卡号码的最后四位（仅）和信用卡到期日期， ” OpenAI 在一篇博文中说道。

　　就在上周，意大利监管机构发布了对该国 ChatGPT 的 临时禁令，理由是在 OpenAI 披露违规行为后存在隐私问题。

　　

　　数据“黑匣子”

　　专业人士说：“对 ChatGPT 之类的隐私考虑怎么强调都不为过，它就像一个黑匣子。”

　　借助于 11 月下旬向公众推出的 ChatGPT，用户只需输入提示即可生成文章、故事和歌词。

　　谷歌和微软此后也推出了人工智能工具，它们以相同的方式工作，并由基于大量在线数据训练的大型语言模型提供支持。

　　当用户将信息输入这些工具时，你不知道它会被如何使用， 这引起了企业的高度关注。随着越来越多的员工随意使用这些工具来帮助处理工作电子邮件或会议记录，公司高管认为公司商业机密被植入这些不同的 AI 中的机会只会增加。

　　大多数公司对这些工具的最大隐私担忧是“无意中泄露敏感信息”，所有这些员工都在做看似无害的事情，比如，可以用它来总结会议记录，但在将会议记录粘贴到提示中时，可能会突然泄露一大堆敏感信息。

　　如果人们输入的数据被用来进一步训练这些人工智能工具，正如许多工具背后的公司所说，那么你就“失去了对这些数据的控制，而其他人拥有了它”。

　　

　　隐私

　　ChatGPT 背后的微软支持公司 OpenAI 在其隐私政策中表示，它会从使用其服务的人那里收集各种个人信息。它表示，它可能会使用这些信息来改进或分析其服务、进行研究、与用户交流以及开发新程序和服务等。

　　隐私政策规定，除非法律要求，否则它可能会在不另行通知用户的情况下向第三方提供个人信息。

　　OpenAI 还概述了其 AI 安全方法。“我们不使用数据来销售我们的服务、广告或建立人们的档案——我们使用数据来使我们的模型对人们更有帮助，例如，ChatGPT 通过对人们与之进行的对话进行进一步培训而得到改进。”

　　有时用户和开发人员甚至没有意识到新技术潜伏的隐私风险，直到为时已晚。建议就是，不应该将任何你不想假设会与他人共享的东西放入上述工具中。#ChatGPT聊天机器人#

　　举报/反馈