世界短讯！ChatGPT面临的数据安全挑战

编者按

(资料图)

OpenAI于2022年11月30日开放测试ChatGPT，此后ChatGPT风靡全球。两个月后，ChatGPT用户达到1亿，在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道，这是互联网领域发展20年来，增长速度最快的消费类应用程序。ChatGPT有何功能？为何有如此大的吸引力？

01什么是ChatGPT?

ChatGPT是一款语言模型，它以对话方式进行交互，使用机器学习技术根据接收到的“输入内容”生成“类似人类的文本”。高度的语言理解能力使其能够对各种问题进行快速准确的回答，对话格式使ChatGPT可以回答后续问题、承认错误并拒绝不适当的请求。ChatGPT具备不断优化学习的能力，用户输入的内容也会成为ChatGPT的学习资料。

ChatGPT具备聊天、写代码、写求职信、写诗、查信息等能力。虽然ChatGPT因为语料库不足还存在一些答非所问的问题，但是其现在的能力足以完成用户很多任务，并使人们感受到威胁。

在商业领域，由于ChatGPT具备检索功能，可以用清晰、简单的句子提供信息，而不仅仅是互联网链接列表，这使得谷歌可能面临对其主要搜索业务的严重威胁。在学术专业领域，宾夕法尼亚大学沃顿商学院教授进行的一项新研究发现，ChatGPT能够通过该校工商管理硕士（MBA）课程的期末考试。根据2022年12月31日芝加哥肯特法学院教授Daniel Martin Katz和密歇根州立大学学院教授Michael Bommarito的论文，ChatGPT虽然没有通过整体律师资格考试法律，但是其正确率为50.3%，而真正的应试者答对了68%的问题。这引起了高校的重视，德国图宾根大学在一封内部邮件中宣布：出于担心ChatGPT的使用正变得不可控，学校决定严格限制这款人工智能的使用，由ChatGPT生成的文本不得用于学习和考试。

02ChatGPT带来的数据安全问题

ChatGPT风靡以来，除以上问题外，讨论更多的还是数据安全问题，这些问题分为两类，一类是ChatGPT获取数据产生的问题，一类是ChatGPT恶意利用产生的问题。

ChatGPT获取数据产生的问题

数据泄露问题。用户在使用ChatGPT时会输入信息，由于ChatGPT强大的功能，一些员工使用ChatGPT辅助其工作，这尤其引起了公司对于商业秘密泄露的担忧。2023年1月份，一名微软员工在内部论坛上询问是否允许在工作中使用ChatGPT，微软首席技术官（CTO）办公室一位高级工程师回答，只要不与ChatGPT共享机密信息，工作时使用ChatGPT是被允许的。 亚马逊公司律师同样警告员工不要与ChatGPT分享“任何亚马逊的机密信息”，因为输入的信息可能会被用作ChatGPT进一步迭代的训练数据。

删除权问题。ChatGPT用户必须同意公司可以使用用户和ChatGPT产生的所有输入和输出，同时承诺ChatGPT会从其使用的记录中删除所有个人身份信息。然而ChatGPT未说明其如何删除信息，而且由于被收集的数据将用于ChatGPT不断的学习中，很难保证完全擦除个人信息痕迹。

语料库获取合规问题。欧洲数据保护委员会（EDPB）支持专家库成员亚历山大称，ChatGPT获取数据的方法需要完全披露。如果ChatGPT通过抓取互联网上的信息获得其训练数据，可能并不合法。网站上的隐私政策条款本身表明数据不能被第三方收集，ChatGPT抓取数据会涉及违反合同。在许多司法管辖区，合理使用原则在某些情况下允许未经所有者同意或版权使用信息，包括研究、引用、新闻报道、教学讽刺或批评目的。但是ChatGPT并不适用该原则，因为合理使用原则只允许访问有限信息，而不是获取整个网站的信息。在个人层面，ChatGPT需要解决未经用户同意大量数据抓取是否涉及侵犯个人信息的问题。

ChatGPT恶意利用产生的问题

用户对ChatGPT的恶意利用也会带来很多数据安全问题，如：

撞库：生成大量可用于对在线帐户进行自动攻击的潜在用户名和密码组合，进行撞库攻击。

生成恶意软件：利用自然语言编写的能力，编写恶意软件，从而逃避防病毒软件的检测。

诱骗信息：利用ChatGPT的编写功能，生成钓鱼电子邮件；利用对话功能，冒充真实的人或者组织骗取他人信息。

参考内容：

1.https://www.theguardian.com/technology/2023/feb/02/chatgpt-100-million-users-open-ai-fastest-growing-app

2.https://www.nbcnews.com/tech/tech-news/chatgpt-passes-mba-exam-wharton-professor-rcna67036

3.https://www.abajournal.com/news/article/ai-program-earned-passing-bar-exam-scores-on-evidence-and-torts-can-it-work-in-court

4.https://www.businessinsider.com/chatgpt-microsoft-warns-employees-not-to-share-sensitive-data-openai-2023-1

5.https://www.infosecurity-magazine.com/news-features/chatgpts-datascraping-scrutiny/

6.https://mp.weixin.qq.com/s/FhnPaV2NSggR8i19DE-KRw

标签： 安全问题 恶意软件 个人信息