科技云报道原创。

毫无疑问，AIGC正在给人类社会带来一场深刻的变革。

而剥开其令人眼花缭乱的华丽外表，运行的核心离不开海量的数据支持。
ChatGPT的“入侵”已经引起了各行各业对内容抄袭的担忧，以及网络数据安全意识的提高。

虽然AI技术是中立的，但并不能成为规避责任与义务的理由。

最近，英国情报机构——英国政府通讯总部（GCHQ）警告称，ChatGPT和其他人工智能聊天机器人将是一个新的安全威胁。

尽管ChatGPT的概念出现没有多久，但对网络安全和数据安全带来威胁的问题已经成为业内关注的焦点。

对于目前还处于发展初期的ChatGPT，如此担忧是否杞人忧天？

安全威胁或正在发生

去年年底，初创公司OpenAI推出ChatGPT，之后，其投资商微软于今年推出了基于ChatGPT技术开发的聊天机器人“必应聊天（Bing Chat）”。

由于此类软件能够提供酷似人类的对话，目前这项服务已风靡全球。

GCHQ的网络安全部门指出，提供AI聊天机器人的公司可以看到用户输入的查询内容，就ChatGPT而言，其开发商OpenAI就能够看到这些。

ChatGPT通过大量文本语料库进行训练，其深度学习能力很大程度上依赖于背后的数据。

出于对信息泄露的担忧，目前已有多家公司和机构发布“ChatGPT禁令”。

伦敦金融城律师事务所Mishcon de Reya禁止其律师将客户数据输入ChatGPT，因为担心在法律上享有隐私特权的资料可能会遭泄露。

国际咨询公司埃森哲警告其全球70万名员工，出于类似的原因，不要使用ChatGPT，因为担心客户的机密数据最终会落入他人之手。

英国电脑芯片公司Arm的母公司日本软银集团同样警告其员工，不要向人工智能聊天机器人输入公司人员的身份信息或机密数据。

今年2月，摩根大通成为第一家在工作场所限制使用ChatGPT的华尔街投行。

花旗集团和高盛集团紧随其后，前者禁止员工在整个公司范围内访问ChatGPT，后者则限制员工在交易大厅使用该产品。

而在更早些时候，亚马逊和微软为防备员工在使用ChatGPT的过程中泄密，禁止他们向其分享敏感数据，因为这些信息可能会被用作进一步迭代的训练数据。

事实上，这些人工智能聊天机器人背后是大型语言模型（LLM），用户的这些查询内容将会被存储起来，并且会在未来某个时候被用于开发LLM服务或模型。

这就意味着，LLM提供商能够读取到相关查询，并可能以某种方式将它们合并到未来的版本中。

尽管LLM运营商应该采取措施保护数据，但不能完全排除未经授权访问的可能性。因此，企业需要确保他们有严格的政策，提供技术性支持，来监控LLM的使用，以最大限度地降低数据暴露的风险。

另外，尽管ChatGPT本身尚不具备直接攻击网络安全和数据安全的能力，但是由于它具有自然语言生成和理解的能力，可以被用于伪造虚假信息、攻击社交工程等方面。

此外，攻击者还可以使用自然语言来让ChatGPT生成相应的攻击代码、恶意软件代码、垃圾邮件等。

因此，AI可以让那些原本没有能力发起攻击的人基于AI生成攻击，并大大提高攻击成功率。

在自动化、AI、“攻击即服务”等技术和模式加持下，网络安全攻击呈现出暴涨趋势。

在ChatGPT火爆之前，已发生了多次黑客使用AI技术进行的网络攻击。

事实上，人工智能被用户调教“带偏节奏”的案例并不鲜见，6年前，微软推出智能聊天机器人Tay，上线时，Tay表现得彬彬有礼，但不到24小时，其就被不良用户“带坏”，出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见，只好被下线结束了短暂的生命。

另一方面，距离用户更近的风险是，用户在使用ChatGPT等AI工具时，可能会不经意间将私密数据输入到云端模型，这些数据可能成为训练数据，也可能成为提供给他人答案的一部分，从而导致数据泄露和合规风险。

AI应用要打好安全底座

ChatGPT作为大语言模型，其核心逻辑事实上是海量数据的收集、加工、处理和运算结果的输出。

总的来说，这几个环节可能会在技术要素、组织管理、数字内容三个方面伴生相关风险。

虽然ChatGPT表示，存储训练和运行模型所需的数据会严格遵守隐私和安全政策，但在未来可能出现网络攻击和数据爬取等现象，仍存在不可忽视的数据安全隐患。

特别是涉及国家核心数据、地方和行业重要数据以及个人隐私数据的抓取、处理以及合成使用等过程，需平衡数据安全保护与流动共享。

除了数据与隐私泄露隐患外，AI技术还存在着数据偏见、虚假信息、模型的难解释性等问题，可能会导致误解和不信任。

风口已至，AIGC浪潮奔涌而来，在前景向好的大背景下，关口前移，建立数据安全防护墙也至关重要。

尤其是当AI技术逐渐完善，它既能成为生产力进步的有力抓手，又易沦为黑产犯罪的工具。

奇安信威胁情报中心监测数据显示，2022年1月份-10月份，超过950亿条的中国境内机构数据在海外被非法交易，其中有570多亿条是个人信息。

因此，如何确保数据存储、计算、流通过程中的安全问题，是数字经济发展的大前提。

从整体看，应该坚持顶层设计与产业发展齐头并进，在《网络安全法》的基础上，要细化风险与责任分析体系，确立安全问责机制。

同时，监管部门可开展常态化监查工作，安全领域企业协同发力，构建全流程数据安全保障体系。

对于数据合规和数据安全的问题，特别是在《数据安全法》推出后，数据隐私越来越重要。

如果在应用AI技术的过程中无法保证数据安全和合规，可能会给企业造成很大风险。

特别是中小企业对数据隐私安全方面的知识比较匮乏，不知道应当如何保护数据不会受到安全威胁。

数据安全合规并不是某个部门的事情，而是整个企业最为重要的事情。

企业要对员工进行培训，让他们意识到每个使用数据的人，都有义务保护数据，包括IT人员、AI部门、数据工程师、开发人员、使用报表的人等，人和技术要结合在一起。

面对前述潜藏风险，监管方和相关企业如何从制度和技术层面加强AIGC领域的数据安全保护？

相较于直接针对用户终端采取限制使用等监管措施，明确要求AI技术研发企业遵循科技伦理原则会更具成效，因为这些企业能够在技术层面限定用户的使用范围。

在制度层面，需要结合AIGC底层技术所需数据的特性和作用，建立健全数据分类分级保护制度。

例如，可根据数据主体、数据处理程度、数据权利属性等方面对训练数据集中的数据进行分类管理，根据数据对于数据权利主体的价值，以及数据一旦遭到篡改、破坏等对数据主体的危害程度进行分级。

在数据分类分级的基础上，建立与数据类型和安全级别相配套的数据保护标准与共享机制。

目光投向企业，还需加快推动“隐私计算”技术在AIGC领域的应用。

这类技术能够让多个数据拥有者在不暴露数据本身的前提下，通过共享SDK或者开放SDK权限的方式，在进行数据的共享、互通、计算、建模，在确保AIGC能够正常提供服务的同时，保证数据不泄露给其他参与方。

此外，全流程合规管理的重要性愈加凸显。

企业首先应关注其所运用的数据资源是否符合法律法规要求，其次要确保算法和模型运作的全流程合规，企业的创新研发还应最大限度地满足社会公众的伦理期待。

同时，企业应制定内部管理规范，设立相关的监督部门，对AI技术应用场景的各个环节进行数据监督，确保数据来源合法、处理合法、输出合法，从而保障自身的合规性。

AI应用的关键在于部署方式与成本间的考量，但必须注意的是，如果没有做好安全合规、隐私保护，对企业来说或将蕴含“更大风险点”。

AI是把双刃剑，用得好让企业如虎添翼；用不好疏忽了安全、隐私和合规，会给企业带来更大损失。因此，在AI应用前，需要构筑更加稳固的“数据底座”，正所谓，行稳方能致远。

【关于科技云报道】

专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级IT领域Top10媒体。获工信部权威认可，可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。