意大利禁用ChatGPT！ AI工具使用是否应该被限制？

*以下部分内容来源于公众号：南风窗

OpenAI GPT大模型引领全球AI创新热潮，但其新技术之下 “矛“与”盾”也日益严重。

一、意大利封禁ChatGPT，全面调查隐私问题

就在前几天，Italy突然下令，封禁ChatGPT！

图源于网络

很快，OpenAI首席执行官Sam Altman做出回应称，公司已经关停了当地的ChatGPT服务（但自认为并没有违反任何规定）。

图源于网络

自此，意大利成为了世界上第一个宣布禁用ChatGPT的国家。（其他国家和地区无法使用ChatGPT，是因为OpenAI一开始就没有开通。）

二、ChatGPT的数据泄露

1.个人隐私数据的泄露

当地时间3月31日，意大利国家隐私监管机构正式下令封禁ChatGPT，并指控OpenAI「非法收集个人数据」。

值得注意的是，该「临时禁令」将一直生效，直到OpenAI能够尊重欧盟具有里程碑意义的隐私法——通用数据保护条例（GDPR）。

文件地址：https://www.garanteprivacy.it/home/docweb/-/docwebdisplay/docweb/9870847#english（图源于网络）

根据意大利国家数据保护机构GPDP发布新闻稿，OpenAI收集用户数据并用于算法「训练」的行为，缺乏法律依据。

同时，3月20日涉及用户对话和支付信息的泄露事件，也明确地暴露出了OpenAI在个人信息的处理上存在着问题。除此之外，OpenAI虽然声称ChatGPT面向的是13岁以上的用户，但由于缺乏相应的年龄验证机制，因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。

图源于网络

监管机构表示，OpenAI有20天的时间，如不给出可行的补救措施，则会面临最高2000万欧元，或全球总年营业额4%的罚款。

对此，OpenAI表示，现在已经为意大利用户关闭了服务，并承诺会保护用户的隐私：

「我们在训练ChatGPT这样的系统时，一直在努力减少个人数据，因为我们想要这个AI了解世界，而不是了解个人。当然我们也相信，AI监管是必要的。」

2.企业机密信息也存在泄露风险

信息风险不仅是个人隐私信息的泄漏，企业机密信息也存在被泄露的风险。

日前，数据安全公司Cyberhaven在调查不同行业客户的160万员工ChatGPT的使用情况后，其发布报告表示，2.3%的员工将公司机密数据贴入ChatGPT；企业员工平均每周向ChatGPT泄露敏感数据达数百次；目前敏感数据占员工粘贴到ChatGPT的内容的11%。

图源于网络

比如最近多家韩媒报道，三星电子内部已经发生了数起ChatGPT滥用与误用事件。公司员工将半导体设备测量数据库、产品良率等内容输入ChatGPT 中，还有员工要求ChatGPT制作会议记录。ChatGPT可能已经把三星的机密信息当作训练资料使用，若有其他用户对ChatGPT提出相关问题，公司企业机密可能外流。

为保护企业机密信息，目前美国银行、花旗集团、德意志银行、高盛集团、富国银行、摩根大通和Verizon等机构已经禁止员工使用ChatGPT聊天机器人处理工作任务；不少日本公司，如软银、富士通、瑞穗金融集团、三菱日联银行、三井住友银行等，也限制了ChatGPT和类似聊天机器人的商业用途。