政策解读：《生成式人工智能服务管理办法（征求意见稿）》

这个真的得热乎乎的了抢个热点，老于还有一个经济法学的学位，虽然说不是主专业，也算是略微知道一些法律常识。为了各位朋友从业者少踩坑，我把法条逐条解读一下，当然这里面会有技术的成分。希望大家一起遵守法律，尊重主管部门的良苦用心。

图片由SD生成（prompt:Legal Policy, Regulatory Generative AI, Robotics, Doubt）

第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

法律法规的第一条，都是大帽子的规定，就是说是任何的法律条款，都是遵照于大法条来规范约束的。而且从行文顺序上，网安法>数安法>个保法。各位从业者需要注意的是，这几个法条都和刑法挂钩，也就是说违法行为会衍生成为犯罪行为，是要入刑的。

　第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

　　本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

第二条，适用范围、规范内容。把生成式AI 的范畴做了一个规范。这里规范的范围，都是物理属性的，不分行业，只要是生成式AI，生成的东西，都在法条的规范范围内。比如：AI预测蛋白质结构，如果是以图片和文字的形式输出，也应该在监管范围内。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

主管部门还是对这个支持的，鼓励的。持开放态度，合作诚可贵，自主价更高，鼓励大家使用“安全”的方式进行研究。

第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

　　（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

　　（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

　　（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

　　（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

　　（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

最重要的一条，已经说得非常详细了，一般的法条，前面的几条都是制式，这个法条，这条就是提纲挈领：人工智能不是法外之地、也要遵守国家的法律规定。法条说的很清楚，我不累述，其中非常重要的一点：“采取措施防止生成虚假信息”，如果参照上面的生成式AI的范围，这个“信息”应该包括：“文本、图片、声音、视频、代码等内容”。也就说，AI的从业者，必须遵从于道德和法律规范，对于AI的生成的内容，要尽量用技术手段去规避“幻觉”和“毒性”。这也是AI在发展过程中的必然，GPT4也是用了好几个月的时间去调整这个部分。本身从工具上，也是模型工作者一直努力的方向。

另外上面一条的内容，大部分其实也在网络安全法、数据安全法的范围之内，这个只是做了详细的解释。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

这个部分主要对个保法的适用范围做了解释，特意强调了API 也是范围之内的服务。

第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

这个两个是规定要重新研究一下的，有一个我也是第一次听说，就是说以后任何的产品发布，之前要按照“两个规定”对于主管部门备案。但是这里有一个稍微松散的管理方式：“规定属于政策性文件，不属于行政许可事项，不设立行政处罚措施。” 由于这个只是征求意见稿，不知道这个真的颁布前，会不会成为各种AIGC工具发布之前必然要去申请的手续。

　第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

　　用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

　　（一）符合《中华人民共和国网络安全法》等法律法规的要求；

　　（二）不含有侵犯知识产权的内容；

　　（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

　　（四）能够保证数据的真实性、准确性、客观性、多样性；

　　（五）国家网信部门关于生成式人工智能服务的其他监管要求。

这条直接规范的是数据来源，数据内容，就是说，训练和预训练的数据都要保证在国家规定的合法范围内，不能随意去获取非国家规定的数据。这里面就有很多技术上需要关注点，比如国外互联网的数据是否可以使用？能否在训练前筛选并且保证数据的真实可靠？相比起之前的问题，这个问题其实对于AIGC的要求趋向的严格，这个要求在训练之前就要对所有的数据进行筛选和去噪。还要保证数据的合法性。

　第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

这条也没啥好说的，就是标注员出现的问题，服务提供者一样是连带责任。服务提供者需要对人工标注的工作做规范。

　第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

这个应该是规范使用者，按照实名制使用AIGC的服务，这条出来，好像市场上大部分的AIGC 都得改一下认证流程。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

这条其实和网游的防沉迷类似，主要是为了保护青少年。这里面也很宽泛，并没有像网游一样具体到一天几个小时。可能法条后续还需要根据实际情况进行更新。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

这一条是我最不解的一条。如果圈子里面有法律的大神还请解读一下，如果服务提供者，一定要遵守第9条的规定，实名制，就势必会关联出对于用户输入信息的身份信息。再往下走，画像都不需要，都有实名信息了，画像也就是一个轻松的行为，另外本身一些应用就是在做共享用户的prompt，代码、图片都要重新考量是否试用，这条这么限制，不知道这些业务要怎么做？并且明显和第9条冲突。

第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

很清晰，没啥好说的，也是AI必须做的事情。

　　第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

侵权处理，这个事情对于大模型来说，还是比较难的，因为是预训练过程，持续时间比较长，我们目前有些名人其实周期比较短，很难模型数据能够了解并且纠偏，这个就需要在大模型的体系下，有一个专门针对于个人信息的外挂方式，从而能快速的在知识图谱中纠偏，或者停止部分内容。

第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。

服务提供要有延续性，要保证用户协议签署的内容，如果暴雷了，要有补救措施。

第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

这条适用于大模型，不但要过滤，还要想办法在模型内纠偏。就是说，以后的模型训练中，必然要做到最少3个月一发版。也就说，我们的显卡数量要能支持提供服务的同时，并行训练我们模型。并且，必须在3个月内跑完模型训练，以解决掉之前的不合规内容。嗯，显卡本来就不够，请大家不要恶性竞争，相互举报。

第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

主管部门早就高瞻远瞩的要求对于深度合成内容，进行标识。并且不能删除标识。类似要把数据形成数字水印。那这个是否和个人信息收集冲突？

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

！！！！！！法律要求AI的可解释性！我不知道我是不是要这么理解？看来openAI至今无法破解的难题，国人的智慧要想办法解决了！hooray！！！