2023年4月5日，OpenAI在其官网上发布了**《我们迈向人工智能安全的路径》(Our approach to AI safety)** 一文，对包括ChatGPT在内的AI产品安全问题进行回应。这一公告内容从六个角度对其AI产品的安全愿景进行了声明。此前，韩国三星称ChatGPT导致其数据泄露、科技界对巨型AI暂停研发进行联合主张、意大利对ChatGPT的全面封禁等将AI产品安全问题推至风口浪尖，Open AI此举也恰是对此前安全问题质疑的回应。
在这份报告中，Open AI首先强调，其致力于兼顾AI的安全与开发利益，基于此，其报告内容主要分为六大角度：1. 围绕安全、不断升级；2.立足现实、完善保障；3.保护儿童；4.尊重隐私；5.精准产出、尊重事实；6.持续投入、促进合作。
以下将对该报告每一部分内容进行简要编译和评价。
01 围绕安全、不断升级
Open AI表示，其将通过测试、外部专家反馈、政府安全监管等方式，建立其AI安全系统。其指出，此前在GPT-4发布之前，Open AI内部曾花费6个多月的时间来进行相应的安全工作。
此前，Open AI也在《关于语言模型安全和误用的经验教训》(Lessons learned on language model safety and misuse) 一文中就其安全工作进行了说明，表明其正在通过**新的基准(benchmarks)和分类器(classifiers)**来改善API语言模型滥用的问题。
02 立足现实、完善保障
Open AI认为，其在实验室中对AI安全工作的开展是有限的，必须通过在实践中获得反馈来不断迭代提升其AI安全系统。而在AI通过实践完善自身安全系统时，社会应当给予充分的尊重和理解，“我们认为社会必须有时间更新和调整，以适应日益强大的人工智能”。
(Open AI 在《关于语言模型安全和误用的经验教训》中对其安全工作流程的示意图)
03 保护儿童
Open AI强调，其要求年满18岁、在获得父母批准后且年满13岁的儿童才能使用其AI产品。此外，其建立了**“安全护栏”(safety guardrails)，GPT-4对于仇恨、骚扰、暴力或成人内容的响应可能性相对于GPT-3.5降低了82%。另外，其还通过与非营利组织Khan Academy等合作**，以构建人工智能辅助系统的方式来保护未成年人。
这一声明也与呼应了当日（4月5日）美国拜登政府在会见总统科学技术顾问委员会时提及的内容，即呼吁国会通过两党隐私立法，重视人工智能应用过程中对儿童的保护。
04 尊重隐私
在隐私层面，Open AI声明其收集的数据都是公开的内容，且这些内容经过人类评审。此外，这些数据并不会直接被商用，只是用于机器学习和模型改进。另外，Open AI还表示其会尽力从训练数据集中删除个人信息。
当然，Open AI对个人信息删除的力度如何，仍然是一个**“黑箱”问题**。
05 精准产出、尊重事实
Open AI强调，其要求年满18岁、在获得父母批准后且年满13岁的儿童才能使用其AI产品。此外，其建立了**“安全护栏”(safety guardrails)，GPT-4对于仇恨、骚扰、暴力或成人内容的响应可能性相对于GPT-3.5降低了82%。另外，其还通过与非营利组织Khan Academy等合作**，以构建人工智能辅助系统的方式来保护未成年人。
这一声明也与呼应了当日（4月5日）美国拜登政府在会见总统科学技术顾问委员会时提及的内容，即呼吁国会通过两党隐私立法，重视人工智能应用过程中对儿童的保护。
(GPT-4与GPT-3.5回应的精准度对比)
06 持续投入、促进合作
Open AI认为，提升AI系统的安全性并非一个简单的过程，需要长期投入，并与政策制定者等主体开展广泛的合作。随着AI在全球范围内的普及，AI生态系统已经在逐步建立，这对全球范围内的技术和制度创新都将是一个新的挑战。
在此前发布的《部署语言模型的最佳实践》(Best practices for deploying language models) 中,Open AI曾呼吁其他组织参与AI软件的部署，共同致力于语言模型的安全建设。
网络安全学习资源分享:
最后给大家分享我自己学习的一份全套的网络安全学习资料，希望对想学习 网络安全的小伙伴们有帮助！
零基础入门
对于从来没有接触过网络安全的同学，我们帮你准备了详细的学习成长路线图。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。
【点击领取】CSDN大礼包：《黑客&网络安全入门&进阶学习资源包》免费分享
今天只要你给我的文章点赞，我私藏的网安学习资料一样免费共享给你们，来看看有哪些东西。
1.学习路线图
攻击和防守要学的东西也不少，具体要学的东西我都写在了上面的路线图，如果你能学完它们，你去接私活完全没有问题。
2.视频教程
网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己录的网安视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。
技术文档也是我自己整理的，包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点，电子书也有200多本【点击领取视频教程】
内容涵盖了网络安全法学习、网络安全运营等保测评、渗透测试基础、漏洞详解、计算机基础知识等，都是网络安全入门必知必会的学习内容。
（都打包成一块的了，不能一一展开，总共300多集）
3.技术文档和电子书
技术文档也是我自己整理的，包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点，电子书也有200多本【点击领取书籍】
4.工具包、面试题和源码
“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等，感兴趣的同学不容错过。
还有我视频里讲的案例源码和对应的工具包，需要的话也可以拿走。【点击领取工具包】
最后就是我这几年整理的网安方面的面试题，如果你是要找网安方面的工作，它们绝对能帮你大忙。
这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的，如果大家有好的题目或者好的见解欢迎分享。
参考解析：深信服官网、奇安信官网、Freebuf、csdn等
内容特点：条理清晰，含图像化表示更加易懂。
内容概要：包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
CSDN大礼包：《黑客&网络安全入门&进阶学习资源包》免费分享
