反正闲着也是闲着,不如来给ChatGPT找漏洞?毕竟,万一真的找到漏洞了还能赚一笔外快。
当地时间 4 月 11 日,OpenAI 宣布推出漏洞赏金计划。该公司将根据报告问题的严重性和影响提供现金奖励,奖励范围从 200 美元到 20000 美元。
OpenAI 称,大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。
然而,漏洞优先级和奖励可以根据可能性或影响进行修改,由 OpenAI 自行决定。如果出现降级问题,安全研究人员将得到详细的解释。
Open AI表示,在发布任何新系统之前,会进行严格的测试,聘请外部专家进行反馈,通过人工反馈的强化学习等技术来改善模型的行为,并建立广泛的安全和监控系统。
Open AI认为,强大的人工智能系统应该接受严格的安全评估。需要进行监管以确保此类做法得到采纳,他们积极与政府就此类监管的最佳形式进行接触。
一看这奖励,确实是让人心动啊,而且只要用过ChatGPT的人都应该有感觉到,ChatGPT是属于有点智慧但不多,有用但有限的情况。
说要找bug,那不是轻轻松松的事?但是看看这个说明,似乎并不轻松。
在公告中,OpenAI已经表明,出于修复可行性的考量,模型本身的问题并不在此次计划的范畴之内。
而让其进行说坏话、做坏事、生成恶意代码等绕过安全措施或产生机器幻觉的行为,都属于模型本身的问题。
更不必说错误或者不精确的回答了。
OpenAI希望收集的有关ChatGPT的漏洞,主要是关于其账号、认证、订阅、支付、会员和插件等问题。对于普通用户来说,从这些角度发掘漏洞好像有些难度了。
那么OpenAI 的漏洞赏金计划能起到多大的实际作用呢?
根据 AI 网络安全公司 DarkTrace 的数据,从 1 月到 2 月,基于 AI 的工程攻击增加了 135%,这与 ChatGPT 的问世有很大关系。
因此,尽管这份赏金计划受到一些技术专家的欢迎,但也有很多人不看好,他们认为该计划不太可能完全解决日益复杂的 AI 技术带来的广泛网络安全风险。
毕竟,该计划的范围仅限于可能直接影响 OpenAI 系统和合作伙伴的漏洞,它似乎无法解决对恶意使用此类技术(如模拟、合成媒体或自动黑客工具)的更广泛担忧。
要知道,漏洞赏金计划是在一系列安全问题的背景下推出的。例如,在发布 3 天后,GPT-4 就为自己制定了外逃计划,甚至声称可以它可以控制计算机,还索要开发文档和 API。
上个月,ChatGPT 还因巨大漏洞宕机数个小时,具体原因是部分用户能看到其他用户的聊天内容和支付信息。这为 AI 模型的隐私保护再次敲响警钟。
也许是受到这些问题的冲击,OpenAI 启动了这项赏金计划,不知道这次能有多少人拿到这笔奖金呢。