根据黑莓的最新研究，大多数(51%)安全领导者预计ChatGPT将在一年内成为成功的网络攻击的核心。 

对北美、英国和澳大利亚的1500名IT决策者的调查还发现，71%的人认为民族国家可能已经将该技术用于针对其他国家的恶意目的。 

ChatGPT是由OpenAI开发的人工智能(AI)驱动的语言模型，它已经以聊天机器人的形式部署，允许用户收到对他们提出的任何问题作出及时和详细的答复；该产品于2022年底推出。 

来自ChatGPT的网络威胁 

金钱会扼杀ChatGPT的魔力

尽管其潜力巨大，但信息安全专家对其可能被网络威胁行为者用来发动攻击表示担忧，包括恶意软件开发和令人信服的社会工程骗局。 

也有人担心它会被用来以更快、更有说服力的方式在网上传播错误信息。 

黑莓的新报告强调了这些担忧。虽然所有国家的受访者都承认 ChatGPT 的功能被用于“好的方面”，但74%的人认为它是一个潜在的网络安全威胁。 

IT领导者最担心的是该技术制作更可信、更合法的网络钓鱼邮件的能力(53%)，其次是允许经验不足的网络罪犯提高他们的技术知识和发展更专业的技能(49%)以及它在传播错误信息中的用途(49%)。 

虽然IT领导者担心 ChatGPT 会创建钓鱼邮件，但专家警告说，人工智能工具可能不会比网络犯罪分子已经具备的能力更好。

ChatGPT 不一定非常擅长这类活动。它可以用来创建网络钓鱼电子邮件，但实施网络钓鱼活动的网络罪犯已经写出了更好的电子邮件，并提出了更具创造性的实施网络钓鱼攻击的方法。

它也可以编写恶意软件，但不是好的恶意软件，至少现在还不是。 

但是，这种情况会改变的，随着技术训练本身一直在改变。这种担忧实际上是双重的：ChatGPT 应该有护栏阻止它进行这种活动，但这些护栏很容易被击败。最终，两者都会变得更好，我们还不知道那会是什么样子。

通过人工智能加强网络防御 

人工智能在网络犯罪中的应用：5个最重要的趋势

在评论这项研究时，黑莓网络安全首席技术官表示，安全专业人士将能够利用ChatGPT 改善网络防御，这是一种乐观的态度。

有充分的证据表明，怀有恶意的人正在试水，但在今年的过程中，我们希望看到黑客能够更好地处理如何成功地使用 ChatGPT 来达到邪恶的目的。

无论是作为编写更好的易变恶意软件的工具，还是作为支持他们“技能组合”的推动者网络专家和黑客都将继续研究如何最好地利用它。时间会证明谁更有效。 

该研究还显示，82%的 IT 决策者计划在未来两年内投资人工智能驱动的网络安全，其中近一半(48%)计划在2023年底前投资。

这反映出人们越来越担心，基于签名的保护解决方案将不再能有效地抵御来自ChatGPT 等技术的日益复杂的攻击。

重要的是组织使用人工智能来主动对抗人工智能威胁，特别是在增强其预防和检测能力方面。

在网络安全中使用人工智能的一个关键优势是它能够实时分析大量数据。现代网络产生的大量数据让人类无法跟上。

人工智能可以更快地处理数据，使其更有效地识别威胁。随着网络攻击变得越来越严重和复杂，威胁行为者也在发展他们的战术、技术和程序(TTP)，传统的安全措施变得过时了。

人工智能可以从以前的攻击中学习，并调整其防御措施，使其对未来的威胁更具弹性。

人工智能在缓解高级持续性威胁APT方面也至关重要，这些威胁具有很强的针对性，通常难以检测。

除了网络威胁，隐私专家还讨论了人工智能模型如何潜在违反数据保护规则，例如GDPR。

这包括 OpenAI 收集 ChatGPT 所依赖的数据的方法，以及它如何与第三方共享个人数据。