网络安全公司 Keeper Security 表示，尽管黑客使用生成式人工智能使网络威胁更加频繁、更加复杂、更难以检测，但许多企业表示对此并未做好准备。

然而，据该公司表示，尽管各组织需要加强防御能力，但他们已经实施的许多基本网络安全实践仍然是基础性的，即使在与新兴的人工智能威胁作斗争时也是如此。该公司专门生产用于保护密码、秘密和远程连接的软件。

根据本周发布的一份报告，95% 接受调查的 IT 和网络安全专业人士表示，网络攻击比以往任何时候都更加复杂，其中最严重的两大新兴威胁是人工智能攻击和深度伪造，而他们还没有准备好对其进行反击。

该报告基于对 800 多名全球 IT 和网络安全高管的调查，报告显示，这些更为复杂的攻击不断增多，造成了巨大的损失。

约 92% 的受访者表示，“富有创意且无情”的网络犯罪分子发起的网络攻击逐年增加。这些攻击也带来了损失：73% 的受访者表示，他们曾遭受过攻击并因此蒙受损失。

在企业中，攻击的主要目标是 IT 服务部门，占 58%，其次是财务运营、供应链管理、数据分析和报告以及研发部门。制造业和酒店及旅游行业的公司是遭受黑客攻击最多的行业之一，每周都会发生一次攻击，而金融服务业的攻击每月都会发生一次。

上述三个行业均报告称，​​恶意软件攻击最为常见，酒店业还报告称勒索软件攻击最为常见。其他两个行业也表示，网络钓鱼攻击也很常见。

人工智能和网络钓鱼

毫不奇怪，企业发现人工智能在网络钓鱼攻击中扮演着重要角色，自近两年前 OpenAI 发布 ChatGPT 以来，组织和网络安全供应商就一直看到这一点。

利用生成式人工智能工具，威胁行为者可以消除网络钓鱼电子邮件中的漏洞（例如语法和句法错误、措辞不当和拼写错误），这些漏洞对接收者来说是危险信号。

调查中约 84% 的受访者表示，由于黑客使用 AI 工具，网络钓鱼和短信网络钓鱼（基于文本的网络钓鱼）变得更难以检测，42% 的受访者表示 AI 网络钓鱼攻击是他们最关心的 AI 安全问题。

此外，51% 的受访者表示，他们发现网络钓鱼攻击有所增加。其他增加的攻击包括恶意软件（49% 的人注意到了这一点）、勒索软件（44%）和密码攻击（31%）。

如今，67% 的公司难以抵御网络钓鱼攻击。人工智能工具的激增加剧了这个问题，因为它增加了网络钓鱼诈骗的可信度，并使网络犯罪分子能够大规模部署这些诈骗。

利用人工智能对抗人工智能威胁

在这种环境下，组织开始使用人工智能工具来保护自己。据市场研究公司 Statista 称，去年全球人工智能网络安全市场规模为 243 亿美元，但预计到 2030 年将飙升至 1338 亿美元。

公司应该在最前沿使用人工智能和机器学习来缓解攻击。例如，网络安全专业人员查看日志和事件——所有每天都发生的事件——以对公司最危险的事件进行分类。借助人工智能，他们可以识别重要的日志并采取行动。

人工智能可以自动化威胁搜寻并增强安全执行，包括威胁和恶意软件检测、漏洞检测、补丁部署以及安全对策和控制。

坚持有效的方法

与此同时，研究人员表示，组织还应继续依靠现有的网络安全实践，例如数据加密，以保护敏感信息免遭未经授权的访问。调查显示，51% 的受访者计划加强数据保护，以抵御人工智能威胁。

此外，45% 的受访者表示，他们计划加强员工培训和意识，多年来，培训和意识一直是打击网络钓鱼攻击的关键工具，通过培训员工如何识别网络钓鱼和短信钓鱼企图。公司必须加强培训，以应对现代基于人工智能的虚假信息。

41% 的受访者表示，他们将加大对先进威胁检测系统的投资，以便为人工智能驱动的威胁提供预警系统。