人工智能似乎可以并且已经被用来帮助网络犯罪和网络攻击的各个方面。 

人工智能可以用来令人信服地模仿真人的声音。人工智能工具可以帮助诈骗者制作更好、语法正确的网络钓鱼消息（而糟糕的语法往往会暴露出漏洞），并将其翻译成多种语言，从而扩大攻击范围。

人工智能还可以探测系统的漏洞，然后有效地发起有效的攻击。

可能性是无穷无尽的，当局已经发出了可怕的警告。最近被任命为内政部首任国家网络安全协调员的在澳大利亚金融评论网络峰会上表示，未来几年网络威胁环境将发生重大变化。

今年早些时候，英国政府将人工智能的所有表现形式标记为战略风险，并将其添加到英国国家风险登记册中，该登记册概述了英国面临的最严重的风险。

人工智能被用来发起欺骗性网络攻击

使用人工智能进行语音模拟并不新鲜，但与许多其他基于人工智能的技术一样，它已经变得更加容易和广泛使用，大大增加了它被用来欺骗毫无戒心的人的可能性。

一家日本公司在中国香港的分公司经理接到一位男子的电话，他的声音是其母公司的董事，要求他转出3500万美元以支付该公司正在进行的收购，并表示将提供详细信息在一封来自一位指定律师的电子邮件中。

经理及时收到了似乎来自律师和他的主管的电子邮件，并发起了转账，但整件事是一场精心设计的网络犯罪。

早在 2018 年，自由职业者在线招聘市场 TaskRabbit 就遭受了据称由 AI 控制的大规模 DDoS 攻击。

在使用人工智能控制的僵尸网络进行 DDoS 攻击后，380 万 TaskRabbit 用户的社会保障和银行账号被泄露，据说这种攻击非常有效，以至于整个 TaskRabbit 网站都被禁用。

人工智能有助于网络安全

虽然人工智能被武器化以发动网络犯罪，但它也可以通过多种方式增强网络安全并更好地应对各种网络攻击：利用人工智能的攻击和使用更传统方法的攻击。

一旦系统遭到破坏，攻击者利用其访问权限的任何尝试都不可避免地会触发系统某些部分的异常行为。持续监控系统运行的人工智能工具可以非常有效地快速检测此类异常情况。

它们可以就其发现向人类发出警报，并且在许多情况下，它们能够在比人类执行同样操作所需的时间短得多的时间内启动适当的对策。

在这种背景下，机器学习就特别有用。机器学习 (ML) 是人工智能的一个子集，是教授算法从现有数据中学习模式以针对新数据采取适当行动的过程。

它用于网络安全，通过从各种数据源进行自适应学习来增强其知识和能力。机器学习经过训练，可以通过持续监控、识别、检测和缓解已知和未知威胁来提高单个端点和更广泛的组织网络的安全性。

这在深度学习中尤其重要，其中人工智能主动解决不断变化的安全风险，在不断变化的数字环境中保护组织。

任何在线 IT 系统都会吸收大量数据，远远超出任何人类独立分析的能力。如此大量的数据使机器学习系统能够很好地理解正常操作并检测任何异常情况。然而，这些保护机制纯粹是反应性的：人工智能寻找违规证据，然后做出响应。

人工智能有能力让安全变得主动

攻击路径分析或攻击路径建模对 IT 环境进行分析，以确定攻击者最有可能采取的最有效路径。

在大型 IT 系统中，这对于 IT 团队来说将是一项艰巨的任务，但人工智能工具可以分析每种可能的攻击路径并对所有可能的攻击场景进行建模。

澳大利亚联邦银行最近透露了其使用人工智能和机器学习来应对网络威胁的程度。

该银行网络安全总经理表示，三年内扫描威胁的在线活动数量已从每周 8000 万次增加到 2400 亿次。

该银行正在与一家人工智能公司合作，设计、构建、测试、部署和管理人工智能模型，在每一个用例中，它们的表现都明显优于被取代的系统。

我们有一个名为 MI:RIAM 的机器学习引擎，代表机器智能：实时洞察和分析机器，这是一种先进的机器学习技术，可驱动威胁情报，同时帮助其他安全解决方案进行威胁追踪。

它还可以增强安全防护能力，以识别更多威胁并防止威胁影响系统。

总之，人工智能在网络安全方面可能是一把双刃剑，既可用于恶意目的，又可增强安全措施。

虽然人工智能可以用来模仿人类的声音和制作网络钓鱼消息，但它也可以用于检测系统中的威胁和漏洞。

机器学习是人工智能的一个子集，可以通过训练来学习模式并识别异常，从而使网络安全更加主动。 

网络安全是人工智能增长最快的应用，尤其是能够实时监控攻击并做出适当响应的人工智能工具，这一点也就不足为奇了。