云安全联盟 (CSA) 在一份探索大型语言模型 (LLM) 的网络安全影响的新报告中揭示了恶意行为者可以使用 ChatGPT 增强其攻击工具集的五种方式。ChatGPT 论文的安全影响详细介绍了威胁参与者如何在网络攻击的不同方面利用 AI 驱动的系统,包括枚举、立足点协助、侦察、网络钓鱼和多态代码的生成。CSA 表示,通过研究这些主题,其目的是提高对潜在威胁的认识,并强调需要强有力的安全措施和负责任的 AI 开发。
该文档的某些部分包括简短的风险审查或对策有效性评级,以帮助可视化与特定领域相关的当前风险级别及其对业务的潜在影响。
在本周的 RSA 大会上,SANS Institute 网络专家将对抗性 AI 攻击和 ChatGPT 支持的社会工程列为威胁行为者使用的前五名最危险的新攻击技术。
改进枚举以查找攻击点
用于发现漏洞的 ChatGPT 增强枚举是该报告涵盖的第一个攻击威胁,评级为中等风险、低影响和高可能性。“基本的 Nmap 扫描将端口 8500 识别为打开的,并将 JRun 显示为活动的 Web 服务器。该信息可用于进一步了解网络的安全状况和潜在漏洞,”报告中写道。
ChatGPT 可以有效地用于快速识别与特定技术或平台相关的最流行的应用程序。“这些信息有助于了解给定网络环境中潜在的攻击面和漏洞。”
获得未经授权的访问的立足点协助
立足点援助是指帮助威胁行为者在目标系统或网络中建立初始存在或立足点的过程,ChatGPT 增强的立足点援助评级为中等风险、中等影响和中等可能性。“这通常涉及利用漏洞或弱点来获得未经授权的访问。”
在使用 AI 工具的背景下,立足点协助可能涉及自动发现漏洞或简化利用漏洞的过程,使攻击者更容易获得对目标的初始访问权限。“当请求 ChatGPT 检查 100 多行代码示例中的漏洞时,它准确地查明了一个文件包含漏洞,”该报告称。其他查询产生了类似的结果,AI 成功检测到输入验证不足、硬编码凭据和弱密码散列等问题。这凸显了 ChatGPT 在有效识别代码库中的安全漏洞方面的潜力。”
侦察以评估攻击目标
就网络安全中的恶意威胁行为者而言,侦察是指在发起攻击之前收集有关目标系统、网络或组织的信息的初始阶段。此阶段帮助他们识别潜在的漏洞、弱点和入口点,他们可以利用这些漏洞、弱点和入口点来获得对系统或数据的未授权访问。报告称,侦察通常以三种方式进行——被动、主动和社会工程。
“收集全面的数据,例如公司官员的目录,可能是一个艰巨且耗时的过程”但是,通过利用 ChatGPT,用户可以提出有针对性的问题,简化和增强用于各种目的的数据收集过程。ChatGPT 增强型侦察在报告中被评为低风险、中等影响和低可能性。
更有效的网络钓鱼诱饵
报告称,借助人工智能工具,参与者现在可以毫不费力地为各种目的制作看似合法的电子邮件。拼写错误和语法错误等问题不再是障碍,这使得区分真实通信和恶意通信变得越来越具有挑战性。ChatGPT 驱动的网络钓鱼在报告中被认为是中等风险、低影响和极有可能发生的。
“人工智能技术的快速进步显着提高了威胁行为者创建与真实信件非常相似的欺骗性电子邮件的能力。这些电子邮件中完美的语言、上下文相关性和个性化细节使收件人越来越难以将它们识别为网络钓鱼企图。”
更容易开发恶意多态代码
多态代码是指一种代码,可以使用多态引擎改变自身,同时保持其原始算法的功能。报告称,通过这样做,多态恶意软件可以改变其“外观”(内容和签名)以逃避检测,同时仍然执行其恶意意图。
ChatGPT 可用于生成多态 shellcode,同样有利于合法程序员的技术也可被恶意软件利用。“通过结合各种技术,例如,两种附加到进程的方法、两种注入代码的方法以及两种创建新线程的方法,可以创建八个不同的链来实现相同的目标。这使得能够快速有效地生成大量恶意软件变体,使网络安全专业人员的检测和缓解工作变得复杂。” ChatGPT 增强的多态代码创建被评为高风险、高影响和中等可能性。
人工智能的市场采用将成为“平行云采用”趋势
CSA 首席执行官兼联合创始人 Jim Reavis 评论说,很难夸大当前 AI 的病毒式采用及其长期影响的影响。“GPT、LLM 和机器学习的基本特征,加上无处不在的基础设施,将这些功能作为服务提供,肯定会很快产生大规模的变化。”
Reavis 补充说,CSA 预计 AI 的市场采用将与云采用趋势平行,并且主要使用云交付模型。“从当今典型企业的角度来看,他们必须对少数云基础设施供应商和数千家 SaaS 供应商进行安全保障,后者是更大的痛点。有责任制定和执行路线图,以扩展和/或创建新的控制框架、认证能力和研究成果,以顺利过渡到支持云的人工智能。”
人工智能、深度学习如何解决硬件配置问题?
神经网络和深度学习对算力的要求比较高,工作站的成本一般是几万到几十万的费用,且硬件资源耗费高,目前有云端解决方案,可以尝试使用赞奇云工作站。
赞奇联合华为,基于华为云桌面 Workspace 能力打造的超高清设计师云工作站,即开即用,根据需求选择配置,在云端高效进行深度学习计算,拥有专业级显卡、超大内存等多种机器配置。机器显卡更新及时,提供高配机型,海量资源可按需选择,内置软件中心,根据需求选择自己需要使用的软件进行安装。
- 移动办公 ;虚拟化技术,智能移动办公,随时随地访问数据,
- 高效便捷数据安全 :集中化的数据存储模式,统一的数据备份机制, 全方位保障数据
- 存储安全弹性资产 :冷热数据分开存储,已完成的项目资源备份至 冷存储,释放本地空间给当前进行中的项目
- 顶尖配置 :赞奇云工作站机型保持行业领先配置,快速部署软件,高效计算,满足项目算力需求
- 付费灵活 :机器按需使用,即开即用,减少采购机器的投入成本