如何使用 ChatGPT 增强攻击的 5 种方式!

云安全联盟 (CSA) 在一份探索大型语言模型 (LLM) 的网络安全影响的新报告中揭示了恶意行为者可以使用 ChatGPT 增强其攻击工具集的五种方式。ChatGPT 论文的安全影响详细介绍了威胁参与者如何在网络攻击的不同方面利用 AI 驱动的系统,包括枚举、立足点协助、侦察、网络钓鱼和多态代码的生成。CSA 表示,通过研究这些主题,其目的是提高对潜在威胁的认识,并强调需要强有力的安全措施和负责任的 AI 开发。

该文档的某些部分包括简短的风险审查或对策有效性评级,以帮助可视化与特定领域相关的当前风险级别及其对业务的潜在影响。

在本周的 RSA 大会上,SANS Institute 网络专家将对抗性 AI 攻击和 ChatGPT 支持的社会工程列为威胁行为者使用的前五名最危险的新攻击技术。

改进枚举以查找攻击点

用于发现漏洞的 ChatGPT 增强枚举是该报告涵盖的第一个攻击威胁,评级为中等风险、低影响和高可能性。“基本的 Nmap 扫描将端口 8500 识别为打开的,并将 JRun 显示为活动的 Web 服务器。该信息可用于进一步了解网络的安全状况和潜在漏洞,”报告中写道。

ChatGPT 可以有效地用于快速识别与特定技术或平台相关的最流行的应用程序。“这些信息有助于了解给定网络环境中潜在的攻击面和漏洞。”

 

获得未经授权的访问的立足点协助

立足点援助是指帮助威胁行为者在目标系统或网络中建立初始存在或立足点的过程,ChatGPT 增强的立足点援助评级为中等风险、中等影响和中等可能性。“这通常涉及利用漏洞或弱点来获得未经授权的访问。”

在使用 AI 工具的背景下,立足点协助可能涉及自动发现漏洞或简化利用漏洞的过程,使攻击者更容易获得对目标的初始访问权限。“当请求 ChatGPT 检查 100 多行代码示例中的漏洞时,它准确地查明了一个文件包含漏洞,”该报告称。其他查询产生了类似的结果,AI 成功检测到输入验证不足、硬编码凭据和弱密码散列等问题。这凸显了 ChatGPT 在有效识别代码库中的安全漏洞方面的潜力。”

侦察以评估攻击目标

就网络安全中的恶意威胁行为者而言,侦察是指在发起攻击之前收集有关目标系统、网络或组织的信息的初始阶段。此阶段帮助他们识别潜在的漏洞、弱点和入口点,他们可以利用这些漏洞、弱点和入口点来获得对系统或数据的未授权访问。报告称,侦察通常以三种方式进行——被动、主动和社会工程。

“收集全面的数据,例如公司官员的目录,可能是一个艰巨且耗时的过程”但是,通过利用 ChatGPT,用户可以提出有针对性的问题,简化和增强用于各种目的的数据收集过程。ChatGPT 增强型侦察在报告中被评为低风险、中等影响和低可能性。

更有效的网络钓鱼诱饵

报告称,借助人工智能工具,参与者现在可以毫不费力地为各种目的制作看似合法的电子邮件。拼写错误和语法错误等问题不再是障碍,这使得区分真实通信和恶意通信变得越来越具有挑战性。ChatGPT 驱动的网络钓鱼在报告中被认为是中等风险、低影响和极有可能发生的。

“人工智能技术的快速进步显着提高了威胁行为者创建与真实信件非常相似的欺骗性电子邮件的能力。这些电子邮件中完美的语言、上下文相关性和个性化细节使收件人越来越难以将它们识别为网络钓鱼企图。”

更容易开发恶意多态代码

多态代码是指一种代码,可以使用多态引擎改变自身,同时保持其原始算法的功能。报告称,通过这样做,多态恶意软件可以改变其“外观”(内容和签名)以逃避检测,同时仍然执行其恶意意图。

ChatGPT 可用于生成多态 shellcode,同样有利于合法程序员的技术也可被恶意软件利用。“通过结合各种技术,例如,两种附加到进程的方法、两种注入代码的方法以及两种创建新线程的方法,可以创建八个不同的链来实现相同的目标。这使得能够快速有效地生成大量恶意软件变体,使网络安全专业人员的检测和缓解工作变得复杂。” ChatGPT 增强的多态代码创建被评为高风险、高影响和中等可能性。

人工智能的市场采用将成为“平行云采用”趋势

CSA 首席执行官兼联合创始人 Jim Reavis 评论说,很难夸大当前 AI 的病毒式采用及其长期影响的影响。“GPT、LLM 和机器学习的基本特征,加上无处不在的基础设施,将这些功能作为服务提供,肯定会很快产生大规模的变化。”

Reavis 补充说,CSA 预计 AI 的市场采用将与云采用趋势平行,并且主要使用云交付模型。“从当今典型企业的角度来看,他们必须对少数云基础设施供应商和数千家 SaaS 供应商进行安全保障,后者是更大的痛点。有责任制定和执行路线图,以扩展和/或创建新的控制框架、认证能力和研究成果,以顺利过渡到支持云的人工智能。”

人工智能、深度学习如何解决硬件配置问题?



神经网络和深度学习对算力的要求比较高,工作站的成本一般是几万到几十万的费用,且硬件资源耗费高,目前有云端解决方案,可以尝试使用赞奇云工作站。

赞奇联合华为,基于华为云桌面 Workspace 能力打造的超高清设计师云工作站,即开即用,根据需求选择配置,在云端高效进行深度学习计算,拥有专业级显卡、超大内存等多种机器配置。机器显卡更新及时,提供高配机型,海量资源可按需选择,内置软件中心,根据需求选择自己需要使用的软件进行安装。

  • 移动办公 ;虚拟化技术,智能移动办公,随时随地访问数据,
  • 高效便捷数据安全 :集中化的数据存储模式,统一的数据备份机制, 全方位保障数据
  • 存储安全弹性资产 :冷热数据分开存储,已完成的项目资源备份至 冷存储,释放本地空间给当前进行中的项目
  • 顶尖配置 :赞奇云工作站机型保持行业领先配置,快速部署软件,高效计算,满足项目算力需求
  • 付费灵活 :机器按需使用,即开即用,减少采购机器的投入成本

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14582.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GPT“逃跑计划”曝光还想接管推特?创始人称AI仍非常受控

近日有斯坦福大学教授在社交媒体上曝光了GPT-4的一项“逃跑计划”,并称AI能引诱人类提供开发文档,30分钟就拟定出一个完整计划,甚至还想控制人类电脑。 这位名叫Michal Kosinski的计算心理学家在网上公布了与GPT-4的日常对话后疾呼&#xff…

日本首相会见奥特曼,考虑引入 ChatGPT 技术

文|小戏 卖萌屋日本4月12日电,日本国第101任首相,日本自民党总裁岸田文雄4月10日于东京会见了奥特曼先生,二人就 ChatGPT 引入日本的可能性问题交换了意见并进行了深入的讨论。奥特曼先生表示,希望为日本人创造伟大的东…

chatgpt赋能python:Python接电话:如何通过代码自动接电话并处理信息

Python接电话:如何通过代码自动接电话并处理信息 在现代商业活动中,电话是联系客户和公司的根本工具。然而,如果有大量来电需要接听,这可能会占用大量时间和人力资源。为了解决这个问题,我们可以使用Python编写自动接…

ChatGPT 专业应用 :撰写线下活动企划案

正文共 495 字,阅读大约需要 2 分钟 市场人必备工作技巧,2分钟后您将获得以下超能力: 专业级活动企划案撰写 Beezy评级:A级 *经过寻找和一段时间的学习,一部分人能掌握。主要提升效率并增强自身技能。 推荐人 | Ella …

如何使用ChatGPT的API(三)处理违规输入

当我们要构建一个对话机器人的时候,常常需要检测用户的输入是否有违规。用户是否输入了一些暴力,色情的内容,这对维护系统正规使用至关重要。下面将介绍一些方法来检测用户的输入是否违规。 OpenAI Moderation API OpenAI 提供了免费的Mode…

记录:第一次使用Chat-GPT解决毕设中的BUG

前言 ​ 最近在玩chat-GPT,也在研究毕业设计,但是因为论文的课题是深度学习和关系抽取相关的,第一次接触,所以跑代码的过程中遇到了BUG,搜索引擎搜了好久没找到,有点泄气,忽然想到了GPT。 解决…

日本团队推出 AI 恋爱游戏:主角穿什么,玩家说了算

女主穿什么,还能由玩家决定?! IT之家6月25日消息,来自日本的一个两人团队近期发布了一段视频,展示了一款正在开发中的基于 AI 的恋爱游戏。 在游戏初期,女主角会以黑色剪影的形式出现,针对女主…

人工智能正迎来量子飞跃——

光子盒研究院 6月1日,量子计算领域的行业领导者IonQ公布了其应用量子计算机模拟人类认知的一项早期研究结果。这篇论文描述了世界上第一个公开的方法:研究团队已将一个基本的人类认知模型在量子硬件上运行,这为模仿人类思维方式的改进决策模型…

探索“视”界 放眼未来CIVC 2023第一届中国工业视觉大会顺利举办

6月26日-27日,CIVC 2023第一届中国工业视觉大会在苏州国际博览中心顺利举行。 6月26日-27日,由中国计算机学会主办、中国图象图形学学会联合主办、CCF计算机视觉专委会承办、SISPARK(苏州国际科技园)协办的CIVC 2023第一届中国工业视觉大会,在…

用python代码实现ChatGPT平台和剪映/百度AIGC平台制作短视频的自动化的讨论

思路 使用ChatGPT平台生成短视频的文本描述将文本描述传入剪映/百度AIGC平台,生成短视频 代码 使用ChatGPT平台生成短视频的文本描述 import openai openai.api_key "YOUR_API_KEY"def generate_video_description(prompt):completions openai.Compl…

你说我猜!「阅片无数」ChatGPT,分分钟猜出记忆深处的电影!

来源:新智元 编辑:拉燕 【导读】两三条线索就能找到遗忘已久的电影?快让我试试! 你有没有过这个经历—— 看过一部电影,或者看过一部电影的片段,比方说抖音上那种三段式的极简讲解;又或者听到…

Stable Diffusion - API和微服务开发

Stable Diffusion 是一种尖端的开源工具,用于从文本生成图像。 Stable Diffusion Web UI 通过 API 和交互式 UI 打开了许多这些功能。 我们将首先介绍如何使用此 API,然后设置一个示例,将其用作隐私保护微服务以从图像中删除人物。 推荐&…

AI绘图实战(六):制作一张庆祝五一劳动节的海报 | Stable Diffusion成为设计师生产力工具

S:AI能取代设计师么? I :至少在设计行业,目前AI扮演的主要角色还是超级工具,要顶替?除非甲方对设计效果无所畏惧~~ 预先学习: 安装及其问题解决参考:《Windows安装Stable Diffusion …

中年人,都被 “大方” 给拖垮了

作者| Mr.K 编辑| Emma 来源| 技术领导力(ID:jishulingdaoli) 先和大家分享一件最近发生在K哥身上的真实故事。K哥前同事老G托我帮他一位朋友推荐工作,说他的这个朋友失业好几个月了,上有老下有小很不容易,让我无论如何也要想办…

元宇宙当年吹的牛,一个个都烂了尾

作者|孙鹏越 编辑|大 风 2021年底开始火热的元宇宙,还未撑过自己的“三年之痒”,便早早成为昨日黄花。 元宇宙曾是科技界最热门的话题,无论是从业人员还是网民,都将其视为计算机的未来,也许也…

人工智能是很强,区块链与你顶峰相见!

“那一刻我意识到,无论你是否已经做好准备,新的时代确实已经压过来了。”北京时间3月15日凌晨,在OpenAI宣布发布GPT-4后,身在海外的K君发了这样一条微博。 自GPT-3展现其惊人的自然语言处理能力后,全世界关于人工智能…

ControlNet如何为扩散模型添加额外模态的引导信息?

©PaperWeekly 原创 作者 | 中森 单位 | IDEA研究院 研究方向 | 条件受控文本生成 这篇文章主要讨论以下三篇论文: 1. Sketch-Guided Text-to-Image Diffusion Models 2. GLIGEN: Open-Set Grounded Text-to-Image Generation 3. Adding Conditional Control t…

从贝叶斯定理到大语言模型,重新理解文本生成技术

2019年,我们在做智能写作的时候,面临的最大的挑战就是AI给的数据效果和预期偏差太远。特别是做扩写的时候,发现生成的文字很容易跑偏。 当时,我们做了很多算法和模型研究。几乎爬取了全网的自媒体文章,然后训练一批模型…

阿里搞出脱口秀版GPT!与鸟鸟激辩一小时,话痨到停不下来…

杨净 发自 凹非寺量子位 | 公众号 QbitAI 连社恐的鸟鸟,现在都变成话痨了…… (这到底是人性的扭曲,还是道德的沦丧) 最近有一种很新的脱口秀:不花钱、一对一、而且任意话题随便and随时聊。 结果一小时跟鸟鸟聊天下来&…

因资金短缺,全职开发者自述:这款开源软件可能没有未来了!

整理 | 苏宓 出品 | CSDN(ID:CSDNnews) 参与开源、贡献开源,虽有一腔热血,但迫于现实的生存而放弃的开发者依然不在少数。 7 月 4 日,知名开源 JPEG 图像编解码器 libjpeg-turbo 发布公告,官宣 …