ChatGPT研究报告:AIGC带来新一轮范式转移

本文约4000字,目标是快速建立AIGC知识体系,含有大量的计算专业名词,建议阅读同时扩展搜索。

一、行业现状

1、概念界定

区别于PGC与UGC不同的,AIGC是利用人工智能技术自动生成内容的新型生产方式。

2、数据模态

按照模态区分,AIGC又可分为音频生成、文本生成、图像生成、视频生成及图像、视频、文本间的跨模态生成,细分场景众多,其中跨模态生成值得重点关注。

模态是指数据的存在形式,比如文本、音频、图像、视频等文件格式
跨模态,指的是像以文生成图/视频或者以图生成文这种情况

例如,百度的文心一格就是典型的以文生成图:

3、发展历程

AIGC 的发展可以大致分为以下三个阶段:

  • 早期萌芽阶段:20 世纪 50 年代—90 年代中期,受限于科技水平,AIGC 仅限于小范围实验
  • 沉积积累阶段:20 世纪 90 年代中期—21 世纪 10 年代中期,AIGC 从实验向实用转变,受限于算法,无法直接进行内容生成
  • 快速发展阶段:21 世纪 10 年代中期—现在,深度学习算法不断迭代,AI 生成内容种类多样丰富且效果逼真

二、技术实现

AIGC 技术主要涉及两个方面:自然语言处理 NLP 和 AIGC 生成算法。

1、NLP自然语言处理

自然语言处理(NLP)赋予了AI理解和生成能力,是实现人与计算机之间如何通过自然语言进行交互的手段。

NLP技术可以分为两个方向:NLU和NLG。

1.1 自然语言理解 NLU

NLU使得计算机能够和人一样,具备正常人的语言理解能力。

过去,计算机只能处理结构化的数据,NLU 使得计算机能够识别和提取语言中的意图来实现对于自然语言的理解。

由于自然语言的多样性、歧义性、知识依赖性和上下文,计算机在理解上有很多难点,所以 NLU 至今还远不如人类的表现。

自然语言理解跟整个人工智能的发展历史类似,一共经历了 3 次迭代:基于规则的方法、基于统计的方法和基于深度学习的方法。

1.2 自然语言生成 NLG

NLG将非语言格式的数据转换成人类可以理解的语言格式,如文章、报告等。

NLG 的发展经历了三个阶段,从早期的简单的数据合并到模板驱动模式再到现在的高级 NLG,使得计算机能够像人类一样理解意图,考虑上下文,并将结果呈现在用户可以轻松阅读和理解的叙述中。

自然语言生成可以分为以下六个步骤:内容确定、文本结构、句子聚合、语法化、参考表达式生成和语言实现。

1.3 神经网络 RNN

神经网络,尤其是循环神经网络 (RNN) 是当前 NLP 的主要方法的核心。

其中,2017 年由 Google 开发的 Transformer 模型现已逐步取代长短期记忆(LSTM)等 RNN 模型成为了 NLP 问题的首选模型。

Transformer 的并行化优势允许其在更大的数据集上进行训练,这也促成了 BERT、GPT 等预训练模型的发展。

相关系统使用了维基百科、Common Crawl 等大型语料库进行训练,并可以针对特定任务进行微调。

1.4 Transformer 模型

Transformer 模型是一种采用自注意力机制的深度学习模型,这一机制可以按输入数据各部分重要性的不同而分配不同的权重。

与循环神经网络(RNN)一样,Transformer 模型旨在处理自然语言等顺序输入数据,可应用于翻译、文本摘要等任务。与 RNN 不同的是,Transformer 模型能够一次性处理所有输入数据。

注意力机制可以为输入序列中的任意位置提供上下文。如果输入数据是自然语言,则 Transformer 不必像 RNN 一样一次只处理一个单词,这种架构允许更多的并行计算,并以此减少训练时间。

ChatGPT是OpenAI从GPT-3.5、GPT-4系列中的模型进行微调产生的聊天机器人模型,能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。

2、AIGC算法

  • AIGC 生成算法主流的有生成对抗网络 GAN 和扩散模型
  • 扩散模型已经拥有了成为下一代图像生成模型的代表的潜力

2.1 生成对抗网络 GAN

GAN是生成模型的一种,透过两个神经网络相互博弈的方式进行学习。

GAN 被广泛应用于广告、游戏、娱乐、媒体、制药等行业,可以用来创造虚构的人物、场景,模拟人脸老化,图像风格变换,以及产生化学分子式等等。

2.2 扩散模型 Diffusion Model

GAN(生成对抗网络)有生成器和鉴别器,它们相互对抗,然后生成图像,由于模型本身具有对抗性,因此很难进行训练,利用扩散模型可以解决这个问题。

扩散模型也是生成模型,扩散模型背后的直觉来源于物理学。在物理学中气体分子从高浓度区域扩散到低浓度区域,这与由于噪声的干扰而导致的信息丢失是相似的。

Diffusion通过引入噪声,然后尝试通过去噪来生成图像。在一段时间内通过多次迭代,模型每次在给定一些噪声输入的情况下学习生成新图像。

2.3 Lora模型

LoRA是Low-Rank Adaption of large language model的缩写,是一种大语言模型fine-tune的方法。

Lora主要思路是在固定大网络的参数,并训练某些层参数的增量,且这些参数增量可通过矩阵分解变成更少的可训练参数,大大降低finetune所需要训练的参数量。

三、商业落地

1、A应用场景

  • AIGC 在文字、图像、音频、游戏和代码生成中商业模型渐显

2、产业地图

2.1 产业上游:数据服务

  • 人工智能的分析、创作、决策能力都依赖海量数据
  • 决定不同机器间能力差异的就是数据的数量与质量

2.2 产业中游:算法模型

算法模型是AIGC最核心的环节,是机器学习的关键所在。通常包含三类参与者:专门实验室、企业研究院、开源社区。

AI实验室:算法模型在AI系统中起决策作用,是它完成各种任务的基础,可以视为AI系统的灵魂所在。

企业研究院:一些集团型公司或企业往往会设立专注于前沿科技领域的大型研究院,下设不同领域的细分实验室,通过学术氛围更浓厚的管理方式为公司的科研发展添砖加瓦。

开源社区:社区对AIGC非常重要,它提供了一个共享成果、代码的平台,与其他人相互合作,共同推动AIGC相关技术的进步。根据覆盖领域的宽度和深度,这种社区可以分为综合型开源社区和垂直型开源社区。

2.3 产业下游:应用拓展

3、细分市场

3.1 文本处理

文本处理是AIGC相关技术距离普通消费者最近的场景,技术较为成熟。

一般说来文本处理可以细分为营销型、销售型、续写型、知识型、通用型、辅助型、交互型、代码型。

3.2 音频处理

目前的音频处理主要分为三类:音乐型、讲话型、定制型,AI的应用将优化供给效率,改善整体利润水平。

3.3 图片处理

图片的创作门槛比文字高,传递信息也更直观,随着AIGC应用的日益广泛,图片处理也就从广告、设计、编辑等角度带来更大更多的机遇。图片处理可细分为生成型、广告型、设计型、编辑型。

3.4 视频处理

视频日益成为新时代最主流的内容消费形态,将AIGC引入视频将是全新的赛道,也是技术难度最大的领域。视频处理可以细分为生成型、编辑型、定制型、数字虚拟人视频。

3.5 代码生成

以GitHub Copilot为例,Copilot是GitHub 和 OpenAI 合作产生的 AI 代码生成工具,可根据命名或者正在编辑的代码上下文为开发者提供代码建议。官方介绍其已经接受了来自 GitHub 上公开可用存储库的数十亿行代码的训练,支持大多数编程语言。

四、面临挑战

除了技术上亟待解决的算力、模型准确性之外,目前AIGC相关的挑战主要集中在版权、欺诈、违禁内容三方面。

1、版权问题

  • AIGC是机器学习的应用,而在模型的学习阶段一定会使用大量数据,但目前对训练后的生成物版权归属问题尚无定论
  • 为什么AI基于自己创作的作品生成的新作品却与自己无关?而且现行法律都是针对人类的行为规范而设立的
  • AI只是一种工具,不受法律约束与审判,即便证据充分,作者的维权之路通常也难言顺利
  • 不过对于AIGC与作者的关系将会随着时代发展而逐渐清晰,界定也将更有条理性

2、欺诈问题

  • 高科技诈骗手段层出不穷,AI经过训练后也可以创作出以假乱真的音视频,“换脸”“变声”等功能,滥用危害甚大
  • 部分诈骗分子利用“换脸”技术实施诈骗,也有不法分子恶意伪造他人视频,再转手兜售到灰色市场

3、违禁内容

  • AIGC取决于使用者的引导,AI对恶意诱导会不加分辨或判断,会根据学习到的信息输出极端或暴力言论
  • AIGC作为内容生产的新范式,也对国家相关法律法规机构及监管治理能力都提出了更高要求

参考资料

https://chat.openai.com/chat

https://arxiv.org/pdf/1706.03762.pdf

https://arxiv.org/pdf/1406.2661.pdf

https://arxiv.org/pdf/1409.2329.pdf

https://arxiv.org/pdf/2112.10752.pdf

https://arxiv.org/pdf/2106.09685.pdf

https://github.com/pbloem/former

https://github.com/haofanwang/Lora-for-Diffusers/blob/main/convert_lora_safetensor_to_diffusers.py

AIGC:内容生产力的革命—国海证券

AIGC发展趋势报告2023—腾讯研究院

2023AIGC行业研究报告—甲子光年

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/4617.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ChatGPT探索系列之四:分析ChatGPT在各领域的实际案例

文章目录 前言一、客户服务二、虚拟助理三、用于电子商务和在线销售的聊天机器人四、医疗保健和医疗应用五、教育总结 前言 ChatGPT发展到目前,其实网上已经有大量资料了,博主做个收口,会出一个ChatGPT探索系列的文章,帮助大家深…

哈工大ChatGPT调研报告(附下载)

2022年11月30日,OpenAI推出全新的对话式通用人工智能工具一 ChatGPT。ChatGPT表现出了非常惊艳的语言理解、生成、知识推理能力,它可以很好地理解用户意图,做到有效的多轮沟通,并且回答内容完整、1 点清晰、有概括、有逻辑、有条理…

哈工大:ChatGPT调研报告

来源:哈尔滨工业大学 未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企…

智谱研究报告:揭秘ChatGPT背后的AI“梦之队”【附报告全文下载】

2022年11月30日,OpenAI公司(美国致力于人工智能研究的非营利机构)发布了由大型语言模型驱动的自然语言处理工具ChatGPT。该工具通过学习和理解人类语言,能够与用户进行高质量对话,甚至还能撰写邮件、视频脚本、文案、代…

ChatGPT研究框架(80页PPT)

来源:计算机文艺复兴 研究框架系列 合规声明:本文节选自正式入库研究报告。 转自:公众号计算机文艺复兴,本次转载仅供学习。 如需PPT原文件请后台留言”ChatGPT“。 END 欢迎加入Imagination GPU与人工智能交流2群 入群请加小编微…

ChatGPT专业应用:生成行业分析报告

正文共 941 字,阅读大约需要 3 分钟 分析师/市场运营人员必备技巧,您将在3分钟后获得以下超能力: 撰写行业分析报告 Beezy评级 :B级 *经过简单的寻找, 大部分人能立刻掌握。主要节省时间。 推荐人 | nanako 编辑者 |…

ChatGPT技术原理、研究框架,应用实践及发展趋势(附166份报告)

​ 一、AI框架重要性日益突显,框架技术发展进入繁荣期,国内AI框架技术加速发展: 1、AI框架作为衔接数据和模型的重要桥梁,发展进入繁荣期,国内外框架功能及性能加速迭代; 2、Pytorch、Tensorflow占据AI框…

我的年度用户体验趋势报告——由 ChatGPT AI 撰写

Our yearly UX trends report, but written by the ChatGPT AI 作为今年用户体验集体计划的一部分,我们刚刚发布了年度用户体验状态报告。 只是为了好玩,我们想测试ChatGPT人工智能对新一年用户体验趋势的看法,看看哪些预测一致,哪些不一致。你可以自己判断结果,但我们已经…

仿chatGPT或chatPDF的前端界面布局,css实现对话聊天布局代码,响应式左右分栏布局(附完整源代码)...

chatPDF或者chatGPT的界面挺简洁的,就是一个左侧的列表以及右侧的对话列表,现在使用css实现这样的布局 充分运用了flex布局方式实现,左右分栏,以及对话形式展示效果 下面是效果图: 在手机设备看就隐藏左侧,…

chatgpt赋能python:Python聊天界面:开发高效且易于使用的消息应用

Python聊天界面:开发高效且易于使用的消息应用 Python是一种十分流行的编程语言,最近几年来,这种语言在GUI应用程序开发方面也越来越受欢迎。在本篇文章中,我们将介绍如何使用Python开发一个高效且易于使用的消息应用程序——聊天…

ChatGPT 使用 拓展资料:使用 HuggingFace+Gradio 部署快速搭建一个ChatGPT的聊天界面

ChatGPT 使用 拓展资料:使用 HuggingFace+Gradio 部署快速搭建一个ChatGPT的聊天界面 聊天界面链接 https://huggingface.co/spaces/duanzhihua/AI-ChatGPT HuggingFace 部署 注册一个 HuggingFace 的账号,点击左上角的头像,然后点击 “+New Space” 创建一个新的项目空间…

Flutter GetX 实现 ChatGPT 简单聊天界面

Flutter 是一款跨平台的移动应用开发框架,而 GetX 是 Flutter 中一种简单易用的状态管理和路由管理工具。本篇我们将使用 Flutter 和 GetX 实现一个简单的聊天界面,以与 ChatGPT 进行交互。 我们需要在 Flutter 项目中引入 GetX 库。在pubspec.yaml文件…

关于进程的拒绝访问

进程拒绝访问怎么办? hModuleSnap CreateToolhelp32Snapshot(TH32CS_SNAPMODULE, dwPID); int errGetLastError(); if (hModuleSnap INVALID_HANDLE_VALUE) { printf("创建失败:%d/n ",err); return (FALSE); } 代码在这里总是…

无法中止进程无法访问操作拒绝访问

无法中止进程无法访问操作拒绝访问 解决方案:使用360解除占用 任务管理器显示进程路径 找到该进程的路径 右键使用360解除占用 注:此方法有可能会无效,如果谁有更好的方法,请说明,谢谢。 其他方法(在控…

PermissionError: [WinError 5] 拒绝访问。: ‘../data‘

# 通过ToTensor实例将图像数据从PIL类型变换成32位浮点数格式, # 并除以255使得所有像素的数值均在0到1之间 trans transforms.ToTensor() mnist_train torchvision.datasets.FashionMNIST(root"../data", trainTrue, transformtrans, downloadTrue) mn…

对com1的访问被拒绝

对 " com1 " 的访问被拒绝编写了一个串口通信程序,运行调试,系统提示: 不对啊,我的机器可是新买的品牌机哟. 1 .检查我的com1是否运行正常并启用.右击我的电脑 --> 属性 --> 选择 " 硬件 " --> 设备管理器 --> 端口(com和LPT) --&g…

文件访问被拒绝?5个解决方法!

案例:文件访问被拒绝 【朋友们,想问问大家的电脑有遇到过文件访问被拒绝的情况吗?真的太头疼了,大家都是怎么解决的呢?】 在日常使用电脑和操作文件时,有时我们可能会遇到文件访问被拒绝的情况。这可能会…

PermissionError: [WinError 5] 拒绝访问

使用Pycharm运行时,报错:PermissionError: [WinError 5] 拒绝访问 但是使用终端(Terminal)运行就没有问题 尝试方案:三步解决python PermissionError: [WinError 5]拒绝访问的情况 ,然而并没有解决问题 …

windows 错误: 无法终止 进程。 原因: 拒绝访问。

问题描述 想要kill掉进程,但报错出现拒绝访问导致进程关不掉。 解决方案: 权限不够,以管理员权限打开cmd,然后输入命令终止进程。 相关命令: tasklist #查看进程名和pid netstat -ano | findstr "端口号" #根据端…

WindowsApps拒绝访问

情况 访问win10系统的某个文件夹提示“拒绝你访问该文件夹。若要获取访问文件夹的权限,你需要使用安全选项卡。”。在打开C盘“Program Files”文件夹下的“WindowsApps”文件夹时,在获取权限无法打开后提示“拒绝你访问该文件夹”。 解决办法 1、首…