点击上方“芋道源码”,选择“设为星标”
管她前浪,还是后浪?
能浪的浪,才是好浪!
每天 10:33 更新文章,每天掉亿点点头发...
源码精品专栏
原创 | Java 2021 超神之路,很肝~
中文详细注释的开源项目
RPC 框架 Dubbo 源码解析
网络应用框架 Netty 源码解析
消息中间件 RocketMQ 源码解析
数据库中间件 Sharding-JDBC 和 MyCAT 源码解析
作业调度中间件 Elastic-Job 源码解析
分布式事务中间件 TCC-Transaction 源码解析
Eureka 和 Hystrix 源码解析
Java 并发源码
来源:量子位(QbitAI)
基于通义融合升级
国内厂商纷纷追逐ChatGPT
萧箫 发自 凹非寺
谷歌硬刚ChatGPT消息一出,科技圈全坐不住了。阿里百度网易京东一众公司全宣布要推出类ChatGPT新产品,战况那叫一个激烈。
阿里内测中的达摩院版ChatGPT,也被提前曝光。
竟然连画画技能都具备了?!
![ef75fd0e4a2d8c86503bbbc00305cc5b.png](https://img-blog.csdnimg.cn/img_convert/ef75fd0e4a2d8c86503bbbc00305cc5b.png)
ChatGPT类型的对话功能,同样不在话下。先来个NBA话题铺垫:
![79f6ab3b6ebd84da3e56afe6cd31a42a.png](https://img-blog.csdnimg.cn/img_convert/79f6ab3b6ebd84da3e56afe6cd31a42a.png)
当被问到“乔丹和科比谁更伟大”时,开始暴露篮球迷身份,连“毋庸置疑”、“奉为神迹”这种话都出来了:
![246bbde14306ae05647942bb2692fe02.png](https://img-blog.csdnimg.cn/img_convert/246bbde14306ae05647942bb2692fe02.png)
还是个乔丹死忠粉,能对你老婆的观点提出异议(手动狗头)
![cb24c16a11b94b01f0eeb4982a18dc68.png](https://img-blog.csdnimg.cn/img_convert/cb24c16a11b94b01f0eeb4982a18dc68.png)
看起来这个达摩院版ChatGPT,不仅有纯文本任务能力,还融合了多模态任务能力。
这究竟采用了什么样的技术?阿里这次内测中的类ChatGPT产品,能力如何?
基于通义融合升级
据透露,新产品可实现的功能包括知识问答、AI绘画、代码生成、小说续写、文案撰写、写诗作词等。
一言以蔽之,不仅ChatGPT具备的能力它都能实现,而且多了“AI绘画”这项功能。
能取得这样的多任务、跨模态效果,背后本质上离不开阿里通义大模型的能力。
新达摩院版ChatGPT,正是基于通义大模型体系进行融合升级。
据报道,推出的通义大模型底座基于统一学习范式OFA等底层技术打造,具备了能搞定多种任务的“大一统”能力:
不引入新增结构,单一模型即可同时处理图像描述、视觉定位、文生图、视觉蕴含、文档摘要等10余项单模态和跨模态任务。
升级后,更是可以处理超过包括语音和动作在内的30多种跨模态任务。
![e9f80eaa9e19365396c848ef4caa6cb3.png](https://img-blog.csdnimg.cn/img_convert/e9f80eaa9e19365396c848ef4caa6cb3.png)
这里“大一统”技术的关键,在于提出并实现了三个“统一”:
架构统一。使用Transformer(encoder-decoder,编解码器)架构,统一进行预训练和微调,无需在应对不同任务时,增加任何特定的模型层。
模态统一。不管是NLP、CV这种单模态,还是图文等多模态任务,全都采用同一个框架和训练思路。
任务统一。将所有单模态、多模态任务统一表达成序列到序列(Seq2seq)生成的形式,同类任务的输入几乎就是“一个模子里刻出来的”。
目前推出的通义大模型,在电商跨模态搜索、AI辅助设计、法律文书学习、医疗文本理解、开放域人机对话等200多个场景中应用落地时,均能达到2%~10%的效果提升。
从阿里的研发来看,他们实际上于2020年左右已经开始布局此类技术研究。
2021年推出“中文版GPT-3”PLUG,参数量270亿,但跟GPT-3一样是“万能写作神器”。
例如这是小说续写的效果:
![c6030fc6f14f5b47f3c956c3e4118046.png](https://img-blog.csdnimg.cn/img_convert/c6030fc6f14f5b47f3c956c3e4118046.png)
去年,阿里AliceMind模型更是在CLUE榜单的AI中文语言理解任务上得分首超人类,获得了86.685高分。
CLUE榜单会从文本分类、阅读理解、自然语言推理等9项任务中全面考核AI模型的语言理解能力,但参评AI模型一直未能超越人类成绩,AliceMind则一举在4项任务中超过了人类水平。
基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能
项目地址:https://github.com/YunaiV/ruoyi-vue-pro
视频教程:https://doc.iocoder.cn/video/
国内厂商纷纷追逐ChatGPT
所以,此次推出类ChatGPT产品,阿里究竟是怎么想的?
其实阿里通义大模型体系中,有不少模型都已经在魔搭社区开源。
魔搭社区由阿里达摩院与CCF开源发展委员会共同发起,目前社区内有300+模型上线,其中包括10多个大模型和150+ SOTA模型,其中三分之一都支持中文。
但据知情人士透露,阿里长期以来的目标依旧没变:
打造中文ChatGPT的生态,这个定义对于阿里来说可能窄了一点。相比之下,阿里更希望能引领中文大模型的发展趋势。
![d894cc30ea08d6273699f0d5193e8d55.png](https://img-blog.csdnimg.cn/img_convert/d894cc30ea08d6273699f0d5193e8d55.png)
不止阿里,包括百度、网易、京东等各科技大厂也都已经坐不住了。
百度正在对类ChatGPT产品“文心一言”进行内部测试,官方宣布测试完成时间在3月左右,但是否会因为这波热度提前还不好说。
网易也剧透,未来网易有道可能会推出ChatGPT同源技术产品,主要在在线教育一块实现应用。
京东集团副总裁何晓冬则表示,京东是加速AIGC和ChatGPT规模化落地的最佳场景,未来借助这一系列成果,将加速AI在国内的应用落地。
这波国内外厂商的ChatGPT热潮,很快就要起来了。
欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:
已在知识星球更新源码解析如下:
最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。
提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。
获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。
文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)