前言
自从2022年11月ChatGPT发布之后,迅速火遍全球。其对话的交互方式,能够回答问题,承认错误,拒绝不适当的请求,高质量的回答,极度贴近人的思维的交流方式,让大家直呼上瘾,更是带火了AI 行业。
ChatGPT的爆火,一度引发了关于中国科技创新能力的讨论,有人忧心:在人工智能这个领域,中国是否也会步半导体行业的后尘,在关键技术上落后国外,无法追赶?答案是不会。国内各大顶流科技公司已经跑步入场了!他们开始大量投入人力物力进行大模型的研究和开发。比如:
复旦MOSS
百度文心一言
阿里通义大模型
腾讯混元
.......
不仅仅是顶流科技公司,小企业,计算机个人从业者也面临着机遇和挑战。对于大企业,缺失大模型,将意味着产品无法进行智能性迭代,淘汰将是迟早的事;对于小企业,如何利用大模型提升产品与效率,是性命攸关般重要,竞争对手可不会原地踏步;对于计算机行业的个人从业者呢?
AI的爆火,带来新的职业机遇,也带来新的挑战,高薪的职位已经在各大城市发布,部分公司的裁员也在悄然进行。在这行业大变革的时期,NLP领域甚至整个AI领域的开发模式将会彻底发生改变,学习刻不容缓。
举个例子,此前,NLP领域中要做信息抽取相关的工作需要经历如下的步骤:
1.场景与任务定义(阅读理解or实体抽取)
2.大量数据标注
3.模型设计与调整
4.模型训练与调优
5.模型部署于上线
在大模型时代,做信息抽取相关的任务的工作流程变成了这样:
1.训练或选择合适的大模型
2.编写合适提示与指令模板
3.根据效果决定是否Finetune大模型
4.提示与指令模板编排与应用
对于个人开发者而言,大模型促进了工作方式的转变,也对算法工程师提出了新的要求:
1.对大模型的能力和边界要有清晰的认知
2.能够调试或训练超大规模的模型,即具备分布式训练的能力
3.熟悉大模型的应用方法,要能在各种场景中熟练使用提示工程和指示学习最大程度发挥大模型的能力
这些能力或许将成为未来算法工程师职业发展中的核心能力。对于算法工程师来说,掌握大模型,刻不容缓。
有三AI社区已经正式推出了ChatGPT大模型理论与实践干货课程,与网上传播的各类低质量入门介绍科普内容不同,本课程内容是由某著名大厂AI算法工程师,有三AI社区NLP负责人小Dream哥总结了过去1年带领团队进行大模型开发和应用的实际经验,能够帮助大家快速、系统的掌握大模型相关的知识和能力。
本次课程内容既不是那些挂羊头卖狗肉的伪ChatGPT课程,也不同于某些只会教给大家怎么去注册个Bing账号之类毫无门槛的信息资讯知识星球,而是给算法工程师配置的真正干货,需要具有扎实的深度学习算法基础才能学习,目前正在持续更新中。。。。。。
完整课程介绍
本课程内容包括大模型各个方面的算法与实践,包括GPT预训练模型、分布式训练原理与框架、提示学习与指令学习、人工反馈式强化学习以及Model as Service等知识和实践内容,内容详细,案例丰富,下面是当前课程的大纲脑图:
(1) 理论知识充足:涵盖了大模型训练和应用所需的所有基础理论知识,如GPT系列模型、分布式训练原理与框架、提示学习、强化学习等,既有足够的宽度,也具备有足够的深度。我们会非常详细地讲解算法中的细节,帮助彻底消化算法原理。
(2) 实践案例丰富:本次课程中一共包含4个实践案例,分别为大模型预训练实战,大模型对话训练有监督调优实战,人工反馈式强化学习实战以及langchain对话系统构建实战。
下面来简单了解一下课程各部分的大体内容:
(0) 课程简介,包括ChatGPT大模型课程介绍。
(1) ChatGPT整体介绍,包括ChatGPT简介以及ChatGPT技术路径,总共10个小节,本小节内容可以免费收听。
(2) GPT系列预训练模型详解及分布式预训练实战,包括GPT1,GPT2,GPT3模型详解,分布式训练原理,DeepSpeed,Megatrond等,总共22个小节,内容详实,价值极高。
(3) 有监督调优原理及技术实战,包括提示学习与指示学习原理与构造准则,总共5个小节,是包含大模型应用的基本思想和经验。
(4) 人类反馈式强化学习基础及实践,包括强化学习的基础理论,ChatGPT中的PPO算法详解,奖励模型等,是chatgpt中最核心的技术。
(5) Model as Service,包括langchain,大模型服务化思想,大模型端到端应用实例(基于外挂知识库的大模型对话系统实践案例),内容充实,紧扣实际落地场景,极具落地参考价值,助力实际工作应用和跳槽经验升级。
部分PPT内容仅供参考如下:
本课程适合以下三类人群:
(1) 所有学习人工智能/深度学习算法,并有志于从事该领域的人员。
(2) 掌握了Python,深度学习基础概念等预备知识的技术人员。
(3) 学习与从事自然语言处理的技术人员。
学习完本课程你将掌握:
(1) ChatGPT大模型相关的主流算法;
(2) 分布式训练超大规模模型的能力与技巧;
(3) 掌握利用大模型搭建智能系统的完整流程。
课程讲师介绍
本课程讲师为小Dream哥,AI算法专家,有三AI社区NLP负责人,国内一线大厂AI架构师,多年从业经验,在对话系统、搜索,知识图谱等领域均有丰富的经验,带领10人团队在实际场景成功训练与落地大模型。
如何获取本课程
一直以来,有三AI所有的直播与录播视频课程都在小鹅通平台,小鹅通是一个很成熟的知识付费平台,我们有唯一的小鹅通知识店铺账号,地址为,大家可以使用小鹅通APP或者在浏览器打开该地址进行学习(使用手机号码登录):
https://appcdfgt3n15676.h5.xiaoeknow.com
订阅本课程通过扫码以下课程海报即可(本周内课程将正式上线,5月课程各部分内容陆续完结,当前课程尝鲜价为599,随着课程内容不断增加,课程价格也会不断增加,因此早订购者有更大的优惠),如果对课程内容有疑问,可先添加课程讲师微信jen104咨询详细的信息。
课程已经更新直第3部分内容完结,前面3期内容可以免费试听,请大家保持关注,课程设有学习答疑群,大家在订阅课程后可以添加订阅后弹窗的微信联系方式入学习群!
课程所需要的基础
虽然ChatGPT在今年掀起了人工智能领域的新热潮,但背后的技术并非突然从零诞生,我们学习该技术也需要一些基础知识,比如深度学习基础理论,深度学习框架。对于人工智能领域的初学者/零基础学员来说,无法直接参与本课程的学习,大家可以先在我们课程平台学习一些相关基础课程后再来进一步学习,我们去年的总结参考如下。
【总结】最系统化的CV内容,有三AI所有免费与付费的计算机视觉课程汇总(2022年12月)
往期相关
【视频课】CV必学,超7小时,3大模块,3大案例,掌握图像翻译与风格化GAN核心技术!
【视频课】超8小时,5大模块,掌握基于GAN的图像增强应用(降噪色调映射去模糊超分辨修复)
【视频课】AI必学,超20小时,4大模块,循序渐进地搞懂CNN模型设计与简单部署!
【视频课】CV必学,超6小时,2大模块,循序渐进地搞懂GAN图像生成!
【视频课】CV必学,超30小时,4大模块,4大案例,循序渐进地搞懂目标检测!
【视频课】CV必学,超8小时,3大模块,3大案例,循序渐进地搞懂视频分类与行为识别!
【视频课】CV必学,超10小时,3大模块,4大案例,循序渐进地搞懂图像分割!
【视频课】CV必学,超10小时,3大模块,5大案例,循序渐进地搞懂图像分类理论与实践!
【视频课】快速掌握6大模型部署框架(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)!
【视频课】13小时+4大项目掌握深度学习人脸图像检测与识别