SOTA AI Devs Park 是专注于生成式 AI 领域的公益开发者社区,由生成式 AI 产业加速营 SOTA AI 支持建设,正在策划举办系列 Meetup 与闭门会,聚焦于同频交流生成式 AI 的前沿趋势与一线技术实践。
前不久我们出了一篇文章《AGI 变革:从新的公司组织,到新的文明形态》。深挖了 OpenAI 发展历程:创始人山姆·奥特曼一路秉持理想主义,带领团队另辟蹊径。抛弃“有监督训练”(以谷歌 Bert 大模型训练为代表)的主流技术路径,转而使用 Transformer 模型进行自然语言处理,训练 GPT 架构的 LLM。
在长期孤独且惊人的巨大投入后,OpenAI 4年磨一剑,2020年推出GPT-3,震惊业界。2022年底推出 ChatGPT 爆火出圈,一战成名!
如今,OpenAI 如日中天,钱和名自然都不缺,人才也信手拈来。那么 OpenAI 要往哪走--答案一直没变。在 OpenAI官网上,向世人展现着一以贯之的理想:
“Ourmission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity.”——2023年2月14日《Planning for AGI and beyond》
理想主义者的胜利,往往“为天下之不为,成世人所不成之事”。举世瞩目的成就让全球大厂都坐不住了,外有谷歌、Meta、Amazon 纷纷跟进,内有百度、阿里、360、讯飞一哄而上。
曾经一众专家学者和企业界都不看好的GPT技术路线一转身,成为全球焦点,据不完全统计,国内大厂+小厂截止今年上半年推出的大模型就多达上百个,知名的都有几十个。
除了百年一遇的技术奇点,更重要的是,大模型越训练越快,越快越好用,越好用就有越多训练资源--跑步进场是最好的选择。
AI 时代真的要来了。
硅谷精神之父凯文·凯利在新书《5000天后的世界》中指出“未来将会是一切都与AI相连的‘镜像世界’。数百万人一起工作,AR无处不在”。同时他也给出了一些建议:
“不断提问”作为一种习惯,必然会成为人类最基本也最有价值的行为之一
对于科技带来的问题,永远不能靠减少科技解决,而应该发明更好的科技
只有保持几分饥饿的状态,才能有继续创新的可能
“我们仍处在开始的开始,如果不想因为一味迎合变化而慌了手脚,就应该掌握学习的方法。”
立足当下,我们应该怎样面对来势汹汹的科技浪潮?再简单点说,你知道大模型,你调试过大模型吗?你读过开源大模型代码吗?是否想过自己训练AI大模型呢?
你距离AI原生开发者还有多远?
SOTA AI 联合来自阿里、英伟达、英特尔、华为的AI大牛打造了面向开发者的AI大模型训练营课程,3个月时间,每周两次直播课。助力传统开发者转型AI原生开发者。加速AI时代的到来,发明更好的科技。
#1.
全面覆盖核心知识点,
提供系统学习路线
#2.
讲师团队
#3.
4大章10小节24次课带你
深入浅出AI大模型
#4.
适合人群推荐
至少有1-3年软件开发经验
熟悉 Python/C++ 编程
有一定AI理论基础,如概率论、线性代数
对AI开发感兴趣,想从事AI开发相关行业
#5.
专题课堂加餐,
提升项目实战硬实力
除了正课以外,我们还设置了免费加餐,
报名学习大模型训练营,还能获得以下助力:
实操演练反转课程,现场代码review,实时反馈,闭环能力提升
模拟面试与大厂HR面对面模拟,解读AI开发岗考点,掌握简历优化,谈薪资技巧
职业规划做好个人定位+技术成长路线,增强软实力,完美切换AI开发者
大牛分享邀请行业TOP专家,解读最前沿技术实践
毕业增值服务训练营结业证书、讲师亲笔就业推荐信、企业内推、永久回放
#6.
往期课程回顾
#7.
联合出品人
如果10年前你错过了比特币,那10年后的今天,我建议你要学习下chatgpt,因为它会超过比特币的影响力,而学习它,使用它,你才能超过别人,这又是一次新的新的起跑点。——韦启发推荐
ChatGPT为什么这么神?它能够实现当前的交互,离不开OpenAI在AI预训练大模型领域的积累。学习它,了解背后的秘密,才能让我们可以走在科技最前沿。——李肖遥推荐
#8.
常见问题与帮助
Q1:课程学完后能达到什么水平?
对标阿里P7水平
Q2:是否有基础要求?
学员需要熟悉 Python/C++ 等至少一门编程语言。具备 AI 理论基础,如概率论、线性代数。
Q3:是否有详细课程排期?
有的哦,可以扫描下方二维码,添加社区小助手详细了解课程排期。
Q4:上课形式和时长是怎样的?
直播课程安排共3周,每周两次课,分别是周三晚上2h、周六晚上3h,共计24节课。
Q5:学员环境需要准备什么?
SOTA AI 将根据报名进度,为同学们采购/租赁多台8卡A100服务器,用于训练7B和33B的大模型(LLM)。模型训练课若干人一组,共用服务器资源。同学们分好组后,助教会为同学们按分组顺序安排出训练时间段并发送到群里。不同分组的同学按照组别在既定时间段上线操作即可。
Q6:直播是否有回看?
直播的录播视频会上传到飞书方便大家回看(设置有账号权限),但为了更好的学习互动效果,建议各位学员提前预留好时间,准备好问题,准时参加直播。
Q7:课程视频的观看期限是多久?
本期课程视频永久有效,其中包含“学期”和“观看期”。学期:指我们为大家提供学习服务的时间,也就是报名之日起 3 周的时间。在此期间,学员可以观看课程视频,并享受相应的学习服务,比如小助手答疑、作业批改等等。观看期:是指服务期结束之后的时间。观看期,课程视频永久有效。在此期间,学员可随时观看课程视频,但不再享受学习服务。
Q8:可以跟老师互动交流吗?
当然啦,我们会建立班级社群,群内可以互动交流。上课期间,大家还可以通过直播向老师提问。
Q9:如何获得内推机会?
只要你完成全部的课程内容和作业,顺利毕业后,就可以获得SOTA AI提供的两次内推机会,直达面试官。
Q10:报名缴费后可以退款吗?
开课后 7 个自然日内,如果觉得课程不适合自己,可无条件申请退款,超出 7 个自然日,就不再办理退款啦。退款流程预计为 10 个工作日。
Q11:这个训练营是由哪个培训机构来运营的?机构性质是什么?
本训练营课程由邓瑞恒、施尧、钟良辉等联合何成杰、丁峰、肖城等讲师共同推出,属SOTA AI 社区行为。但课程质量与承诺内的退费保障由邓瑞恒及其运营团队共同担保。
Q12:价格说明
划线价为商品或服务的参考价,并非原价,该价格仅供参考。未划线价格为商品或服务的实时标价,具体成交价格根据商品或服务参加优惠活动,或使用优惠券、礼券、赠币等不同情形发生变化,最终实际成交价格以订单结算页价格为准。
总之,我们的目标是助力「传统开发者」成功转型「AI原生开发者」。
通过近3个月系统学习AI开发,掌握全体系、紧贴一线大厂的AI知识。课程费用定价 4999 元,前 30 名优惠价 3999 元!两人团报再各减500元。一周内不满意可无条件全额退款👇
对了,我们在过去两周里,推出了AI大模型系列大咖直播周,两周三位老师四场直播,给大家分享了AI开发者必知必会的基础知识 》》》
#AI大模型开发系列大咖直播周
🌲 活动:AI大模型开发系列大咖直播周(共 4 场)
🔥 形式:在线课程(免费)
⏰ 时间:2023 年 7 月 11 日、13 日、18日、20日,晚 20:00-21:00
🗺 地点:飞书会议(入群后发布会议链接)
分享嘉宾:Franky,英伟达资深研发 Leader,曾在 ARM、AMD 等头部公司深耕多年。
时间:7 月 11 日 晚 20:00
分享提纲:
基于Transformer decoder的SFT(supervised fine-tuning)模型
让大模型理解人类的喜好--Reward Model详解
让大模型学会自己打标--RLHF(Reinforcement Learning from Human Feedback)模型详解
分享嘉宾:丁峰,曾任阿里大计算团队核心成员,并在华为、英伟达等头部公司有近二十年 AI 研发经验。多篇顶会 paper 的一作和二作。
时间:7 月 13 日 晚 20:00
分享提纲:
总览GPU/NPU/TPU 架构
存储结构
异构编程模型
性能优化方法,包括多流并发,存储性能优化,指令集优化,定制优化
分享嘉宾:肖城,曾任 Intel 英特尔深度学习模型优化专家,近二十年模型优化经验,涉及量化,剪枝,蒸馏。深度学习框架 pytorch 国内贡献者之一。
时间:7 月 18 日 晚 20:00
分享提纲:
为什么要模型优化
模型优化的几种方法
模型量化的基本原理
模型量化的pytorch实现
模型量化的一些工具
分享嘉宾:丁峰,曾任阿里大计算团队核心成员,并在华为、英伟达等头部公司有近二十年 AI 研发经验。多篇顶会 paper 的一作和二作。
时间:7 月 20 日 晚 20:00
分享提纲:
3D parallelism
ZeRO, ZeRO-offload, ZeRO infinity, ZeRO inference
Sparse attention, flash attention. Paged attention
Transformer kernel fusion
1-bit adam, 1-bit LAMB
NCCL/oneCCL in pytorch/deepspeed
希望获得以上四场直播的课件PPT、课程回放视频,可免费申请索取。👇
🙋♂️报名:扫码入群
群满,可添加 Dora 微信,发送自我介绍受邀入群
最后,对课程有疑问、付款需解答、公益课有问题、商务合作......均可扫码联系 SOTA AI 运营同学 Dora ( id: SotaAI2050)👇
学习AI大模型训练,一起发明更好的技术!我们直播间见。