Datawhale分享
分析:ChatGPT团队,来源:AIGC开放社区
Aminer和智谱研究发布了《ChatGPT团队背景研究》报告,深度揭示了这款火爆全球应用的背后团队的总体人员架构。
调查发现,ChatGPT团队只有87人,其显著特征是“年纪很轻”、“背景豪华”、“聚焦技术”、“积累深厚”、“崇尚创业”和“华人抢眼”。该团队共有9名华人,占团队总人数10%。其中5人本科(3人清华、1人北大、1人华中科技大)就读于中国内陆高校,3人大学教育经历均在美国高校完成。
其中,华人学者欧阳龙参与了与ChatGPT相关的7大技术项目中的4大项目的研发,他是InstructGPT论文的第一作者,RLHF论文的第二作者,是这两个关键技术项目的核心人员之一。
人员流动:10 人从谷歌跳槽加入,1 人曾在百度任职
ChatGPT团队成员主要来自外部公司(81%)、高校应届毕业生(13%)、科研机构 (4%)和高校教职人员(3%)等。其中人数来源最多的外部企业是谷歌, 共 10 人跳槽加入;来源人数超过 2 人(含)以上的外部企业还有 Facebook、Stripe、Uber、 Quora、NVIDIA、Microsoft、Dropbox、DeepMind 等知名科技公司。
作为应届生直接 加入 ChatGPT 团队的共 11 人,其中 5 人来自加州大学伯克利分校、3 人来自斯坦福大学, 麻省理工学院、卡内基梅隆大学和哈佛大学各 1 人。可见,在 ChatGPT 团队中,不论是来 自其他企业,还是作为应届生加入的人员,他们的背景都相当“豪华”。
调查发现,ChatGPT 研究员 Heewoo Jun 曾在 2015-2019 年间在百度(美国研究院, Sunnyvale, California, USA.)担任研究员,2019 年从百度离职后加入 OpenAI 担任研究 员至今。
华人成员:在国内完成本科学业,后赴美深造并就业
ChatGPT团队有9位华人。其中5人本科就读于在中国内陆高校,3人大学教育经历均在美国高校完成,1人(张马文,MarvinZhang)信息不全。梳理毕业于中国内陆高校的ChatGPT华人成员成长路径发现,他们就读于中国内陆顶尖高校的学习阶段均为本科,之后赴美深造,获得硕士或博士学位,然后加入美国诸如Dropbox、OpenAI等创新型公司。
成员贡献:1/4成员参与过codeX研发,欧阳龙表现突出
ChatGPT是OpenAI公司在大型语言模型领域多年技术积累的结果。与ChatGPT相关的先前关键技术项目有RLHF(Reinforcement Learningfrom HumanFeedbac,人类反馈强化学习)、GPT1、GPT2、GPT3、codex、InstructGPT、webGPT等7项。
统计发现,ChatGPT团队中,有2人参与了其中4项关键技术项目的研发,他们是高级研究员欧阳龙和研发工程师Christopher Hesse。他们均为机器学习领域专家。
华人欧阳龙是InstructGPT论文的第一作者,RLHF论文的第二作者,是这两个关键技术项目的核心人员之一。另外,有9人参加了其中的3个关键技术项目研发。
在OpenAI 7大技术项目中,ChatGPT团队成员参与人数最多的是 CodeX 项目,共有 22 人参与过,占总团队人员总数的 25%;其次是 webGPT 和instructGPT,共有 9 人参与过;第三是 GPT3,共有 6 人参与过;第四是 RLHF,共有3 人参与过。
由此可见,ChatGPT 团 队成员在生成式预训练语音模型领域有较深厚的技术积累,特别是 1/4 团队成员曾参与过 同样基于 GPT3 的 CodeX 项目的研发经验,对之后成功研发 ChatGPT 打下了坚实的基 础。
2023 年“AI 2000 学者”入选情况:5 位顶尖学者入选
AMiner每年推出“AI 2000 全球人工智能学者”名单,该名单评选全球人工智能 20 个细分领域前 100 名最具影响力学者。统计发现,ChatGPT 团队成员有 5 人入选今年“AI 2000 全球人工智能学者”,他们是 OpenAI 联合创始人Wojciech Zaremba(机器人,第 10 名);ChatGPT研究员 Lukasz Kaiser(机器学习,第 10 名);
OpenAI联合创始人、ChatGPT 研究科学家 John Schulman(机器学习,第 41 名);ChatGPT 研发工程师Tomer Kaftan(数据库,第 52 名);ChatGPT研究科学家 Barret Zoph(机器学习,第 95 名)。
“大厂”前沿科技创新疲态显现,鼓励年轻人将目光投向创业公司
本次 OpenAI 不足百人的团队推出的大型语言模型 ChatGPT,让谷歌、Meta 包括国 内的阿里、百度等“大厂”感到压力巨大,它们只好纷纷跟风上马类似项目。“大厂”因其 创新机制、组织文化等相对固定,因而在本次大语音模型创新浪潮中疲态尽显。今后,正如 ChatGPT 一样,更多的突破性创新技术会来自创业公司。因此,鼓励国内有志投身前沿科 技创业的年轻人,把目光投向更具创新潜力的创业公司。
报告来源:Aminer和智谱研究
往期精彩回顾适合初学者入门人工智能的路线及资料下载(图文+视频)机器学习入门系列下载机器学习及深度学习笔记等资料打印《统计学习方法》的代码复现专辑机器学习交流qq群955171419,加入微信群请扫码