Trinkle回答：

有幸参与ChatGPT训练的全过程。直接上想法：

1. RLHF会改变现在的research现状，个人认为一些很promising的方向：在LM上重新走一遍RL的路；如何更高效去训练RM和RL policy；写一个highly optimized RLHF library来取代我的tianshou（x

2. dataset的质量、多样性和pretrain在RLHF的比重很重要

3. dialog是一个完备的载体，能够包含任何东西

4. 有人专门跟我说openai是下一个google

5. 可以开始想象AGI之后的世界了，我已经想了几个月了。比如最简单的想法是，这些model能够提供廉价的代码生产力，虽然不是100% perfect，但是可以极大地促进单个程序员的生产效率，因此科技公司的scope可以成倍的变大，比如之前需要一个team现在可能只需要一个人+一个model，那么相同数量的员工的话生产力会是之前的数倍

6. 我们没有借鉴之前搞dialog agent的工作思路（其实是没了解…），如果有好的idea的话欢迎评论区留言

7. 机器之心推送评论区第一位说内测了好几个月的人是我女票（狗头

电光幻影炼金术回答：

在简单尝试之后，我激动地发现，ChatGPT是人类人工智能历史上的重要一步，见证历史了我们属于是。

ChatGPT宣布了，人工智能的对话模型开始能在大范围、细粒度问题上给出普遍稳妥的答案，简单地说，人工智能的大对话模型可以达到基本不犯错误的水平了（这么说可能不严谨，但是对于普通老百姓这样理解就可以了）。

话不多说，直接上效果：

（知道很多人是来看段子的，所以段子优先。）

更新：

问怎么求解台湾问题：

帮我安慰女朋友（这个例子为转载，已经得到同意）：

AI学英文：

---

1、代替特朗普给普京写情书：

自动翻译的结果：

2、帮我写份周报应付老板：

3、问怎么找男朋友：

虽然看上去是非常普通的回答，但是这种安全与谨慎正是代表了ChatGPT的水平：在它不知道的问题上，他会果断拒绝回答。这也标志着，人工智能的对话模型开始走向真的安全稳定的应用。

4、问我的科研方向如何？

大模型分析道，NeRF（神经渲染场）是一个比较新颖的方向，同时存在着广阔的探索空间。

那么我们再看看一些对领域的评价：

5、问问顶会论文怎么发，帮我找找新的idea。

对话模型给出了注意力机制等论文密码，还给了一个方向：视频对象检测跟踪（这个方向确实不错hh）。

6、帮我解决一些调参的难题：

---

有特别有趣的问题可以发在评论区，我帮你问AI。

内容转载自知乎，著作权归属原作者，侵删

分享

收藏

点赞

在看