【跟着ChatGPT学深度学习】系列
- 第零弹——ChatGPT介绍以及一些使用案例
- 第一弹——ChatGPT带我入门深度学习
- 第二弹——ChatGPT带我入门NLP
- 第三弹——ChatGPT教我文本分类
- 第四弹——ChatGPT带我学情感分析
- …
- 番外篇——ChatGPT教我谈恋爱
ChatGPT介绍
ChatGPT自我介绍
首先用魔法来打败魔法,看chat-gpt自己的介绍:
然后再看百度是怎么介绍它的:
个人的理解:
归根结底,ChatGPT就是一个高级的聊天机器人,跟微软的小冰、苹果的Siri、小米的小爱同学和阿里的天猫精灵等比较类似。之所以最近这么火爆,主要原因是依赖其大量的语料的训练和人工的标注调整(RLHF),它已经能达到甚至超越真人的水平了,而人类生成一段文本可能需要比较长时间的思考,而ChatGPT却只需要不到一分钟。ChatGPT上线短短5天,注册用户数就超过100万。2023年一月末,ChatGPT的月活用户已突破1亿,成为史上增长最快的消费者应用。2023年2月7日,微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎Bing(必应)和Edge浏览器。微软CEO表示,“搜索引擎迎来了新时代”。
ChatGPT的发展历程
-
2015年,OpenAI成立,致力于研究和开发人工智能技术。在成立初期,OpenAI的创始人之一Elon Musk提出了要创建一个能够帮助人类解决重要问题的人工智能系统。
-
2016年,OpenAI开始研究自然语言处理技术,并着手开发语言模型。
-
2017年,OpenAI发布了第一个基于循环神经网络的语言模型,名为“OpenAI Language Model”(简称OLM)。
-
2018年,OpenAI在OLM的基础上发布了更加先进的语言模型“Generative Pre-training Transformer”(GPT)。GPT模型是一种基于Transformer架构的深度学习模型,可以用于自然语言生成和理解任务。GPT-2是GPT模型的升级版,包含了数十亿个参数,可以生成高质量的文本。
-
2019年,OpenAI公开了GPT-2模型,并且发现了其可能被滥用的风险,因此只公开了部分模型。这也导致了一些关于人工智能滥用的讨论和担忧。
-
2020年,OpenAI推出了GPT-3模型,该模型包含了1750亿个参数,成为当时最大的自然语言处理模型之一。GPT-3模型可以用于自然语言生成、对话系统、翻译等多个任务。此外,OpenAI还发布了一项新的技术——GPT-3 Zero-shot Learning,可以在没有任何人工标注数据的情况下学习新任务。
-
2021年,OpenAI宣布将推出一个新的语言模型GPT-4,它将有望进一步改进自然语言处理的质量和效率,但目前还没有正式发布。
ChatGPT可以来干啥
老样子,先用魔法来打败魔法:
我个人尝试了一次,发现它能干的事情还是很多的,例如:
(1) 讲故事:
神话故事比我写的好。
(2) 做算术题:
可以说是完全正确了。
(3) 做总结:
虽然没有见到比较年轻的学者,有些也不是很准确,但是能够做到这样已经很棒了。
(4) 可以写代码:
我和我的小伙伴们惊呆了。它甚至贴心地给了我们写了很多注释,甚至还写了算法说明,这是要程序员全体下岗的节奏呀。
(5) 甚至可以:
我觉得ChatGPT的作用就相当于一个高级一点的搜索引擎,它经过大量高质量语料训练之后,可以记住喂给他的大量数据,针对问题生成对应的回复。这也是为什么微软将其嵌入到bing中去,ChatGPT和bing相辅相成,必将撼动谷歌在搜索领域的地位,谷歌此时可能要开始思考如何去应对了,毕竟Transformer和BERT都是自己提出来的,但是OpenAI对此进行了升华,自己要“赶不上”了。(开开玩笑,谷歌在人工智能领域的积累比OpenAI只好不差)
参考文献
[1] OpenAI官网 https://openai.com/
[2] ChatGPT百度百科 https://baike.baidu.com/item/ChatGPT/62446358