文心一言
- 前言
- 1、什么是文心一言?
- 2、有什么作用?
- 3、从哪里来,发展前景?
- 一、文心一言优势
- 1、文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成
- 1、中文理解
- 2、多模态生成
- 一大特点:自动文本摘要
- 总结
前言
1、什么是文心一言?
- 文心一言(英文名:ERNIE Bot)是百度全新一代知识增强 大语言模型,文心大模型家族的新成员。
- 文心一言内测地址:https://yiyan.baidu.com/welcome
- 另外:
- 百度官宣文心一言(英文名: ERNIE Bot)将在三月份完成内测,3月27日面向公众开放
-
- 百度官宣文心一言(英文名: ERNIE Bot)将在三月份完成内测,3月27日面向公众开放
大语言模型 :文心一言, 3月27日面向公众开放
2、有什么作用?
- 与人对话互动,回答问题,协助创作,高效便捷地帮助人们获取信息、知识和灵感。
1、对话互动 解答问题
2、协助创作
3、高效,便捷 获取信息
3、从哪里来,发展前景?
- 基于飞桨深度学习平台和文心知识增强大模型,持续从海量数据和大规模知识中融合学习具备知识增强、检索增强和对话增强的技术特色
- 飞浆深度学习平台:https://www.paddlepaddle.org.cn/
-
具备
1、知识增强
2、检索增强
3、对话增强
提示:以下是本篇文章正文内容
一、文心一言优势
1、文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成
- 我把注意点放在了中文理解 和 多模态生成
1、中文理解
- 文心一言具备中文领域最先进的自然语言处理能力,在中文语言和中国文化上有更好的表现。
- 文心一言大模型的训练数据包括:
- 万亿级的网页数据
- 数十亿的搜索数据和图片数据
- 百亿级的语音日均调用数据
- 5500亿事实的知识图谱
- 这里本人看法,文心一言把数据处理以及解析方面的重点,放在中文领域。
- 另辟蹊径走出一条新的方向,困难但也易于出彩。
- 今年由于ChatGPT大火!微软推出首款ChatGPT搜索引擎,国内科技巨头百度、阿里等纷纷开启了创新发展爆发模式。科技创新世界潮会不会重现?我相信会的。
2、多模态生成
一大特点:自动文本摘要
- 聚焦自动文本摘要:四个趋势
- 预训练语言模型
- Transformer已成为文本生成的主流模型
- 融合知识的文本生成模型
- 多模态与知识联合建模
时间有限,还未开始了解本领域。因此附上一篇文章连接,感兴趣可以点击自行了解。
- 多模态生成文章:https://cloud.tencent.com/developer/article/1793461
总结
- 文心一言,这类大语言模型还远未到发展完善的阶段,有赖于通过真实的用户反馈而逐步迭代。
- 不过嘛,我持有乐观态度。国内开发大语言模型对标国外,在这方面差的,只是积累经验。