雷递网 雷建平 3月16日
百度今日在北京总部召开发布会,邀请测试主题围绕新一代大语言模型、生成式AI产品文心一言。
百度创始人、董事长兼首席执行官李彦宏出席及百度首席技术官王海峰出席,并展示了文心一言在文学创作、商业文案创作、数理推算、中文理解、多模态生成五个使用场景中的综合能力。
从现场展示来看,文心一言某种程度上具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性都逐渐接近人类水平。
但李彦宏也多次提及,这类大语言模型还远未到发展完善的阶段,进步空间很大,未来这段时间它一定会飞速发展,日新月异。
目前,大语言模型和生成式AI代表了一个新技术范式,是全球每家企业都不可错过的机会。
百度文心一言定位于人工智能基座型的赋能平台,将助力金融、能源、媒体、政务等千行百业的智能化变革。
李彦宏表示:“百度希望和大家一起,推动人工智能技术进步,让所有人都能使用最先进的生产力工具,让所有人都能从中受益。”
首批用户已可体验
百度同时公布了文心一言的邀请测试方案。3月16日起,首批用户即可通过邀请测试码,在文心一言官网体验产品,后续将陆续开放给更多用户。
百度智能云将面向企业客户开放文心一言API接口调用服务。3月16日起正式开放预约,搜索“百度智能云”进入官网,可申请加入文心一言云服务测试。
雷递网作为首批用户进行体验,文心一言的反应速度还很快,可以就GPT-4等问题几秒钟内就进行回答,也可以就一些蔬菜和水果如何做菜提出一些建议。
当然,国外人工智能企业OpenAI已经推出GPT-4,功能强过ChatGPT,能玩梗图还能做网页。目前阶段,文心一言还无法做得玩梗图的阶段,技术层面还有待进一步提升。
五大使用场景、五大能力
李彦宏展示了文心一言在五个使用场景的表现,包括文学创作、商业文案创作、数理推算、中文理解和多模态生成。
在文学创作场景中,文心一言根据对话问题将知名科幻小说《三体》的核心内容进行了总结,并提出了五个续写《三体》的建议角度,体现出对话问答、总结分析、内容创作生成的综合能力。
此外,文心一言准确回答了《三体》作者、电视剧角色扮演者等事实性问题。生成式AI在回答事实性问题时常常“胡编乱造”,而文心一言延续了百度知识增强的大模型理念,提升了事实性问题的准确率。
面对“于和伟和张鲁一有哪些共同点”、“于和伟和张鲁一谁更高”这类问题,文心一言也基于推理能力得出了正确答案。
在商业文案创作场景中,文心一言顺利完成了给公司起名、写Slogan、写新闻稿的创作任务。
连续三次内容创作生成中,文心一言既能准确理解人类意图,又能清晰地表达,这是基于庞大数据规模而发生的“智能涌现”。
文心一言大模型的训练数据包括万亿级网页数据、数十亿的搜索数据和图片数据、百亿级的语音日均调用数据,以及5500亿事实的知识图谱等。
文心一言还具备了一定的思维能力,能够学会数学推演及逻辑推理等相对复杂任务。面对“鸡兔同笼”这类锻炼人类逻辑思维的经典题,文心一言能理解题意,并有正确的解题思路,进而像学生做题一样,按正确的步骤,一步步算出正确答案。
文学创作、商业文案创作、数理推算是大语言模型常见的优势和能力,在此基础上,文心一言还表现出更优秀的中文理解及多模态生成能力。
作为扎根于中国市场的大语言模型,文心一言具备中文领域最先进的自然语言处理能力,在中文语言和中国文化上有更好的表现。在现场展示中,文心一言正确解释了成语“洛阳纸贵”的含义、“洛阳纸贵”对应的经济学理论,还用“洛阳纸贵”四个字创作了一首藏头诗。
多模态生成方面,李彦宏现场展示了文心一言生成文本、图片、音频和视频的能力。有趣的是,文心一言甚至能够生成四川话等方言语音;文心一言的视频生成能力则因成本较高,现阶段还未对所有用户开放,未来会逐步接入。
“多模态是生成式AI一个明确的发展趋势。”李彦宏表示,“未来,随着百度多模态统一大模型的能力增强,文心一言的多模态生成能力也会不断提升。”
从文心一言的表现看,某种程度上它具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性都逐渐接近人类水平。但整体而言,这类大语言模型还远未到发展完善的阶段,有赖于通过真实的用户反馈而逐步迭代。
王海峰表示,文心一言,是新一代知识增强大语言模型,是在ERNIE及PLATO系列模型的基础上研发的。它的关键技术包括有监督精调、人类反馈的强化学习、提示、知识增强、检索增强和对话增强。前三项是这类大语言模型都会采用的技术,ERNIE和PLATO中也已经有应用和积累,在文心一言中又有了进一步强化和打磨;后三项则是百度已有技术优势的再创新,也是文心一言未来越来越强大的基础。
李彦宏强调:“文心一言将建立起真实用户反馈、开发者调用和模型迭代之间的飞轮,效果会迅速提升,给你‘士别三日,当刮目相看’的惊喜。”
大语言模型无法突击速成,百度有四层技术栈优势
目前,百度是全球大厂中第一个做出对标ChatGPT产品的企业。
李彦宏指出:“无论是哪家公司,都不可能靠突击几个月就能做出这样的大语言模型。深度学习、自然语言处理,需要多年的坚持和积累,没法速成。”
可以说,文心一言是百度过去多年努力的延续。人类进入人工智能时代,IT技术的技术栈发生了根本性变化,从过去三层到“芯片-框架-模型-应用”四层。
今天,百度是全球为数不多、在这四层进行全栈布局的人工智能公司,从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,到搜索、智能云、自动驾驶、小度等应用,各个层面都有领先业界的自研技术。
李彦宏认为,百度AI全栈布局的优势在于,可以在技术栈的四层架构中实现端到端优化,大幅提升效率。尤其是框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验。比如,为了支持千亿参数模型的高效分布式训练,百度飞桨专门研发了 4D 混合并行技术。
后续,芯片、框架、大模型和终端应用场景可以形成高效的反馈闭环,帮助大模型不断调优迭代,从而升级用户体验。
生成式AI催生新业态,李彦宏预测三大产业机会
自2月份百度官宣“文心一言”以来,已有超过650家企业宣布接入文心一言生态。这意味着很多企业已经理解到,文心一言和生成式AI代表了一个新的技术范式,它会影响到每一家公司。
AI市场爆发性的需求增长,将释放出前所未有的、指数级的商业价值。李彦宏预测,大语言模型将带来三大产业机会。
第一类是新型云计算公司,其主流商业模式从IaaS变为MaaS。文心一言将根本性地改变云计算行业的游戏规则。之前企业选择云厂商更多看算力、存储等基础云服务。未来,更多会看框架好不好、模型好不好,以及模型、框架、芯片、应用这四层之间的协同。
文心一言将通过百度智能云对外提供服务,帮助企业构建自己的模型和应用,农业、工业、金融、教育、医疗、交通、能源等重点领域,都会因此效率大幅提升,并在每一个行业快速形成新的产业空间,助力数字中国的实现。李彦宏预告称,百度智能云将于近期举办新闻发布会,主题围绕文心一言的云服务和应用产品,既有公有云服务和也可以做私有化部署。
第二类是进行行业模型精调的公司,这是通用大模型和企业之间的中间层,他们可以基于对行业的洞察,调用通用大模型能力,为行业客户提供解决方案。这方面,百度文心大模型已经在电力、金融、媒体等领域,发布了10多个行业大模型。
第三类是基于大模型底座进行应用开发的公司,即应用服务提供商。李彦宏断言,对于大部分创业者和企业来说,真正的机会并不是从头开始做ChatGPT和文心一言这样的基础大模型,这很不现实,也不经济。基于通用大语言模型抢先开发重要的应用服务,这可能才是真正的机会。
目前,基于文本生成、图像生成、音频生成、视频生成、数字人、3D等场景,已经涌现出很多创业明星公司,可能就是未来的新巨头。
李彦宏说,“我们相信,人工智能会彻底改变我们今天的每一个行业。AI的长期价值,对各行各业的颠覆性改变,才刚刚开始。未来,将会有更多的杀手级应用、现象级产品出现,将会有更多的里程碑事件发生。”
以下是百度CEO李彦宏演讲实录:
最近一段时间,很多朋友问我,“为什么是今天,你们真的ready了吗”。其实从某种意义上说我们已经为此准备了多年,我们十几年前就开始投入AI研究,2019年就推出文心大语言模型,今天的文心一言是过去多年努力的延续。
但也不能说我们完全ready了,文心一言对标ChatGPT、甚至是对标CGT-4,门槛是很高的,全球大厂还没有一个做出来的,百度是第一个。我自己测试感觉还是有很多不完美的地方。
那为什么是今天?因为市场有需求。
百度的很多产品,从搜索到智能云,再到自动驾驶,到小度,大家都有需要,更重要的是我们的客户需要,合作伙伴需要,从我们承认文心一言的存在到现在,短短一个月的时间,就有超过650家合作伙伴宣布加入文心一言生态,大家都希望能早一点用上最新最先进的大语言模型。
当然,一旦有了真实的人类反馈,文心一言的进步速度会非常快,我们都希望它快点成长,早日为用户和客户创造价值。
百度希望和大家一起,推动人工智能技术进步,让所有人都能使用最先进的生产力工具,让所有人都能从中受益。
十月怀胎,一朝分娩。现在,我就带大家来看看,百度新一代大语言模型、生成式AI 产品文心一言。
下面,我会演示五个场景的Dem,包括文学创作、商业文案创作、数理推算、中文理解、多模态生成。
首先来体验一下文学创作。《三体》是非常知名的科幻小说,我们就以这个开头。
Dem1:
《三体》的作者是哪里人?
可以总结一下《三体》的核心内容吗?如果要续写的话,可以从哪些角度出发?
如何从哲学的角度续写?
电视剧《三体》演员都有谁?
于和伟和张鲁一有哪些共同点
于和伟和张鲁一谁更高?
刚才的演示中,“总结三体的核心内容”,体现的是文心一言的总结、分析能力。
续写《三体》,体现的是内容创作生成能力。
《三体》的作者是谁?他是哪里人?电视剧三体演员都有谁?文心一言回答是正确的。大家可能知道,生成式AI这类产品,在回答事实性问题时,有时候会出错。
文心一言延续了百度知识增强的大模型理念,大幅度提升了事实性问题的准确率。
于和伟和张鲁一有哪些共同点、于和伟和张鲁一谁更高?这类问题背后,则体现的是文心一言的推理能力。比如,它得先知道两人的准确身高,才能得出正确答案。
我们再来试试文心一言在商业文案创作方向的能力。以常见的公司起名字、写slgan、写新闻稿为例。
Dem2
如果要成立一个用大模型服务中小企业数字化升级的科技服务公司,可以起个什么公司名?
数智云图这个名称不错,给我起一个公司的服务Slgan,表达共赢的概念。
帮我生成一篇公司成立的新闻稿,数智云图以共赢的服务理念用大模型服务中小企业数字化升级。字数600字。
刚才的演示,展现了文心一言连续三次内容创作生成。
AI要写好一篇稿子,除了需要准确理解我们的意图,还要有清晰的表达能力。
这背后有一个基础,就是庞大的数据规模。人类常说“读万卷书”,而AI可以说是 “读书破千亿卷”。文心一言大模型的训练数据就包括,万亿级网页数据,数十亿的搜索数据和图片数据,百亿级的语音日均调用数据,以及5500亿事实的知识图谱等,这让百度在中文语言的处理上,能够处于独一无二的位置。
有研究表明,数据规模足够大,参数达到千亿级,大模型就可能发生“智能涌现”,即使在没有专门训练过的领域,也能涌现出知识理解和逻辑推理能力。
我们接下来看文心一言对数理逻辑推算任务做的怎么样。鸡兔同笼是锻炼人类逻辑思维的经典题,这个对生成式AI同样有挑战。
Dem3
下面我们来玩一个鸡兔同笼的游戏。1只鸡有2只脚1个头,1只兔子有4只脚1个头。那么,如果有一个笼子里有9个头,40只脚,应该有多少只鸡,多少只兔子?
下面我们来玩一个鸡兔同笼的游戏。1只鸡有2只脚1个头,1只兔子有4只脚1个头。那么,如果有一个笼子里有9个头,30只脚,应该有多少只鸡,多少只兔子?
对于第一道题,文心一言经过演算,认为可能是题出错了。
对于第二道,文心一言不但给出了正确结果,还详细给出解题步骤。
可以看出,文心一言能理解题意,并有正确的解题思路,进而像学生做题一样,按正确的步骤,一步步算出正确答案。
文心一言已具备了一定的思维能力,能够学会数学推演及逻辑推理这类相对复杂任务。当然,现阶段准确率还不是100%,我们还需要给它更多的时间来学习和成长。
前面三个例子,我们演示了大语言模型比较常见的优势和能力。
下面我们演示一下文心一言的中文理解能力。
Dem4
“洛阳纸贵”是什么意思?
当时洛阳的纸到底有多贵?
这个成语在现在的经济学原理里,对应的理论是什么?
用洛阳纸贵四个字写一首藏头诗。
“洛阳纸贵”,“藏头诗”,这很考验AI对中文和中国文化的理解。
作为扎根于中国市场的大语言模型,文心一言具备中文领域最先进的自然语言处理能力。这个例子就比较清楚的展示了我们在中文上的优势。
相对应的,一言目前对英文语种、代码场景的训练还不够多,表现还不够好,接下来我们还要加紧训练,不断完善这些能力。
接下来,我再演示一个多模态生成方向的Dem。
Dem5
请为2023世界智能交通大会创作一张海报。
你认为智能交通最适合哪个城市发展?
请用四川话将以上内容讲出来。
请将以上内容生成视频。
刚才这一段演示,文心一言生成了文本、图片、音频和视频,展示了多模态生成能力。目前的版本,已经能够生成文字、图片和语音。生成视频因为成本比较高,还没有对所有用户开放,未来我们会逐步接入。但是熟悉百家号创作的朋友,应该都体验过这个功能了,每天有几万篇文章通过这个能力转成视频内容在百度分发。
多模态是生成式AI一个明确的发展趋势。
未来,随着百度多模态统一大模型的能力增强,文心一言的多模态生成能力,也会不断提升。
上面这些演示案例,在新闻发布会后,大家也可以亲自去测试体验。
从文心一言的表现看,某种程度上它具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性,都逐渐接近人类水平。
但整体而言,这类大语言模型还远未到发展完善的阶段,它们有时候会有很惊艳的表现,但不少场景下,细究起来还有明显的bug,进步空间很大。未来这段时间它一定会飞速发展,日新月异。
通过定向微调,可以在百度内外部各类产品上逐步展示出惊人的亲和力,让每一个产品离自己的用户和客户更近。
文心一言这样的大语言模型,会成为每个人必不可少的生产力工具。
不过,无论是哪家公司,都不可能靠突击几个月就能做出这样的大语言模型。深度学习、自然语言处理,需要多年的坚持和积累,没法速成。
人类进入人工智能时代,IT技术的技术栈发生了根本性变化。过去基本分为三层:芯片层,操作系统层和应用层。现在可以分为四层:芯片层、框架层、模型层和应用层。
今天,百度是全球为数不多、在这四层进行全栈布局的人工智能公司,从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,到搜索、智能云、自动驾驶、小度等应用,各个层面都有领先业界的自研技术。
文心一言位于模型层。2019 年,百度推出了文心大模型ERNIE 1.0。目前,ERNIE 3.0每天接受数十亿次用户的搜索请求。这让文心一言能够基于一个庞大的、高效的数据池,快速地学习和改进。
大模型训练堪称暴力美学,需要有大算力、大数据和大模型,每一次训练任务都耗资巨大。全栈布局的优势在于,可以在技术栈的四层架构中,实现端到端优化,大幅提升效率。尤其是,框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验。比如,为了支持千亿参数模型的高效分布式训练,百度飞桨专门研发了 4D 混合并行技术。
另外,芯片、框架、大模型、和终端应用场景,可以形成一个高效的反馈闭环,帮助大模型不断去调优迭代,越做越好。更好的大模型,会让用户体验不断升级。
我还想强调一点,在全球范围内,在四层架构的每一层都有领先产品的公司几乎没有,百度的优势非常独特,相信大家会在后续文心的迭代速度上有明显感受。
自2月份百度官宣“文心一言”以来,已有超过650家企业宣布接入文心一言生态,感谢每一位伙伴的支持。
这也意味着,很多的企业已经理解到,文心一言和生成式AI,代表了一个新的技术范式,是一个每家企业都不可以错过的巨大的机会。AI市场即将迎来爆发性的需求增长,其商业价值的释放将是前所未有的、指数级的。
我们对文心一言的定位,是一个通用的赋能平台,金融、能源、媒体、政务等千行百业,都可以基于这个平台来实现智能化变革,实现效率提升,创造巨大的商业价值。
文心一言不仅仅会影响搜索或者互联网公司,而是会影响到每一家公司,由于它超强的自然语言理解和表达能力,它让任何公司都有机会离自己的客户更近,有机会通过这些能力去创建最好的客户体验,从而比其他人更能抓住客户,获得更强的竞争优势。
文心一言对个人的改变也会是巨大的,有机构预测,到2030年,人工智能可以将每一个知识工作者的生产力提高4倍以上。很多人的工作性质会发生不可逆转的改变。
我认为生成式AI,将催生新产品、新业态,会有很多创业和投资机会。
对于大部分创业者和企业来说,真正的机会并不是从头开始做ChatGPT和文心一言这样的基础大模型,这很不现实,也不经济。
对于大部分创业者和企业来说,真正的机会是,基于通用大语言模型,抢先开发重要的应用服务。就像移动互联网时代,最成功的商业产品不见得是安卓和IS,而是基于安卓和IS开发的微信、淘宝、抖音等各种超级应用。
我认为大模型时代将产生三大产业机会:
第一类是新型云计算公司,其主流商业模式从IaaS变为MaaS。文心一言,将根本性地改变云计算行业的游戏规则。之前企业选择云厂商更多看算力、存储等基础云服务。未来,更多会看框架好不好、模型好不好,以及模型、框架、芯片、应用这四层之间的协同。
文心一言将通过百度智能云对外提供服务,帮助企业构建自己的模型和应用,农业、工业、金融、教育、医疗、交通、能源等重点领域,都会因此效率大幅提升,并在每一个行业快速形成新的产业空间,助力数字中国的实现。百度智能云将于近期举办新闻发布会。主题围绕文心一言的云服务和应用产品,我们既有公有云服务和也可以做私有化部署,请大家期待。
第二类是进行行业模型精调的公司,这是通用大模型和企业之间的中间层,他们具有行业Knwhw,调用通用大模型能力,为行业客户提供解决方案。我们的文心大模型,已经在电力、金融、媒体等领域,发布了10多个行业大模型。在各行各业都有机会。非常欢迎大家来跟我们合作。
第三类是基于大模型底座进行应用开发的公司,即应用服务提供商。今天,基于文本生成、图像生成、音频生成、视频生成、数字人、3D等场景,已经涌现出很多创业明星公司,他们可能就是未来的新巨头。这里面的机会非常多,可以说每家企业在现在这个阶段都有机会。
我们相信,人工智能会彻底改变我们今天的每一个行业。AI的长期价值,对各行各业的颠覆性改变,才刚刚开始。未来,将会有更多的杀手级应用、现象级产品出现,将会有更多的里程碑事件发生。
之后,文心一言将建立起真实用户反馈、开发者调用和模型迭代之间的飞轮,效果会迅速提升,给你“士别三日,当刮目相看”的惊喜。
最后我想说,文心一言不是中美科技对抗的工具,而是一代代百度技术人员追逐科技改变世界的梦想的产物,是我们服务亿万用户,赋能千行百业的全新的平台,是创新驱动发展的最佳证明。
———————————————
雷递由媒体人雷建平创办,若转载请写明来源。