对AI原生应用做“逆向”后,我找到了大多数大模型厂商注定失败的原因

大家好,我是卖萌酱。

在一整个2023年对大模型风风火火的流星赶月之后,大模型的竞逐已经来到了“下半场”。应接不暇推出一个又一个大模型已为GPT的技术神话祛魅,不得不说,2024年的大模型市场将更加关注大模型的应用和商业价值。

但是,落地说起来轻而易举,真正将“技术”转化成“应用”,乃至超级应用,实际上要走的路比想象中还要艰难。这对大模型厂商将是由一轮全新考验,有实力有耐力的才能跑到最后。

那么大模型的落地究竟难在哪里?卡在哪一个环节?

2023年底,百度创始人、董事长兼CEO李彦宏在行业大会上提出了 “少关注大模型、多卷AI原生应用” 的观点。我们可以洞悉到,从喊出基于大模型对核心业务线进行重构、重塑之后,百度盯上AI原生应用的步伐在提速。一向以技术积淀见长的百度,究竟在大模型向应用发力的阶段,扮演什么角色?

在WAVE SUMMIT+深度学习开发者大会上,现场为开发者演示了一个基于“多工具智能编排”开发模式开发的旅行助手,让我们看到一个集成图文识别、翻译、语音合成、问答多模态功能的AI原生应用被以一种“搭积木”的方式构建出来,而大模型本身却仿佛隐身于一个旅行助手的实际需求背后,我们看到的只是多种不同的工具被以一种极其方便快捷的方式组装到了一起。

从应用到底层,逆向AI 原生应用

那么什么叫AI 原生应用?

应用的本质,是为了方便快捷的让用户解决某项任务。 1984年,乔布斯在Apple Lisa中第一次创建了“图形用户界面”,自此,基于计算机的“任务实现”不再依赖指令代码的复杂逻辑而可以“所见即所得”。2008 年,Apple 再一次推出 App Store,应用APP这一次开始走入大众视野,在APP中,用户任务实现的复杂逻辑被完整的封装在了手机界面中的一个小方块内,需求的实现开始“所触即所得”。

而伴随着AI技术的出现,基于传统软件开发架构的应用开始不再适应AI算法的封装需求,从而势必要拥抱AI。而AI原生应用的概念,就是以AI系统为驱动,基于AI而构建和运行的应用程序,区别于仅仅将APP内的某个功能模块更替为AI模块,AI原生强调着在应用开发的过程之中,AI 应该和代码、数据一样成为一等公民,即无代码、不编程,无 AI、不工作。

而区别于传统APP的点击式交互,AI原生的应用将更加主动的赋予用户个性化的交互体验,不再是传统的开发者发布,用户使用的应用模式,而是变更成为开发者发布,用户使用,应用学习相辅相成的私人定制应用。

如前文的“旅行助手”,目的地不同,关注点不同的用户可以享受应用带来的不同功能,你想去瑞士我想去德国,你关注浪漫我追求省钱,AI原生的应用天然的具备软件层面的大规模定制能力,从而可以支撑自移动互联网时代的移动APP后新一轮的应用变革。

然而,AI原生应用的概念本身恰如Software 2.0 这类宏观建设仅仅是空中楼阁,支撑AI 原生应用的根本在于底层技术的变革。 如果以移动互联网时代编程框架—>操作系统—>应用商店—>APP的路径作为类比,AI 原生应用本身也需要有底层的核心技术与生态社区作为支持。

追溯AI原生应用的生成逻辑,AI原生应用首先需要有大规模的AI 原生应用商店作为社区支撑,用户需要有渠道“看到”并“使用”应用,开发者也需要平台管理发布自己的应用。有了对接用户与开发者的平台,应用的开发者们需要有基础模型平台方便快捷的调用各类大模型的开放接口以赋予AI原生应用所需的各种各样的能力,实现应用的快速开发与上线,而再往下,构建功能不同的基础模型与不同的AI算法交互又需要有一套完整的AI框架作为模型训练微调的支持。

在这整个过程之中,大模型凭借其自身的理解、规划与生成的能力,将成为类似手机操作系统一般的底层基座,而非类似当下这样顶着Chat的标志在场的与终端用户直接互动交流。

类似于IOS或是安卓,大模型在AI原生应用构建,或是用户实际问题解决的过程中扮演的是一个承前启后的功能,而分析一款AI原生应用的关注点,绝不能只落在它用了什么模型这个模型性能几何的片面数据之上,而是要关注这个应用背后的一整套生态支撑逻辑。

从底层到应用,大模型的生态系统

无论在哪个商学院,教授们总会强调 “现代企业的竞争,就是供应链竞争”。 其实类似于大模型落地至行业应用,我们也可以说 “大模型落地的竞争,就是大模型生态的竞争”。

然而应用侧的繁荣需要有良好的大模型应用生态,再推进一步构建良好的大模型应用生态,必然需要极其丰厚的AI技术储备积累。 对标前文所述AI框架—>基础模型—>AI商店—>AI原生应用的路径,在WAVE SUMMIT+深度学习开发者大会2023上,正式发布飞桨开源框架2.6版本以及大模型重构的开发工具链,为我们带来了百度称为“AI原生应用开发“三板斧”的大模型落地的“百度方案”。

先从飞桨2.6版本说起,作为一个AI框架,核心功能自然是灵活便捷的开发与高效的训练与推理,百度飞桨集核心的深度学习框架,基础的模型库,开发套件,工具套件以及开发者社区为一身,技术上,百度飞桨做到了集动态图与静态图于一身,打通了从动态图开发、动转静训练,静态图表示与优化,静态执行的全过程,实现了兼顾灵活性与效率的高效训练和推理。资源上,百度也构建了丰富全面的基础模型库,开发套件,工具组件以及助力开发者成长的星河社区,成为国内当下唯一功能完备的开源深度学习平台。

在2.6版本中,飞桨迎来了一系列的升级:

  • 在技术底层上,夯实了高扩展性IR的表示体系,为大型模型的极致性能优化提供了技术支撑;

  • 在动转静训练中,飞桨应用自适应的图构件技术,实现了百分百成功率的自动由动转静;

  • 在并行开发方面,又引入了动静统一的自动并行编程,仅仅通过张量切分就可以轻松的开发并行代码;

  • 在大模型库中,对大模型的套件进行了全流程的优化,从预训练到精调、压缩、推理、部署,全环节都进行了极致的优化,以支撑整个大模型的训练与推理;

  • 在计算调度中,2.6版本支撑了多Stream的并行算子调度,降低了硬件等待的耗时和运行时的阻塞,并且为方便硬件厂商开发大幅优化了自定义算子和自定义融合策略;

借由飞桨构建的AI框架为技术支撑,向上结合百度智能编程助手Comate AutoWork,构建了直接“面向需求的开发”的新范式。 在一个开发需求提出后,Comate可以自动化的完成从澄清需求到制定计划、生成代码至调试运行的全过程,在演示中一个过去以天为单位的前端功能程序Comate AutoWork在2分钟内完美完成。

在Comate的赋能下,百度构建了一整套的大模型×飞桨低代码开发工具,通过结合文心大模型,PaddleX支持了基于“图形界面”的开发模式,整合了从数据准备到模型部署的完整AI开发流程,实现了AI应用开发效果和效率的大幅提升。

而有了这些“基础工具”作为技术优势,再结合飞桨星河社区背后的开发生态,一个可以直接通过API或SDK调用大模型,再以上文旅行助手应用以插件加多工具智能编排式的低代码或零代码的应用开发方式跃然纸上。而正是来自从底层到上游方方面面每个的技术细节与技术积累,百度才可以支持承载大模型落地的AI原生应用的快速开发,降低应用开发门槛从而催生如移动互联网APP繁荣式的AI原生应用的繁荣。

大模型落地,路在何方?

做大模型,说容易也容易,说难也难。

要说做大模型容易,伴随着大模型开源社区的发展,搭建一个模型的成本在以肉眼可见的速度逐年降低。 但是说做大模型难,如何让大模型本身不再作为客服式的聊天机器人,而具备支撑应用生态的能力,这就必然要求着大模型企业打通类似移动互联网时代从编程框架到操作系统到应用商店到APP应用的全过程。

大模型落地难,难点不在于大模型性能不够榜单分数不高,它的核心与关键在于大模型要落到实地,真正比拼的反而不是我们通常理解的属于大模型技术部分的实验室数据集上,人为定义的任务或是测试基准里来来回回的问答上的性能,而是更加底层的支持大模型应用生态的一整套AI技术套件。无论大模型技术本身沿着何种方向发展,对企业而言自底向上长年累月在领域深耕而积累下的技术优势才是企业真正的护城河。

其实谈起大模型落地路在何方,事实上当下对大模型的落地恰恰卡在了看起来并不“高大上”的技术细节积累与生态环境运营之上。而如果让我们再回看从百度飞桨到文心大模型再到智能交通、自动驾驶等应用,可能我们会惊讶的发现,目前国内,似乎只有百度拥有了支撑起一整套大模型应用生态的技术能力。其实不单是领先的AI技术积累,还有软硬协同一体化的开发链路,这种生态式发展策略,正是大模型落地不可或缺的一环,而在这样一条大模型商业化落地的进路中,百度可能已然捷足先登,快人一步。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/252759.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

docker入门教程之将应用程序容器化

将应用程序容器化 在本指南的其余部分中,您将使用在 Node.js 上运行的简单待办事项列表管理器。如果您不熟悉 Node.js,请不要担心。本指南不需要任何 JavaScript 经验。 先决条件 您已安装最新版本的 Docker Desktop。您已经安装了 Git 客户端。您可以…

88 SRC挖掘-拿下CNVD证书开源闭源售卖系统

目录 1.开源系统、闭源系统、售卖系统2.如何寻找上述三类系统并进行安全测试3.如何挑简单的入手最快速度获取证书装x演示案例:某开源逻辑审计配合引擎实现通用某闭源审计或黑盒配合引擎实现通用某售卖审计或黑盒配合引擎实现通用 涉及资源&am…

10s初认识多线程创建四种方法

1 继承Thread类 2 实现Runnable接口 3 实现Callable接口 4 多线程池 1-2两方法 10s学会教程网址: http://t.csdnimg.cn/UPy1r 本文简略提及多线程池 -》提前创建多个线程,放在一个“容器”,用时取出,不用即放回池中 优点-》响应…

博客|基于Springboot的个人博客系统设计与实现(源码+数据库+文档)

个人博客系统目录 目录 基于Springboot的个人博客系统设计与实现 一、前言 二、系统功能设计 三、系统实现 1、管理员功能实现 (1)用户管理 (2)文章分类管理 (3)公告信息管理 (4&#…

MySQL查询优化技巧和10个案例展示

优化MySQL查询的实战技巧: **避免使用SELECT ***:只获取需要的列,这样可以减少数据传输量,提高查询效率。使用索引:为查询频繁的列创建索引,可以显著提高查询速度。但请注意,索引并非万能&…

AI新宠Arc浏览器真可以取代Chrome吗?

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领…

缩略图保持加密(TPE)论文

文献: R.Zhao,Y.Zhang,Y.Nan,W.Wen,X.Chai,andR. Lan, “Primitively visually meaningful image encryption: A new paradigm,” Inf. Sci. (Ny), Vol. 613, pp. 628–48, 2022. DOI: 10.1016/j.ins.2022.08.027. (1) 第1行:原始图像 第2行:加密图像 加密的目标: 原始…

MongoDB从入门到实战之.NET Core使用MongoDB开发ToDoList系统(1)-后端项目框架搭建

前言: 前面的四个章节我们主要讲解了MongoDB的相关基础知识,接下来我们就开始进入使用.NET7操作MongoDB开发一个ToDoList系统实战教程。本章节主要介绍的是如何快熟搭建一个简单明了的后端项目框架。 MongoDB从入门到实战的相关教程 MongoDB从入门到实战…

Flink cdc3.0动态变更表结构——源码解析

文章目录 前言源码解析1. 接收schema变更事件2. 发起schema变更请求3. schema变更请求具体处理4. 广播刷新事件并阻塞5. 处理FlushEvent6. 修改sink端schema 结尾 前言 上一篇Flink cdc3.0同步实例 介绍了最新的一些功能和问题,本篇来看下新功能之一的动态变更表结…

设计模式学习笔记04(小滴课堂)

1.创建基础类: 调用它进行类对象的复制: 但是如果属性都是基本数据类型确实像这样很简单,但是如果属性中也包含复杂的数据类型呢? 再去测试一下: 我们发现person1和person2的list属性值的内容是同步的,这显…

探索C语言结构体:编程中的利器与艺术

✨✨ 欢迎大家来到贝蒂大讲堂✨✨ 🎈🎈养成好习惯,先赞后看哦~🎈🎈 所属专栏:C语言学习 贝蒂的主页:Betty‘s blog 1. 常量与变量 1. 什么是结构体 在C语言中本身就自带了一些数据类型&#x…

浏览器唯一标识(浏览器指纹)fingerprintjs

目标 H5用户在未登录前,经常也需要记录游客身份,便于记录用户操作习惯,给用户推荐相关产品。H5项目是运行在浏览器环境的,浏览器没有提供相关设备ID的信息。很多项目会随机生成一个UUID,并持久化存储在localStorage&a…

C#在既有数组中插入另一个数组:Array.Copy方法 vs 自定义插入方法

目录 一、使用的方法 1.使用Array.Copy方法 2.Copy(Array, Int32, Array, Int32, Int32) 3. 使用自定义的方法 二、实例 1.示例1:使用Array.Copy方法 2.示例2:使用自定义的方法 一、使用的方法 1.使用Array.Copy方法 首先定义了一个名为InsertAr…

基于Vue2用keydown、keyup事件实现长按键盘任意键(或组合键)3秒触发自定义事件(以F1键为例)

核心代码 <template></template> <script> export default {created() {//监听长按快捷键addEventListener("keydown", this.keydown);addEventListener("keyup", this.keyup);},destroyed(d) {//移除长按快捷键removeEventListener(&…

【python】绘制春节烟花

一、Pygame库春节烟花示例 下面是一个使用Pygame实现的简单春节烟花效果的示例代码。请注意&#xff0c;运行下面的代码之前&#xff0c;请确保计算机上已经安装了Pygame库。 import pygame import random import math from pygame.locals import *# 初始化pygame pygame.ini…

颐和园龙纹珍宝展亮相,文物预防保护科技护航

在皇家园林颐和园的深处&#xff0c;一场独特的文化盛宴正静静上演。2月1日&#xff0c;“祥龙贺岁—颐和园藏龙纹题材文物特展”在德和园华丽揭幕。此次特展汇聚了66件珍贵文物&#xff0c;包括玉器、瓷器、书画、珐琅、家具等&#xff0c;每一件都是颐和园园藏的瑰宝。这些文…

Windows编程入门-窗口控件-资源操作

window控件&#xff1a; 控件是常见的窗口上的交互元素例如&#xff1a;一个按钮&#xff0c;一个复选框&#xff0c;一个列表框等。 当控件的特定功能被触发后&#xff0c;会主动发送消息通知父窗口&#xff0c;父窗口可以通过发送消息给控件控制控件的行为。 控件的本质是一个…

Java开发IntelliJ IDEA2023

IntelliJ IDEA 2023是一款强大的集成开发环境&#xff08;IDE&#xff09;&#xff0c;专为Java开发人员设计。它提供了许多特色功能&#xff0c;帮助开发人员更高效地编写、测试和调试Java应用程序。以下是一些IntelliJ IDEA 2023的特色功能&#xff1a; 智能代码编辑器&…

MQ,RabbitMQ,SpringAMQP的原理与实操

MQ 同步通信 异步通信 事件驱动优势&#xff1a; 服务解耦 性能提升&#xff0c;吞吐量提高 服务没有强依赖&#xff0c;不担心级联失败问题 流量消峰 ​ 小结: 大多情况对时效性要求较高&#xff0c;所有大多数时间用同步。而如果不需要对方的结果&#xff0c;且吞吐…

20240202在Ubuntu20.04.6下使用whisper.cpp的CPU模式

20240202在Ubuntu20.04.6下使用whisper.cpp的CPU模式 2024/2/2 14:15 rootrootrootroot-X99-Turbo:~/whisper.cpp$ ./main -l zh -osrt -m models/ggml-medium.bin chs.wav 在纯CPU模式下&#xff0c;使用medium中等模型&#xff0c;7分钟的中文视频需要851829.69 ms&#xf…