从“可用”到“好用”,百度智能云如何做大模型的“超级工厂”?

如果说,过去两三年大模型处于造锤子阶段,那么今年,更多的则是考验钉钉子的能力,面对各类业务场景大模型是否能够有的放矢、一击必中,为千行百业深度赋能。

当前市场上,已经有200多把这样的锤子在疯狂找钉子。但从实际应用来看,大模型在文生文、文生图以及扮演初级的工作助理等方面还算合格,但要是真正落地到一线场景,解决业务痛点,提升生产和服务效率,还需要下更多功夫。

从最近几个月的风向看,也不乏有人提出质疑,如此之多的大模型,其实用性到底有几分?这里面是不是也存在着不小的“泡沫”?无须讳言,“泡沫”一定是有,为了大模型而大模型的企业甚至不在少数。

但不可否认是,业内也有以百度智能云为代表的实干者在持续探索大模型的实际价值,不断推出可应用、可落地、可产生效益的大模型产品和解决方案,通过AI原生应用推动企业以及行业的创造力和生产力全面提升。

9月25日,2024百度云智大会正式举行。本届会议不仅围绕基础设施、大模型、开发工具链、AI原生应用等方面进行了多项全新发布,还为业界带来了大模型产业落地的最佳实践。a3086b5c546e795e440c8ff3c4494431.jpeg


“云智一体”战略牵引,为大模型铺路筑基

当各行各业拥抱大模型之后,都会有一个共识,MaaS将是一种新的应用开发范式。在云计算时代,是基于PaaS做SaaS,再提供给用户;智能化时代,则回归到MaaS底座上,再结合千行百业的场景,打造智能化应用,提供用户所需要的业务价值。

在“百模大战”的行业大环境下,百度智能云事业群总裁沈抖曾表示,过去一年是大模型从技术变革走向产业变革的关键一年,而大模型和云计算紧密结合,正在成为新型的基础设施。从1834年第一台现代发电机诞生,到1882年美国建成全球第一座电厂,再到电力成为全球的能源基础设施,每一次升级都能带来生产力的巨大跃迁。而且一次比一次速度更快,影响更大。

面对AI浪潮席卷全球,百度智能云希望更多的创业者、企业用户能够繁荣大模型生态。去年10月,百度智能云将战略升级为“AI原生时代的云智一体”,围绕“云智一体,深入产业,生态繁荣,AI普惠”理念,聚焦更高效的算力基础设施、更好用的一站式大模型平台和AI原生应用开发平台,以及更丰富的AI原生应用样板间和行业解决方案,去满足客户在大模型时代的不同业务需求。

在“云智一体”战略框架下,百度智能云自下而上推出一整套AI原生技术栈,包括异构算力基础设施“百度·百舸AI异构计算平台”、一站式大模型平台“千帆ModelBuilder”和AI原生应用开发平台“千帆AppBuilder”、AI生成式产品“文心大模型”,以及数字人、智能客服、超级助理、生成式BI等丰富的AI原生应用和行业解决方案,满足各行各业在AI原生时代的不同业务需求,全力赋能千行百业,加速推进产业智能化。

a003c5f6b40c4157cce3bf741073630a.jpeg

百度智能云事业群总裁 沈抖


在IDC近日发布的《中国大模型平台市场份额,2023:大模型元年——初局》报告中,百度智能云以19.9%的市场份额居中国大模型平台市场第一。从应用角度看,百度智能云能够连续多年保持领先优势主要得益于三方面的原因:一是布局全栈AI技术,形成端到端的AI优化机制;二是在生成式AI、多模态、大模型应用场景、OCR、对话式AI等AI软件方面具备明显优势;三是拥有最大的AI及大模型产业落地规模,广泛覆盖金融、制造、能源、互联网等行业。

作为AI时代的新型生产力,数据、算力和算法成为关键资源。在大规模前端产品落地后,算力建设能否及时跟上,成为AI大模型向各领域进一步渗透的关键因素。

面对大模型高昂的计算成本和算力资源供应短缺的问题,如何在大模型训练推理上高效使用算力、扩大算力来源是业务的核心考验。

沈抖指出,过去一年的最深感受就是大模型训练的需求越来越大,需要的集群规模也越来越大。与此同时,行业对推理的成本下降的预期也越来越高。这些都对GPU管理的稳定性和有效性提出了更高的要求。此次,百度智能云对百舸做了大幅升级。

目前,百度百舸AI异构算力平台能够对不同地点、规模、集群的智能算力进行统一管理,并基于芯片性能优化、自动芯片选型、潮汐混部等技术,大幅提升智能算力效能,万卡集群上的模型有效训练时长占比超过99.5%。相同的大模型任务,百舸能够帮助客户将资源成本降低一半。

6bad068e70dfde0f6dff771016453374.jpeg

为了解决算力不足问题,“一云多芯”是中国企业的必然选择。百舸已经攻克了同一智算集群中混合使用不同厂商芯片的业界难题,帮助企业摆脱单一芯片依赖,打造更有性价比、更安全、更具弹性的供应链体系。百舸能够在兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片的同时,最大限度屏蔽硬件之间的差异,在多芯混合训练任务中百卡规模性能损失不超过3%,万卡规模性能损失不超过5%,均为业界最高水平。

基于强有力的算力平台,百度智能云搭建起一站式企业级大模型平台——千帆。该平台不仅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗舰模型、主流开源大模型在内的近80款大模型服务,还提供覆盖开发大模型、AI原生应用全生命周期的工具链。同时,为进一步实现AI技术普惠,平台还预置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性价比较高的主力模型,帮助开发者和企业降低大模型使用门槛和试错成本,加速业务创新。

为了进一步降低行业大模型的开发门槛,百度智能云推出了千帆·行业增强版,将通用大模型的理解、生成、逻辑、记忆能力,与行业模型的专业能力相结合,搭配体系化的工具和组件,支持从资源管理、大模型服务到应用开发的全过程,把企业定制化的部分从“最后一公里”缩短至“最后一百米”,让行业的应用开发事半功倍。

目前,百度智能云的各类大模型产品已广泛覆盖交通、政务、教育、金融、制造、能源、互联网等行业,并深入到“研、产、供、销、服”的每个环节中,取得了显著成效。

截至2024年Q2,千帆大模型平台日调用量超过7亿次,累计开发出了超过70万个AI原生应用。

d4c202791311c8aebd6b357b1252ac9a.jpeg


小切口大纵深,从实践中来到实践中去

大模型商业化应用的核心在于能否真正解决用户问题。

在经历了“百模大战”的锤炼之后,企业们的技术能力正变得越发强劲,大模型开始走向商业化落地。今年以来,中国10亿参数规模以上的大模型数量已超100个,行业大模型深度赋能电子信息、医疗、交通等领域,形成上百种应用模式,赋能千行百业。

4a9b381332cf36f965324bc7f7b2cca1.jpeg

随着技术迭代曲线放缓、基础大模型赛道的竞争格局企稳,生成式AI市场的性质正在发生变化,更多的创新和价值创造正在向应用层汇聚。沈抖曾表示,企业有多少业务场景,未来就有多少AI原生应用。这也印证了百度智能云正在通过对产业痛点的深入洞察和理解,将大模型与实体经济及行业应用全域融合,在服务产业的过程中,也进一步完善和提升了大模型的行业能力,形成互为反哺、相互促进的正向循环。

沿着这一逻辑,大模型一个最为前景的应用场景,就是垂直领域专业服务。越是复杂的问题,越是专业的领域,越能孕育出更具价值的商业化应用。最典型者如金融、政务、交通等行业。

在教育领域,教育龙头企业好未来运用百度百舸·AI异构计算平台,为其自研九章大模型(MathGPT)提供关键支撑。九章大模型在成功内测推出后,已经成功在智能硬件学习机xPad实现了业务上线。九章大模型的“数学随时问”功能可以实现对80%的数学题即问即答,暂时不能回答的最快可在一小时内上传真人讲解视频、20分钟内生成AI视频解析。此外,好未来AI辅导工具xPad2 Pro系列还上线了自研的新功能“AI对话学”,该功能基于九章大模型的解题和讲题能力,通过与学生进行启发式的对话交流,打开题目的黑盒,快速分析出学生的薄弱点,从而使教育更具针对性。

面对快速增长的电动汽车智能座舱需求,蔚来汽车基于千帆平台,在文心大模型的基础上通过提示词工程打造出了业内首家纯端侧部署的多模态感知大模型——NOMI GPT,助力客户座舱场景体验创新。

NOMI能够自然地与用户互动,成为一个更懂用户、更聪明的座舱AI小助手。通过文心大模型,NOMI能够对用户的用车问题解答,还能实时监测车况,支持用户口语化模糊查找。比如用户说出目的地城市,NOMI就能帮助用户推荐景点游玩攻略、景点推介、食宿推荐等;用户给出关键词,NOMI可以给出理解并调整氛围灯色调。此外,NOMI还能自定义角色陪聊,具备儿童百科问答、学习解惑、语言游戏等多种功能。目前,NOMI已经陪伴了近20万车主家庭,已经成为有温度的情感陪伴和移动的生活空间。

在港航领域,百度智能云与山东日照港联合探索大模型港口应用场景,推动大模型试点应用,赋能港航领域产业链上下游企业和生态企业智能化转型升级。2023年,日照港口货物吞吐量达到5.93亿吨,跃居全国第六、世界第七;全市临港产业产值占规上工业总产值的比重达85%以上。和一般码头有点不一样的是,这里专做件杂货。

件杂货,是对论件计数、形状各异、大小不一的货物的统称。这类货物的包装形式、类别各不相同,无法使用集装箱运输,还存在不同的存放需求和上船时间要求,装卸工具和方案各异,装卸工艺流程复杂、人机交互频繁。

相比集装箱码头,件杂货码头实现自动化和智能化的难度更高。由于件杂货的独特属性,码头需要可靠、准确的图像分析和智能算法,对货物进行有效识别、定位并进行智能配载。

百度智能云运用人工智能技术,打造智能化系统,为件杂货码头自动化、智能化升级探索可行路径。通过百度智能云OCR视觉识别技术,在货物即将进港时,工作人员就可识别货单信息,将具象化的货物实体转化为算法支持的数学逻辑,从而避免人工录入造成的失误,提升数据录入的准确性,降低货运代理数据录入工作量。

智能化系统可对整个港口的堆场进行厘米级的地理信息采集,实现人员、车辆、设备、货物、场地、船舶等要素精准定位,形成一张“综合地图”。数字化堆场系统会从TOS系统(Terminal Operating System,码头智能生产管理控制系统)中获取各生产要素的实时信息,并在高精地图中进行实时展示,助力业务人员远程作业。

在实现多维生产要素和生产流程的数学建模的同时,智能化系统基于调度数据优化大模型的调度算法,提供包括智能堆场计划、智能泊位计划和智能配载计划等调度计划策略,再通过实时的人员排班调度、港机作业调度和水平运输车辆调度等,实现件杂货码头自动化、智能化运转。此外,调度优化大模型还可以提高码头作业全流程的人机协同效率,将人工智能算法下沉到各类机械的调度和控制中,大大降低码头的整体运转控制难度,提高控制精度,实现港口智能化再升级。

依托百度智能云打造的智能化系统,山东日照港件杂货码头整体运转效率提升10%,设备利用率提升20%,堆场周转率提升20%,堆场利用率提升15%,并实现大模型在港航领域的成功应用。

从“可用”到“好用”,从“潮玩”到“普适”,大模型在千行百业的场景落地是结合场景定义、训练、调优、运维等多个步骤的螺旋式上升过程。作为AI时代的底座建设者,百度智能云正结合软硬件能力,赋能开发者和生态伙伴,进一步释放AI的创新潜能。

【关于科技云报到】

企业级IT领域Top10新媒体。聚焦云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技领域。原创文章和视频获工信部权威认可,是世界人工智能大会、数博会、国家网安周、可信云大会与全球云计算等大型活动会议的官方指定传播媒体之一。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/434315.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【unity进阶知识1】最详细的单例模式的设计和应用,继承和不继承MonoBehaviour的单例模式,及泛型单例基类的编写

文章目录 前言一、不使用单例二、普通单例模式1、单例模式介绍实现步骤:单例模式分为饿汉式和懒汉式两种。 2、不继承MonoBehaviour的单例模式2.1、基本实现2.2、防止外部实例化对象2.3、最终代码 3、继承MonoBehaviour的单例模式3.1、基本实现3.2、自动创建和挂载单…

OCR 行驶证识别 离线识别

目录 正页识别 副页识别 全部识别 OCR 行驶证识别 离线识别 正页识别 副页识别 全部识别

电脑学习通看不到课程解决办法

电脑学习通看不到课程解决办法 查看学习通时发现没有课程 解决方法1: 更改单位 具体见:超星学习通关于PC版无法查看课程问题解决 解决方法二:添加应用 添加应用 点击账号管理 点击应用管理 添加应用、添加首页这个应用 添加完成后查看首页就能看到课程了 然后就OK啦、就可…

pcs集群表决盘故障导致主机reboot

建议重建fence设备并配置 PCSOracle HA实战安装配置参考 - 墨天轮

windows10使用bat脚本安装前后端环境之redis注册服务

首先需要搞清楚redis在本地是怎么安装配置、然后在根据如下步骤编写bat脚本: 思路 1.下载zip格式redis 2.查看windows server服务是否已安装redis 3.启动查看服务是否正常 bat脚本 echo off echo windows10 x64 server redis init REM 请求管理员权限并隐藏窗口 …

【牛Y】3DMAX快速构建低多边形城市建筑和道路插件CityBlocks教程

3DMAX快速构建低多边形城市建筑和道路插件CityBlocks,该插件功能主要分为两部分:一键城市建筑生成和一键城市道路生成。可用于城市配景建模、地图三维建模等使用。内置多种建筑组合方式,可使生成的建筑配景更加丰富、富于变换! 【…

经纬恒润全冗余R-EPS助力L4级自动驾驶落地

随着L4级别自动驾驶技术的逐步成熟与商业化进程加速,行业对车辆安全性的要求达到了新的高度。为了确保自动驾驶车辆全天候、全路况下安全运行,冗余系统的研发与应用成为关键。在这一背景下,经纬恒润开发了齿条式全冗余电动助力转向系统R-EPS&…

Python模拟真人鼠标轨迹算法

一.鼠标轨迹模拟简介 传统的鼠标轨迹模拟依赖于简单的数学模型,如直线或曲线路径。然而,这种方法难以捕捉到人类操作的复杂性和多样性。AI大模型的出现,能够通过深度学习技术,学习并模拟更自然的鼠标移动行为。 二.鼠标轨迹算法实…

8610 顺序查找

### 思路 1. **创建顺序表**:从输入中读取元素个数和元素值,构造顺序表。 2. **顺序查找**:在顺序表中依次查找关键字,找到则返回位置,否则返回0。 ### 伪代码 1. **创建顺序表**: - 动态分配存储空间。…

Stable Diffusion零基础学习

Stable Diffusion学习笔记TOP10 sd学习笔记TOP10的修改版本:IP2P的模型文件跟配置文件未添加,Tile分块重采样和局部重绘的模型文件跟配置文件撰写错误已被修改 _插件篇之ControlNet功能篇 ControlNet目前支持的10多种预处理器,根据数据检测…

构建Python机器学习模型的8个步骤

本文旨在系统地介绍构建机器学习模型的基本步骤,并通过一个具体的实战案例——股票价格预测,展示这些步骤的实际应用。通过遵循这些步骤,读者可以更好地理解和掌握机器学习模型构建的全过程。 步骤一:定义问题 首先,我…

NLP 序列标注任务核心梳理

句向量标注 用 bert 生成句向量用 lstm 或 bert 承接 bert 的输出,保证模型可以学习到内容的连续性。此时 lstm 输入形状为: pooled_output.unsqueeze(0) (1, num_sentence, vector_size) 应用场景 词性标注句法分析 文本加标点 相当于粗粒度的分词任…

RK3568笔记六十三:基于LVGL的Linux相机

若该文为原创文章,转载请注明原文出处。 记录移植韦老师的基于LVGL的Linux相机项目,主要是想学习如何在LVGL下显示摄像头数据。 此项目是基于老师的源码框架移植的,地址是lv_100ask_linux_camera: 基于LVGL的Linux相机 (gitee.com) 个人使用的是RK3568,正点原子板子,所以…

数据链路层 ——MAC

目录 MAC帧协议 mac地址 以太网帧格式 ARP协议 ARP报文格式​编辑 RARP 其他的网络服务或者协议 DNS ICMP协议 ping traceroute NAT技术 代理服务器 网络层负责规划转发路线,而链路层负责在网络节点之间的转发,也就是"一跳"的具体传输…

NLP 主流应用方向

主流应用 文本分类文本匹配序列标注生成式任务 应用细分 常见落地应用举例: 文本纠错句法分析文本翻译话者分离 本质为文本分类任务数字归一化 实现数字映射,提高内容可读性 如将一九九九转1999

机器人控制器设计与编程基础实验高效版本-ESP32等单片机实验报告

只需要课程大纲或进度表wokwi 大模型工具&#xff0c;就可以完全掌握嵌入式系统基础实验的所有核心点。 LCD // Learn about the ESP32 WiFi simulation in // https://docs.wokwi.com/guides/esp32-wifi https://wokwi.com/projects/321525495180034642#include <WiFi.h>…

【ChromeDriver安装】爬虫必备

以下是安装和配置 chromedriver 的步骤&#xff1a; 1. 确认 Chrome 浏览器版本 打开 Chrome 浏览器&#xff0c;点击右上角的菜单按钮&#xff08;三个点&#xff09;&#xff0c;选择“帮助” > “关于 Google Chrome”。 2. 下载 Chromedriver 根据你的 Chrome 版本&…

起重机防摇摆技术如何达标-武汉正向科技

武汉正向科技防摇摆控制器 主要技术参数 1、防摇摆精度&#xff1a; 0.4 2、行车到达目标位置偏差位置偏差&#xff1a; 25mm 3、通讯方式&#xff1a;PROFINET / PROFIBUS / RS232 / RS422 / RS485&#xff1b; 4、消除载荷的摇摆达 96% 以上&#xff1b; 5、技术先进…

MySQL: 数据类型介绍

文章目录 数据类型数值类型字符串类型日期类型 数据类型 数值类型 分为整型和浮点型: BIT类似于数据结构中的位图,BIT可以认为是一组二进制bit位. BIT(10)表示这个类型里就存最多10个bit位. 虽然TINYINT和SMALLINT更节省空间,但是还是更推荐使用INT或者BIGINT. 如果存储空间…

QT day01

自定义实现登录界面&#xff1a; #include "widget.h" #include "ui_widget.h" #include<QPushButton> #include<QLineEdit> #include<QLabel>Widget::Widget(QWidget *parent) //定义有参构造函数: QWidget(parent), ui(new Ui::Widge…