大模型“图纸”已现,火山方舟开工

文丨刘雨琦

丨王一粟

中国房子盖了2000年,直至汉朝初期,才开始出现“建筑图纸”。

有了图纸后,盖房子便不仅仅依赖于几个“老师傅”,图纸是全盘的指导,避免了曾经多次的推倒重建以及因为力学结构不合理而半途而废的情况,更能将任务合理的分配给不同的木工、瓦工,进行团队协作。

图纸的出现,使建筑史进入了快速发展期,汉朝之后,中国建筑类型开始百花齐放,也通过不同房屋类型,出现了餐厅、书房、旅馆等功能性建筑。

大模型的路,也正在经历从摸着OpenAI过河,到按图索骥的阶段。

从今年2月份开始,大模型的公司进入了井喷的状态。中国科学技术信息研究所等机构发布的《中国人工智能大模型地图研究报告》显示,截至今年5月,国内已公开披露的大模型数量达到79个,“百模大战”名副其实。当众多巨头、明星创业者都纷纷下场“淘金”的时候,字节跳动旗下的火山引擎,选择了另一条“卖铲人”的路。6月28日,火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务。

不做通用大模型,做一个“卖铲人”,是火山引擎选择的路。

求本溯源,当下选择的路,往往在未来的目标之中。火山引擎总裁谭待在接受光锥智能等访谈时表示:“多云多模型时代将成为确定性的趋势。在未来,企业自身对于大模型的应用,将会是一个‘1 + N’的应用模式,即一个主力模型和N个模型协作的模式。”

多云多模型的时代,一定需要平台去建立生态,串联上下游。就像房子会越盖越多,需要不同公司满足多元化的住户需求,也需要建筑设计、钢筋水泥、软硬装修等一整套产业链。对应到大模型服务平台,就需要一边递图纸、锤子钉子、铲子等工具,帮大模型打造好;一边要对接模型方和需求方,通过链接完成商业闭环。

可以说,火山方舟作为一个大模型服务平台,是“模型商城+模型工具”的集合。

模型商城,让大模型用起来

MaaS(模型即服务)的概念如火如荼,但想要落地却非常不容易。

整个大模型的产业链条中,分为三个重点角色:一是模型的提供方,如OpenAI、谷歌、百度、阿里、MiniMax等打造通用大模型的厂商,他们打造的通用大模型,被称为基座模型;二是模型的使用方,不同企业将基座大模型通过精调和特殊数据的喂养为行业大模型;三是,大模型的终端客户/用户

相比海外市场在应用方面的火爆,中国市场仍然处在一个探索期。一方面,国内大模型百花齐放,但通用大模型仍然在不断训练和提升当中,追赶GPT-4的涌现能力;另一方面,想把大模型用起来的企业要么不知道如何决策,要么体验后效果并不尽如人意。

基于上述痛点,火山引擎将大模型服务平台的作用分为两个大方面,一个是模型商城,一个是模型工具。

模型商城,顾名思义,就是让市面上的大模型都尽量入驻,供模型需求方挑选。

据光锥智能了解到,目前,“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等7家AI科技公司及科研院所的大模型,统一对外提供服务。

这种吸纳多家初创大模型的做法,和此前业界初期普遍认为的“大模型是巨头的游戏”,“行业只需要极少数通用大模型,其余都是行业大模型”的想法并不完全一致。

火山引擎智能算法负责人吴迪认为,大模型市场会形成三级火箭:第一级是大模型提供商和研究机构,提供极具竞争性的通用基座模型或行业垂直模型。第二级是大量颇具技术能力的公司,形成1+N的模型格局,1个迭代自研模型的同时,引用若干商用模型。第三级则是千行百业都从大模型中获益,通过调用接口、精调模型,打造应用。在提升自身公司经营效率的同时, 把大模型能力输送到我们生活的方方面面。

如果未来的格局是多云多模型的情况,那一定需要一个“模型商城”来聚合提供商和使用方。

比如,在火山方舟“模型广场”中会有不同的模型供应商提供不同版本、参数、擅长不同领域的模型,使用方可以直接调用API 接入使用环境,也可以使用精调工具来做二次调优,再部署使用。

光锥智能曾在4月份调研多位SaaS厂商使用大模型的情况发现,大模型接入并不是“排他性”的,SaaS厂商更愿意同时接入多个大模型。这是因为接入成本并不高,多一个模型就多一个选择、多一个能力、多一重保障。比如,万兴科技就在海外业务中接入ChatGPT,国内业务接入文心一言。

而对于有大模型能力的厂商,不仅可以成为大模型的提供方,也能同时是需求方。比如,一家自研大语言模型的厂商,也可以接入其他大模型多模态的能力,让自己的产品更加多元化。

可以说,没有全能的大模型,但可以有全能的模型商城。

为了能帮企业选择与自己更适配的基座模型,火山方舟推出“模型评估”功能,支持用户基于自身数据、系统化地感知模型表现情况,并且给出详细的测评报告,为后续做决策提供数据基础。

对很多模型需求方来讲,并不是一味追求参数。参数大、性能强的,可能性价比不高。“一个经过良好精调的中小规格模型,在特定工作上的表现可能不亚于通用的、巨大的基座模型,而推理成本可以降低到原来的十分之一。”吴迪称。

而在模型评估之后,还需要进一步做模型精调,技术门槛和成本门槛是两个最大的拦路虎。

如果没有大模型服务平台,对于很多需求方而言,模型精调首先技术门槛比较高,既需要完整的数据能力,也需要有丰富的算法实践经验;其次对算力要求也不小,公有云的弹性廉价资源可以极大地降低成本。

为了解决上述问题,火山方舟提供“模型精调”能力,由平台提供极简精调流程,客户选择基础模型,上传标注数据集后即可精调;同时对于有复杂需求的场景,客户可以设置高级参数、验证集、测试集等更丰富功能,更自由的使用模型精调功能。

总之,火山方舟希望解决模型使用方的痛点,用更少的钱、更强的算力使用“更快的推理能力”。而对模型提供方来讲,只有把大模型用起来,才能进一步迭代成长。

大模型的底座:安全和工具

仅仅完成商业逻辑上的闭环,对大模型生态来说,还远远不够。除了大模型的核心能力,还需要更深厚的内功。

“企业使用大模型,首先要解决安全与信任问题”,谭待表示。

据网络安全公司Cyberhaven的调查,至少有 4%的员工将企业敏感数据输入 ChatGPT,敏感数据占输入内容的比例高达 11%。2023 年初,三星公司在使用 ChatGPT不到20天时,就发现其半导体设备相关机密数据被泄露,并连续发生3起类似事故。 

在多云多模型的时代,安全信任是所有大模型使用的底线。这里的安全,并不只是大模型内部的安全,而是模型提供方和使用方连接时的双向信任。谭待介绍到,大模型服务商会考虑到知识产权问题,不希望方案和代码被泄露;而使用者和企业更希望保障自身、Prompt和精调数据的安全。

为此,火山方舟通过安全沙箱、联邦学习、硬件支持等方式保证双方的安全连接,类似于第三方托管平台的角色。

“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的客户。

吴迪表示,“火山方舟”还在探索基于英伟达NVIDIA新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案,更全面地满足大模型在不同业务场景的数据安全要求。

在安全的基础上,大模型落地更多是一个事无巨细的工程化能力,这就需要许多工具帮助其实现。

回想ChatGPT从刚刚问世到如今,OpenAI一直在打造生态壁垒:

  • 3月份,很快GPT-4问世,面向企业用户进行内测,与此同时,OpenAI开放了ChatGPT的API接口,一众企业和开发者蜂拥而至,据不完全统计,目前基于GPT接口打造的应用超过1000个;

  • 6月份,OpenAI计划推出类似“APP Store”的大模型商店,将上面1000个应用能够上架在应用商店中,并可以开源垂直领域的聊天机器人和定制的模型;

如此一步步走来,OpenAI在4个月之内,从一个模型的提供方发展为了模型生态。换句话说,谷歌可以在不到一个月之内推出一个新的大模型,但无法短时间内再形成1000个应用。

火山方舟的价值也在于此,精调后的模型在具体的业务中历练,而应用端也有更加源源不断模型资源可调配。吴迪透露,后续火山方舟计划提供更多的插件,包括实时信息获取、私域文档问答召回、Prompt补全与构建等,并会为插件配套数据集。

另外,算力资源也是大模型训练和使用中最稀缺资源。今天,仍在算力增长的第一条曲线上,主要是把基础模型训练好,让涌现能力更强、更聪明。但即将出现的,是“模型应用”的第二条增长曲线。随着大模型融入千行百业,把大模型用好,ROI慢慢会转正。通过应用再反哺训练,让营收和技术正向循环。这个期间,模型应用所消耗的算力,会逐步超过模型训练,预计在2025年会达到一个汇合点(下图)。

硬件储备只是基础,算力要想更好的被调用,离不开硬件和软件的双向打磨。NVIDA开发与技术部亚太区总经理李曦鹏指出,之前的AI训练以小模型为主,一般是单机或者单机多卡,如果训练失败重启即可。而大模型训练则需要成千上万张卡,任何一台机器出故障都可能影响整个训练过程,所以大模型的算力平台是一个大的系统工程。除了训练稳定性和安全问题,云平台的集中算力还可以解决成本问题,只有推理成本足够低,才能让大模型被广泛使用。然而,离散型的企业推理成本无法形成规模化效应,需要有统一的平台进行和强大的算力作为支撑。

火山引擎,抓住MaaS的新赛点

MaaS,是这一轮云厂商走出新增长曲线的机会。

不止一家云厂商向光锥智能透露,这一轮AI的需求,正在拉动着企业对算力需求的提升,将云计算拉出增长疲软的泥潭,甚至能恢复到之前的高速增长期。

而站在MaaS的新起点上,所有的云厂商都在同一个起跑线上。为了抢夺这个新的蓝海,云厂商都在探索不同的商业路径。

一是如同百度文心一言、阿里通义千问、华为盘古大模型等,云厂商本身是基座模型的提供方,并在此基础上面向企业客户提供API插件,提供带养分的培育土壤。但也会和行业客户合作,共创行业大模型。

另一种则是如同火山方舟,腾讯MaaS商城等,并没发布自己的通用大模型。腾讯是发布自己的行业大模型,而火山方舟是与不同的大模型提供方深度共创,帮助企业用行业数据开发大模型,并提供后续的一站式服务,直连客户。

参考电商的模式,我们可以将这两种模式类比为:自营大模型和平台型大模型。

自营考验的是技术能力,而平台考验的则是“攒局”能力。对于综合型云厂商来讲,多数都具备自营和平台两种能力,但侧重点却非常不同。

模式本身都有各自的优劣势,并无绝对的高下之分。作为一家“后起之秀”,火山引擎有机会抓住MaaS的新赛点,在市场中占有更多的份额。

目前,抖音集团内部已有十多个业务团队试用“火山方舟”,在代码纠错等研发提效场景,文本分类、总结摘要等知识管理场景,以及数据标注、归因分析等方面探索,利用大模型能力促进降本增效。这些内部实践在快速打磨“火山方舟”,推动平台能力的进一步完善。

经历业务的“淬炼”,火山引擎已经跑出了差异化的竞争能力。

举个简单的例子,在经过抖音长期、大规模的机器学习实践后,火山引擎在系统工程优化和超大规模分布式并行训练上积累了丰富的经验,能够从软硬协同层面进行优化,更轻松的支持一个大模型长时间稳定的高速训练。

这样的经验也沉淀在了火山方舟中。据了解,火山引擎使用抖音同源的机器学习平台对外服务,在大规模稳定训练上,尤其是自动驾驶、生物医药等“难啃”的行业,机器学习和推理能力将通过火山方舟释放给更多模型使用方。

而这也将是客户“用好”大模型的一块重要拼图,未来的大模型比拼的并不是“德智体美劳”全面发展,而是“术业有专攻”的专项比拼。

用一艘大模型方舟,火山引擎能否抓住MaaS的新赛点?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/27081.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

推荐一个开源数据同步神器,支持多种数据源和预警功能!

DBSyncer是一款开源的数据同步中间件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步场景。 支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。 特点: 组合驱动&#…

Java 17 采用率在一年内增长 430% !

出品 | OSC开源社区(ID:oschina2013) New Relic 最新发布了一份 “2023 年 Java 生态系统状况报告”,旨在提供有关当今 Java 生态系统状态的背景和见解。该报告基于从数百万个提供性能数据的应用程序中收集的数据,对生产中使用最多…

简单的数据库连接与提供前端接口

前言: 本文浅浅讲解一下,使用多种软件共同开发一个java工程。 这是我在windows系统上跑成功的一次设计: 逻辑图如下: 一:所需软件和版本。 idea,maven,jdk,git,jenki…

免费“白嫖” GPT-4 方法 +1, 开发者锐评:跟“偷”有什么区别?

整理 | 郑丽媛、出品 | CSDN(ID:CSDNnews) 前不久,可“白嫖” GPT-4 的 Forefront Chat 吸引了众多关注,导致该网站一度崩溃,也令不少人发出疑问:“GPT-4 这么贵,为什么它能免费让我…

chatgpt赋能python:免费Python软件——学习和开发的首选工具

免费Python软件——学习和开发的首选工具 Python是一门高级编程语言,流行于数据科学、机器学习、自然语言处理等领域。但是,许多初学者和开发者因为高昂的学习和购买成本而退缩。然而,免费的Python软件正在帮助更多人轻松学习和开发Python程…

chatgpt赋能python:免费的Python编程软件:开发者必备工具!

免费的Python编程软件:开发者必备工具! Python是一门广受欢迎的编程语言,它已经成为了很多公司和开发者的首选语言。Python的出现改变了编程的方式,它具有简单、易懂、易读、易写、易拓展等特点,因此成为了很多新手入…

写 bug 速度提升200%!吊爆的 IDEA 使用技巧

来源:blog.xiaohansong.com/idea-live-templates.html 今天分享一篇idea技巧,让我们少写一些重复代码,提高效率~ 背景 Java 开发过程经常需要编写有固定格式的代码,例如说声明一个私有变量,logger或者bean等等。对于这…

chatgpt赋能Python-python886

Python886:一款优秀的Python IDE 作为一款Python开发的强大IDE,Python886 绝对不会让您失望。Python886 是 Python 编程语言的一个集成开发环境(IDE),支持C、C、Python、PHP、Ruby、Perl等多种编程语言。Python886 具…

IntelliJ IDEA 2023.1 发布:新UI、支持Java 20、简化Git Commit、重新设计 “Run”

出品 | OSC开源社区(ID:oschina2013) IntelliJ IDEA 2023.1 现已发布。此版本包括对新 UI 的改进,根据从用户那里收到的反馈进行了彻底改造。此外还实现了性能增强,从而在打开项目时更快地导入 Maven 和更早地使用 IDE 功能。由于…

npm安装教程

一、使用之前,我们先来掌握3个东西是用来干什么的。 npm: Nodejs下的包管理器。 webpack: 它主要的用途是通过CommonJS的语法把所有浏览器端需要发布的静态资源做相应的准备,比如资源的合并和打包。 vue-cli: 用户生成Vue工程模板。(帮你快…

实用工具 | <01>ChatGPT-4——Cursor(AI代码神器)

目录 一、简单介绍 二、安装教程 三、使用教程 四、总结 一、简单介绍 ChatGPT是一个大型多模态模型,可以接受图像和文本输入,并生成文本输出。GPT-4是基于Transformer的模型,经过训练后可以预测文档中的next token。为了提高准确性和确保G…

分割一切后,Segment Anything又能分辨类别了:Meta/UTAustin提出全新开放类分割模型...

点击上方“AI遇见机器学习”,选择“星标”公众号 第一时间获取价值内容 前几日,Meta 推出了「分割一切」AI 模型 Segment Anything,令网友直呼 CV 不存在了?!而在另一篇被 CVPR 2023 收录的论文中,Meta、UT…

无线电的节日

昨天坐车看东西,司机又拉过了,终于到家了 冥冥之中选择电磁场与无线电这个专业。这个专业就业方向包括射频、雷达和微波。后来跟着师傅选择了射频这条道路。 我老师当年说过你们要学英语,甚至还要学日语和德语,因为先进的创造来自…

Kotlin 集合操作符

集合操作符 集合操作符 一 (首字母 a - f) 这篇文章介绍下 Kotlin 集合中的操作符,本文中 Kotlin 所用版本是 1.8.10 all 判断集合中的所有元素是否满足需求,返回值为 Boolean 例如我们需要判断字符串的长度是否大于4 val songs listOf("一路…

讯飞星火认知大模型成果发布会举行

目录 一、提出通用人工智能七大维度481项评测体系 二、讯飞星火认知大模型三大能力已超ChatGPT 现场语音输入流畅 多维实测燃爆全场 写邮件、做方案、讲故事,讯飞星火大模型到底有多会写? 中文理解十级测试,现场观众:讯飞星火…

OpenAI 推出漏洞赏金计划,最高奖励 2 万美元;京东零售开启 5 年来最大组织变革;​Django 4.2|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

“三项能力超过ChatGPT”,科大讯飞星火大模型现场接受观众挑战,写稿制表PPT通通拿下...

杨净 发自 合肥量子位 | 公众号 QbitAI “三项能力超过ChatGPT” “1024将整体超过GPT水平!” 在科大讯飞星火认知大模型发布会现场,董事长刘庆峰拍着胸脯保证,引起现场掌声雷动! 而真机演示效果和多场景产品展示直接把观众们看呆…

自然机器人最新发布:智能流程助手,与GPT深度融合

ChatGPT自2022年11月上线后就受到现象级地广泛关注,5天时间用户就已经突破百万,仅2个月时间月活用户就突破1亿,成为史上增速最快的消费级应用,远超TikTok、Facebook、Google等全球应用。它展现了类似人类的语言理解和对话交互能力…

go语言实现聊天服务器(多人聊天)

用go语言实现一个server作中转群发消息,多个客户端聊天 1)服务器开启,等待来自客户端的连接,把每一个客户端存储在map中 2)客户端连接服务器,给自己取一个别名,存储在服务器 3)服…

Golang 从零开始实现多人聊天室(三)上线通知与公屏聊天

系列文章目录 跟着😽猫猫学Golang,快人一步 系列初开,跟着我走进Go 语言的世界里🌍 系列目录 Golang 从零开始实现多人聊天室(一)服务端监听 Golang 从零开始实现多人聊天室(二)客…