5月15日,2024 春季火山引擎 FORCE 原动力大会在北京正式举办。大会聚焦 AI 主题,以大模型应用为核心、以 AI 落地为导向,展示了火山引擎在大模型、云计算领域的实践应用,携手汽车、手机终端、金融、消费、互联网等领域的专家和企业技术带头人,共同探讨 AI 时代的转型机遇。
火山引擎边缘云以“连接与计算无处不在,让AI触手可及”主题在大会展区亮相。边缘智能 AIoT 多模态推理解决方案、协同扣子连接物理世界等内容吸引了参会嘉宾驻足参观、讨论。
01 边缘智能 AIoT,拓展大模型场景边界
大会展区,火山引擎边缘云展示了边缘智能 AIoT,拓展大模型场景边界。在基础设施上,火山引擎边缘云实现就近接入、查询加速、自动重试、故障迁移等能力;在解决方案上,火山引擎边缘云支持灵活定制、模型加密、分发加速、低代码编排;在应用开发上,火山引擎边缘云协同扣子连接物理世界,支持设备建模、设备理解、智能交互。
-
提升开发效率:结合多模态大模型高效开发场景化应用,支持低代码可视化操作,提升开发效率
-
协同扣子连接物理世界:边缘智能将物联设备抽象并封装成插件,结合工作流将扣子智能体拓展到物理世界
更引人注意的是边缘智能协同扣子平台的互动展示,在这里,扣子平台通过 API ,调用火山引擎 AIoT 解决方案,将虚拟 bot 拓展至现实物理场景。
在大会现场,观展嘉宾可以向部署在边缘智能设备上的 bot 进行提问,bot 通过扣子平台搭建,拥有读取设备数据、操作控制等能力,为嘉宾提供实时解答。比如观展嘉宾可以问 bot 展区展位分布情况、目前的人流量等等,快速获取大会的最新进展。
这就是边缘智能携手扣子平台打造的解决方案。在过去的实践中,当通过扣子平台创建的 bot 无法有效感知或操作物理世界实体时,大模型在物联网方面似乎无法做到真正落地,而边缘智能针对这一场景提出解决方案。
-
抽象实体:边缘智能通过“物模型”完成对物理世界实体的抽象
-
定制插件:对火山引擎边缘智能 openAPI 进行插件化封装,让用户实现 bot 与物理世界的联动
该解决方案具备丰富的应用场景:
1)食堂排队场景
-
场景:用户可以通过扣子平台完成语义交互,比如问:现在食堂哪个档口排队较少?
-
解决方案:扣子通过调用边缘智能接口,获取物理世界摄像机抓拍的视频、图片,统计分析食堂档口人数,进而给用户反馈出真实的档口排队情况。
2)智慧厕所场景
-
场景:在景区或城市人流量大的公共区域,人们希望能快速找到最近的厕所并减少排队。基于扣子和边缘智能方案,用户可以在扣子上询问:请查找附近空闲厕所位。
-
解决方案:扣子通过调用边缘智能接口,基于边缘智能及厕所位感知设备的采集数据,可帮助用户查询到最近的厕所位置及厕所位空闲情况。
随着具身智能的来临,大模型将更多的与物理世界实体产生联动。边缘智能 AIoT + 扣子 联合解决方案也将有更多落地场景,切实提升人们生活质量。
02 连接与计算无处不在,让 AI 触手可及
当前,人工智能技术和产业持续保持高速发展的态势。Precedence Research 预测,到 2030 年,全球人工智能市场规模将达到惊人的 114554 亿元,2023年-2030年间保持复合增长率 35% 以上。产业高速发展必然会对资源提出更高要求,网络也需要在带宽、并发、延时、稳定性、弹性、海量终端灵活接入、跨境加速等方面达到更高水准。
火山引擎边缘云原生操作系统纳管边缘异构算力资源,兼具小型化、轻量化、集成化,为 AI 场景提供低延时、广覆盖的 Serverless 异构算力,作为统一底座支撑着 AI 应用向云边端结合的混合架构方向演进。
火山引擎边缘云依托全球分布式云网基础设施,支持智能应用就近上云,让用户更便捷地享用 AI 服务。
-
超大规模:全球 2500+ 节点, 150Tbps 带宽,20 亿+终端
-
超低时延:1-40ms 广域网络接入,支持网络传输优化及智能路径择优
-
万物互联:支持亿级并发,海量、多形态智能终端的就近接入
-
云边端一体:资源全局调度,为用户提供无限弹性能力
-
安全加速:基于成本、质量的智能全局加速,支持分布式安全防护能力
火山引擎边缘云打造分布式边缘云异构算力解决方案,为用户就近提供多形态异构算力,支撑AI应用迈向云边端结合新架构。
-
异构硬件纳管:支持边缘AI一体机、边缘服务器等多种物理硬件,提供裸金属/虚机/容器等多样化算力服务
-
低时延算力:覆盖现场边缘、近场边缘、云边缘基础设施,为AI业务就近提供算力接入
-
小型化与轻量化:支持算力、服务混合部署,集群功能按需调配,最大化利用可用资源
-
全局资源调度:打破局部资源限制,统一调度全局资源,支持跨区域弹性调度和跨节点容灾迁移
-
云边端协同:通过云边、边边数据通道和网络基础设施,为业务提供云、边、端高效连接和数据交换
END
面向未来,火山引擎边缘云将紧紧跟随科技发展方向,在夯实技术底座的同时,不断探索边缘智能与 AI 的结合,希望能与更多行业伙伴达成合作,探索更丰富的、面向多行业的创新应用场景,助力产业蓬勃发展。