获奖方案|趋动科技:资源池化释放AI算力价值

“据统计,GPU的平均利用率不超过30%,会产生巨大的算力资源浪费。我们用软件定义的方式通常可以把用户GPU的利用率提升3-8倍,甚至可以到10倍。”

这是算力池化软件公司趋动科技援引行业报告数据并结合自身企业最佳实践经验给出的最新数据。通过自研的猎户座OrionX AI算力资源池化软件,趋动科技可以帮助客户构建数据中心级 AI 算力资源池,客户无需修改应用就能使用数据中心内任一台服务器的 AI 算力,并通过大幅优化应用部署,提升用户的资源利用率,为AI产业带来全新的算力供给模式。

重新定义AI算力资源

在第二届光合组织AI解决方案大赛上,趋动科技基于与海光硬件产品底座的适配和优化,打造的“信创全栈自主可控异构AI算力资源池”(以下简称“AI算力资源池”)方案,获得了本届大赛一等奖。

趋动科技生态运营总监文禹翔介绍,AI算力资源池方案主要针对当前异构算力使用方式粗放、跨厂商异构算力资源难以统一管理调度等问题。方案将物理异构算力资源进行池化管理,实现按需调度异构算力资源及跨厂商异构算力资源精细化管理。

方案架构图

方案中的基础设施层,依托于海光服务器的性能优势,可以实现两大跃升;在操作系统层,AI算力资源池基于银河麒麟服务器操作系统,借助海光CPU、DCU平台优势,对内核安全、RAS特性、I/O性能、虚拟化和国产硬件、驱动支持等方面进一步优化增强;在虚拟化层,趋动科技OrionX将AI算力资源抽象为虚拟资源,最终实现AI算力资源的软件定义。

“目前,应用部署中资源直连独占,造成算力资源浪费和使用不灵活等问题,让算力用户的成本负担持续加重,已经在一定程度上阻碍了AI技术的进一步大发展。我们希望过去看起来‘阳春白雪’的算力,能够真正成为一种普惠大众的资源,就像水电一样按需随用随取、灵活便捷且便宜高效”文禹翔表示。

让生态飞轮加速旋转

最近由人民银行主管的期刊《金融电子化》中,刊登了一篇华夏银行CIO署名文章题为《人工智能GPU算力资源池化应用研究》的文章。该文章详细论述了异构算力资源池化软件在信创领域的应用价值,进一步验证了趋动科技OrionX异构算力池化软件方案的可行性,同时也对海光加速卡等国产硬件性能给予了肯定。

“信创领域的算力资源池建设需要链接国产软硬件厂商共同推动,海光在国产芯片行业处于领先梯队,为我们提供了很大的支撑。”文禹翔表示,通过与海光合作,趋动科技实现了池化软件异构算力多元化,进一步满足了信创市场的应用需求。

事实上,自加入光合组织以来,趋动科技与海光等产业链上下游伙伴开展了一系列生态合作。在趋动科技看来,用户需要的是完整的解决方案,而单一厂商很难提供从底层架构到前端应用的一整套产品,在此背景下,生态力量的整合非常关键。

“光合组织为AI产业的生态对接提供了一个很好的平台。”文禹翔指出,基于光合组织大赛,趋动科技不仅与伙伴深化了产品技术合作、展示了方案成果,同时也广泛联动更多产业力量,逐渐形成生态的“飞轮”,在市场赋能、项目引进等领域逐渐跑出了加速度。

“我相信,随着飞轮的转速不断加快,未来,算力池化方案将触达更多业务应用场景,AI算力会释放出更大的价值。”文禹翔表示。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/402407.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

在 SOCKS 和 HTTP 代理之间如何选择?

在 SOCKS 和 HTTP 代理之间进行选择需要彻底了解每种代理的工作原理以及它们传达的配置。只有这样,您才能轻松地在不同类型的代理之间进行选择。 本文概述了 HTTP 和 SOCKS 代理是什么、它们如何运作以及它们各自带来的好处。此外,我们将比较这两种代理类…

Java算法解析一:二分算法及其衍生出来的问题

这个算法的前提是,数组是升序排列的 算法描述: i和j是指针可以表示查找范围 m为中间值 当目标值targat比m大时,设置查找范围在m右边:i m-1 当目标值targat比m小时,设置查找范围在m左边:j m1 当targat的…

数据结构第一天

数据结构基础知识 1.1 什么是数据结构 数据结构就是数据的逻辑结构以及存储操作 (类似数据的运算) 数据结构就教会你一件事:如何更有效的存储数据 1.2 数据 数据:不再是单纯的数字,而是类似于集合的概念。 数据元素:是数据的基本单…

使用 Python 进行 PDF 文件加密

使用 Python 解密加密的 PDF 文件-CSDN博客定义一个名为的函数,该函数接受三个参数:输入的加密 PDF 文件路径input_pdf、输出的解密 PDF 文件路径output_pdf和密码password。https://blog.csdn.net/qq_45519030/article/details/141256661 在数字化时代…

优先级队列的实现

什么是优先级队列 优先级队列是一种特殊的数据结构,它类似于队列或栈,但是每个元素都关联有一个优先级或权重。在优先级队列中,元素的出队顺序不是简单地按照它们进入队列的先后顺序(先进先出,FIFO)&#…

虚幻5|角色武器装备的数据库学习(不只是用来装备武器,甚至是角色切换也很可能用到)

虚幻5|在连招基础上,给角色添加武器并添加刀光|在攻击的时候添加武器并返回背后(第一部分,下一部分讲刀光)_unreal 如何给角色添加攻击-CSDN博客 目的:捡起各种不同的武器,捡起的武器跟装备的武器相匹配 …

练习:python条件语句、循环语句和函数的综合运用

需求描述: 期望输出效果: 练习成果: #简单的银行业务流程 many 50000 def main_menu():print("----------主菜单----------"f"\n{name}您好,欢迎来到ATM,请选择操作:""\n查询余…

挑战同档位最强护眼性能,书客L2 Pro革新护眼台灯全新体验!

2024年8月17日,SUKER书客在今日宣布:书客护眼台灯L2 PRO正式发售。书客作为专业护眼台灯实力老牌,主打“医学养护眼”的特性,是唯一做到降低96%近视风险的同时,缓解88%用眼疲劳,光源99.8%高度还原自然光&am…

Ubuntu离线安装docker

查看操作系统版本: rootzyh-VMware-Virtual-Platform:~/install# lsb_release -a No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 24.04 LTS Release: 24.04 Codename: noble rootzyh-VMware-Virtual-Platform:~/install#…

删除镜像报子镜像依赖错误

1、删除镜像报子镜像依赖错误 出现这个错误的原因是因为有其他镜像依赖需要删除的镜像。 2解决方法 2.1首先查看无法删除的镜像被哪些镜像所依赖 docker image inspect --format{{.RepoTags}} {{.Id}} {{.Parent}} $(docker image ls -q --filter since${image_id}) # ${ima…

在阿里云上部署 Docker并通过 Docker 安装 Dify

目录 一、在服务器上安装docker和docker compose 1.1 首先关闭防火墙 1.2 安装docker依赖包 1.3 设置阿里云镜像源并安装docker-ce社区版 1.4 开启docker服务并设置开机自启动 1.5 查看docker版本信息 1.6 设置镜像加速 1.7 将docker compose环境复制到系统的bin目录下…

Jmeter接口测试断言详解

🍅 点击文末小卡片 ,免费获取软件测试全套资料,资料在手,涨薪更快 一、响应断言 对服务器的响应接口进行断言校验,来判断接口测试得到的接口返回值是否正确。 二、添加断言 1、apply to: 通常发出一个请…

可视化编程-七巧低代码入门02

1.1.什么是可视化编程 非可视化编程是一种直接在集成开发环境中(IDE)编写代码的编程方式,这种编程方式要求开发人员具备深入的编程知识,开发效率相对较低,代码维护难度较大,容易出现错误,也需要…

nginx核心配置示例

目录 1、nginx location的详细使用 (1)精确匹配 (2)区分大小写 (3)不区分大小写 (4)匹配文件名后缀 2、nginx下的用户认证 3、nginx自定义错误页面 4、自定义错误日志 5、n…

WordPress建站之头像及字体错误修正

目录 一、谷歌字体 二、头像网址 三、后续使用中的“坑” 网站建设好以后,会发现有些卡顿,网速好的环境感觉不明写,但是差的环境就难以忍受了。这是打开网页的控制台(Console)会发现有报错信息: 这些报错信息反应了2个问题: 谷歌字体网站无法访问头像网站无法访问下面…

基于Springboot 和Vue 的高校宿舍管理系统源码

网络上很多宿舍管理系统都不完整,大多数缺少数据库文件,所在使用极其不方便,由于本人程序员,根据代码,自己花时间不全了数据库文件,并且可以完美运行!!!!&…

基于VS2022+Qt5+C++的串口助手开发

目录 一、前言 二、环境准备 三、创建QT串口项目 ​编辑 四、串口项目实现 1.ui界面设计 2.添加QT串口模块 3.功能实现 ①串口扫描 ②波特率、停止位等设置 ③接收数据 ④发送数据 五、最终效果 六、总结 一、前言 如果有人之前看过我文章的话应该知道&#xf…

Hbase架构和读写流程

目录 1.概述 2.简介 3.Hbase架构 4.数据模型 5.Hbase写流程 6.Hbase读数据 1.概述 本篇文章将简单的讲述Hbase的架构和读写流程,多为理论部分,不涉及API代码 2.简介 从官方介绍可以知道,Hbase是一种分布式、可扩展、支持海量数据存储的 NoSQ…

Element-UI动态生成的表单元素验证示例

模拟数据 tableData: [{name: "系统1",score: 0,children:[{name: "一号子系统",score: 0,}]},{name: "系统2",score: 0,children:[{name: "3号子系统",score: 0,}]},{name: "系统3",score: 0,children:[{name: "5号子…

python-docx在word文件表格中指定行下插入新一行并填充值

from docx import Document from copy import deepcopydef insert_row_after_specific_value(doc, table_index, column_header, target_value, new_row_data):# 加载文档# doc doc_path# 检查表格索引是否有效if table_index > len(doc.tables):print("文档中没有足够…