分布式云扩展 AI 边缘算力,助力用户智能化创新

近期,AI 创新圈再次发布重磅产品更新。OpenAI 全新旗舰版多模态模型 GPT-4o 横空出世,其打通文本、图像、视频的富媒体理解能力以及敏捷的智能化对话,将 AI 助手的人性化表达效果,提升至更高水平。


从技术源头来看,AI 大模型的卓越表现,得益于高效的 AI 训练与推理的过程,这正需要有规模化的云计算作为算力支撑。“云+AI”两者之间才能如鱼得水、相辅相成。当下,“智”算,已然成为云计算的重要驱动力。IDC和浪潮联合发布的《2022-2023中国人工智能计算力发展评估报告》显示,预计2026年,智能算力规模将进入每秒十万亿亿次浮点计算(ZFlops)级别。算力需求激增趋势下,企业对算力“水煤电”的使用现状,也并非足够顺畅,而是存在多重维度的挑战:

集中云只是 AI 大脑 | 分布式才是 AI 抓手

为了摆​脱创新者的窘境​,拥有敏锐创新嗅觉的云从业人员发现,云形态正在因 AI 风向的不同发生显著改观。传统集中云,能够实现大规模的资源拓展,但高度集中的中心形态,更需要分枝散叶、如触手一般在近端呈现为分布形态。如高“智”商的章鱼物种一般,多触点、才敏捷。

ITDM 调查显示,技术负责人认识到分布式云的实用性特别适合于大数据和分析应用场景(56%)以及 AI/ML 工作负载 (47%)。而根据 ClearPath Strategies 在2023年进行了一项全球性研究,有三分之二的 IT 决策者表示在未来 12 个月内其分布式云服务的使用量预计会显著增加。超过三分之一的受访者表示,分布式云好处众多(如快速、高效处理和分析 AI/ML 数据能力),是 IT 策略不可或缺的一部分。

无处不在,布局边缘 | 强势助攻 AI 创新

业界同仁的 AI 智算之道,正与 Akamai 云计算战略不谋而合。作为 CDN 行业鼻祖,Akamai 在分布式云方面有天然优势,始终秉持着在贴近终端用户的位置,一路积淀、融合、构建了云计算、云安全、云分发三位一体的快捷服务。

如今,Akamai 云计算平台战略的关键一步,便是 Akamai Generalized Edge Compute (Gecko) 泛化边缘计算计划,以支持企业与开发者利用分布式云形态,可突破云绑定模式,获得云的便携性,助力企业开发者在多云容器化格局下,高效开发、降本增效降本增效。

应对 AI 创新的海量算力资源需求,Akamai 近日云产品阵容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒体优化型产品,并能用于 Gen AI/ML 场景,非常适合利用神经网路片进行训练和推理任务,可并行执行大量计算,更快、更高效地训练新模型,提高准确性和性能。

从 GPU 到 CPU | 提升 AI 推理性能

为突破边缘推理 GPU 容量不足、算力不足等难题,Akamai 携手 Neural Magic 和 AMD 展开三方战略合作,推出了基于 CPU 的 AI 推理技术。Neural Magic 通过稀疏化算法优化 AI 模型,降低算力需求,可以把 LLM 机器视觉NLP 模型的运行至 CPU 上;并协同 AMD 四代 CPU 特定更新的向量指令集,提升运行效率。

Akamai 用 NLP 模型进行性能测试,基于两款入门Akamai 两核 CPU 虚机,若处理4万条电影评论的文本情感分析,仅需20分钟即可完成。月费成本上,每个月可处理8600万条推理请求,单月推理成本低至82美金。Neural Magic 也使用 NLP 模型,对比了 CPU/GPU 推理效率。在维持原有模型推理准确性的同时,推理效率的两端,效率相差1000倍之多,更有助于保障企业的 AI 创新业务的可持续盈利能力。

基于分布式云 | 加速推荐引擎AI 推理

在电商、社交媒体、广告等行业,往往需要借助融合 AI、深度学习和大语言模型算法的推荐引擎,来发掘用户偏好,主动推荐可能感兴趣的内容和商品。但若缺失高质量的网络性能保障,泛互联网产业广为使用的推荐引擎,将受限于网络访问时延。

面对阻碍推荐引擎的网络访问时延问题,除优化网络架构、使用更快的网络设备、优化数据传输协议等措施,更可以基于边缘的分布式云计算网络、具有 AI 算力的边缘计算节点,支持行业用户化解推荐引擎部署、性能、延时等方面的难题。Akamai 特别建议出海企业,将 AI 推荐引擎部署距离用户更近的 Akamai Gecko 站点,获得全球范围的边缘优势。

一直以来,在推荐引擎场景的成功实践之外,Akamai 云计算服务也以灵活、易用的分布式形态智能应用,长期助力广告科技、游戏、数据库等行业,显著降低云成本,在保障性能的同时,提升 IT 投资回报率。

整体来看,Akamai 云计算服务,在 IaaS、容器、存储、数据库、网络与开发工具方面也有全方位的云服务,可助力企业与开发者摆脱云绑定模式,灵活进行微服务创新,更快速、更高效地打造泛智能的创新型产品。

如今,Akamai Qualified Computing Partner Program(QCP)合作伙伴计划,正在火热纳新中,Akamai 广邀在 AI 训练&推理等领域的合作伙伴,共创、共构生态特定行业场景解决方案,重塑智能化时代的用户体验与创新效率。

欢迎点击进一步试用 Akamai 云计算系列产品;同时,Akamai 也欢迎志同道合的创新团队,加入 Akamai QCP 合作伙伴计划。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/413762.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

数据线性结构

一、线性表 优点:可以很快速的找到内存地址 查询,修改快 缺点:在中间部分新增,删除部时需要移动后续的元素 像java中的stream流的过滤等操作都是新建立一个集合有序插入返回,空间换时间 java中list下标为什么要从0开…

网工面试题(安全)

上一篇:网工面试题(数通) 防火墙 防火墙的应用场景 防火墙:部署在网络出口处/服务器区(数据中心)/广域网接入,用于防止外界黑客攻击、保护内网安全硬件。 传统防火墙和下一代防护墙的区别 传统防火墙的功能…

AJAX day-02 HTTP格式JSON格式

目录 一. 计算机网络 1.1 网络参考模型 1.2 各层重要对应的协议 1.3 DNS解析(域名解析服务器) 1.4 FTP(文件传输协议) 1.5 UDP(用户数据报协议) 1.6 TCP(传输控制协议) 1.7 IP(网际互连协议) 1.8 …

golang本地缓存fastcache高性能实现原理

1. git仓库 https://github.com/abbothzhang/fastcache 2. 整体原理 initCache时不会申请内存,只有第一次set时候才会申请,且会一次性申请64MB,后面不够了又一次性申请1024*64MB大小内存 2.1. 时序图 3. 高性能原因 将cache分为512个buc…

C++奇迹之旅:深度解析list的模拟实现

文章目录 📝前言🌠list节点🌉list 🌠迭代器的创建🌉const迭代器 🌠代码🚩总结 📝前言 🌠list节点 我们先建立一个列表里的节点类listnode,用来构造list的节…

数据仓库系列 3:数据仓库的主要组成部分有哪些?

你是否曾经好奇过,当你在网上购物或使用手机应用时,背后的数据是如何被存储和分析的?答案就在数据仓库中。本文将为你揭开数据仓库的神秘面纱,深入探讨其核心组成部分,以及这些组件如何协同工作,将海量数据转化为有价值的商业洞察。 目录 引言:数据仓库的魔力1. 数据源和数据…

[Algorithm][综合训练][体育课测验(二)][合唱队形][宵暗的妖怪]详细讲解

目录 1.体育课测验(二)1.题目链接2.算法原理详解 && 代码实现 2.合唱队形1.题目链接2.算法原理详解 && 代码实现 3.宵暗的妖怪1.题目链接2.算法原理详解 && 代码实现 1.体育课测验(二) 1.题目链接 体育课测验(二) 2.算法原理详解 && 代码实现…

解决Selenium已安装,在pycharm导入时报错

搭建设selenium环境时,selenium已安装,但是在pycharm中使用“from selenium import webdriver”语句时红线报错 解决方案: 1.file->settings进入设置 2.点击加号,搜索‘selenium’安装 3,等待安装完成&#xff0…

项目技巧二

目录 java中Date和mysql数据库datetime数据类型 注意: 在yml文件中配置成员变量的值 1.写一个yml文件 2.写一个与yml相互映射的类来读取yml的属性信息 3.在其他子模块的配置类中开启此类,读取yml文件的内容信息 4.直接依赖注入(因为已…

Java多进程调用dll程序和exe程序

🎯导读:本文介绍了使用Java调用本地DLL及EXE程序的方法。针对DLL调用,文章提供了基于Java Native Access (JNA) 库的具体实现方案,包括定义Java接口以映射DLL中的函数,并展示了如何加载DLL及调用其中的方法。对于EXE程…

opencv之几何变换

文章目录 1 前言2 线性几何变换的主要类型2.1 平移 (Translation):2.1.1 定义2.1.2代码 2.2 缩放 (Scaling):2.2.1 定义2.2.2 代码 2.3 旋转 (Rotation):2.3.1 定义2.3.2 代码 2.4 仿射变换 (Affine Transformation):2.4.1 定义2.…

数据源10min自动断开连接导致查询抛异常(未获取可用连接)

由于个人能力有限,本文章仅仅代表本人想法,若有不对请即时指出,若有侵权,请联系本人。 1 背景 工作中引入druid来管理数据源连接,由于数据源每隔10分钟强制管理空闲超过10分钟的连接,导致每隔10分钟出现1…

3D打印透气钢与传统透气钢的差异

透气钢作为一种集金属强度与透气性能于一体的特殊材料,在注塑模具领域扮演着关键角色,通过有效排除模具内困气,显著提升制品成型质量与生产效率。当前,市场上主流的透气钢产品多源自日本、美国,其高昂成本与技术壁垒限…

Golang | Leetcode Golang题解之第388题文件的最长绝对路径

题目&#xff1a; 题解&#xff1a; func lengthLongestPath(input string) (ans int) {n : len(input)level : make([]int, n1)for i : 0; i < n; {// 检测当前文件的深度depth : 1for ; i < n && input[i] \t; i {depth}// 统计当前文件名的长度length, isFi…

生成艺术,作品鉴赏:物似主人形

2001年&#xff0c;当21岁的我&#xff0c;还在恒基伟业当高级工程师时。我有一个女同事&#xff0c;她有个特别大的杯子用来喝水&#xff0c;不夸张的说&#xff0c;是那种我从来没见过的大杯子&#xff0c;由于她是很大只的那种&#xff0c;她便自嘲说&#xff1a;「物似主人…

【Kubernetes部署篇】二进制搭建K8s高可用集群1.26.15版本(超详细,可跟做)

文章目录 一、服务器环境信息及部署规划1、K8S服务器信息及网段规划2、服务器部署架构规划3、组件版本信息4、实验架构图 二、初始化环境操作1、关闭防火墙2、配置本地域名解析3、配置服务器时间保持一致4、禁用swap交换分区(K8S强制要求禁用)5、配置主机之间无密码登录6、修改…

JVM2-JVM组成、字节码文件、类的生命周期、类加载器

Java虚拟机的组成 Java虚拟机主要分为以下几个组成部分&#xff1a; 类加载子系统&#xff1a;核心组件类加载器&#xff0c;负责将字节码文件中的内容加载到内存中运行时数据区&#xff1a;JVM管理的内存&#xff0c;创建出来的对象、类的信息等内容都会放在这块区域中执行引…

RelativeLayout相对布局

activity_relative_layout.xml <?xml version"1.0" encoding"utf-8"?> <RelativeLayout xmlns:android"http://schemas.android.com/apk/res/android"android:layout_width"match_parent"android:layout_height"150dp…

QT QGraphicsView实现预览图片显示缩略图功能

QT QGraphicsView实现预览图片显示缩略图功能QT creator Qt5.15.2 头文件&#xff1a; #ifndef TGRAPHICSVIEW_H #define TGRAPHICSVIEW_H#include <QGraphicsView> #include <QMainWindow> #include <QObject> #include <QWidget>class TGraphicsVie…

Oracle 客户端 PL/SQL Developer 15.0.4 安装与使用

目录 官网下载与安装 切换中文与注册 连接Oracle数据库 tnsnames.ora 文件使用 Oracle 客户端 PL/SQL Developer 12.0.7 安装、数据导出、Oracle 执行/解释计划、for update。 官网下载与安装 1、官网&#xff1a;https://www.allroundautomations.com/products/pl-sql-d…