[论文笔记]AIOS: LLM Agent Operating System

引言

这是一篇有意思的论文AIOS: LLM Agent Operating System,把LLM智能体(代理)看成是操作系统。

基于大语言模型(LLMs)的智能代理的集成和部署过程中存在着许多挑战,其中问题包括代理请求在LLM上的次优调度和资源分配,代理和LLM之间在交互过程中保持上下文的困难,以及集成具有不同能力和专业化的异构代理时固有的复杂性。代理数量和复杂性的迅速增加进一步加剧了这些问题,通常导致资源的瓶颈和次优利用。

受到这些挑战的启发,本篇工作提出了AIOS,一种LLM代理操作系统,将大语言模型嵌入操作系统(OS)作为OS的大脑。具体而言,AIOS旨在优化资源分配,促进代理之间的上下文切换,实现代理的并发执行,为代理提供工具服务,并维护代理的访问。

项目开源在:https://github.com/agiresearch/AIOS

1. 总体介绍

在自主代理领域,人们致力于开发能够独立运行、做出决策并执行任务的系统,无需或只需最小限度的人类干预。这些代理被设计为理解指令、处理信息、做出决策并采取行动以实现自主状态。大语言模型的出现为代理开发带来了新的可能性。当前的LLMs已经展现出在理解指令、推理和解决问题、与人类用户以及外部环境进行交互方面的强大能力。建立在这些强大的LLMs之上,新兴的基于LLM的代理在各种环境中展现出强大的任务完成能力,从虚拟助手到涉及复杂和创造性问题解决、规划和推理的更复杂系统。

image-20240606155700921

一个引人注目的例子是基于LLM的代理如何解决真实世界任务,如图1所示。在用户提出旅行组织请求后,旅行代理将任务分解为可执行步骤。然后,它按顺序执行这些步骤以预订航班、预订酒店、处理付款,并根据用户的喜好更新日历。在计划执行过程中,代理展现出推理和决策能力,使其与仅受制于预定义功能或工作流程的传统软件应用区分开来。要实现这一旅行场景,代理需要与LLM服务(例如,检索和理解用户喜好、决定调用哪种工具API、生成评论和响应)以及传统操作系统(OS)服务(例如,访问磁盘驱动器和执行软件)进行交互。

随着代理数量和复杂性的指数增长,LLM和OS的功能面临越来越大的压力。例如,在有限的LLM资源中安排和优先处理代理请求是一个重要的挑战。此外,处理具有庞大上下文的情况时,LLM的生成过程可能需要很长时间,有时会导致调度程序挂起生成。这带来了一个问题,即制定一种快照机制来记录LLM当前的生成结果,从而即使在LLM尚未完成对当前请求的响应生成时也能实现暂停/继续行为。此外,一旦一个代理获得可调用工具列表,确定调用这些工具的最佳顺序又带来了另一个挑战,因为多个代理可能需要调用相同的工具。此外,多个代理的并发操作需要一个强大的内存管理系统,跨不同代理进行管理,同时确保对隐私和访问控制措施的严格执行。

image-20240606160152768

为了解决上述挑战,作者提出了AIOS,一种LLM代理操作系统(图2),旨在提供LLM和OS功能的模块隔离和聚合。为了解决与LLM相关的任务和与LLM无关的任务之间可能出现的冲突,作者提出了设计LLM特定内核的方案。这个内核分离了类似操作系统的职责,特别是与LLM代理、它们对应的资源和开发工具包相关的职责。通过这种分离,LLM内核旨在增强LLM相关活动的管理和协调。在所提出的LLM内核中,设计了一套模块,每个模块专门应对与LLM操作相关的独特功能。下面概述了这些模块及其各自的功能:

  • 代理调度器(Agent Scheduler):优先处理和安排代理请求,以优化LLM的利用。
  • 上下文管理器(Context Manager):支持在LLM中快照和恢复中间生成状态以及LLM上下文窗口的管理。
  • 记忆管理器(Memory Manager):为每个代理的交互日志提供短期记忆。
  • 存储管理器(Storage Manager):将代理的交互日志持久化到长期存储,以便未来检索。
  • 工具管理器(Tool Manager):管理代理调用外部API工具(例如搜索、科学计算)。
  • 访问管理器(Access Manager):在代理之间执行隐私和访问控制策略。

除了这些模块,内核通过LLM系统调用接口公开了一个接口,代理可以透明地利用这些服务。此外,设计了AIOS SDK来进一步封装LLM系统调用,为代理开发人员提供更方便的代理库函数。利用AIOS架构,像旅行规划器这样的代理可以将其任务分解成步骤,流畅地结合LLM推理(例如计划生成和工具调用决策)和OS级别的操作(例如访问存储和执行软件服务)。这种能力的协同组合使多个LLM代理能够处理越来越复杂、多模态的任务,这些任务需要推理、执行和与物理世界的交互。

2. 相关工作

2.2 大型语言模型代理

基于大型语言模型的自主代理将自然语言指令作为复杂任务求解的输入。关于基于LLM代理的研究通常可以分为单代理系统和多代理系统。

基于LLM的单代理系统 基于LLM的单代理系统(single-agent systems,SAS)使用单个LLM代理进行复杂任务求解,如旅行规划、个性化推荐和艺术设计。该代理接收用户的自然语言指令作为输入,并将任务分解为一个多步计划以完成任务求解,其中每个步骤可能调用外部工具完成,例如收集信息、执行专业模型或与外部世界进行交互。

基于LLM的多代理系统 基于LLM的多代理系统(multi-agent systems,MAS)利用多个代理之间的交互来解决问题。多个代理之间的关系可能是合作的、竞争的,或是合作和竞争的混合。在合作的多代理系统中,每个代理接收并评估其他代理提供的信息,从而共同合作解决复杂任务,如角色扮演、社会模拟和软件开发。在竞争性多代理系统中,代理可能在游戏环境中进行辩论、谈判和竞争以实现自己的目标。一些多代理系统可能在代理之间同时表现出合作和竞争。

3. AIOS层

如图2所示,AIOS架构分为三个独立的层级:应用层(application layer)、内核层(kernel layer)和硬件层(hardware layer)。这种分层架构确保了系统各个部分的职责清晰划分。每个更高级别的层次都会对其下层的复杂性进行抽象,通过接口或特定模块促进交互,从而增强模块化并简化跨不同层级的系统交互。

应用层 在应用层,代理应用程序被开发和部署,如旅行代理或数学代理。在这一层,AIOS提供了AIOS SDK,通过更高级别的系统调用抽象简化了代理开发人员的开发过程。该SDK通过提供一个丰富的工具包来为代理应用程序的开发提供便利,该工具包抽象化了更低层次系统功能的复杂性。这使开发人员能够专注于代理的基本逻辑和功能,促进更高效的开发过程。

内核层 内核层分为两个主要组件:操作系统内核和LLM内核,分别满足非LLM和LLM特定操作的独特需求。这种区别使得LLM内核能够专注于LLM特定任务,例如上下文管理和代理调度,这些任务对处理LLM相关活动至关重要,通常不属于标准操作系统内核功能的范围。本工作主要集中于增强LLM内核,而不对现有操作系统内核结构进行重大改动。LLM内核配备了几个关键模块,包括LLM系统调用接口、代理调度器、上下文管理器、内存管理器、存储管理器、工具管理器和访问管理器。这些组件旨在满足代理应用程序的多样的执行需求,在AIOS框架内确保高效的管理和执行。

硬件层 硬件层包括系统的物理组件,包括CPU、GPU、内存、磁盘和外围设备。需要注意的是,LLM内核的系统调用不能直接与硬件交互。相反,这些调用与操作系统的系统调用接口交互,后者再管理硬件资源。这种间接交互确保了一层抽象和安全性,使LLM内核能够利用硬件能力而无需直接进行硬件管理,从而保持系统的完整性和效率。

4 AIOS实现

4.1 代理调度器

image-20240606175341834

代理调度器旨在以高效的方式管理代理请求。考虑图3中的各种代理(表示为A、B和C),每个代理都有多个执行步骤。在顺序执行范例中,代理任务按照线性顺序处理,其中来自同一代理的步骤将首先处理。这可能导致排在序列后面的任务等待时间增加。

代理调度器设计如图3所示。在图中,A1、A2、A3代表代理A的执行步骤,B1、B2代表代理B的执行步骤,C1、C2、C3代表代理C的执行步骤。顺序执行将导致代理任务按照线性顺序依次执行,这可能会增加后续任务的等待时间。而并发执行则可以减少等待时间。

代理调度器根据特定的调度算法(如FIFO、Round Robin等)来管理代理任务的执行顺序,以优化系统性能和资源利用率。通过并发执行,调度器显著平衡了每个代理的等待时间和周转时间,因为来自不同代理的任务被交错执行并并行执行。这种并发方法通过时间轴展示,其中来自不同代理的任务以交错方式处理(例如,A1、B1、C1、B2、A2、A3、C2、C3),确保没有单个代理垄断处理资源,且空闲时间被最小化。

上下文管理器

image-20240607132403649

上下文管理器负责管理提供给LLM的上下文以及在给定某个上下文时生成过程。它主要涉及两个关键函数:上下文快照(snapshot)和还原(restoration),以及上下文窗口管理(context window management)。

上下文快照和还原 考虑到调度算法可能涉及时间量子操作(例如 Round-Robin),并且代理请求可能会被调度器挂起。即使LLM尚未完全生成响应,也会发生这种挂起。因此,需要一种机制来保留LLM生成过程的状态,确保一旦资源再次可用,就可以准确恢复。

AIOS提供了上下文管理器中的快照和还原机制来解决这个问题,可以从图4中看到。使用典型的LLM中的束搜索过程,用于说明生成解码过程。为简单起见,将束宽度设置为1。具体来说,考虑代理请求为:确定航班UA057的目的地是否会下雨。在每个步骤中,LLM评估多个潜在候选项,并保留最有希望的路径以便根据预定义的光束宽度进一步扩展。

当这种生成过程在中间步骤被调度器挂起时,上下文管理器使用快照函数来捕获和存储LLM的光束搜索树的当前状态,包括为生成响应正在探索的所有中间概率和路径。在恢复时,使用还原函数重新加载从快照中保存的状态,允许LLM从挂起点恢复其生成过程,最终得到答案:在巴黎搜索天气。这样,上下文管理器确保一个代理请求的临时挂起不会导致进度丢失,从而在不损害响应生成的质量和效率的情况下优化资源使用。

上下文窗口管理 为了解决长上下文超过LLM上下文窗口限制所带来的挑战,上下文管理器还需要管理上下文窗口的潜在扩展。具体来说,AIOS中的上下文管理器支持基本文本摘要和其他扩展技术,以管理上下文窗口。通过这种方式,它可以帮助增强LLM处理和理解广泛上下文的能力,而不会损害信息的完整性或相关性。

4.3 记忆管理器

image-20240607133032426

如图5所示,记忆(Memory)管理器在代理程序的生命周期内管理短期记忆(short-term memory),确保数据仅在代理程序处于活动状态时存储和访问,无论是等待执行还是在运行时。当前的AIOS支持独立存储每个代理的记忆,其他代理无法直接访问,除非经过访问管理器授权。与后文介绍的存储管理器相比,记忆管理器能够实现快速数据检索和处理,促进对用户查询和交互的迅速响应,而不会使AIOS的存储负担过重。

4.4 存储管理器

存储管理器负责数据的长期保存,监督需要无限期保留的信息的存储,超出任何单个代理程序的活动声生命周期。AIOS中的永久存储是通过各种持久性介质实现的,如本地文件、数据库或基于云的解决方案,确保数据的完整性和可用性,供将来参考或分析。存储管理器支持检索增强。通过存储用户偏好并维护历史交互日志,存储管理器可以丰富代理程序的知识更新并增强长期用户体验。

4.5 工具管理器

image-20240607133433852

AIOS系统中的工具管理器管理着增强LLM功能的各种API工具。如表1所示,工具管理器整合了各种来源的常用工具,并将它们分类到不同的类别中,涵盖了Web搜索、科学计算、数据库检索、图像处理等。

4.6 访问管理器

访问管理器通过为每个代理管理专用权限组,协调不同代理之间的访问控制操作。被排除在代理的特权组之外的其他代理将被拒绝访问其资源,比如交互历史。为进一步增强系统的透明性,访问管理器编制并维护审计日志。

4.7 LLM系统调用

image-20240607134124167

LLM内核中的LLM系统调用接口旨在提供基本的LLM调用操作函数。该接口充当了复杂代理请求与执行不同内核模块之间的桥梁。正如表2所示,类似于操作系统系统调用,LLM系统调用提供了一套跨越内核模块的基本功能,包括代理管理、环境处理、内存和存储操作以及访问控制。

4.8 AIOS SDK

image-20240607134211346

AIOS SDK为开发人员提供一个多功能工具包,用于在AIOS内部构建复杂的代理应用程序。该SDK涵盖了广泛的功能,从初始化代理和管理代理生命周期到促进复杂操作,如资源监控和代理任务的制定计划。当前在AIOS中支持的SDK功能如表3所示。

5. 评估

5.2 实验结果

image-20240607134407520

一致性分析 为了回答一致性问题,首先分别运行了三个构建的代理以生成结果。随后并行执行这些代理,并在每个步骤捕获它们的输出。为了评估多个代理同时运行和单个代理依次运行时输出的一致性,利用 BLEU 分数 和 BERT 分数 [ 作为评估指标。这两个指标的取值范围都是从 0.0 到 1.0,单个代理情境产生的输出作为参考标准,将温度参数设置为 0 以消除随机性的影响。正如表4所示,BLEU 分数和 BERT 分数都达到了 1.0 的数值,表明在多代理和单代理配置下生成的输出完美一致。

image-20240607134448033

性能分析 为了回答效率问题,对比了采用 FIFO 调度和非调度方法的 AIOS,在这两种方法下前述的三个代理同时运行。在非调度设置下,三个代理按照预定义的顺序依次执行:数学代理、叙述代理和记录代理。采用了两个指标来评估时间效率:等待时间(代理请求提交到开始的时间间隔)和周转时间(代理请求提交到完成的时间间隔)。由于每个代理将向 LLM 发送多个请求,每个代理的等待时间和周转时间分别被计算为其发送的所有请求的等待时间和周转时间的平均值。为减少随机性,分别对采用和不采用调度的这三个代理进行了五次独立试验并报告结果。如表5所示,非调度方法对于序列中较早的代理表现出良好的性能,但以延长后续代理的等待时间和周转时间为代价。相反,AIOS的调度机制有效地调节了等待时间和周转时间,尤其是在 LLM 较大时,这一好处尤为显著。

6. 结论

本文提出了AIOS架构,展示了促进基于LLM的代理开发和部署的潜力,培育了一个更协调、有效和高效的AIOS-Agent生态系统。

总结

⭐ 作者借鉴操作系统的知识,把LLM多智能体的协作看成是一个操作系统,包括短期的内存(记忆)管理器和长期的存储管理器、智能体调度器、访问管理器等。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/343496.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

智能视频监控平台LntonCVS视频融合共享平台保障露营安全解决方案

在当今社会,都市生活的快节奏和压力使得越来越多的人渴望逃离城市的喧嚣,寻求一种短暂的慢生活体验。他们向往在壮丽的山河之间或宁静的乡村中露营,享受大自然的宁静与美好。随着露营活动的普及,露营地的场景也变得更加丰富多样&a…

干货分享:如何做好采购和供应链管理工作?

简单来说,采购是企业获取所需货物和材料的过程,而供应链管理是将这些货物转化为产品并尽可能高效地分发给客户。 但做好采购和供应链管理的关键是实现采购和供应商的协同管理。为什么这么说呢? 在成本方面,采供协同管理使得企业…

【Vue】单页应用程序介绍

通常基于Vue去开发一整个网站,开发出来的这整个网站应用,我们都会叫做单页应用程序 概念 单页应用程序:SPA【Single Page Application】是指所有的功能都在一个html页面上实现 我们可以将页面共用的部分封装成组件,底下要切换的也…

安卓虚拟屏幕锁屏画面源码分析部分KeyguardPresentation

背景: 在搞虚拟多屏和投屏相关业务时候,发现在锁屏时候一个画面比较特殊,但是明显我们自己也没有给虚拟屏幕和投屏有绘制过这个页面。 具体页面如下: 这个圈中小方框就是虚拟屏幕,在息屏待机时候居然也有个类似锁屏…

【Elasticsearch】IK分词器的下载及使用

安装IK分词器 网址:https://github.com/infinilabs/analysis-ik 3.1.在线安装ik插件(较慢,不推荐) # 进入容器内部 es为容器名称 docker exec -it es /bin/bash# 在线下载并安装 7.17.21为镜像版本要与之前保持一致 ./bin/elasticsearch-pl…

Docker|了解容器镜像层(1)

引言 容器非常神奇。它们允许简单的进程表现得像虚拟机。在这种优雅的底层是一组模式和实践,最终使一切运作起来。在设计的根本是层。层是存储和分发容器化文件系统内容的基本方式。这种设计既出人意料地简单,同时又非常强大。在今天的帖子[1]中&#xf…

前端 JS 经典:打印对象的 bug

1. 问题 相信这个 console 打印语句的 bug,其实小伙伴们是遇到过的,就是你有一个对象,通过 console,打印一次,然后经过一些处理,再通过 console 打印,发现两次打印的结果是一样的,第…

网络实用技术答案

( C )不属于计算机网络四要素。A. 计算机系统 B. 传输介质C. 用户 D. 网络协议计算机网络中广域网和局域网的分类是以( D )来划分的。A. 信息交换方式 B.传输控制方法C. 网络使用习惯 D.网络覆盖范围计算机…

【传知代码】基于曲率的图重新布线(论文复现)

前言:在图形处理中,一个至关重要的问题是图形的重新布线,即在不改变图形基本结构的前提下,通过调整节点间的连接关系,使图形具有更好的性质,如更低的复杂度、更高的可视化效果或更强的鲁棒性。传统的图形重…

高考志愿填报有哪些技巧和方法

一年一度高考季,又高考志愿填报的时侯了。高考志愿填报的时侯,需要考虑的因素比较多,有的同学觉是离家越远越好,要放飞自我,家长再也管不了我了。有的同学觉得专业比学校牌子重要,只要报个好专业&#xff0…

Ubuntu server 24 (Linux) AdGuard Home +SmartDNS 安装配置 搭建去广告快速DNS

一 SmartDNS 安装 ,可参考:Ubuntu server 24 (Linux) 安装部署smartdns 搭建智能DNS服务器-CSDN博客 二 安装AdGuard 1 下载地址:GitHub - AdguardTeam/AdGuardHome: Network-wide ads & trackers blocking DNS server 2 解压安装 #下…

文本审核纠错

探索高效文本审查利器:Word Checker-CSDN博客 GitHub - shibing624/pycorrector: pycorrector is a toolkit for text error correction. 文本纠错,实现了Kenlm,T5,MacBERT,ChatGLM3,LLaMA等模型应用在纠错…

编写程序提示用户输入一个数目(例如:100)、年利率(例如:5)以及月份数(例如:6),然后显示给定月份后账户上的钱数。

(财务应用程序:复利值)假设你每月向银行账户存 100美元,年利率为5%,那么每 月利率是 0.05/12-0.00417。 第一个月之后,账户上的值就变成:100*(10.00417)100.417 第二个月之后,账户上的值就变成(100100.417)*(10.00417)-201.252 第…

数据挖掘实战-基于Catboost算法的艾滋病数据可视化与建模分析

🤵‍♂️ 个人主页:艾派森的个人主页 ✍🏻作者简介:Python学习者 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞&#x1f4…

Llama模型家族之RLAIF 基于 AI 反馈的强化学习(三) RLAIF 的工作原理

LlaMA 3 系列博客 基于 LlaMA 3 LangGraph 在windows本地部署大模型 (一) 基于 LlaMA 3 LangGraph 在windows本地部署大模型 (二) 基于 LlaMA 3 LangGraph 在windows本地部署大模型 (三) 基于 LlaMA…

Leetcode学习

回文数 反转一半数字 第一个想法是将数字转换为字符串,并检查字符串是否为回文。 但是,这需要额外的非常量空间来创建问题描述中所不允许的字符串。 第二个想法是将数字本身反转,然后将反转的数字与原始数字比较,如果它们是相同…

Excel 交叉表的格转成列,行转成格

Excel里交叉表的左表头是卡车号,上表头是工作,交叉格是工作编号。 ABCD1Truck NumberJob1Job2Job3271592859285928372395859282971473297159282971 要求:将交叉格转为列,左表头转为格。 ABC1297139585928272727137371473715726…

Android Webview 详解

一 简介 一个基于webkit引擎、展现web页面的控件 Android 4.4前:Android Webview在低版本 & 高版本采用了不同的webkit版本的内核Android 4.4后:直接使用了Chrome内核 1.1 作用 在 Android 客户端上加载h5页面在本地 与 h5页面实现交互 & …

CorelDRAW2024最新版本有哪些功能?揭秘设计界最新神器!

“设计”一词最早来源于拉丁语“designare”,意为计划,构思。随着时代的发展,人们将“设计”理解为一种创造性活动,通过这种活动,人们可以创造出新的产品、新的场景以及新的体验。 「CorelDRAW汉化版下载」&#xff0c…

【猫狗识别系统】图像识别Python+TensorFlow+卷积神经网络算法+人工智能深度学习

猫狗识别系统。通过TensorFlow搭建MobileNetV2轻量级卷积神经算法网络模型,通过对猫狗的图片数据集进行训练,得到一个进度较高的H5格式的模型文件。然后使用Django框架搭建了一个Web网页端可视化操作界面。实现用户上传一张图片识别其名称。 一、前言 …