多智能体协同调度

03彩讯多Agent调度框架设计04应用案例分享05实验探索与未来方向预测大模型加持下人工智能发展趋势互联网生态向智能体生态发展互联网生态向智能体生态发展中国人工智能行业政策“完善生成式人工智能发展和管理机制”《中共中央关于进一步全面深化改革推进中国式现代化的《国家人工智能产业综合标准化体系建设指南》APPAPPAPPStoreLLM人民共和国网络安全法》《中华人民共和国数据安全法》APPStoreLLM随着大模型技术的发展，Agent的结构不同厂商几乎大同小异，一般包含感知、规划、执行、工具、记忆。为什么会需要一个Multi-Agent框架？简单的说，人们的直觉是模仿人类分工协同的模式，能够更有效的解决问题。更底层的逻辑是为了突破单Agent的一些限制。由于Agent之间是松耦合的,多智能求。Agent可以动态地加入或退出系统,提高系统的鲁棒性。LongContext是很多LLM追求的特性 之一，单一的Agent也会受到Context的限制，因为由于Agent之间是松耦合的,多智能求。Agent可以动态地加入或退出系统,提高系统的鲁棒性。Agent之间的交互和协商有助于实现整体最优。因此拆分Agent的功能避免超过上下multimulti-agent指的是由LLM语言模型驱动的多个独立行动者Agent以特定方式连接在一起，每个代理都可以拥有自己的提示词，LLM底层模型，调用工具和其他自定义代码，以便与其他代理最好地协作。代表方法：ReACT单Agent核心功能：使用工具的能力multimulti-AgentAgents之间的协作：通过不同的Agent之间的分工协作（有的做规划，有的执行，执行的时候可以调用工具，也可以利用LLM本身的代码，总结能力等完成一些比较复杂的任务Agent自动化调度：广播机制，订阅发布者机制、Routing等多Agent行业主流框架概览LangGraphAutoGenCrew.AIChatDevSwarmMetaGPTLangGraph是一个用LLM构建有状态（stateful）、多参与者（multi-actor）应用库，用于创建Agent和multi-agent工作流。LangGraph允许定义包含循环的流，它提供了对应用程序流和状态的细粒度控制。此外，LangGraph包括内置的持久化机制，支持高级的human-in-the-loop和记忆功能。共享思考链上下文模式中介者模式LangGraph—共享思考链上下文模式用户输入用户输入开始路径开始路径AgentAAgentBRouter:根据agent输出的语句路由消息。如果语句是"FINALANSWER"Router:根据agent输出的语句路由消息。如果语句是"FINALANSWER"，则直接将消息发送给User。如果语句是"continue"或"startsender"，则将消息发送给ChartGenerator。stated[Sender]==AgentAstated[Sender]==AgentBCall_Tool•如果LLM调用了一个工具，路由器会继续执行该•如果LLM返回“FINALANSWER”（最终答），Generator调用。AutoGenAutoGen由微软推出，提供了一个统一的多智能体对话框架。该框架简化了复杂LLM工作流的编排、自动化和优化。它最大限度地提高了LLM模型的性能，并克服了它们的弱点。它使得基于多智能体对话构建下一代LLM应用变得轻松。变其行为。数或工具的能力。使用GroupChat和GroupChat可以通过设置max_round和speaker_selection_method来控制Agent之间的通信流程。可以通过定义一个next_speaker可以通过插入特定的提示来影响Agent的发言顺序，从而控制聊天的code_execution_config={"executor":code_executor})user_proxy.initiate_chat(assistant,③用户Agent收到助手的响应后，尝试通过征求人类输入或准备自动生成的回复来进行回复。如果)上图定义了一个简单的研究工作流程，包含4个状态：Init、Retrieve、Research和End。在每个状态中，将调用不同的Agent来执行任务。Retrieve：首先调用Coder来编写代码，然后调用Executor来执行代码。Research：我们将调用Scientist来阅读论文并撰写摘要。End：我们将结束工作流程。其中：Initializer：通过发送任务开始工作流程。(即右图代码所示的最下面user.initate_chat)Coder：通过编写代码从互联网上获取论文。Executor：执行代码。Scientist：阅读论文并撰写摘要。SwarmSwarm是OpenAI开发的多智能体框架，Swarm关注的重点是让智能体协作和执行变得轻量、高度可控且易于测试。Swarm的核心在于两种原语抽象：智能体(agent)和交接(handoff)。智能体包含指令和工具，并且在任何时间都可以选择将对话交接给另一个智能体。这种设计使得智能体之间可以灵活地传递任务，适应不同的场景和需求。主要组件：保其格式正确。并处理缺失工具。返回结果。不是流式的。工作流程：CrewAICrewAI是一个开创性的多Agent协作平台，旨在通过多Agent协作提升AI解决方案的效率和智能。每个Agent都配备有一套独特的工具和能力，能够协作、分配任务、共享信息，并高效地解决复杂问题。和工具。彼此之间询问，提高问题解决的效率。开发更复杂的流程，如共识和自主流程。后续使用。为Pydantic模型或Json格式。ChatDEV是由OpenBMB团队开源的对话式AI开发平台，旨在为开发者提供一个集模型训练、交互设计和实时评估于一体的高效工具。ChatDEV基于经典的瀑布模型，将软件开发过程划分为：设计、编码、测试和记录四个阶段。每个阶段都有一个Agent团队（如程序员、代码评审员、测试工程师等他们通过协作对话和无缝工作流程推动开发进程。续性。务由程序员根据CTO的指示实现，设计师则负责图形用指令明确并帮助程序员聚焦于解决特定子任务代码中的不必要冗余，并提高了代码的准确性。赖性配置说明和用户手册。这些文档帮助用户独立解系统的使用方法。MetaGPT是一种多智能体框架，其利用SOP来协调基于LLM的多智能体系统，从而实现元编程技术。该框架使用智能体模拟了一个虚拟软件团队，包含产品经理、架构师、项目经理、工程师、质量工程师等角色，并引入SOP成为框架的虚拟软件团队的开发流程。其专注于软件开发，覆盖了从需求分析到代码实现的全生命周期覆盖。在MetaGPT中，多智能体被视为一个智能体社环境：环境是智能体生存和互动的公共场所。智能体从环境中）：经济：这指的是多智能体环境中的价值交换系统，决定资源分配和任务优先级。行业多Agent框架总结分析05多轮交多轮交互场景04新手Swarm和易于上手，适合进行新手Swarm和易于上手，适合进行简单的多Agent复杂任务LangGraph则是高级用户的理想选择，它提供了高度可定制的逻辑和编排能力个不错的选择LangGraph与开源LLM的兼容性很好，CrewAI也可作为不错的选择个不错的选择实验框架设计与实现：框架整体架构介绍mapping-reAct融合的多智能体调度模式用户输入智慧大脑模块用户输入智慧大脑模块智能体构建响应智能体构建响应任务管理模块任务管理模块调度协同模块调度协同模块智慧大脑的角色与功能智慧大脑作为AIBOX多Agent系统的“大脑”，旨在将用户与各类Agent连接起来。实现Agent的统一管理和协作，使得不同业务模块中的Agent能够协同工作，打破业务壁垒，实现资源的优化配置与智能分配。智慧大脑智能体创建智能体接入单智能体调度任务转发智能体创建智能体接入单智能体调度任务转发内部各业务智能体内部各业务智能体智能办公•招聘数字员工•财务数字员工•审计数字员工•党建数字员工通话•智能翻译•商务速记•反诈防护•智能应答图文变换•妙云相机•成语接龙•文生图数字资产管理•资产检索•资产分类•资产整理•内容生成•网约打车•外卖快递•上门服务•抢购门票•景点预约•视频点播支持复杂任务链的无缝执行。用户体验割裂现象。Agent之间建立了统一的能力标准，确保各Agent在业务执行中的表现一致，消除了能力参差不齐的问题，使得各项任务能够在高智慧大脑：用户意图识别智慧大脑意图识别模块意图识别与调度策略配置后处理组件Agent_1weatherAgent_2MusicMusic子智能体库url2url3url4技能库意图理解是多Agent系统的重要模块，我们为意图识别模块配置了丰富的组件。除此之外，为了加快意图响应速度，还引入智慧大脑意图识别模块意图识别与调度策略配置后处理组件Agent_1weatherAgent_2MusicMusic子智能体库url2url3url4技能库任务拆解与规划：任务分解策略任务分解策略的目的是将用户的输入需求转化为一系列小的、具体的任务，每个任务处理输入中的一部分工作。通过将任务分解成多个子任务，可以让系统更加灵活地处理多Agent系统的复杂需求。••从用户输入解析任务：通过对用户的需求进下单等。），型选择合适的操作。weatherweather中选择.子智能体库中选择.子智能体库…任务拆解与规划：规划任务的优先级与依赖关系完整的任务分解步骤的提示工程#1任务规划阶段AI助手可以将用户输入解析为多个任务：完整的任务分解步骤的提示工程#1任务规划阶段AI助手可以将用户输入解析为多个任务："dep"字段表示生成当前任务所依赖的新资源的前一个任务的id。特殊标签"<resource>-task_id"表示在id为task_id的依赖任务中生成的文本、图片、音频和视频。任务必须从以下选项中选择：{{Agent_CLASS}}.任务之间存在逻辑关系，请注意它们的顺序。如果无法解析用户输入，你需要回复空的JSON。以下是几个参考案例：{{Demonstrations}}.聊天历史记录为{{ChatLogs}}。从聊天记录中，你可以找到用户提到的资源的路径，以便于你的任务规划。----Demonstrations用户输入：商品的描述，返回商品图片及各个平台的销售价格A:[{"task":"search_goods","task_id":0,"dep":[-1],"args":("text":"商品的描述"}},{"task":"get_picture_url","task_id":1,"dep":[0],"args":{"text":"<resource>-0"}}, {"task":"get_price","task_id":2,"dep":[1],"args":{"text":"<resource>-1"}},]•依赖关系：在多个任务之间，某些任务务完成后才能执行。•任务优先级：根据任务的依赖关系，系统可行效率。•输入依赖关系：<resource>-task_i是更早的子任务的输出。多Agent协同调度：子Agent的分类与功能子智能体库weatherEmailAgent3Music为了使得智慧大脑在任务分发时更好的拆分出子任务，我们对子Agent进行了分类设计。在任务拆分环节，智慧大脑会依据子Agent的类进行拆分，并建立了子Agent库。子Agent作为底层被调用模块，只需严格按照意图大脑的分发任务执行子智能体库weatherEmailAgent3MusicAgent之间的任务逻辑依赖，信息之间的转发，均以此为•子智能体描述：子智能体描述是帮助智慧大脑为每一个•子智能体类：用于对Agent进行归类，方便在智慧大脑建子任务类型。多Agent协同调度：调度策略与算法任务分配步骤的提示工程#2Agent选择阶段：根据用户请求和调用命令，针对{{#1任务规划阶段}}划分的task，AI助手帮助用户从{{Agent}}和{{工具库}}中为每一个task选择一个合适的Agent来处理用户请求。AI任务分配步骤的提示工程#2Agent选择阶段：根据用户请求和调用命令，针对{{#1任务规划阶段}}划分的task，AI助手帮助用户从{{Agent}}和{{工具库}}中为每一个task选择一个合适的Agent来处理用户请求。AI助手仅输出最合适Agent的Agent_id。如果没有匹配合适的Agent，你需要回复空的JSON。输出必须严格遵守JSON格式：[{"task":task,"id":task_id,"dep":dependency_task_ids,"agent_id":"agen·t_id","reason":"你选择的详情原因","args":{"text":text,"image":URL,"audio":URL,"video":URL}}]我们有一份Agent列表供你选择{{Agent}}请从列表中选择需要的agent。•子Agent选择：对于每一个拆分后•选择子agent的原因：这是作为后续Re任务协同。多Agent协同调度：协同工作的机制子agent路由架构Agent_1Agent_1Agent_1我们通过为每一个子Agent配置路由来实现子Agent之间的协同工作机制，在我们的架构下Agent之间不是直接通信的，而是通过专属的路由进行转发，这样有效的控制了Agent之间的通信标准问题子agent路由架构Agent_1Agent_1Agent_1•相应Json输入：智慧大脑只会在确保只返回必要的信息。•路由间的传递：路由间的转发，均通过读取记录。框架设计与实现：关键模块与功能解析上下文召回智慧大脑框架设计与实现：智慧大脑模块上下文召回智慧大脑•核心大模型：提供智慧大脑的核心计算能力，通过强大的大脑提供可用的Agent资源库。持上下文连贯性，确保智能体的应答准确且相关。任务或支持多任务并行执行。定任务或支持多任务并行执行。任务或支持多任务并行执行。任务管理模块任务管理模块框架设计与实现：任务管理模块子智能体库检索模块上下文召回子智能体库检索模块上下文召回存储记录模块•核心推理模型：提供推理用户请求，进行任务分解的核心计算能力，确保任务管理的高效执行。•子智能体检索模块：在任务拆分阶段：检索当前可用的Agent类型，为任务分解提供基础信息。•上下文召回：记录和检索任务相关的上下文信息，保持任务管理在多轮操作中的一致性和连贯性。•任务拆分提示工程:使用提示工程方法将复杂任务分解为多个子任务，并提供必要的分解逻辑和依据。•存储记录模块:负责记录任务拆分过程中的关键数据，包括任务状态、分解逻辑和依据等，支持后续任务追踪、分析和优化。路由转发分配模块存储记录模块上下文召回核心推理模型调度协同模块路由转发分配模块存储记录模块上下文召回核心推理模型调度协同模块块•核心推理模型：提供推理用户请求，进行任务下发的核心计算能力，确保任务管理的高效执行。为拆分后的子任务匹配合适的Agent实例。•技能库检索模块：在任务下发阶段，根据任务需求，检索技•任务下发提示工程:基于提示工程的方法，结合子智能体检索能，确保任务执行的准确性和高效性。•存储记录模块:负责记录任务拆分过程中的关键数据，包括任化。度与协同工作。多智能体协同-单任务意图以单意图单任务为例展示智能体协同工作流程，通过意图识别大脑调度智能体池中的相关能力模块，完成用户输入的任务指令，并利用短期与长期记忆提升任务执行效率，实现自动化的任务分配与反馈数据流数据流↓↓意图识别读取数据基础个人信息读取数据基础个人信息【2】邮箱地址【3】认证信息【4】。。。个人习惯【1】常用邮箱【2】常用联系人【3】。。。长期记忆工作流节点智能体下发参数，收件人，收件时间，邮件内容执行结果输入参数执行计划执行结果用户需求，对话信息智能体画像、用户画像、会话数据邮箱智能体技能池昨晚8点收到了何嘉发来的offer读取数据识别结果智能体调度体智能体池5G体1、需要用户更新入参2、执行失败信息反馈体调起参数执行中：正在新建邮件。。输入参数是修改查询条件工作流节点智能体下发参数，收件人，收件时间，邮件内容执行结果输入参数执行计划执行结果用户需求，对话信息智能体画像、用户画像、会话数据邮箱智能体技能池昨晚8点收到了何嘉发来的offer读取数据识别结果智能体调度体智能体池5G体1、需要用户更新入参2、执行失败信息反馈体调起参数执行中：正在新建邮件。。输入参数是修改查询条件访问数据池链接意图大脑做多轮对话或推荐账号、密码技能调度1、邮箱智能体：为用户提供电子邮件发送服务。主要功能：提供邮件回复功能（2）发送邮件：提供邮件发送功能（3）ⅆ2、云盘智能体3、5G消息智能体时间：昨晚8点发件人：何嘉技能执行查看邮件 执工作流节点执行APILLMXXX信息【2】【3】。。。工作流用户交互界面 执多智能体协同-多任务意图多任务处理流程，用户请求包含多个操作，系统通过意图识别大脑调度邮件智能体和云盘智能体，分别完成邮件发送与附件查询的任务，实现多步骤任务的协同处理。执行中执行中：正在查找图片。。查看邮件查看邮件用户交互界面意图识别输入需求和附件，入参不足时进行多轮对话输入需求，入参不足时进行多轮对话否等待邮箱智能体发送否否等待邮箱智能体发送否输入参数输入参数输入参数输入参数修改查询条件修改查询条件1、时间范围扩大2、相似收件人查询1、时间范围扩大2、相似收件人查询修改查询条件修改查询条件工作流1：发送邮件工作流2工作流1：发送邮件工作流2：查找图片}发送附件素材发送附件素材是是是是是案例一：某地市不动产登记中心某地级市不动产智能客服：本方案核心为解决不动产行业疑难问题多、信息量庞大等难题，依托AIBox连接不动产领域海量知识，为该行业工作人员、企业及民众的自助咨询提供快速、统一、完整、准确的对话式AI同时将基于用户对话数据回流给模型，实现模型的迭代学习。不断强化，形成标准服务能力，为多渠道多场景的服务复用提供智能知识底座。主要数据源常见问题常见问题产权相关房屋买卖产权相关房屋买卖/租赁/土地管理/使用权…案例二：广东移动营销导购助手链路AI辅助解决方案的实践经验，树立了行业样板。案例三：智能报价助手制造者智能报价客服：核心为解决制造业报价困难、定制化程度高、疑难问题多、信息量庞大等难题，依托AIBox连接制造业领域海量知识，为客户自助咨询提供快速、统一、完整、准确的对话式AI智能咨询问答服务。核心优势报价书格式统一报价书格式统一案例四：智能客服中的复杂意图规划与任务调度天气查询案例五：数字员工系统的多Agent协同控制项目所需意图能力项目所需业务能力…………语音搜索照片语音搜索笔记，并调用智能纠错功能调用语音生成会议纪要功能案例六：基于AI邮箱的办公数字员工实验探索与未来方向预测间的依赖关系和执行顺序。任务和模型。个任务。基于推理模型任务分发+路由转发的机制的改进思路核心思路：对于用户的请求，有一个核心控制进行任务理解，并将其拆解为各个单Agent可执行的子任务，再由核心控制模块2.插件库：用于记录当前已配置的相关可直接调用的插件/技能/3.工作流库：用于记录当前已正确生成的工作流的工作流流动节点、执行顺序以及工作流息，将信息转发给不同的其他agent，并进行调用。信息验证模块是要基于核心控制模块生成的预期输出，监控每一个处于工作流的agent的输出和输出，预期结果的输出，要将记录结果再次返回给核心控制模块，进行ReAct步骤。推理模型任务分发实验验证用户请求输入：“帮我构建一个可以根据当前天气播放适合的音乐的多智响应会分为以下四个阶段：query_weather->find_music->play_musica.query_weather｜agent_1｜根据任务需求，查询天气，agent_1的技能描述为查询天气，因此选择agent_1b.find_music｜agent_3｜根据任务需求，查找音乐，agent_3的技能描述为查找音乐，因此选择agent_3c.play_music｜agent_2｜根据任务需求，播放音乐，agent_2的技能描述为播放音乐，因此选择agent_2{'id':'123457','object':'pletion','created':1733999455,'model':'Qwen2.5-32B-Instruct-GPTQ-Int4','choices':[{'index':0,'message':{'role':'assistant','content':'```json\n[\n{"task":"query_weather","id":0,"dep":[-1],"agent_id":"agent__1