Logos:基于跨进程消息总线的智能体运行框架
原文链接:https://arxiv.org/html/2608.28553v1
摘要
现代智能体系统在运行时组装能力组件,这种动态组合在时空可组合性演算中得到完整形式化描述:能力是携带可追踪逆操作的组件,智能体以插件形式完成组装。但现有插件实现全部运行在单一进程内,共享同一个上下文;一旦进程故障,所有组件全部挂起,进程退出会终止全部会话。
本文论证:该演算的建模逻辑本身并不强制智能体绑定在单个进程;大语言模型推理具备无状态特性,全部跨步状态保存在模型外部;正确性不变量仅定义在状态空间之上。基于以上观察推导出4条引理,前提完全来自时空可组合演算假设与大模型推理无状态特性。依托引理本文实现Logos,一套类ROS架构的跨进程智能体运行框架:每一个插件独立为操作系统进程,系统唯一共享状态是仅追加式转录日志(append‑only transcript)。
实验在工具调用周期的4个关键节点注入进程杀死故障,80组会话全部可以无重复副作用恢复执行。与单进程参考实现做故障对比:单进程中一次故障会中断全部共存会话;而对等进程架构下故障仅影响发生故障的单个节点。
关键词
大语言模型智能体、智能体基础设施、分布式系统、热插拔、容错、可组合性
目录
- 引言
- 相关工作
- 预备知识
- 充分条件
- 4.1 从单进程到组件分配
- 4.2 两条建模事实
- 4.3 四条核心引理
- 4.4 主定理
- Logos系统实现
- 5.1 消息总线
- 5.2 路由表
- 5.3 转录日志Transcript
- 5.4 事件流Event Stream
- 5.5 节点Node
- 5.6 组装、移除与故障恢复
- 5.7 部署边界
- 实验
- 6.1 测试环境
- 6.2 时间尺度分离特性
- 6.3 路由进程与工具进程故障注入
- 6.4 端到端会话故障恢复
- 6.5 插件组装、工具动态接入与冲突仲裁
- 6.6 多并发会话
- 6.7 和单进程参考实现对比
- 6.8 系统验证
- 结论
- 参考文献
- 附录A 证明
- A.1 前置设定
- A.2 引理1证明
- A.3 引理2证明
- A.4 引理3证明
- A.5 引理4证明
- A.6 实现检查清单
- A.7 三项工程约束
- A.8 归纳证明
1 引言
时空可组合性演算提供了智能体组件动态组装、逆向回滚的形式化证明。在该演算中:
- 能力((\mathcal{C})apability):携带可追踪逆操作的组件;
- 组装:执行组件效应,记录逆操作;
- 移除:回放记录的逆操作撤销组件效应;
- 智能体:由多个插件组件组装而成;
- 演算可以证明可逆性保证。
但演算的参考实现全部运行于单进程:所有插件、会话、操作记录全部在同一个进程内部。这带来4个工程痛点:
- 单点故障:进程崩溃、内存耗尽、事件循环阻塞,会同时终止该进程内全部组件与全部会话;
- 级联卸载:一个服务退出会卸载其全部依赖组件,全部会话被打断,重启需要完整重建整个软件栈;
- 插件升级代价高:替换任意插件,需要重启进程,导致所有共存会话全部暂停;
- 语言绑定限制:插件只能使用宿主进程编程语言;跨语言复用需要额外翻译层与远程调用。
本文两条核心建模前提
- LLM前向推理是无状态纯映射函数;全部会话跨步骤状态保存在模型外部;输入可以在任意进程构造;
- 正确性不变量仅仅定义在状态空间,和运行所在进程无关。
基于前提推导出4条引理,不需要新增额外数学假设,全部来自演算原有公理+大模型无状态推理,证明时空可组合性可以跨进程成立。
借鉴ROS(机器人操作系统)对等节点+消息总线架构,实现Logos分布式插件智能体框架:
- 插件 = 独立操作系统进程;
- 唯一共享持久数据:仅追加转录日志Transcript,不属于任何进程;
- Router路由器仅维护路由注册表,不执行业务逻辑;
- 冷切换((\mathcal{C})old‑switching)恢复:进程崩溃后,新进程读取转录日志重建会话上下文继续运行,不会重复执行已经记录完成的动作。
Logos支持多语言混合部署:Go实现路由器;Python、Node.js编写工具与智能体执行器,全部作为对等节点运行在同一总线。
主要贡献
- 定理1:给出时空可组合演算的可逆性保证可以跨进程成立的充分条件,配套4条引理;
- Logos最小化实现:跨进程智能体运行框架,插件即独立进程,仅追加转录日志作为唯一共享状态;
- 完整对抗性评测:路由器故障恢复、进程被杀后冷切换恢复、任务运行期间动态接入新工具、多语言混合运行等场景完整实验评估。
2 相关工作
单进程框架
AutoGen基于对话编程组织能力组件;LangGraph基于状态图编排;两者全部将能力作为进程内库对象。所有组件共享同一个宿主进程。
现有分布式智能体架构对比
| 框架 | 移出进程的部分 | 仍然保留在进程内的部分 |
|---|---|---|
| M(\mathcal{C})P及其衍生 | 工具服务与工具调用 | 组件组装逻辑、会话状态 |
| Temporal及其同类 | 执行逻辑 | 组装逻辑、工作流定义 |
| AutoGen / LangGraph | 无 | 全部能力,进程内对象 |
| Logos | 组装与组件装配逻辑;状态存入转录日志 | 仅路由表 |
M(\mathcal{C})P只把工具服务放到外部进程,但组装逻辑、会话状态仍然在宿主进程。
Temporal把执行移出进程,但组装逻辑固化在工作流定义。
Logos把组装、装配逻辑全部迁移到消息总线上,通过对等节点之间注册、广播事件完成。
架构思想继承ROS的对等进程、基于名字路由;本文将单进程版本的时空可组合演算扩展到多进程对等节点。
3 预备知识
符号约定:上下文Γ \GammaΓ;效应上下文∂ Γ \partial\Gamma∂Γ包含状态γ \gammaγ、逆操作复合φ \varphiφ;
track组装,recover回滚;变换幺半群M ( f ) \mathfrak{M}(f)M(f);观测等价≃ \simeq≃;宏观状态投影Π \PiΠ;组合运算符从右向左读取。
定义3.1(组件(\mathcal{C})omponent)
组件是作用于上下文的效应函数f ff:输入状态γ \gamma