Engineering Baseline · v1.1 Visual
Agent 平台机制拆解
从“平台魔法”到可验证的运行时模型
这不是一份“所有 Agent 平台都只有一种实现”的说明书,而是一套用于拆平台、做架构判断和指导工程落地的分析框架。 核心原则只有一个:把机制事实、常见实现、工程抽象与产品推断分开。
Mechanism map
一张图看完整条 Agent 机制链
不是唯一实现 · 是审查视角
真正的系统还会横向贯穿 Auth、Policy、Trace、Eval、Version、Retry 等治理能力;图中只展示理解主链所需的最小关注点。
01
Definition、Runtime、State 分开分析
不要从“Agent 创建得快”推导“底层没有容器”,也不要从“没有专属常驻进程”推导“系统没有状态”。
02
Tool Loop 不等于 ReAct
很多 Tool-using Agent 呈现 Model → Action → Observation 的迭代行为;ReAct 是具体 reasoning-and-acting 策略。
03
模型处理概率语义,程序守住业务不变量
语言理解、抽取、歧义识别适合模型;价格、权限、金额计算、正式写入等硬规则交给确定性系统。
04
Workflow 与 Agent 的关键是控制权分配
逐个决策判断:下一步必须由程序预定义,还是值得让模型在受控 Action Space 中运行时选择。
05
生产难点不在 Loop,而在可信闭环
真正决定能否上线的是 Data、Evidence、State、Tools、Permissions、Evaluation、Observability 与 Recovery。
先建立证据纪律
一篇 Agent 技术文章最容易犯的错,是把一种实现写成所有平台的本质。
Evidence discipline
证据等级
Evidence Levels
源码 · 部署 · 依赖 · 官方架构
API · DSL · Protocol · 服务返回
UI · 节点命名 · 产品术语
LLM 自述
拆 Agent,先问三个问题
这不是行业标准定义,而是一套稳定、可操作的架构审查方法。
Architecture lens
Agent 三问框架
Definition / Runtime / State
Define the agent
Definition
Run the agent
Runtime
Persist the work
State
Agent 创建得很快
≠ 执行时绝对没有 Container / Sandbox
没有专属常驻进程
≠ Agent System 没有持久 State“Agent 是数据库一行记录”可以作为 SaaS Agent Studio 的教学类比,但不能作为通用定义。更准确的说法是:配置型 Agent 通常有一份可持久化 Definition,数据库只是其中一种承载方式。
Agent Runtime 的核心迭代
把 Tool Calling 与 ReAct 分开,避免最常见的术语混用。
Execution loop
Agent Runtime 闭环
Model → Action → Observation
Model
理解 · 推理 · 提议动作
Action Request
选择 Tool · 生成参数
Runtime Validation
Schema · Policy · Permission
Tool / Executor
真实执行 · 产生副作用
Observation
结果 · 状态 · 错误信号
Observation 回到下一轮 Model
直到获得 Final Output、触发停止条件、达到 turn limit,或 Runtime 主动终止。
可以冻结的结论
很多 Tool-using Agent 在行为语义上都可以抽象成“模型提出动作 → 环境执行 → 模型观察结果 → 继续”的迭代闭环。
不能再写的结论
“所有 Agent 都是 ReAct”“所有框架源码核心都是同一个 while”。这些最多是教学简化或代码阅读经验。
Tool Loop ≠ ReAct
ReAct 是 reasoning 与 acting 交错的一类策略;Function Calling 是结构化表达工具调用的一种机制。两者可以共同出现,但不能直接画等号。
模型、Runtime 与 Tool 的真实边界
模型不直接拥有外部世界的副作用权;真正的安全边界在 Runtime 与 Executor。
Probabilistic
LLM 更擅长
语义理解 · 实体抽取 · 分类 · 总结 · Query Rewrite · 解释生成 · 部分动作选择
Deterministic
Runtime / Application 必须守住
Schema validation · Permission · Approval · Retry · Timeout · Cancellation · Business invariants · Side effects
生产原则:硬规则由程序保证,Prompt 只做软约束
if (!trustedPriceSource) {
return NEED_REVIEW
}
// 不要只依赖:
// “请务必不要自己编价格”Tool 也不一定“永远运行在本地”。Executor 可以是当前进程、远程 API、MCP Server、云端 Sandbox 或其他受控执行环境。
Context Engineering:不是塞得越多越好
真正的问题是:这一轮模型应该看到什么、能访问什么,以及哪些内容根本不该进入 Context。
Context policy
Retrieval 决策图
Context / Retrieval / Tool
Query
用户问题 / 任务请求
需要实时事实吗?
最新数据、当前价格、外部系统状态
Tool / API / DB
调用权威外部数据源,而不是让模型补全事实。
需要大规模静态知识吗?
企业文档、产品资料、历史知识、领域材料
Retrieval
Lexical / Vector / Hybrid / Structured retrieval,再按需要 rerank。
Eager Context
小、稳定、高频内容直接进入当前 Context。
Lazy Load
较大但低频的资源只在触发条件满足时加载。
Eager
小、高频、几乎每轮都需要
Lazy
较大、低频、条件触发
Retrieval
海量静态知识与候选内容
Tool / API
实时、权威、可变业务事实
RAG:不要把 Retrieval 等同于向量 Top-K
RAG 的关键不是“用了向量库”,而是能否把正确 Evidence 在正确时机送到生成模型。
Query
↓
Retrieval
├─ lexical / full-text
├─ structured filter / SQL
├─ vector / semantic
└─ hybrid
↓
Filter / Rerank (optional)
↓
Evidence
↓
Generation程序规定必须检索;解决“会不会查”的问题。
Query Rewrite、Filter、Hybrid、Rerank 等增强召回与排序。
模型参与决定何时查、查什么、是否继续查。
Skill、Tool、MCP 不要混成一个概念
Skill 是平台相关术语;Tool 是能力抽象;MCP 是跨边界的协议化连接方式。
Skill
可复用任务知识 / 能力封装。不同平台定义并不统一,可能包含 instructions、references、scripts、assets。
Tool
应用内部或 Runtime 暴露的可调用能力,通常具有名称、描述、输入契约与执行实现。
MCP
把能力发现与调用标准化到客户端—服务器边界;Tool Registry 并不天然等于 MCP Server。
Workflow:从画布到 Stateful Execution
“画布 = JSON DSL = DAG”是常见简单实现,不是全部 Workflow 的定义。
Canvas
↓
Workflow / Graph IR
↓
Execution Runtime
├─ 无环部分 → DAG scheduling
├─ 循环 → cyclic graph / state machine
└─ 人工审批 / 长任务 → checkpoint + resumeControl authority
控制权连续谱
Workflow ↔ Agent
01
Workflow
流程完全预定义
02
Workflow + LLM
模型负责分类 / 路由
03
Workflow + Agent Node
局部开放模型决策
04
Agent + Deterministic Tools
模型选步骤,工具守事实
05
Highly Agentic
模型拥有更多运行时控制权
生产系统往往是混合态
确定性路径由程序控制,真正需要开放式判断的局部再交给模型;典型形态是“确定性骨架 + Agentic 局部决策 + 确定性校验 + 必要时人工审批”。
Runtime 生命周期,不再用“常驻 Agent”二分
主动性、长状态和本地工具都不自动意味着 Agent 本身必须永久常驻。
Execution lifecycle
Runtime 生命周期
Request → Worker
Request-scoped
一次请求
Run-scoped
一次任务
Session-scoped
一个会话
Workspace / Task
一个工作区
Durable / Resumable
可暂停恢复
Daemon / Worker
长期监听 / 调度
Scheduler / Webhook / Queue
↓
Create or Resume Run
↓
Load State
↓
Execute
↓
Persist State
↓
Exit是否需要长生命周期 Runtime,取决于是否需要保留 live terminal、browser session、watcher、长连接或难以序列化的运行时对象。
具体产品:只做证据分级,不做想当然的白盒断言
UI 观察可以用于架构推断,但不能冒充源码或部署级事实。
Gray-box inference
XOS / 其他平台应该怎样写
如果只能观察到独立工作流入口、相似节点词汇、Network API 或 DSL 特征,可以写“基于当前 B/C 级证据,高概率推断存在某种集成关系”,但不能直接写成内部架构已经被证明。
Anti-pattern
不要问 LLM 证明 Runtime
让 Agent 回答“我运行在哪”只能说明它看到了什么 Context;除非系统显式暴露 host / container / deployment metadata,否则不能当架构证据。
500 行祛魅:应该证明什么
保留这个实验,但收紧它能支持的结论。
它可以证明
最小 Model–Tool–Observation 闭环并不神秘;一个教学级 Runtime 可以很小,并能真实演示 Tool Calling。
它不能证明
生产 Agent Platform 的核心只有 500 行,也不能用一次复杂数学题证明“无 Tool 时模型大概率算错”。
企业落地:不要为了 Agent 而 Agent
工程优先级应该由业务控制流和真实 badcase 驱动,而不是由 Agent 概念驱动。
Production Rule
Deterministic Skeleton + Probabilistic Semantic Layer
适合 LLM
客户语言理解 · 实体抽取 · 模糊语义 · 歧义识别 · 候选解释 · 自然语言生成
适合确定性系统
ID/SKU Truth · Price Truth · 金额计算 · 权限 · 审批 · 写操作 · Evidence · Audit
先 Workflow
业务路径已经明确时,先使用清楚、可测、可审计的确定性流程。
再看 Badcase
只有真实 case 证明需要动态工具选择、多轮补查或复杂恢复,再增加 Agent Loop。
最后做平台化
只有多个业务真正复用 Runtime、Tool、State、Policy 后,才值得抽象通用 Agent Platform。
一页冻结版
这五条作为 Agent Platform Mechanism Review v1.0 的 Engineering Baseline。
Definition、Runtime、State 分开分析
不要从“Agent 创建得快”推导“底层没有容器”,也不要从“没有专属常驻进程”推导“系统没有状态”。
Tool Loop 不等于 ReAct
很多 Tool-using Agent 呈现 Model → Action → Observation 的迭代行为;ReAct 是具体 reasoning-and-acting 策略。
模型处理概率语义,程序守住业务不变量
语言理解、抽取、歧义识别适合模型;价格、权限、金额计算、正式写入等硬规则交给确定性系统。
Workflow 与 Agent 的关键是控制权分配
逐个决策判断:下一步必须由程序预定义,还是值得让模型在受控 Action Space 中运行时选择。
生产难点不在 Loop,而在可信闭环
真正决定能否上线的是 Data、Evidence、State、Tools、Permissions、Evaluation、Observability 与 Recovery。
Freeze status
READY TO FREEZE — YES
冻结的是通用机制与工程原则,不是对某个具体产品内部实现的永久断言。只有出现新的直接证据、上游框架发生重大变化,或真实业务 badcase 推翻设计假设时,才需要解冻对应部分。