跳转到主要内容
返回 Writing
Agent RuntimeTool CallingContext EngineeringRAGWorkflowEvidence-first

Engineering Baseline · v1.1 Visual

Agent 平台机制拆解

从“平台魔法”到可验证的运行时模型

这不是一份“所有 Agent 平台都只有一种实现”的说明书,而是一套用于拆平台、做架构判断和指导工程落地的分析框架。 核心原则只有一个:把机制事实、常见实现、工程抽象与产品推断分开。

Mechanism map

一张图看完整条 Agent 机制链

不是唯一实现 · 是审查视角

Request
→
Definition
→
Runtime
→
Tool / Retrieval
→
State / Evidence
→
Output / Action

真正的系统还会横向贯穿 Auth、Policy、Trace、Eval、Version、Retry 等治理能力;图中只展示理解主链所需的最小关注点。

01

Definition、Runtime、State 分开分析

不要从“Agent 创建得快”推导“底层没有容器”,也不要从“没有专属常驻进程”推导“系统没有状态”。

02

Tool Loop 不等于 ReAct

很多 Tool-using Agent 呈现 Model → Action → Observation 的迭代行为;ReAct 是具体 reasoning-and-acting 策略。

03

模型处理概率语义,程序守住业务不变量

语言理解、抽取、歧义识别适合模型;价格、权限、金额计算、正式写入等硬规则交给确定性系统。

04

Workflow 与 Agent 的关键是控制权分配

逐个决策判断:下一步必须由程序预定义,还是值得让模型在受控 Action Space 中运行时选择。

05

生产难点不在 Loop,而在可信闭环

真正决定能否上线的是 Data、Evidence、State、Tools、Permissions、Evaluation、Observability 与 Recovery。

01

先建立证据纪律

一篇 Agent 技术文章最容易犯的错,是把一种实现写成所有平台的本质。

Evidence discipline

证据等级

Evidence Levels

A直接证据
B强推断
C弱推断
D不作为架构证据
A
直接证据可以作为较高置信事实

源码 · 部署 · 依赖 · 官方架构

B
强推断可以形成强工程推断

API · DSL · Protocol · 服务返回

C
弱推断只能说明可能性

UI · 节点命名 · 产品术语

D
不作为架构证据主要反映模型可见 Context

LLM 自述

不要从单一 UI 现象推断唯一底层实现。
规则: UI 秒生效、节点名称、模型自述,都不能单独证明底层一定使用或没有使用某种 Runtime、容器、进程或框架。
02

拆 Agent,先问三个问题

这不是行业标准定义,而是一套稳定、可操作的架构审查方法。

Architecture lens

Agent 三问框架

Definition / Runtime / State

D

Define the agent

Definition

model
instructions
tools
guardrails
R

Run the agent

Runtime

loop
dispatch
retry
cancel
S

Persist the work

State

session
checkpoint
workspace
business state
先问:它如何定义?谁负责执行?状态保存在哪里?
Agent 创建得很快
  ≠ 执行时绝对没有 Container / Sandbox

没有专属常驻进程
  ≠ Agent System 没有持久 State

“Agent 是数据库一行记录”可以作为 SaaS Agent Studio 的教学类比,但不能作为通用定义。更准确的说法是:配置型 Agent 通常有一份可持久化 Definition,数据库只是其中一种承载方式。

03

Agent Runtime 的核心迭代

把 Tool Calling 与 ReAct 分开,避免最常见的术语混用。

Execution loop

Agent Runtime 闭环

Model → Action → Observation

01

Model

理解 · 推理 · 提议动作

02

Action Request

选择 Tool · 生成参数

03

Runtime Validation

Schema · Policy · Permission

04

Tool / Executor

真实执行 · 产生副作用

05

Observation

结果 · 状态 · 错误信号

↺

Observation 回到下一轮 Model

直到获得 Final Output、触发停止条件、达到 turn limit,或 Runtime 主动终止。

模型提出动作,Runtime 验证并调度,Executor 对外部世界产生副作用。

可以冻结的结论

很多 Tool-using Agent 在行为语义上都可以抽象成“模型提出动作 → 环境执行 → 模型观察结果 → 继续”的迭代闭环。

不能再写的结论

“所有 Agent 都是 ReAct”“所有框架源码核心都是同一个 while”。这些最多是教学简化或代码阅读经验。

Tool Loop ≠ ReAct

ReAct 是 reasoning 与 acting 交错的一类策略;Function Calling 是结构化表达工具调用的一种机制。两者可以共同出现,但不能直接画等号。

04

模型、Runtime 与 Tool 的真实边界

模型不直接拥有外部世界的副作用权;真正的安全边界在 Runtime 与 Executor。

Probabilistic

LLM 更擅长

语义理解 · 实体抽取 · 分类 · 总结 · Query Rewrite · 解释生成 · 部分动作选择

Deterministic

Runtime / Application 必须守住

Schema validation · Permission · Approval · Retry · Timeout · Cancellation · Business invariants · Side effects

生产原则:硬规则由程序保证,Prompt 只做软约束

if (!trustedPriceSource) {
  return NEED_REVIEW
}

// 不要只依赖:
// “请务必不要自己编价格”

Tool 也不一定“永远运行在本地”。Executor 可以是当前进程、远程 API、MCP Server、云端 Sandbox 或其他受控执行环境。

05

Context Engineering:不是塞得越多越好

真正的问题是:这一轮模型应该看到什么、能访问什么,以及哪些内容根本不该进入 Context。

Context policy

Retrieval 决策图

Context / Retrieval / Tool

Query

用户问题 / 任务请求

需要实时事实吗?

最新数据、当前价格、外部系统状态

Tool / API / DB

调用权威外部数据源,而不是让模型补全事实。

NO

需要大规模静态知识吗?

企业文档、产品资料、历史知识、领域材料

YES

Retrieval

Lexical / Vector / Hybrid / Structured retrieval,再按需要 rerank。

NO

Eager Context

小、稳定、高频内容直接进入当前 Context。

CONDITIONAL

Lazy Load

较大但低频的资源只在触发条件满足时加载。

强制检索 ≠ 绝不漏检;仍需要验证 Recall@K。

Eager

小、高频、几乎每轮都需要

Lazy

较大、低频、条件触发

Retrieval

海量静态知识与候选内容

Tool / API

实时、权威、可变业务事实

06

RAG:不要把 Retrieval 等同于向量 Top-K

RAG 的关键不是“用了向量库”,而是能否把正确 Evidence 在正确时机送到生成模型。

Query
  ↓
Retrieval
  ├─ lexical / full-text
  ├─ structured filter / SQL
  ├─ vector / semantic
  └─ hybrid
  ↓
Filter / Rerank (optional)
  ↓
Evidence
  ↓
Generation
Deterministic Retrieval

程序规定必须检索;解决“会不会查”的问题。

Enhanced Retrieval

Query Rewrite、Filter、Hybrid、Rerank 等增强召回与排序。

Agentic Retrieval

模型参与决定何时查、查什么、是否继续查。

必须删除“绝不漏检”。 强制前置 Retrieval 只能保证 retrieval step 被执行,不能保证正确 Evidence 一定进入 Top-K。工程上应分别测 skipped retrieval rate 与 Recall@K / Hit@K / ranking quality。
07

Skill、Tool、MCP 不要混成一个概念

Skill 是平台相关术语;Tool 是能力抽象;MCP 是跨边界的协议化连接方式。

Skill

可复用任务知识 / 能力封装。不同平台定义并不统一,可能包含 instructions、references、scripts、assets。

Tool

应用内部或 Runtime 暴露的可调用能力,通常具有名称、描述、输入契约与执行实现。

MCP

把能力发现与调用标准化到客户端—服务器边界;Tool Registry 并不天然等于 MCP Server。

08

Workflow:从画布到 Stateful Execution

“画布 = JSON DSL = DAG”是常见简单实现,不是全部 Workflow 的定义。

Canvas
  ↓
Workflow / Graph IR
  ↓
Execution Runtime
  ├─ 无环部分 → DAG scheduling
  ├─ 循环 → cyclic graph / state machine
  └─ 人工审批 / 长任务 → checkpoint + resume

Control authority

控制权连续谱

Workflow ↔ Agent

程序控制 · 可预测模型控制 · 更开放
▶

01

Workflow

流程完全预定义

02

Workflow + LLM

模型负责分类 / 路由

03

Workflow + Agent Node

局部开放模型决策

04

Agent + Deterministic Tools

模型选步骤,工具守事实

05

Highly Agentic

模型拥有更多运行时控制权

核心问题:哪些下一步必须由程序决定?哪些值得交给模型?

生产系统往往是混合态

确定性路径由程序控制,真正需要开放式判断的局部再交给模型;典型形态是“确定性骨架 + Agentic 局部决策 + 确定性校验 + 必要时人工审批”。

09

Runtime 生命周期,不再用“常驻 Agent”二分

主动性、长状态和本地工具都不自动意味着 Agent 本身必须永久常驻。

Execution lifecycle

Runtime 生命周期

Request → Worker

01

Request-scoped

一次请求

→
02

Run-scoped

一次任务

→
03

Session-scoped

一个会话

→
04

Workspace / Task

一个工作区

→
05

Durable / Resumable

可暂停恢复

→
06

Daemon / Worker

长期监听 / 调度

主动执行 ≠ Agent 必须常驻。一个产品也可以同时包含多种生命周期。
Scheduler / Webhook / Queue
        ↓
Create or Resume Run
        ↓
Load State
        ↓
Execute
        ↓
Persist State
        ↓
Exit

是否需要长生命周期 Runtime,取决于是否需要保留 live terminal、browser session、watcher、长连接或难以序列化的运行时对象。

10

具体产品:只做证据分级,不做想当然的白盒断言

UI 观察可以用于架构推断,但不能冒充源码或部署级事实。

Gray-box inference

XOS / 其他平台应该怎样写

如果只能观察到独立工作流入口、相似节点词汇、Network API 或 DSL 特征,可以写“基于当前 B/C 级证据,高概率推断存在某种集成关系”,但不能直接写成内部架构已经被证明。

Anti-pattern

不要问 LLM 证明 Runtime

让 Agent 回答“我运行在哪”只能说明它看到了什么 Context;除非系统显式暴露 host / container / deployment metadata,否则不能当架构证据。

11

500 行祛魅:应该证明什么

保留这个实验,但收紧它能支持的结论。

它可以证明

最小 Model–Tool–Observation 闭环并不神秘;一个教学级 Runtime 可以很小,并能真实演示 Tool Calling。

它不能证明

生产 Agent Platform 的核心只有 500 行,也不能用一次复杂数学题证明“无 Tool 时模型大概率算错”。

更好的实验:用实时系统时间、临时文件、真实业务价格等模型无法天然知道的事实验证 Tool 必要性;或者用成批 case 比较 Tool Enabled / Disabled 的统计准确率。
12

企业落地:不要为了 Agent 而 Agent

工程优先级应该由业务控制流和真实 badcase 驱动,而不是由 Agent 概念驱动。

Production Rule

Deterministic Skeleton + Probabilistic Semantic Layer

适合 LLM

客户语言理解 · 实体抽取 · 模糊语义 · 歧义识别 · 候选解释 · 自然语言生成

适合确定性系统

ID/SKU Truth · Price Truth · 金额计算 · 权限 · 审批 · 写操作 · Evidence · Audit

先 Workflow

业务路径已经明确时,先使用清楚、可测、可审计的确定性流程。

再看 Badcase

只有真实 case 证明需要动态工具选择、多轮补查或复杂恢复,再增加 Agent Loop。

最后做平台化

只有多个业务真正复用 Runtime、Tool、State、Policy 后,才值得抽象通用 Agent Platform。

13

一页冻结版

这五条作为 Agent Platform Mechanism Review v1.0 的 Engineering Baseline。

1

Definition、Runtime、State 分开分析

不要从“Agent 创建得快”推导“底层没有容器”,也不要从“没有专属常驻进程”推导“系统没有状态”。

2

Tool Loop 不等于 ReAct

很多 Tool-using Agent 呈现 Model → Action → Observation 的迭代行为;ReAct 是具体 reasoning-and-acting 策略。

3

模型处理概率语义,程序守住业务不变量

语言理解、抽取、歧义识别适合模型;价格、权限、金额计算、正式写入等硬规则交给确定性系统。

4

Workflow 与 Agent 的关键是控制权分配

逐个决策判断:下一步必须由程序预定义,还是值得让模型在受控 Action Space 中运行时选择。

5

生产难点不在 Loop,而在可信闭环

真正决定能否上线的是 Data、Evidence、State、Tools、Permissions、Evaluation、Observability 与 Recovery。

Freeze status

READY TO FREEZE — YES

冻结的是通用机制与工程原则,不是对某个具体产品内部实现的永久断言。只有出现新的直接证据、上游框架发生重大变化,或真实业务 badcase 推翻设计假设时,才需要解冻对应部分。