分级自治与人工确认

Agent 开发进阶考 25 题讲解 3 段

分级按不可逆性，不按重要性：读操作全自动，可撤销的写操作自动执行 + 撤销窗口，不可逆的高危操作（付款、发邮件、删库）必须人工确认。确认要设计得不流于形式 —— 确认疲劳会让人闭眼点通过；影子模式与审计记录是上线前后的两道保险。

也叫：分级自治 · 人工确认 · human-in-the-loop · 确认疲劳 · 可撤销窗口 · 影子模式

先学护栏与可靠性
再学人机协同与转人工

分级自治：按不可逆性分级，不是按重要性出自 T3-10

分级的标准很多人会写成"重要程度"，那是主观的、无法落到代码里的。正确的分级维度是不可逆性和影响半径：

级别 动作特征 例子 自治策略
L0 只读 无副作用，可无限重试 查订单、检索文档 全自动
L1 可逆写 有副作用但可撤销，影响自己 存草稿、建标签、改内部状态 全自动 + 审计留痕
L2 不可逆写 撤销困难或有成本 删数据、改生产配置、写外部系统 人工确认或严格前置校验 + 可回滚设计
L3 对外 / 资金 影响他人、涉及钱，撤销代价极高 发邮件给客户、退款、下单、发布 强制人工确认 + 双重限额 + 全量审计

批量操作要单独一档：单笔 L1 的动作，批量 100 次可能等价于 L3。所以"批量阈值"必须是一个独立护栏——超过 N 条就升级审批，这是开篇故障最直接的补丁。

以上节选自T3-10 护栏、分级自治与 Harness 治理——能力的另一半不在模型里，读全文能看到前后语境。

延伸阅读

T3-10 · 背景
人工确认怎么设计才不流于形式
护栏、分级自治与 Harness 治理——能力的另一半不在模型里
T3-10 · 旁支
进阶技术三段式：人工确认（Human-in-the-Loop）
护栏、分级自治与 Harness 治理——能力的另一半不在模型里

考这个知识点的题1 道

Q3-19
什么是分级自治？高危操作（写库 / 发邮件 / 付款）怎么设计人工确认？
分级自治中高频

会连带问到24 道