治理成熟度¶
English | 中文
这是一个面向 Agent 治理的实用成熟度模型。它不是认证或标准。用它定位下一步。
| 级别 | 特征 | 证据 | 典型风险 |
|---|---|---|---|
| 0. 临时 | 每个项目各自构建 Agent；权限宽泛；日志非正式 | 截图、聊天记录 | 无界行动、无审计 |
| 1. 已观测 | 有身份、日志与基础指标；工具被列出 | 日志、指标 | 有可见性但无执行 |
| 2. 已控制 | 默认拒绝能力、边界策略、沙箱 | 策略决定、效果记录 | 控制存在但未测试 |
| 3. 已保障 | 验证契约、可复现测试、发布门禁、审批 | 验证证据、审批记录 | 保障部分或手工 |
| 4. 自适应 | 变更控制、仿真、重新验证、测量治理负载 | 证据链、实验记录 | 复杂性与治理开销 |
如何推进¶
- 0 → 1： 盘点 Agent、工具与数据；加身份与基础追踪。
- 1 → 2： 把策略移出提示词；加能力白名单、沙箱与效果记录。
- 2 → 3： 加验证契约、发布门禁与高风险行动审批。
- 3 → 4： 加仿真、变更控制与重新验证；测量治理是在帮助还是破坏稳定。
不要跳级。有验证但没有身份的系统无法归因结果；有策略但没有证据的系统无法证明有效。
成熟度陷阱¶
更多治理不一定更好。UAD 的临界阈值结果提示，设计糟糕的执行可能破坏稳定。成熟度不是 “更多控制”，而是可执行、成比例、可测量的控制。
自评¶
- 我能列出每个 Agent 及其所有者吗？
- 我能说出每个 Agent 可使用的能力吗？
- 策略在提示词之外执行吗？
- 我能从证据重建重要行动吗？
- 高风险行动有人类审批吗？
- 模型或策略变更后我会重新验证吗？
- 我测量治理成本吗？