安全¶
English | 中文
Agent 安全横跨模型、上下文、工具、身份、网络、供应链与人类审批路径。安全的模型不等于 安全的 Agent。
主要威胁类别¶
| 威胁 | 控制 |
|---|---|
| 提示注入 | 把检索内容当数据；策略放在提示词之外 |
| 工具滥用 | 能力白名单、最小权限、沙箱 |
| 凭据泄露 | 网关注入、受限令牌、脱敏 |
| 数据外泄 | 出口白名单、DLP 策略、网关 |
| 委托失控 | 范围衰减、限制、撤销 |
| 供应链入侵 | 签名、溯源、SBOM、白名单 |
| Agent 蠕虫 | 分段、身份、签名指令、监控 |
| 钱包拒绝服务 | 预算、速率限制、步数限制 |
| 物理不安全行动 | 任务边界、联锁、仿真、接管 |
身份是第一控制¶
Agent 应有可验证身份与受限权限范围。共享 API key 使归因与撤销都很弱。工作负载身份、 持有证明令牌，以及权限绑定注册表是基础。
执行，而不是描述¶
系统提示里的规则是上下文。由策略决定点、沙箱或网关执行的规则才是控制。安全架构应把 执行放在行动跨越的边界。
Agent 蠕虫¶
Agent 蠕虫会跨 Agent 传播恶意指令或行动。防御不只是更好的提示过滤，而是分段、身份、 签名指令、受限委托和快速隔离。威胁表见安全模型。
清单¶
- [ ] 身份基于工作负载。
- [ ] 能力默认拒绝。
- [ ] 出口受治理。
- [ ] 密钥不在提示或日志中。
- [ ] 委托会衰减且可撤销。
- [ ] 产物已签名。
- [ ] 有预算与步数限制。
- [ ] 人类接管有效。
- [ ] 证据支持事件响应。