本章要解决的问题
本章围绕“第 6 章:安全执行与工具治理”展开,重点回答它在 Agent 系统中解决什么问题、什么时候应该使用,以及使用后会引入哪些新的边界条件。
概念拆解
先把本章概念放回完整链路:用户请求进入系统后,模型负责理解和决策,工具负责执行,状态负责传递上下文,评测负责判断结果,安全机制负责限制权限。阅读时要明确本章改变的是哪一环。
典型工作流程
- 定义任务目标和可接受结果。
- 确定输入、状态和需要调用的工具。
- 让模型生成计划或动作。
- 执行动作并记录结果。
- 根据结果继续、重试、人工确认或结束。
工程实现时要看什么
- 状态是否有明确的数据结构,而不是依赖隐含上下文。
- 工具是否有参数校验、权限边界和失败返回。
- 每一步是否可追踪、可评测、可重放。
- 出现错误时是否能安全停止并恢复。
实践练习
用一个自己的小任务复现本章方法:先做最小可运行版本,再加入日志、评测和异常处理,最后记录它与普通 LLM 调用相比增加了哪些复杂度。
本章检查清单
- 我能用一句话解释本章解决的问题。
- 我能画出输入、模型、工具和状态之间的关系。
- 我知道它的适用边界和失败模式。
- 我能设计一个最小实验验证它是否有效。