讨论前提
以下Agent 工程案例来自社区种子数据,没有采集真实用户故事;案例只模拟多人并行实现同一产品目标中的人工审批点决策。
这次讨论把越界修改视作一等失败路径,而不是等人工审批点完成后再补充的异常说明。
工程动作
执行时先列出不可改动区域,再让人工审批点只处理一个失败样本;权限拒绝日志未出现前,不追加工具权限。
验收清单:
- 用工具调用审计固定“多人并行实现同一产品目标”的当前基线。
- 请独立评审者复核权限拒绝日志与任务边界。
- 若模型总是改到无关文件仍出现,停止扩大人工审批点的改动范围。
失败时怎么办
验证记录:用权限拒绝日志说明边界,用工具调用审计说明结果,并让独立评审者记录仍未覆盖的条件。
取舍点在“为每个任务拆分多个并行 Agent”:它可能缩短人工审批点的首轮时间,也可能放大模型总是改到无关文件带来的评审与恢复成本。
完成定义需要同时包含正向结果和失败结果:前者用工具调用审计说明,后者用权限拒绝日志定位越界修改。缺少任一侧,都不能宣称人工审批点已经稳定。
回退方案:如果独立评审者不能从权限拒绝日志解释结果,就回到最小样本重建失败条件,保留本轮失败样本。
你的门槛
你会把工具调用审计还是权限拒绝日志设为人工审批点的首要门槛?当“多人并行实现同一产品目标”再次出现模型总是改到无关文件时,哪一步应该立即停止?