用 Agent 做客服机器人,三个月复盘
给公司产品接了个 Agent 客服,跑了三个月,复盘下经验教训。 好的:常见问题解决率六成多,人工工单降了不少。坏的:长尾问题幻觉严重,几次瞎承诺给客户造成了麻烦,最后只能强制加"超出知识库就转人工"。 最大的教训是边界要划清,宁可多转人工也别让它瞎编。还有要把对话日志全留下,方
这里聚合 CodeNodeX AI 社区中与 AI Agent 相关的技术文章和讨论,覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。
如果你正在研究 AI Agent,建议先阅读高质量长文,再参与帖子讨论,形成从理解到实践的完整路径。
给公司产品接了个 Agent 客服,跑了三个月,复盘下经验教训。 好的:常见问题解决率六成多,人工工单降了不少。坏的:长尾问题幻觉严重,几次瞎承诺给客户造成了麻烦,最后只能强制加"超出知识库就转人工"。 最大的教训是边界要划清,宁可多转人工也别让它瞎编。还有要把对话日志全留下,方
这里说的"家教"是给 Agent 选底层模型。我用过几家之后的感觉:推理能力强的模型适合做规划和复杂判断,但贵且慢;小模型适合做工具调用和简单路由,便宜快但容易出错。 我现在用混合:主推理用强模型,工具调用和短对话用小模型,按任务难度路由。 选型这事没有标准答案,得拿你自己的任务
给 Agent 配了一堆工具,但有几个是高危的(删数据、发邮件、改权限)。担心它哪天误判调用,想加层防护。 现在的做法是给工具打"危险等级"标签,高危工具调用前强制弹人工确认。但 Agent 有时会"绕路",比如用一堆看似无害的工具组合达到危险效果。 有没有更稳的拦截思路?大家都
Agent 调用工具总会失败,网络抖、参数错、服务挂。分享一下我用的重试模式,比较稳。 核心是:区分"可重试错误"(超时、限流)和"不可重试错误"(参数校验失败、权限拒绝),前者指数退避重试,后者直接把错误回喂给模型让它调整。 把错误回喂给模型这一步很关键,比无脑重试聪明多了。大
针对任务记忆在“让生成代码符合现有工程约束”里的落地问题,本文用失败注入演练检查越界修改,并邀请社区比较不同取舍。
用合成案例讨论上下文交接:当“从失败日志定位根因”碰到模型总是改到无关文件,如何留下任务状态迁移记录并保留人工决策点。
这篇种子讨论把上下文交接放进“面对需求变化时控制返工”,梳理越界修改的触发条件、移动端与桌面端都能完成目标以及可执行的恢复动作。
这篇种子讨论把工具权限放进“让生成代码符合现有工程约束”,梳理越界修改的触发条件、迁移与回退都经过预演以及可执行的恢复动作。
从“将人工流程变成可验证脚本”出发,给任务记忆建立证据、评审和回退边界,避免越界修改被表面完成度掩盖。
把多人并行实现同一产品目标作为讨论入口,说明人工审批点为什么需要权限拒绝日志,以及模型总是改到无关文件出现后怎样缩小影响范围。
围绕Agent 工程的多 Agent 分工,拆解“将人工流程变成可验证脚本”里的模型总是改到无关文件,比较明确数据所有权与给失败路径留恢复入口的验证价值。
以“面对需求变化时控制返工”为合成场景,讨论Agent 工程中的MCP 契约,重点检查模型总是改到无关文件,并用权限拒绝日志界定可验收结果。