Agent 的 token 成本怎么控?
Agent 跑起来真的烧钱,一个复杂任务几十轮对话,每轮都把全部上下文重发一遍,账单蹭蹭涨。我已经因为这事被财务找过两次了。 试了几招:用便宜模型做路由和简单工具调用,贵模型只在关键推理用;上下文定期摘要压缩;缓存工具返回结果,不重复查。 降了一半成本,但还想再压。大家都有啥省钱
AI Agent、MCP、工具调用、多 Agent 协作
本专题收录 Agent 工程 方向的文章和社区讨论,重点关注真实工程场景、工具选择、实践路径和风险边界。
页面会持续更新,适合作为学习路线、选型参考和技术复盘入口。
Agent 跑起来真的烧钱,一个复杂任务几十轮对话,每轮都把全部上下文重发一遍,账单蹭蹭涨。我已经因为这事被财务找过两次了。 试了几招:用便宜模型做路由和简单工具调用,贵模型只在关键推理用;上下文定期摘要压缩;缓存工具返回结果,不重复查。 降了一半成本,但还想再压。大家都有啥省钱
搭了个多 Agent 系统,规划 Agent 出方案,执行 Agent 落地,审查 Agent 把关。问题出在上下文传递:把全部上下文原样传给每个 Agent 又贵又乱,摘要传又丢细节。 试过用一个"共享黑板"(KV 存储),每个 Agent 读写自己关心的部分: 效果中等,关键
看到不少人为了让 Agent"啥都能干",直接给它一个 shell 工具,让它想跑啥命令跑啥命令。这非常危险,等于把电脑钥匙交出去了。 模型一旦被 prompt 注入(比如读到一个恶意网页或文件里的指令),它就可能执行任意命令,删库、外泄数据、装后门都不在话下。 我的原则:she
看了无数 Agent demo 视频,全自动订机票、全自动写代码、全自动分析数据,看着跟魔法似的。自己一上手做产品,发现 demo 和生产之间隔着银河系。 demo 里任务边界清晰、数据干净、用户配合;生产里任务模糊、数据脏、用户瞎点。Agent 一遇到开放场景就原形毕露。 我现
做了个小工具:把内部文档向量化存好,然后用一个 MCP server 暴露"检索文档"这个工具给 Agent。Agent 回答问题时会自动调这个工具查文档,效果比纯 RAG 好。 原因是 Agent 能判断"要不要查""查什么""查到的够不够",而不是无脑检索拼接。相当于 RAG
现在有些 Agent 能写完代码自动跑测试、看报错、再改,循环到通过为止。听着很美,我用过几次,心里五味杂陈。 好的方面:简单任务真的能闭环。坏的方面:它经常"通过测试但逻辑错了"——因为测试也是它自己写的,自己出题自己改卷。 我现在要求关键逻辑的测试必须人写或者人审,不能让 A
经常有人把 MCP 和 Function calling 放在一起对比,我觉得这是俩层面的东西,不是替代关系。 Function calling 是模型层的能力:模型怎么知道有哪些工具、怎么生成调用参数。MCP 是协议层:工具怎么被发现、怎么被注册、怎么和客户端通信。 打个比方,
给公司产品接了个 Agent 客服,跑了三个月,复盘下经验教训。 好的:常见问题解决率六成多,人工工单降了不少。坏的:长尾问题幻觉严重,几次瞎承诺给客户造成了麻烦,最后只能强制加"超出知识库就转人工"。 最大的教训是边界要划清,宁可多转人工也别让它瞎编。还有要把对话日志全留下,方
这里说的"家教"是给 Agent 选底层模型。我用过几家之后的感觉:推理能力强的模型适合做规划和复杂判断,但贵且慢;小模型适合做工具调用和简单路由,便宜快但容易出错。 我现在用混合:主推理用强模型,工具调用和短对话用小模型,按任务难度路由。 选型这事没有标准答案,得拿你自己的任务
给 Agent 配了一堆工具,但有几个是高危的(删数据、发邮件、改权限)。担心它哪天误判调用,想加层防护。 现在的做法是给工具打"危险等级"标签,高危工具调用前强制弹人工确认。但 Agent 有时会"绕路",比如用一堆看似无害的工具组合达到危险效果。 有没有更稳的拦截思路?大家都
Agent 调用工具总会失败,网络抖、参数错、服务挂。分享一下我用的重试模式,比较稳。 核心是:区分"可重试错误"(超时、限流)和"不可重试错误"(参数校验失败、权限拒绝),前者指数退避重试,后者直接把错误回喂给模型让它调整。 把错误回喂给模型这一步很关键,比无脑重试聪明多了。大
用合成案例讨论上下文交接:当“从失败日志定位根因”碰到模型总是改到无关文件,如何留下任务状态迁移记录并保留人工决策点。