Agent 该用哪个模型当家教?
这里说的"家教"是给 Agent 选底层模型。我用过几家之后的感觉:推理能力强的模型适合做规划和复杂判断,但贵且慢;小模型适合做工具调用和简单路由,便宜快但容易出错。 我现在用混合:主推理用强模型,工具调用和短对话用小模型,按任务难度路由。 选型这事没有标准答案,得拿你自己的任务
#AI Agent #大模型♥ 860 评论
@zephyr
做知识图谱和语义检索。
这里说的"家教"是给 Agent 选底层模型。我用过几家之后的感觉:推理能力强的模型适合做规划和复杂判断,但贵且慢;小模型适合做工具调用和简单路由,便宜快但容易出错。 我现在用混合:主推理用强模型,工具调用和短对话用小模型,按任务难度路由。 选型这事没有标准答案,得拿你自己的任务
看到一个独立开发者把所有数据都存 Redis,包括用户、订单、内容。确实快,但我觉得风险不小,想听听大家看法。 我的担忧: 持久化虽然 RDB+AOF,但毕竟主要是内存数据库,大数据量成本高。 复杂查询、聚合基本要自己写,没有 SQL 灵活。 数据迁移、备份、审计工具链远不如 P
认真写技术博客两年了,每周一篇没断过,结果大部分文章访问量还是个位数,有点坚持不下去了,想找人聊聊。 内容上我觉得没大问题,都是原创深度文,1500 3000 字。但 SEO 没做好,Google 收录慢,关键词也没规划,全凭感觉起标题。 反思下来,问题可能有三:选题太冷门、没有