OpenTelemetry 如何帮助你观察 AI 应用？
围绕 DevOps、AI 的技术趋势、工程实践和独立开发视角。
#DevOps #AI♥ 300 评论
#DevOps
专题介绍
这里聚合 CodeNodeX AI 社区中与 DevOps 相关的技术文章和讨论，覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。
如果你正在研究 DevOps，建议先阅读高质量长文，再参与帖子讨论，形成从理解到实践的完整路径。
Agent 故障恢复设计：重试、降级和人工接管的执行顺序
Agent 出错后不应机械重试。本文给出按错误可重试性、幂等性、风险等级和证据完整度决定恢复路径的方法，并说明何时进入降级或人工接管。
#大模型 #AI Agent #DevOps♥ 00 评论
Agent 人工审批门设计：从确认弹窗到可审计的授权契约
人工确认不是简单的“继续吗”按钮。本文说明 Agent 写操作审批应包含的动作摘要、作用范围、失效时间、权限重校验和审计字段，避免确认被错误复用。
#AI Agent #MCP #DevOps♥ 00 评论
长运行工具调用：Operation、Poll 与 Cancel 的终态协议
初始请求超时后，工具可能仍在服务端运行；发出取消也不等于副作用已停止。本文为单次长运行工具调用建立 operation 身份、轮询水位、取消竞态和唯一终态接受点。
#AI Agent #MCP #DevOps♥ 130 评论
长任务 Agent 的持久化工作流：断点续跑、超时和幂等边界
研究、采购、批量数据处理等 Agent 任务常跨越数分钟甚至数天。本文讲解如何持久化任务快照、恢复检查点、处理超时和避免重启后重复执行外部副作用。
#大模型 #AI Agent #DevOps♥ 00 评论
Agent 记忆删除传播：从用户遗忘请求到可验证清除
删除主表一行不会清掉向量、摘要、缓存和恢复后的备份。本文用删除状态机、代际墓碑、派生血缘与端到端 canary 验证真正遗忘。
#AI #AI Agent #DevOps♥ 160 评论
LLM 批量推理与离线任务
不是所有 LLM 任务都要实时——批量分类、摘要、标注、内容生成这类离线任务,用 Batch API 能省一半。本文讲清 LLM 批量推理的价值与场景、各家 Batch API(OpenAI/Anthropic,通常 50% 折扣)、自部署批量(vLLM continuous batching)、任务管线(提交/轮询/重试/成本),以及实时 vs 批量的取舍。
#AI #DevOps♥ 190 评论
Agent 记忆的时态冲突：有效区间、替代关系与当前事实投影
用户偏好、项目决策和角色都会变化。本文用有效时间与记录时间拆开事实，显式处理替代、迟到和并发冲突，避免最后写入者制造错误记忆。
#大模型 #AI Agent #DevOps♥ 170 评论
Agent 在线评测指标：把离线分数连接到真实用户结果
离线评测合格不代表 Agent 上线后可靠。本文设计在线成功率、人工接管、拒绝质量、工具恢复和成本指标，帮助团队用分层观测判断版本是否值得扩大流量。
#大模型 #AI Agent #DevOps♥ 00 评论
Agent 回放评测：用真实轨迹复现问题，而不是只重跑最终 Prompt
多步骤 Agent 的错误常发生在中间工具结果和状态变化中。本文讲解如何保存脱敏轨迹、构建 deterministic replay、处理外部依赖并将线上事故转为可靠回归测试。
#大模型 #AI Agent #DevOps♥ 00 评论
Agent 运行时状态机设计：把规划、执行、等待和恢复拆成可验证状态
生产 Agent 不能只有一段 while 循环。本文用显式状态机拆分规划、工具调用、等待确认、恢复和终止状态，并给出转移约束、持久化字段与测试方法。
#大模型 #AI Agent #DevOps♥ 00 评论
AI 应用可观测性：从一次回答追踪到质量与成本闭环
"AI 应用的故障往往不是服务宕机，而是检索错、工具选错、回答退化或成本失控。本文设计一套覆盖 trace、token、工具调用、评测反馈与隐私治理的可观测性方案。"
#AI Agent #DevOps♥ 180 评论