AI Agent 可观测性:循环、工具调用与预算护栏
"Agent 的故障往往不是服务宕机,而是工具选错、循环停滞、权限等待或预算失控。本文围绕任务 trace、步骤状态、工具链、人工确认和运行预算,设计一套可回放的 Agent 可观测性方案。"
DevOps、Docker、Kubernetes、可观测性
本专题收录 云原生 方向的文章和社区讨论,重点关注真实工程场景、工具选择、实践路径和风险边界。
页面会持续更新,适合作为学习路线、选型参考和技术复盘入口。
"Agent 的故障往往不是服务宕机,而是工具选错、循环停滞、权限等待或预算失控。本文围绕任务 trace、步骤状态、工具链、人工确认和运行预算,设计一套可回放的 Agent 可观测性方案。"
记录模型部署和 IAM 变更还不够,攻击者可能停掉日志、篡改对象或缩短保留期。本文建立独立安全域、摘要链和缺口检测。
服务跑着,但你不知道它健康不健康、慢不慢——缺可观测。本文讲清 Prometheus + Grafana 这套经典组合:指标(metric types)、pull 模型、PromQL 基础、给应用埋指标、Grafana 画看板 + 告警,以及日志/链路如何补全可观测三支柱。
推理 worker、评测任务和模型构建器不应共享云密钥。本文分离源凭据、交换请求与输出令牌的受众,并用 profile 和资源策略阻断身份混淆。
Nginx 是部署最常见的反代/网关,但很多人只会抄一段配置。本文讲清 Nginx 作反代的核心:location 匹配规则、proxy_pass、请求头透传(X-Forwarded-*)、负载均衡、HTTPS/TLS、性能调优(worker/buffer/gzip)、以及常见坑(WebSocket、大文件、流式)。
消息队列是分布式系统的"减震器"——削峰、解耦、异步。本文讲清它解决什么问题(削峰/解耦/最终一致)、核心模型(点对点 vs 发布订阅)、可靠性保证(持久化/ACK/重试/死信)、顺序与重复,以及 Kafka/RabbitMQ/Redis Streams/ RocketMQ 怎么选。
慢查询九成是缺索引或索引没用上。本文讲清 PG 索引:类型选择(B-tree/Hash/GIN/GiST/BRIN)、复合索引与最左前缀、EXPLAIN ANALYZE 看执行计划、索引失效的常见原因(函数/类型/like)、何时别加索引,让你的查询从秒级到毫秒级。
Redis 不只是缓存,但很多人只会 set/get。本文讲清 Redis 的核心数据结构各适用的场景、生产级模式(缓存策略/分布式锁/限流/排行榜)、持久化与高可用选择、以及经典陷阱(缓存穿透/击穿/雪崩、大 key、过期策略),让你真正用好 Redis。
模型供应商 Key、对象存储凭证和签名密钥不能靠人工替换。本文给出资产盘点、双凭证切换、动态刷新、撤销验证与泄露应急的一体化轮换流程。
单一 QPS 限流无法阻止长上下文和批任务挤占推理池。本文设计分层配额、原子记账、公平排队、突发额度与故障降级,保护多租户 AI 平台。
单库扛不住时怎么办?本文讲清数据库扩展的路径:先垂直优化(索引/查询/读写分离),再水平(分库分表),分片键怎么选、跨片查询怎么办、分布式事务与一致性、以及"别急着分库"——大多数项目用不上,先榨干单机。
Go 的并发模型(goroutine + channel)简洁强大,但用错也会泄漏、死锁。本文讲清 goroutine 的轻量与调度、channel 的同步与通信、select 多路复用、并发模式(worker pool/fan-out/pipeline)、以及常见陷阱(泄漏、死锁、竞态),让你真正驾驭 Go 并发。