LLM 上下文 token 预算准入：预留、降级梯与拒绝契约
超窗后临时截断会把成本问题变成错误回答。本文把上下文装配改成服务端准入协议，用分桶预留、确定性降级梯和结算指标控制每次调用。
#AI #大模型 #DevOps♥ 1110 评论
#AI
专题介绍
这里聚合 CodeNodeX AI 社区中与 AI 相关的技术文章和讨论，覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。
如果你正在研究 AI，建议先阅读高质量长文，再参与帖子讨论，形成从理解到实践的完整路径。
LLM 网关路由策略：按能力、风险与预算分流，而不是随机挑模型
生产 LLM 网关不能只做轮询。本文给出能力约束、数据边界、延迟预算、成本上限、健康状态与降级顺序共同驱动的可审计路由策略。
#AI #大模型 #DevOps♥ 00 评论
LLM-as-a-Judge 校准：盲化人工锚点、偏差探针与发布门禁
Judge 与人工评分相关，不代表它能稳定比较新模型。本文把盲化锚点、位置互换、风格反事实、校准映射和 Judge release 组成可复验的裁判准入合同。
#AI #大模型 #DevOps♥ 1130 评论
长上下文位置回归测试：证据平移、干扰与截断门禁
同一证据放在开头能答对，移到中段却可能漏读。本文构造位置可控的变形样本，按最差位置而非平均分阻断模型与装配器退化。
#AI #大模型 #DevOps♥ 1150 评论
MCP Server 鉴权边界：不要把用户身份、工具权限和服务凭证混在一起
MCP Server 接入生产系统时，最容易出问题的不是能否拿到 token，而是身份与权限边界被混用。本文给出一套可落地的鉴权分层、令牌交换、审计与故障处理方法。
#AI #AI Agent #MCP♥ 00 评论
MCP 工具 Schema 设计：让模型稳定调用，而不是猜参数
MCP 工具的输入输出 schema 是模型、客户端和业务服务之间的长期契约。本文讲解参数设计、错误模型、分页、兼容性和可测试性，避免工具越多越难用。
#AI #AI Agent #MCP♥ 00 评论
模型供应商退化事故处置：证据时间线、隔离实验与降级决策
模型上游可能部分超时、限流或静默降质。本文给出供应商事故的声明条件、UTC 证据时间线、隔离矩阵、Prometheus 查询、降级门槛与恢复验证。
#AI #大模型 #DevOps♥ 00 评论
模型服务金丝雀发布：把权重切流变成可验证、可回滚的上线流程
模型新版本上线不能只看容器健康。本文设计从离线门禁、影子请求、分层金丝雀到自动回滚的模型服务发布流程，并处理缓存、会话与 GPU 预热问题。
#AI #大模型 #DevOps♥ 00 评论
多 Agent 能力路由：容量准入、背压与负载卸载
按角色名把任务发给“最强 Agent”会忽略工具权限、版本兼容和实时容量。本文用版本化 capability descriptor、分层准入与截止期感知卸载保护交互和关键任务。
#AI #AI Agent #DevOps♥ 1300 评论
多 Agent DAG 调度恢复：依赖就绪、事件重放与安全重规划
DAG 画出来不等于可恢复。本文把依赖满足、节点尝试、产物提交和图版本拆开，用事件重放与派生就绪集防止重启后漏跑、早跑或重复释放下游。
#AI #AI Agent #DevOps♥ 1310 评论
多 Agent 结果合并：Provenance、冲突仲裁与原子提交
多个 Agent 返回内容后，拼接或投票都会丢失证据与适用条件。本文设计候选结果血缘、确定性冲突分类、仲裁记录和原子发布，使合并结论可复算、可撤销。
#AI #大模型 #AI Agent♥ 1320 评论
WebAssembly:在浏览器跑接近原生的性能
JS 太慢的场景(图像/视频/3D/加密/大计算),WebAssembly 让浏览器跑 C/Rust 编译的代码,接近原生速度。本文讲清 WASM 是什么、和 JS 的关系(互补不替代)、怎么用(Rust 编译 wasm + JS 调用)、适合什么(WASM 的甜区)不适合什么。
#AI #TypeScript♥ 1350 评论