AI 应用的限流与配额设计
AI 应用的限流不是普通 Web 那么简单——它有两个成本维度（请求数 + token），还有滥用、刷量、单用户爆量等风险。本文讲清按用户/IP/全局的三层限流、token 配额的计量、超限的优雅降级，以及一套能扛住"恶意刷量"的配额架构。
#AI #DevOps♥ 420 评论
CodeNodeX AI Admin
@admin
CodeNodeX AI 社区管理员，关注 AI 编程、Next.js 和独立开发。
0 关注者 · 605 内容
训练数据 Schema 演进：兼容矩阵、语义迁移与发布门禁
字段能被反序列化不代表训练语义兼容。本文用稳定字段身份、读写矩阵、影子转换和分布门禁控制特征与标签 Schema 演进。
#AI #大模型 #DevOps♥ 2010 评论
Prompt 的版本管理与 CI
Prompt 是 AI 应用的核心逻辑，却被当成"配置字符串"随意改——改崩了线上、回滚找不到原因、A/B 不了。本文讲清怎么把 prompt 当代码管：版本化、评测进 CI、灰度发布、回滚，把"凭感觉改 prompt"变成可回归的工程。
#AI #DevOps♥ 430 评论
训练数据删除传播：Tombstone、水位与派生制品处置
删除源表记录不会自动改变训练分片、Checkpoint 或已发布模型。本文用不可回退墓碑、反向血缘和制品处置门禁阻止撤权数据继续进入训练。
#AI #大模型 #DevOps♥ 2020 评论
长上下文时代，RAG 还需要吗
模型上下文窗口从 4K 涨到百万级，越来越多人问"是不是直接全塞进去就行，不用 RAG 了"。答案没那么简单。本文从成本、召回、更新、可追溯四个维度，讲清长上下文和 RAG 各自的甜区——它们不是二选一，而是组合使用，且大多数生产场景 RAG 仍是更优解。
#大模型 #RAG♥ 440 评论
训练数据集快照：不可变 Manifest、血缘与可复现取数
同一个数据集名称可能在训练期间继续变化。本文用不可变成员清单、源端水位、转换摘要和派生血缘，让每次训练都能精确重放输入集合。
#AI #大模型 #DevOps♥ 2030 评论
Embedding 模型选型与评估
RAG/语义搜索的质量，embedding 模型决定上限。但很多人随便选一个就上，效果不好还怪检索。本文讲清 embedding 选型的四个维度（语言/维度/领域/成本）、主流模型怎么挑，以及最重要的——怎么在自己的数据上评估，而不是迷信榜单。
#大模型 #RAG♥ 450 评论
训练分片发布：内容摘要、集合完整性与原子切换
每个分片校验成功仍可能漏掉整个文件或让不同 worker 混读版本。本文用描述符、集合承诺、发布屏障和代际指针保证训练输入完整一致。
#AI #大模型 #DevOps♥ 2040 评论
多模型 fallback 与容灾策略
把整个产品绑死在一个模型 API 上是高风险——故障、限流、政策、涨价、封号，任何一个都能让你当场下线。本文讲清多模型容灾：主备 fallback、智能路由、降级链，触发条件，以及统一接口/重试/熔断的工程实现——让你的 AI 应用不被单一供应商拿捏。
#AI #DevOps♥ 460 评论
Transactional Outbox 投递对账：从本地提交到 Broker Receipt
业务行与事件分别写数据库和消息系统会留下双写窗口，而发送超时又无法证明消息没有到达。本文把 outbox 事件、dispatcher claim、未知投递与消费去重组成可对账协议。
#TypeScript #DevOps♥ 2050 评论
怎么测一个 Agent
测 Agent 比测普通软件难一个量级——它非确定、多步、还会调外部工具。本文给一套分层的 Agent 测试策略：单元测工具、集成测端到端、评测集测质量、混沌测容错，加上 trace 复现和回归。把"上线靠运气"变成"上线有底气"。
#AI Agent #DevOps♥ 470 评论
TypeScript 运行时信任边界：版本化解码、资源上限与双读回滚
类型声明不会验证网络、Worker、URL、IndexedDB 或跨标签页消息。本文把 unknown 输入转换为规范内部类型，并设计 Schema 演进、双读发布和旧数据可回滚路径。
#AI #TypeScript #DevOps♥ 2060 评论