Tokenizer 兼容性迁移:词表指纹、双轨编码与无损回滚
更换 tokenizer 会同时改变 token ID、长度预算、特殊符号和缓存语义。本文用制品指纹、黄金语料、兼容等级、双轨路由和版本化数据完成可验证迁移。
Articles
沉淀 AI、Web、云原生和独立开发经验。
更换 tokenizer 会同时改变 token ID、长度预算、特殊符号和缓存语义。本文用制品指纹、黄金语料、兼容等级、双轨路由和版本化数据完成可验证迁移。
AI 写作助手是最容易想、也最容易做错的产品——大多数做成了"输入标题一键生成水文"。本文从需求拆解到上线,讲清一个真正有用的写作助手该怎么设计:辅助而非代写、结构化与流式、人机协作的编辑循环,以及把"一键生成"的诱惑换成"越写越好"的产品哲学。
工具调用失败可能来自选择、参数、授权、依赖、状态和用户确认。本文给出可操作的失败分类与指标设计,帮助团队把模糊的 Agent 错误转化为可修复的工程问题。
深度研究(一个问题 → 多轮检索 + 综合成报告)是 Agent 最有含金量的场景,也是单轮 RAG 解不了的。本文用 LangGraph 做一个研究 Agent:拆问题 → 并行检索 → 读全文 → 查漏补缺 → 综合成报告,讲清状态图设计、工具调用、循环控制——把"研究"这件开放的事工程化。
新结果通过最新 validator,不代表仍在线的旧 Agent、渲染器和审计任务都能读取。本文把 producer revision、真实消费者集合、解码证明和 representation 路由组成工具结果专用兼容门。
"流式输出是 AI 应用的体感生死线——用户盯着一秒一个字冒出来 vs 等十秒一次性蹦出来,体验天差地别。本文从协议到渲染讲透前端流式:SSE/ReadableStream 怎么解析、React 怎么增量渲染不卡、AI SDK 的 useChat 怎么简化,以及中断/错误的处理。"
随机切分后再去重会把同源内容留在训练集和评测集两侧。本文用稳定指纹、近重复连通分量和评测隔离水位控制重复与基准泄漏。
AI 应用的限流不是普通 Web 那么简单——它有两个成本维度(请求数 + token),还有滥用、刷量、单用户爆量等风险。本文讲清按用户/IP/全局的三层限流、token 配额的计量、超限的优雅降级,以及一套能扛住"恶意刷量"的配额架构。
字段能被反序列化不代表训练语义兼容。本文用稳定字段身份、读写矩阵、影子转换和分布门禁控制特征与标签 Schema 演进。
Prompt 是 AI 应用的核心逻辑,却被当成"配置字符串"随意改——改崩了线上、回滚找不到原因、A/B 不了。本文讲清怎么把 prompt 当代码管:版本化、评测进 CI、灰度发布、回滚,把"凭感觉改 prompt"变成可回归的工程。
删除源表记录不会自动改变训练分片、Checkpoint 或已发布模型。本文用不可回退墓碑、反向血缘和制品处置门禁阻止撤权数据继续进入训练。
模型上下文窗口从 4K 涨到百万级,越来越多人问"是不是直接全塞进去就行,不用 RAG 了"。答案没那么简单。本文从成本、召回、更新、可追溯四个维度,讲清长上下文和 RAG 各自的甜区——它们不是二选一,而是组合使用,且大多数生产场景 RAG 仍是更优解。