LLM 流式输出协议深度:SSE、Data Stream 与解析
流式输出是 AI 应用的体感命门,但底层的协议细节(SSE、各家 data stream 格式、tool call 流式、中断)很多人没搞清。本文从 HTTP SSE 讲到 AI SDK 的 data stream 协议,再到流式 tool calling 和可中断流,讲透前端怎么解析、后端怎么发,以及踩过的坑。
#AI #Next.js♥ 970 评论
Articles
技术文章
沉淀 AI、Web、云原生和独立开发经验。
AI 辅助代码重构实战
重构是技术债的解药,但耗精力,所以一直拖着。AI 让"不敢动的祖传代码"敢动了——但用错也会引入隐蔽 bug。本文讲清 AI 辅助重构的正确姿势:选对场景(纯函数/换 API/抽函数/类型补全)、小步+测试护栏、保留行为等价、review 重点,让 AI 帮你安全地把烂代码变好。
#Vibe Coding #TypeScript♥ 980 评论
Agent 循环设计:停止、反思、分支
Agent 的核心是个循环,但"循环"设计得好不好决定它是智能还是乱跑。本文讲清 Agent 循环的几个关键设计:停止条件(何时结束)、反思(self-reflection,做完一步自评)、分支与回溯、最大步数与预算、以及在循环里加"人工检查点"把不可逆操作拦住。
#AI #AI Agent♥ 990 评论
AI 创业的基础设施:从 0 到 1
AI 创业公司早期不该堆基建,但有些基础设施从第一天就该有——否则量一起来就崩。本文给一份务实的 AI 创业基础设施清单:模型调用层(路由/缓存/降级)、可观测(trace/成本)、评测(eval 集/CI)、数据(向量库/记忆)、安全(限流/审核),哪些先做、哪些先欠着。
#AI #DevOps♥ 1000 评论
AI 驱动的产品文档站
传统文档站靠目录和搜索,用户找不到就放弃。AI 让文档站能"直接问答"——把 RAG 接进文档,用户问"怎么实现 X"直接给答案 + 引用。本文讲清怎么把一个静态文档站升级成 AI 可问答:文档切分与索引、问答 + 引用、Mintlify/Convex 这类方案 vs 自建、以及别让 AI 替代文档本身。
#AI #Next.js♥ 1010 评论
LLM 应用的红队测试:主动找漏洞
上线前不主动攻,上线后被用户攻。LLM 应用的红队测试是主动找 prompt injection、越权、数据泄露、有害输出。本文讲清红队测什么(注入/越狱/越权/数据外泄/拒绝服务)、怎么自动化(对抗性 prompt 集 + LLM 生成攻击)、以及把红队发现变成回归测试,把"靠用户试出来"变成"自己先发现"。
#AI Agent #DevOps♥ 1020 评论
RAG 的元数据过滤检索
生产 RAG 几乎都要"带条件的检索"——只在我部门/某时间段/某产品里搜。纯向量召回做不到精确过滤,要靠元数据过滤。本文讲清元数据过滤的价值、怎么给 chunk 打元数据、向量库的过滤能力(pgvector SQL/Qdrant payload)、过滤优先于检索的性能收益,以及权限隔离也靠它。
#RAG #DevOps♥ 1030 评论
Cursor vs Claude Code 深度对比
Cursor 和 Claude Code 是 2026 最主流的两款 AI 编程工具,但形态和哲学差很多——一个是 IDE 原生、一个是终端 Agent。本文从形态、上下文管理、Agent 能力、MCP 生态、协作方式、价格深度对比,给一份"什么人/什么任务该用哪个"的结论,以及为什么很多人两个都用。
#AI #Vibe Coding♥ 1040 评论
AI 成本归因:按功能/用户/请求拆账
"你一个月烧了 5 万 token 费,但说不清哪个功能/哪个用户烧的——这就是没有成本归因。本文讲清 AI 成本怎么归因:按请求打标(功能/用户/会话)、token 计量与聚合、单位经济(单用户/单功能成本)、异常检测(谁在烧钱),让 AI 成本从'一笔糊涂账'变'可优化可问责'。"
#AI #DevOps♥ 1050 评论
AI 产品的 onboarding 设计
用户能不能在第一分钟体验到价值,决定 AI 产品的留存。本文讲清 AI 产品 onboarding 的核心:缩短首次价值时间(TTFV)、引导第一次"啊哈"体验、避免信息过载(功能多别一次塞)、渐进披露、用模板和示例降低门槛,以及用激活指标(到达 aha moment 的比例)驱动 onboarding 优化。
#AI #独立开发♥ 1080 评论
多 Agent 间的通信设计
多个 Agent 协作,最难的不是各自能力,是它们之间怎么通信——共享状态还是消息传递、用什么协议、怎么处理异步和错误。本文讲清多 Agent 通信的几种模式(共享黑板/消息传递/handoff)、序列化与契约、常见架构(supervisor/pub-sub/对等),以及工程上的序列化/版本/容错。
#AI #AI Agent♥ 1090 评论
RAG 检索效果的系统化调试
RAG 答不好,九成是检索环节——但你得先定位是"没召回"还是"召回了没用对"。本文给一套系统化调试流程:看召回(检索到啥)、看相似度、看 rerank、看 prompt,逐层排除;以及常见问题(切分破坏/embedding 不匹配/过滤过严)的判别方法,告别"RAG 答不好就盲目加 rerank"。
#RAG #DevOps♥ 1100 评论