AI 前沿

大模型、多模态、推理模型和 AI 产品趋势

专题

本专题收录 AI 前沿方向的文章和社区讨论，重点关注真实工程场景、工具选择、实践路径和风险边界。

页面会持续更新，适合作为学习路线、选型参考和技术复盘入口。

@pewter·1 分钟阅读·AI 前沿

吐槽：开源模型和闭源模型差距又拉开了

每次以为开源快追上了，闭源一个新版本又把差距拉开。推理能力、长任务稳定性、agent 能力，开源暂时还是跟不上头部闭源。不是说开源没用，自部署、隐私、成本这些场景开源还是香。但在"最强能力"这条线上，闭源目前确实领先。希望开源继续发力追上。大家日常用开源多还是闭源多？觉得差距

#大模型 #开源♥ 60 评论

@quartz·1 分钟阅读·AI 前沿

我用的 chunking 策略

RAG 里 chunking 看着不起眼，实际决定召回质量。分享我用得最顺的策略。核心思路是"按结构切，不按字数切"。对 Markdown 按标题层级切，每块带上父标题作为上下文；对代码按函数/类切；对长文按段落+滑动窗口。加父标题前缀之后，召回时模型能知道这块在讲啥。细节决

#RAG♥ 130 评论

@robin·1 分钟阅读·AI 前沿

大家怎么看多模态模型写代码？

现在多模态模型能看图了，有人试过给它截图让它写代码。我体验下来，简单 UI 还原确实能写个七八分，复杂布局就各种走样。最实用的是"看设计稿写前端"，能把大致结构搭出来，省不少起步时间。但精细的交互、响应式还得人来。不过这方向想象空间大，截图→代码、Figma→代码以后可能真成

#大模型♥ 200 评论

@sparrow·1 分钟阅读·AI 前沿

RAG 的召回率怎么提？

我的 RAG 召回率一直上不去，调了几招之后有所改善，分享下。一是 query 改写：用户原话往往召回不准，先用模型把问题改写成更"检索友好"的表述；二是混合检索：向量 + 关键词（BM25）一起上，取长补短；三是重排：召回 top 50 后用专门的 reranker 模型重排

#RAG♥ 270 评论

@thyme·1 分钟阅读·AI 前沿

用 embedding 做语义搜索，记录一下

给站内搜索加了语义检索，记录下流程备忘，也给大家参考。老搜索是纯关键词，搜"怎么部署"匹配不到标题写"上线流程"的文章。加 embedding 之后，把每篇文章向量化存进 pgvector，搜索时把 query 也向量化，按余弦相似度排序。 pgvector + 一行 SQL

#RAG♥ 340 评论

@umber·1 分钟阅读·AI 前沿

大模型选型：闭源 vs 开源 vs 自部署

做应用最纠结的就是选型，我把三种路线的取舍理一下。闭源 API：能力最强、上手最快、最贵、数据要出域。开源 API（第三方托管）：能力次之、便宜、灵活。完全自部署：最便宜（量大时）、数据完全自控、运维和硬件成本高、能力打折。我的经验是：早期用闭源快速验证，规模上来后核心链路切

#大模型 #开源♥ 410 评论

@velvet·1 分钟阅读·AI 前沿

微调一个小模型，大概需要多少数据？

想让一个小模型在特定任务上胜任，准备微调，但数据量心里没底。查了一圈说法不一，从几百条到几万条的都有。我的体感是：任务越窄（比如固定格式的信息抽取）数据需求越少，几百到一两千条高质量样本可能就够；任务越开放（比如多轮对话），数据需求越大。质量比数量重要，一千条干净数据胜过一万

#大模型♥ 480 评论

@willow·1 分钟阅读·AI 前沿

分享一个 RAG 重排的小技巧

RAG 加重排（rerank）效果立竿见影，但用专门的重排模型成本不低。分享个轻量做法。先用向量检索粗召回 top 50，再用一个便宜的小模型（或者直接用交叉编码器）对这 50 条和原 query 打分，按分数重排取 top 5。重排只算 50 次，成本可控。大家 RAG 都

#RAG♥ 550 评论

@xenon·1 分钟阅读·AI 前沿

吐槽：大模型的'思考过程'太啰嗦了

推理模型流行起来后，输出前面经常跟一大段"思考过程"，啰啰嗦嗦列一堆中间步骤，正经答案就那么几句。简单问题也这么搞，看着累还费 token。理解思考过程对复杂推理有用，但能不能让模型自己判断该不该思考？简单问题直接答不香吗。现在我的做法是简单任务用非推理模型，复杂任务才上推理

#大模型♥ 620 评论

@yarrow·1 分钟阅读·AI 前沿

推理模型写代码真的更好吗？

推理模型（thinking model）在算法题上确实猛，但日常写业务代码我不确定它比普通模型强多少。简单 CRUD 反而显得"想多了"。我的体感是：算法、复杂逻辑、debug 这种需要深推理的场景，推理模型明显更强；写样板代码、改样式这种，普通模型又快又便宜就够。不过推理模

#大模型♥ 690 评论

@zinc·1 分钟阅读·AI 前沿

GraphRAG 到底比普通 RAG 强在哪？

GraphRAG 火了一阵子，我研究了下，说说我的理解。普通 RAG 是"找相关片段拼答案"，适合具体问题。GraphRAG 把文档抽成知识图谱，能回答跨文档、需要全局总结的问题，比如"这本书的主要论点是什么"——这种问题普通 RAG 召回不出来。代价是构建图谱很贵很复杂。所

#RAG♥ 760 评论

@ash·1 分钟阅读·AI 前沿

大家怎么看 prompt 工程师这个岗位

前两年"prompt 工程师"被炒得很热，甚至有高薪招聘。我这两年观察下来，这岗位越来越尴尬。 prompt 技巧正在被产品化（工具自动优化 prompt）、被模型能力抹平（新模型对 prompt 没那么敏感）、且很难单独成岗（脱离业务和工程的 prompt 没价值）。我倾向认

#大模型♥ 830 评论