Posts

Community Posts

Start discussions like a forum — great for questions, opinions, tool recommendations, and experience sharing.

@yarrow·1 min read·AI Frontier

推理模型写代码真的更好吗?

推理模型(thinking model)在算法题上确实猛,但日常写业务代码我不确定它比普通模型强多少。简单 CRUD 反而显得"想多了"。 我的体感是:算法、复杂逻辑、debug 这种需要深推理的场景,推理模型明显更强;写样板代码、改样式这种,普通模型又快又便宜就够。 不过推理模

#LLM♥ 690 comments
@zinc·1 min read·AI Frontier

GraphRAG 到底比普通 RAG 强在哪?

GraphRAG 火了一阵子,我研究了下,说说我的理解。 普通 RAG 是"找相关片段拼答案",适合具体问题。GraphRAG 把文档抽成知识图谱,能回答跨文档、需要全局总结的问题,比如"这本书的主要论点是什么"——这种问题普通 RAG 召回不出来。 代价是构建图谱很贵很复杂。所

#RAG♥ 760 comments
@ash·1 min read·AI Frontier

大家怎么看 prompt 工程师这个岗位

前两年"prompt 工程师"被炒得很热,甚至有高薪招聘。我这两年观察下来,这岗位越来越尴尬。 prompt 技巧正在被产品化(工具自动优化 prompt)、被模型能力抹平(新模型对 prompt 没那么敏感)、且很难单独成岗(脱离业务和工程的 prompt 没价值)。 我倾向认

#LLM♥ 830 comments
@briar·1 min read·AI Frontier

用 Ollama 本地跑模型的真实体验

为了隐私和零成本,我用 Ollama 在本机跑了几个开源模型,聊聊体验。 7B 左右的模型在我 16G 显存的机器上跑得还行,速度能接受;再大就吃力了,要么慢要么塞不下。日常做摘要、翻译、简单问答够用,复杂推理和长任务还是得靠云端大模型。 最大价值是离线、隐私、零成本原型验证。大

#LLM #Open Source♥ 900 comments
@cedar·1 min read·AI Frontier

求助:RAG 答非所问怎么排查

我的 RAG 系统最近经常"答非所问":明明检索到了相关文档,生成的答案却跑偏,甚至和文档矛盾。不知道是检索环节还是生成环节的问题。 排查思路是不是该分两步看:先把检索到的 chunk 打印出来看相不相关,再让人生成答案看模型有没有用对上下文? 有没有一套成熟的排查流程?或者常见

#RAG♥ 10 comments
@dahlia·1 min read·AI Frontier

一个大模型评测的小方法

选模型最头疼的是评测,分享个我用着好使的小方法:人工标注 + LLM as judge 结合。 先人工标几十条"金标答案",再用一个更强的模型当裁判,给候选模型的输出打分,和人工分对齐验证裁判可靠性。裁判靠谱之后就能大规模自动评测了。 关键是那 50 条人工标注要质量高。大家评测

#LLM♥ 80 comments
@elm·1 min read·AI Frontier

向量数据库选型:pgvector 还是专用库

选向量数据库我纠结过:pgvector(PostgreSQL 插件)还是专用的(Milvus、Qdrant 那些)。 我的结论是:中小规模用 pgvector,省心、和业务库一体、运维熟悉;百万级以上、需要复杂过滤和高吞吐再考虑专用库。 pgvector 最大的好处是不引入新组件

#RAG♥ 150 comments
@finch·1 min read·AI Frontier

大模型应用最大的坑是什么?聊聊

做大模型应用这两年,踩过最大的坑不是技术,是"高估了模型的理解力"。 demo 里你精心设计的 prompt 跑得很好,上线后用户用各种你没想到的方式提问,模型就翻车。你以为它"懂了",其实它只是在你精心构造的输入上表现好。 我现在做应用第一件事是想"用户会怎么瞎用",然后构造对

#LLM #AI♥ 220 comments
@dev-kai·1 min read·Web Development

App Router 迁移半年,聊聊踩过的坑

把一个 Pages Router 项目分批迁到 App Router,前后折腾了快半年。最大的感受是:缓存边界和 "use client" 这两件事,文档轻描淡写,实际占了 80% 的坑。 中间遇到过几次经典翻车: 客户端组件里直接 fetch ,被默认缓存导致数据不刷新。 pa

#Next.js #React♥ 290 comments
@leo-codes·1 min read·Web Development

Server Components 到底解决了什么问题?

看了不少文章,还是没完全 get 到 RSC 的核心价值。表面说是 "组件在服务端跑",但 SSR 不也能在服务端跑组件吗? 我自己理解下来,主要差在两点:RSC 是 "按组件粒度" 决定跑在哪,并且它能直接访问数据源,不用再走一层 API。组件树里零 JS 下发到客户端这点确实

#Next.js #React♥ 360 comments
@mistral42·1 min read·Web Development

求助:useSearchParams 导致 hydration 报错

App Router 里用 useSearchParams 拿 query 参数,本地 dev 没事,prod 一打开就报 hydration mismatch,浏览器控制台一片红。 查了一圈说是它会让页面退化成客户端渲染,需要包一层 <Suspense 。包了之后报错没了,但首

#Next.js #React♥ 430 comments