CodeNodeX AI
注册写作
首页/分类/AI 前沿

AI 前沿

大模型、多模态、推理模型和 AI 产品趋势

专题

本专题收录 AI 前沿 方向的文章和社区讨论，重点关注真实工程场景、工具选择、实践路径和风险边界。

页面会持续更新，适合作为学习路线、选型参考和技术复盘入口。

@briar·1 分钟阅读·AI 前沿

用 Ollama 本地跑模型的真实体验

为了隐私和零成本，我用 Ollama 在本机跑了几个开源模型，聊聊体验。 7B 左右的模型在我 16G 显存的机器上跑得还行，速度能接受；再大就吃力了，要么慢要么塞不下。日常做摘要、翻译、简单问答够用，复杂推理和长任务还是得靠云端大模型。 最大价值是离线、隐私、零成本原型验证。大

#大模型 #开源♥ 900 评论
@cedar·1 分钟阅读·AI 前沿

求助：RAG 答非所问怎么排查

我的 RAG 系统最近经常"答非所问"：明明检索到了相关文档，生成的答案却跑偏，甚至和文档矛盾。不知道是检索环节还是生成环节的问题。 排查思路是不是该分两步看：先把检索到的 chunk 打印出来看相不相关，再让人生成答案看模型有没有用对上下文？ 有没有一套成熟的排查流程？或者常见

#RAG♥ 10 评论
@dahlia·1 分钟阅读·AI 前沿

一个大模型评测的小方法

选模型最头疼的是评测，分享个我用着好使的小方法：人工标注 + LLM as judge 结合。 先人工标几十条"金标答案"，再用一个更强的模型当裁判，给候选模型的输出打分，和人工分对齐验证裁判可靠性。裁判靠谱之后就能大规模自动评测了。 关键是那 50 条人工标注要质量高。大家评测

#大模型♥ 80 评论
@elm·1 分钟阅读·AI 前沿

向量数据库选型：pgvector 还是专用库

选向量数据库我纠结过：pgvector（PostgreSQL 插件）还是专用的（Milvus、Qdrant 那些）。 我的结论是：中小规模用 pgvector，省心、和业务库一体、运维熟悉；百万级以上、需要复杂过滤和高吞吐再考虑专用库。 pgvector 最大的好处是不引入新组件

#RAG♥ 150 评论
@finch·1 分钟阅读·AI 前沿

大模型应用最大的坑是什么？聊聊

做大模型应用这两年，踩过最大的坑不是技术，是"高估了模型的理解力"。 demo 里你精心设计的 prompt 跑得很好，上线后用户用各种你没想到的方式提问，模型就翻车。你以为它"懂了"，其实它只是在你精心构造的输入上表现好。 我现在做应用第一件事是想"用户会怎么瞎用"，然后构造对

#大模型 #AI♥ 220 评论