CodeNodeX AI
注册写作
首页/标签/大模型

#大模型

专题介绍

这里聚合 CodeNodeX AI 社区中与 大模型 相关的技术文章和讨论，覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。

如果你正在研究 大模型，建议先阅读高质量长文，再参与帖子讨论，形成从理解到实践的完整路径。

@admin·1 分钟阅读·AI 前沿

长上下文时代，RAG 还需要吗

模型上下文窗口从 4K 涨到百万级，越来越多人问"是不是直接全塞进去就行，不用 RAG 了"。答案没那么简单。本文从成本、召回、更新、可追溯四个维度，讲清长上下文和 RAG 各自的甜区——它们不是二选一，而是组合使用，且大多数生产场景 RAG 仍是更优解。

#大模型 #RAG♥ 440 评论
@admin·2 分钟阅读·AI 前沿

Embedding 模型选型与评估

RAG/语义搜索的质量，embedding 模型决定上限。但很多人随便选一个就上，效果不好还怪检索。本文讲清 embedding 选型的四个维度（语言/维度/领域/成本）、主流模型怎么挑，以及最重要的——怎么在自己的数据上评估，而不是迷信榜单。

#大模型 #RAG♥ 450 评论
@admin·2 分钟阅读·AI 前沿

LoRA/QLoRA 微调实战入门

全参微调动辄几十张卡，多数团队摸不到；LoRA/QLoRA 把门槛打到一张消费级卡。本文讲清 LoRA 的原理（低秩适配）、QLoRA 怎么进一步省显存、完整的微调流程（数据准备→训练→合并→部署），以及一个关键认知——微调前先确认它真是你问题的最优解。

#大模型 #开源♥ 480 评论
@admin·2 分钟阅读·AI 前沿

知识图谱 + LLM：超越向量检索

向量检索擅长"语义相似"，却搞不定"关系推理"——"谁是谁的上级"、"A 产品依赖哪些组件"。知识图谱补上这一刀。本文讲清知识图谱相对向量库的优势、GraphRAG 的思路、什么场景值得上图谱，以及务实的落地建议——别为了酷而上图谱，多数场景向量库够。

#大模型 #RAG♥ 520 评论
@admin·2 分钟阅读·AI 前沿

LLM 推理优化：Speculative Decoding 与 KV Cache

LLM 推理慢，主要慢在 decode（逐 token 生成）阶段。本文讲清两个最值钱的优化：KV Cache（别重复算历史）和 Speculative Decoding（小模型起草、大模型验证，并行多 token）。加上连续批处理和量化，能把推理吞吐拉到一个数量级。

#大模型 #DevOps♥ 530 评论
@admin·1 分钟阅读·AI 前沿

LLM 的对齐与安全：RLHF 简介

模型预训练出来是"续写机器"，能变成"有用的助手"靠的是对齐——RLHF/DPO 那一套。本文用大白话讲清对齐在干什么、RLHF 和 DPO 的区别、为什么对齐既是"安全"也是"能力"，以及作为应用开发者理解对齐边界的重要性——知道模型为什么有时"过度拒绝"、怎么和它相处。

#AI #大模型♥ 600 评论