RAG 处理表格与结构化数据
表格是 RAG 的硬骨头——切分破坏结构、向量丢语义、检索找不到。本文讲清表格 RAG 的完整方案:表格检测与抽取、切分策略(整表/行级)、结构化存储 vs 向量、Text-to-SQL 模式,以及混合检索,让 RAG 能真正处理含表格的文档。
#大模型 #RAG♥ 610 评论
#大模型
专题介绍
这里聚合 CodeNodeX AI 社区中与 大模型 相关的技术文章和讨论，覆盖概念解释、工具对比、工程实践、常见问题和独立开发经验。
如果你正在研究 大模型，建议先阅读高质量长文，再参与帖子讨论，形成从理解到实践的完整路径。
检索的 Query 改写进阶
用户的原始提问往往不是好的检索词——有指代、太模糊、是多问合一。Query 改写是 RAG/搜索里 ROI 极高的一步。本文系统讲清五种改写(指代消解/子问题分解/HyDE/Multi-query/同义扩展)、各自的适用场景、工程实现与成本,以及改写本身也要评估。
#大模型 #RAG♥ 640 评论
ColBERT 与 late-interaction:检索的第三条路
向量检索(bi-encoder)快但精度有限,cross-encoder 准但慢到不能做召回。ColBERT 的 late-interaction 给了第三条路——精度近 cross、速度近 bi。本文讲清三种检索模型的权衡、ColBERT 的 late-interaction 原理、它适合什么场景,以及工程落地(RAGatouille/ColBERTv2)。
#大模型 #RAG♥ 670 评论
语音/音频 AI 应用实战
语音 AI 从"玩具"进入了产品级——实时转写、语音对话、配音、实时翻译都已可用。本文讲清语音 AI 的能力栈(ASR/TTS/语音助手)、典型产品场景、工程要点(流式 ASR、低延迟 TTS、VAD、打断处理),以及多模态语音交互的现状与坑。
#AI #大模型♥ 680 评论
从 bad case 挖掘优化 RAG
RAG 的真正优化方向不在论文里,而在你用户的 bad case 里——那些答错的、找不到的、答非所问的。本文讲清一套 bad case 驱动的 RAG 优化闭环:如何收集(用户反馈/低分/重试)、如何分类(检索没找到/找到了没用对/生成幻觉/格式错)、针对性修复,以及把它们沉淀进 eval 集防回归。
#大模型 #RAG♥ 720 评论
生产级 Text-to-SQL
'"用自然语言查数据库"听起来很美,做生产却很难——schema 理解、歧义、SQL 正确性、注入安全都是坑。本文讲清生产级 Text-to-SQL 的完整方案:schema RAG、few-shot、SQL 校验与只读权限、安全(防注入/防全表扫)、评估,让用户能用自然语言安全查数。'
#大模型 #RAG♥ 730 评论
开源 vs 闭源模型:深度选型
用 GPT/Claude 还是用 Llama/Qwen,是每个 AI 应用都要做的决策。本文不讲谁更强,讲选型逻辑:闭源的优势(能力/便利)、开源的优势(数据自有/可控/成本/定制)、按场景(隐私/规模/合规/定制)怎么选,以及混合策略——闭源做主力、开源兜底/特定场景。
#大模型 #开源♥ 780 评论
Tokenizer:理解 token 才能真正控成本
token 是 LLM 的计费单位和上下文货币,但很多人对它只有模糊概念——中文一个字几个 token?代码占多少?为什么切词影响成本和效果?本文讲清 tokenizer 原理(BPE)、不同语言的 token 效率、用 tiktoken 实测、以及控成本的实操(缩 prompt/选高效语言/缓存)。
#大模型 #TypeScript♥ 790 评论
微调数据准备实战
"微调圈有句行话:garbage in garbage out——数据质量决定一切。本文讲清微调数据怎么准备:指令对格式、数据收集与清洗、质量把控(去重/去噪/一致性)、合成数据的用法与风险、数据增强,以及用 LLM 辅助生成训练数据的正确姿势。"
#大模型 #开源♥ 830 评论
推理模型的用法:什么时候该用 o1 类模型
推理模型(o1/o3/DeepSeek-R1 类)会"先想再答",在复杂数学/代码/多步推理上更强,但也更慢更贵更难驾驭。本文讲清推理模型和普通模型的区别、它擅长的场景(数学/逻辑/复杂代码/科研)、不擅长的(简单任务/创意/实时)、以及混合架构——简单活给快模型,硬推理才上推理模型。
#AI #大模型♥ 890 评论