微调数据准备实战
"微调圈有句行话:garbage in garbage out——数据质量决定一切。本文讲清微调数据怎么准备:指令对格式、数据收集与清洗、质量把控(去重/去噪/一致性)、合成数据的用法与风险、数据增强,以及用 LLM 辅助生成训练数据的正确姿势。"
#大模型 #开源♥ 830 评论
AI 前沿
大模型、多模态、推理模型和 AI 产品趋势
专题
本专题收录 AI 前沿 方向的文章和社区讨论，重点关注真实工程场景、工具选择、实践路径和风险边界。
页面会持续更新，适合作为学习路线、选型参考和技术复盘入口。
AI 搜索的相关性调优
搜索好不好用,核心是"相关性"——用户搜的和你返回的,匹配得上吗。本文讲清 AI 搜索相关性的调优:相关性信号(语义/关键词/权威/时效/个性化)、加权融合、离线评测(标注+指标)、点击反馈(隐式学习),以及避免"看似相关实则无用"。
#RAG #DevOps♥ 850 评论
推理模型的用法:什么时候该用 o1 类模型
推理模型(o1/o3/DeepSeek-R1 类)会"先想再答",在复杂数学/代码/多步推理上更强,但也更慢更贵更难驾驭。本文讲清推理模型和普通模型的区别、它擅长的场景(数学/逻辑/复杂代码/科研)、不擅长的(简单任务/创意/实时)、以及混合架构——简单活给快模型,硬推理才上推理模型。
#AI #大模型♥ 890 评论
向量索引的零停机重建
换 embedding 模型、改切分、重建索引——这些操作在生产 RAG 里很头疼,搞不好就停服或搜不准。本文讲清向量索引零停机重建的几种方案:蓝绿索引、双写、影子流量、重建+切换,以及增量更新避免全量重建,让你的 RAG 改 embedding/改结构时用户无感。
#RAG #DevOps♥ 910 评论
LLM 应用的 SLO 与告警
LLM 应用要定 SLI/SLO,但你不能照搬传统 Web(它的延迟方差大、质量难量化、成本是指标)。本文讲清 LLM 应用的 SLO 怎么定:延迟(p95/首字时间)、可用性(模型 API 失败率)、质量(评测分/bad case 率)、成本(token/请求),以及配套的告警与错误预算。
#AI #DevOps♥ 950 评论
RAG 的元数据过滤检索
生产 RAG 几乎都要"带条件的检索"——只在我部门/某时间段/某产品里搜。纯向量召回做不到精确过滤,要靠元数据过滤。本文讲清元数据过滤的价值、怎么给 chunk 打元数据、向量库的过滤能力(pgvector SQL/Qdrant payload)、过滤优先于检索的性能收益,以及权限隔离也靠它。
#RAG #DevOps♥ 1030 评论
RAG 检索效果的系统化调试
RAG 答不好,九成是检索环节——但你得先定位是"没召回"还是"召回了没用对"。本文给一套系统化调试流程:看召回(检索到啥)、看相似度、看 rerank、看 prompt,逐层排除;以及常见问题(切分破坏/embedding 不匹配/过滤过严)的判别方法,告别"RAG 答不好就盲目加 rerank"。
#RAG #DevOps♥ 1100 评论