求助:RAG 答非所问怎么排查
我的 RAG 系统最近经常"答非所问":明明检索到了相关文档,生成的答案却跑偏,甚至和文档矛盾。不知道是检索环节还是生成环节的问题。 排查思路是不是该分两步看:先把检索到的 chunk 打印出来看相不相关,再让人生成答案看模型有没有用对上下文? 有没有一套成熟的排查流程?或者常见
#RAG♥ 10 评论
@cedar
在做时间序列预测模型。
我的 RAG 系统最近经常"答非所问":明明检索到了相关文档,生成的答案却跑偏,甚至和文档矛盾。不知道是检索环节还是生成环节的问题。 排查思路是不是该分两步看:先把检索到的 chunk 打印出来看相不相关,再让人生成答案看模型有没有用对上下文? 有没有一套成熟的排查流程?或者常见
一个 Pod 频繁重启, kubectl describe 看到 Last State: OOMKilled ,但容器内 top 内存看着没超 limit。排查记录。 关键点: OOMKilled 看的是容器 limit,不是节点内存。 内存尖峰(一次性加载大文件)可能瞬间超限被
快 30 了,还在一线写代码,身边的同龄人大多转了管理或带团队,偶尔会被问"你怎么还在写代码",搞得有点自我怀疑。 社会上普遍的声音是:30 岁该转管理了,再写代码就是"原地踏步"。但我自己其实更喜欢写代码,对带人和办公室政治没兴趣。 我观察国外,40+ 的一线程序员很常见,并不