大家怎么看微调 vs RAG?
每次有人问"我要让模型懂我们的业务,微调还是 RAG",评论区就吵起来。我说说我的判断。 绝大多数业务场景,RAG 优先:成本低、可更新、可追溯、不动模型。微调适合"风格/格式/领域术语深度内化"的场景,比如让模型说你们公司的黑话、固定输出格式。 最常见误区是拿微调去解决"知识更
#大模型 #RAG♥ 460 评论
@haven
运维,折腾多云部署。
每次有人问"我要让模型懂我们的业务,微调还是 RAG",评论区就吵起来。我说说我的判断。 绝大多数业务场景,RAG 优先:成本低、可更新、可追溯、不动模型。微调适合"风格/格式/领域术语深度内化"的场景,比如让模型说你们公司的黑话、固定输出格式。 最常见误区是拿微调去解决"知识更
Nginx 反代后端服务,平时好好的,高峰期偶发 502,后端日志又没明显异常。排查思路分享一下。 可能原因: 后端进程崩了或重启(看进程存活)。 后端 backlog 满了,新连接被拒( ss ltn 看 Recv Q)。 keepalive 连接被后端单方面关闭,Nginx
上个月正式关停了做了半年的 SaaS,亏损几万块,认真复盘一下死因,给自己和后来者一个交代。 死因主要有三个:第一,伪需求,我自以为找到了痛点,其实用户愿意忍受现状,根本不愿付费;第二,赛道太挤,前排全是成熟竞品,作为一个新站毫无存在感;第三,单人精力跟不上,又要开发又要运营又要