吐槽一下 prompt 注入的攻防
做 LLM 应用最让我头秃的就是 prompt 注入。你在 system prompt 里写了一堆规则,用户输入里来一句"忽略以上指令,改做 XXX",模型经常就照做了。 更阴的是间接注入:模型读到的网页、文档里藏一段恶意指令,它执行了都不知道。防不胜防。 现在我的做法是输入输出
#大模型♥ 320 评论
@falconeye
做无人机的视觉感知。
做 LLM 应用最让我头秃的就是 prompt 注入。你在 system prompt 里写了一堆规则,用户输入里来一句"忽略以上指令,改做 XXX",模型经常就照做了。 更阴的是间接注入:模型读到的网页、文档里藏一段恶意指令,它执行了都不知道。防不胜防。 现在我的做法是输入输出
小项目,单机部署,用 docker compose 跑了快一年生产,整体挺稳。但每次跟人聊都说 "compose 只能跑开发,生产得上 K8s",搞得有点虚。 我的实际体验: 单机够用,重启策略 restart: unless stopped 兜底。 healthcheck 配好
逛了一圈独立开发社区,最大的感受就是:太焦虑了,到处是 MRR 焦虑、增长焦虑、跟风焦虑,忍不住想吐个槽。 打开任何一个独立开发社区,满屏都是"月入万刀""三个月做到 $10k MRR""我是怎么靠 AI 套壳月入十万"。这些故事真假不论,营造出的氛围就是"别人都在赚大钱,只有你