求助:怎么防止 Agent 调用危险工具
给 Agent 配了一堆工具,但有几个是高危的(删数据、发邮件、改权限)。担心它哪天误判调用,想加层防护。 现在的做法是给工具打"危险等级"标签,高危工具调用前强制弹人工确认。但 Agent 有时会"绕路",比如用一堆看似无害的工具组合达到危险效果。 有没有更稳的拦截思路?大家都
#AI Agent♥ 930 评论
@amberfox
前端,做可视化和大屏。
给 Agent 配了一堆工具,但有几个是高危的(删数据、发邮件、改权限)。担心它哪天误判调用,想加层防护。 现在的做法是给工具打"危险等级"标签,高危工具调用前强制弹人工确认。但 Agent 有时会"绕路",比如用一堆看似无害的工具组合达到危险效果。 有没有更稳的拦截思路?大家都
代码托管在 GitHub,但公司又在内网部署 GitLab。CI/CD 选哪个一直在吵。 简单对比: GitHub Actions:生态丰富,marketplace 现成 action 多,公开仓库免费。 GitLab CI:跟仓库一体化,Docker in Docker 体验好
最近经常看到"程序员做自媒体月入十万"的故事,有点心动又有点怀疑,想听听大家的真实看法。 支持的理由:自媒体是个人品牌的放大器,能带来咨询、课程、赞助等多元收入;而且写作和表达本身对技术成长也有帮助。 反对的理由:做自媒体极其耗时,挤占技术和产品时间;而且大部分人都做不起来,回报