你现在主力调哪家的大模型 API?
我做应用基本离不开 API 调用了,以前是某一家死忠,最近半年纷纷转向多供应商。原因一是价格战打起来,二是各家各有擅长,三是怕单一供应商出故障全盘崩。 我现在主力推理用一家,工具调用用另一家,便宜路由用开源小模型,靠一个统一网关切换。 缺点是不同模型行为差异大,prompt 经常
#大模型♥ 110 评论
@cinders
做联邦学习和隐私计算。
我做应用基本离不开 API 调用了,以前是某一家死忠,最近半年纷纷转向多供应商。原因一是价格战打起来,二是各家各有擅长,三是怕单一供应商出故障全盘崩。 我现在主力推理用一家,工具调用用另一家,便宜路由用开源小模型,靠一个统一网关切换。 缺点是不同模型行为差异大,prompt 经常
小团队上监控,自建 Prometheus + Grafana vs 用托管(Grafana Cloud、阿里云 ARMS)一直在纠结。 自建的好处: 完全可控,数据在自己手里。 长期成本低(机器自己有)。 PromQL 生态丰富。 托管的优点: 不用维护存储、HA、告警链路。 开
出海做 SaaS,第一个绕不开的坑就是收款:Stripe 还是 Paddle?研究了很久,分享一下两者的取舍。 Stripe:体验最好、功能最全、开发者友好,但对中国大陆主体不友好,注册门槛高,资金合规回流麻烦。 Paddle:定位是 Merchant of Record,帮你搞