过去我们的 AI 网关,绝大多数的更新关注点在以下几个方面: - 如何统一接入 OpenAI、Anthropic、Gemini 等协议 - 如何在多个 Provider 之间路由和故障转移 - 如何管理 API Key、预算、Token、成本与调用日志 但当 Agent 真正进入业务,模型调用只是链路的一部分。它还会搜索网页、抓取正文、做深度检索,甚至调用 AI...
阅读全文如果你跟我一样,平时折腾独立产品、或者是 AI 方向的 OPC,相信你一定买了很多 Coding Plan、Token Plan 等各种 AI 资源。不论你是在各种客户端中使用,还是自己开发产品提供 AI 服务,都需要接入这些资源。由于那么多供应商都提供了单独的 BaseUrl 和 ApiKey 接入,本身管理这些信息就很麻烦,在接入方还要根据不同的需要配置不同的供应商,日常调度切换也是非常头疼。...
阅读全文!dashboard.pnghttps://static.didispace.com/images4/7022b3b73405f5fa3bc6bc4a05c7a0a9.png 前段时间开源了一个自己搓的 AI 网关,没怎么宣传,其实已经线上跑了很久了,搓这个目的主要两个应用场景: - 个人资源的汇总,比如:买的各种 Coding Plan、Token...
阅读全文