模型调用成本是独立开发者最直接的生死线。Experiential 想做的是把这笔账算清楚、管起来。
三个定位
Experiential 是一个开源的 Agent 工作流网关和路由器,三件事:用一个 OpenAI 兼容接口同时接托管模型、自带密钥(BYOK)和本地模型;按用户、Agent、场景控制谁能用哪些模型、花多少钱;把生产流量训练成定制路由或专用模型,围绕质量、速度和成本做优化。
本地起一个网关很简单,pip install experiential 之后跑 exp,首次启动的设置向导会让你选好供应商、模型和推理强度,把连接持久化,然后给出公开别名、身份标识和 50 美元命令预算的默认值,最后打印一次性密钥。
拿 opus-5 这样的公开别名,配合 Bearer Token 就能直接发请求,OpenAI SDK 不用改。
为什么「零加价」这个点重要
项目明确定位为零加价网关。托管版本拿到手的体验就是直连供应商——你自己带 OpenAI、Anthropic、Gemini、Azure、Bedrock、Fireworks 或 OpenRouter 的密钥,网关负责转发,不在中间抽成。
对独立开发者,这个差别很实际。规模化之后模型账单是毛利的主要变量,一个加价 20% 的中间层一年能吃掉相当可观的一笔。
训练自己的路由是最有意思的部分
第三个定位才是这个项目和普通代理的分野:把真实生产流量喂进去,生成一个为你的业务优化的路由或模型,质量、速度、成本三维权衡。
这解决了一个通用代理解决不了的问题——你的用户里 60% 的请求其实用便宜模型就够,但通用路由不知道这件事,它只会按模型名转。Experiential 的思路是让流量自己教会它。
出海视角:多区域和多供应商的容灾
对于出海产品,模型供应商的可用性本身就是风险点。这个网关的价值在两个场景被放大:一是同一份代码在多区域部署时统一接口,二是某个供应商在某个地区出问题时能快速切走。
仓库还提供了一份给编码 Agent 用的安装提示文档,Claude Code、Cursor、Codex 这类工具读完就能自己把网关配好。
来源:GitHub