零加价 LLM 网关 Experiential:自建、BYOK 和本地模型走同一个 OpenAI 接口

AI 摘要

Experiential 是一个开源的 Agent 工作流网关,用一个 OpenAI 兼容接口同时接托管模型、自带密钥和本地模型。它能按用户、Agent、场景做细粒度授权和预算控制,默认命令预算 50 美元,并支持把生产流量训练成专属路由或模型来压成本。作者主张零加价,托管版拿到手也就是直连供应商。

2026-10-04·出海情报站·阅读需3分钟

模型调用成本是独立开发者最直接的生死线。Experiential 想做的是把这笔账算清楚、管起来。

三个定位

Experiential 是一个开源的 Agent 工作流网关和路由器,三件事:用一个 OpenAI 兼容接口同时接托管模型、自带密钥(BYOK)和本地模型;按用户、Agent、场景控制谁能用哪些模型、花多少钱;把生产流量训练成定制路由或专用模型,围绕质量、速度和成本做优化。

本地起一个网关很简单,pip install experiential 之后跑 exp,首次启动的设置向导会让你选好供应商、模型和推理强度,把连接持久化,然后给出公开别名、身份标识和 50 美元命令预算的默认值,最后打印一次性密钥。

拿 opus-5 这样的公开别名,配合 Bearer Token 就能直接发请求,OpenAI SDK 不用改。

为什么「零加价」这个点重要

项目明确定位为零加价网关。托管版本拿到手的体验就是直连供应商——你自己带 OpenAI、Anthropic、Gemini、Azure、Bedrock、Fireworks 或 OpenRouter 的密钥,网关负责转发,不在中间抽成。

对独立开发者,这个差别很实际。规模化之后模型账单是毛利的主要变量,一个加价 20% 的中间层一年能吃掉相当可观的一笔。

训练自己的路由是最有意思的部分

第三个定位才是这个项目和普通代理的分野:把真实生产流量喂进去,生成一个为你的业务优化的路由或模型,质量、速度、成本三维权衡。

这解决了一个通用代理解决不了的问题——你的用户里 60% 的请求其实用便宜模型就够,但通用路由不知道这件事,它只会按模型名转。Experiential 的思路是让流量自己教会它。

出海视角:多区域和多供应商的容灾

对于出海产品,模型供应商的可用性本身就是风险点。这个网关的价值在两个场景被放大:一是同一份代码在多区域部署时统一接口,二是某个供应商在某个地区出问题时能快速切走。

仓库还提供了一份给编码 Agent 用的安装提示文档,Claude Code、Cursor、Codex 这类工具读完就能自己把网关配好。

来源:GitHub