antirion - 单二进制、内置管理控制台的开源 AI 网关
antirion 是 eliasbiondo 维护的开源 AI 网关,以单个 Rust 二进制形式部署在应用与各家模型服务之间,管理 API 与 Web 控制台一并打包。项目采用 Apache-2.0 许可,截至 2026-10-25 获得 270 星标,最新版本为 v0.1.1。
antirion 是一个开源 AI 网关,部署在应用与各家模型服务之间,把多供应商调用、路由、预算与安全策略收敛到同一层。按项目自述,它用 Rust 写成,网关、Admin API 与 Web 控制台打包为单个二进制(或 distroless 镜像),不需要额外 sidecar,也不需要单独部署前端。它适合需要在多个模型供应商之间做统一接入、成本控制与合规拦截的团队,尤其是希望自托管、不想引入 Python 运行时或独立 UI 服务的场景。
维护者与状态
仓库由 eliasbiondo 维护,地址为 github.com/eliasbiondo/antirion。仓库创建于 2026-10-17,最后一次提交在 2026-10-25,属于非常年轻的项目。最新正式版本为 v0.1.1,发布于 2026-10-18。截至 2026-10-25,仓库获得 270 个星标。项目另有一个官网 antirion.ai。从版本号与时间线看,它仍处于早期阶段,接口与部署方式都可能随版本调整,采用前建议先核对对应版本的文档。
主要能力
以下内容来自项目 README 的自述,未经独立验证:
- 统一供应商接入:据项目说明,支持 OpenAI、Azure OpenAI、Anthropic、Amazon Bedrock、Google Vertex AI、Gemini、Mistral、Cohere、Groq、Together、Fireworks、DeepSeek、xAI、Cerebras、DeepInfra、Perplexity,以及任何兼容 OpenAI 或 Anthropic 协议的服务(例如 vLLM)。客户端可以用 OpenAI、Anthropic、Gemini 或 Bedrock 协议发起请求,由网关在协议之间转换。
- 路由与容错:README 中称提供回退链、加权分流、最低成本、最低延迟、最少负载、分层、内容分类器、重试、对冲请求与熔断,按请求逐次决策并记录在请求日志中。
- 成本控制:按组织、团队、项目与密钥设置速率限制和以美元或 token 计的预算,支持为模型配置价格、维护成本账本,并在预算耗尽前告警。
- 安全护栏:据项目自述,可对 PII、密钥、关键词、正则、JSON Schema、工具权限、话题、内容审核、模型评审与第三方服务做检查,覆盖请求、响应与流式输出,并支持保留格式的脱敏。
- 生产特性:项目说明中提到精确缓存与语义缓存、MCP 与 agent 网关、基于 OIDC/SAML/SCIM 的单点登录、带变更请求的审计日志,以及单节点或基于 PostgreSQL 与 Valkey 的集群部署。
README 还给出了一组与其它网关的性能对比数据。这些数字由项目方自行测量,属于自述材料,本文不将其作为中立结论引用;如需评估,可参考仓库中的基准方法与复现脚本自行验证。
使用入口
代码与文档位于 eliasbiondo/antirion,产品介绍见 antirion.ai。
据 README,最快的方式是用 Docker 启动,无需配置文件:
docker run -p 8080:8080 -p 8081:8081 -v antirion-data:/var/lib/antirion eliasbiondo/antirion
数据面(应用调用的 /v1 API)监听 8080,管理面(Admin API 与控制台)监听 8081。首次启动会在日志中打印控制台地址与一次性显示的管理员 token,并保存在数据卷中。随后在控制台依次添加供应商、添加模型、创建 API 密钥,即可用任意 OpenAI SDK 把 base URL 指向 http://localhost:8080/v1 发起请求。项目说明还提到可用 Docker Compose 启动带邮件功能的实例,或用 Helm chart 部署到 Kubernetes,集群模式需要 PostgreSQL 与 Valkey。
许可与限制
项目采用 Apache-2.0 许可证。
需要留意的边界:项目创建至今不足两周,最新版本为 0.1.x,成熟度有限;README 中的能力清单与性能结论均为项目自述,未经过第三方复核。部署方面,单节点模式使用内嵌存储,集群模式依赖 PostgreSQL 与 Valkey,并需要自行提供至少 32 字符的 bootstrap token 与加密密钥。镜像以 UID 65532 运行,数据保存在 /var/lib/antirion 卷中;若从非默认地址访问控制台,需要设置 ANTIRION_PUBLIC_ORIGIN。此外,网关本身不提供模型,仍需自备各供应商的 API 密钥。