Envoy AI Gateway

CNCF Envoy 生态的 AI 网关，基于 Kubernetes Gateway API 管理 LLM 流量

访问官网 ↗

聚合平台 API 多模型开源网关

详细介绍

Envoy AI Gateway 是 Envoy 开源生态推出的 AI 网关项目，使用 Kubernetes Gateway API 标准管理大模型流量，为云原生环境提供模型路由与治理能力。

核心特性

云原生架构

基于 Kubernetes Gateway API 标准
声明式配置，与现有 K8s 工作流集成
Envoy 数据面，生产级性能

LLM 流量管理

多模型路由与故障转移
请求限流与背压控制
Token 用量与成本追踪
提示词与响应审计

开源生态

CNCF Envoy 社区驱动
与 Istio、Gateway API 生态兼容
可扩展的过滤器机制

应用场景

Kubernetes 环境的多模型统一入口
平台工程团队构建 AI 基础设施
大规模 LLM 流量治理

常见问题

Envoy AI Gateway是什么？

CNCF Envoy 生态的 AI 网关，基于 Kubernetes Gateway API 管理 LLM 流量

Envoy AI Gateway的官网地址是什么？

Envoy AI Gateway的官网是 https://gateway.envoyproxy.io/ 。

Envoy AI Gateway的同类替代工具有哪些？

与Envoy AI Gateway同属「API」分类的工具包括DeepSeek 开放平台、Moonshot AI、火山引擎、OpenRouter、硅基流动等。

同分类更多工具

正在加载完整版…