AISIX
API7 团队推出的开源 AI 网关，以 OpenAI 兼容 API 接入多家模型并治理 LLM 流量
访问官网 ↗
详细介绍
AISIX 是 API7 团队面向 LLM 与 AI Agent 的 AI 网关。其开源核心采用 Apache-2.0 许可，可自托管，也提供 AISIX Cloud；官方介绍称支持 100 多家模型服务商。托管服务、企业功能与开源核心的能力范围需分别查看其当前文档。
核心特性
模型接入与路由
- 提供 OpenAI 兼容入口，并原生支持 OpenAI 与 Anthropic Messages 接口
- 接入官方支持的模型提供商，也可连接兼容 OpenAI 接口的服务
- 支持模型路由、重试与故障转移
网关治理
- Token 限流与成本预算
- 提示词和响应护栏、语义缓存及 MCP 网关等 AI 流量能力
- 密钥管理、用量观测与审计能力依部署方案而异
部署方式
- 可自托管数据面并连接所配置的模型服务
- 也可使用 AISIX Cloud 托管版
- 企业控制面与合规功能以厂商当前方案为准
应用场景
- 企业大模型统一接入层
- AI 应用安全治理
- 多模型流量调度
常见问题
AISIX是什么？
AISIX 是 API7 团队推出的开源 AI 网关，以 OpenAI 兼容 API 接入多家模型并治理 LLM 流量，属于「API」分类，常见标签：聚合平台、API、多模型、开源、国产。
AISIX有哪些主要功能？
主要功能包括：提供 OpenAI 兼容入口，并原生支持 OpenAI 与 Anthropic Messages 接口；接入官方支持的模型提供商，也可连接兼容 OpenAI 接口的服务；支持模型路由、重试与故障转移；Token 限流与成本预算；提示词和响应护栏、语义缓存及 MCP 网关等 AI 流量能力。
AISIX适合哪些使用场景？
常见使用场景包括：企业大模型统一接入层；AI 应用安全治理；多模型流量调度。
AISIX怎么使用？
使用方式：提供 OpenAI 兼容入口，并原生支持 OpenAI 与 Anthropic Messages 接口；接入官方支持的模型提供商，也可连接兼容 OpenAI 接口的服务；支持模型路由、重试与故障转移。
你可能还喜欢
就此AI