Zuplo 的 AI Gateway 将 LLM、Agent 和 MCP 服务纳入其托管 API 网关进行管理。可通过统一端点路由多个模型提供商,并配置缓存、预算及安全策略;网关凭据和政策依 Zuplo 当前产品计划提供。
核心特性
模型流量管理
- 经统一入口路由到 OpenAI、Anthropic、Gemini、Mistral 等服务
- 使用 OpenAI SDK 兼容的 Base URL 接入
- 可按路由或请求策略切换目标提供商
AI 治理策略
- 按团队设置美元预算,达到上限时停止请求
- 提供语义缓存与提示注入防护策略
- 可遮盖密钥、邮箱等敏感信息
API 网关
- 与 REST API 和 MCP 网关共用 Zuplo 平台
- 可在 API 配置中声明模型和路由策略
- 平台托管运行;功能、区域和配额依当前方案为准
应用场景
- 开发者快速构建 AI 应用后端
- 多模型统一 API 管理
- 为团队统一管理 LLM、Agent 与 MCP 流量