「网关」相关的 AI 工具

标签「网关」下的 11 个 AI 工具推荐，附功能介绍和官网链接。

• LiteLLM
  开源 AI 网关，统一接口访问 140+ 模型供应商，支持预算管控与成本路由
• Higress
  阿里云开源云原生 AI 网关，支持多模型统一代理、应用防护与 Token 管控
• Portkey
  AI 网关与可观测平台，统一访问 1600+ 模型，集成 Guardrails 与成本治理
• Cloudflare AI Gateway
  Cloudflare 托管 AI 网关，统一代理多模型 API，内置缓存、限流与可观测
• Kong AI Gateway
  Kong 推出的 AI 网关，在成熟 API 网关之上提供多模型路由、语义缓存与 Guardrails
• Envoy AI Gateway
  CNCF Envoy 生态的 AI 网关，基于 Kubernetes Gateway API 管理 LLM 流量
• Helicone
  LLM 可观测与代理网关，统一接入多模型并提供日志、成本追踪与缓存
• AISIX
  支流科技（API7）开源 AI 网关，专注大模型流量治理与安全防护
• Orq
  企业级 AI 网关与治理平台，统一模型接入、Guardrails 与合规管理
• Helix Gateway
  开源免费的轻量 AI 网关，统一接入多模型并支持自托管部署
• Zuplo
  API 网关平台提供的 AI 网关能力，统一多模型接入、Key 管理与速率限制