Cloudflare AI Gateway

Cloudflare AI Gateway 是 Cloudflare 推出的托管式 AI 网关，通过一个统一的端点代理到 100+ 模型提供商，并提供缓存、限流与可观测能力。

核心特性

统一代理

• 一个端点访问 100+ 模型提供商
• 模型间无缝切换与负载均衡
• 支持 Worker AI、OpenAI、Anthropic 等

成本优化

• 响应缓存，重复请求不重复计费
• 用量统计与成本追踪
• 请求级日志与分析

可靠性与安全

• 限流与频率控制
• 密钥安全存储（不暴露给客户端）
• Cloudflare 全球边缘网络低延迟

可观测性

• 请求成功率、延迟、Token 消耗监控
• 与 Workers 生态深度集成

应用场景

• 基于 Workers 的 AI 应用加速
• 多模型供应商统一管理
• AI 应用成本控制
• 全球低延迟模型代理