Portkey

Portkey 是面向 AI 团队的网关与可观测平台（现已并入 PRISMA AIRS AI Gateway），提供统一 API 访问 1600+ 大模型，并内置可观测性、Guardrails 与治理能力。

核心特性

统一接入

• 一个 API Key 访问 1600+ LLM
• OpenAI 兼容接口，零代码切换模型
• 模型自动路由与负载均衡

可观测性

• 实时请求监控与异常告警
• 按团队、模型、Key 维度的成本追踪
• 请求日志与失败分析

治理与安全

• Guardrails：提示注入、PII、有害内容检测
• 访问控制与审计日志
• Prompt 版本管理与 A/B 测试

成本优化

• 语义缓存，重复请求零成本
• 最低成本路由
• 预算与限流管控

应用场景

• 生产环境 LLM 应用网关
• 企业 AI 成本中心与分摊
• 模型安全合规治理
• 多模型效果对比与切换