Orq
托管 AI Gateway 与开发平台,提供多模型路由、请求观测、成本控制及代理构建评估
访问官网 ↗
详细介绍
Orq 提供托管 AI Gateway 和生成式 AI 开发平台。Gateway 通过 OpenAI 兼容接口路由到多家模型,并可与追踪、成本管理、策略、评估和代理开发能力配合使用。供应商及模型数量会变化,按其模型目录核实。
核心特性
模型路由
- 一个 API Key 和 OpenAI 兼容端点连接多个模型
- 可手动选择模型,或使用 Smart Router 自动选择
- 可配置路由策略、故障转移与预算控制
观测与治理
- 追踪模型调用、工具步骤、Token 用量、成本与延迟
- 配置 PII 遮罩、评估器与输入输出 Guardrails
- 支持 OpenTelemetry 等接入方式
开发平台
- 提供代理运行、知识库、实验和评估能力
- 以托管服务为主;数据驻留、地区和合规条件依方案而异
应用场景
- 需要统一路由与观测的生成式 AI 应用
- 企业 AI 治理与合规
- 多团队模型统一管理
常见问题
Orq是什么?
Orq 是托管 AI Gateway 与开发平台,提供多模型路由、请求观测、成本控制及代理构建评估,属于「API」分类,常见标签:聚合平台、API、多模型、治理、网关。
Orq有哪些主要功能?
主要功能包括:一个 API Key 和 OpenAI 兼容端点连接多个模型;可手动选择模型,或使用 Smart Router 自动选择;可配置路由策略、故障转移与预算控制;追踪模型调用、工具步骤、Token 用量、成本与延迟;配置 PII 遮罩、评估器与输入输出 Guardrails。
Orq适合哪些使用场景?
常见使用场景包括:需要统一路由与观测的生成式 AI 应用;企业 AI 治理与合规;多团队模型统一管理。
你可能还喜欢