就此AI就此AI

Orq

托管 AI Gateway 与开发平台,提供多模型路由、请求观测、成本控制及代理构建评估

访问官网 ↗

详细介绍

Orq 提供托管 AI Gateway 和生成式 AI 开发平台。Gateway 通过 OpenAI 兼容接口路由到多家模型,并可与追踪、成本管理、策略、评估和代理开发能力配合使用。供应商及模型数量会变化,按其模型目录核实。

核心特性

模型路由

  • 一个 API Key 和 OpenAI 兼容端点连接多个模型
  • 可手动选择模型,或使用 Smart Router 自动选择
  • 可配置路由策略、故障转移与预算控制

观测与治理

  • 追踪模型调用、工具步骤、Token 用量、成本与延迟
  • 配置 PII 遮罩、评估器与输入输出 Guardrails
  • 支持 OpenTelemetry 等接入方式

开发平台

  • 提供代理运行、知识库、实验和评估能力
  • 以托管服务为主;数据驻留、地区和合规条件依方案而异

应用场景

  • 需要统一路由与观测的生成式 AI 应用
  • 企业 AI 治理与合规
  • 多团队模型统一管理

常见问题

Orq是什么?

Orq 是托管 AI Gateway 与开发平台,提供多模型路由、请求观测、成本控制及代理构建评估,属于「API」分类,常见标签:聚合平台、API、多模型、治理、网关。

Orq有哪些主要功能?

主要功能包括:一个 API Key 和 OpenAI 兼容端点连接多个模型;可手动选择模型,或使用 Smart Router 自动选择;可配置路由策略、故障转移与预算控制;追踪模型调用、工具步骤、Token 用量、成本与延迟;配置 PII 遮罩、评估器与输入输出 Guardrails。

Orq适合哪些使用场景?

常见使用场景包括:需要统一路由与观测的生成式 AI 应用;企业 AI 治理与合规;多团队模型统一管理。

Orq的同类替代工具有哪些?

与Orq同属「API」分类的工具包括LiteLLM、Higress、Portkey、Cloudflare AI Gateway等;它们与Orq共同覆盖「聚合平台、API、多模型、网关」等标签。

Orq的官网地址是什么?

Orq 的官网是 https://orq.ai/。

你可能还喜欢

正在加载完整版…