Groq
GroqCloud 提供 OpenAI 兼容的高速模型推理 API,模型目录和弃用状态公开可查
访问官网 ↗
详细介绍
GroqCloud 提供模型推理 API,可使用 Groq SDK 或 OpenAI 兼容接口。Hosted model 列表、模型 ID、预览状态、限流和价格会变化,生产集成应跟踪弃用通知。
主要特点
- 使用 Groq LPU 推理基础设施提供托管模型。
- OpenAI 兼容 Base URL 为
https://api.groq.com/openai/v1,支持 Chat Completions 等接口。
- 部分模型具有预览状态;官方文档区分预览、生产与已弃用模型。
- 模型 API 可列出当前账户可用模型;免费开发者计划有速率限制。
使用场景
- 低延迟推理应用
- OpenAI 兼容客户端迁移
- 使用 Compound 等内置工具模型系统(遵循最新弃用通知)
官方资料:模型列表、弃用记录。
常见问题
Groq是什么?
Groq 是 GroqCloud 提供 OpenAI 兼容的高速模型推理 API,模型目录和弃用状态公开可查,属于「API」分类,常见标签:极速推理、API、开源模型、低成本、LPU。
Groq有哪些主要功能?
主要功能包括:使用 Groq LPU 推理基础设施提供托管模型。;OpenAI 兼容 Base URL 为 https://api.groq.com/openai/v1,支持 Chat Completions 等接口。;部分模型具有预览状态;官方文档区分预览、生产与已弃用模型。;模型 API 可列出当前账户可用模型;免费开发者计划有速率限制。。
Groq适合哪些使用场景?
常见使用场景包括:低延迟推理应用;OpenAI 兼容客户端迁移;使用 Compound 等内置工具模型系统(遵循最新弃用通知)。
Groq是免费的吗?
根据官方资料:GroqCloud 提供模型推理 API,可使用 Groq SDK 或 OpenAI 兼容接口。Hosted model 列表、模型 ID、预览状态、限流和价格会变化,生产集成应跟踪弃用通知。;模型 API 可列出当前账户可用模型;免费开发者计划有速率限制。。
你可能还喜欢