「高性能」相关的 AI 工具

标签「高性能」下的 1 个 AI 工具推荐，附功能介绍和官网链接。

• vLLM开源 LLM 推理与服务引擎，提供连续批处理、分布式推理及 OpenAI 兼容 API