本地部署工具大全

精选 5 个本地部署方向的 AI 工具与网站，附功能介绍、标签和官网链接。

• LM Studio本地模型桌面与开发工具，支持下载和运行模型、MCP 工具及兼容 API 服务
• Ollama模型运行与管理工具，可在本机运行开源模型，也可通过 Ollama API 使用云端模型
• Open WebUI开源、可扩展的模型聊天与 AI 工作空间，支持本地模型、知识库、联网搜索、工具和团队权限
• vLLM开源 LLM 推理与服务引擎，提供连续批处理、分布式推理及 OpenAI 兼容 API
• Jan开源 AI 桌面应用与 CLI，支持本地模型、远程服务商、MCP、本地 API 和 Agent