LM Studio 提供桌面聊天、模型管理与开发者接口,可在个人电脑上运行支持的本地模型,也能连接远程工作流。它支持 llama.cpp(GGUF)和 Apple Silicon 上的 MLX runtime,并可在安装模型后离线使用。
主要功能
模型管理
- 内置模型搜索和下载功能(对接 Hugging Face)
- 可从 Hugging Face 搜索和下载模型
- 管理本地模型、运行时与配置
聊天界面
- 类似 ChatGPT 的对话界面
- 支持多轮对话
- 可与本地模型聊天;联网能力取决于所启用的工具或连接
本地服务器
- 提供 OpenAI 兼容及 Anthropic Messages API
- 支持 REST API、Python/TypeScript SDK 与命令行
- 可运行 headless 服务 llmster,连接 MCP 工具
技术特点
- 可在 macOS、Windows 和 Linux 运行,模型兼容性与性能取决于平台和硬件
- Apple Silicon 支持 MLX;llama.cpp runtime 可运行 GGUF 模型
适用场景
- 需要数据隐私保护的场景
- 离线环境使用
- 本地开发和测试
- 学习和研究大模型