LM Studio

LM Studio 是一个本地大语言模型运行工具，支持在个人电脑上部署和使用各种开源大模型。

主要功能

模型管理

• 内置模型搜索和下载功能（对接 Hugging Face）
• 支持模型量化和压缩
• 直观的模型管理界面

聊天界面

• 类似 ChatGPT 的对话界面
• 支持多轮对话
• 无需网络连接即可使用

本地服务器

• 可启动本地 API 服务器
• 兼容 OpenAI API 格式
• 便于与其他应用集成

技术特点

• 基于 llama.cpp 构建
• 支持 GPU 加速（NVIDIA RTX 系列）
• 针对 Apple M 系列芯片优化
• 提供 GPU/CPU 性能监控

适用场景

• 需要数据隐私保护的场景
• 离线环境使用
• 本地开发和测试
• 学习和研究大模型