Ollama
模型运行与管理工具，可在本机运行开源模型，也可通过 Ollama API 使用云端模型
访问官网 ↗
详细介绍
Ollama 提供模型下载、运行、管理与 API。用户可在本机运行模型，也可使用 Ollama Cloud 执行本地硬件无法承载的模型；本地和云端访问方式、鉴权要求不同。
主要功能
模型管理
- 从模型库下载并管理支持的模型
- 模型及标签持续变化，运行前查看模型库说明和硬件要求
简单易用
- 提供命令行、桌面应用与本地 REST API
- 官方 API 也支持直接调用云端模型
高级功能
- ModelFile 自定义：支持系统提示词、对话模板、温度等参数配置
- 模型量化：降低显存需求
- 多模态支持
- 内置 REPL 交互环境
技术特点
- 本地推理性能与模型、量化方式和硬件有关
- 提供 OpenAI 与 Anthropic 客户端兼容接口
- 可连接使用 Ollama 的桌面应用和编码 Agent
适用场景
- 开发和测试
- 需要数据隐私的场景
- 离线环境使用
- 本地 AI 应用开发
常见问题
Ollama是什么？
Ollama 是模型运行与管理工具，可在本机运行开源模型，也可通过 Ollama API 使用云端模型，属于「本地部署」分类，常见标签：本地运行、开源、命令行、跨平台、多模型。
Ollama有哪些主要功能？
主要功能包括：从模型库下载并管理支持的模型；模型及标签持续变化，运行前查看模型库说明和硬件要求；提供命令行、桌面应用与本地 REST API；官方 API 也支持直接调用云端模型；ModelFile 自定义：支持系统提示词、对话模板、温度等参数配置。
Ollama适合哪些使用场景？
常见使用场景包括：开发和测试；需要数据隐私的场景；离线环境使用；本地 AI 应用开发。
你可能还喜欢
就此AI