GitHub Trending
访问官网 Ollama
在本地一键运行大语言模型。
关于 Ollama
Ollama 把 Llama、Qwen、DeepSeek 等开源模型打包成简单命令即可运行的形式,降低了本地部署大模型的门槛,是个人跑模型的主流选择。
Ollama 的核心功能
- 一条命令即可下载并运行 Llama、Qwen、DeepSeek 等开源模型。
- 自动管理模型文件和版本,支持多模型并存。
- 提供本地 API 接口,方便其他应用调用。
- 跨平台支持 macOS、Linux 和 Windows。
Ollama 适合哪些场景
- 开发者在没有网络或数据敏感的环境使用大模型。
- 个人用户搭配 Open WebUI 搭建私有的 ChatGPT 替代品。
- 研究者快速对比不同开源模型的实际表现。
- 小团队在内网部署模型服务供内部应用调用。
Ollama 的特点
- 本地跑大模型的门槛降到一条命令。
- 模型库更新快,热门开源模型跟进及时。
- API 兼容性好,生态工具丰富。
Ollama 使用指南
Ollama 常用命令速查
ollama run 加模型名即可下载并进入对话;ollama list 查看已安装模型;ollama rm 删除模型释放空间。配合 --help 参数可以查看每个命令的完整选项。
如何让其他应用调用 Ollama 的模型
Ollama 启动后会在本地端口提供 OpenAI 兼容的 API 接口,大部分支持自定义 API 地址的应用都能直接对接。这也是它与 Open WebUI 等前端搭配使用的方式。
Ollama 常见问题
Ollama 需要什么配置的电脑
配置要求取决于模型规模:7B 级别的模型一般 8GB 内存即可运行,更大的模型需要更多内存或显存。具体模型的硬件建议以官方模型库说明为准。
Ollama 下载的模型保存在哪里
模型默认保存在用户目录下的 .ollama 文件夹中,可以通过环境变量修改存储位置。模型文件较大,下载前注意磁盘空间。
Ollama 可以商用吗
Ollama 本身是开源软件,但商用合规性主要取决于所用模型的许可证。不同模型的商用条款不同,使用前请查阅对应模型的许可协议。
第三方网站的功能、价格和可用性可能发生变化。请在访问时查看其最新条款,并谨慎处理个人或敏感信息。