Ollama

关于

Ollama 是一款免费开源工具，让你通过简单的命令行界面在本地机器上运行大语言模型。无需按 Token 支付 API 费用，也无需将数据发送到云服务器，Ollama 将 Llama 3、Mistral、Phi-4、Gemma、Qwen 和 deepseek-r1 等模型直接下载到你的电脑并完全离线运行。对于关心数据隐私的人来说，Ollama 是最终的解决方案——敏感文档、专有代码或个人对话从不离开你的机器。运行 Ollama 就像在终端输入 "ollama run llama3" 一样简单，工具会自动处理模型下载和设置。它支持超过 100 种模型，还可以从 Hugging Face 导入自定义模型。对开发者来说，Ollama 在 localhost 上暴露了兼容 OpenAI 的 API 端点，任何为 OpenAI API 构建的应用只需更改基础 URL 即可使用本地模型。主要的限制是性能——在没有强大 GPU 的笔记本上运行 700 亿参数的模型会很慢，但 Phi-4 或 Gemma 3B 这样的小模型在大多数现代硬件上运行良好。对于注重隐私的用户、尝试不同模型的 AI 爱好者和构建离线能力应用的开发者来说，Ollama 是必备工具。

使用场景

价格

扩展与插件

技能

相关工具

相关文章