Ollama是什么
Ollama是一款 AI 工具。本地运行Llama和其他大语言模型。更多功能与定价请以官网为准。
Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具，允许用户下载并本地运行像Llama 2、Code Llama和其他模型，并支持自定义和创建自己的模型。该免费开源的项目，目前支持macOS和Linux操作系统，未来还将支持Windows系统。
此外，Ollama还提供了官方的Docker镜像，由此使用Docker容器部署大型语言模型变得更加简单，确保所有与这些模型的交互都在本地进行，无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速，并提供了简单的命令行界面（CLI）以及用于与应用程序交互的REST API。
该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用，无需依赖外部云服务。
Ollama安装包获取
获取Ollama安装包，扫码关注回复：Ollama
Ollama支持的模型
Ollma提供一个模型库，用户可以自行选择安装想要运行的模型，目前支持40+的模型，还在持续增加中，以下是可以下载的开源模型示例：
| 模型 | 参数大小 | 文件大小 | 下载运行命令 |
|---|---|---|---|
| DeepSeek-R1 | 1.5B、7B、14B、32B等 | 12-320GB | ollama run deepseek-r1 |
| Neural Chat | 7B | 4.1GB | ollama run neural-chat |
| Starling | 7B | 4.1GB | ollama run starling-lm |
| Mistral | 7B | 4.1GB | ollama run mistral |
| Llama 2 | 7B | 3.8GB | ollama run llama2 |
| Code Llama | 7B | 3.8GB | ollama run codellama |
| Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
| Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
| Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
| Orca Mini | 3B | 1.9GB | ollama run orca-mini |
| Vicuna | 7B | 3.8GB | ollama run vicuna |
Ollama的主要功能
- 核心能力：结合 Ollama 官方能力完成相关 AI 任务。
- 效率提升：减少重复劳动，加快内容或流程产出。
- 结果可用：支持预览、导出或继续编辑。
如何使用Ollama
- 访问官网：打开 Ollama 官方网站，按需注册或登录。
- 选择功能：进入主界面后选择目标能力。
- 输入需求并生成：填写提示词或上传素材，预览后导出。
Ollama的应用场景
- 实验对比：开源模型试用与对比。
- 本地部署参考：推理与运行环境相关。
- 微调探索：训练与适配相关入口。
