网页 综合 更新时间 2026-11-14 01:06:48

Ollama 安装 | 菜鸟教程

自动蜘蛛 www.runoob.com 正文约 1529 字
Ollama 支持多种操作系统,包括 macOS、Windows、Linux 以及通过 Docker 容器运行。
Ollama 对系统要求不高,纯 CPU 也能运行模型,但有没有独立显卡直接决定生成速度。
模型文件体积从几 GB 到几百 GB 不等,安装前请预留足够的磁盘空间。模型默认存放在用户主目录,空间不足时可以通过环境变量 OLLAMA_MODELS 迁移到其他磁盘。
也可以直接下载安装包, 官方下载地址:https://ollama.com/download。
我们可以根据不同的系统下载对应的包,服务器环境推荐 Linux 脚本或 Docker。
打开浏览器,访问 Ollama 官方网站:https://ollama.com/download,下载适用于 Windows 的安装程序。
下载地址为:https://ollama.com/download/OllamaSetup.exe。
下载完成后,双击安装程序并按照提示完成安装。
安装完成后,cmd、PowerShell 或 Windows Terminal 中都可以直接使用 ollama 命令。
打开命令提示符或 PowerShell,输入以下命令验证安装是否成功:
如果需要将 Ollama 安装到非默认路径,可以在安装时通过命令行指定路径,例如:
这样可以将 Ollama 安装到指定的目录。
打开浏览器,访问 Ollama 官方网站:https://ollama.com/download,下载适用于 macOS 的安装程序。
下载地址为:https://ollama.com/download/Ollama.dmg。
Linux 下可以使用一键安装脚本,我们打开终端,运行以下命令:
Docker 适合服务器和需要环境隔离的场景,官方提供现成镜像,CPU 环境一条命令就能跑起来。
让容器用上 NVIDIA 显卡需要先安装 NVIDIA Container Toolkit,以 Ubuntu/Debian 为例:
然后加上 --gpus=all 参数启动容器:
AMD 显卡使用 rocm 标签的镜像,并挂载设备:
容器启动后,通过 exec 在容器内部执行 ollama 命令:
macOS 版 Docker Desktop 不支持 GPU 直通,容器内只能 CPU 推理。Apple Silicon 用户想用 GPU 加速,请直接使用原生安装包。
无论哪种方式安装,最后都用统一的三步验证:查版本、跑对话、连 API。
直接输入 ollama 不带参数,会进入交互式菜单,可以在这里选择模型启动对话:
Ollama 安装后会在本地 11434 端口提供 API,用 curl 请求版本接口确认服务在监听:
macOS 和 Windows 安装后 Ollama 常驻后台(菜单栏 / 托盘图标),API 自动可用;Linux 使用 systemd 服务时同样是开机即用,只有手动 ollama serve 方式需要保持终端开启。
升级很简单,卸载则各平台方式不同,尤其要注意别误删已下载的模型。
macOS 需要手动清理应用和残留文件,逐条执行:
在设置的"应用 - 安装的应用"里找到 Ollama 点击卸载即可。
如果你曾通过 OLLAMA_MODELS 把模型迁移到其他目录,卸载程序不会删除这些模型文件,需要手动清理。
安装阶段的问题大多与网络、磁盘和终端环境有关,下表汇总了最高频的几种。
配置代理时只设置 HTTPS_PROXY 即可,不要设置 HTTP_PROXY:Ollama 拉取模型只走 HTTPS,多设 HTTP 代理反而可能中断客户端与服务端的连接。
访问原文 返回搜索 https://www.runoob.com/ollama/ollama-install.html
本页为82搜索生成的网页快照,内容来自站内索引;演示数据的原文链接仅作示例。