网页 综合 更新时间 2026-11-14 01:06:54

Ollama 运行模型 | 菜鸟教程

自动蜘蛛 www.runoob.com 正文约 1323 字
Ollama 运行模型使用 ollama run 命令。
例如我们要运行 qwen3.5:0.8b 并与该模型对话可以使用以下命令:
命令执行后会先看到下载进度,下载完成后直接进入对话:
看到 >>> 提示符就说明模型已经加载完成,输入问题回车即可对话。
下载中途断网不必重来,Ollama 支持断点续传,重新执行同样的命令会从上次进度继续。
除了直接敲命令,直接输入 ollama 不带参数会打开交互式菜单,新版把它作为统一入口。
选择 Chat, Code, & Work 即可挑选一个已下载的模型开始聊天,效果和 ollama run 完全一致。
菜单里的 Launch 用于启动 VS Code、Claude Code 等集成工具,属于进阶玩法,教程后面会专门介绍。
模型不是越大越好,跑不动的模型只会让你的电脑风扇狂转、回复以秒甚至分钟计。
新手选择的原则很简单:先跑小的,流畅之后再逐步加大。对照自己机器的内存和显存选:
同一模型的不同规格,能力差距是真实存在的。0.8b 适合验证环境,日常使用建议至少 4b 起步。
你在命令里写的名字由"模型名 + 标签"两部分组成,这决定了你下载的到底是什么。
模型名对应官方模型库里的一家人,比如 qwen3.5、gemma4、deepseek-r1。
同一家族下会有多个规格,它们共用一个模型名。
标签决定具体下载哪个文件,常见的是参数规格,如 0.8b、9b、27b。
不写标签时,Ollama 自动补上 latest,也就是官方为该模型设置的默认规格。
对 qwen3.5 来说,ollama run qwen3.5 等价于 ollama run qwen3.5:latest,当前指向 9b 规格。
带斜杠的名字表示第三方发布的模型,斜杠前是发布者的用户名。
官方模型库里的模型没有命名空间,个人或团队发布的模型(例如 runoob/my-model:4b 这种格式)才会带,模型的分享与分发在私有化部署章节演示。
不确定本地有哪些模型、各占多少空间时,用 list 命令查看:
下一章会把 list、show、rm 等模型管理命令讲全。
对话状态下输入 /bye 即可退出,回到普通终端。
再次运行同一条 ollama run 命令就能重新进入对话,模型已经下载过,这次几乎是秒进。
想换一个模型聊天,直接 run 另一个模型即可,两个模型可以来回切换:
切换后,之前那个模型会在内存里保留约 5 分钟,没有新请求就自动卸载,这个机制叫 keep-alive,下一章会讲怎么调整它。
对话中要输入多行文字时,用三个双引号包裹:
如果你希望将 Ollama 与 Python 代码集成,可以使用 Ollama 的 Python SDK 来加载和运行模型。
首先,需要安装 Ollama 的 Python SDK,打开终端,执行以下命令:
接下来,你可以使用 Python 代码来加载和与模型交互。
以下是一个简单的 Python 脚本示例,演示如何使用 qwen3.5 模型来生成文本:
此代码会与模型进行对话,并打印模型的回复。
此代码会以流式方式接收模型的响应,适用于处理大数据。
访问原文 返回搜索 https://www.runoob.com/ollama/ollama-run-model.html
本页为82搜索生成的网页快照,内容来自站内索引;演示数据的原文链接仅作示例。