故障排查 / 框架环境

ollama run 同一个 latest,今天下载的和昨天不一样

本站未复现 改写 影响:Ollama 跨版本 · Windows / Linux / macOS

现象

同一个 ollama run qwen:latest,昨天和今天加载的模型感觉不一样:体积变了、速度变了、或者输出质量变了。你以为模型坏了或更新出 bug,其实是 Ollama hub 默认量化档会变。

原因

Ollama 的 latest 标签不锁死量化档,它指向 hub 当前推荐的量化格式,会随 hub 更新与 Ollama 主版本升级而变。同是 4-bit,老式的 q4_0(遗留格式)与 q4_K_M(K-quant)在质量和体积上都有差异——同一个名字在不同时间实际指向不同文件。

按这个顺序处理

  1. 锁死具体 tag 而不是用 latest:ollama pull qwen:<具体量化tag> 或明确到某次版本,避免 hub 默认档变动。
  2. 对比文件大小和哈希:ollama show qwen 看规格,下新文件前和旧文件比字节数,不一样就是 hub 换了档。
  3. 理解 latest 语义:latest 指向 hub 当前推荐档,会随作者/平台更新而变,不是历史快照。
  4. 想复现昨天的效果就记录当时的确切 tag 或 SHA,别依赖 latest。

怎么确认解决了

ollama show <模型> 看当前 tag/量化/字节数,和你期望的版本一致;锁定具体 tag 后同一文件多次拉起结果相同。

来源与可信度

条目性质依据公开事实与社区普遍报告,用本站自己的话重写(未搬运任何他人文章段落)
是否已在本站机器复现否——请把这条当线索而不是结论

相关条目

同一个模型在 Ollama 和 llama.cpp 上速度/显存差很多框架环境 · Ollama 跑得比手动 llama.cpp 慢一大截,或者显存占用更高;同一个 GGUF 两边结论不一样。llama.cpp、Ollama、LM Studio、vLLM 我该用哪个?想控制显存和参数用 llama.cpp;想一条命令搞定用 Ollama;想要图形界面用 LM Studio;想要高并发服务很多人用 vLLM。新手第一站推荐 LM Studio。量化是什么?Q4_K_M、Q8_0、IQ3 这些名字什么意思?量化就是把每个参数用更少的比特存下来,模型变小变快,质量按档位往下掉。Q8 几乎无损,Q4 是主流甜点位,Q3 已经能听出变笨。

框架环境 · 其他条目

nvidia-smi 显示已经占了 1–2GB,模型装不下同一个模型在 Ollama 和 llama.cpp 上速度/显存差很多魔改卡(改大显存/数据卡)驱动更新后识别异常LoRA/微调 Loss 不降或发散设了 CUDA_VISIBLE_DEVICES 却没生效 / 指定卡不工作
回到故障排查首页查容量是否本来就不够上传实测数据
这条内容有帮助吗?