输出乱码、复读、突然说另一种语言

模型输出符号乱码、同一段话反复循环、把训练里的其他内容吐出来，或者中文进去英文/日文出来。

最常见是聊天模板（chat template）用错了：不同模型的对话包装格式不同，用错模板等于把乱序标记喂进去。其次是非原生量化组合（某些极低端化在部分架构上会明显退化）、文件损坏、以及采样参数太极端（temperature 过高、repeat penalty 设成负数）。

1. 确认框架用的是模型自带的模板：llama.cpp 默认读文件里的模板，Ollama/LM Studio 需要你选对模型版本而不是随便一个 Modelfile。
2. 换一档量化对照：如果 Q3 系列乱码而 Q4 正常，就是量化太激进，不是配置问题。
3. 采样参数回到保守值：temperature 0.7、top_p 0.9、repeat_penalty 1.0–1.15 先跑一次。
4. 排除文件损坏：按 gguf-truncated 那条核文件大小和哈希。
5. 多语言模型要显式在提示词里指定输出语言，它们默认会跟随训练语料的分布。

同一段输入换模板/换量化后输出正常且两次一致（temp=0 时应当完全一致，这是判断『是量化问题还是随机性问题』的最快方法）。