常见问题 / 选卡与预算
Mac(M 系列统一内存)能不能跑本地大模型?
能,靠统一内存装得下很大的模型,但带宽只有同级独显的 1/3 到 1/2,所以『能跑很大但很慢』。买 Mac 跑大模型要按带宽而不是内存大小做决定。
Apple 的统一内存让 CPU 和 GPU 共享同一条内存池,带宽对整块芯片是固定的。这意味着 64G 的 Mac 能装下 70B 的 Q4,但读权重的带宽决定了速度上限,通常同价位独显方案的 1/3 到 1/2。
本站的估算引擎按『显存带宽』建模,Mac 的映射口径和独显不同(还需要在系统设置里调 GPU 可用内存上限),所以本站不给 Mac 的容量表结论,只提示两点:① 统一内存不等于显存,速度上限是带宽给的 ② MLX 生态比 GGUF 快,同一台 Mac 上换框架能差 30–50%。
Mac 适合的场景:写作为主的长上下文(Prompt caching 复用 KV,长对话首 token 快)、离线便携、不想折腾驱动。不适合:追求 tok/s、批量跑数据、跑需要 CUDA 的周边工具链。
条目性质:本站依据自身数据模型与公开架构常数撰写。 有错请直接告诉我们,见关于页。