上传实测

MiniMax-M3

MiniMax · 428B 总参数 / 激活 23B · MoE · MSA 块级稀疏注意力（MiniMax Sparse Attention：4 索引头 topk 16 块 / 块 128 token）· GQA 64Q 4KV · 60 层（前 3 dense）· 128 专家 top-4 + 1 共享（sigmoid 路由 + bias）· 原生多模态（文/图/视频）· 1M 原生 · 1 层 MTP · 开源 2026-06-01 · 428B/23B 稀宇 / MiniMax M3 / MiniMax Community License / 门槛条目 / 1M 原生 / MSA 稀疏注意力 / 原生多模态

关于 MiniMax-M3 的完整介绍（点开看；上面就是结论表）

MiniMax（稀宇科技）**2026-06-01 正式发布**（官博 minimax.io/blog/minimax-m3 一手：API 先行，官方原文「Over the next 10 days, we will release the technical report and open-source the corresponding model weights」）——**B-061 日期核清（2026-11-09）**：权重 HF 仓库 MiniMaxAI/MiniMax-M3（+MXFP8 版）**createdAt 2026-06-02T07:49/07:50Z**（hf-mirror 搜索 API 一手），五家国产算力 Day0 通稿一致称「**06-12 正式开源**」（摩尔线程/壁仞/海光/华为云/昆仑芯）——两说并存，本条按 HF 上传日 06-01/06-02 记 release_date、两说全留痕。原闭源表「日期未核」是检索未到位（B-058 遗留），一手源核到后**改判开源**（开放权重 + 商用限制许可，与 K-EXAONE/Inkling 同款口径）。**428B 总 / 23B 激活 MoE**（model card「~428B parameters and ~23B activated」+ unsloth 文档同数），config 一手核到（hf-mirror MiniMaxAI/MiniMax-M3/config.json，model_type minimax_m3_vl，VL 结构 text_config 内）：60 层（moe_layer_freq 前 3 层 dense）、128 路由专家 top-4 + 1 共享（sigmoid 评分 + 路由 bias）、**MSA 块级稀疏注意力**（4 索引头 / index_dim 128 / topk 16 块 / 块 128 token / max 评分 / 前 3 层 dense）、GQA 64 查询头 / 4 KV 头 / head_dim 128 / hidden 6144 / 1M 原生（max_position_embeddings 1,048,576）/ vocab 200,064 / **1 层 MTP**（7 模块，官方 3 模式 thinking/adaptive/disabled）。MSA 是块级稀疏（只稀疏读、不稀疏存，KV 缓存仍按全量 GQA 记；llama.cpp 的 GGUF 路径本就回退 dense），故 2026-11-12 已按 config 六字段转正 arch_detail：60 层 / 4KV / head_dim 128，KV 0.469G/4K；MSA 稀疏使实际读取低于此值，note 声明；**llama.cpp minimax-m3 分支 MSA 未支持回退 dense**——GGUF 跑 1M ctx 显存账按 dense 算，unsloth 仓库原话留痕）。许可 **MiniMax Community License**（LICENSE 全文一手：非商用自由；商用需显著标注「Built with MiniMax M3」；年营收超 2000 万美元需事先书面授权 api@minimax.io，否则一次性告知）——非 Apache，开放权重带商用门槛。多模态（文/图/视频原生，混合模态训练）+ 编程/Agent/电脑操作，推荐 temperature 1.0 / top_p 0.95。能力分（vendor 口径留痕）：HF eval 卡 SWE-bench Verified 80.5 / MMMU Pro 78.1 / SWE-bench Pro 59；官方自报 1M ctx prefill 9× / decode 15× vs M2、每 token 算力 1/20。**AA 19 分（2026-11-07 快照）已链本条**（evals aa-minimax-m3 model_slug 补链——API 评测不代表本地 GGUF 速度）。显存门槛：BF16 ~856G / 官方 MXFP8 ~427G / 社区 UD-Q4_K_M 264G（unsloth，1-bit 最低 128G）——**多卡/多机门槛条目**。家族：M3.1-Flash（10-23 开源，428B/23B 同规模、MSA 全层覆盖 + DSpark、AA 29）是本站另一条 minimax-m3-1-flash；M2.7 为 6/1 前旧代际。站内暂无他测速度（门槛模型，按容量表推算）。

实测速度：什么卡、什么量化、多少 token

这一模型还没有实测条目。
上传实测数据

每行是一次真实测量的完整口径：哪张卡、几张卡、什么量化、多大上下文、哪个框架哪个版本、单流还是并发、开没开投机—— 缺一项就会标出来，缺项的行不参与对比与偏差计算。本站实测行没有外链，但日志路径就是原始数据所在。 想看同一张卡跑别的模型，从这个表的显卡名点进那张卡的页面。

速查：什么卡、跑多少 token

AMD R9 295X2 8G装不下（8G · 推算）
NVIDIA RTX 5070 12G装不下（12G · 推算）
AMD Radeon VII 16G装不下（16G · 推算）
NVIDIA RTX 4090 24G装不下（24G · 推算）
NVIDIA RTX 5090 32G装不下（32G · 推算）
NVIDIA RTX PRO 5000 Blackwell 48G（工作站）装不下（48G · 推算）

推算值按 IQ4_XS、8K 上下文、单流；真实测量看下面的实测速度表。没有实测的模型这里只有推算，本站不把推算写成实测。

架构常数（已核实）

层数60
KV 头数4
每头维度128
需全量 KV 的层60 / 60
滑窗长度无（全层线性）
原生上下文上限1024K
KV 每 4K（FP16）0.469 G
KV 每 1K token0.12 G

来源：MiniMaxAI/MiniMax-M3 / config.json（抓取于 2026-11-12）。KV 公式：2 × 层数 × KV头数 × 头维 × 精度字节 × token（滑窗层按 — 封顶）。

上下文档位（按 IQ4_XS）

上下文KV总需显存16G 水位内
4K0.47 G228.8 G超
8K0.94 G229.3 G超
32K3.75 G232.1 G超
128K15 G243.4 G超

* 含 1G 框架开销；可用水位按 Windows 口径 88% = 14.1G。

各显存档位能开多大

显存推荐量化8K 总需最多可开
4G装不下——
6G装不下——
8G装不下——
10G装不下——
11G装不下——
12G装不下——
16G装不下——
20G装不下——
22G装不下——
24G装不下——
32G装不下——
48G装不下——
64G装不下——
96G装不下——
128G装不下——
256G装不下——
512GQ6_K（估算）352.9G861696（约 842K）

「最多可开」已扣掉权重与 1G 开销；标注为「模型原生上限」时表示显存还有余但模型只支持这么长。净可用还要再减聊天模板与系统提示词的 250 token（估算值，未逐项核实）。量化档后带「（估算）」= 官方仓库没核到这档、按公式算的权重体积（方向保守偏高）；不带 = 核过官方仓库真实文件体积。

这是 MoE 模型：显存需求按 428B 总参数算，速度按激活 23B 算。把专家放内存可以用更小的卡跑它，见 稠密与 MoE 的区别。

估算速度（IQ4_XS · 8K）

推算 本站暂无这一模型的实测记录。

显卡状态估算 tok/s
NVIDIA RTX 5090 32G装不下需 offload ≈2–3
NVIDIA RTX 5090 D 32G装不下需 offload ≈2–3
NVIDIA CMP 170HX 64G（矿卡魔改）装不下需 offload ≈2–3
NVIDIA RTX PRO 5000 Blackwell 48G（工作站）装不下需 offload ≈2–3
AMD Instinct MI100 32G（老数据中心卡）装不下需 offload ≈2–3
AMD Instinct MI50 32G（数据卡）装不下需 offload ≈2–3
AMD Radeon VII 16G装不下需 offload ≈2–3
NVIDIA RTX 4090 24G装不下需 offload ≈2–3
NVIDIA RTX 3090 Ti 24G装不下需 offload ≈2–3

同一套公式也用于显卡页，两页数字必然一致。带宽按 60–85% 效率折算（offload 场景更低），并对单流解码设经验上限，因此这里的数字比纯带宽公式保守。 总需显存 = 229.3G，对比各卡可用水位。

实测数据区

暂无实测数据。
上传实测数据

推理框架命令

llama.cpp

# 1) 取 GGUF 权重（本站核实过的仓库名）
huggingface-cli download MiniMaxAI/MiniMax-M3 config.json
#   GGUF 量化版通常在第三方转换仓库，搜「MiniMaxAI/MiniMax-M3 GGUF」
# 2) 起服务（Linux/macOS 用 ./llama-server，Windows 用 llama-server.exe）
llama-server -m MINIMAX-M3-Q4_K_M.gguf -ngl 99 -c 8192 --port 8080
# MoE：想让专家留在内存以塞更大模型，加 --n-cpu-moe（参数名随版本变，用 --help 确认）

Ollama

# 本站没核实到 Ollama 仓库里有 MiniMax-M3 的可用标签，所以不给命令
# 自己去查一眼：https://ollama.com/search?q=MiniMax-M3

宁可不给命令，也不给一条跑不通的命令——照抄未核实的标签是新手最常见的卡死原因。

vLLM

vLLM 直接吃 Hugging Face 仓库名，这条最可靠：
vllm serve MiniMaxAI/MiniMax-M3 --max-model-len 8192 --gpu-memory-utilization 0.90

LM Studio

模型页搜「MiniMaxAI/MiniMax-M3」→ 选 IQ4_XS 或 Q4_K_M → Load →
Chat Context Length 设 8192 → GPU Offload 拉到最大

仓库名 MiniMaxAI/MiniMax-M3 是本站核实过的（架构常数就取自它）。Ollama 标签与 GGUF 文件名会随发布方变动，本站不保证一定存在，拉取失败请搜同名前缀。

优化要点

相关

16G 显存有哪些卡看 MiniMax-M3 在 16G 这一档和别的卡/模型比是什么位置装不下 / out of memory 怎么排查先确认是权重超容量还是上下文吃光了余量小模型跑 Q8、大模型跑 Q4 对不对？量化档应该由剩余显存决定，不是由参数量决定

有 MiniMax-M3 的实测数据？

上传速度 → 进入实测表，并成为这一页的第一行实测。

上传实测数据
这条内容有帮助吗？