DeepSeek-V4.1-Flash

这条是清单里的「门槛展示」条目，不是给消费卡的推荐。两笔账必须分开：① 权重本体 552B 骨干（config 一手核到：MoE 384 路由专家激活 6 + 1 共享 / 40 层 / MLA 多潜注意力 / 1M ctx 由 64K YaRN 16× 外推 / MIT 许可 / 2026-09-09 开源），另加 196.6B 参数的 Engram 哈希 n-gram 记忆表（config：2 张 384M × 256 维表 = 196.6B，恰好对上「552B 骨干 + 196.6B Engram」的官方口径，合计约 749B）——Engram 表是哈希查表不是 GEMM，可整块放 host 内存（vLLM 官方 recipe 即如此跑：CPU offload Engram + routed experts），这是它和「纯 749B 权重」的本质区别。② GPU 侧真正要装的是骨干 + 注意力 + 不 offload 的部分：MLA + 压缩稀疏注意力让 KV 极省——官方 README 明写 global KV **890 bytes per token**（FP4 主 KV：E2M1 + 每 16 通道一个 E4M3 scale），本轮按官方参考实现 inference/model.py 逐层复算得 890 B/token 与官方数字完全对上：主 KV 4 层（kv_source_layers [2,8,14,20]，head_dim 512 压缩 latent；2/8/14 层 2:1 压缩、20 层不压缩）= 512×(3÷2+1)×(0.5+1/16) = 720 B/token，indexer 键缓存 4 层（每个压缩位置 1 把共享键，index_head_dim 128）= 128×2.5×(0.5+1/32) = 170 B/token，滑窗 KV 是 128 槽定长、不随上下文增长；每 4K 约 0.0034 G（此前手填 0.05 G 高估约 15 倍），1M 上下文全程 KV 约 0.87 G，但权重本体 552B 的 Q8/FP8 也要 500G+——单张 24G/48G/96G 卡都装不下，门槛是多机或共享主机（官方 vLLM recipe：DGX Station GB300 244G + 60G CPU offload，或 8 卡级集群）。为什么收录：站长点名「列进清单如实标共享主机/多机门槛」——读者问「DeepSeek V4.1 Flash 能不能本地跑」需要一个诚实答案页，答案是「单卡不能，多机/共享主机可以，Engram 可 offload 省 host 内存」。本站无 arch_detail 六字段（MLA + 压缩注意力 + Engram 架构套不进标准 GQA 常数，硬填就是编），KV 按官方口径（890 B/token）线性兜底，容量表会标注这是估算。站内无本站/他测速度。**两仓现状留痕（2026-11-13 复查）**：deepseek-ai/DeepSeek-V4.1-Flash 与 deepseek-ai/DeepSeek-V4.1-Flash-1017 当前发布的是同一套权重——config.json、inference/{config.json,model.py,kernel.py} 逐字节相同，48 个分片文件名与大小、model.safetensors.index.json 的 total 与 96,085 个张量名逐项一致，safetensors 元数据 total 763,205,315,794 也相同（该数字是各 dtype 字节数之和、不是参数量，见 1017 条目留痕）；官方把这次小版本更新（README 原文 a minor update）另开了一个 1017 仓，两仓现在指向同一套权重，因此两条目参数口径必须一致（均为骨干 552B）。