llmfit AlexsJones/llmfit

能干什么

Rust 写的命令行工具：覆盖数百个模型与提供商，一条命令回答「我的硬件跑不跑得动这个模型」——给出显存需求与可行量化档。特色是集成 LocalMaxxing 社区实测榜（真实硬件提交的 tok/s、TTFT、峰值显存），也支持本地跑 llama-bench 并把结果提交回社区榜。定位是「工具 + 数据源」组合。

怎么干

• 下载预编译或 cargo 安装
• llmfit <模型名> 查显存需求与可行档
• 查看该「卡 × 模型」的社区实测数据
• 本地 llama-bench 跑出数字后提交社区榜

本站怎么用

它的社区实测榜与本站 /rank/ 定位相近（社区提交、带硬件口径），可作为他测交叉核对的素材源——引用时保留原提交环境与日期，标「社区自述值」，不合并进本站 A/B/C 分级（那是另一套来源纪律）。显存估算对 MoE 区分总参数 / 激活参数，与本站口径方向一致。

显存口径

显存估算含 MoE 总参数 / 激活参数区分，与本站容量表口径方向一致；具体数字若有差异，按「两来源并置、不取平均」处理。