模型优化 / 推理框架
LM Studio (lms CLI) lmstudio-ai/lms
GitHub 原仓库 ↗· star 5,423（2026-11-13 同步） · fork 474 · 主语言 TypeScript· 许可 可商用（MIT）MIT（GitHub API 2026-11-10 实时值），宽松许可，商用无限制。
能干什么
LM Studio 桌面应用的命令行（CLI）侧：如果你已经在用 LM Studio 那个「装完就能下模型就能聊」的 GUI，lms 让你能在终端里脚本化地查模型、跑推理、起服务。它是「GUI 友好 + 命令行可控」两条腿里的命令行那条，省得每次都点界面。
怎么干
- 装了 LM Studio 桌面版后自带 lms（或单独装）
- lms ls 看本地模型、lms run 跑一个、lms server 起 OpenAI 兼容服务
- 脚本里调 lms 做批量 / 自动化
本站怎么用
给「喜欢 LM Studio 的 GUI 但偶尔要脚本/自动化」的读者一个出口。注意：LM Studio 桌面 App 本身是闭源商业软件，这里是它的开源 CLI 组件——介绍以 CLI 能力为准。显存按所接模型 /capacity/ 档位。
显存口径
同 GGUF / 本地推理口径：显存 = 所接模型（按 /capacity/ 档位）+ 开销。CLI 本身额外占用极小。
条目性质：本站原创撰写（能干什么 / 本站怎么用均为本站编辑判断），未搬运原 README 原文。star/fork 由 tools/sync-github-stars.mjs 从 GitHub API 实时同步（检索日快照 2026-11-10，直查 api.github.com/repos/lmstudio-ai/lms：created 2024-04-15、pushed 2026-11-09），非手写死数。功能/显存描述按项目 README 与官方口径转述，本站未复现、未背书其性能。说明为本站原创撰写，未搬运原 README。
相关页面
推理框架 · 其他工具
llama.cppC/C++ 写的 LLM 推理引擎，GGUF 生态的地基——消费卡跑大模型最通用的第一站。llama-cpp-pythonllama.cpp 的 Python 封装：pip 一装，Python 脚本里直接加载 GGUF 模型。ipex-llmIntel 的本地 LLM 推理与微调加速库：iGPU / NPU / Arc 独显的主要路线。Ollama本地跑开源模型的一行命令入口（ollama run qwen3）——绝大多数教程与第三方界面的后端就是它。vLLM高吞吐 LLM 推理引擎（PagedAttention 出处）：要并发、要吞吐、24G 及以上档位的主力。SGLang高性能 serving 框架（RadixAttention）：多轮对话 / 树形分支场景的 KV 前缀复用是其招牌。llmfitRust 命令行：一条命令告诉你某模型在哪些硬件上跑得动，并集成社区实测榜。Strata把 125B 的 Qwen3.8-Flash-Next 塞进 12G 消费卡的推理引擎：专家分层放 GPU/内存/SSD，Windows / Linux 一键装，本地起 OpenAI / Anthropic 兼容 API。KoboldCpp单文件零安装的本地推理：一个 exe 拖个 GGUF 就能跑，弱机/纯 CPU 也友好。LocalAI开源本地 AI 引擎：聊天、视觉、语音、图像、视频全模型类型走一个服务器，OpenAI 兼容 API 直接替换，无 GPU 也能跑。