模型优化 / 前端与分发

text-gen-webui (textgen) oobabooga/textgen

GitHub 原仓库 ↗· star 47,739(2026-11-13 同步) · fork 5,974 · 主语言 Python· 许可 可商用(有条件)(AGPL-3.0)AGPL-3.0(GitHub API 2026-11-10 实时值):自用/内部可;提供网络服务或分发修改版需开源。对纯本地使用基本无影响。

能干什么

一个历史很久的本地 LLM 桌面/Web 应用:从最早一批「本地跑 ChatGPT 替代品」做到现在,功能覆盖文本对话、视觉(看图)、工具调用,并起 OpenAI/Anthropic 兼容 API 给别的应用用。主打 100% 私有、本地跑。对喜欢「一个带界面的本地全家桶」的老用户熟悉度高。

怎么干

本站怎么用

它是「本地全家桶」里的老资历——和 Jan/GPT4All 同类但更偏 WebUI/极客向。读者想要「带界面 + 能起 API 给别的应用当后端」的本地方案时这是一个选项。显存按所接模型 /capacity/ 档位。

显存口径

显存 = 所接本地模型(按 /capacity/ 档位)+ 开销;起兼容 API 不额外吃显存。视觉(看图)会额外占一点。

条目性质:本站原创撰写(能干什么 / 本站怎么用均为本站编辑判断),未搬运原 README 原文。star/fork 由 tools/sync-github-stars.mjs 从 GitHub API 实时同步(检索日快照 2026-11-10,直查 api.github.com/repos/oobabooga/textgen:created 2022-12-21、pushed 2026-08-17),非手写死数。功能/显存描述按项目 README 与官方口径转述,本站未复现、未背书其性能。说明为本站原创撰写,未搬运原 README。

相关页面

/faq/which-framework//capacity//faq/local-vs-chatgpt/

前端与分发 · 其他工具

Open WebUI最流行的本地模型 Web 界面:Ollama / OpenAI API 兼容,装完即「本地 ChatGPT 体验」。llamafilellama.cpp + Cosmopolitan 的单文件可执行体:模型与引擎打成一个 .llamafile,下载即跑。GPT4All在任意设备上本地跑 LLM 的桌面应用:装好就能下模型、就能聊,给不想折腾命令行的人。Jan100% 离线跑的 ChatGPT 替代品(桌面 App):聊天 + 知识库 + 应用,数据不出本机。Cherry Studio国产维护的桌面 AI 工作台:多模型、多助手、绘画、翻译、知识库,一个客户端收口。LobeChat高完成度的聊天前端:助手市场、插件、TTS/STT、知识库,接本地或在线模型都行。SillyTavern进阶玩家本地聊天前端:人设/卡面/扩展生态极丰富,接任意本地或在线后端。
← LM Studio (lms CLI)回到全部 52 个工具Tabby →
这条内容有帮助吗?