💻
Oobabooga
Advancedcode
开源文本生成Web UI，用于本地运行LLM。
公司
社区
成立时间
2023
总部
Community
价格范围
Free / open-source
难度
advanced
目标用户
希望使用功能丰富的界面本地运行LLM的AI爱好者和研究人员。
关于
Oobabooga Text Generation Web UI 是最流行的开源大语言模型 Web 界面，在本地 LLM 工具中提供最广泛的模型格式支持。它支持 GGUF、GPTQ、AWQ、EXL2 和原始 Transformers 模型格式，为用户提供了针对各自硬件优化的模型运行灵活性。除了基本聊天和文本生成外，还包括全面的功能：带角色和对话历史的聊天模式、直接文本补全的笔记本模式、使用 LoRA 和 QLoRA 的模型训练和微调、视觉语言模型支持以及扩展系统。界面包括温度、top-p、top-k 和重复惩罚等详细的参数控制。text-generation-webui 还支持 8 位和 4 位量化、CPU 卸载和注意力优化等模型加载优化。对于希望在最灵活地运行本地 LLM 的 AI 研究人员、爱好者和开发者来说，text-generation-webui 是可用的最全面选择。
优势
- 1多种模型格式
- 2LoRA支持
- 3多模态
- 4训练模式
- 5扩展
优缺点
优点
- +功能丰富
- +模型格式支持
- +活跃开发
- +可定制
缺点
- −设置复杂
- −需要GPU
- −不适合初学者
- −文档缺口
使用场景
本地LLM推理
模型测试
微调
聊天应用
AI研究
价格
免费版
$0
- 全部功能
- 开源
扩展与插件
Oobabooga GitHub
开源仓库
技能
LLMlocaltext generationweb UIopen source
分享这篇文章