open-webui

Open WebUI: 开源、功能丰富的自托管 WebUI

Open WebUI 是一个开源的、功能丰富且用户友好的自托管 Web 用户界面。它专为离线运行而设计,支持多种大型语言模型(LLM)运行器,包括 Ollama 和兼容 OpenAI 的 API。这个项目旨在为用户提供一个灵活、强大且易于使用的界面来与各种 AI 模型进行交互。

主要特性

Open WebUI 提供了一系列令人印象深刻的功能:

易于部署

用户可以通过 Docker 或 Kubernetes 轻松安装 Open WebUI,支持 :ollama 和 :cuda 标签的镜像。这种灵活性使得部署过程变得简单快捷,适应不同的运行环境。

广泛的集成支持

Open WebUI 不仅支持 Ollama 模型,还可以无缝集成兼容 OpenAI 的 API。用户可以自定义 OpenAI API URL,以连接 LMStudio、GroqCloud、Mistral、OpenRouter 等多种服务。

插件系统

通过 Pipelines 插件框架,用户可以将自定义逻辑和 Python 库集成到 Open WebUI 中。这为用户提供了无限的可能性,包括函数调用、用户访问限制、使用监控、实时翻译、有害消息过滤等功能。

响应式设计

Open WebUI 采用响应式设计,确保在台式机、笔记本电脑和移动设备上都能提供出色的用户体验。它还支持渐进式 Web 应用(PWA),让移动用户享受到类似原生应用的体验。

丰富的文本支持

完全支持 Markdown 和 LaTeX,大大提升了与 LLM 交互的体验,使得内容呈现更加丰富多样。

语音和视频通话

Open WebUI 集成了免提语音和视频通话功能,为用户提供更加动态和互动的聊天环境。

模型构建器

用户可以通过 Web UI 轻松创建 Ollama 模型,创建自定义角色/代理,自定义聊天元素,并通过与 Open WebUI Community 的集成轻松导入模型。

Python 函数调用工具

内置代码编辑器支持,允许用户添加纯 Python 函数,实现与 LLM 的无缝集成。

本地 RAG 集成

支持检索增强生成(RAG),用户可以直接将文档加载到聊天中或添加到文档库,并使用 # 命令轻松访问。

Web 搜索功能

支持多种搜索提供商,如 SearXNG、Google PSE、Brave Search 等,可以将搜索结果直接注入聊天体验中。

Web 浏览功能

用户可以使用 # 命令后跟 URL 来将网站内容直接集成到聊天体验中。

图像生成集成

支持本地(如 AUTOMATIC1111 API 或 ComfyUI)和外部(如 OpenAI 的 DALL-E)图像生成功能。

多模型对话

用户可以同时与多个模型进行对话,充分利用每个模型的优势。

基于角色的访问控制

确保安全访问,只有授权个人可以访问 Ollama,管理员拥有专有的模型创建/拉取权限。

多语言支持

Open WebUI 支持国际化(i18n),用户可以使用自己喜欢的语言体验界面。

安装方法

Open WebUI 提供多种安装方法,包括通过 Python pip、Docker、Docker Compose、Kustomize 和 Helm 等。用户可以根据自己的需求和环境选择合适的安装方式。

对于大多数用户来说,使用 Docker 进行安装是最简单的方法。例如,如果 Ollama 在同一台计算机上,可以使用以下命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完成后,用户可以通过访问 http://localhost:3000 来使用 Open WebUI。

总结

Open WebUI 是一个功能强大、灵活多样的开源项目,为用户提供了丰富的 AI 模型交互体验。无论是个人用户还是企业,都可以通过 Open WebUI 轻松部署和使用各种 AI 模型,探索 AI 的无限可能性。随着持续的更新和社区的支持,Open WebUI 必将在 AI 应用领域发挥越来越重要的作用。