跳转至

Open WebUI：体验直逼 ChatGPT 的高级 AI 对话客户端 🔥

Browser Docker

Open WebUI 是一个可扩展、功能丰富、用户友好的自托管大语言模型（LLM）对话 WebUI，可完全离线运行。 它支持各种 LLM 运行程序，包括 Ollama 和 OpenAI 兼容 API。 此外，通过插件系统可连接 Claude、Gemini 等 LLM。

  1. 项目主页：Open WebUI GitHub 项目主页
  2. 使用指南：Open WebUI 官方文档
  3. 详细教程：Open WebUI：体验直逼 ChatGPT 的高级 AI 对话客户端 - ZetaTechs Blog

效果演示

本站 Open-WebUI 公开站点：https://open.zetatechs.online【开始对话】

注册账号后，按下方教程添加 API Key 即可对话。

open-webui-demo.gif

特性

🚀 轻松安装：使用 Docker 或 Kubernetes（kubectl、kustomize 或 helm）进行无缝安装，支持 ollama 和 cuda 标签的镜像，确保无忧体验。

🤝 Ollama/OpenAI API 集成：轻松集成兼容 OpenAI 的 API，支持多种对话模式和 Ollama 模型。自定义 OpenAI API URL 以连接 LMStudio、GroqCloud、Mistral、OpenRouter 等。

🧩 Pipelines、Open WebUI 插件支持：通过 Pipelines 插件框架，将自定义逻辑和 Python 库无缝集成到 Open WebUI 中。启动您的 Pipelines 实例，将 OpenAI URL 设置为 Pipelines URL，探索无限可能性。示例包括功能调用、用户速率限制以控制访问、使用 Langfuse 进行使用监控、使用 LibreTranslate 进行实时翻译以支持多语言、毒性消息过滤等。

📱 响应式设计：在台式电脑、笔记本电脑和移动设备上享受无缝体验。

📱 移动端渐进式 Web 应用（PWA）：通过 PWA 在移动设备上享受类似原生应用的体验，提供本地主机上的离线访问和无缝的用户界面。

✒️🔢 全面支持 Markdown 和 LaTeX：通过全面的 Markdown 和 LaTeX 功能提升您的 LLM 体验，实现丰富的互动。

🎤📹 免提语音/视频通话：体验集成免提语音和视频通话功能的无缝通信，提供更动态和互动的聊天环境。

🛠️ 模型构建器：通过 Web UI 轻松创建 Ollama 模型。创建和添加自定义角色/代理，定制聊天元素，并通过 Open WebUI 社区集成轻松导入模型。

🐍 原生 Python 函数调用工具：通过工具工作区内置的代码编辑器支持增强您的 LLM。只需添加纯 Python 函数，即可实现无缝集成。

📚 本地 RAG 集成：通过开创性的检索增强生成（RAG）支持，探索聊天互动的未来。此功能将文档互动无缝集成到聊天体验中。您可以直接将文档加载到聊天中或将文件添加到文档库中，在查询前使用 # 命令轻松访问。

🔍 RAG 的网页搜索：使用 SearXNG、Google PSE、Brave Search、serpstack、serper、Serply、DuckDuckGo 和 TavilySearch 等提供商进行网页搜索，并将结果直接注入您的聊天体验。

🌐 网页浏览功能：使用 # 命令后跟 URL 将网站无缝集成到聊天体验中。此功能允许您将网页内容直接融入对话中，增强互动的丰富性和深度。

🎨 图像生成集成：通过 AUTOMATIC1111 API 或 ComfyUI（本地）和 OpenAI 的 DALL-E（外部）无缝集成图像生成功能，丰富您的聊天体验，提供动态视觉内容。

⚙️ 多模型对话：轻松与多个模型同时互动，利用它们的独特优势提供最佳响应。通过并行利用多种模型增强体验。

🔐 基于角色的访问控制（RBAC）：确保安全访问，只有授权人员才能访问您的 Ollama，并且仅管理员拥有独特的模型创建/拉取权限。

🌐🌍 多语言支持：通过我们的国际化（i18n）支持，以您喜欢的语言体验 Open WebUI。加入我们，扩展我们支持的语言！我们正在积极寻找贡献者！

🌟 持续更新：我们致力于通过定期更新、修复和新功能改进 Open WebUI。

AI 模型配置方法

参数填写

Api Key：前往 OpenAI 官网，或者第三方网站获取。

请求地址格式：

  • OpenAI 官方：https://api.openai.com/v1

  • 第三方（示例）：https://api.zetatechs.com/v1

图文指引

演示站 API Key 添加方法

本站 Open-WebUI 公开站点：https://open.zetatechs.online

不会部署的读者可直接使用该公开站点，仅限 API 及 Prime 站用户。

API Key 添加：【用户名】—【设置】—【值】—【函数】—选择站点 (API 或 Prime)—【默认】(改为自定义) — 填写 — 保存

模型选择：

  1. API 站模型（API-为前缀的模型）；
  2. Prime 站模型（Prime-为前缀的模型）

PixPin_2024-08-06_08-10-29.webp

自行部署（可选）API Key 添加方法

自行部署可以使用 Open WebUI 的全功能，详细教程：Open WebUI：体验直逼 ChatGPT 的高级 AI 对话客户端 - Open WebUI 一键部署

Docker Compose 部署代码：

docker-compose.yml
services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    volumes:
      - ./app/backend/data:/app/backend/data
      - ./data:/data
    environment:
      - WEBUI_NAME= ZetaTechs Chat
    ports:
      - 3005:8080
    restart: unless-stopped
    networks:
      - open-webui

  pipelines:
    image: ghcr.io/open-webui/pipelines:main
    container_name: open-webui-pipelines
    restart: always
    ports:
      - "9099:9099"
    volumes:
      - ./app/pipelines:/app/pipelines
    extra_hosts:
      - "host.docker.internal:host-gateway"
    networks:
      - open-webui

networks:
  open-webui:

① 添加语言模型 + pipelines (插件系统)

① 添加语言模型 + pipelines (插件系统)

② 第一步不添加 pipelines 这里就不能设置

② 第一步不添加 pipelines 这里就不能设置

③ 设置读取文档用的向量模型（可选）

③ 设置读取文档用的向量模型（可选）

④ 设置语音模型（可选）

④ 设置语音模型（可选）

⑤ 设置绘图模型（可选）

⑤ 设置绘图模型（可选）

⑥ 第①步设置好后自动同步可用模型列表

⑥ 第①步设置好后自动同步可用模型列表

公式渲染

Lobe 里如果涉及到公式的显示，需要用 Prompt 让模型正确输出格式，添加到【设置】—【系统提示词】里即可：

中文版
{{text}}

注意事项:

如果你需要用到公式或数学表达式，请在输出中使用符合 Markdown 语法的 LaTeX 表达式, 即用美元符号 $ 包裹行内公式, 用双美元符号 $$ 包裹块级公式。
英文版
{{text}}

Notes.

If you need to use formulas or mathematical expressions, use Markdown-compliant LaTeX expressions in your output, i.e., wrap in-line formulas with the dollar sign $, and wrap block-level formulas with the double dollar sign $$.

PixPin_2024-07-07_03-48-35.webp