大模型可视化 | 什么是Open WebUI？Open WebUI + vLLM如何实现DeepSeek本地部署并可视化？

Open WebUI 是一个开源的、可扩展且用户友好的自托管 AI 平台，专为生成式人工智能模型交互而设计。Open WebUI旨在为用户提供一个简单易用、功能强大且高度定制化的界面，使其能够轻松与各种 AI 模型（如文本生成、图像生成、语音识别等）进行交互。提供类似 ChatGPT 的自然语言对话界面，支持Markdown 格式渲染（如加粗、列表、代码块等）和代码高亮显示，提升内容可读性。内置对

沈页

1728人浏览 · 2025-04-22 19:28:13

沈页 · 2025-04-22 19:28:13 发布

Open WebUI 是一款专为大模型设计的开源可视化交互工具，它通过类 ChatGPT 的直观界面，让用户无需代码即可管理、调试和调用本地或云端的大语言模型（LLMs）。

Open WebUI 通过可视化交互与大模型技术结合，成为私有化部署的标杆工具。其开箱即用的特性适合开发者快速验证模型、企业构建合规 AI 平台及个人用户探索 AI 应用。随着插件生态的扩展（如视频生成、语音交互），未来可进一步降低多模态应用的开发门槛。

Open WebUI - 仿照ChatGPT，为本地大语言模型提供对话界面- 小众软件

一、Open WebUI

1、什么是Open WebUI？

Open WebUI 是一个开源的、可扩展且用户友好的自托管 AI 平台，专为生成式人工智能模型交互而设计。

Open WebUI旨在为用户提供一个简单易用、功能强大且高度定制化的界面，使其能够轻松与各种 AI 模型（如文本生成、图像生成、语音识别等）进行交互。

直观交互体验： 提供类似 ChatGPT 的自然语言对话界面，支持Markdown 格式渲染（如加粗、列表、代码块等）和代码高亮显示，提升内容可读性。
多轮对话管理： 内置对话历史记录功能，用户可随时回顾上下文，避免重复输入，确保对话连贯性。
全平台兼容性： 采用响应式设计，无论是桌面端还是移动端，界面均能自适应屏幕尺寸，提供一致的使用体验。
低门槛操作： 通过简化交互流程和优化视觉设计，大幅降低非技术用户的使用难度，真正实现“零学习成本”上手。

2、Open WebUI + vLLM如何实现DeepSeek本地部署并可视化？

在本地部署 DeepSeek 模型并结合 Open WebUI 和 vLLM 实现可视化，可通过以下步骤完成。

1. 下载 DeepSeek 模型

从 HuggingFace 下载模型文件

git lfs install
git clone https://huggingface.co/deepseek-ai/DeepSeek-7B

2. 安装 vLLM

使用 vLLM 加速推理

pip install "vllm>=0.4.2" --extra-index-url https://download.pytorch.org/whl/cu118

3. 安装 Open WebUI

通过 Docker 快速部署

docker pull ghcr.io/open-webui/open-webui:main

4. 启动 vLLM 服务

加载 DeepSeek 模型并启动 API 服务

python -m vllm.entrypoints.openai.api_server \
  --model /path/to/DeepSeek-7B-Chat \
  --trust-remote-code \
  --tensor-parallel-size 1 \
  --max-model-len 4096 \
  --port 8000

5. 启动 Open WebUI

配置 Docker 容器并连接 vLLM

docker run -d \
  -p 3000:8080 \
  -e OLLAMA_API_BASE_URL=http://host.docker.internal:8000/v1 \
  -e WEBUI_SECRET_KEY=your_secret_key \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

二、OpenAI API

1、OpenAI API 如何接入大语言模型？

OpenAI API是 OpenAI 提供的一组编程接口，允许开发者通过代码调用其先进的大语言模型。

# Please install OpenAI SDK first: `pip3 install openai`
from openai import OpenAI
client = OpenAI(api_key="<DeepSeek API Key>", base_url="https://api.deepseek.com")
response = client.chat.completions.create(
    model="deepseek-chat",
    messages=[
        {"role": "system", "content": "You are a helpful assistant"},
        {"role": "user", "content": "Hello"},
    ],
    stream=False
)
print(response.choices[0].message.content)

2、Open WebUI 如何接入大语言模型？

Open WebUI 支持通过 OpenAI API 兼容接口接入多种大语言模型（LLM）。

本地部署的模型（如 vLLM、Transformers 运行的模型）
云端 API 服务（如 OpenAI GPT-4、DeepSeek API、Anthropic Claude 等）

接入本地部署的模型
vLLM 提供高性能推理，并兼容 OpenAI API 格式。

pip install vllm
vllm serve deepseek-r1 --port 8000

通过 Transformers 部署
适用于 Hugging Face 模型（需自行封装 API），启动服务后，在 Open WebUI 填写对应的 API 地址即可。

from transformers import AutoModelForCausalLM, AutoTokenizer
from fastapi import FastAPI

app = FastAPI()
model = AutoModelForCausalLM.from_pretrained("deepseek-r1")
tokenizer = AutoTokenizer.from_pretrained("deepseek-r1")

@app.post("/v1/chat/completions")
async def generate(request: dict):
    response = model.generate(**request)
    return {"choices": [{"message": {"content": response}}]}