Open WebUI 本地部署:三步把界面跑起来
【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui
想把本地的 PDF、Markdown 直接丢给模型读,又不想把文件传上云,这个需求我拿 Open WebUI 本地部署验证了一遍。结论是:装好 Docker,三步就能把界面跑起来,再接上本地的 Ollama 就能直接用。
它到底能干嘛
Open WebUI 是一个自托管的 LLM 聊天界面,UI 接近 ChatGPT 那套:左侧是频道和文档库,中间是对话区。它自己不跑模型,而是接模型——本地 Ollama、llama.cpp、LM Studio,或者任何 OpenAI 兼容的 API 都能挂上来。内置的 RAG 可以把你自己的文档直接喂给模型。它适合两类人:已经部署了本地模型但缺一个像样前端的,以及想在同一个界面里管多个模型、多个用户的。
把它跑起来
前提只是装好 Docker(新版都自带 compose)。仓库里的 docker-compose.yaml 把 Ollama 和 Open WebUI 两个服务都定义好了,一条命令全部拉起:
- 克隆仓库并进入目录:
git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui- 启动服务:
docker compose up -d第一次会拉两个镜像,等几分钟。验证:浏览器打开 http://localhost:3000 ,注册个账号,看到聊天界面就算跑起来了。
不想用 Docker 的话,README 里也写了pip install open-webui的路线,需要 Python 3.11。
几个值得试的功能
功能很多,我挑了实际会用到的三个。
让模型读你自己的文档
手上有产品文档或论文,希望模型基于这些内容回答,而不是靠联网。在管理面板建一个知识库,上传 PDF、Word、Markdown,系统自动向量化;聊天时用#加文档名检索,也可以把文件直接拖进对话。回答会引用你自己的文档内容,文档里没有的,模型会说不知道,而不是硬编。
同一句话问多个模型
两个模型拿不准哪个更好,想拿同一个问题直接比。在一个对话里勾选两个或更多模型,发一条消息,各家的回复并排出现,差距一眼看清。管理面板还有用量看板,能看到每个模型花了多少 token。
接上图像生成引擎(OpenAI DALL-E,或者本地的 ComfyUI / AUTOMATIC1111)之后,它也能在对话里出图,并按提示词二次编辑。
跑的时候容易卡住的点
端口冲突。3000 被占用的话,改 docker-compose.yaml 里的 ports 映射:
ports: - "8080:8080"重启后从 http://localhost:8080 访问。
模型列表是空的。跑起来后界面下拉框里一个模型都没有,因为 Ollama 还没下载过模型,先拉一个小的:
docker exec -it ollama ollama pull llama3.2找不到宿主机的 Ollama。不用 compose、改用 docker run 单独起 WebUI 容器时,容器默认连不到宿主机上的 Ollama。命令里加--add-host=host.docker.internal:host-gateway,并把OLLAMA_BASE_URL指到宿主机的 11434 端口。
想先看看效果的话,docker compose up -d跑完,把自己的一份 PDF 扔进知识库,用#搜一遍最直观。中途卡住了,翻一下仓库里的 TROUBLESHOOTING.md,常见的连接和端口问题基本都有。
【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考