☰
Ollama 本地部署指南,安装包在文章结尾
2026/10/27 18:09:09 网站建设 项目流程

Ollama 本地部署指南:国内用户快速上手(含 Windows 安装包)

想要在本地跑通 RiverFlow AI 助手,第一步就是部署一个本地大模型。本文介绍如何通过 Ollama 快速实现。


一、什么是 Ollama?

Ollama是一个开源的本地大语言模型运行框架,支持在 macOS、Linux、Windows 上快速拉取和运行各类开源模型,如:

  • 通义千问:qwen2.5系列
  • Llama:llama3系列
  • 智谱:glm4系列
  • DeepSeek:deepseek-r1系列

它的特点是:一条命令就能下载模型并启动对话,对开发者非常友好。


二、为什么选择本地部署?

对于政务、企业内网等场景,本地部署大模型有几个明显优势:

优势说明
数据不出域业务数据、流程描述、接口文档都不会上传到第三方模型服务商
离线可用不依赖外网,内网环境也能稳定运行
成本可控一次性硬件投入,没有按 Token 计费的后顾之忧
合规友好满足政务、金融、医疗等行业对数据安全的严格要求

三、下载 Ollama Windows 安装包

方式一:百度网盘(国内推荐)

由于 Ollama 官网下载速度较慢,我们准备了一个 Windows 安装包:

  • 文件名:OllamaSetup(1).exe
  • 链接:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
  • 提取码:22gj

下载后双击运行,按提示完成安装即可。

方式二:官方下载

如果你能稳定访问外网,也可以直接从官网下载:

  • 官网:https://ollama.com/
  • Windows 下载页:https://ollama.com/download

四、安装步骤

1. 运行安装程序

双击OllamaSetup(1).exe,安装程序会自动完成环境配置。

安装完成后,Ollama 会作为系统服务在后台运行,任务栏右下角会出现 Ollama 图标。

2. 验证安装

打开命令行(CMD 或 PowerShell),输入:

ollama--version

如果显示版本号,说明安装成功。

示例输出:

ollama version is 0.x.x

五、拉取并运行模型

1. 拉取推荐模型

RiverFlow AI 助手推荐使用通义千问 Qwen2.5 14B,中文理解和流程生成效果较好:

ollama pull qwen2.5:14b

模型大小约 9GB,首次下载需要一定时间,请保持网络畅通。

如果你的电脑配置较低,也可以先尝试轻量版:

ollama pull qwen2.5:7b

2. 启动对话

ollama run qwen2.5:14b

进入交互模式后,可以直接输入问题测试:

>>> 你好 你好!有什么我可以帮你的吗?

按Ctrl + D或输入/bye退出。

3. 查看已安装模型

ollama list

六、在 RiverFlow 中配置 Ollama

Ollama 默认会暴露一个兼容 OpenAI 协议的 API 端点:

http://localhost:11434/v1

编辑riverflow-ai/src/main/resources/application.yml:

riverflow:ai:default-provider:ollamaproviders:-name:ollamatype:openaibase-url:http://localhost:11434/v1default-model:qwen2.5:14b

然后启动 riverflow-ai 和 riverflow-admin,打开流程设计器,即可使用 AI 助手。


七、常见问题

Q1:模型下载太慢或失败怎么办?

A:Ollama 默认从官方仓库下载,国内网络可能不稳定。建议:

  • 使用稳定的网络环境;
  • 多次重试ollama pull;
  • 或者配置 Ollama 使用镜像源(需自行搜索最新可用镜像)。

Q2:14B 模型需要什么配置?

A:建议至少:

  • CPU:8 核以上
  • 内存:16GB 以上
  • 显存:有独立显卡更佳(如 RTX 3060 12GB),但不是必须

如果硬件不够,建议用qwen2.5:7b或更小的qwen2.5:4b。

Q3:Ollama 默认把模型下载到 C 盘,怎么改路径?

A:设置环境变量OLLAMA_MODELS,指向其他磁盘:

# PowerShell 示例$env:OLLAMA_MODELS="D:\ollama-models"

然后重启 Ollama 服务。

Q4:如何确认 Ollama API 是否正常?

A:使用 curl 测试:

curlhttp://localhost:11434/v1/chat/completions\-H"Content-Type: application/json"\-d'{ "model": "qwen2.5:14b", "messages": [{"role": "user", "content": "你好"}] }'

如果能返回 JSON 结果,说明 API 正常。


八、总结

通过 Ollama,你可以在本地免费、安全、离线地运行大语言模型。配合 RiverFlow AI 助手,就能实现:

  • 自然语言生成政务流程
  • 本地数据不出域的 AI 辅助编排
  • 低成本、可审计的智能化数据交换

如果你还没部署,现在就下载安装包体验一下吧!

📥百度网盘下载:https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ
🔑提取码:22gj


RiverFlow — 筑坝导流,智驭数据之河。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询