简介:这份PDF教程面向希望在个人电脑上搭建私有AI环境的开发者与小型企业用户,重点解决DeepSeek本地部署中安装路径受限、配置门槛高的问题。教程以ollama为运行基础,讲解通过环境变量将模型存储迁移至非C盘、开放访问权限与防火墙端口放行等关键配置,并给出1.5b至70b不同规模模型的安装命令与硬件选型建议,最后借助Chatbox将命令行交互转为可视化聊天界面,兼顾数据私有性与使用便利性。资源包共1个PDF文件,约802KB,篇幅紧凑、步骤完整,适合作为一次性对照操作的随身手册。目前已有1531人学习,对计算机新手和追求数据安全的团队都具备较强的实操参考价值。
1. 装完 Ollama 才发现模型全在 C 盘:一次本地 DeepSeek 部署的翻车记录
上周帮一位做数据分析的朋友配本地 AI 环境,他笔记本是 16GB 内存、D 盘还剩 100GB,想着跑个 7B 模型做文档摘要应该够用。结果 Ollama 装完、ollama run deepseek-r1:7b一敲,模型文件哗啦啦全往 C 盘用户目录里灌,C 盘瞬间红了 8 个 G,系统开始弹低存储警告。这就是本地部署 DeepSeek 最典型的翻车现场——工具装上了,模型也跑起来了,但存储路径没提前规划,后面每一步都在给 C 盘还债。
本地部署 DeepSeek 这件事,说难不难,Ollama 加 Chatbox 两个安装包就能搭出一套私有 AI 环境,数据不出本机,断网也能对话。但装不好的人往往卡在三个地方:模型默认落 C 盘、11434 端口没放行导致 Chatbox 连不上、模型参数选大了机器卡成幻灯片。这篇笔记按我实际装机的顺序走一遍,从 Ollama 的版本选择和环境变量配置,到 DeepSeek-R1 各尺寸模型的取舍,再到 Chatbox 可视化界面的对接和排错,每一步都给可抄的命令和参数。新手照着能跑通,熟手能看到几个容易忽略的配置细节。
2. 装 Ollama 之前先把环境变量理清楚:三个变量决定模型存哪、谁能连
Ollama 的安装本身没什么门槛,Windows 安装包双击下一步就完事,真正决定这套环境好不好用的是装完之后的环境变量配置。默认安装路径固定在 C 盘,模型存储也跟着走 C 盘用户目录,这是最多人踩的第一个坑。我的习惯是装完先别急着拉模型,把三个环境变量配好、重启一次,再开始下载,能省掉后面迁移模型的麻烦。
2.1 版本选择与安装包获取
Ollama 的 Windows 版本迭代比较快,常见做法是去 Ollama 中文网下载当前稳定版安装包,不要用第三方渠道的修改版。安装包本身不大,双击后一路默认选项即可,安装过程不需要额外配置。这里有个细节:安装时如果系统弹 UAC 提权,选“是”,否则后续写环境变量和注册服务可能权限不足。
装完之后先别打开任何模型,在开始菜单里能找到 Ollama 的快捷方式,但暂时不用点。我们先把存储路径和访问权限配好,因为模型一旦开始下载,默认会写到C:\Users\<用户名>\.ollama\models,等你想迁的时候就得手动搬目录、改配置,多一道工序。
提示:安装前确认 D 盘或目标盘至少有 20GB 空闲。1.5B 模型约 1.1GB,7B 约 4.7GB,8B 约 4.9GB,14B 约 9GB,32B 约 20GB,按你打算跑的尺寸留余量。
2.2 三个环境变量的作用与写法
在 Win11 或 Win10 左下角搜索“环境变量”,点“编辑系统环境变量”,进“高级”页签下的“环境变量”窗口。在“用户变量”区域新建三条,变量名和值如下:
| 变量名 | 变量值 | 作用 |
|---|---|---|
OLLAMA_MODELS | D:\ollama | 把模型存储目录从 C 盘迁到 D 盘 |
OLLAMA_ORIGINS | * | 允许浏览器和本地应用跨域访问 |
OLLAMA_HOST | 0.0.0.0:11434 | 监听所有网卡,开放 11434 端口 |
OLLAMA_MODELS的值写你实际想放的路径,写完后去 D 盘手动建一个同名文件夹,路径必须真实存在,否则 Ollama 启动时会回退到默认目录。OLLAMA_ORIGINS设成星号是让 Chatbox 这类本地前端能跨域请求,不设的话 Chatbox 里选模型可能一直是空的。OLLAMA_HOST设成0.0.0.0:11434是让服务监听所有网卡地址,本机访问用127.0.0.1:11434也能通,但设成0.0.0.0更省心。
三条变量填完点确定保存。这里有个血泪经验:环境变量改完必须重启电脑才生效,不是重启 Ollama 进程,是重启系统。我见过有人改完变量直接开 cmd 拉模型,结果模型还是往 C 盘跑,就是因为变量没进系统环境。
2.3 防火墙放行 11434 端口
Ollama 默认走 11434 端口,Windows 防火墙默认会拦入站连接。不放行的话,本机 Chatbox 有时能连、有时连不上,表现很玄学。操作路径:开始菜单搜“高级安全”,打开“Windows Defender 防火墙高级安全”,左侧点“入站规则”,右侧“新建规则”。
规则类型选“端口”,协议选 TCP,特定本地端口填11434,下一步选“允许连接”,配置文件把“域、专用、公用”三个都勾上,名称填ollama 11434,描述写“Ollama 默认端口”,完成。这条规则建完不需要重启,但前面环境变量改过的话,整体重启一次最稳妥。
2.4 验证 Ollama 服务是否正常
重启后在开始菜单启动 Ollama,或者直接Win + R输入cmd打开命令提示符,敲:
ollama正常会返回一屏命令帮助信息,包含serve、run、pull、list等子命令。如果提示“不是内部或外部命令”,说明安装时没把 Ollama 加进 PATH,去安装目录手动执行一次,或者重新跑安装包选修复。如果命令有返回但ollama list报连接错误,多半是服务没起来,去开始菜单点 Ollama 图标启动,托盘区出现羊驼图标即表示服务在跑。
3. 拉取 DeepSeek-R1 模型:尺寸怎么选、命令怎么写、下到哪去看
Ollama 服务跑起来之后,拉模型就是一条命令的事,但选哪个尺寸直接决定你用起来是流畅还是卡顿。DeepSeek-R1 在 Ollama 上的标签从 1.5b 到 70b 都有,参数越大推理能力越强,但对内存和显存的要求也水涨船高。我一般按“内存的一半给模型”来估,16GB 内存跑 7B 到 8B 是舒适区上限,再大就开始吃虚拟内存,响应明显变慢。
3.1 各尺寸模型的硬件门槛对照
| 模型标签 | 大致体积 | 建议内存 | 实际体验参考 |
|---|---|---|---|
deepseek-r1:1.5b | 约 1.1GB | 8GB 起 | 轻量问答流畅,复杂推理偏弱 |
deepseek-r1:7b | 约 4.7GB | 16GB | 日常对话和文档摘要够用 |
deepseek-r1:8b | 约 4.9GB | 16GB | 比 7B 略强,16GB 机器偶有卡顿 |
deepseek-r1:14b | 约 9GB | 32GB | 推理质量明显提升,需大内存 |
deepseek-r1:32b | 约 20GB | 64GB | 接近可用级推理,普通笔记本吃力 |
deepseek-r1:70b | 约 40GB+ | 128GB | 工作站级别,个人机不建议 |
原文作者 16GB 内存、D 盘剩 100GB,装 8B 稍显卡顿,最后选了 1.5B。这个取舍是合理的:如果只是日常问答和简单文档处理,1.5B 响应快、占用小;如果要写代码或做长文推理,7B 是 16GB 机器的性价比拐点。我的建议是先用 1.5B 跑通全流程,确认 Chatbox 能连上、对话正常,再按需要换大模型,避免一上来拉个 14B 等半天还卡。
3.2 拉取与运行模型的命令
在命令提示符里执行:
# 拉取并运行 1.5B 模型,首次执行会自动下载 ollama run deepseek-r1:1.5b # 如果只想下载不立即运行,用 pull ollama pull deepseek-r1:7b # 查看已下载的模型列表 ollama listollama run的行为是“没有就下载,有就直接进对话”,下载完成后出现Send a message (/? for help)提示符就表示模型加载好了,可以直接输入问题。ollama pull只下载不启动对话,适合提前把模型备好。ollama list列出本地已有模型,输出里的 NAME 列就是后续run时要用的完整名称,别自己拼错标签。
下载过程中如果中断,重新执行同一条命令会续传,不用删了重来。模型文件落在OLLAMA_MODELS指定的目录下,去D:\ollama里能看到blobs和manifests两个子目录,blobs 里是分片存储的模型权重,别手动改里面的文件名。
3.3 命令行下的基本对话与退出
模型跑起来后,提示符下直接打字回车就是提问,/?看帮助,/bye退出对话回到普通命令行。这里注意:退出对话不等于停止 Ollama 服务,服务还在后台跑,托盘图标还在。下次要用直接ollama run deepseek-r1:1.5b即可,不会重新下载。
如果ollama run报Error: model requires more system memory,说明内存不够,换小一号的模型。如果报pull model manifest: file does not exist,多半是标签写错了,去 Ollama 中文网的模型页核对准确标签名。
4. 接上 Chatbox 可视化界面:API 地址、端口和模型选择的三处对齐
命令行能用之后,下一步是把 Chatbox 接上来,摆脱黑窗口。Chatbox 的作用是给 Ollama 套一个聊天界面,支持上传文档、图片、多轮对话,本质是通过 HTTP 调 Ollama 的 API。对接成败取决于三处配置是否对齐:API 类型选 Ollama、地址端口和OLLAMA_HOST一致、模型下拉框能读到已下载的模型。
4.1 Chatbox 安装时的用户范围选择
从 Ollama 中文网的下载分类里拿 Chatbox 安装包,双击安装。安装过程中会问“为谁安装”,选“所有用户”,不要选“仅为我安装”。这个选项影响的是安装路径和权限,选“所有用户”装到 Program Files 下,后续多账户切换或权限相关的问题少一些。其余步骤默认下一步到结束。
4.2 配置 Ollama API 连接
启动 Chatbox,首次打开会引导选模型来源,点“使用自己的 API Key 或本地模型”,在提供商列表里选“Ollama API”。这时界面会出现 API 地址和模型两个字段。
API 地址填http://127.0.0.1:11434,如果你改过OLLAMA_HOST的端口,这里要跟着改。原文作者把端口改成了 11438,那 Chatbox 里就得填 11438,两边必须一致。填完点“重置”或“刷新”,模型下拉框应该能列出deepseek-r1:1.5b之类的条目,选中后保存。
如果模型下拉框是空的,按这个顺序排查:先确认 Ollama 服务在跑(托盘有图标),再确认OLLAMA_HOST和 Chatbox 地址端口一致,然后确认防火墙 11434 规则已放行,最后确认OLLAMA_ORIGINS设了*。这四步里任何一步没做,都可能表现为“连上了但读不到模型”。
4.3 界面里的实用功能与使用前提
保存后进入聊天窗口,布局类似常见即时通讯软件,底部输入框、上方对话区,模型名显示在顶部。输入框旁边有附件按钮,可以上传文档让模型做摘要和问答,也能贴图片做描述。这些功能走的是本地模型推理,不联网也能用,但每次打开 Chatbox 前要确保 Ollama 服务已启动,否则发消息会报连接失败。
注意:Chatbox 只是前端,模型推理全在 Ollama 里跑。关掉 Chatbox 不影响 Ollama 服务,但关掉 Ollama 服务后 Chatbox 就发不出消息。开机自启的话,Ollama 默认会随系统启动,Chatbox 需要手动开。
5. 部署踩坑排查:端口、路径、内存和模型标签的四类翻车
这套环境装下来,大部分问题集中在四个地方,每个都有明确的现象和对应解法。下面按我实际遇到和帮人排查过的顺序列,现象、原因、解决三段式,照着对号入座。
5.1 模型还是下到了 C 盘
现象:配了OLLAMA_MODELS,重启后拉模型,C 盘空间照样往下掉。
原因:环境变量建在了“系统变量”而不是“用户变量”,或者变量名拼错(比如写成OLLAMA_MODEL少了 S),或者目标文件夹不存在导致 Ollama 回退默认路径。
解决:打开环境变量窗口核对变量名拼写和所在区域,确认D:\ollama文件夹真实存在,改完重启系统。已经下到 C 盘的模型可以手动把.ollama\models下的内容搬到新目录,再重启 Ollama,ollama list能识别就不用重下。
5.2 Chatbox 模型列表为空
现象:Chatbox 里 API 地址填了,点刷新,模型下拉框一直空着。
原因:三种可能——Ollama 服务没启动、端口不一致、OLLAMA_ORIGINS没设导致跨域被拒。
解决:先看托盘有没有 Ollama 图标,没有就启动;再核对 Chatbox 地址里的端口和OLLAMA_HOST是否一致;最后确认OLLAMA_ORIGINS值为*。三步都对了还空,去防火墙确认 11434 入站规则存在且启用。
5.3 模型跑起来卡顿严重
现象:对话时响应要等十几秒,风扇狂转,任务管理器内存占用接近满格。
原因:模型尺寸超过内存承载能力,系统开始用虚拟内存换页,推理速度断崖下跌。
解决:换小一号模型,16GB 内存从 8B 降到 7B 或 1.5B。跑之前关掉浏览器多余标签页和其他吃内存的程序。如果必须跑大模型,考虑加内存条,这是最直接的解法,软件层面调参救不回来。
5.4 拉模型报标签不存在
现象:ollama run deepseek-r1:8b报file does not exist或manifest unknown。
原因:标签名写错,比如大小写不对、把r1写成R1、或者用了不存在的尺寸。
解决:去 Ollama 中文网模型页复制准确命令,别手打。已下载的模型用ollama list看 NAME 列,run时直接照抄。标签区分大小写,deepseek-r1全小写加连字符。
6. 装完怎么验证跑通:三条命令加一次对话的验收清单
环境装完不算完,得有一套能重复执行的验收动作,确认下次开机还能用。我的习惯是固定走三步:服务在不在、模型在不在、对话通不通。这三步覆盖了 Ollama 服务、模型存储和 Chatbox 对接三个环节,任何一环断了都能定位到具体位置。
第一步,验证服务。打开命令提示符执行:
# 查看 Ollama 版本,能返回版本号说明命令可用 ollama --version # 列出本地模型,能列出 deepseek-r1 条目说明模型目录配置生效 ollama list--version有返回但list报连接错误,说明服务没启动,去开始菜单点 Ollama。两条都正常,说明服务和存储路径都没问题。
第二步,验证模型推理。执行ollama run deepseek-r1:1.5b,出现Send a message提示后输入一句“你好”,能正常回复就说明模型加载和推理链路通。输入/bye退出。
第三步,验证 Chatbox 对接。打开 Chatbox,确认顶部模型名显示的是你配的模型,发一条消息看是否正常回复。如果这一步失败但命令行正常,问题一定在 Chatbox 的 API 地址、端口或跨域配置上,回到 4.2 节的三处对齐逐项核对。
验收时我还会多做一个动作:重启一次电脑,不手动开任何程序,直接打开 Chatbox 发消息。能通说明 Ollama 开机自启正常、环境变量持久化生效,这套环境才算真正落地。如果重启后 Chatbox 连不上但手动启动 Ollama 后能连,说明自启没配好,去 Ollama 设置里勾选开机启动,或者把快捷方式放进启动目录。
从那以后我每次装完这类本地模型环境,都强制走一遍“重启后直接开前端”的验收,不给自己留“当时能用、下次开机就废”的后悔药。这套 Ollama 加 Chatbox 的组合,配置量不大,但环境变量、端口、模型路径三处任何一处偷懒,后面都得花时间还债。希望帮到你。
本文还有配套的精品资源,点击获取