企业官网建设流程全解析

最近社区里关于 Qwen 的消息又密集了起来，从模型下载到 LoRA 微调，从本地部署到多模态应用，关键词覆盖了生成、向量检索、语音识别、甚至 ComfyUI 工作流。我结合自己在 2080Ti 上的实际部署经验、Qwen Embedding 与 Java 侧向量检索的落地案例，以及 Qwen Image Edit 等多模态玩法，整理一篇完整的 Qwen 实战笔记，把环境准备、模型部署、微调、调用、排错一次性串起来。

1. Qwen 到底是什么，为什么值得本地部署

1.1 从名字说起：Qwen / 千问 是什么

Qwen 是阿里巴巴开源的大语言模型系列，中文名“千问”，目前已经形成了非常完整的产品矩阵，既包括纯文本对话模型 Qwen-Long、Qwen-Turbo，也包括多模态模型 Qwen-VL、Qwen-Audio，以及代码专用模型 Qwen-Coder。社区里经常讨论的 Qwen 3.8 系列、Qwen 27B 量化版，本质都是基于 Qwen 基础架构的变体，其中包括社区蒸馏模型、微调版本、GGUF 量化版本等。

Qwen 模型的一个突出特点是“中文能力扎实”。相比很多英文训练语料占绝对主导的模型，Qwen 在中文语境下的指令跟随、文本生成、代码补全表现更稳定。这也是很多国内开发者在私有化部署时优先选择 Qwen 的原因之一。

1.2 为什么越来越多的开发者选择本地部署

线上 API 虽然接入快、效果稳定，但在实际工程中会遇到几个很现实的问题：

• 数据隐私风险：业务数据通过 API 传输，敏感信息无法完全掌控。
• 调用成本不可控：高频或大批量任务（比如批量文本向量化）会产生较高的费用。
• 网络依赖严重：API 服务故障或网络波动会直接影响业务可用性。
• 个性化定制受限：API 无法方便地做 LoRA 微调，也无法接入自己的知识库。

本地部署 Qwen 后，以上问题都能得到不同程度的缓解。尤其对于 To B 项目、企业内部知识库、私有化 Agent 等场景，本地部署几乎是必选项。

1.3 Qwen 3.8-Max Preview 怎么理解

很多读者看到“Qwen 3.8-Max Preview”这个标题会疑惑，这里需要做个澄清。Qwen 官方版本迭代中，并没有一个严格命名为“3.8-Max”的官方正式版。社区里通常有两种理解：

• 一种是指 Qwen 3.8 系列模型（例如 3.8B、7B 等参数规模）中能力较强的 Max 级版本，以“Preview”标识实验性功能。
• 另一种是指 Qwen 2.5 之后，社区对特定微调版本或量化版本的昵称称呼，例如结合了 DeepSeek-R1 蒸馏能力的 Qwen 1.5B 量化版、Qwen 27B 的 GGUF 版等。

因此，本文在讨论时会把“Qwen 3.8-Max Preview”作为一个宽泛的概念，覆盖 Qwen 系列模型在当前阶段的主要实战形态：本地部署、LoRA 微调、Embedding 向量化、多模态生成、代码辅助等。如果你实际拿到的模型文件名称或版本号不同，部署和调用原理是通用的。

2. 环境准备与硬件选型

2.1 硬件需求：2080Ti 到底能不能跑 Qwen

这是很多读者最关心的问题，我先说结论：2080Ti 能跑，关键是选对模型规模和量化方式。

NVIDIA GeForce RTX 2080 Ti 的显存常见版本是 11GB，部分魔改版/22GB 版本在社区里也比较流行。不同显存容量对应的 Qwen 模型选择如下：

注意：显存只是运行门槛，推理速度还受 CPU 内存带宽、PCIe 带宽、显存带宽等因素影响。2080Ti 跑 27B 的 4bit 量化模型，生成速度通常在 5~15 token/s 之间，做离线批量处理没问题，做高并发实时服务则比较吃力。

2.2 软件环境：CUDA 与推理框架

本地部署 Qwen，无论采用哪个推理框架，底层都需要依赖 NVIDIA 驱动和 CUDA。建议版本如下（以你的实际驱动兼容性为准）：

操作系统：Ubuntu 20.04 / 22.04，Windows 11 也可 Python：3.10+ CUDA：11.8 或 12.1 cuDNN：与 CUDA 对应版本 PyTorch：2.1.0 或更高

检查 CUDA 是否正常工作，运行以下命令：

nvidia-smi python -c "import torch; print(torch.cuda.is_available())"

如果输出True，说明 GPU 环境没问题。

2.3 部署工具选择

当前社区主流的 Qwen 本地部署工具主要有三种，各有优劣势：

• Ollama：安装最简单，一条命令启动模型，适合个人开发调试和快速体验。支持 GGUF 量化格式，但高级参数调节能力有限。
• vLLM：吞吐量极高，适合生产环境。支持 PagedAttention、Continuous Batching，但对显存要求更高，需要更稳定的 GPU。
• Transformers + PEFT：灵活性最高，适合做 LoRA 微调、自定义推理逻辑，也是研究场景最常用的组合。

本文实战部分会以 Ollama 为主，因为它对新手最友好，同时也给出 vLLM 的生产部署思路。

3. Ollama 本地部署 Qwen 实战

3.1 安装 Ollama

Ollama 支持 Linux、macOS、Windows。以 Linux 为例，一条命令完成安装：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后，验证服务是否启动：

ollama --version

如果无法访问官方源，也可以在 GitHub Release 页面下载对应的安装包离线安装。

3.2 下载 Qwen 模型

Ollama 的模型库中已经收录了 Qwen 系列及其量化变体。拉取模型命令：

# 拉取 7B 默认版本 ollama pull qwen2.5:7b # 拉取 27B 量化版（需要较大显存） ollama pull qwen2.5:27b # 拉取社区蒸馏版本（例如 DeepSeek-R1 蒸馏到 Qwen 1.5B） ollama pull deepseek-r1:1.5b

如果你的模型文件来自 Hugging Face 或 ModelScope，需要先转换成 Ollama 支持的 GGUF 格式，或者使用ollama create直接导入：

ollama create qwen-custom -f ./Modelfile

其中Modelfile内容非常简单：

FROM ./qwen-7b-q4_k_m.gguf

3.3 运行与调用

启动模型：

ollama run qwen2.5:7b

你会进入一个交互式对话框，直接输入问题即可得到回答。退出对话使用/bye。

在代码中调用，Ollama 提供了 OpenAI 兼容的 RESTful API 接口：

curl http://localhost:11434/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen2.5:7b", "messages": [ {"role": "user", "content": "什么是 RAG？用中文解释"} ], "stream": false }'

使用 Python 调用：

from openai import OpenAI client = OpenAI( base_url="http://localhost:11434/v1", api_key="ollama" ) response = client.chat.completions.create( model="qwen2.5:7b", messages=[ {"role": "user", "content": "写一个 Python 快速排序的示例"} ], temperature=0.7 ) print(response.choices[0].message.content)

注意：这里虽然用了openai库，但实际请求指向本地 Ollama 服务，不需要真实的 OpenAI API Key。

3.4 2080Ti 部署踩坑与优化

在 2080Ti 上部署 Qwen 时，最容易遇到两个问题：

• 显存不足导致 OOM。解决方案是换更小模型，或者降低量化级别，例如从 Q5 降到 Q4_K_M。
• 生成速度过慢。可以调整 Ollama 的并发参数和环境变量：

OLLAMA_NUM_PARALLEL=1 OLLAMA_MAX_LOADED_MODELS=1

如果希望更高吞吐量，建议改用 vLLM，启动命令：

python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen2.5-7B-Instruct \ --quantization awq \ --dtype half \ --max-model-len 8192

awq量化需要提前下载 AWQ 版本模型。

4. LoRA 微调 Qwen：从数据准备到训练推理

4.1 为什么选择 LoRA

全参微调 Qwen 7B 需要至少 56GB 显存，对普通开发者来说门槛过高。LoRA（Low-Rank Adaptation）通过在原始权重旁注入低秩矩阵，只训练新增参数，显存需求大幅降低，一张 11GB 显存的 2080Ti 也能完成 7B 模型的微调。

LoRA 微调适合以下场景：

• 让模型学会特定领域的术语和表达习惯。
• 让模型模仿特定的输出格式（如 JSON、Markdown、SQL）。
• 给模型注入特定任务的能力（如会议纪要整理、代码评审）。

4.2 安装依赖

pip install torch transformers datasets peft trl accelerate bitsandbytes

注意bitsandbytes在 Windows 下的兼容性问题，建议在 Linux 环境操作。

4.3 准备训练数据

LoRA 微调一般使用指令微调格式。常见的格式有两种：

alpaca 格式：

[ { "instruction": "把下面句子翻译成中文", "input": "Hello, world!", "output": "你好，世界！" } ]

对话格式：

[ { "conversations": [ {"role": "user", "content": "解释一下什么是 Docker"}, {"role": "assistant", "content": "Docker 是一种容器化平台..."} ] } ]

训练代码中需要按对应格式进行模板化处理。

4.4 编写 LoRA 微调代码

下面的脚本以 Qwen2.5-7B-Instruct 为例，使用trl库的SFTTrainer完成微调：

# 文件路径：train_lora.py import torch from datasets import load_dataset from transformers import ( AutoModelForCausalLM, AutoTokenizer, TrainingArguments, BitsAndBytesConfig ) from peft import LoraConfig, get_peft_model from trl import SFTTrainer # 4bit 量化加载模型，节约显存 bnb_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_compute_dtype=torch.bfloat16, bnb_4bit_use_double_quant=True ) model_name = "Qwen/Qwen2.5-7B-Instruct" tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) tokenizer.pad_token = tokenizer.eos_token model = AutoModelForCausalLM.from_pretrained( model_name, quantization_config=bnb_config, device_map="auto", trust_remote_code=True ) # LoRA 配置 lora_config = LoraConfig( r=16, lora_alpha=32, target_modules=["q_proj", "k_proj", "v_proj", "o_proj"], lora_dropout=0.05, bias="none", task_type="CAUSAL_LM" ) from transformers import DataCollatorForLanguageModeling training_args = TrainingArguments( output_dir="./qwen-lora-output", per_device_train_batch_size=1, gradient_accumulation_steps=8, num_train_epochs=3, logging_steps=50, save_steps=500, learning_rate=2e-4, fp16=True, report_to="none" ) trainer = SFTTrainer( model=model, args=training_args, train_dataset=load_dataset("json", data_files="train.json")["train"], dataset_text_field="output", tokenizer=tokenizer, peft_config=lora_config, max_seq_length=2048 ) trainer.train() # 保存 LoRA 权重 trainer.model.save_pretrained("./qwen-lora-adapter") tokenizer.save_pretrained("./qwen-lora-adapter")

4.5 加载 LoRA 模型进行推理

微调完成后，使用 LoRA 适配器加载模型：

from peft import PeftModel, PeftConfig from transformers import AutoModelForCausalLM, AutoTokenizer base_model = "Qwen/Qwen2.5-7B-Instruct" peft_model_id = "./qwen-lora-adapter" config = PeftConfig.from_pretrained(peft_model_id) model = AutoModelForCausalLM.from_pretrained( config.base_model_name_or_path, device_map="auto", trust_remote_code=True ) model = PeftModel.from_pretrained(model, peft_model_id) tokenizer = AutoTokenizer.from_pretrained(base_model, trust_remote_code=True) prompt = "请用一句话总结：什么是微服务架构？" inputs = tokenizer(prompt, return_tensors="pt").to("cuda") output = model.generate(**inputs, max_new_tokens=256) response = tokenizer.decode(output[0], skip_special_tokens=True) print(response)

4.6 微调后效果评估

微调不是一劳永逸，需要通过测试集评估效果。建议准备若干“只有微调后才能正确回答”的问题，验收模型是否真的学到目标模式。如果效果不理想，优先调整：

• 训练数据质量：有没有噪声、格式是否统一、是否包含正确示例。
• r和alpha参数：r太小则学习能力不足，太大则过拟合。
• 学习率：建议从2e-4开始，过大容易发散。

5. Qwen Embedding + Milvus 向量检索实战

5.1 为什么需要 Qwen Embedding

在大模型应用里，Embedding 模型负责把文本转换成向量。Qwen 同样提供了 Embedding 模型，中文语义理解能力较强，适合做知识库检索、语义去重、推荐系统等场景。

将 Embedding 模型与向量数据库 Milvus 结合，就可以搭建一个完整的 RAG（检索增强生成）流程：文档切块 -> Embedding 向量化 -> 存入 Milvus -> 问题向量化 -> 相似度检索 -> 交给 LLM 生成回答。

5.2 启动 Qwen Embedding 服务

Qwen Embedding 模型通常基于 API 服务或本地部署。如果使用本地部署，可以基于text-embedding模型拉起服务。简单起一个 Flask/FastAPI 服务的思路如下：

# 文件路径：embedding_server.py from fastapi import FastAPI from pydantic import BaseModel from sentence_transformers import SentenceTransformer app = FastAPI() model = SentenceTransformer("Qwen/Qwen-14B-Embedding") # 实际按模型选择 class EmbedRequest(BaseModel): texts: list[str] @app.post("/embed") def embed(req: EmbedRequest): embeddings = model.encode(req.texts, normalize_embeddings=True) return {"embeddings": embeddings.tolist()} if __name__ == "__main__": import uvicorn uvicorn.run(app, host="0.0.0.0", port=8000)

5.3 Java LangChain4j 调用示例

社区里经常有人在 Java 生态下使用 Qwen Embedding，并通过 LangChain4j 操作 Milvus。下面给出一个完成度较高的调用示例。

第一步，添加 Maven 依赖：

<dependency> <groupId>dev.langchain4j</groupId> <artifactId>langchain4j</artifactId> <version>0.35.0</version> </dependency> <dependency> <groupId>dev.langchain4j</groupId> <artifactId>langchain4j-milvus</artifactId> <version>0.35.0</version> </dependency>

第二步，编写核心代码，把文档写入 Milvus 并进行检索：

// 文件路径：src/main/java/com/example/rag/QwenMilvusDemo.java package com.example.rag; import dev.langchain4j.data.document.Document; import dev.langchain4j.data.document.splitter.DocumentSplitters; import dev.langchain4j.data.embedding.Embedding; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.embedding.EmbeddingModel; import dev.langchain4j.model.embedding.onnx.AllMiniLmL6V2QuantizedEmbeddingModel; import dev.langchain4j.store.embedding.EmbeddingMatch; import dev.langchain4j.store.embedding.EmbeddingSearchRequest; import dev.langchain4j.store.embedding.EmbeddingSearchResult; import dev.langchain4j.store.embedding.EmbeddingStore; import dev.langchain4j.store.embedding.milvus.MilvusEmbeddingStore; import java.util.List; public class QwenMilvusDemo { public static void main(String[] args) { // 1. 自定义接入 Qwen Embedding 服务 EmbeddingModel embeddingModel = new QwenEmbeddingModel( "http://localhost:8000/embed" ); // 2. 初始化 Milvus 存储 EmbeddingStore<TextSegment> embeddingStore = MilvusEmbeddingStore.builder() .host("localhost") .port(19530) .collectionName("qwen_docs") .dimension(1024) .build(); // 3. 原始文档分块 Document document = Document.from( "Qwen 是阿里巴巴开源的大语言模型系列，支持中文、英文、代码等场景。" ); List<TextSegment> segments = DocumentSplitters.recursive(300, 50).split(document); // 4. 向量化并存入 Milvus List<Embedding> embeddings = embeddingModel.embedAll(segments).content(); embeddingStore.addAll(embeddings, segments); // 5. 检索 Embedding queryEmbedding = embeddingModel.embed("什么是 Qwen？").content(); EmbeddingSearchRequest request = EmbeddingSearchRequest.builder() .queryEmbedding(queryEmbedding) .maxResults(3) .build(); EmbeddingSearchResult<TextSegment> result = embeddingStore.search(request); for (EmbeddingMatch<TextSegment> match : result.matches()) { System.out.println("得分: " + match.score()); System.out.println("内容: " + match.embedded().text()); } } }

// 文件路径：src/main/java/com/example/rag/QwenEmbeddingModel.java package com.example.rag; import dev.langchain4j.data.embedding.Embedding; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.embedding.EmbeddingModel; import dev.langchain4j.model.output.Response; import java.net.URI; import java.net.http.HttpClient; import java.net.http.HttpRequest; import java.net.http.HttpResponse; import java.util.ArrayList; import java.util.List; public class QwenEmbeddingModel implements EmbeddingModel { private final String endpoint; public QwenEmbeddingModel(String endpoint) { this.endpoint = endpoint; } @Override public Response<List<Embedding>> embedAll(List<TextSegment> textSegments) { try { // 简易 JSON 请求体，生产上建议引入 Jackson/Gson StringBuilder body = new StringBuilder("{\"texts\":["); for (int i = 0; i < textSegments.size(); i++) { if (i > 0) body.append(","); body.append("\"").append(textSegments.get(i).text()).append("\""); } body.append("]}"); HttpClient client = HttpClient.newHttpClient(); HttpRequest request = HttpRequest.newBuilder() .uri(URI.create(endpoint)) .header("Content-Type", "application/json") .POST(HttpRequest.BodyPublishers.ofString(body.toString())) .build(); HttpResponse<String> response = client.send(request, HttpResponse.BodyHandlers.ofString()); List<Embedding> embeddings = new ArrayList<>(); // 这里需要根据实际返回结构解析 JSON，省略具体解析代码 return Response.from(embeddings); } catch (Exception e) { throw new RuntimeException("调用 Qwen Embedding 服务失败", e); } } }

上面的代码重点演示了整体链路：从文本分块、向量化、存储到检索。实际项目中要注意QwenEmbeddingModel需要补充 JSON 解析逻辑，并处理好超时和异常重试。

5.4 向量化场景的工程建议

• 分块大小（chunk size）要根据业务文档特点调优，常见 200~500 字一块。
• 向量维度必须与 Milvus Collection 定义的维度保持一致。
• 检索时建议埋点记录耗时，观察是否因为向量维度过高导致查询变慢。
• 如果文档量很大，可以在 Milvus 上创建索引（IVF_FLAT、HNSW 等），显著提升检索性能。

6. 多模态与效率工具应用

6.1 Qwen Image Edit 与 ComfyUI 集成

社区里讨论较多的“qwen lmge edit 2511-3d camera control”“comfyui qwen image edit 多参考图”，本质上是把 Qwen 的多模态能力集成到 ComfyUI 等图像生成工作流中。这种做法的价值在于：用自然语言控制图片编辑，而不是手动抠图、调参数。

在 ComfyUI 中使用此类模型的思路一般是这样：

1. 安装对应自定义节点，例如在 ComfyUI/custom_nodes 目录下 clone 支持 Qwen 图像编辑的插件仓库。
2. 下载对应的 Qwen 图像编辑模型权重，放入 models 目录。
3. 在 ComfyUI 工作流中加载“Qwen Image Edit”节点，输入参考图、编辑指令（例如“将背景改为黄昏色调”“将相机角度向左移动 15 度”）。
4. 连接 VAE 解码器，输出图片。

这里需要特别注意“3D camera control”功能。某些 Qwen 图像编辑版本支持相机位姿控制，输入指令时通常需要给出角度、方向、距离等参数。如果模型不支持，界面会忽略该参数，需要提前查阅模型文档确认能力边界。

6.2 FP8 精度与图像噪点问题

很多读者反馈“qwen image fp8 噪点”的问题。FP8 是为了节省显存而采用的低精度浮点格式，相比 FP16/BF16，它会在推理过程中丢失精度，导致图片生成结果出现噪点、伪影、颜色不准等质量问题。

解决方案有三种：

• 如果显存充足，改用 FP16/BF16 精度加载模型。
• 若必须使用 FP8，后处理环节增加去噪模型，或者适当提升采样步数。
• 注意模型本身是否原生支持 FP8，有些模型在 FP8 下会有明显的质量退化，这是模型量化策略导致的，不是采样器问题。

6.3 Qwen Code CLI 与 VSCode 集成

Qwen 也推出了面向代码场景的工具链，可以在终端中直接完成代码生成、解释、重构等工作。安装思路：

npm install -g @qwen-code/qwen-code

启动：

qwen

由于 Qwen Code CLI 本质是一个交互式命令行工具，你可以把它集成到 VSCode 的终端中使用。需要注意，首次使用需要配置 API Key，或者指向本地模型服务。如果你的 API Key 是云端服务的，按照官方文档配置环境变量即可。

6.4 会议整理与 ASR 场景

语音识别（ASR）模型是 Qwen 生态中一个容易被忽略的部分。社区中“qwen asr 1.7b 显存泄露”的讨论，说明有人尝试本地部署 Qwen ASR 模型用于会议转写。这类模型可以直接把录音转成文字，再结合 LLM 做摘要和待办提取，形成一条完整的“会议整理”流水线。

一个简化版的会议记录处理链路：

音频文件 -> ASR 转录 -> 文本分段 -> LLM 摘要 -> 输出会议纪要

如果你在部署 ASR 模型时遇到显存持续增长的问题，优先检查是否有循环推理未释放显存、批量推理批次设置过大，或者使用的是非流式推理接口。

7. 常见问题与排查思路

整理了 Qwen 本地部署和微调过程中最常见的五类问题，可以直接对照排查。

7.1 Ollama 服务无法访问

如果本地部署后curl http://localhost:11434无响应，先检查服务是否启动：

systemctl status ollama

如果服务已启动但监听地址不是0.0.0.0，远程访问会失败。可以在启动时指定：

OLLAMA_HOST=0.0.0.0 ollama serve

7.2 模型加载慢或者推理卡顿

在 2080Ti 这类老卡上，模型加载慢往往是因为 GGUF 文件存放在机械硬盘上。建议把模型文件放到 NVMe 固态硬盘中，同时扩大系统内存，避免 CPU 内存不足时触发 swap。

7.3 LoRA 微调过程中显存溢出

即便使用 LoRA，7B 模型在 11GB 显存上仍然紧张。除了使用 4bit 量化，还可以打开梯度检查点：

training_args = TrainingArguments( ... gradient_checkpointing=True, optim="paged_adamw_8bit" )

这样可以显著降低显存占用，代价是训练速度变慢。

8. 最佳实践与工程建议

8.1 模型选型与量化策略

• 跑得动优先：本地个人电脑建议从量化模型开始，不要一上来就追求高精度。
• 效果优先：如果是离线任务，可以试试更大规模模型配合低量化级别，找到“效果-资源”平衡点。
• 版本锁定：LLM 生态快速迭代，项目里一定要锁定模型版本和推理框架版本，避免升级导致行为变化。

8.2 数据与 Prompt 管理

• LoRA 微调数据必须经过预处理，去除重复、矛盾、格式混乱的样本。
• Prompt 要模板化，特别是 RAG 场景，system prompt 与 user prompt 要分开管理。
• 对模型输出做后处理校验，尤其在生成 JSON、SQL 等结构化工件时，建议加入格式校验。

8.3 安全与权限控制

• 本地部署后不要直接暴露公网端口。如果需要远程访问，建议加反向代理和鉴权。
• 如果模型接入企业内部系统，严格控制模型可访问的数据范围，避免提示注入导致敏感信息泄露。
• 涉及数据库的删除、更新类操作，无论是人工还是模型执行，都要落实最小权限原则，先在测试环境验证。

8.4 性能监控与日志

• 记录每次请求的耗时、token 数、显存峰值。
• 针对 2080Ti 这种较老显卡，实时监控显存使用率，防止 OOM 拖垮整个服务。
• 日志中不要记录完整 Prompt 和完整输出，防止敏感信息通过日志外泄。

9. 总结与下一步学习方向

这篇文章从 Qwen 本地部署出发，覆盖了 Ollama 快速体验、2080Ti 上的模型选型、LoRA 微调完整流程、Qwen Embedding 与 Milvus 的 Java 调用链路，以及多模态和 ASR 场景的扩展方向。无论你是准备在个人电脑上跑一个小模型做实验，还是要在企业业务中搭建知识库问答系统，都可以按文章中的步骤先跑通一条最小链路，再逐步替换和优化其中的每一个环节。

接下来你可以继续研究几件事：第一，对比 vLLM 和 Ollama 在生产环境下的吞吐差异，用实际压测数据决定部署方案；第二，把 LoRA 微调的数据准备流程工程化，形成一套可持续更新的领域微调流水线；第三，仔细理解 Milvus 的索引机制，在文档量上百万后，向量检索性能和准确率并发优化才是真正的技术分水岭。

如果这篇文章对你有帮助，可以收藏备用，后续遇到 Qwen 部署和微调问题也可以直接回来查排查表。