一直在工业现场摸爬滚打的工程师应该都有同感:工控机这东西,过去给人的印象就是“皮实、稳定、能跑组态软件和PLC”,跟AI这种时髦词八竿子打不着。但这两年风向明显变了。边缘算力成了各路厂商的兵家必争之地,原本只负责采集数据、执行逻辑的工控机,开始被要求在现场直接跑视觉检测、跑大模型推理、跑预测性维护算法。我自己的项目里,就有好几台原本只跑WinCC的机器,硬是被我塞进了AI推理框架,还跑得挺稳。
这个变化背后其实是一个很现实的问题:数据量太大、实时性要求太高,把每一帧画面都传回云端再等结果,很多产线上根本等不起。AI要落地到工厂,算力就必须往现场走。而工控机作为现场最普及的计算载体,顺理成章地成了边缘AI的承重墙。这篇就结合我自己折腾过的设备、踩过的坑,聊聊工控机怎么接住AI这波风口,以及想上手的人到底该从哪开始。
1. 边缘算力升级:工控机怎么就被AI盯上了
1.1 从“跑PLC”到“跑模型”,需求到底是怎么变的
传统工控机在产线里的角色,说白了就是个“可靠的数据中转站和逻辑执行器”。它通过串口、网口、PCIe采集卡去读传感器、读PLC、读视觉相机的数据,然后做简单的判断和展示,复杂的逻辑还是交给PLC去执行。这种模式下,工控机的CPU只要够稳就行,性能反而不是第一诉求。
但AI应用进场之后,逻辑全变了。机器视觉质检要在相机抓图的几十毫秒内给出缺陷判断,设备振动数据要实时做频谱分析来判断轴承是否异常,这些任务如果用传统方式丢到云端,网络抖动一下、延迟多那么一二百毫秒,现场可能已经过了好几个产品。更重要的是,很多工厂的工控机原本就部署在网络条件一般甚至孤立的内网环境里,你不可能为了上一个AI功能就去改造整个网络架构。
所以边缘算力这个概念被反复强调,本质上是把原来集中在云端的推理计算,拆一部分到数据产生的地方去完成。而工控机作为7x24小时不间断运行、适应恶劣环境、接口丰富的老牌工业计算设备,就成了最顺手的载体。我现在做设备预测性维护项目,振动传感器和电流互感器的数据都接在工控机上,模型也直接跑在工控机里,只在每天结束时把摘要数据回传数据库,整个系统的实时性和稳定性都比云端方案好了不止一个档次。
1.2 边缘AI和云端AI的分工逻辑:为什么非要放在现场
有人可能会问,既然现在5G和工业互联网这么普及,为什么还要费劲在工控机上跑模型?这里要分清两类任务,一类是“训练”,一类是“推理”。训练大模型需要海量数据和强大的GPU集群,这活交给云端没毛病;但推理是个“实时响应”的活,放现场有三个直接好处。
第一是延迟低。视觉检测这类应用,从相机触发到结果反馈必须在几十毫秒内完成,云端方案在架构上就落后一拍。第二是可靠性高。现场网络总会出幺蛾子,但如果模型就在本机跑,断网了照样能检测、能报警。我之前做过一个光伏产线的项目,检测工位的工控机就是纯内网环境,压根没接外网,所有检测逻辑全跑在本机,连续运行几个月都没出过问题。第三是数据安全。很多工厂的工艺数据、产品图像属于核心保密数据,全部传到云端既不现实也有合规风险,本地推理就能做到“数据不出厂”。
所以我的结论是:云端和边缘不是替代关系,而是分层的。云端负责训练、优化、下发模型,边缘负责实时推理、响应和执行。工控机在这里面扮演的,就是边缘推理那一道最关键的关卡。
2. 硬件选型:普通工控机与AI工控机的分水岭
2.1 CPU选型:AMD 7730U这类移动平台芯片为什么受欢迎
接到一个AI项目,客户第一句话往往是“你们给配的什么配置”。这里头门道挺多。过去工控机清一色Intel Atom、赛扬J系列、酷睿i3/i5,干传统HMI够用,但跑AI推理就会显得吃力。最近AMD 7730U工控机热度很高,后台有人问我到底好不好用,我自己也用过几台,说说真实感受。
7730U这颗芯片是AMD Zen 3架构,8核16线程,基准功耗15瓦,最大可以到28瓦左右,集成了Vega核显(8个计算单元)。放在工控机这个场景里,它的优势非常明显:首先是多核性能扎实,跑一些需要CPU计算的AI模型(比如LightGBM、XGBoost、部分ONNX模型)时,处理速度比同价位Intel i5-1135G7还稳;其次核显性能够用,Vega 8在OpenVINO、ONNX Runtime配合下,跑一些轻量级视觉模型能到几十毫秒一帧;再一个是功耗控制,整机无风扇或者低转速风扇就能压住温度,很适合粉尘大的车间环境。
如果你问我和传统赛扬J6412这类工控机比,提升有多大?那是代差级别的。J6412跑个YOLOv5s的ONNX模型,CPU推理一帧可能要200-300毫秒,7730U配合核显优化后能做到50毫秒以内,这个差距在视觉检测场景里是致命的。当然7730U工控机价格也比传统赛扬机型贵一截,但换来的是能真正跑AI的能力,这笔账要算清楚。
2.2 算力加速:核显、NPU、独立GPU,到底怎么选
CPU选完之后,更大头的决策在“算力加速单元”上。目前市场上工控机的AI加速路径主要有三条,选错方向后面会很难受。
核显路线是被低估但因为性价比高而值得推荐的。Intel的Iris Xe和AMD的Vega核显都支持OpenVINO和DirectML,跑中轻量模型足够。优势是不加钱、功耗低、驱动相对好搞定。缺点是上限不高,跑YOLOv8m以上的模型或者多路视频流就比较吃力。
独立GPU路线性能最强,比如在工控机里塞一张RTX 4060或者A2000,跑重负载视觉模型、大模型推理都有保障。缺点也明显:贵、功耗高、体积大,还得考虑散热和电源。我之前在一个汽车零部件检测项目里用过带RTX A2000的工控机,检测节拍确实快,但整机发热量很大,夏天机柜里温度直接干到60多度,后面又加装了一套工业空调才压住。
NPU路线是这两年热起来的新方向,像瑞芯微RK3588、算能BM1684这些芯片,集成专用NPU,功耗极低,性价比极高。缺点是软件生态还在磨合期,很多模型格式转换、精度对齐需要折腾,适合对功耗要求极高的嵌入式场景,不太适合需要灵活部署通用AI框架的工业项目。
我自己对多数工业场景的建议是:预算允许优先选中高端CPU配核显的机型(比如7730U或i5-1345U这类),把推理框架优化好,大部分场景都能覆盖;如果跑重模型,再考虑加独立GPU;NPU方案除非是产品级批量出货,否则先别急于在项目里采用。
2.3 内存和存储:AI推理对工控机的新要求
传统工控机配4GB、8GB内存就能很好的运行HMI软件,但AI推理打破了这种“够用就好”的惯性。
首先是内存容量。加载一个1-2GB的大模型文件,再加上推理框架本身的开销、系统占用,16GB内存是起步,32GB才算从容。我们测过在7730U工控机上部署7B参数的量化大模型,模型本身就要占4-5GB,加上系统和其他应用,16GB机器内存占用率会到80%以上,明显不够从容。所以现在给客户配置AI工控机,我一般直接起步16GB,重载应用直接上32GB。
其次是内存带宽。CPU推理大模型时,内存带宽就是生命线,双通道DDR4-3200和单通道DDR4-2666的差距能直接反映在推理速度上。选型时要确认主板支持双通道内存,别为了省一条内存的钱把性能腰斩。
存储方面,AI工控机建议系统盘和数据盘分离。系统盘用NVMe固态,安装系统和推理框架;模型文件、图像缓存、日志数据放独立的SATA固态或大容量固态。原因很朴素:模型文件频繁读取,录像视频持续写入,如果混在同一块盘上,长期运行容易出现IO瓶颈,甚至加速SSD老化。
3. 实操:Ubuntu工控机上搭建AI推理环境的完整流程
3.1 串口数据查看与设备识别:Ubuntu下的COM口定位方法
很多工控机工程师常年用Windows,猛然切到Ubuntu系统,第一关就卡在“串口怎么找”上。Windows里是COM3、COM4,Ubuntu里则映射成tty设备文件。我自己的习惯是先在系统层面把设备找全,再考虑写程序读取。
接入USB转串口设备后,第一步是用dmesg看内核日志,确认设备是否被识别、挂载成了哪个tty节点:
sudo dmesg | grep tty正常会看到类似usb 1-1.3: ch341-uart converter now attached to ttyUSB0的信息。如果设备没出现,大概率是驱动问题,常见USB转串口芯片CH340、CP2102、FT232,Ubuntu内核一般自带驱动,硬件正常的话都能直接识别。
第二步是确认所有串口设备节点:
ls /dev/ttyUSB* ls /dev/ttyS*第三步是实际收发测试。这里我强烈推荐先用minicom这类现成工具做通断测试,避免一上来就写代码查半天结果是线没接好。安装minicom后执行:
sudo apt install minicom sudo minicom -D /dev/ttyUSB0 -b 115200如果minicom里能正常收到下位机发来的数据,说明链路没问题。接下来再用Python的pyserial做程序化读取,我常用的读取脚本骨架是这样的:
import serial import time ser = serial.Serial('/dev/ttyUSB0', 115200, timeout=0.5) while True: if ser.in_waiting > 0: data = ser.read(ser.in_waiting) print(data.hex(), data.decode('utf-8', errors='ignore')) time.sleep(0.01)这里有个容易踩的坑:工控机上有多个USB转串口设备时,/dev/ttyUSB0这个编号每次插拔后可能变化,导致程序找不到正确的端口。解决办法是写udev规则,根据设备的ID序列号绑定固定的设备名。在/etc/udev/rules.d/下新建规则文件:
sudo nano /etc/udev/rules.d/99-com-port.rules内容如:
SUBSYSTEM=="tty", ATTRS{idVendor}=="1a86", ATTRS{idProduct}=="7523", SYMLINK+="ttyPLC"保存后重载规则,设备会被固定映射到/dev/ttyPLC,这样无论插在第几个USB口,程序里都用同一个设备路径,省心太多。
3.2 部署轻量大模型的完整流程:用Ollama在工控机上跑本地大模型
在工控机上部署大模型,我发现Ollama是目前最省事的方案,它把模型下载、加载、API服务都封装得特别好,甚至连AMD核显加速都能通过环境变量开启。
安装过程很简单:
curl -fsSL https://ollama.com/install.sh | sh装好后先拉取一个合适规模的模型。工控机内存16GB以下就老老实实用3B-4B的小模型,32GB内存可以尝试7B-8B级别的量化模型。以Qwen2.5 7B量化版为例:
ollama pull qwen2.5:7b ollama run qwen2.5:7b如果是7730U这类带核显的机器,可以尝试强制使用GPU加速:
HSA_OVERRIDE_GFX_VERSION=10.3.0 ollama serve这个环境变量是AMD ROCm在部分核显上的兼容开关,实测能显著提升推理速度。
启动后Ollama会在11434端口提供OpenAI兼容的API,测试一下:
curl http://localhost:11434/api/generate -d '{ "model": "qwen2.5:7b", "prompt": "用一句话总结设备运维日报的要点" }'到这一步,工控机就成了一个标准的本地大模型服务节点,上层应用可以通过HTTP接口直接调用。我在一个设备运维项目里就是这么做了一层AI助手,把设备手册和维修记录灌进知识库,当现场工程师遇到故障时直接在平板端提问,工控机上的模型给出排查建议。整个过程数据不出厂,客户也放心。
3.3 无网络单机环境下时间不准的原因与处理办法
给工控机做AI项目时,一个特别不起眼但特别坑的问题就是系统时间不准。很多现场的工控机是单机运行、完全不联网的,运行一段时间后系统时间会逐渐偏移,有时候能偏出好几个小时。这个问题如果不处理,会导致报警记录时间戳错乱、日志无法对齐、模型输出的结果和实际时间对不上,排查问题时会让人抓狂。
无网络环境下时间不准的原因主要有三个:一是工控机主板的RTC电池(就是那颗CR2032纽扣电池)耗尽,导致断电后时间无法保持;二是RTC本身精度有限,晶振受温度影响会漂移;三是系统没有NTP服务器可对时,时间误差只能靠硬件RTC勉强维持,日积月累就越偏越多。
处理办法分几步走。先检查当前时间和硬件时间:
date sudo hwclock --show如果发现系统时间与硬件时间不一致,先把硬件时间校准到正确值:
sudo hwclock --systohc如果RTC电池已经没电,上面这步重启后会失效,需要更换主板上的纽扣电池。换电池本身不难,但工控机拆卸麻烦,有些还带保修标签,操作前要确认好。
更可靠的方案是加装一个GPS或北斗授时模块,通过串口向工控机提供标准时间源。在Ubuntu下可以用chrony配置本地授时服务,把GPS模块的串口数据作为时间参考源,这样即使完全不联网,时间精度也能长期保持在毫秒级。
sudo apt install chrony sudo nano /etc/chrony/chrony.conf配置中指定GPS串口作为参考源,比如:
refclock SHM 0 offset 0.5 delay 0.2 refid GPS1这样处理之后,工控机就有了稳定可靠的时间基准,日志和推理结果的时间戳再也不会打架了。
4. AI应用开发在工控场景的落地路径
4.1 从模型到服务:AI Agent式设备运维的初步构想
大模型部署到工控机上只是第一步,怎么用起来才是灵魂。我最近在琢磨的一个方向是把AI Agent引入设备运维:工控机不只是被动地跑一个推理模型,而是能够主动感知设备状态、调用工具、给出诊断建议。
具体架构上,工控机通过Modbus、OPC UA采集PLC和设备数据,通过串口收集传感器数据,这些数据让AI Agent来调度和分析。当某个参数超过阈值时,Agent能自动查阅设备手册(知识库)、对比历史趋势、生成报警分析报告。传统的工控逻辑只能告诉你“温度过高请检查”,接入Agent之后,它能结合当前工况告诉你“温度异常升高大概率是散热风扇转速下降,建议优先检查风扇供电”。
这种实践要落地,最关键的一环是把工控机的各类接口封装成工具API,供Agent调用。我在项目里是这么做的:用Python把串口读取、Modbus读写、报警推送、日志查询都封装成FastAPI接口,然后让大模型通过function calling机制来使用这些工具。工控机上的模型负责理解和决策,工具接口负责实际执行,二者配合,就具备了一个初级AI Agent的形态。当然这里要强调,工业场景涉及设备动作的一定要保留人工确认环节,AI负责建议,人来决定是否执行。
4.2 AI幻觉在工业场景的风险控制:规则与置信度双保险
AI大模型在工业场景落地,最让人不放心的就是“幻觉”问题。设备诊断这种场景不像闲聊,模型如果一本正经地编造一个不存在的故障原因,轻则误导排查方向,重则导致误操作。
我自己在项目里采用的策略是“规则+置信度”双保险。一方面是预先建立规则库,把设备的正常参数范围、常见故障特征、处置流程结构化地写入知识库,模型回答问题时必须先从知识库中检索到对应条目,检索不到就直接回复“暂未找到相关处理方案,请联系人工支持”,而不是让模型自由发挥。另一方面是在对话系统里给模型的输出加置信度评分,如果输出内容与知识库检索结果的语义相似度低于设定阈值,就自动降级为“建议人工复核”。
还有一招比较实用:给工控机上部署的模型限定“输出格式”。比如故障诊断场景,强制模型按JSON结构输出故障编号、原因分析、建议措施、置信度。这样可以很方便地在程序里做校验,如果模型输出缺失关键字段,直接判定为无效回答。经过这几层约束,实际使用中AI幻觉的负面影响会被压缩到很低。
4.3 结合现场场景:视觉检测、预测性维护与智能问答的取舍
工控机站上AI风口之后,实际应用场景我梳理下来大概可以分成三类,各有各的取舍。
机器视觉质检是最成熟的方向。工控机接工业相机,跑YOLO系列或其衍生模型做缺陷检测、OCR识别、定位引导。这类场景对推理速度要求极高,适合用核显或NPU做优化,模型精度和速度之间要做平衡——实际项目里YOLOv5s这类轻量模型的出场率远高于YOLOv8x,原因就是生产节拍不允许你“慢慢精确”。
预测性维护是数据驱动的方向。工控机持续采集振动、温度、电流信号,通过时序模型或者传统机器学习模型做剩余寿命预测和异常检测。这类场景对算力要求中等,但对数据质量要求极高,传感器采样频率、数据清洗流程、特征工程才是项目成败的关键。我做过一个空压机预测性维护项目,前期花在数据治理上的时间占到了整个项目周期的60%以上。
大模型智能问答是这两年新增的方向,适合设备制造商用来做售后知识库、现场运维助手。这类场景对工控机性能要求不是最高的,但对知识库的整理质量要求极高——喂给模型的资料如果本身错漏百出,模型给的答案自然也不靠谱。所以做这类项目,功夫要下在知识整理上,而不是一味堆模型参数。
5. 常见问题排查与经验小结
5.1 部署过程中容易踩的坑
这一节把我经历过的、问过的最典型的部署问题整理成一个速查表,给准备动手的同行参考:
| 问题现象 | 可能原因 | 处理方法 |
|---|---|---|
| 模型推理速度远低于预期 | CPU散热降频、内存单通道、未启用核显加速 | 检查CPU温度与频率、补一条内存组双通道、开启OpenVINO/DirectML |
| 串口设备插拔后编号变化 | udev未绑定设备名 | 编写udev规则按ID_VENDOR/ID_SERIAL固定设备节点 |
| 单机时间运行几天后明显偏移 | RTC电池老化、无NTP对时源 | 更换CR2032电池、加GPS授时模块、配置chrony |
| 大模型推理时内存占用超限导致OOM | 模型规模超过物理内存 | 换更大量化模型、减少上下文长度、增大swap |
| 工控机频繁宕机重启 | 电源功率不足、散热不良 | 核对整机功耗、增加散热风扇或空调降温 |
5.2 几点实操心得
最后聊几点感性的体会。第一,工控机做AI不是“无脑堆配置”,一定要先明确现场的真实约束。是延迟敏感?是数据敏感?还是环境恶劣?这决定了你用核显、NPU还是独立GPU,方案选型一旦错了方向,后面加多少钱都难救。
第二,Ubuntu系统在工控机上的普及度确实在快速提升。微软那套Windows系统性能开销实在太大,而且十年老版本的维护成本不低。我自己现在的项目基本都默认用Ubuntu 22.04 LTS,关键就是稳定、占用低、驱动齐全,跑AI那套工具链也更顺手。
第三,边缘算力这件事,硬件只是入场券,真正拉开差距的是软件能力。同样的7730U工控机,有人只能跑跑demo,有人能调出几十毫秒一帧的视觉检测速度,差别全在推理优化、模型量化、系统调优这些功夫上。所以如果你正准备切入这个方向,重心一定要往软件和算法上倾斜,硬件选型够用就好,别陷入参数竞赛的泥潭。
我自己现在的习惯是,每接到一个工控AI项目,先写好一份“硬件选型评估单”,列清楚现场环境、模型规模、实时性要求、数据安全要求、预算区间,再对着这份单子选机器。这套流程走下来,项目失败的几率小很多,客户的满意度也高很多。边缘算力的风口还在往前吹,工控机的角色也会越来越重,方向已经摆在这里了,剩下的就是实打实干活了。