做铁路车载AI这几年,被问得最多的一个问题就是:到底该选什么样的整机?车规级、无风扇、GPU、铁路车载、AI计算平台,这几个词单独拎出来都好理解,但放在一起做选型时,能直接聊明白的人并不多。铁路车载AI计算平台和机房里的GPU服务器完全是两回事,它不是放在恒温机房里跑训练任务,而是挂在机车、动车或者轨检车上,跟着车常年跑,夏天暴晒、冬天零下、灰尘和振动都是家常便饭。这篇文章把我在项目里踩过的坑、总结出来的选型逻辑,以及那些参数背后真正的取舍讲清楚,给正在做铁路车载AI硬件选型的工程师一个可以直接参考的清单。
适合读这篇文章的人,主要是两类:一类是刚接触轨道交通AI项目,需要给视觉检测、轨检分析这类负载选工控机或边缘整机的集成工程师;另一类是已经在用GPU整机但觉得哪里不对劲,想搞清楚散热、供电和可靠性瓶颈到底出在哪的硬件负责人。不管哪一类,这篇文章不会只给你堆参数,我会把每个关键指标背后的“为什么”也讲明白。
1. 先搞清楚铁路车载平台到底要跑什么活
1.1 典型业务场景:从轨检到辅助检测
铁路车载AI平台的负载,跟机房服务器差别很大。最常见的是轨道几何检测和接触网检测,车顶上装高速相机,以几十公里每小时的速度扫过钢轨和接触网,图像数据以每秒几百帧的规模流入计算平台,实时判断扣件缺失、钢轨裂纹、接触网异物这类缺陷。还有一类是列车前向场景,比如异物侵限检测,车头相机实时识别轨道上有没有落石、车辆、行人,这个对延迟极其敏感,几百毫秒的卡顿都可能导致漏报。
另一大类是司机行为分析和车厢视频监控,司机疲劳驾驶、分神、离岗这些行为需要实时告警,车厢里多路1080p视频同时接入,做人员密度统计、遗留物检测。这些场景对计算平台有个共同要求:多路视频同时处理、推理模型跑得快、连续运行不掉链子。注意,这里说的都是推理,不是训练,训练在数据中心里完成,车载平台的使命是把训练好的模型在复杂的现场环境下稳定地跑起来。
从负载形态看,典型的算法栈是YOLOv8或者更轻量化的检测模型做目标识别,加上SORT/ByteTrack这类多目标跟踪算法做轨迹管理,再叠加OCR做车牌和标识牌识别,部分场景还会上关键点检测模型做姿态分析。这些模型在数据中心里用PyTorch训练好之后,到车载平台上要做格式转换和推理优化,最终跑在TensorRT或者OpenVINO这类推理引擎上。
1.2 车载环境和机房环境完全是两码事
很多做服务器出身的人第一次接触铁路车载项目,会习惯性地按机房标准来选型:2U机架式、双路CPU、四卡GPU、风冷散热。这套思路直接搬到车上,大概率会在现场栽跟头。
先说温度和散热。数据中心机房常年控制在18到27摄氏度,GPU服务器靠强力风扇把热量带走。铁路车载设备安装在车体内部或车顶的电气柜里,夏天柜内温度可以轻松超过60摄氏度,冬天在北方地区又是零下二三十摄氏度,一年四季温差接近一百度。更重要的是,车上是没有机房空调帮你降温的,设备只能靠自己散热的被动方式活下来。
再说振动和冲击。车在轨道上跑,轮轨冲击、道岔通过、钢轨接头都让车体持续振动,这种振动不是机房那种轻微的风扇抖动,而是宽频带的随机振动,偶尔还有剧烈的冲击。机房里插着PCIe插槽的GPU服务器,搬到车上跑几天,显卡可能会从插槽里震松,内存条也可能接触不良。
然后是供电。机车和动车都是直流供电系统,电压波动大,启动、制动、过电分相时都可能出现瞬间跌落或浪涌。机房里有UPS、有稳压电源,车上没有这种待遇,设备必须自己扛得住脏电。还有粉尘和湿度,特别是隧道区段,刹车产生的铁粉粉尘和潮气混合,对电子设备的腐蚀性远比机房的洁净环境严重。
所以,铁路车载GPU整机的选型标准,从一开始就不是看算力有多高,而是看它在一个恶劣物理环境下能不能把算力持续稳定地发挥出来。这也是为什么“车规级”和“无风扇”不再是加分项,而是硬性准入门槛。
2. 车规级在铁路场景里的真实含义
2.1 EN 50155到底管了哪些指标
标题里的“车规级”三个字,放在汽车行业一般指的是AEC-Q100器件认证和ISO 26262功能安全标准,但铁路车载领域完全不同,真正需要对照的是EN 50155系列标准和IEC 61373振动冲击标准。现在很多厂商把“车规级”当营销词用,拿一份不知道从哪抄来的所谓车规认证报告就敢往车上推,实际上连EN 50155的测试项都没跑全。
EN 50155规定了铁路电子设备的使用条件,最核心的是温度等级。OT1级是零下25摄氏度到加55摄氏度,OT2是零下40到加55,OT3是零下25到加70,OT4是零下40到加70。铁路车载设备在北方冬季停放过夜的话,环境温度低于零下25度很常见,所以选型时至少要盯着OT3或OT4级别,也就是设备能在零下25度甚至零下40度的时候正常启动,同时能在70度的高温环境下持续工作。
除温度外,供电等级也很关键。EN 50155按车载电源类型分了几个等级,常见的DC 24V、DC 72V和DC 110V系统,而且规定了电压波动范围。以DC 110V系统为例,正常工作范围大约是66到137.5V,还要耐受瞬间的电压跌落和浪涌。这意味着车载整机的电源模块必须做宽压输入设计,光这一点就刷掉了一大批只适配市电220V或标准ATX电源的工控机产品。
振动和冲击的标准是IEC 61373,铁路设备分车体安装和转向架安装两类,车载AI平台通常按1类B级来考核。B级对应的加速度RMS值比A级更严格,要做的随机振动测试持续好几个小时,冲击测试更是要扛住30g以上的瞬时加速度。整机里GPU模块、存储介质、内部接插件都要在这个振动环境下保证不松动、不断裂。我见过不少工控机厂商把标准服务器显卡硬塞进机箱,又用普通PCIe延长线连,这种结构去做IEC 61373振动测试,基本一轮就挂。
遵循的EMC标准是EN 50121-3-2,轨旁和车载电子设备的电磁兼容性有专门要求,包括辐射发射、传导发射、辐射抗扰、传导抗扰、静电放电等测试项。机车内部的牵引变流器、受电弓的接触火花都是强干扰源,设备不仅要自己不向外辐射干扰,还得在强电磁环境下不死机、不误报。EMC不过关的车载设备,跑在线路上轻则数据丢包,重则系统频繁复位,这个教训在高铁项目里出现过很多次。
2.2 无风扇是被环境逼出来的
为什么要强调无风扇?很多人觉得无风扇只是噪音问题,换个低噪声风扇不就完了?但铁路车载场景里,风扇的问题远不止噪音。
首先是粉尘。轨道车辆运行中产生的铁粉粉尘非常细,会随着散热风扇的抽风进入机箱内部。这些粉尘吸附在风扇轴承上,短期内就会导致转速下降、噪音增大,时间长了直接卡死停转。一旦风扇停转,GPU在高负载下几分钟内就会过热降频甚至关机。为了延长寿命,有人会加装滤网,但滤网很快被粉尘堵死,反而加速了散热恶化。其次是机械可靠性,风扇是整机里唯一的运动部件,MTBF天然比静止的电子器件低好几个数量级。在振动环境下,风扇轴承还要额外承受机械应力,故障率进一步上升。车载设备要连续运行几万小时,无风扇设计等于直接拿掉了最大的单点故障源。
但无风扇是有代价的。没有风扇强制对流,整机的散热能力完全靠传导、辐射和自然对流,这直接把整机的功耗上限压下来了。无风扇整机做得好,能把GPU芯片的温度控制住,但通常只适合总功耗不超过100到150W的设备;如果整机功耗超过这个范围,外壳散热面积不够,芯片温度就会逼近上限,最终只能通过降频来保护,算力白白浪费。
这也是为什么铁路车载GPU平台很少用顶级独立显卡的原因:算力再高,散不出去就等于零。选型的核心逻辑是先算功耗账,再定GPU的算力档位。
3. GPU选型与指标怎么定
3.1 先算功耗账,再谈算力
我在项目启动会上常说一句话:选GPU之前,先把整机能散掉的功耗定下来,后面的选型都会顺很多。无风扇整机的散热能力,本质上由外壳的表面积、导热路径和最大允许温差决定。把整机想象成一块实心的金属散热器,所有热量都要透过导热垫、导热板传到金属外壳,再由外壳表面散发到周围的空气里。
对铝合金外壳的无风扇整机,按实际工程经验做估算:环境温度70摄氏度时,外壳表面温度也差不多到70度上下,GPU芯片结温按85到90摄氏度的安全上限算,留给导热路径的温差大约只有15到20摄氏度。整机总功耗如果能控制在50到80W,把热量均匀传导到足够大的外壳面积上还能压得住。但你只要塞进一张200W功耗的GPU,光芯片自己就超过整机的散热预算了,结温必然过限。
从这个约束出发,无风扇车载整机能承受的GPU功耗预算大概就是30到45W这个区间,极限一点能到50W,再高就必须降低环境温度等级或者牺牲满载频率。这个功耗范围内可选的平台其实挺明确:要么是NVIDIA Jetson系列的嵌入式模块,要么是RTX A2000 Embedded这类低功耗显卡,再要么就是国产GPU里功耗和生态都匹配的型号。选GPU芯片之前,先把这台整机的功耗预算定死,比如“GPU满载功耗不超过40W,整机极限功耗不超过100W”,后面所有对比都有了锚点。
温度降额也要提一句。铁路车载环境按EN 50155 OT4算,70度环境温度下芯片的散热条件比25度室温差得多。厂商标称的GPU频率通常是室温下的性能,到了70度环境温度,就算整机不降频,芯片频率也可能因为温度接近阈值而自动下调。所以选型时我会刻意选择功耗预算比实际负载需求预留20%余量的平台,避免夏天满载时算力缩水。
3.2 显存到底按推理算还是按训练算
很多需求文档里写着“显存不低于16GB”,一问为什么,答是怕以后要跑更大模型。但车载平台是推理设备,不是训练服务器,如果按训练任务来配显存,选型方向从一开始就错了。
推理和训练在显存需求上差了数量级。训练一个YOLOv8m模型,batch size为32时,显存占用可以轻松超过20GB,因为要保存梯度、优化器状态和每一层的中间激活值。但推理时模型已经是训练好的权重,前向计算只保留单层激活值,显存占用要小得多。用TensorRT优化过的YOLOv8m模型,FP16精度,处理1080p视频流,单路推理的显存占用大约1到2GB,即使同时跑4路视频流加跟踪、OCR这些辅助模型,8GB显存也够用了。
显存估算有一个简单公式可以参考:推理显存占用约等于模型权重大小乘以系数1.5到2倍,再叠加输入图像分辨率和并发路数的影响。以YOLOv8m为例,FP16权重大约120MB,推理时激活值大约几百MB,单路1080p输入加上CUDA上下文占用的显存,总占用不超过2GB。而同样的模型做训练,哪怕batch size只有16,显存需求也轻松超过12GB,这是训练和推理两条完全不同的选型思路。
所以我的建议是,车载平台显存按“模型推理峰值占用×1.5到2倍余量”来选,一般8到12GB足够覆盖未来两三年内绝大多数视觉检测模型。与其为用不到的显存买单,选一个功耗更高的平台,不如把这部分预算花在更可靠的存储和电源模块上。
3.3 现在主流的整机GPU平台怎么选
把功耗预算和环境要求摆在一起后,目前市面上真正能满足铁路车载无风扇场景的GPU计算平台,大致可以分成三条路线。我按实际项目选用频率列一下:
| 平台类型 | 代表型号 | 显存 | GPU功耗档位 | 生态适配 | 适合场景 |
|---|---|---|---|---|---|
| 嵌入式GPU模块 | Jetson AGX Orin 64GB | 64GB LPDDR5 | 15W / 25W / 40W / 60W可调 | 自带JetPack SDK,DeepStream成熟 | 多数视觉推理项目首选 |
| 嵌入式独显 | RTX A2000 Embedded | 8GB / 12GB GDDR6 | 35W ~ 65W(车载建议锁45W内) | CUDA生态完整,PyTorch/TensorRT通用 | 需更大显存或更高FP64/INT8算力的场景 |
| 国产GPU | 昇腾系列推理卡 | 8GB / 16GB | 功耗普遍在70W以上,需重点筛选 | 部分算子需迁移适配,工具链相对封闭 | 有国产化率要求的项目 |
Jetson AGX Orin是铁路车载项目里我用得最多的平台。它本质上是整块SoM模块,GPU、CPU、内存、编解码器集成在一起,没有PCIe插槽松动的问题,整体结构更适合振动环境。Jetson平台还有一个优势是自带视频编解码器,可以硬件解码多路H.264/H.265视频流,这对多路视觉检测项目来说非常关键,能省下大量CPU资源给推理和后处理。它的功耗模式可以在15W到60W之间切换,无风扇整机下我通常锁在25W或40W模式,配合冷板散热,实测能稳定跑住连续的视频推理负载。
RTX A2000 Embedded适合有特殊需求的场景,比如需要更大显存加载稍大一点的模型,或者需要用CUDA跑一些自定义的预处理算法。它是标准MXM或定制形态的独立显卡,GPU核心和显存性能远强于嵌入式模块,但需要搭配真正的工业级载板和整机散热设计。车载整机用这张卡,必须仔细做导热设计,40多W的功耗要压在冷板散热器上,否则温度很难看。
国产GPU在铁路场景里主要被国产化率要求推着走。昇腾系列在服务器端的生态相对成熟,但车载无风扇整机形态里选择还不多,而且Atlas系列推理卡的功耗普遍不低,散热压力大。我的态度是,如果项目没有明确的国产化硬指标,暂时不用在国产GPU上纠结;如果确实有要求,那一定要让厂商提供同等条件下的温度实测数据,不能只看规格书。
4. 整机结构、散热与接口是选型的隐藏门槛
4.1 全封闭冷板的散热路径
GPU平台定下来之后,整机的结构和散热设计决定了这台设备能不能在铁路上活下去。很多整机厂商在宣传页写“全铝合金无风扇设计”,但内部结构和导热路径却大有讲究。
标准的无风扇车载整机散热路径是:GPU芯片和CPU芯片通过导热垫或相变材料,把热量传到一块大面积的均温板或铝制导热板,导热板再通过螺钉压接到整机侧面的散热鳍片外壳上,最终靠外壳表面自然对流散到空气里。这条路径上任何一环出了问题,比如导热垫厚度没压到位、GPU核心和导热板之间有气隙、或者是外壳鳍片方向不利于机柜内气流流动,都会导致芯片温度迅速上升。
选型时要重点看几个结构细节。导热垫的厚度和导热系数是不是和GPU封装高度匹配,好的导热垫能覆盖完整芯片表面,差的甚至会有气泡或褶皱。整机外壳的散热面积够不够,通常来说,功耗每增加10W,散热面积就要增加约下三分之一平方米级别,整机体积和散热鳍片的设计是权衡出来的。还有安装方向,车载设备装在某些电气柜里,如果散热鳍片贴着柜壁安装,热交换效率会大打折扣。
内部走线也很影响可靠性。GPU模块或独立显卡的供电线、信号线在振动环境下如果不用硬连接或点胶固定,时间长了会产生微振动磨损,引发接触不良。我就见过一台样机,GPU供电线用普通端子插接,跑完振动测试后整机断电,拆开才发现是端子松脱导致的。选型时优先看整机内部的线缆是否有专门固定点、电源板和主板之间的连接是否用板对板连接器,这些都决定了整机在长期振动下的稳定性。
4.2 接口和安装形式别忽略
铁路车载整机的对外接口和安装形式往往在选型后期才被想起来,但一旦疏忽,现场安装时会非常被动。车载设备通常不会用普通的USB和RJ45接口,而是要求M12航空插头这类带锁紧机构的工业接口,保证振动环境下不脱落。视频接入如果用的是GigE工业相机或PoE交换机,整机至少要有足够路数的千兆网口,且网口最好支持PoE供电,省掉相机的外接电源线。串口方面,RS422/RS485用于和列车控制单元通信,CAN口用于接入车辆总线数据,这些接口在GPU整机上并不标配,选型时要确认板卡是否支持扩展。
安装形式要匹配车体柜内的空间。车载设备通常做成壁挂式或导轨式安装,厚度控制在70mm左右,便于塞进电气柜。如果整机尺寸太大,散热面积确实上去了,但柜内装不下,散热再好也白搭。我建议在选型初期就把设备安装的柜体尺寸、朝向、线缆出线方向都定死,再倒推整机的外形和接口布局,这样选出来的整机在现场装配时最顺。
供电接口和电源设计也是隐藏门槛。车载整机必须支持直流宽压输入,比如DC 110V系统下输入范围66到137.5V,通过机内电源模块转换成12V和5V给主板供电。电源模块要带隔离和滤波,还要能扛住瞬间的电压跌落。车载环境里供电波动大,整机的电源模块如果不够“脏电免疫”,GPU在高负载时突然电压跌落,轻则降频,重则系统重启,前期的算力规划全部白费。
5. 软件生态决定这个平台好不好用
5.1 系统、驱动、容器化部署
硬件选型只是第一步,软件生态的成熟度往往才是项目落地效率的决定性因素。对于Jetson平台,系统环境一般是Ubuntu 20.04或22.04 LTS配合JetPack SDK,JetPack里已经集成了匹配的NVIDIA驱动、CUDA库、TensorRT和DeepStream工具。对于X86加RTX A2000的路线,则是Ubuntu 22.04 LTS加官方NVIDIA驱动,再手工装CUDA Toolkit和cuDNN,最后安装PyTorch的CUDA版本。
这里有一个非常关键的经验:车载整机一旦交付到现场,驱动和系统版本必须锁定,绝不能随便升级内核或者GPU驱动。NVIDIA驱动和Linux内核版本强相关,升级一次内核,驱动模块可能就加载不起来,整个推理服务直接挂掉。我在项目里会要求开发团队统一用一套经过长期压测的模板镜像,系统盘烧好后不再改动,应用全部跑在Docker容器里,通过镜像版本管理来升级应用,而不是直接在系统上改环境。
容器化部署是车载AI平台的基本要求。Docker加上NVIDIA Container Toolkit后,GPU资源可以直接映射进容器,推理服务、预处理服务、数据上传服务各跑一个容器,互不干扰。这样既方便在维修时重启单个服务,也减少了因系统文件被误改导致的故障。部署工作流是先把算法工程构建成镜像,推到私有仓库,车载整机通过远程拉取镜像完成更新,更新失败还能回滚到旧版本,这个能力在铁路项目里极其重要。
GPU调度和监控也是日常运维的重点。单卡平台相对简单,多个进程共享一个GPU,NVIDIA驱动会自动做时间片调度。但如果一个平台同时跑多路算法,比如一路做轨检、一路做司机行为分析,我倾向于把两个容器分别绑定到GPU的不同计算流上,或者用MIG技术把GPU切分成两个实例,避免互相抢占显存和算力。监控方面,nvidia-smi是命令行下的基础工具,可以看GPU利用率、显存占用和温度;更推荐装nvtop,界面直观,能实时看到每个进程的GPU消耗和整卡温度。做整机可靠性验证时,我会在Linux下用stress命令配合GPU压力测试,同时盯着CPU、GPU、内存的温度和功耗曲线,连续跑一周以上才敢放行。
5.2 模型转换和推理服务搭建
硬件平台和系统确定后,算法从PyTorch训练环境迁移到车载整机上,中间有一条固定的转换链路。典型流程是:PyTorch模型导出ONNX,再通过trtexec工具转成TensorRT engine文件,推理时直接加载engine。以YOLOv8m为例,先用ultralytics官方接口导出ONNX格式,然后执行trtexec --onnx=yolov8m.onnx --saveEngine=yolov8m.engine --fp16,把模型转成FP16精度的TensorRT引擎。转换过程中还可以设置动态batch、指定最大显存占用,进一步优化推理效率。
TensorRT转换的意义在于,它能对模型的计算图做层融合和算子优化,推理速度相比PyTorch直接跑可以提升一到两倍,同时显存占用更低。在车载无风扇平台上,算力本来就受功耗限制,TensorRT这类优化就不是锦上添花,而是让算法跑得动的必要条件。转好的engine文件会和容器镜像一起固化,现场部署时不需要再跑转换流程,直接加载即可。
推理服务的架构要围绕多路视频流来设计。车载AI平台的输入通常是多路RTSP视频流,服务端要同时做解码、预处理、推理、后处理和结果上报。Jetson平台上,DeepStream是官方推荐的GStreamer插件框架,它能把硬件解码、缩放、TensorRT推理、物体跟踪这些环节串成一条流水线,批量处理多路视频流,CPU开销很低。X86加RTX方案则常用FFmpeg做硬解码,配合Python或C++写的推理服务。这里要注意,H.264解码如果走CPU软解,一个1080p视频流就会占掉好几个核,GPU算力再强,整个链路也卡在解码上,所以GPU平台自带的硬解码器是宝贵资源,一定要用起来。
推理结果最终要上报给列车信息系统,常见的是通过CAN、串口或者以太网按协议上传。这部分逻辑也要容器化,并且设计成断线重连的缓冲模式,网络恢复后补传数据。无人机房依赖的运维方式,决定了所有服务都必须支持开机自启、看门狗守护和异常崩溃后的自动拉起。
6. 选型对照表与避坑经验
6.1 一张表说清选型指标
把前面几章的内容压缩成一张选型对照表,做项目时可以拿着它去要求整机厂商提供对应参数。
| 指标维度 | 铁路车载建议值 | 选型时的关注点 |
|---|---|---|
| 环境标准 | EN 50155 OT4,IEC 61373 1类B级 | 看测试报告,别只看宣传文案上的“宽温” |
| 工作温度 | 零下40到加70摄氏度 | 确认是满载条件下的工作温度,不是待机温度 |
| 供电输入 | DC 110V或DC 24V宽压 | 输入范围要覆盖整车电压波动区间,带浪涌抑制和跌落保持 |
| GPU功耗预算 | 无风扇整机不超过45W | 算力需求为30W档预留20%余量,避免高温降频 |
| 显存容量 | 8GB左右 | 按推理峰值占用再乘1.5到2倍余量估算 |
| 视频硬解码 | 至少8路1080p@30fps | Jetson或带硬编解码器的GPU平台优先 |
| 存储介质 | 工业级宽温SSD | 系统盘和缓存盘分开,禁用工控机里的普通消费级SSD |
| 对外接口 | M12千兆网口、RS422/485、CAN | 接口带锁紧机构,数量留足冗余 |
| 软件生态 | CUDA/TensorRT/DeepStream | 确认算法可以平滑迁移,不要只看纸面算力 |
| 散热结构 | 全密封冷板传导 | 拆机看导热垫和导热路径,有条件做满载热成像测试 |
6.2 我在项目里踩过的坑
第一个坑是迷信“算力越高越好”。有次项目需求方指定某个方案,GPU标称算力很高,但那是室温条件下50W功耗跑出来的数据,整机却是普通工控机加风扇散热。产品经理问为什么不能直接上车,我说你把功耗降下来试试,一算账,散热撑不住,芯片长期降频运行,实际推理吞吐反而打不过功耗更低的Jetson方案。后来测到第5天,机器在高温环境下果然掉到只有60%的算力,教训深刻。
第二个坑是只看GPU不看视频解码能力。有一个项目前期的GPU利用率非常高,系统却频繁卡顿,排查发现是CPU一直在软解多路1080p视频流,4个核被解码吃满,GPU反而在空等数据。后来换成带硬件解码器的GPU平台,CPU占用降到20%,整体吞吐翻倍。视频AI系统是个全链路工程,解码进不来,GPU再强也白搭。
第三个坑是电源冗余没做够。车载供电波动大,电源模块的设计余量如果只卡在标准线的边缘,现场运行时会频繁出现电压跌落后的系统重启。后来整机方案强制要求加装输入端的瞬态抑制和输出端的储能电容,再叠加软件看门狗自动拉起服务,现场的重启问题才算解决。
第四个坑是整机厂商给的EMC证书和实际车型不匹配。铁路车载设备的EMC测试要按具体车型和安装位置来评估,同一台设备装在动车和机车上,传导和辐射特性可能完全不同。所以选型时一定要让厂商提供覆盖目标车型的EMC测试报告,最好有实测数据,不要看到一份EN 50121-3-2证书就放松警惕。
第五个坑纠结在要不要为未来预留更大显存。做过几个项目后我意识到,车载平台的寿命天花板根本不是显存,而是散热和供电系统的老化。与其买一块用不到16GB显存的高功耗卡,不如把预算花在更好的散热结构、工业级SSD和电源模块上,设备能稳定跑三年比峰值算力跑三天重要得多。
选型这事说到底,不是选一个参数最强的GPU,而是选一套在铁路上能稳定跑住整个AI服务的最优组合。我个人在这几年的体会是,功耗预算是所有选型的纲,功耗定了,散热、供电、结构、接口都跟着定了;软件生态是项目落地效率的底线,再好的硬件,算法迁不过去、推理优化不好,都只是摆设。最后再分享一个小技巧:拿到样机后,第一件事就是把它放进高温箱,在满载推理状态下连续烤机两周,同时记录GPU温度曲线和推理延迟曲线。如果这台机器能在70度环境温度和40W功耗的严苛组合下稳定跑满两周不掉帧,那它在绝大多数铁路车载场景里都不会让你失望。