卡尔曼滤波与PID控制C语言实现：从算法到嵌入式联调实战
2026/9/13 10:28:47
1. 项目概述
时序预测是数据挖掘和机器学习领域的重要研究方向，广泛应用于气象预报、电力负荷预测、金融分析等场景。本项目对五种主流深度学习模型（Transformer-BiLSTM、Transformer、CNN-BiLSTM、BiLSTM、CNN）在时序预测任务中的表现进行了系统性对比研究，使用Matlab实现并验证了各模型在不同类型时序数据上的预测性能。
2. 模型原理与结构分析
2.1 CNN模型
CNN通过一维卷积核提取时序数据的局部特征，其结构主要包括：
- 输入层：接收原始时序数据
- 卷积层：使用32个大小为3的卷积核进行特征提取
- 池化层：最大池化，核大小为2
- 全连接层：64和32个神经元
- 输出层：预测结果
优势在于局部特征提取能力强、计算效率高，适合短时序数据预测。但难以捕捉长距离依赖关系。
2.2 BiLSTM模型
BiLSTM通过双向LSTM层捕捉时序数据的正向和反向依赖关系，主要结构包括：
- 输入层
- 双向LSTM层：64个隐藏单元，2层
- 融合层：拼接正向和反向LSTM输出
- 全连接层
- 输出层
适合中等长度时序数据的趋势捕捉，但处理长时序数据时计算量较大。
2.3 Transformer模型
Transformer基于自注意力机制捕捉全局依赖关系，核心组件包括：
- 输入层+位置编码
- 编码器：3层，4个注意力头
- 解码器：3层
- 输出层
擅长长距离依赖建模，但对短时序数据和计算资源要求较高。
2.4 CNN-BiLSTM混合模型
结合CNN和BiLSTM的优势：
- CNN模块提取局部特征
- BiLSTM模块捕捉时序依赖
- 全连接层输出预测
在多变量、中等长度时序数据上表现优异。
2.5 Transformer-BiLSTM混合模型
融合Transformer和BiLSTM的优点：
- Transformer模块捕捉全局依赖
- BiLSTM模块细化局部时序特征
- 全连接层输出预测
在长时序、多变量、非线性数据上表现最佳。
3. 实验设计与实现
3.1 数据集准备
使用四种类型数据集：
- 单变量短时序：日气温数据
- 单变量长时序：小时级电力负荷
- 多变量短时序：日气象数据
- 多变量长时序：小时级环境监测数据
3.2 数据预处理
统一处理流程：
- 缺失值填充（线性插值）
- 异常值处理（3σ原则）
- Min-Max归一化
- 按7:2:1划分训练/验证/测试集
- 重构为监督学习格式（look_back=24）
3.3 模型参数设置
统一训练参数：
- 优化器：Adam(lr=0.001)
- 损失函数：MSE
- Epochs：100（早停策略）
- Batch size：32
- Dropout：0.2
- L2正则化：0.001
4. 实验结果与分析
4.1 单变量短时序数据
| 模型 | MAE | RMSE | R² | 训练时间(min) |
|---|---|---|---|---|
| CNN | 0.3215 | 0.4110 | 0.9236 | 2.35 |
| BiLSTM | 0.3842 | 0.4643 | 0.8972 | 3.78 |
| Transformer | 0.4568 | 0.5366 | 0.8625 | 8.92 |
| CNN-BiLSTM | 0.3028 | 0.3903 | 0.9318 | 4.86 |
| Transformer-BiLSTM | 0.3157 | 0.4002 | 0.9275 | 10.25 |
分析：CNN及其混合模型在短时序数据上表现最佳。
4.2 单变量长时序数据
| 模型 | MAE | RMSE | R² | 训练时间(min) |
|---|---|---|---|---|
| CNN | 25.6892 | 32.0214 | 0.8125 | 15.68 |
| BiLSTM | 20.3567 | 28.1008 | 0.8569 | 22.35 |
| Transformer | 16.8923 | 24.2416 | 0.8987 | 38.76 |
| CNN-BiLSTM | 18.5678 | 26.0561 | 0.8753 | 28.92 |
| Transformer-BiLSTM | 14.2345 | 22.3326 | 0.9215 | 45.89 |
分析：Transformer及其混合模型在长时序数据上优势明显。
4.3 多变量短时序数据
| 模型 | MAE | RMSE | R² | 训练时间(min) |
|---|---|---|---|---|
| CNN | 0.2876 | 0.3816 | 0.9352 | 3.56 |
| BiLSTM | 0.3215 | 0.4229 | 0.9187 | 4.98 |
| Transformer | 0.3987 | 0.5068 | 0.8876 | 10.32 |
| CNN-BiLSTM | 0.2568 | 0.3513 | 0.9489 | 6.75 |
| Transformer-BiLSTM | 0.2689 | 0.3608 | 0.9425 | 12.56 |
分析：CNN-BiLSTM在多变量短时序数据上表现最优。
4.4 多变量长时序数据
| 模型 | MAE | RMSE | R² | 训练时间(min) |
|---|---|---|---|---|
| CNN | 5.6892 | 6.9832 | 0.7895 | 18.92 |
| BiLSTM | 4.3567 | 5.6971 | 0.8423 | 25.68 |
| Transformer | 3.2156 | 4.7271 | 0.8876 | 42.35 |
| CNN-BiLSTM | 3.8923 | 5.2587 | 0.8654 | 32.15 |
| Transformer-BiLSTM | 2.5678 | 4.1100 | 0.9321 | 49.78 |
分析：Transformer-BiLSTM在多变量长时序数据上综合表现最佳。
5. 模型选型建议
根据实验结果，给出以下选型建议：
- 短时序数据：
- 单变量：优先考虑CNN
- 多变量：CNN-BiLSTM最优
- 长时序数据：
- 单变量：Transformer-BiLSTM最佳
- 多变量：Transformer-BiLSTM优势明显
- 计算资源有限时：
- 短时序：CNN效率最高
- 长时序：BiLSTM是折中选择
6. 关键实现细节
6.1 Matlab实现要点
- 数据加载与预处理：
% 数据归一化 data_normalized = (data - min(data)) / (max(data) - min(data)); % 数据重构 X = []; y = []; for i = 1:(length(data)-look_back-look_forward+1) X = [X; data_normalized(i:i+look_back-1)]; y = [y; data_normalized(i+look_back:i+look_back+look_forward-1)]; end- CNN模型构建：
layers = [ sequenceInputLayer(inputSize) convolution1dLayer(3,32,'Padding','same') reluLayer() maxPooling1dLayer(2,'Stride',2) flattenLayer() fullyConnectedLayer(64) reluLayer() fullyConnectedLayer(32) reluLayer() fullyConnectedLayer(outputSize) regressionLayer()];- 模型训练配置：
options = trainingOptions('adam', ... 'MaxEpochs',100, ... 'MiniBatchSize',32, ... 'ValidationData',{XVal,yVal}, ... 'ValidationFrequency',30, ... 'Verbose',false, ... 'Plots','training-progress', ... 'ExecutionEnvironment','auto');6.2 调参经验
- 学习率设置：
- 初始学习率0.001
- 使用学习率衰减（factor=0.1，patience=5）
- 早停策略：
- 验证集损失10轮不下降则停止训练
- 正则化：
- Dropout率0.2
- L2正则化系数0.001
7. 常见问题与解决方案
7.1 训练不收敛
可能原因：
- 学习率过大
- 数据未归一化
- 网络结构不合理
解决方案：
- 降低学习率（如0.0001）
- 检查数据预处理
- 简化网络结构
7.2 过拟合
表现：
- 训练误差持续下降但验证误差上升
解决方法：
- 增加Dropout率（0.3-0.5）
- 增强L2正则化
- 增加训练数据量
7.3 预测结果波动大
可能原因：
- 模型捕捉噪声
- 超参数不合适
解决方案：
- 加强数据平滑处理
- 调整卷积核大小和LSTM单元数
8. 项目扩展方向
- 模型优化：
- 引入注意力机制
- 尝试其他混合架构
- 应用扩展：
- 尝试更多领域数据集
- 开发实时预测系统
- 工程优化：
- 模型量化加速
- 部署到嵌入式设备
在实际项目中，我发现Transformer-BiLSTM虽然性能优异，但对计算资源要求较高，建议根据实际场景需求权衡模型复杂度和预测精度。对于实时性要求高的场景，可以优先考虑CNN或BiLSTM等轻量级模型。