企业官网建设流程全解析

前言

本文介绍了基于归一化的注意力模块（NAM）及其在YOLO26中的结合应用。NAM是一种新颖的注意力机制，旨在抑制不太显著的特征，提高模型效率。它通过批量归一化的缩放因子衡量通道和像素的重要性，避免使用全连接和卷积层，结合通道和空间注意力子模块，还添加正则化项到损失函数以抑制不显著权重。该模块计算高效，能在保持性能的同时提升泛化能力。我们将NAM模块集成进YOLO26。

文章目录： YOLO26改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLO26改进专栏

介绍

摘要

识别较不显著的特征是模型压缩的关键。然而，这在革命性的注意力机制中尚未被研究。在这项工作中，我们提出了一种新颖的基于归一化的注意力模块（NAM），该模块抑制了较不显著的权重。它对注意力模块施加了权重稀疏惩罚，从而使其在保留相似性能的同时变得更具计算效率。在Resnet和Mobilenet上与其他三种注意力机制的比较表明，我们的方法可以带来更高的准确性。本文的代码可以在https://github.com/Christian-lyc/NAM公开获取。

文章链接

论文地址：论文地址

代码地址：代码地址

基本原理

NAM (Normalization-based Attention Module)是一种新颖的注意力机制，旨在通过抑制不太显著的特征来提高模型的效率。NAM模块将权重稀疏惩罚应用于注意力机制中，以提高计算效率同时保持性能。NAM模块通过批量归