YOLOv12改进策略【Conv和Transformer】| CVPR2025 CATANet LRSA局部区域自注意力 重叠分块交互 + 共享多头权重,精细复原图像纹理细节
一、本文介绍
本文记录的是利用LRSA局部区域自注意力优化YOLOv12的目标检测网络模型。
LRSA(Local-Region Self-Attention)通过重叠滑动窗口分块、全局共享多头注意力与通道卷积增强结合,实现图像邻域像素精细上下文交互,弥补长程聚合模块缺失的局部纹理信息。本文利用LRSA模块,采用重叠窗口划分特征消除分块边界断层问题,所有窗口复用QKV权重降低模型开销,在每个局部窗口内执行多头自注意力挖掘像素间纹理关联,最后通过ConvFFN完成通道维度特征提纯并引入残差连接保留原始特征,针对性强化图像边缘、线条、细微纹理等高频细节特征,抑制窗口分割带来的模糊伪影,在特征建模阶段实现全局长程依赖与局部精细信息高效互补,避免固定窗口注意力的边界失真缺陷,显著提升模型的图像视觉清晰度。
专栏目录:YOLOv12改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
专栏地址:YOLOv12改进专栏——以发表论文的角度,快速准确的找到有效涨点的创新点!
文章目录
- 一、本文介绍
- 二、LRSA介绍
- 2.1 设计出发点
- 2.2 模块结构
- 2.3 模块优势
- 三、LRSA的实现代码
- 四、创新模块
- 4.1 改进点1
- 4.2 改进点2⭐
- 五、添加步骤
- 5.1 修改一
- 5.2 修改二
- 5.3 修改三
- 六、yaml模型文件
- 6.1 模型改进版本一
- 6.2 模型改进版本二⭐
- 七、成功运行结果
二、LRSA介绍
2.1 设计出发点
轻量化图像超分网络中,仅依靠长程聚合注意力会丢失像素级局部纹理、边缘细节;传统固定窗口注意力采用无重叠分块,块边界出现特征断裂,细节重建精度差。TAB模块负责全局长程依赖建模,但缺少精细局部上下文交互,无法复原图片细微纹理、线条等高频细节。因此设计LRSA局部区域自注意力,采用重叠分块策略强化邻域像素交互,专门补充局部精细特征,平衡全局长程信息与局部细节重建需求。
2.2 模块结构
LR(Local-Region Self-Attention)局部区域自注意力:
- 重叠分块划分:对输入特征做重叠滑动窗口分块,消除窗口边界特征割裂问题;
- 共享多头自注意力:所有窗口共用Q/K/V权重矩阵,降低参数量与计算开销;
- 块内精细交互:每个窗口内部执行多头自注意力,挖掘邻域像素纹理关联;
- 融合输出+ConvFFN:拼接所有窗口输出,通道卷积完成通道维度特征增强,搭配层归一化与残差连接稳定训练。
2.3 模块优势
- 细节重建强
