当前位置: 首页 > news >正文

ConvNeXt 改进 :ConvNeXt采用WTConv卷积(感受野的小波卷积),ECCV 2024,实现高效涨点,二次创新CNBlock结构 ,独家首发

本文教的是方法,也给出几种改进方法,二次创新结构,百变不离其宗一文带你改进自己模型,科研路上少走弯路。


前言

WTConv(基于小波变换的卷积层),用于在卷积神经网络(CNN)中实现大感受野。作者通过利用小波变换,设计了一个卷积层,可以在保持少量可训练参数的情况下大幅扩大感受野。WTConv 被设计为可以无缝替换现有 CNN 架构中的深度卷积层,适用于图像分类、语义分割、物体检测等任务。


理论介绍

WTConv 的核心思想是通过结合卷积神经网络(CNN)的强大特征提取能力与小波变换的多尺度特性,来实现大感受野的卷积操作,同时避免传统大卷积核带来的参数爆炸问题。传统的卷积操作通过滑动小窗口在图像上逐步执行局部特征提取,感受野的大小直接取决于卷积核的尺寸。随着卷积核的增大,参数量呈指数增长,导致网络训练效率降低、计算资源消耗增加。为解决这些问题,WTConv 提出了在小波域中执行卷积操作的策略。小波变换是一种常用于信号处理的技术,能够将信号分解为不同频率成分。WTConv 使用了其中的 Haar 小波变换,作为一种简单高效的工具,将输入图像进行分解,得到不同频带的低频和高频分量。在图像经过小波变换之后,低频分量保留了图像的全局结构信息,而高频分量则包含了图像的细节特征。通过对低频部分递归应用小波变换,WTConv 能够以较少的参数对大尺度特征进行捕捉,从而有效扩大感受野,而无需显著增加计算复杂度。在小波域中进行卷积操作可以带来更大的感受野对第二级小波域的低频带 XLL(2)​ 进行 3 × 3 卷积,产生一个包含 9 个参数的卷积操作,该操作响应输入 X 中 12 × 12 感受野的低频部分,如下图(摘自官网论文)所示:

理论详解可以参考链接:论文地址
代码可在这个链接找到:代码地址

训练代码参考和下载:手把手教你使用ConvNeXt训练自己数据集和推理,ConvNeXt模型训练(CVPR 2022),一个能挑战 Vision Transformer 的卷积神经网络,含完整代码和数据集


文章目录

  • 前言
  • 理论介绍
  • 🐴一、实战细节
    • ⚡⚡实验结果画图
    • ⚡⚡改进模块代码
    • ⚡⚡使用教程
      • ☑️步骤1
      • ☑️步骤2
      • ☑️步骤3
  • 🐴二、模型结构分析
    • ⚡⚡ 注意机制结构分析
    • ⚡⚡ConvNeXt 结构分析
      • ☑️CNBlock 结构图
    • ⚡⚡二次创新实战
      • ☑️第一种改进手法
        • 📐模块的传参分析教程
      • ☑️第二种改进手法
      • ☑️第三种改进手法
      • ☑️第四种改进手法
  • 🐴三、论文常用的评估指标
      • ☑️准确率 (Accuracy, ACC)
      • ☑️精确率 (Precision)
      • ☑️召回率 (Recall)
      • ☑️F1分数 (F1 Score)
  • 总结

🐴一、实战细节

⚡⚡实验结果画图

画图效果如下,代码可一键运行

画图代码:

# -*- coding: utf-8 -*-""" @Auth :落花不写码 @File :画图.py @IDE :PyCharm @Motto :学习新思想,争做新青年 """importmatplotlib.pyplotaspltimportpandasaspd
http://www.cnnetsun.cn/news/1606316.html

相关文章:

  • 颠覆传统视频传输:NDI技术与DistroAV插件的高效部署指南
  • 一键部署DeepSeek-R1-8B推理模型:Ollama教程,小白也能5分钟上手
  • Feishin安全设置终极指南:保护你的音乐数据和隐私
  • 从零开始:最新Anaconda+Cuda+cuDNN+Pytorch深度学习环境一站式搭建指南
  • 3D打印机静音升级:用TB67S109AFNG实现超静音微步进驱动(附完整电路图)
  • AI编程工具在代码质量提升方面有哪些具体表现
  • Qwen3-0.6B-FP8惊艳效果:Qwen3-0.6B-FP8在低资源设备上实现类GPT-4交互
  • Ubuntu24.04下Isaacgym安装避坑指南:从虚拟环境到Python版本切换全流程
  • AI IDE 进化论:从代码补全到智能体协作,开发者工作台的范式迁移
  • 《人脸识别为什么在真实场景中经常失效?》——从“算法很强”到“系统失效”的真实原因解析
  • 如何让你的AMD/Intel显卡获得DLSS级画质增强?OptiScaler跨显卡平台配置指南
  • 基于西门子 S7 - 200 PLC 的恒压供水控制系统设计
  • 2026前端面试必杀技:大白话详解高频面试题
  • C# 竟态条件
  • Janus-Pro-7B处理长文本技术详解:突破上下文窗口限制
  • docker部署Antigravity-Manager
  • Qwen3-14B开源大模型教程:中文法律条文解释与类案推荐能力
  • 如何高效管理游戏DLSS版本:DLSS Swapper完整实战指南
  • qgrid测试与部署完全手册:确保生产环境稳定运行
  • 3分钟彻底解决Windows运行库缺失问题:VisualCppRedist AIO一站式解决方案
  • ANSYS模态分析后,如何用MATLAB把导出的HB格式刚度矩阵变回普通矩阵?(附完整命令流)
  • usearch的开源赞助计划:企业支持与合作机会
  • BilibiliDown无损音频捕获技术解析与实战指南
  • 5个步骤让你的Mac应用始终保持最新状态:Latest工具完全指南
  • 2026 AI 算力全栈拆解:不止 GPU,撑起现代 AI 的 6 大核心处理器全解析
  • 别急着扔!用Windows虚拟内存和这几招,让老电脑再战三年
  • 3步构建沉浸式交互:开源全景引擎Pannellum全攻略
  • ENet性能调优手册:10个技巧让你的网络应用飞起来
  • LaTeX科技论文写作:集成Qwen3智能字幕对齐管理演讲视频素材
  • 革新性漫画优化工具:Kindle Comic Converter的全方位解决方案