小波变换是一种新的变换分析方法，它能有效提取信号的局部特征，但无法完全捕捉数据重要部分。为了解决这个问题，我们引入注意力机制，利用其强化关注重点的优势，将两者结合，做到更全面、深入地挖掘数据特征，以此来提升模型性能和对复杂数据的处理能力。

这种结合不仅是技术上的创新，在实际应用中也给我们提供了新的解决思路和方法，效果也十分能打，比如一种新颖的滚动轴承故障分类方法，将一维改进的自注意增强卷积神经网络与经验小波变换相结合，实现了100%的分类准确率。

因此这种结合在学术界与工业界都很热门，在对绝大部分去噪、检测等任务中效果都特别好，创新空间很大。为帮助想发论文的同学，我挑选了11篇最新的小波变换+注意力机制结合创新方案，代码基本都开源了，方便大家复现找灵感。

论文原文+开源代码需要的同学看文末

An Intelligent Bearing Fault Diagnosis Framework: One Dimensional Improved Self Attention-enhanced CNN and Empirical Wavelet Transform

方法：本文提出了一种新颖的一维改进自注意增强卷积神经网络（1D-ISACNN），并采用经验小波变换（EWT）用于滚动轴承故障分类。该方法在三组不同的轴承数据上进行了测试，实现了100%的分类准确率。

创新点：

• 提出了一种改进的一维自注意力增强卷积神经网络（1D-ISACNN），用于滚动轴承故障分类。该网络结合了经验小波变换（EWT）和自注意力机制，能够更好地捕捉信号中的关键信息。

• 提出了一种基于ACON-C的激活函数，用于进一步优化1D-ISACNN的特征学习能力。

• 设计了标签平滑正则化作为1D-ISACNN的损失函数，考虑了训练样本中正确标记位置的损失以及其他错误标记位置的损失，提高了模型的泛化能力和校准性。

• 使用自适应动量投影估计（AdamP）来优化Adam算法，在处理稀疏梯度时能够更灵活地调整学习率，提高了网络的学习能力和收敛速度。

A Wavelet Guided Attention Module for Skin Cancer Classification with Gradient-based Feature Fusion

方法：论文提出了一个结合了小波变换和注意力机制的计算机辅助诊断（CAD）系统，用于提高皮肤癌诊断的效率和准确性。该模型将边界信息与小波特征进行梯度融合，同时使用注意机制来处理纹理和颜色的变化，以提高分类性能，为真实世界的应用提供便利的皮肤癌诊断工具。

创新点：

• 独特的架构：通过从波纹特征中提取边界信息并结合注意力机制，可可靠地对皮肤癌图像进行分类。

• 梯度基于特征融合的方法：通过动态权重分配，将波纹特征和注意力辅助特征进行融合，提高了特征提取过程的性能和优化度。

Enhanced Wavelet Transform Dynamic Attention Transformer Model For Lithium-ion Battery Anomaly Detection

方法：论文提出了一种结合了小波变换（Wavelet Transform）和动态注意力机制（Dynamic Attention）的Transformer模型，用于锂离子电池异常检测。

创新点：

• 提出了一种融合小波变换和动态注意力机制的深度学习框架WADT，能够处理电池数据的非稳态和复杂动态，并有效地提取和分析电池数据的时频特征，从而准确地捕捉到其复杂的动态变化。

• 提出了一种基于WADT的卷积小波变换器模型WACformer，通过将WADT与改进的Transformer模型相结合，进一步提取时间信息，从而实现对电池充放电数据中异常的准确检测。

Multiscale Attention Wavelet Neural Operator for Capturing Steep Trajectories in Biochemical Systems

方法：论文提出一种名为多尺度自注意小波神经算子（MAWNO）的新方法，将小波变换与多尺度自注意机制相结合，以增强神经网络对具有陡峭变化的方程的逼近能力，并利用ODE和初始条件进行预测，以解决生物化学建模中的微分方程问题。

创新点：

• FNO将神经网络与傅里叶变换相结合，实现了从时域到频域的数据映射，能够提取分析特征和近似非线性方程。

• WNO利用离散小波变换高效地分解信号，减少了连续小波变换的冗余和计算开销。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“小波注意”获取全部论文+开源代码

码字不易，欢迎大家点赞评论收藏