Restore Translation Using Equivariant Neural Networks
Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）
针对CNN对平移敏感且现有不变性方法损害标准性能的问题，提出分类器前恢复器，基于张量空间平移等变充分必要条件恢复变换输入，保持分类器不变。
2023-06-29 cs.CV cs.LG
Unsupervised Object Representation Learning using Translation and Rotation Group Equivariant VAE
Simons Machine Learning Center（西蒙斯机器学习中心）；New York Structural Biology Center（纽约结构生物学中心）
在许多成像模态中，感兴趣对象可以以各种位置和姿态出现（即，经受2d或3d中的平移和旋转），但是对象的位置和姿态不改变其语义（即，对象的本质）。也就是说，卫星图像中飞机的特定位置和旋转，或自然图像中椅子的3d旋转，或低温电子显微照片中粒子的旋转，不会改变这些物体的内在性质。在这里，我们考虑的问题，学习语义表示的对象是不变的姿势和位置在一个完全无监督的方式。我们在以前的方法来解决这个问题，通过引入目标VAE，平移和旋转组等变变分自编码器框架的缺点。TARGET-VAE结合了三个核心创新：1）旋转和平移组等变编码器架构，2）潜在旋转，平移和旋转-平移不变语义对象表示的结构分解分布，它们由近似推理网络联合推断，以及3）空间等变生成器网络。在全面的实验中，我们表明，TARGET-VAE在没有监督的情况下学习解缠表示，显着改善，并避免了以前的方法的病态。当在被旋转和平移严重破坏的图像上训练时，TARGET-VAE学习到的语义表示与在一致姿势的对象上学习到的语义表示相似，从而大大提高了语义潜在空间中的聚类。此外，TARGET-VAE能够执行非常准确的无监督姿势和位置推断。我们预计像TARGET-VAE这样的方法将成为未来无监督对象生成、姿态预测和目标检测的基础。
2023-01-03 cs.CV cs.LG
S-TREK: Sequential Translation and Rotation Equivariant Keypoints for local feature extraction
Graz University of Technology（格拉茨技术大学）；Stuttgart Laboratory 1（斯图加特第一实验室）；Sony Europe B.V（索尼欧洲公司）
本研究提出新型局部特征提取器S-TREK，结合具平移与旋转等变性的深度关键点检测器和轻量级描述子，通过强化学习启发的序列训练提升关键点可重复性，在多基准上尤其平面内旋转场景下表现优于现有方法。
2023-08-28 cs.CV
Tensor field networks: Rotation- and translation-equivariant neural networks for 3D point clouds
Stanford University（斯坦福大学）；University of California, Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Lab（劳伦斯伯克利国家实验室）；Google（谷歌）
我们介绍张量场神经网络，这是局部等变的3D旋转，平移和置换的点在每一层。3D旋转等方差消除了对数据增强的需要，以识别任意方向上的特征。我们的网络使用由球谐函数构建的滤波器;由于这种滤波器选择的数学后果，每一层都接受标量、向量和高阶张量作为输入（并保证作为输出），这些都是几何意义上的。我们展示了张量场网络在几何，物理和化学任务的能力。
2018-05-18 cs.AI cs.CV cs.LG
Deformation Robust Roto-Scale-Translation Equivariant CNNs
University of Washington（华盛顿大学）；Purdue University（普渡大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
将群对称性直接引入学习过程已被证明是模型设计的有效指导方针。通过产生保证协变地转换为输入上的群动作的特征，群等变卷积神经网络（G-CNN）在具有内在对称性的学习任务中实现了显着改善的泛化性能。G-CNN的一般理论和实际实现已经针对旋转或缩放变换下的平面图像进行了研究，但仅单独研究。在本文中，我们提出了一个旋转尺度平移等变CNN（RST-CNN），这是保证通过耦合组卷积在这三个组联合实现等变。此外，由于现实中的对称变换很少是完美的，并且通常会受到输入变形的影响，因此我们提供了表示对输入失真的等方差的稳定性分析，这促使卷积滤波器在（预先固定的）低频空间模式下进行截断扩展。由此产生的模型可证明地实现了变形鲁棒性等方差，即，当变换被讨厌的数据变形“污染”时，仍然“近似地”保留了对称性，这是对于分布外泛化特别重要的属性。MNIST，时尚MNIST，STL-10的数值实验表明，所提出的模型产生显着的收益超过现有技术，特别是在小数据政权的旋转和缩放变化都存在于数据。
2021-11-22 cs.CV
Learning Invariant Representations for Equivariant Neural Networks Using Orthogonal Moments
Punjabi University（旁遮普大学）
标准卷积神经网络（CNN）的卷积层与平移是等变的。然而，卷积和全连接层对于其他仿射几何变换不是等变的或不变的。最近，提出了一类新的CNN，其中CNN的传统层被等变卷积，池化和批量归一化层取代。等变神经网络中的最终分类层对于不同的仿射几何变换（例如旋转、反射和平移）是不变的，并且标量值通过使用整个网络的卷积和下采样来消除滤波器响应的空间维度来获得，或者对滤波器响应进行平均。在这项工作中，我们建议整合正交矩，它给出了高阶统计的功能作为一种有效的手段，编码全局不变性相对于旋转，反射和平移在全连接层。因此，网络的中间层变得等变，而分类层变得不变。最广泛使用的Zernike，伪Zernike和正交傅立叶-梅林时刻被认为是用于此目的。通过在旋转MNIST和CIFAR 10数据集上将不变过渡和全连接层集成到组等变CNN（G-CNN）架构中来评估所提出工作的有效性。
2022-09-22 cs.CV
cWDM: Conditional Wavelet Diffusion Models for Cross-Modality 3D Medical Image Synthesis
University of Basel（巴塞尔大学）
针对脑肿瘤分割中多模态MR图像缺失问题，提出条件小波扩散模型cWDM，以三幅可用模态图像为条件合成缺失模态图像，支持下游分割，可直接处理全分辨率体数据，避免伪影，还可扩展至其他跨模态转换任务。
2024-11-26 cs.CV eess.IV
Roto-Translation Equivariant Convolutional Networks: Application to Histopathology Image Analysis
Eindhoven University of Technology（埃因霍温理工大学）
旋转不变性是用于医学图像分析并且特别是用于计算病理学应用的机器学习模型的期望属性。我们提出了一个框架来编码卷积网络中特殊欧几里得运动组SE（2）的几何结构，通过引入SE（2）组卷积层来产生平移和旋转等方差。这种结构使模型能够学习具有离散化方向维度的特征表示，以保证其输出在离散旋转集下不变。传统的旋转不变性方法主要依赖于数据增强，但这并不能保证当输入旋转时输出的鲁棒性。因此，经过训练的传统CNN可能需要测试时旋转增强才能达到其全部能力。这项研究的重点是组织病理学图像分析的应用程序，它是可取的，成像组织的任意全局方向信息不被捕获的机器学习模型。三个不同的组织病理学图像分析任务（有丝分裂检测，细胞核分割和肿瘤分类）的建议框架进行评估。我们对每个问题进行了比较分析，并表明使用所提出的框架时可以实现性能的一致提高。
2020-02-20 cs.CV
Moving Frame Net: SE(3)-Equivariant Network for Volumes
Mines Paris, PSL University（巴黎矿业学院，巴黎文理研究大学）
神经网络对变换的等变性有助于提高其性能并减少计算机视觉任务中的泛化误差，因为它们适用于呈现对称性的数据集（例如缩放，旋转，平移）。移动标架方法是导出流形上李群作用不变量算子的经典方法，近年来，基于移动标架方法提出了一种图像数据的旋转平移等变神经网络。在本文中，我们显着改善这种方法，减少计算的移动帧只有一个，在输入阶段，而不是在每一层重复计算。理论上证明了所得到的结构的等变性，并且我们建立了一个旋转和平移等变的神经网络来处理体积，即3D空间上的信号。我们的训练模型在MedMNIST 3D的大多数测试数据集的医学体积分类中优于基准。
2022-11-07 cs.CV stat.ML
A Comparative study of Arabic handwritten characters invariant feature
University of Sfax（斯法克斯大学）
本文从实用角度出发，探讨了阿拉伯手写体文字的不可改变性。对基于Hough变换、Fourier变换、小波变换和Gabor滤波器的手写体字符特征提取技术进行了比较研究。结果表明，Hough变换和Gabor滤波器对旋转和平移不敏感，Fourier变换对旋转敏感而对平移不敏感，而Wavelet变换对旋转和平移都很敏感。
2012-11-08 cs.CV
Dual-Tree Wavelet Scattering Network with Parametric Log Transformation for Object Classification
University of Cambridge（剑桥大学）
我们介绍了一个散点网络，它使用双树复小波的参数对数变换从多分辨率图像中提取平移不变表示。参数变换通过将偏态分布转化为相对平均对称的分布来辅助OLS剪枝算法，而双树小波提高了网络的计算效率。所提出的网络在两个图像数据集上的分类精度和计算效率都优于Mallat的ScatterNet。所提出的网络优于其他监督和一些无监督的方法也提出了使用不同的训练数据集大小进行实验。
2017-02-10 cs.CV
Shape-Pose Disentanglement using SE(3)-equivariant Vector Neurons
Tel Aviv University（特拉维夫大学）；Hebrew University of Jerusalem（希伯来大学）
我们引入了一个无监督的技术编码点云到一个规范的形状表示，通过解开形状和姿势。我们的编码器是稳定和一致的，这意味着形状编码是纯粹的姿势不变的，而提取的旋转和平移能够语义对齐同一类的不同输入形状到一个共同的规范姿势。具体来说，我们设计了一个自动编码器的基础上，矢量神经元网络，旋转等变神经网络，其层，我们扩展到提供除了旋转等方差的旋转等方差。由此产生的编码器产生的姿势不变的形状编码的建设，使我们的方法专注于学习一个一致的规范构成的一类对象。定量和定性实验验证了我们的方法优越的稳定性和一致性。
2022-04-03 cs.CV
3D Wavelet Latent Diffusion Model for Whole-Body MR-to-CT Modality Translation
School of Biomedical Engineering, Shanghai Jiao Tong University（上海交通大学生物医学工程学院）；School of Information Science and Technology, ShanghaiTech University（上海交通大学信息科学与技术学院）；Shanghai United Imaging Healthcare Co., Ltd.（上海联影医疗科技有限公司）；Department of Radiology and Biomedical Imaging, Yale University（耶鲁大学放射科与生物医学成像系）；Department of Applied Mathematics & Statistics and Department of Computer Science, Stony Brook University（石溪大学应用数学与统计系和计算机科学系）
针对全身MR到CT转换中空间对齐差和图像质量不足的问题，提出3D小波潜在扩散模型（3D-WLDM），通过潜在空间模态转换、小波残差模块、结构解耦锚定及双跳跃连接注意力机制，实现了高分辨率且保持解剖完整性的CT图像生成。
2025-07-14 cs.AI cs.CV eess.IV
Image-to-Image Translation Framework Embedded with Rotation Symmetry Priors
School of Mathematics and Statistics, Xi’an Jiaotong University, Shaanxi, P.R.China（西安交通大学数学与统计学学院，陕西省，中华人民共和国）
本文提出基于旋转对称先验的图像到图像翻译框架，通过引入旋转群等价卷积实现旋转等价翻译网络，理论分析TL-Conv的等价误差，并在多种I2I任务中验证其有效性。
2026-04-14 cs.CV
Fast Wavelet-Based Visual Classification
Ecole Polytechnique（巴黎综合理工学院）；Massachusetts Institute of Technology（麻省理工学院）
我们研究了一种生物学动机的方法来快速视觉分类，直接受到Serre等人最近工作的启发。具体来说，权衡生物学准确性和计算效率，我们探索使用小波和grouplet样变换来并行调节视觉皮层V1和V2细胞，交替使用最大操作来实现尺度和平移不变性。在学习过程中应用特征选择过程以加速识别。我们引入了一个简单的注意力反馈机制，显着提高识别和鲁棒性在多对象场景。在实验中，该算法在目标识别、纹理和卫星图像分类、语言识别和声音分类上达到或超过了最先进的成功率。
2008-06-08 cs.CV
Small Noisy and Perspective Face Detection using Deformable Symmetric Gabor Wavelet Network
Dept. of Computer Engineering, Kyung Hee University（庆熙大学计算机工程系）
低分辨率图像中的人脸检测和跟踪是一个不平凡的任务，由于外观特征的人脸特征的限制。此外，面部表情在这个小而嘈杂的脸上产生了额外的失真。本文提出了一种可变形对称Gabor小波网络人脸模型，用于低分辨率图像中的人脸检测。我们的模型优化了旋转，平移，膨胀，透视和部分变形量的对称约束的人脸模型。对称性约束有助于我们的模型对噪声和失真更加鲁棒。在低分辨率人脸图像数据集和视频上的实验结果表明，在各种具有挑战性的条件下，人脸检测和跟踪结果都很有希望。
2020-10-30 cs.CV
Phase-Aware Wavelet-Based-Scattering Encoder-Decoder for Dense Predictions
Northern Paris Computer Science Lab, Sorbonne Paris Nord University, Villetaneuse, France（北巴黎计算机科学实验室，巴黎-索邦大学，法国维莱特内斯）
提出一种相位感知散射编解码器，通过在跳跃连接中显式保留相位信息来恢复空间结构，在图像去噪和皮肤病变分割任务中验证了相位对密集预测的有效性。
2026-05-23 cs.AI cs.CV cs.LG
UNet-AF: Alias-free UNet architectures
本文提出一种无别名UNet架构，通过选择先进的翻译等变层提升图像恢复任务中的等变性，实验显示其在性能和等变性方面优于传统方法。
2026-09-23 cs.CV
Scale Equivariance Improves Siamese Tracking
UvA-Bosch Delta Lab（阿姆斯特丹大学-博世Delta实验室）；University of Amsterdam（阿姆斯特丹大学）
暹罗跟踪器将跟踪转化为模板与帧中候选区域之间的相似性估计。在数学上，相似性函数成功的关键因素之一是平移等方差。非平移等变结构在训练过程中会产生位置偏差，因此目标的位置很难从特征空间中恢复。在现实生活中，对象会经历除平移之外的各种变换，例如旋转或缩放。除非模型有内部机制来处理它们，否则相似性可能会降低。在本文中，我们专注于缩放，我们的目标是为Siamese网络配备额外的内置尺度等方差，以先验地捕捉目标的自然变化。我们发展的理论规模等变暹罗跟踪器，并提供了一个简单的配方，如何使广泛的现有的跟踪器规模等变。我们提出了SE-SiamFC，SiamFC的一个规模等变的变体，根据配方。我们在OTB和VOT基准测试以及综合生成的T-MNIST和S-MNIST数据集上进行实验。我们证明了一个内置的额外的规模等方差是有用的视觉对象跟踪。
2020-11-06 cs.CV
Translation-Equivariance of Normalization Layers and Aliasing in Convolutional Neural Networks
ENS de Lyon（里昂高等师范学院）；Foxstream
本研究提出理论框架，分析归一化层对离散移位和连续平移的等变性，给出必要充分条件，并用ResNet-18和ImageNet特征图实证验证，为科学计算中的成像系统提供更精确的物理建模基础。
2025-06-18 cs.CV
Rotation-Equivariant Deep Learning for Diffusion MRI
Technical University of Munich（慕尼黑工业大学）；D’Annunzio University（邓南遮大学）
卷积网络是成功的，但它们最近被在旋转和平移下等变的新神经网络超越。这些新的网络工作得更好，因为它们不需要分别学习每个图像特征的每个可能方向。到目前为止，他们已经提出了2D和3D数据。在这里，我们将它们推广到6D扩散MRI数据，确保在图像空间中的3D旋转平移和$q$空间中的匹配3D旋转下的联合等方差，如由图像形成所指示的。这种等变深度学习适用于扩散MRI，因为微观结构和宏观结构特征（如神经纤维）可以出现在许多不同的方向上，并且因为即使是非旋转等变深度学习也是迄今为止许多扩散MRI任务的最佳方法。我们验证我们的等变方法对多发性硬化病变分割。与非旋转等变深度学习相比，我们提出的神经网络可以产生更好的结果，并且需要更少的扫描来进行训练。它们还继承了深度学习相对于经典扩散MRI方法的所有优势。我们的实现可以在https://github.com/philip-mueller/equivariant-deep-dmri上获得，并且可以在不了解数学背景的情况下使用。
2021-02-13 cs.CV cs.LG cs.NE
Harmformer: Harmonic Networks Meet Transformers for Continuous Roto-Translation Equivariance
Institute of Information Theory and Automation（信息理论与自动化研究所）；Czech Academy of Sciences（捷克科学院）
提出Harmformer，一种结合谐波网络与Transformer的模型，实现平移和连续旋转等变性，优于先前等变Transformer，并展示对任意旋转的固有稳定性。
2024-11-06 cs.CV
Rotation-Equivariant Self-Supervised Method in Image Denoising
Xi’an Jiaotong University（西安交通大学）；Pengcheng Laboratory（鹏城实验室）；Macau University of Science and Technology（澳门科学技术大学）
本文提出将旋转等变卷积引入自监督图像去噪，通过理论分析证明网络可改造为旋转等变版本，并设计掩码融合机制构建自适应框架，实验验证了有效性。
2025-05-26 cs.CV
Learning Steerable Filters for Rotation Equivariant CNNs
University of Amsterdam（阿姆斯特丹大学）；University of Heidelberg（海德堡大学）
在许多机器学习任务中，期望模型的预测在其输入的变换下以等变方式变换。卷积神经网络（CNN）通过构造实现平移等变;然而，对于其他变换，它们被迫学习正确的映射。在这项工作中，我们开发了可控滤波CNN（SFCNN），通过设计实现平移和旋转下的联合等方差。所提出的架构采用可操纵滤波器来有效地计算许多方向的依赖于方向的响应，而不会遭受来自滤波器旋转的插值伪影。我们利用群卷积，保证一个等变映射。此外，我们推广他的权重初始化计划的过滤器被定义为一个系统的原子过滤器的线性组合。数值实验表明，随着采样滤波器方向数量的增加，样本复杂度大幅提高，并确认网络在方向上概括了学习模式。所提出的方法在旋转MNIST基准和ISBI 2012 2D EM分割挑战上达到了最先进的水平。
2018-03-19 cs.CV cs.LG
Sub-Pixel Registration of Wavelet-Encoded Images
University of Central Florida（中佛罗里达大学）
子像素配准是诸如遥感中的超分辨率、磁共振成像中的运动补偿和制造中的无损检测等应用的关键步骤。最近，这些技术已经趋向于小波编码成像和稀疏/压缩传感。前者在减少成像伪影方面起着至关重要的作用，而后者显著提高了采集速度。鉴于这些新出现的需求，小波编码成像的应用，我们提出了一种亚像素配准方法，可以实现直接小波域配准从一组稀疏的系数。我们做了以下贡献：（一）我们设计了一种方法的解耦尺度，旋转和平移参数在Haar小波域，（二）我们推导出明确的数学表达式，定义在带内子像素注册的小波系数，（iii）使用派生的表达式，我们提出了一种方法来实现带内子像素注册，避免来回变换。(iv)我们的解决方案仍然非常准确，即使当使用稀疏的系数集，这是由于在一个稀疏的小波系数集的信号的本地化。我们证明了我们的方法的准确性，并表明它优于最先进的模拟和真实数据，即使数据是稀疏的。
2017-05-01 cs.CV
H-NeXt: The next step towards roto-translation invariant networks
提出参数高效的旋转-平移不变网络 H-NeXt，通过等变骨干、不变池化和分类层，在无数据增强训练下于 MNIST 与 CIFAR-10 取得最优分类性能。
2023-11-02 cs.CV cs.LG
Equivariant Image Modeling
University of Science and Technology of China（中国科学技术大学）；Tencent Hunyuan Research（腾讯混元研究院）
提出等变图像建模框架，通过列式分词和窗口因果注意力利用平移不变性对齐子任务优化，在ImageNet生成上以更少计算达到SOTA性能，并提升零样本泛化与超长图像合成能力。
2025-03-24 cs.CV
Self-Supervised Equivariant Learning for Oriented Keypoint Detection
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
从图像中检测鲁棒的关键点是计算机视觉中的一个重要问题，而关键点的特征方向和尺度对关键点的描述和匹配起着重要的作用。现有的基于学习的关键点检测方法依赖于标准的修正等变CNN，但通常无法检测到针对几何变化的可靠关键点。为了学习检测鲁棒的定向关键点，我们引入了一个使用旋转等变CNN的自监督学习框架。我们提出了一个密集的方向对齐损失的图像对生成的合成变换训练基于直方图的方向图。我们的方法优于以前的方法在图像匹配基准和相机姿态估计基准。
2022-04-19 cs.CV
A Hypertoroidal Covering for Perfect Color Equivariance
提出一种通过将区间值提升到圆上的双覆盖来构建真正等变的颜色等变架构，解决了先前方法中近似饱和度和亮度为1D平移带来的伪影问题，在细粒度分类和医学成像等任务上提升了性能。
2026-10-06 cs.CV
RING#: PR-by-PE Global Localization with Roto-translation Equivariant Gram Learning
Institute of Cyber-Systems and Control, Zhejiang University（浙江大学控制科学与工程学院（ cyber系统与控制研究所））；School of Astronautics, Beihang University（北京航空航天大学宇航学院）；College of Intelligence Science and Technology, National University of Defense Technology（国防科技大学智能科学学院）
针对视角或环境变化下传统顺序式全局定位易因位置识别失效导致精度下降的问题，提出基于位姿估计推导位置识别的新范式及端到端BEV空间定位网络RING#，在多数据集多模态下性能优于SOTA。
2024-09-17 cs.CV cs.RO
Group Invariant Scattering
Ecole Polytechnique（巴黎综合理工学院）；IHES（法国高等科学研究所）
构造了L2（R^d）上的平移不变算子，这些算子对于微分同胚的作用是Lipschitz连续的。散射传播算子是非线性和非交换算子的路径有序乘积，每个算子计算小波变换的模。一个局部积分定义了一个加窗散射变换，它被证明是Lipschitz连续的反同态的作用。随着窗口大小的增加，它收敛到一个小波散射变换，这是平移不变。散射系数也提供了平稳过程的表示。期望值取决于高阶矩，并且可以区分具有相同功率谱的过程。将散射算子推广到L2（G）上，其中G是紧李群，并且在G的作用下是不变的.结合L2（R^d）和Ld（SO（d））上的散射定义了L2（R^d）上的平移和旋转不变散射。
2012-04-15 cs.CV math.FA
Polar Transformer Networks
GRASP Laboratory, University of Pennsylvania（宾夕法尼亚大学GRASP实验室）
卷积神经网络（CNN）本质上与平移是等变的。努力嵌入其他形式的等方差只集中在轮换。我们通过Polar Transformer Network（PTN）扩展了CNN中的等方差概念。PTN结合了空间Transformer网络（SpaceX）和规范坐标表示的思想。其结果是一个网络的平移不变和旋转和缩放等变。PTN是端到端训练的，由三个不同的阶段组成：极坐标原点预测器，新引入的极坐标Transformer模块和分类器。PTN在旋转MNIST和新引入的SIM2MNIST数据集上实现了最新技术，SIM2MNIST数据集是通过添加杂波和通过平移，旋转和缩放扰动数字获得的MNIST变体。PTN的思想是可扩展到3D，我们证明通过圆柱形Transformer网络。
2018-02-01 cs.CV
Invariant Scattering Convolution Networks
Ecole Polytechnique（巴黎综合理工学院）
小波散射网络计算平移不变的图像表示，这是稳定的变形，并保留高频信息的分类。它级联小波变换卷积与非线性模和平均算子。第一个网络层输出SIFT类型的描述符，而接下来的层提供补充的不变信息，以提高分类。小波散射网络的数学分析解释了用于分类的深度卷积网络的重要特性。平稳过程的散射表示法结合了高阶矩，因此可以区分具有相同傅立叶功率谱的纹理。国家的最先进的分类结果得到手写数字和纹理歧视，使用高斯核SVM和生成PCA分类。
2012-03-08 cs.CV
Deep Roto-Translation Scattering for Object Classification
Ecole Normale Supérieure（巴黎高等师范学院）
字典学习算法或有监督的深度卷积网络已经大大提高了预定义特征表示（如SIFT）的效率。我们介绍了一个深散射卷积网络，预定义的小波滤波器的空间和角度变量。这种表示带来了一个重要的改进，以前获得的结果与预定义的功能，如加州理工学院和CIFAR的对象图像数据库。由此产生的准确性与无监督深度学习和基于字典的表示获得的结果相当。这表明，通过使用几何先验细化图像表示是一个有前途的方向，以改善图像分类和它的理解。
2015-05-30 cs.CV
Scale-Equivariant Imaging: Self-Supervised Learning for Image Super-Resolution and Deblurring
ENSL, CNRS, Laboratoire de Physique（ENSL、CNRS、物理实验室）；School of Engineering, University of Edinburgh（工程学院、爱丁堡大学）
本文提出尺度等变成像方法，通过利用图像分布的尺度不变性，提升图像超分辨率和去模糊任务的性能，实现与全监督学习相当的效果。
2026-01-28 cs.CV eess.IV
Unveiling the Power of Wavelets: A Wavelet-based Kolmogorov-Arnold Network for Hyperspectral Image Classification
University of Tehran（德黑兰大学）；Boise State University（博伊西州立大学）
针对高光谱图像分类的高维复杂空谱相关难题，提出基于小波的Wav-KAN架构，以小波为可学习激活捕捉多尺度模式，在基准数据集上性能优于MLP和Spline-KAN，并规划多方向后续研究。
2024-10-08 cs.AI cs.CV
Scale-Equivariant Steerable Networks
UvA-Bosch Delta Lab（阿姆斯特丹大学-博世德尔塔实验室）；University of Amsterdam（阿姆斯特丹大学）
卷积神经网络（CNN）的有效性主要归因于其内在的平移等变性。然而，CNN没有嵌入式机制来处理其他类型的转换。在这项工作中，我们注意到规模的变化，经常出现在各种任务，由于对象和相机之间的距离变化。首先，我们介绍了用可操纵滤波器构建尺度等变卷积网络的一般理论。我们开发了尺度卷积，并将其他常见的块推广为尺度等变的。我们证明了所提出的方法的计算效率和数值稳定性。我们比较所提出的模型，以前开发的方法规模等变性和局部尺度不变性。我们在监督学习环境中展示了MNIST规模数据集和STL-10数据集的最新结果。
2020-02-06 cs.CV cs.LG stat.ML
On Universalized Adversarial and Invariant Perturbations
Chennai Mathematical Institute（金奈数学研究所）；Microsoft Research（微软研究院）
卷积神经网络或标准CNN（StdCNN）是平移等变模型，当在用足够的翻译增强的数据上训练时，该模型实现了翻译不变性。最近关于给定变换组的等变模型的工作（例如，旋转）导致了群等变卷积神经网络（GCNN）。在用足够的旋转增强的数据上训练的GCNN实现了旋转不变性。作者arXiv：2002.11318最近的工作研究了对对抗攻击的不变性和鲁棒性之间的权衡。在另一个相关的工作arXiv：2005.08632中，给定任何模型和任何满足特定谱特性的输入依赖攻击，作者提出了一种称为SVD-Universal的通用化技术，通过查看很少的测试示例来产生通用对抗扰动。在本文中，我们研究了SVD通用对GCNN的有效性，因为它们通过更高程度的训练增强获得旋转不变性。我们根据经验观察到，随着GCNN通过使用更大的旋转进行训练来获得旋转不变性，SVD-Universal的欺骗率变得更好。为了理解这一现象，我们引入了通用不变方向，并研究了它们与SVD-Universal产生的通用对抗方向的关系。
2020-06-08 cs.CV cs.LG stat.ML
CubeNet: Equivariance to 3D Rotation and Translation
Computer Science Department, University College London（伦敦大学学院计算机科学系）
3D卷积神经网络对应用于其输入的变换敏感。这是一个问题，因为3D对象的体素化版本及其旋转克隆在通过网络的最后一层后看起来彼此无关。相反，理想化的模型将保留体素化对象的有意义的表示，同时解释两个输入之间的姿势差异。等变表示向量有两个组成部分：不变单位部分和变换的可辨别编码。不能解释位姿差异的模型有“稀释”表示的风险，以追求优化分类或回归损失函数。我们引入了一个群卷积神经网络，它对三维空间中的平移和直角旋转具有线性等方差。我们称这个网络为CubeNet，反映了它类似立方体的对称性。通过构造，该网络有助于保留3D形状的全局和局部签名，因为它通过连续的层进行转换。我们将该网络应用于各种3D推理问题，在ModelNet10分类挑战中达到了最先进的水平，并在ISBI 2012 Connectome Segmentation Benchmark上取得了相当的性能。据我们所知，这是第一个用于体素表示的3D旋转等变CNN。
2018-04-12 cs.AI cs.CV cs.LG
