MotionJEPA: Preventing Temporal Feature Collapse by Capturing Visual Changes in Latent Space
University of Oxford(牛津大学);vivo Tech Research GmbH(vivo科技研究有限公司);Bielefeld University(比勒费尔德大学);Slater Labs(Slater实验室);Cold Spring Harbor Laboratory(冷泉港实验室);Brown University(布朗大学);AMI Labs(AMI实验室);vivo BlueImage Lab, vivo Mobile Communication Co., Ltd., China(vivo蓝心影像实验室,维沃移动通信有限公司)
MotionJEPA通过引入DISReg正则化器,在潜在空间中预测时间差分图像嵌入,平衡静态与动态特征学习,防止时间特征坍缩,从而提升下游规划成功率。
2026-09-22 cs.CV
Conditioning noise is a free regularizer for LoRA fine-tuning: no pathology encoder required for diffusion-based artifact detection in histopathology
University of Piraeus(比雷埃夫斯大学)
本研究证明在LoRA微调中引入随机高斯条件噪声可提升组织病理学伪影检测的干净/伪影分离度,无需额外编码器,且效果经多轮消融和预注册实验验证。
2026-09-16 cs.CV eess.IV
UniJEPA: A Unified Joint-Embedding Predictive Architecture for Task-Agnostic Visual World Modeling
UniJEPA是统一JEPAs,共享潜在空间联合学习图像级与视频级预测,抗坍塌,经后训练可零样本规划,在多基准上性能相当或更优,规划速度更快。
2026-08-10 cs.CV
Learning Decorrelated Representations Efficiently Using Fast Fourier Transform
Chiba Institute of Technology(千叶工业大学)
本文针对 Barlow Twins 和 VICReg 在高维嵌入下训练开销大的问题,提出一种基于快速傅里叶变换的松弛去相关正则化器,将计算复杂度从 O(n d^2) 降至 O(n d log d),并缓解局部极小值问题,在保持相当准确率的同时降低内存占用并提升大维度下的训练速度。
2023-06-01 cs.CV cs.LG
Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning
European Molecular Biology Laboratory (EMBL)(欧洲分子生物学实验室)
该研究针对联合嵌入自监督学习提出小批量外数据集级正则化,在SimCLR、SIGReg等方法上提升了小批量下多任务性能,且使批量大小不再影响正则化器几何结构。
2026-10-14 cs.CV
SAGE: Saliency-Guided Contrastive Embeddings
University of Notre Dame(诺丁汉大学)
SAGE通过对比嵌入将人类显著性整合到网络训练中,提升分类性能,适用于多种任务和骨干网络。
2025-12-05 cs.CV
Embedding Watermarks into Deep Neural Networks
KDDI Research, Inc.(KDDI研究公司);Saitama Research, Inc.(埼玉研究公司);National Institute of Informatics(日本国立信息学研究所)
深度神经网络最近取得了重大进展。共享这些深度神经网络的训练模型在研究或开发深度神经网络系统的快速进展中是非常重要的。同时,有必要保护共享训练模型的权利。为此,我们建议使用数字水印技术来保护知识产权或检测训练模型的知识产权侵权。首先,我们提出了一个新的问题:将水印嵌入深度神经网络。我们还定义了要求,嵌入的情况下,和攻击类型的水印深度神经网络。其次,我们提出了一个通用的框架嵌入水印到模型参数使用参数正则化。我们的方法不会损害嵌入水印的网络的性能。最后,我们进行了全面的实验,以揭示水印的潜力,深神经网络作为这个新问题的基础。我们证明了我们的框架可以在从头开始训练网络、微调和提取的情况下嵌入水印,而不会损害深度神经网络的性能。嵌入的水印即使在微调或参数修剪后也不会消失;即使删除65%的参数被修剪,水印也完全保留。本研究的实现是:https://github.com/yu4u/dnn-watermark
2017-04-20 cs.CV
Improving GAN with neighbors embedding and gradient matching
ST Electronics - SUTD Cyber Security Laboratory(新科电子-新加坡科技设计大学网络安全实验室);Singapore University of Technology and Design(新加坡科技设计大学)
我们提出了两种用于训练生成对抗网络(GANs)的新技术。我们的目标是减轻模式坍塌的GAN和提高所产生的样本的质量。首先,我们提出了邻域嵌入,这是一种基于流形学习的正则化,可以显式地保留生成样本中潜在样本的局部结构。这可防止发生器从不同的潜在样本中产生几乎相同的数据样本,并减少模式坍塌。我们提出了一个逆t-SNE正则化子来实现这一点。其次,我们提出了一种新的技术,梯度匹配,对齐生成的样本和真实样本的分布。由于使用高维样本分布具有挑战性,因此我们建议通过标量分数来对齐这些分布。我们限制真实样本和生成样本的最小值之间的差异。我们进一步约束这些梯度的梯度之间的差异。我们得到这些约束条件从泰勒近似的函数。我们进行实验,以证明我们提出的技术是计算简单,易于纳入现有的系统。当梯度匹配和邻域嵌入一起应用时,我们的GN-GAN在1D/2D合成、CIFAR-10和STL-10数据集上取得了出色的结果,例如STL-10数据集的FID得分为$30.80$。我们的代码可在:https://github.com/tntrung/gan
2018-11-04 cs.CV
Two Heads Better than One: Dual Degradation Representation for Blind Super-Resolution
本文提出双退化表示方法,通过双分支网络预测模糊和噪声嵌入,提升盲超分辨率任务的性能。
2025-11-21 cs.CV
Identifying Ambiguous Similarity Conditions via Semantic Matching
Nanjing University(南京大学)
图像内部丰富的语义导致了图像与其他图像之间的模糊关系,即,两个图像在一种情况下可能相似,但在另一种情况下可能不同。假设“aircraft”与“bird”的相似度大于“训练”,弱监督条件相似性学习(WS-CSL)学习多个嵌入来匹配语义条件,而不需要“can fly”等显式条件标签。然而,三元组中的相似性关系是不确定的,除非提供一个条件。例如,一旦条件标签变为“is vehicle”,先前的比较就变得无效。为此,我们引入了一种新的评估标准,通过将学习到的嵌入分配到其最佳条件后预测比较的正确性,该标准衡量了WS-CSL作为监督模型可以覆盖多少潜在语义。此外,我们提出了距离诱导的语义条件验证网络(DiscoverNet),它的特点是在一个“分解和融合”的方式的实例-实例和三元组-条件关系。为了使学习的嵌入覆盖所有语义,DiscoverNet在三元组和条件之间的对应关系上使用了一个集合模块或额外的正则化器。DiscoverNet在UT-Zappos-50 k和Celeb-A w.r.t.等基准测试中达到了最先进的性能。不同的标准
2022-04-08 cs.CV
Embedding Propagation: Smoother Manifold for Few-Shot Classification
Element AI;University of British Columbia(不列颠哥伦比亚大学)
Few-Shot分类具有挑战性,因为训练集的数据分布与测试集的数据分布可能大不相同,因为它们的类不相交。这种分布偏移通常导致较差的泛化。流形平滑已被证明可以通过扩展决策边界和减少类表示的噪声来解决分布偏移问题。此外,流形光滑性是半监督学习和直推式学习算法的关键因素。在这项工作中,我们建议使用嵌入传播作为一个无监督的非参数正则化流形平滑Few-Shot分类。嵌入传播利用基于相似性图的神经网络的提取特征之间的插值。我们的经验表明,嵌入传播产生一个更平滑的嵌入流形。我们还表明,应用嵌入传播的转导分类器实现了新的国家的最先进的结果在迷你Imagenet,分层Imagenet,Imagenet-FS和CUB。此外,我们表明,嵌入传播一致地提高了多个半监督学习场景中的模型的准确性高达16个点。所提出的嵌入传播操作可以很容易地作为非参数层集成到神经网络中。我们在https://github.com/ElementAI/embedding-propagation上提供培训代码和使用示例。
2020-07-13 cs.CV cs.LG
Region Embedding with Intra and Inter-View Contrastive Learning
Nanyang Technological University(南洋理工大学)
无监督区域表示学习旨在从未标记的城市数据中提取密集有效的特征。虽然已经基于多个视图做出了一些努力来解决这个问题,但是现有方法在提取视图中的表示和/或合并来自不同视图的表示方面仍然不足。基于对比学习在表示学习中的成功,我们提出将其用于多视图区域表示学习,并设计了一个称为ReMVC(Region Embedding with Multi-View对比学习)的模型,该模型遵循两个指导原则:i)在每个视图中将区域与其他区域进行比较,以实现有效的表征提取; ii)在不同视图中将区域与自身进行比较,以实现跨视图信息共享。我们设计了视图内对比学习模块和视图间对比学习模块,前者用于学习不同的区域嵌入,后者作为软共正则化器来约束嵌入参数并在多视图间传递知识。我们在两个下游任务中利用学习到的区域嵌入,即土地使用聚类和区域流行度预测。大量的实验表明,我们的模型实现了令人印象深刻的改进相比,七个国家的最先进的基线方法,在土地利用聚类任务的利润率超过30%。
2022-11-15 cs.CV cs.LG
An Over Complete Deep Learning Method for Inverse Problems
University of Cambridge(剑桥大学);University of British Columbia(不列颠哥伦比亚大学);Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出一种过完备深度学习方法,通过联合学习高维嵌入及其正则化器,解决逆问题中近端和扩散方法的不足,并在多个常见逆问题上验证其有效性。
2024-02-07 cs.CV cs.LG
Prompt Tuning Vision Language Models with Margin Regularizer for Few-Shot Learning under Distribution Shifts
Indian Institute of Science(印度科学研究院)
针对分布偏移下的少样本学习,提出PromptMargin方法,通过选择性增强和多模态边际正则化微调视觉语言模型,在十五个基准数据集上超越现有方法。
2025-05-21 cs.CV cs.LG
PREF: Phasorial Embedding Fields for Compact Neural Representations
ShanghaiTech University(上海科技大学);ETH Zürich(苏黎世联邦理工学院)
本文提出了一种高效的基于频率的神经表示PREF,通过引入覆盖显著边谱的相位体积,结合快速傅里叶变换和局部插值加速傅里叶映射,从而减少频率表示中的成本MLP,提升效率和可解释性。
2026-05-20 cs.CV cs.GR
Periocular Embedding Learning with Consistent Knowledge Distillation from Face
Northeastern University(东北大学);AiV Research, AiV Co.(AiV公司AiV研究院);Yonsei University(延世大学);Institute for Basic Science(基础科学研究院);Samsung Electronics Co., Ltd.(三星电子株式会社)
针对眼周生物特征判别性不足的问题,提出一致性知识蒸馏方法,从人脸网络向眼周网络迁移判别信息,在预测层和特征层施加一致性约束,实现野外环境下鲁棒的眼周识别,在标准基准上取得最优结果。
2024-01-28 cs.CV
$λ$-JEPA Spectral Anti-Collapse Regularization for Self-Supervised Learning
Institute of Science and Technology Austria (ISTA)(奥地利科学技术研究所)
提出SACReg谱抗坍缩正则化器,基于λ-平衡分析,应用于JEPA得到λ-JEPA,在图像和视频自监督学习中提升表征秩和下游迁移性能。
2026-09-30 cs.CV cs.LG
Metric Learning for Image Registration
UNC Chapel Hill(北卡罗来纳大学教堂山分校);University of Salzburg(萨尔茨堡大学);LIGM, UPEM(巴黎东部马恩-拉瓦雷大学 LIGM 实验室)
图像配准是医学图像分析中的一项关键技术,用于估计图像对之间的形变。良好的变形模型对于高质量的估计非常重要。然而,大多数现有的方法使用的ad-hoc变形模型选择的数学方便,而不是捕捉观测数据的变化。最近的深度学习方法直接从数据中学习变形模型。然而,它们对变换的空间规律性提供有限的控制。我们不是学习整个配准方法,而是在配准模型中学习空间自适应正则化器。这允许控制期望的规则性水平并保持配准模型的结构属性。例如,可以实现非纯变换。我们的方法与现有的深度学习图像配准方法有着根本的不同,我们在基于优化的配准算法中嵌入了一个深度学习模型,以参数化和数据自适应配准模型本身。
2019-04-21 cs.CV
Learning Taxonomic Trees with Hierarchical Representation Regularization for Large Multimodal Models
PKU-ICST-MIPL(北京大学信息科学技术学院多媒体信息处理实验室)
研究大型多模态模型缺乏分类知识致层次视觉识别一致性低的问题,提出层次表示正则化方法,含语义感知视觉树构建框架,结合两个互补目标,有效捕捉分类结构。
2026-07-07 cs.AI cs.CV
On Incorporating Semantic Prior Knowledge in Deep Learning Through Embedding-Space Constraints
Australian Institute of Machine Learning(澳大利亚机器学习研究所);University of Adelaide(阿德莱德大学)
人类掌握的关于问题的知识通常远远超出一组训练数据和输出标签。虽然深度学习的成功主要依赖于监督训练,但仅从端到端注释无法有效地推断重要属性,例如因果关系或特定于域的不变性。我们提出了一种通用的技术来补充监督训练与先验知识表示为训练实例之间的关系。我们说明的视觉问答任务的方法,利用各种辅助注释,包括问题之间的等价关系和逻辑蕴涵。使用这些注释的现有方法,包括辅助损失和数据增强,不能保证将这些关系严格包含到模型中,因为它们需要针对端到端目标进行仔细的平衡。我们的方法使用这些关系来塑造模型的嵌入空间,并将它们视为对其学习表示的严格约束。在VQA的上下文中,这种方法带来了显着的改进,在准确性和鲁棒性,特别是在将约束作为一个软正则化的常见做法。我们还表明,将这种类型的先验知识与我们的方法相结合,带来了一致的改进,独立于所使用的监督数据量。它展示了额外训练信号的价值,否则很难单独从端到端注释中提取。
2019-11-17 cs.CV cs.LG
Second-order Shape Optimization for Geometric Inverse Problems in Vision
我们开发了一种形状空间优化方法,即,曲面的模重新参数化集。与以前提出的梯度流不同,我们通过对Hessian形状的精细近似来实现超线性收敛速度,Hessian形状通常很难计算,并且存在一系列退化。我们的分析突出了平均曲率运动的作用与一阶方案相比:而不是表面积,我们的方法惩罚变形,无论是通过其Dirichlet能量或总变分。后正则化火花的发展交替方向的乘子方法的三角形网格。其中,共轭梯度求解器使我们能够绕过在整体优化过程中出现的高斯正规方程的形成。我们结合了所有上述的想法在一个通用的几何变分正则Levenberg-Marquardt型方法适用于各种形状泛函,取决于表面的固有属性,如正常的字段和曲率,以及它的嵌入到空间。有希望的实验结果报告。
2014-04-13 cs.CV
Proxy Synthesis: Learning with Synthetic Classes for Deep Metric Learning
NAVER/LINE Vision;NAVER Clova Speech
深度度量学习的主要目的之一是构建一个嵌入空间,该嵌入空间在可见(训练)类和不可见(测试)类上都具有良好的泛化嵌入。大多数现有的工作都试图实现这一目标,使用不同类型的度量目标和硬样本挖掘策略与给定的训练数据。然而,仅使用训练数据的学习可能过拟合到可见的类,导致对不可见的类缺乏泛化能力。为了解决这个问题,我们提出了一个简单的正则化器,称为代理合成,它利用合成类在深度度量学习中进行更强的泛化。所提出的方法生成合成嵌入和代理,作为合成类工作,它们在计算基于代理的损失时模仿看不见的类。代理合成推导出一个嵌入空间,考虑到类关系和光滑的决策边界的鲁棒性上看不见的类。我们的方法适用于任何基于代理的损失,包括softmax及其变体。在四个著名的图像检索任务的基准上进行的大量实验表明,代理合成显着提高了基于代理的损失的性能,并实现了最先进的性能。
2021-03-29 cs.CV cs.IR cs.LG
Self-supervised learning with rotation-invariant kernels
Univ Lyon(里昂大学);EnsL(里昂高等师范学院);UCBL(里昂第一大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LIP(里昂信息处理实验室)
我们引入了一个正则化损失的基础上内核的平均嵌入旋转不变的内核超球(也称为点积内核)的图像表示的自监督学习。除了与现有技术完全竞争外,我们的方法还显着降低了自我监督训练的时间和内存复杂性,使其可在现有设备上实现非常大的嵌入维度,并且比以前的方法更容易调整到资源有限的设置。我们的工作遵循主要范式,其中模型学习对一些预定义的图像变换(裁剪,模糊,颜色抖动等)保持不变,同时通过正则化嵌入分布来避免退化解。我们的特别贡献是提出了一个损失家庭促进嵌入分布接近均匀分布的超球,相对于最大的平均差异伪度量。我们证明了这个家庭包括几个正则化的前方法,包括均匀性为基础的和信息最大化的方法,这是我们灵活的正则化损失与不同的内核的变体。除了它的实际后果,国家的最先进的自监督学习有限的资源,建议通用正则化方法打开视角,更广泛地利用文献的内核方法,以改善自监督学习方法。
2023-03-08 cs.AI cs.CV
Stable Deep MRI Reconstruction using Generative Priors
本文提出一种基于生成式图像先验的统一深度MRI重建框架,通过训练深度神经网络正则化器并结合经典变分方法,在保持对欠采样模式灵活性和不确定性量化的同时,实现了与端到端深度学习方法相当的高质量稳定重建。
2023-06-15 cs.CV cs.LG eess.IV
Artificial Intelligence for the Characterization of Particles and Fibers by Optical Microscopy
本文提出一种带语义锚点的AI蒸馏框架,训练仅视觉输入的学生ViT模型,在颗粒与纤维显微镜表征任务中获80%伪类验证准确率等结果,实现更丰富可解释的表征,适用于相关分析场景。
2026-08-04 cs.AI cs.CV
Learning Structured Representations with Hyperbolic Embeddings
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Okinawa Institute of Science and Technology(冲绳科学技术大学院大学);Netflix Inc.(网飞公司)
针对现有表示学习方法忽略标签层次结构、欧氏距离易扭曲语义的问题,提出双曲结构化正则化方法HypStructure,结合双曲树表示损失与中心损失,在低维场景提升泛化性能并通过特征值分析关联表示几何与OOD检测性能。
2024-12-02 cs.CV cs.LG
GREN: Graph-Regularized Embedding Network for Weakly-Supervised Disease Localization in X-ray Images
HwaMei Hospital, University of Chinese Academy of Sciences(中国科学院大学华美医院);Ningbo Institute of Life and Health Industry, University of Chinese Academy of Sciences(中国科学院大学宁波生命与健康产业研究院);The University of Hong Kong(香港大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Beihang University(北京航空航天大学)
在胸部X射线图像中定位疾病,无需仔细注释,节省了大量人力。最近的工作是通过创新的弱监督算法来完成这一任务,例如多实例学习(MIL)和类激活图(CAM),然而,这些方法通常会产生不准确或不完整的区域。原因之一是忽略了隐藏在每个图像内的解剖区域之间的关系和图像之间的关系中的病理学含义。在本文中,我们认为,跨区域和跨图像的关系,作为上下文和补偿信息,是至关重要的,以获得更一致和完整的区域。为了对这种关系进行建模,我们提出了图正则化嵌入网络(GREN),它利用图像内和图像间的信息来定位胸部X射线图像上的疾病。GREN使用预训练的U-Net来分割肺叶,然后使用图像内图来比较不同区域来对肺叶之间的图像内关系进行建模。同时,通过图像间图对批量图像之间的关系进行建模,以比较多个图像。这个过程模拟了放射科医生的培训和决策过程:比较多个区域和图像进行诊断。为了使神经网络的深层嵌入层保留结构信息(在定位任务中很重要),我们使用哈希编码和汉明距离来计算图,这些图被用作正则化器以便于训练。通过这种方式,我们的方法实现了国家的最先进的结果对NIH胸部X射线数据集的弱监督疾病定位。我们的代码可在线访问(https://github.com/qibaolian/GREN)。
2022-08-05 cs.AI cs.CV
Deep Metric Learning with Density Adaptivity
Sun Yat-Sen University(中山大学);JD AI Research(京东人工智能研究院)
距离度量学习问题主要从学习嵌入空间的角度来考虑,其中样本对之间的距离与相似性度量相对应。随着卷积神经网络(CNN)的兴起和成功,深度度量学习(DML)涉及训练网络以学习嵌入空间的非线性变换。现有的DML方法通常通过最大化类间距离和最小化类内变化来表达监督。然而,结果可能遭受过拟合问题,特别是当每个类的训练样本紧密嵌入在一起并且每个类的密度非常高时。在本文中,我们集成密度,即,表示中的数据集中度的度量,到DML框架的优化中,以通过以端到端的方式训练架构来自适应地平衡类间相似性和类内变化。从技术上讲,密度的知识被用作正则化器,它可以插入到任何具有不同目标函数的DML架构中,例如对比损失,N对损失和三重损失。在三个公共数据集上进行的大量实验一致表明,通过使用密度自适应性修改三种类型的嵌入,可以明显改善性能。更值得注意的是,我们的建议在Cars 196,CUB-200-2011和Stanford Online Products数据集上分别将Recall@1从67.95%提高到77.62%,从52.01%提高到55.64%和从68.20%提高到70.56%。
2019-09-09 cs.CV cs.MM
Learning predictable and robust neural representations by straightening image sequences
New York University(纽约大学);Flatiron Institute(弗莱堡研究所)
本文提出一种自监督拉直目标,通过训练深度网络在合成图像序列上获得可预测且鲁棒的神经表征,并证明其可迁移至其他训练过程。
2025-01-20 cs.CV
Information-Regularized Attention for Visual-Centric Reasoning
FAIR at Meta(Meta 的 FAIR 部门);Rochester Institute of Technology(罗切斯特理工学院)
针对视觉语言模型中的对象幻觉、视觉基础弱和灾难性遗忘问题,提出信息正则化注意力机制,通过随机注意力显式调控视觉信息注入,改善表示学习稳定性。
2026-07-02 cs.CV cs.LG
Unsupervised Domain Adaptation for Action Recognition via Self-Ensembling and Conditional Embedding Alignment
University of Maryland, Baltimore County(马里兰大学巴尔的摩郡分校);Indian Institute of Technology Jodhpur(焦特布尔印度理工学院);Amazon(亚马逊公司)
本文提出μDAR架构,通过一致性正则化增强、时间集成伪标签生成和条件分布对齐三个模块的联合优化,解决可穿戴动作识别中标注稀缺和域偏差问题,在四个基准数据集上平均宏观F1分数提升约4-12%。
2024-10-23 cs.AI cs.CV
The Principle of Diversity: Training Stronger Vision Transformers Calls for Reducing All Levels of Redundancy
University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Research(微软研究院)
视觉Transformer(ViTs)越来越受欢迎,因为它们通常被认为具有比传统卷积网络更高的建模能力和表示灵活性。然而,这种潜力是否在实践中得到了充分释放是值得怀疑的,因为学习的ViTs经常受到过度平滑的影响,产生可能冗余的模型。最近的工作做了初步的尝试,以确定和减轻这种冗余,例如,通过正则化嵌入相似性或重新注入卷积类结构。然而,在这一领域,还没有关于虚拟技术冗余程度的“从头到脚的评估”,以及通过彻底减轻这种冗余,我们可以获得多少好处。本文首次系统地研究了冗余在补丁嵌入、注意力图和权重空间三个层次上的普遍存在性。有鉴于此,我们主张训练ViTs的多样性原则,通过提出相应的正则化器,鼓励在每个级别上的表示多样性和覆盖率,从而能够捕获更多的歧视性信息。在ImageNet上进行的大量实验验证了我们的建议的有效性,在很大程度上消除了观察到的ViT冗余,并显着提高了模型的泛化能力。例如,我们多样化的DeiT在ImageNet上获得了0.70%~1.76%的准确率,并且高度降低了相似性。我们的代码可在https://github.com/VITA-Group/Diverse-ViT上完整获取。
2022-03-12 cs.CV cs.LG
ARGENT: Adaptive Hierarchical Image-Text Representations
University of Maryland, College Park(马里兰大学 College Park分校);Samsung Research America, AI Center(三星美国研究院人工智能中心)
ARGENT通过自适应蕴含损失和规范正则化解决超几何VLM的层级结构问题,引入角度基于的概率蕴含协议评估层次理解,提升图像分类、文本到图像检索及层次指标性能。
2026-03-24 cs.CV cs.LG
Image Hashing via Cross-View Code Alignment in the Age of Foundation Models
INRIA(法国国家信息与自动化研究所);LIRMM(蒙彼利埃计算机科学、机器人及微电子实验室);INA(法国国家视听研究所);CIRAD(法国农业研究发展国际合作中心);AMAP(植物建模与生态学联合实验室)
本文提出CroVCA方法,通过统一的二进制交叉熵损失和编码率最大化正则化,在少量训练轮次内实现高效图像哈希,适用于多种视觉检索任务。
2026-04-04 cs.CV cs.IR cs.LG
Learning Low-Rank Latent Spaces with Simple Deterministic Autoencoder: Theoretical and Empirical Insights
Indian Institute of Science(印度科学研究所);TCS Research(塔塔咨询服务研究部);Dayananda Sagar College of Engineering(达亚南达·萨加尔工程学院)
针对自编码器忽略数据低维嵌入特性的问题,提出 Low-Rank Autoencoder (LoRAE),通过引入低秩正则化器自适应重构低维潜在空间,在理论上建立更紧致误差界限,并在图像生成与下游分类任务中验证了其优越性。
2023-10-24 cs.CV cs.LG eess.IV