CANDOR: Chance-Calibrated Neighborhood Discordance in Frozen Encoders for Medical Imaging
研究探讨冻结基础编码器问题,引入CANDOR度量,其等规模库对称使机会水平固定为二分之一。经多编码器、多数据集和大量图像实验,校正改变结论,发现各编码器虽不盲目但都弱,CANDOR可提前标记支持不佳的发现。
2026-10-27 cs.AI cs.CL cs.CV
More Information Supervised Probabilistic Deep Face Embedding Learning
Guangzhou Huya Technology Co., Ltd(广州虎牙科技有限公司);University of Oxford(牛津大学)
基于间隔的比较损失的研究证明了惩罚人脸特征与其对应的类中心之间的距离的有效性。尽管他们的流行和出色的性能,他们没有明确鼓励通用嵌入学习的开集识别问题。本文从概率的角度分析了基于容限的softmax损失。从这个角度出发,我们提出了两个一般原则:1)单调递减和2)边际概率惩罚,用于设计新的边际损失函数。与使用单一比较度量进行优化的方法不同,我们提供了一个新的视角,将开集人脸识别视为一个信息传输问题。同时,该算法在保证更多干净信息的前提下,具有较好的泛化能力。提出了一种称为线性自动TS编码器(LASSE)的自动编码器架构来证实这一发现。在多个基准测试上的大量实验表明,LASSE有助于人脸嵌入获得更强的泛化能力,并在MegaFace测试中将开放训练数据集的单个模型性能提高到$99\%$以上。
2020-06-11 cs.CV cs.LG
Prototypical Extreme Multi-label Classification with a Dynamic Margin Loss
IIT Delhi(印度理工学院德里分校);NielsenIQ(尼尔森IQ)
本文提出 PRIME,通过标签原型网络与自适应三元组损失进行原型对比学习,在保持高效的同时于多个 XMC 基准上取得最先进性能。
2024-10-27 cs.IR cs.LG
The Limits of Binding in Dual Encoders
University College London(伦敦大学学院)
本文揭示CLIP等双编码器的绑定缺陷源于激励机制与编码结构限制,通过数学分析明确了深度、目标、几何三方面的阻碍,为改进双编码器模型提供了理论依据。
2026-08-18 cs.CL cs.CV cs.LG
Deeply Coupled Auto-encoder Networks for Cross-view Classification
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
异质样本的比较广泛存在于许多应用中,特别是在图像分类任务中。在本文中,我们提出了一个简单而有效的耦合神经网络,称为深度耦合自动编码器网络(DCAN),它试图建立两个深神经网络,在每个相应的层相互耦合。在DCAN中,每个深层结构都是通过堆叠多个区分耦合的自动编码器来开发的,该编码器是一种去噪自动编码器,使用由类内紧凑性和类间惩罚组成的最大间隔标准进行训练。这种单层组件使我们的模型同时保持局部一致性,并提高其区分能力。随着层数的增加,耦合网络可以逐渐缩小两个视图之间的差距。交叉视图图像分类任务上的大量实验证明了我们的方法优于最先进的方法。
2014-02-10 cs.CV cs.LG cs.NE
EGA: Adapting Frozen Encoders for Vector Search with Bounded Out-of-Distribution Degradation
Tacoma School of Engineering and Technology University of Washington(塔科马工程与技术学院华盛顿大学)
本文提出EGA方法,通过零初始化、局部三元组损失和超球面投影,解决冻结编码器在部署时面对未见类查询的问题,提升分布外场景下的标签精度。
2026-05-08 cs.AI cs.CV cs.LG
Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding
Zhejiang University(浙江大学);Westlake University(西湖大学)
本文提出深度流形(变分)图自编码器DMVGAE/DMGAE,通过在预定义分布下保持原始空间与潜在空间的节点测地相似性,解决属性图嵌入中的拥挤问题,并在多个数据集上显著超越现有基线方法。
2024-01-12 cs.LG
On the Effect of Suboptimal Estimation of Mutual Information in Feature Selection and Classification
Virginia Tech(弗吉尼亚理工大学)
本文介绍了一个新的属性的统计关联强度的估计,这有助于描述如何以及一个估计将执行的情况下,连续和离散随机变量之间的依赖关系需要排序。新的属性,称为估计响应曲线,是很容易计算,并提供了一个边缘分布不可知的方式来评估估计的性能。它克服了当前评估指标的显著缺点,包括统计功效、偏倚和一致性。我们利用估计响应曲线来测试各种措施的关联强度,满足数据处理不等式(DPI),并表明CIM估计的性能相比,毫不逊色kNN,vME,AP,和H_{MI}估计的互信息。被确定为次优的估计量,根据估计量响应曲线,表现比更优的估计量更差时,从四个不同的科学领域的真实世界的数据进行测试,所有具有不同的维度和大小。
2021-01-09 cs.LG stat.ML
Variational Diffusion Auto-encoder: Latent Space Extraction from Pre-trained Diffusion Models
University of Cambridge(剑桥大学)
本文提出变分扩散自编码器,通过优化编码器最大化边际对数似然从预训练扩散模型提取潜在空间,并解析推导解码器,摒弃高斯假设与独立训练,显著提升VAEs性能。
2023-05-18 cs.CV cs.LG stat.ML
TRIBE: TRImodal Brain Encoder for whole-brain fMRI response prediction
Meta AI
针对神经科学细分研究阻碍统一认知模型发展的问题,提出结合多模态基础模型预训练表征与transformer的TRIBE三模态脑编码器,在Algonauts 2025竞赛夺冠,多模态模型在高级联合皮层表现优于单模态,为人脑整合表征研究铺路。
2025-07-29 cs.LG
Learning Representation for Mixed Data Types with a Nonlinear Deep Encoder-Decoder Framework
Gartner(高德纳);Walmart Labs(沃尔玛实验室)
混合变量,数值和分类类型的数据表示,以获得合适的特征映射是一项具有挑战性的任务,因为重要的信息在于一个复杂的非线性流形。特征变换应该能够同时包含单个变量的边缘信息和混合类型变量之间复杂的交叉依赖结构。在这项工作中,我们提出了一种新的非线性深度编码器-解码器框架来捕获混合数据类型的跨域信息。网络的隐藏层通过各种非线性变换将两种类型的变量连接起来,以给出潜在的特征映射。我们将数值变量的信息编码在一些隐藏的非线性单元中。我们使用这些单位通过进一步的非线性变换来重新创建分类变量。开发了一个单独的和类似的网络,切换数值变量和分类变量的角色。隐藏的代表性单位堆叠一个接一个的其他和转换到一个共同的空间使用局部保持投影。导出的特征图用于探索数据中的聚类。各种标准的数据集进行了调查,以显示几乎最先进的性能,在使用简单的K-均值聚类的特征映射的聚类。
2020-09-21 cs.LG stat.AP
Learning Deep Generative Models with Annealed Importance Sampling
The University of Chicago(芝加哥大学);The Grossman Institute for Neuroscience, Quantitative Biology and Human Behavior(格罗斯曼神经科学、定量生物学与人类行为研究所)
变分推断(VI)和马尔可夫链蒙特卡罗(MCMC)是通过最大化边际似然来学习深度生成模型的两种主要近似方法。在本文中,我们提出使用退火重要性抽样来学习深度生成模型。我们提出的方法桥VI与MCMC。它概括了VI方法,如变分自动编码器和重要性加权自动编码器(IWAE)以及(Hoffman,2017)中提出的MCMC方法。它还提供了为什么运行多个短MCMC链可以帮助学习深度生成模型的见解。通过实验,我们表明,我们的方法产生更好的密度模型比IWAE,可以有效地贸易模型精度的计算,而不增加内存成本。
2020-11-30 cs.LG stat.ML
Bootstrapping User and Item Representations for One-Class Collaborative Filtering
Pohang University of Science and Technology (POSTECH)(浦项科技大学);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
单类协同过滤(OCCF)的目标是识别正相关但尚未交互的用户-项目对,其中只有一小部分正用户-项目交互(例如,用户的隐式反馈)。对于正交互和负交互之间的判别建模,大多数以前的工作在某种程度上依赖于负采样,这是指将未观察到的用户-项目对视为负,因为实际的负交互是未知的。然而,负抽样方案有严重的局限性,因为它可能会选择“积极的,但未观察到的”对作为负。本文提出了一种新的OCCF框架,命名为BUIR,它不需要负采样。为了使正相关用户和项目的表示彼此相似,同时避免崩溃的解决方案,BUIR采用了两个相互学习的不同编码器网络;第一个编码器被训练来预测第二个编码器的输出作为其目标,而第二个编码器通过缓慢地近似第一个编码器来提供一致的目标。此外,BUIR通过对编码器输入应用随机数据增强,有效地解决了OCCF的数据稀疏问题。基于用户和项目的邻域信息,BUIR在每次编码时随机生成每个积极交互的增强视图,然后通过这种自我监督来进一步训练模型。我们广泛的实验表明,BUIR一致和显着优于所有的基线方法的大幅度,特别是对于稀疏的数据集,其中任何关于负相互作用的假设是不太有效的。
2021-05-13 cs.IR cs.LG
The Effectiveness of Instance Normalization: a Strong Baseline for Single Image Dehazing
University of Maryland, College Park(马里兰大学帕克分校);Facebook(脸书);Harbin Institute of Technology(哈尔滨工业大学)
我们提出了一种新的深度神经网络架构的挑战性问题的单一图像去雾,其目的是恢复清晰的图像从退化的模糊图像。我们的端到端系统不依赖于手工制作的图像先验或明确估计广泛使用的大气散射模型的组件,而是直接从输入的模糊图像生成清晰的图像。所提出的网络具有编码器-解码器架构,具有跳过连接和实例归一化。我们采用预训练的VGG网络的卷积层作为编码器,以利用深度特征的表示能力,并证明实例归一化对图像去雾的有效性。我们简单而有效的网络在基准数据集上的表现远远优于最先进的方法。
2018-05-08 cs.CV cs.LG
Predicting origin-destination ride-sourcing demand with a spatio-temporal encoder-decoder residual multi-graph convolutional network
The Hong Kong University of Science and Technology(香港科技大学);University of Michigan(密歇根大学);Didi Chuxing(滴滴出行)
随着移动互联网技术的快速发展,按需叫车服务越来越受欢迎,并在很大程度上重塑了人们的出行方式。需求预测是网约车平台供需管理系统中最基本的组成部分之一。通过对起讫点(OD)需求的准确短期预测,平台可以在实时匹配、空闲车辆重新分配和共乘车辆路径等方面做出准确及时的决策。与许多先前研究所研究的基于区域的需求预测相比,基于OD的需求预测更具挑战性。这主要是由于不同OD对需求之间复杂的空间和时间依赖性。为了克服这一挑战,我们提出了时空编码器-解码器残差多图卷积网络(ST-ED-RMGC),这是一种新型的深度学习模型,用于预测各种OD对的乘车需求。该模型首先构造OD图,利用邻接矩阵刻画不同OD对之间的非欧成对地理和语义相关性。其次,基于所构造的图,设计了残差多图卷积(RMGC)网络来编码上下文感知的空间依赖性,并使用长短期记忆(LSTM)网络来编码时间依赖性,到稠密向量空间中。最后,我们再利用RMGC网路将压缩向量解码回OD图,并预测未来的OD需求。通过对纽约市曼哈顿的出租车辆数据集进行广泛的实验,我们表明我们提出的深度学习框架的性能远远优于最先进的框架。
2019-10-17 cs.LG eess.SP
Depth-Dependent Hidden-State Collapse in Dynamical System Autoencoders for LiDAR Point-Cloud Classification
研究用DSAE对激光雷达点云分类,通过实验比较不同编码器深度下的表现,发现深度为\(K = 5\)时存在隐藏状态坍缩,乘积系数不能改善坍缩前指标及防止坍缩,确定大深度表示坍缩是DSAE激光雷达分类的失败模式。
2026-07-17 cs.CV cs.LG
Significantly improving zero-shot X-ray pathology classification via fine-tuning pre-trained image-text encoders
LG AI Research(LG人工智能研究院);KAIST(韩国科学技术院)
本文提出包含正对损失松弛和随机句子采样的新微调策略,解决了医学图像-报告对的多标签性质被忽略的问题,无需外部知识即可在多个数据集上显著提升零样本X光病理分类性能,并超越放射科医生。
2024-10-11 cs.CV cs.LG eess.IV