On the Spectral Geometry of Cross-Modal Representations: A Functional Map Diagnostic for Multimodal Alignment
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文研究了基于功能图框架的跨模态对齐,发现尽管功能图在不同监督预算下表现不如Procrustes对齐,但揭示了多模态表示的结构特性,提出了三种诊断量以表征跨模态表示兼容性。
2026-03-28 cs.AI cs.LG
Biological Plausibility and Representational Alignment of Feedback Alignment in Convolutional Networks
University of Toronto(多伦多大学)
本文比较了反馈对齐与反向传播在卷积网络中的生物合理性、可解释性和计算复杂性,发现修改后的反馈对齐能产生与反向传播相似的内部表征。
2026-05-08 cs.AI cs.CV cs.LG
Don't Retrain, Align: Adapting Autoregressive LMs to Diffusion LMs via Representation Alignment
Duke University(杜克大学);AITHYRA
本文提出REPR-ALIGN方法,通过表征对齐将自回归模型转换为扩散模型,实现4倍训练加速,尤其在低数据情况下效果显著。
2026-05-07 cs.AI cs.LG
No Alignment Needed for Generation: Learning Linearly Separable Representations in Diffusion Models
Department of Electrical & Computer Engineering, University of Minnesota(电气与计算机工程系,明尼苏达大学)
本文提出LSEP正则化方法,在扩散模型中直接促进中间层表示的线性可分离性,无需外部编码器对齐,在SiTs架构上显著提升训练效率与生成质量,ImageNet 256×256上FID达1.46。
2025-09-25 cs.AI cs.CV cs.LG
Improving Visual Representation Alignment Generation with GRPO
Carnegie Mellon University(卡内基梅隆大学);Hanyang University(翰阳大学)
提出VRPO方法,通过强化学习将静态对齐损失替换为生成式表示策略优化目标,动态平衡表示一致性与生成质量,在扩散Transformer中实现更快的收敛和更高的图像保真度。
2026-05-30 cs.AI cs.CV cs.LG
Multi-modal Contrastive Representation Learning for Entity Alignment
Tencent Jarvis Lab(腾讯Jarvis实验室);Southeast University(东南大学)
多模态实体对齐旨在识别两个不同的多模态知识图谱之间的等价实体,知识图谱由结构三元组和与实体相关联的图像组成。以往的工作主要集中在如何利用和编码来自不同模态的信息,而它是不平凡的,利用多模态的知识在实体对齐,因为模态的异质性。在本文中,我们提出了MCLEA,多模态对比学习为基础的实体对齐模型,以获得有效的联合表示的多模态实体对齐。与以往的工作不同,MCLEA考虑面向任务的模态和模型的模态间的关系,为每个实体表示。特别地,MCLEA首先从多个模态学习多个个体表示,然后执行对比学习以联合建模模态内和模态间交互。大量的实验结果表明,MCLEA在监督和无监督设置下的公共数据集上的性能优于最先进的基线。
2022-09-02 cs.AI cs.CL cs.LG
Multifaceted Context Representation using Dual Attention for Ontology Alignment
IIIT Hyderabad(印度信息技术与通信技术研究院海得拉巴分校);IBM Research(IBM研究院)
本体对齐是一个重要的研究问题,发现应用在各个领域,如数据集成,数据传输,数据准备等国家的最先进的(SOTA)架构本体对齐通常使用天真的领域依赖的方法与手工制作的规则和手动分配的值,使它们不可扩展和效率低下。用于本体对齐的深度学习方法使用特定于领域的架构,这些架构不仅无法扩展到其他数据集和领域,而且由于各种限制(包括模型的过拟合,数据集的稀疏性等),通常比基于规则的方法表现更差。基于深度学习的模型,使用双重注意力机制来计算概念的上下文表示,以学习对齐。通过这样做,我们的方法不仅利用本体的语法和语义结构,它也是,通过设计,灵活和可扩展到不同的领域,以最小的努力。我们验证了我们的方法在不同领域的各种数据集和多语言设置,并显示其优越的性能SOTA方法。
2020-10-26 cs.AI cs.DB cs.LG
Local Intrinsic Dimension of Representations Predicts Alignment and Generalization in AI Models and Human Brain
Department of Biomedical Engineering, Southern University of Science and Technology(生物医学工程系,南方科技大学)
研究发现,AI模型和人脑的表示局部内在维度与对齐和泛化能力相关,且模型容量和数据规模增加可降低该维度。
2026-01-30 cs.LG
Predicting Alignment Generalization with Value Representations
Carnegie Mellon University(卡内基梅隆大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);ETH Zurich(苏黎世联邦理工学院);ETH AI Center(苏黎世联邦理工学院人工智能中心);University of British Columbia(不列颠哥伦比亚大学);Vector Institute(矢量研究所)
本研究提出对齐泛化预测任务,发现基于模型情境价值应用激活的表征优于文本描述表征,还构建了首个基于经验泛化动态的LLM价值分类体系。
2026-10-09 cs.AI cs.CL cs.LG
Mitigating Scaffolding Collapse in Socratic Tutors via Representation Alignment
研究基于大语言模型的苏格拉底式导师的支架坍塌问题,提出支架保留表示对齐方法,先监督微调预热,再结合轨迹加权优化与表示损失,经多学科和策略评估,该方法能提升长程苏格拉底辅导的鲁棒性。
2026-07-23 cs.AI cs.CL cs.LG
TopoAlign: Topology-Aware Visual Representation Alignment
University of Utah(犹他大学);ETH Zürich(苏黎世联邦理工学院)
提出TopoAlign框架,利用拓扑数据分析中的mapper图,通过联合力导向优化、自动结构匹配区域检测和基序查询,从拓扑角度比较不同模型或层的表示结构对齐。
2026-05-25 cs.AI cs.CG cs.HC
How do Cross-View and Cross-Modal Alignment Affect Representations in Contrastive Learning?
TU Delft(代尔夫特理工大学)
各种最先进的自监督视觉表示学习方法通过跨视图和/或模态对齐特征表示来利用来自多个传感器的数据。在这项工作中,我们研究对齐表示如何影响图像和点云上的跨视图和跨模态对比学习获得的视觉特征。在五个真实世界的数据集和五个任务,我们训练和评估108个模型的基础上四个预训练的变化。我们发现,跨模态表示对齐丢弃互补的视觉信息,如颜色和纹理,而是强调冗余的深度线索。从预训练中获得的深度线索提高了下游深度预测性能。此外,总体而言,跨模态对齐导致比通过跨视图对齐进行的预训练更鲁棒的编码器,特别是在深度预测、实例分割和目标检测方面。
2022-11-23 cs.CV cs.LG
ERAlign: Energy-based Representation Alignment of GNNs and LLMs on Text-attributed Graphs
University of Science and Technology of China(中国科学技术大学)
提出ERAlign框架,利用能量模型对齐GNN和LLM的表示,通过能量差异优化实现分布一致性,在8个数据集上取得最优性能。
2026-06-09 cs.AI cs.CL cs.LG
Beyond Scalars: Concept-Based Alignment Analysis in Vision Transformers
Fraunhofer Heinrich-Hertz-Institute(弗劳恩霍夫海因茨·赫兹研究所);Technische Universität Berlin(柏林工业大学);BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所(BIFOLD));Carl von Ossietzky Universität Oldenburg(卡尔·冯·奥西茨基奥尔登堡大学)
该研究针对现有ViT表示对齐度量仅用单标量、掩盖特征差异的问题,提出结合概念发现的细粒度对齐方法,将概念定义为任意流形并结合广义Rand指数计算对齐,发现监督程度与ViT表示语义结构呈负相关。
2024-12-09 cs.AI cs.CV cs.LG
To Align or Not to Align: Strategic Multimodal Representation Alignment for Optimal Performance
本文研究了显式对齐对模型性能的影响,提出可控对比学习模块,发现最佳对齐强度取决于数据冗余量,为优化单模态编码器提供指导。
2025-11-25 cs.LG cs.MM
ReLATE: Learning Relative Representations for Post-Hoc Multimodal Alignment
Yonsei University(延世大学)
本文提出了一种基于相对表示的学习方法,用于在有限数据条件下实现细粒度多模态对齐,通过学习token级别的跨模态结构来提升零样本分类、跨模态检索和零样本分割任务的性能。
2026-11-03 cs.AI cs.CV cs.LG
Manifold Approximation leads to Robust Kernel Alignment
MIT(麻省理工学院)
针对中心核对齐忽略底层流形且依赖启发式方法的问题,提出流形近似核对齐(MKA),将流形几何融入对齐任务,理论推导与实证评估表明其提供更稳健的表征度量基础。
2026-11-16 cs.AI cs.LG stat.ML
Back into Plato's Cave: Examining Cross-modal Representational Convergence at Scale
UC Berkeley(伯克利大学);Technical University Munich, MCML(慕尼黑技术大学);University of Tübingen, Tübingen AI Center(图宾根大学);Toyota Technical Institute at Chicago(芝加哥丰田技术研究所)
本文通过大规模数据集实验,质疑了柏拉图表示假说中跨模态表示收敛的证据,发现对齐度随数据规模增大而显著下降,且仅反映粗粒度语义重叠。
2026-10-02 cs.AI cs.CV cs.LG
PARSE: Pairwise Alignment of Representations in Semi-Supervised EEG Learning for Emotion Recognition
Queen’s University(女王大学);Ingenuity Labs Research Institute(英格纽蒂实验室研究院)
我们提出了PARSE,一种新的半监督架构,用于学习情绪识别的强EEG表示。为了减少大量未标记数据和有限标记数据之间的潜在分布不匹配,PARSE使用成对表示对齐。首先,我们的模型执行数据增强,然后对大量原始和增强的未标记数据进行标签猜测。然后,对猜测的标签进行锐化,并对未标记数据和标记数据进行凸组合。最后,表示对齐和情感分类。为了严格测试我们的模型,我们将PARSE与我们实现并适应EEG学习的几种最先进的半监督方法进行了比较。我们在四个公开的基于EEG的情感识别数据集上进行了这些实验,这些数据集是SEED,SEED-IV,SEED-V和AMIGOS(效价和唤醒)。实验表明,我们提出的框架在SEED、SEED-IV和AMIGOS(效价)中使用不同数量的有限标记样本实现了总体最佳结果,同时在SEED-V和AMIGOS(唤醒)中接近总体最佳结果(达到第二好)。分析表明,我们的成对表示对齐大大提高了性能,通过减少未标记和标记数据之间的分布对齐,特别是当每个类只有1个样本被标记。
2022-09-26 cs.LG
Towards Uniformity and Alignment for Multimodal Representation Learning
University of Amsterdam(阿姆斯特丹大学);The Netherlands Cancer Institute(荷兰癌症研究所);The Arctic University of Norway(挪威北极大学);Singapore Management University(新加坡管理大学)
本文提出了一种多模态表示学习的方法,通过分离对齐和统一性以解决冲突,提升模型在检索和生成任务中的性能。
2026-02-10 cs.LG
uCTRL: Unbiased Contrastive Representation Learning via Alignment and Uniformity for Collaborative Filtering
Sungkyunkwan University(成均馆大学)
针对协同过滤中的流行度偏差,提出无偏对比表示学习uCTRL,通过优化对齐与均匀性函数及设计新的IPW估计方法,在四个基准上显著优于现有无偏模型。
2023-05-22 cs.AI cs.IR cs.LG
Superposition disentanglement of neural representations reveals hidden alignment
UC San Diego(圣迭戈大学);Cold Spring Harbor Laboratory(冷泉港实验室)
针对神经表征叠加会干扰表征对齐指标测量的问题,本研究通过训练稀疏自编码器解耦表征叠加,验证了该方法可有效提升对齐测量准确度,是挖掘真实表征对齐性的必要步骤。
2025-11-13 cs.LG
Contrastive Reasoning Alignment: Reinforcement Learning from Hidden Representations
Northwestern University(西北大学);University of Michigan(密歇根大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文提出了一种基于对比学习和强化学习的框架CRAFT,通过优化隐藏状态空间中的目标来提升对抗攻击的鲁棒性,核心贡献是通过隐藏空间的几何结构实现推理层面的安全对齐。
2026-05-19 cs.AI cs.CL cs.LG
LogoRA: Local-Global Representation Alignment for Robust Time Series Classification
Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)(中国科学院大学人工智能学院);Squirrel AI Group(松鼠AI集团)
LogoRA提出双分支编码器与融合模块,结合三元组损失、动态时间规整、对抗训练和原型对齐,实现时间序列局部-全局特征对齐,在四个数据集上优于基线最高12.52%。
2024-09-12 cs.LG
Latent Instruction Representation Alignment: defending against jailbreaks, backdoors and undesired knowledge in LLMs
ML Alignment & Theory Scholars(机器学习对齐与理论学者)
本文提出LIRA方法,通过改变模型对指令的解释方式提升泛化能力,并通过内部对抗训练算法进一步增强泛化,有效防御了99%以上的PEZ对抗攻击,移除了一个具有挑战性的不安全代码后门,并在WMDP网络中实现最优遗忘。
2026-04-12 cs.LG
Scalable and Interpretable Representation Alignment with Ordinal Similarity
University of Maryland(马里兰大学);Google Research(谷歌研究院)
针对现有表示相似性度量缺乏可解释性、对异常值敏感且计算复杂的问题,提出基于序数相似性的三元组和四元组相似性指数,实现可解释、鲁棒且高效的对齐度量。
2026-06-17 cs.LG stat.ML
Multilingual Alignment of Contextual Word Representations
University of California, Berkeley(加州大学伯克利分校);Computer Science Division(计算机科学系)
我们提出了评估和加强上下文嵌入对齐的程序,并表明它们在分析和改进多语言BERT中是有用的。特别是,在我们提出的对齐过程后,与基本模型相比,BERT在XNLI上表现出显着改善的zero-shot性能,显著匹配保加利亚语和希腊语的伪全监督训练模型。此外,为了测量对齐的程度,我们引入了一个上下文版本的单词检索,并表明它与下游zero-shot传输相关。使用这个词检索任务,我们还分析了BERT,并发现它表现出系统的缺陷,例如,更差的对齐开放类的词性和词对写在不同的脚本,纠正对齐过程。这些结果支持上下文对齐作为理解大型多语言预训练模型的有用概念。
2020-02-12 cs.CL cs.LG
AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching
AI Thrust, Information Hub, The Hong Kong University of Science and Technology (Guangzhou)(人工智能 thrust,信息中心,香港科学与技术大学(广州))
提出AG-REPA方法,通过前向门控消融量化各层对速度场的因果贡献,实现稀疏层选择和自适应加权对齐,在音频流匹配中优于传统REPA基线。
2026-07-24 cs.AI cs.LG cs.MM
Alignment with human representations supports robust few-shot learning
Princeton University(普林斯顿大学)
本文通过信息论分析和 491 个视觉模型实验,发现模型与人类表征对齐程度和少样本性能呈 U 形关系,并证明高度对齐模型更稳健,表明人类对齐是有效利用有限数据、稳健泛化的充分但非必要条件。
2023-10-29 cs.AI cs.CV cs.HC
Human alignment of neural network representations
Technische Universität Berlin(柏林工业大学);BIFOLD Berlin(柏林BIFOLD研究院);Google Research(谷歌研究院)
本文通过三个人类相似性判断数据集考察神经网络表征与人类心理表征的对齐因素,发现训练数据和目标函数比规模与架构更关键,且单纯扩展规模不足以获得人类级概念表征。
2025-02-16 cs.AI cs.CV cs.LG
Normalized Space Alignment: A Versatile Metric for Representation Analysis
University of California, Santa Barbara(加州大学圣巴巴拉分校)
提出归一化空间对齐(NSA)度量,用于比较和对齐神经网络表示,兼具分析工具与损失函数功能,计算高效且支持小批量近似全局结构差异。
2024-11-07 cs.LG
Reconsidering Representation Alignment for Multi-view Clustering
UiT The Arctic University of Norway(挪威北极大学)
对齐视图表示的分布是当今用于深度多视图聚类的最新模型的核心组件。然而,我们发现了几个缺点,天真地对齐表示分布。我们证明,这些缺点都导致在表示空间中的可分离的集群,并抑制模型的能力,优先考虑的意见。基于这些观察,我们开发了一个简单的基线模型,用于深度多视图聚类。我们的基线模型完全避免了表示对齐,同时表现类似于或优于当前的最新技术水平。我们还通过添加对比学习组件来扩展我们的基线模型。这引入了一个选择性对齐过程,保留了模型对视图进行优先级排序的能力。我们的实验表明,对比学习组件增强了基线模型,在几个数据集上大幅改善了当前的最新技术水平。
2021-03-13 cs.CV cs.LG
Barycentric alignment for instance-level comparison of neural representations
Department of XXX, University of YYY, Location, Country(YYY大学XXX系);School of ZZZ, Institute of WWW, Location, Country(WWW研究所ZZZ学院);Department of Electrical and Computer Engineering, UCSD(UCSD电子与计算机工程系);Cognitive Science Department, UCSD(UCSD认知科学系);Department of Computer Science(计算机科学系)
通过实例层面的神经表示重心对齐,揭示了跨视觉和语言模型的表示收敛与发散特性,并展示了人类对齐的跨模态比较能力。
2026-02-09 cs.LG
Self-Supervised Node Representation Learning via Node-to-Neighbourhood Alignment
University of Wollongong(伍伦贡大学)
自监督节点表示学习的目的是从与监督对应物相竞争的未标记图中学习节点表示。学习信息节点表示的关键在于如何有效地从图结构中获取上下文信息。在这项工作中,我们提出了简单而有效的自我监督节点表示学习通过对齐隐藏表示的节点和他们的邻居。我们的第一个想法实现这样的节点到邻域对齐直接最大化的互信息之间的表示,我们从理论上证明,起到了图形平滑的作用。我们的框架是通过一个替代对比损失优化和拓扑感知的积极采样(TAPS)策略,提出了考虑节点之间的结构依赖性,这使得离线积极选择的样本。考虑到对比学习的内存开销过大,我们进一步提出了一个负自由的解决方案,其中的主要贡献是一个图形信号解相关(GSD)约束,以避免表示坍塌和过度平滑。GSD约束统一了一些现有的约束,并可用于派生新的实现来对抗表示坍塌。通过在简单的基于MLP的节点表示编码器上应用我们的方法,我们学习了节点表示,这些节点表示在一组从小到大的图结构数据集上实现了有希望的节点分类性能。
2023-02-10 cs.LG
Latent Functional Maps: a spectral framework for representation alignment
IST Austria(IST奥地利研究院);Sapienza, University of Rome(罗马大学萨皮恩扎分校)
本文提出Latent Functional Maps谱框架,通过整合谱几何原理在功能域解决表示空间关系建模问题,实现可解释的空间比较、对应关系寻找及表示迁移,在多模态和多种任务上验证了其作为表示对齐通用工具的有效性。
2025-07-13 cs.LG
Aligning Large Language Models and Geometric Deep Models for Protein Representation
Northwestern University(西北大学);University of Pittsburgh(匹兹堡大学);Michigan State University(密歇根州立大学);North Carolina State University(北卡罗来纳州立大学);New Jersey Institute of Technology(新泽西理工学院)
本研究探索蛋白质领域中LLM与几何深度模型的表示对齐,全面评估多种模型并提出增加GDM嵌入维度、使用两层投影头及微调LLM等策略以提升对齐质量。
2025-03-04 cs.AI cs.CE cs.LG
Unsupervised Graph Representation Learning with Complementary View Alignment
研究无监督图表示学习,提出AlignGAE方法,通过互补视图对齐、双编码器架构等技术,解决现有方法同质性偏差问题,在异质图节点分类上性能显著提升,建立频率感知图表示学习新范式。
2026-07-28 cs.LG
Temporal Representation Alignment: Successor Features Enable Emergent Compositionality in Robot Instruction Following
University of California, Berkeley(加州大学伯克利分校);Cornell University(康奈尔大学)
针对如何自动学习实现组合性的任务表示问题,提出基于时间对齐损失关联当前与未来状态表示的方法,无需显式子任务规划或强化学习即可提升组合泛化能力,在机器人操作任务及模拟中验证了对语言或目标图像指定任务的显著改进。
2025-02-13 cs.LG cs.RO
Understanding Multimodal Hallucination with Parameter-Free Representation Alignment
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);National Key Laboratory of General Artificial Intelligence(通用人工智能全国重点实验室)
本文提出无参数表示对齐度量Pfram,通过测量图像表示与人类标注的对齐程度,揭示其与多模态大语言模型物体幻觉的强相关性,并分析模块作用、指令影响及编码器改进。
2024-09-02 cs.CV cs.LG
Alignment Unlocks Complementarity: A Framework for Multiview Circuit Representation Learning
The Chinese University of Hong Kong(香港中文大学);Shanghai Jiao Tong University(上海交通大学);Ningbo University(宁波大学);National Center of Technology Innovation for EDA, China(中国EDA技术创新中心)
针对布尔电路多视角学习中的结构异质性障碍,提出MixGate框架,通过功能对齐预训练解锁多视角掩码建模的互补性,实验证明对齐优先策略显著提升性能。
2025-09-25 cs.LG
Toward Learning Robust and Invariant Representations with Alignment Regularization and Data Augmentation
Carnegie Mellon University(卡内基梅隆大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
数据增强已被证明是用于开发机器学习模型的有效技术,所述机器学习模型对已知类别的分布变化(例如,图像的旋转),并且对准正则化是经常与数据增强一起使用的技术,以进一步帮助模型学习对用于增强数据的移位不变的表示。在本文中,出于对齐正则化选项的扩散,我们试图沿着鲁棒性和不变性的维度,我们引入了一个新的测试程序来评估几个流行的设计选择的性能。我们的合成实验结果说明了平方l2范数正则化的好处。此外,我们还正式分析了对齐正则化的行为,以补充我们的实证研究假设下,我们认为现实的。最后,我们测试这个简单的技术,我们确定(最坏情况下的数据增强平方l2范数对齐正则化),并表明这种方法的好处超过那些专门设计的方法。我们还在TensorFlow和PyTorch中发布了一个软件包,供用户在https://github.com/jyanln/AlignReg上使用该方法。
2022-06-04 cs.LG
Closing the gap in multimodal medical representation alignment
Dept. of Information Engineering, Electronics, and Telecommunications(信息工程、电子与电信系)
本文提出了一种模态无关的框架,用于弥合多模态医学表征对齐中的模态差距,提升放射学图像与临床文本之间的对齐效果。
2026-02-23 cs.CV cs.LG
Dimensions underlying the representational alignment of deep neural networks with humans
Max Planck Institute for Human Cognitive and Brain Sciences(马克斯·普朗克人类认知与脑科学研究所);Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所);Technische Universität Berlin(柏林工业大学);Berlin Institute for the Foundations of Learning and Data (BIFOLD)(柏林学习与数据基础研究所);Justus Liebig University(尤斯图斯·李比希大学);Center for Mind, Brain and Behavior, Universities of Marburg, Giessen, and Darmstadt(马尔堡、吉森和达姆施塔特大学心智、大脑与行为中心);Google DeepMind(谷歌DeepMind)
本文提出一种基于潜在表征维度的通用框架,用于比较人类与深度神经网络(DNN)的图像表征,发现DNN中视觉维度主导语义维度,与人类存在显著差异,并揭示了表征对齐中的关键挑战。
2025-01-27 cs.AI cs.CV cs.LG
Segment-driven Structural Induction and Semantic Alignment for Heterogeneous Tabular Representation
Department of Computer Science \& Engineering, Korea University, Seoul, South Korea
提出NAVI框架,通过掩码片段建模和熵驱动片段对齐,利用片段级结构归纳与语义对齐实现异构表格的表示学习。
2026-06-01 cs.LG
A Unified Graph Language Model for Multi-Domain Multi-Task Graph Alignment Instruction Tuning
Tsinghua University(清华大学)
本文提出UniGraphLM,通过多领域多任务GNN编码器学习可泛化的图表示,并与LLM进行自适应对齐,以解决跨领域和任务的图对齐问题。
2026-05-12 cs.LG
TORA: Topological Representation Alignment for 3D Shape Assembly
Independent Researcher(独立研究员);ETH Zurich(苏黎世联邦理工学院);ETH AI Center(ETH人工智能中心)
TORA通过拓扑优先的表示对齐框架,利用预训练3D编码器的关联结构提升3D形状组装的对齐效果,通过余弦匹配和CKA损失增强拓扑对齐,实现更快收敛和更高精度。
2026-07-01 cs.CV cs.LG
VL-SAE: Interpreting and Enhancing Vision-Language Alignment with a Unified Concept Set
Key Lab of Intell. Info. Process., Inst. of Comput. Tech., CAS(智能信息处理重点实验室,计算技术研究所,中国科学院);University of Chinese Academy of Sciences(中国科学院大学)
提出VL-SAE稀疏自编码器,用统一概念集解释并增强视觉-语言对齐,在CLIP和LLaVA上验证了其提升零样本分类和消除幻觉的能力。
2025-10-24 cs.CV cs.LG
Large Language Models Encode Semantics and Alignment in Linearly Separable Representations
Yale University(耶鲁大学);Foundation AI – Cisco Systems Inc(Foundation AI – 卡西欧系统公司)
本研究发现大语言模型通过线性可分的表示编码语义和对齐,提出基于潜在空间的MLP探测器有效提升安全防护。
2026-01-21 cs.CL cs.LG
Purify Before You Align: Improving Representation Alignment for Diffusion Models
Cornell University(康奈尔大学);University of Pennsylvania(宾夕法尼亚大学)
提出局部外观净化(LAP)方法,仅修改扩散模型的对齐目标,在五种预训练表示上提升生成质量,对MAE增益最大,且常数读出分数可预测净化收益。
2026-10-16 cs.CV cs.LG
DCRA: Diffusion-Conditioned Representation Alignment for Robust Time-Series Learning
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
DCRA通过将扩散前向过程作为结构化损坏调度器并引入特征级一致性目标,在噪声下对齐时间序列表示,提升EEG癫痫检测的鲁棒性和灵敏度。
2026-09-14 cs.LG stat.ML
ALNSynergy: a graph convolutional network with multi-representation alignment for drug synergy prediction
Oregon Health & Science University(俄勒冈健康与科学大学);Shanghai Jiaotong University(上海交通大学);Jiangsu University of Science and Technology(江苏科技大学)
针对药物联用预测中表征拼接忽略对齐的问题,提出具有多表征对齐的图卷积网络ALNSynergy,通过设计专用对齐函数并引入向量模长,在多个数据集上验证了其有效性与优越性。
2024-10-12 cs.IR cs.LG q-bio.QM
MIC: Maximizing Informational Capacity in Adaptive Representations via Isotropic Subspace Alignment
National University of Singapore(新加坡国立大学)
针对多尺度表示中的维度冗余和谱坍缩问题,提出MIC框架,通过各向同性子空间对齐、软坍缩正则化和谱各向同性正则化,结合自蒸馏目标生成语义密集且高判别力的表示,在高压缩场景下显著优于基线。
2026-05-31 cs.CL cs.LG
KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models
University of California, Berkeley(加州大学伯克利分校)
提出KODA框架,通过核优化方法对比分析视觉-语言基础模型的表示差异,并识别弱聚类与强聚类的样本子集,实现表示对齐。
2026-06-02 cs.IT cs.LG math.IT
Domain-adversarial Network Alignment
Beijing Institute of Technology(北京理工大学);University of Technology Sydney(悉尼科技大学)
网络对齐是一个重要的任务,以各种各样的领域。许多现有的工作利用表示学习来完成这一任务,而不消除域相关特征引起的域表示偏差,这会产生较差的对齐性能。本文提出了一种统一的深度架构(DANA),通过对抗域分类器获得网络对齐的域不变表示。具体来说,我们采用图卷积网络在域对抗原则下执行网络嵌入,给定一个小的观测锚集。然后,半监督学习框架优化观测锚和损失的域分类器的后验概率分布的同时。我们还开发了我们的模型的一些变体,如方向感知网络对齐,有向网络的权重共享和参数空间的简化。在三个真实社会网络数据集上的实验表明,我们提出的方法实现了最先进的对齐结果。
2019-08-15 cs.LG stat.ML