Mutually-paced Knowledge Distillation for Cross-lingual Temporal Knowledge Graph Reasoning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon.com Inc(亚马逊公司);Georgia Institute of Technology(佐治亚理工学院)
研究跨语言时态知识图谱推理问题,旨在通过迁移高资源语言时态知识图中的知识,促进低资源语言时态知识图的推理.鉴于现有的推理方法在那些严重不完整的TKG上的性能不令人满意,特别是在低资源语言中,跨TKG的跨语言蒸馏能力变得越来越重要。然而,它在两个方面提出了巨大的挑战。首先,跨语言的对齐,作为知识转移的桥梁,通常是太少了,两个TKG之间的转移足够的知识。第二,对齐实体的时间知识差异,特别是当对齐不可靠时,会误导知识蒸馏过程。我们相应地提出了一个相互步调的知识蒸馏模型MP-KD,其中在源TKG上训练的教师网络可以通过对齐模块指导在目标TKG上训练的学生网络。具体地说,为了处理稀缺性问题,MP-KD基于我们的表示模块提取的时间信息生成TKG之间的伪比对。为了最大限度地提高知识传递的效率和控制由时间知识差异引起的噪声,我们增强了MP-KD与时间跨语言注意力机制动态估计对齐强度。这两个过程随着模型训练而相互同步。在EventKG基准测试中的12个跨语言TKG迁移任务上的实验证明了所提出的MP-KD方法的有效性。
2023-03-27 cs.AI cs.CL cs.LG
Hierarchical Mutual Information Analysis: Towards Multi-view Clustering in The Wild
OPPO Research Institute(OPPO研究院);Xinchuang Haihe Laboratory(信创海河实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);InnoPeak Technology, Inc(InnoPeak Technology公司);Stony Brook University(石溪大学)
本文提出一种深度多视图聚类框架,通过层次互信息最大化融合双重预测填补缺失视图与对比重建实现类别级对齐,首次分别处理视图缺失和未对齐问题,并在公开数据集上显著超越现有方法。
2023-10-28 cs.AI cs.LG
The Alignment Curse: Modality Alignment Supercharges Audio Attacks via Text Transfer
University of Oxford(牛津大学)
本文提出并验证了“对齐诅咒”原理,即更强的文本-音频模态对齐会促进文本攻击向音频的迁移,并通过黑盒实验表明文本转移的音频攻击性能与原生音频攻击相当甚至更优,揭示了能力与安全之间的根本矛盾。
2026-11-16 cs.AI cs.LG cs.SD
Traffic Prediction with Transfer Learning: A Mutual Information-based Approach
在现代交通管理中,最基本也是最具挑战性的任务之一是准确、及时地预测交通量。已经充分研究和检验了基于深度学习的时空模型在利用交通数据中的时空关系时具有优势。通常,数据驱动模型需要大量数据,但由于设备部署和维护成本等限制,在小城市收集数据可能很困难。为了解决这个问题,我们提出了一种跨城市交通预测方法,它使用来自其他城市的大数据来帮助数据稀缺的城市进行交通预测。利用基于相似性的转移范式,它识别数据相似性,并减少由来自遥远城市的两个数据分布之间的差异引起的负转移。此外,建议的方法采用图形重建技术,以纠正缺陷的数据从小数据城市。通过对三个真实世界数据集的综合案例研究,对ApricTL进行了评估,其性能优于最先进的基线约8%至25%。
2023-03-13 cs.AI cs.LG
Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
Haverford College(哈弗福德学院);Brown University(布朗大学)
通过微调大语言模型并在闪语族与非闪语族语言上评估零样本阅读理解,发现跨语言迁移主要提升任务格式对齐而非语言特定知识。
2026-06-23 cs.AI cs.CL
Diffusion Timbre Transfer Via Mutual Information Guided Inpainting
Queen Mary University of London(伦敦玛丽女王大学);Sony Computer Science Laboratories(索尼计算机科学实验室)
本文提出通过互信息引导的修复生成方法,在无需额外训练的情况下实现音乐音频的音色转移,通过潜在空间噪声注入和早期步骤钳制机制,有效控制音色变化与结构保持的平衡。
2026-01-28 cs.AI cs.SD eess.AS
Middle-Layer Representation Alignment for Cross-Lingual Transfer in Fine-Tuned LLMs
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
针对LLM跨语言迁移受限于性能差距和数据稀缺的问题,提出基于中间层表示对齐的微调方法,实验证明其在多任务中显著提升跨语言迁移效果,且模块可合并无需全面重训。
2025-06-02 cs.AI cs.CL
Dropouts in Confidence: Moral Uncertainty in Human-LLM Alignment
本研究探讨道德不确定性对人机对齐的影响,通过分析32个开源模型在电车难题中的响应,发现模型架构和训练方法主导道德不确定性,提出的推理时dropout机制可改善对齐效果。
2025-11-17 cs.AI cs.CL cs.CY
Rethinking Cross-lingual Alignment: Balancing Transfer and Cultural Erasure in Multilingual LLMs
University of Maryland(马里兰大学);Google(谷歌)
本文提出迁移-定位平面评估框架,发现跨语言对齐虽促进知识迁移但导致文化抹除,并基于不同模型层对两类知识可控性的差异,提出Surgical Steering推理时方法,通过分层激活控制有效平衡了知识迁移与文化定位。
2025-10-29 cs.AI cs.CL
Mutual Enhancement of Large and Small Language Models with Cross-Silo Knowledge Transfer
Tsinghua University(清华大学);Institute for AI Industry Research (AIR)(人工智能产业研究院(AIR))
针对私有任务数据难以集中用于微调 LLM 的问题,提出 CrossLM,通过 SLM 引导 LLM 生成高质量任务数据并反哺双方,实现云端 LLM 与客户端 SLM 的同步增强。
2023-12-10 cs.AI cs.CL
Representation Alignment in Neural Networks
University of Alberta(阿尔伯塔大学);University of Michigan(密歇根大学)
它现在是神经网络表示的标准,可以在大型公开数据集上进行训练,并用于新问题。然而,神经网络表示在迁移中如此成功的原因仍然没有完全理解。在本文中,我们表明,经过训练,神经网络表示对齐其顶部奇异向量的目标。我们研究了各种神经网络架构中的这种表示对齐现象,发现(a)对齐出现在各种不同的架构和优化器中,深度引起更多的对齐(b)更接近输出的层的对齐增加(c)现有的高性能深度CNN表现出高水平的对齐。然后,我们强调了为什么顶部奇异向量和目标之间的对齐可以加速学习,并在一个经典的合成迁移问题中表明,表征对齐与相似和不相似任务的正迁移和负迁移相关。
2022-09-17 cs.AI cs.LG
Exploring the Relationship between Alignment and Cross-lingual Transfer in Multilingual Transformers
Posos(Posos公司);LORIA(洛林计算机科学及其应用实验室)
本文研究多语言 Transformer 中表示对齐与跨语言迁移的关系,发现二者显著相关,并明确重对齐在小模型、远距离语言和词典词对等条件下可显著提升性能。
2023-06-05 cs.AI cs.CL
mOthello: When Do Cross-Lingual Representation Alignment and Cross-Lingual Transfer Emerge in Multilingual Models?
Brown University(布朗大学)
本研究提出合成任务mOthello,探究多语言模型中跨语言表示对齐与迁移的条件,发现锚定标记有助于对齐但语言无关表示不足,进而提出统一输出空间的多语言预训练方法以促进跨语言迁移。
2024-04-18 cs.AI cs.CL
Geometric Embedding Alignment via Curvature Matching in Transfer Learning
LG AI Research(LG人工智能研究院)
本文提出通过曲率匹配实现几何嵌入对齐,利用黎曼几何整合多个模型,提升跨领域任务性能,实验显示在23个分子任务对上性能提升显著。
2025-06-16 cs.AI cs.LG
Strong Helps Weak: Directional Cross-Modal Alignment Transfer in Multi-modal LLMs
Seoul National University(首尔大学)
本文发现将强模态MLLM合并到弱模态MLLM可提升后者性能,源于模态与文本标记对齐增强,据此提出DCAT框架,无需微调即可实现跨模态对齐迁移,优于现有合并方法。
2026-10-06 cs.AI cs.CL
Cross-domain Dialogue Policy Transfer via Simultaneous Speech-act and Slot Alignment
Hong Kong University of Science and Technology(香港科技大学)
对话策略迁移使我们能够利用来自具有大量数据的源域的知识,在具有少量数据的目标域中构建对话策略。对话语句通常由言语行为和领域槽表示,对话策略转换通常通过分配基于人类记忆的槽映射矩阵来实现。然而,现有的对话策略转移方法不能跨具有不同语音行为的对话域转移,例如,在由不同公司构建的系统之间转移。此外,它们依赖于公共槽或槽熵,当源槽和目标槽完全不相交并且没有数据库可用于计算槽熵时,公共槽或槽熵不可用。为了解决这个问题,我们提出了一个跨域会话和言语行为的策略转移(PROMISE)模型,该模型能够在具有不同言语行为和不相交槽的域之间转移对话策略。PROMISE模型可以同时学习对齐不同的言语行为和时隙,并且它不需要公共时隙或时隙熵的计算。在真实对话数据上的实验和仿真结果表明,PROMISE模型可以有效地在具有不同言语行为和不相交槽的域之间传递对话策略。
2018-04-20 cs.AI cs.CL
Spatial Content Alignment For Pose Transfer
City University of Hong Kong(香港城市大学)
由于不可靠的几何匹配和内容不对齐,大多数传统的姿势转移算法无法生成经过良好训练的人物图像。在本文中,我们提出了一个新的框架空间内容对齐GAN(SCAGAN),旨在提高服装纹理的内容一致性和人体特征的细节。我们首先通过预先将边缘内容转移到目标姿态来减轻空间错位。其次,我们介绍了一种新的内容风格DeBlk,它可以逐步合成照片般逼真的人的图像的基础上的外观特征的源图像,目标姿态热图和边缘域中的先前传输的内容。我们比较所提出的框架与几个国家的最先进的方法,以显示其在定量和定性分析的优势。此外,详细的消融研究结果证明了我们的贡献的有效性。代码可在github.com/rocketappslab/SCA-GAN上公开获取。
2021-03-31 cs.AI cs.CV cs.MM
Meta-Transfer Learning for mmWave Beam Alignment
提出MTL-BA框架,冻结预训练卷积骨干,仅元学习轻量级Scale-and-Shift适配器和分类头,实现毫米波MISO系统波束对齐,参数更新量减少约17倍,元训练轮次减少60%,性能接近全微调和MAML。
2026-10-06 cs.AI cs.SY eess.SP
Seed-Induced Uniqueness in Transformer Models: Subspace Alignment Governs Subliminal Transfer
研究揭示了Transformer模型中种子诱导的唯一性特性,通过子空间对齐影响潜意识转移,提出子空间级别的CKA诊断方法以提升多模型部署的安全性。
2025-11-02 cs.AI cs.CR cs.LG
Feedback-based Modal Mutual Search for Attacking Vision-Language Pre-training Models
Huazhong University of Science and Technology(华中科技大学);Tsinghua University(清华大学)
针对VLP模型黑盒攻击可迁移性受限问题,提出基于反馈的模态互搜索范式FMMS,通过模态互损失引导对抗样本更新并结合目标模型反馈迭代优化,在图文匹配任务上性能超越现有最优基线。
2024-08-27 cs.AI cs.CV cs.LG
Cross-device Zero-shot Label Transfer via Alignment of Time Series Foundation Model Embeddings
Independent Researcher(独立研究者)
本文提出一种利用时间序列基础模型嵌入的对抗性对齐框架,实现从临床活动记录仪到消费级可穿戴设备的零样本标签迁移,无需配对数据。
2025-08-22 cs.AI cs.LG eess.SP
TIPAA-SSL: Text Independent Phone-to-Audio Alignment based on Self-Supervised Learning and Knowledge Transfer
University of Mons(蒙斯大学)
本文提出TIPAA-SSL方法,通过微调wav2vec2进行音素识别并结合降维与帧级分类器实现文本无关音素到音频对齐,在TIMIT和SCRIBE数据集上优于charsiu。
2024-05-03 cs.AI cs.CL cs.LG
ALIGN-MLM: Word Embedding Alignment is Crucial for Multilingual Pre-training
Princeton University(普林斯顿大学)
多语言预训练模型表现出zero-shot跨语言迁移,其中在源语言上微调的模型在目标语言上实现了令人惊讶的良好性能。虽然研究试图理解迁移,但它们只关注MLM,而自然语言之间的大量差异使得很难理清不同属性的重要性。在这项工作中,我们特别强调了词嵌入对齐的重要性,提出了一个预训练目标(ALIGN-MLM),其辅助损失引导不同语言中的相似词具有相似的词嵌入。当我们评估自然语言和通过系统地修改脚本等特定属性创建的对应语言之间的传输时,ALIGN-MLM优于或匹配三个广泛采用的目标(MLM,XLM,DICT-MLM)。特别是,ALIGN-MLM在POS标记上比XLM和MLM高出35和30个F1点,用于在脚本和词序(从左到右与从左到右)都不同的语言之间进行传输。从右到左)。我们还显示了所有目标的对齐和转移之间的强相关性(例如,rho=0.727(对于XNLI)),这与ALIGN-MLM的强大性能一起要求显式对齐多语言模型的词嵌入。
2022-11-15 cs.AI cs.CL cs.LG
ENIGMA: The Geometry of Reasoning and Alignment in Large-Language Models
Australian Broadcasting Corporation(澳大利亚广播公司)
ENIGMA通过信息几何方法,结合GRPO、SAMI和熵正则化,联合优化LLM的推理、对齐与鲁棒性,无需奖励模型,实验验证其有效性。
2025-10-16 cs.AI cs.CL cs.LG
Creative Quality Alignment: Expert Tacit Knowledge Transfer via Chain-of-Thought Fine-Tuning
本文通过低数据成本和小基模型的严格工程条件,实证验证了校准惊喜中的创意质量度量,并发现数据偏差,提出创意质量对齐方法及理论解释。
2026-05-25 cs.AI cs.CL cs.LG
Feature Structure Distillation with Centered Kernel Alignment in BERT Transferring
AI graduate school of Gwangju Institute of Science and Technology (GIST)(光州科学技术院AI研究生院);Jeonbook National University(全北国立大学)
针对BERT知识蒸馏中学生表示灵活性受限的问题,提出基于中心化核对齐的特征结构蒸馏方法,迁移三类表示结构并在GLUE九项任务上优于现有蒸馏方法。
2023-02-27 cs.AI cs.CL cs.LG
TinyAlign: Boosting Lightweight Vision-Language Models by Mitigating Modal Alignment Bottlenecks
Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing(北京未来区块链与隐私计算先进创新中心);Beihang University(北京航空航天大学);Hangzhou International Innovation Institute(杭州国际创新研究院);Xreal;Renmin University(中国人民大学);Peking University(北京大学);Beijing Academy of Blockchain and Edge Computing (BABEC)(北京区块链与边缘计算研究院)
针对轻量级视觉-语言模型因语言模型容量受限导致模态对齐瓶颈的问题,提出基于检索增强生成的 TinyAlign 框架,通过从记忆库检索上下文丰富多模态输入,有效提升对齐质量与数据效率。
2025-06-30 cs.AI cs.CV cs.LG
Spectral Motion Alignment for Video Motion Transfer using Diffusion Models
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
针对视频运动迁移中连续帧残差缺乏全局运动上下文且易受逐帧扭曲影响的问题,提出频谱运动对齐(SMA)框架,利用傅里叶和小波变换细化对齐运动向量并引入频域正则化,有效提升了运动迁移质量与计算效率。
2024-12-19 cs.AI cs.CV cs.LG
Temporal Order Preserved Optimal Transport-based Cross-modal Knowledge Transfer Learning for ASR
National Institute of Information and Communications Technology(信息通信研究机构);Research Center for Information Technology Innovation(资讯科技创新研究中心);Academia Sinica(中央研究院)
针对ASR中声学与语言序列跨模态对齐难题,本文提出TOT-CAKT,通过保持时间顺序的最优传输实现知识迁移,并在普通话ASR中显著优于现有方法。
2024-09-05 cs.AI cs.CL cs.SD
ALIGNBEAM : Inference-Time Alignment Transfer via Cross-Vocabulary Logit Mixing
Lexsi Labs
针对领域微调降低大模型安全性的问题,提出无需训练的ALIGNBEAM方法,通过逐token翻译锚模型logit并选择最安全候选,实现跨词汇表的安全对齐迁移,保持任务准确性和推理开销。
2026-06-11 cs.AI cs.CL cs.ET