PAnDR: Fast Adaptation to New Environments from Offline Experiences via Decoupling Policy and Environment Representations
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);Northwestern Polytechnical University(西北工业大学)
深度强化学习(Deep Reinforcement Learning,DRL)是解决许多复杂决策问题的有效方法。然而,众所周知的弱点,在环境之间的泛化,阻止DRL代理在现实世界中的广泛应用。虽然最近已经取得了进展,大多数先前的作品假设足够的在线互动的培训环境,这在实际情况下可能是昂贵的。为此,我们专注于离线训练在线适应设置,其中代理首先从具有不同动态的环境中收集的离线经验中学习,然后在具有新动态的环境中执行在线策略适应。在本文中,我们提出了政策适应与解耦表示(PAnDR)的快速政策适应。在离线训练阶段,环境表示和策略表示分别通过对比学习和策略恢复来学习。通过互信息优化进一步细化表示,使其更加解耦和完整。利用学习的表示,策略动态价值函数(PDVF)[Raileanu等人,2020]网络被训练以近似来自离线体验的策略和环境的不同组合的值。在在线适应阶段,从新环境中收集的少量经验中推断出环境背景,通过相对于PDVF的梯度上升来优化策略。我们的实验表明,PAnDR优于现有的算法在几个代表性的政策适应问题。
2022-05-30 cs.AI cs.LG
On the Non-decoupling of Supervised Fine-tuning and Reinforcement Learning in Post-training
Theory Laboratory Central Research Institute, 2012 Laboratories(理论实验室中央研究院,2012实验室);Huawei Technologies Co., Ltd(华为技术有限公司)
研究证明在训练后阶段,监督微调与强化学习无法解耦,且在交替训练顺序下会导致性能下降。
2026-01-12 cs.AI cs.IT cs.LG
Decoupling Communication from Policy: Robust MARL under Bandwidth Constraints
École polytechnique (LIX)(巴黎高等理工学院(LIX));CNRS(国家科学研究中心);Institut Polytechnique de Paris(巴黎高等理工学院);Palaiseau, France(法国Palaiseau)
本文提出了一种新的方法,通过引入β指标和SLIM架构,将通信路径与策略的潜在表示分离,从而在带宽受限的情况下提高多智能体强化学习的鲁棒性和性能。
2026-05-20 cs.AI cs.LG cs.MA
High-Dimensional Search, Low-Dimensional Solution: Decoupling Optimization from Representation
Department of Computer Science, RWTH Aachen University(计算机科学系,亚琛工业大学);Institute of Mathematics, School of Business and Economics(数学研究所,经济管理学院)
该研究通过解耦优化与表示,发现模型冗余服务于非凸优化,通过随机投影压缩表示并验证内在流形的鲁棒性,提出子空间原生蒸馏方法实现高效部署。
2026-02-01 cs.AI cs.LG
Decoupling Search and Learning in Neural Net Training
Q Labs(Q实验室)
提出解耦搜索与学习的两阶段训练框架,通过进化搜索在表示空间寻找多样解并在参数空间回归学习,克服了梯度下降的探索局限。
2025-09-13 cs.AI cs.LG
Feature Decoupling in Self-supervised Representation Learning for Open Set Recognition
Florida Institute of Technology(佛罗里达理工学院)
假设在分类过程中可能存在未知类,开集识别(OSR)任务的目标是将实例分类到已知类或将其拒绝为未知类。在本文中,我们使用两个阶段的训练策略的OSR问题。在第一阶段中,我们引入了一种自监督特征解耦方法,该方法从已知类中找到输入样本的内容特征。具体来说,我们的特征解耦方法学习了一种可以分为内容特征和转换特征的表示。在第二阶段,我们用类标签微调内容特征。然后将微调的内容特性用于OSR问题。此外,我们考虑了一个无监督的OSR场景,在那里我们聚类从第一阶段学习的内容特征。为了衡量表示质量,我们引入了帧内-帧间比(IIR)。我们的实验结果表明,我们提出的自监督方法优于其他图像和恶意软件OSR问题。此外,我们的分析表明,IIR与OSR性能相关。
2022-09-28 cs.AI cs.CR cs.CV
Decoupling anomaly discrimination and representation learning: self-supervised learning for anomaly detection on attributed graph
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);School of Software Engineering, Sun Yat-sen University(中山大学软件工程学院);School of System Science and Engineering, Sun Yat-sen University(中山大学系统科学与工程学院);Merchants Union Consumer Finance Co., Ltd(招商局联融消费金融股份有限公司)
本文提出DSLAD算法,通过解耦异常判别与表示学习,并采用双线性池化和掩码自编码器构建平衡特征空间,以解决属性图异常检测中的语义混合和长尾分布问题,在六个基准数据集上验证了其有效性。
2023-04-11 cs.AI cs.LG
Rethinking Prediction Horizons: Decoupling Model Queries from State Updates in Few-Step MeanFlow
Beijing QBoson Quantum Technology Co., Ltd.(北京量子博文科技有限公司);University of Sydney(悉尼大学)
本研究解耦少步MeanFlow中的模型查询与状态更新,发现预测时域对输入状态分布敏感,提出的冻结查询规则可降低CIFAR-10等数据集的FID,但在部分场景中并非最优选择。
2026-10-14 cs.AI cs.LG
The Paradox of Robustness: Decoupling Rule-Based Logic from Affective Noise in High-Stakes Decision-Making
Kenyon College(凯尼恩学院)
研究揭示了大语言模型在高风险决策中对情感噪声的鲁棒性悖论,通过三个领域实验发现模型在逻辑约束下比人类更稳定,但对提示格式敏感。
2026-04-04 cs.AI
Orthogonal Representation Editing: Decoupling Semantic Entanglement in Batch Knowledge Editing of LLMs
School of Computer Science and Technology, Tianjin University(天津大学计算机科学与技术学院);Kexin Technology(可心科技);University of Chinese Academy of Sciences(中国科学院大学);Tencent Hunyuan(腾讯混元);College of Computer Science, Chongqing University(重庆大学计算机学院)
针对批量知识编辑中语义表示纠缠导致性能下降的问题,提出正交表示编辑(ORE),通过构建通用语义子空间并对编辑向量施加正交约束来解耦纠缠,并引入门控非线性表示头自适应学习编辑位置,实验表明ORE在跨语言场景中表现优异。
2026-06-23 cs.AI cs.CL
ACD-CLIP: Decoupling Representation and Dynamic Fusion for Zero-Shot Anomaly Detection
Central South University(中南大学);Hunan Vocational College of Science and Technology(湖南科技职业学院)
ACD-CLIP通过联合优化特征表征与跨模态融合,解决预训练视觉语言模型在零样本异常检测中的适应性不足问题,提出参数高效卷积低秩适应器和动态融合网关提升检测精度与鲁棒性。
2026-03-27 cs.AI cs.CV cs.LG
Grouter: Decoupling Routing from Representation for Accelerated MoE Training
School of Mathematical Sciences, Peking University, Beijing, China(北京大学数学科学学院);Center for Machine Learning Research, Peking University, Beijing, China(北京大学机器学习研究中心);Yuanpei College, Peking University, Beijing, China(北京大学元培学院);Zhejiang Lab, Hangzhou, China(浙江实验室)
提出Grouter方法,通过从预训练MoE模型中蒸馏高质量结构作为固定路由器,解耦结构优化与权重更新,显著加速模型收敛并提升训练吞吐量。
2026-05-24 cs.AI cs.LG
Leviathan: Decoupling Input and Output Representations in Language Models
Department of Aerospace and Ocean Engineering(航空航天与海洋工程系)
Leviathan通过引入学习嵌入向量化方法,解耦语言模型的输入和输出表示,从而在参数增加极小的情况下提升语言建模性能,尤其在稀有词上表现显著。
2026-05-07 cs.AI cs.CL cs.LG
Contrastive Representation Distillation via Multi-Scale Feature Decoupling
Key Laboratory of Information Science of Electromagnetic Waves, Fudan University(电磁波信息科学重点实验室,复旦大学)
本文提出与模型无关的蒸馏框架MSDCRD,通过将全局特征解耦为多尺度局部特征并结合定制对比损失,实现高效的单批次蒸馏,显著提升了同构及异构师生架构的性能。
2025-10-13 cs.AI cs.CV
Implicit Feature Decoupling with Depthwise Quantization
University of Southern California(南加州大学)
量化已经应用于深度神经网络(DNN)中的多个域。我们提出了依赖量化(DQ),其中$\textit{quantization}$被应用于沿着弱统计依赖的$\textit{feature axis}$的分解的子张量。特征分解导致$\textit{representation capacity}$的指数增加,而存储器和参数成本线性增加。此外,DQ可以直接应用于现有的编码器-解码器框架,而无需修改DNN架构。我们在分层自动编码器的上下文中使用DQ,并在图像特征表示上进行端到端的训练。我们提供了一个空间和通道功能之间的互相关分析,我们提出了一个分解的图像特征表示沿通道轴。dependency操作符的性能提高是由于隐式特征解耦增加了表示能力。我们在似然估计任务上评估了DQ,它在CIFAR-10,ImageNet-32和ImageNet-64上的表现优于以前的最先进技术。我们逐步训练增加图像大小的一个单一的层次模型,使用69%的参数,并具有更快的收敛速度比以前的作品。
2022-03-29 cs.AI cs.CV
Audio Contrastive-based Fine-tuning: Decoupling Representation Learning and Classification
The University of Manchester(曼彻斯特大学);Durham University(杜伦大学);RFAI Technology(RFAI技术);Automated Analytics(自动化分析)
本文提出解耦表示细化与分类器训练的两阶段音频微调框架,通过对比微调改善嵌入空间,并设计双探针评估协议验证其有效性,在单标签和多标签音频分类任务上均取得优于普通微调的结果。
2025-09-22 cs.AI cs.CL cs.SD
Invariant Representation via Decoupling Style and Spurious Features from Images
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室)
本文提出IRSS框架,通过结构因果模型、对抗神经网络和多环境优化解耦风格分布与虚假特征,在无域标签条件下实现OOD泛化并解决IRM退化问题。
2024-04-01 cs.AI cs.CV
Learning Decoupling Features Through Orthogonality Regularization
Peking University(北京大学);Xiaomi Inc.(小米公司)
关键词识别和说话人确认是语音应用中的两项重要任务。研究表明,最先进的KWS和SV模型是使用不同的数据集独立训练的,因为它们希望学习独特的声学特征。然而,人类可以同时区分语言内容和说话者身份。基于此,我们认为探索一种方法,可以有效地提取共同的功能,同时解耦特定于任务的功能是很重要的。考虑到这一点,开发了具有相同网络结构的两个分支深度网络(KWS分支和SV分支),并提出了一种新的解耦特征学习方法,以同时提升KWS和SV的性能,其中说话人不变的关键字表示和关键字不变的说话人表示分别是预期的。在Google Speech Commands Dataset(GSCD)上进行了实验。结果表明,正交正则化有助于网络实现SOTA EER的1.31%和1.87%的KWS和SV,分别。
2022-03-31 cs.AI cs.SD eess.AS
Robust Multimodal Learning via Representation Decoupling
School of Information;Communication Engineering University of Electronic Science
本文提出解耦多模态表示网络DMRNet,将不同模态组合建模为概率分布并采样嵌入以解除类内方向约束,同时引入困难组合正则化器,在多模态分类与分割任务上显著超越现有方法。
2024-07-05 cs.AI cs.CV
Robust Basis Spline Decoupling for the Compression of Transformer Models
NUMA, Department of Computer Science, KU Leuven(NUMA计算机科学系,鲁文大学)
本文提出了一种基于B-样条的解耦框架,通过利用B-样条的局部支持和灵活的光滑性控制,改进了传统张量解耦方法,提高了数值稳定性和表达能力,实验表明该方法在保持竞争力精度的同时实现了显著的参数减少。
2026-05-11 cs.AI cs.LG
Decoupling the Image Perception and Multimodal Reasoning for Reasoning Segmentation with Digital Twin Representations
针对现有推理分割方法破坏图像空间关系的问题,提出DTwinSeger方法,以数字孪生表示为中间层解耦感知与推理,搭配专用微调方法与数据集Seg-DT,在多个基准上达到SOTA,验证了DT表示的桥接作用。
2025-06-11 cs.AI cs.CV
Self-supervised Video Representation Learning by Context and Motion Decoupling
Alibaba Group(阿里巴巴集团)
自监督视频表示学习的一个关键挑战是如何有效地捕获除上下文偏差之外的运动信息。虽然大多数现有的作品隐含地通过视频特定的借口任务(例如,预测剪辑顺序、时间箭头和速度),我们开发了一种方法,该方法通过精心设计的借口任务明确地将运动监督从上下文偏差中分离出来。具体来说,我们将压缩视频中的关键帧和运动矢量(例如,H.264格式)分别作为上下文和运动的监督源,可以在CPU上以超过500 fps的速度有效地提取。然后,我们设计了两个借口的任务,联合优化:一个上下文匹配任务,成对的对比损失之间的视频剪辑和关键帧功能铸造;和一个运动预测任务,剪辑功能,通过编码器-解码器网络,用于估计运动功能在不久的将来。这两个任务使用共享的视频主干和单独的MLP头。实验表明,我们的方法提高了学习的视频表示的质量比以前的作品,其中我们获得了16.0%和11.1%的视频检索召回UCF 101和HMDB 51,分别绝对增益。此外,我们发现运动预测是视频网络的强正则化,其中使用它作为辅助任务提高了动作识别的准确性,幅度为7.4%~ 13.8%。
2021-04-02 cs.AI cs.CV
Decoupling Representation and Learning in Genetic Programming: the LaSER Approach
Vermont Complexity Center(佛罗里达复杂中心);University of Vermont(佛罗里达大学)
本文提出 LaSER 框架,将遗传编程中的表征进化与终身学习解耦,使任意函数逼近器均可作为外部学习器,首次证明其在复杂数据集上超越标准 GP 及 GP 加线性回归,并支持 Baldwin 效应等进化学习假说。
2025-06-06 cs.AI cs.NE cs.SC
Decoupling Representation and Knowledge for Few-Shot Intent Classification and Slot Filling
Huazhong University of Science and Technology(华中科技大学);iWudao Tech;Banma Network Technology(斑马网络技术)
针对少样本意图分类和槽填充,提出解耦通用语义表示与领域特定知识迁移的方法,通过捕获意图-槽位和槽位-槽位关系,在Snips和FewJoint上达到最优性能。
2023-12-21 cs.AI cs.CL
EmotiveTalk: Expressive Talking Head Generation through Audio Information Decoupling and Emotional Video Diffusion
University of Science and Technology of China(中国科学技术大学);Imperial College London(帝国理工学院);iFLYTEK CO.LTD.(科大讯飞股份有限公司)
提出EmotiveTalk框架,通过音频信息解耦与情感视频扩散,实现可控且稳定的高表现力说话人生成,性能优于现有方法。
2024-12-16 cs.AI cs.CV
Enhancing Low-Resource Relation Representations through Multi-View Decoupling
Cognitive Computing and Intelligent Information Processing (CCIIP) Laboratory, School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院认知计算与智能信息处理实验室);Joint Laboratory of HUST and Pingan Property & Casualty Research (HPL)(华中科技大学与平安财产保险联合实验室);Ping An Property & Casualty Insurance Company of China, Ltd.(中国平安财产保险股份有限公司);The Chinese University of Hong Kong(香港中文大学);Shanghai AI Laboratory(上海人工智能实验室)
本文提出MVRE方法,通过多视图解耦关系并结合Global-Local损失和Dynamic-Initialization技术,在低资源场景下提升了关系抽取任务中基于提示微调的关系表示质量,达到最先进性能。
2024-05-30 cs.AI cs.CL
CARLA-GS: Decoupling Representation, Reasoning, and Physics Simulation for Autonomous Driving Corner-Case Synthesis
Rensselaer Polytechnic Institute(伦斯勒理工学院)
研究自动驾驶极端情况合成问题,提出CARLA-GS模块化管道,解耦视觉表示、语义推理和物理执行并保持跨模块耦合,能从实际驾驶数据生成可编辑场景,经多智能体大语言模型推理等步骤,实现可控生成及逼真、时空一致的视频。
2026-07-09 cs.AI cs.RO
Decoupling Semantics from Distortions: Multi-Scale Two-Stream Vision-Language Alignment for AI-Generated Image Quality Assessment
Zijie Meng(孟子杰)
提出MST-CLIPIQA多尺度双流框架,通过显式表示解耦实现层次化视觉-语言对齐,在五个基准上取得质量SRCC平均提升1.11%、图文对应SRCC提升2.35%的新SOTA结果。
2026-06-16 cs.AI cs.CV
Cheers: Decoupling Patch Details from Semantic Representations Enables Unified Multimodal Comprehension and Generation
Tsinghua University(清华大学);Xi’an Jiaotong University(西安交通大学);University of Chinese Academy of Sciences(中国科学院大学)
Cheers通过解耦补丁细节与语义表示,实现统一的多模态理解和生成,提升图像生成的保真度,并在多个基准测试中表现优异,同时实现4倍的token压缩效率。
2026-03-13 cs.AI cs.CV
Interpretable and Low-Resource Entity Matching via Decoupling Feature Learning from Decision Making
Tsinghua University(清华大学);University of Bonn(波恩大学);Alibaba Group(阿里巴巴集团)
实体匹配(Entity Matching,EM)的目的是识别表示相同真实世界对象的实体记录。神经EM模型学习实体描述的向量表示,并端到端匹配实体。虽然这些方法很强大,但需要许多资源进行训练,并且缺乏可解释性。在本文中,我们提出了一种新的EM框架,由异构信息融合(HIF)和关键属性树(KAT)归纳解耦的特征表示匹配决策。在预训练语言建模中使用自监督学习和掩码机制,HIF通过对未标记数据的属性间注意来学习噪声属性值的嵌入。使用一组比较功能和有限数量的注释数据,KAT归纳学习一个有效的决策树,可以通过生成实体匹配规则,其结构是由领域专家主张解释。在6个公共数据集和3个工业数据集上的实验表明,该方法是高效的,在大多数情况下优于SOTA EM模型。我们的代码和数据集可以从https://github.com/THU-KEG/HIF-KAT获得。
2021-06-08 cs.AI cs.CL
Channel-aware Decoupling Network for Multi-turn Dialogue Comprehension
Shanghai Jiao Tong University(上海交通大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
训练机器理解自然语言并与人类交互是人工智能的主要目标之一。近年来,已经见证了从匹配网络到预训练语言模型(PrLM)的演变。相对于纯文本建模的重点PrLM,对话文本涉及多个扬声器,并反映特殊的特性,如主题转换和结构之间的依赖关系遥远的话语。然而,相关的PrLM模型通常表示对话顺序处理成对的对话历史作为一个整体。因此,无论是话语的相互关系或扬声器的角色耦合在这样的表示的层次信息没有得到很好的解决。在这项工作中,我们提出了组合学习的整体互动的话语超越顺序的语境化从PrLM,为了捕捉话语意识和说话者意识的表示所涉及的对话历史。我们通过基于Transformer的PrLM中的掩蔽机制来解耦上下文化的单词表示,使得每个单词仅关注当前话语中的单词、其他话语和两个说话者角色(即,发送者的话语和接收者的话语)。此外,我们采用领域自适应训练策略,以帮助模型适应对话域。实验结果表明,我们的方法大大提高了四个公共基准数据集的强PrLM基线,实现了新的最先进的性能比以前的方法。
2023-01-11 cs.AI cs.CL cs.HC
HIDE and Seek: Detecting Hallucinations in Language Models via Decoupled Representations
Indian Institute of Technology Delhi, India(印度德里印度理工学院)
本文提出单次通过、无需训练的HIDE方法,通过量化语言模型内部表示与输出的统计解耦来检测幻觉,在多个数据集上优于现有单次方法,并接近多次方法,显著降低计算成本。
2025-06-21 cs.AI cs.CL