KinGDOM: Knowledge-Guided DOMain adaptation for sentiment analysis
Singapore University of Technology and Design（新加坡科技设计大学）；National University of Singapore（新加坡国立大学）；Nanyang Technological University（南洋理工大学）；University of Michigan（密歇根大学）
跨域情感分析近年来受到了极大的关注，这是由于需要克服利用情感分析的不同应用之间的域差距。在本文中，我们采取了一个新的角度对这一任务，探索外部常识知识的作用。我们引入了一个新的框架，KinGDOM，它利用ConceptNet知识图谱丰富的文档的语义，提供特定领域和领域一般的背景概念。这些概念是通过训练图卷积自动编码器来学习的，该图卷积自动编码器以域不变的方式利用域间概念。用这些学到的概念来调节流行的领域对抗基线方法有助于提高其性能，从而证明我们提出的框架的有效性。
2020-05-11 cs.CL
Multimodal Representations Learning Based on Mutual Information Maximization and Minimization and Identity Embedding for Multimodal Sentiment Analysis
Huazhong University of Science and Technology（华中科技大学）
多模态情感分析（MSA）是一个基础性的复杂研究问题，这是由于不同模态之间的异质性和人类情感表达的模糊性造成的。虽然已经有许多成功的尝试来构建多模态表示的MSA，仍然有两个挑战需要解决：1）一个更强大的多模态表示需要构建，以弥合异质性的差距，并应付复杂的多模态交互，和2）上下文动态必须有效地建模整个信息流。在这项工作中，我们提出了一个多模态表示模型的基础上互信息最大化和最小化和身份嵌入（MMMIE）。我们结合模态对之间的互信息最大化和输入数据与相应特征之间的互信息最小化来挖掘模态不变和任务相关的信息。此外，身份嵌入被提出来促使下游网络感知上下文信息。在两个公开数据集上的实验结果证明了该模型的有效性。
2022-07-04 cs.CL cs.CV cs.LG
Temporal-Spatial Decouple before Act: Disentangled Representation Learning for Multimodal Sentiment Analysis
Fudan University（复旦大学）；Shantou University（汕尾大学）；University College London（伦敦大学学院）；University of South Australia（澳大利亚南澳大学）
本文提出TSDA方法，在动作前解耦时序与空间信息，通过因子一致对齐和门控重联模块提升多模态情感分析性能。
2026-01-20 cs.AI cs.CL cs.MM
Adversarial Training Based Multi-Source Unsupervised Domain Adaptation for Sentiment Analysis
University of Electronic Science and Technology of China（电子科技大学）；Harbin Institute of Technology Shenzhen（哈尔滨工业大学（深圳））；Peng Cheng Laboratory（鹏城实验室）
用于情感分析的多源无监督领域自适应（MS-UDA）旨在利用多个源领域中的有用信息来帮助在没有监督信息的未标记目标领域中进行情感分析。MS-UDA的现有算法或者仅利用共享特征，即，域不变信息，或者基于NLP中的一些弱假设，例如，平滑假设为了避免这些问题，我们提出了两个迁移学习框架的基础上的多源领域自适应方法SA结合源假设，以获得一个良好的目标假设。第一个框架的主要特点是一个新的基于加权方案的无监督领域自适应框架（WS-UDA），它结合源分类器直接获取目标实例的伪标签。而第二个框架是基于两阶段训练的无监督领域自适应框架（2ST-UDA），其进一步利用这些伪标签来训练目标私有提取器。重要的是，分配给每个源分类器的权重是基于目标实例和源域之间的关系，这是通过对抗训练来测量的。此外，通过相同的封装，我们还实现了共享功能和私有功能的分离。在两个SA数据集上的实验结果表明，我们的框架具有良好的性能，优于无监督的最先进的竞争对手。
2020-06-10 cs.CL
MuSe-Toolbox: The Multimodal Sentiment Analysis Continuous Annotation Fusion and Discrete Class Transformation Toolbox
University of Augsburg（奥格斯堡大学）；Nanyang Technological University（南洋理工大学）；Imperial College London（帝国理工学院）
我们介绍了MuSe-Muse-一个基于Python的开源工具包，用于创建各种连续和离散的情感黄金标准。在一个单一的框架中，我们统一了各种各样的融合方法，并提出了新的评分员对齐注释加权（RAAW），它对齐的注释在一个不变量的方式之前，加权和融合他们之间的评分员协议的基础上的注释。此外，离散的类别往往比连续的信号更容易被人类解读。考虑到这一点，MuSe-集群提供了在连续黄金标准中运行有意义的类集群的穷举搜索的功能。据我们所知，这是第一个工具包，提供了广泛的选择国家的最先进的情绪黄金标准的方法和他们的转换到离散类。实验结果表明，MuSe-100可以提供有前途的和新颖的类形成，可以更好地预测比硬编码的类边界，以最小的人为干预。实现（1）是开箱即用的，使用Docker容器（2）提供所有依赖项。
2021-10-20 cs.CL
Soft Prompt Guided Joint Learning for Cross-Domain Sentiment Analysis
Auckland University of Technology（奥克兰理工大学）；University of Tasmania（塔斯马尼亚大学）；Hefei University of Technology（合肥工业大学）；Jilin University of Finance and Economics（吉林财经大学）
特征词提取是细粒度情感分析的一项基本任务，其目的是从对产品或服务的评论中发现客户的意见目标。传统的监督模型在标注数据集上可以取得很好的效果，但是当它们被应用于跨领域的体词提取任务时，性能会显着下降。现有的跨领域迁移学习方法要么直接将语言特征注入到语言模型中，难以将语言知识迁移到目标领域;要么依赖于固定的预定义提示，在所有潜在的方面术语跨度上构造提示是耗时的。针对这一局限性，本文提出了一种基于软学习的跨领域方位词联合提取方法。具体而言，通过结合外部语言特征，所提出的方法通过多个目标来学习源域和目标域之间的域不变表示，从而弥合了具有不同方面术语分布的域之间的差距。此外，所提出的方法插入一组可转移的软提示组成的多个可学习的向量，这是有益的检测方面的条款在目标领域。在基准数据集上进行了大量的实验，实验结果证明了该方法在跨领域体词提取中的有效性。
2023-03-01 cs.AI cs.CL
Wasserstein Distance Guided Representation Learning for Domain Adaptation
Shanghai Jiao Tong University（上海交通大学）
领域自适应的目的是通过利用从具有不同但相关的数据分布的源领域中提取的知识来概括目标领域上的高性能学习器。域自适应的一种解决方案是学习域不变特征表示，同时学习的表示在预测中也应该是有区别的。为了学习这样的表示，领域自适应框架通常包括一个领域不变表示学习方法来测量和减少领域差异，以及一个分类器。受Wasserstein GAN的启发，本文提出了一种学习领域不变特征表示的新方法，即瓦瑟斯坦距离引导表示学习（WDGRL）。WDGRL利用由域评论器表示的神经网络来估计源样本和目标样本之间的经验瓦瑟斯坦距离，并优化特征提取器网络以对抗方式最小化估计的瓦瑟斯坦距离。瓦瑟斯坦距离用于领域自适应的理论优势在于其梯度性质和有希望的泛化界。对常见情感和图像分类自适应数据集的实证研究表明，我们提出的WDGRL优于最先进的领域不变表示学习方法。
2018-03-09 cs.LG stat.ML
Unified Instance and Knowledge Alignment Pretraining for Aspect-based Sentiment Analysis
Wuhan University（武汉大学）；JD Explore Academy（京东探索研究院）；Kunming University of Science and Technology（昆明理工大学）；The University of Sydney（悉尼大学）
针对ABSA预训练与下游任务间的领域偏移问题，提出统一实例与知识对齐预训练框架，通过从粗到细检索采样对齐实例，并利用师生联合微调转移领域不变知识，显著提升了下游任务表现。
2023-06-26 cs.AI cs.CL
Weakly-Supervised Deep Learning for Domain Invariant Sentiment Classification
Indian Institute of Technology Gandhinagar（甘地纳加尔印度理工学院）；Indian Institute of Technology Kharagpur（克勒格布尔印度理工学院）
学习一个能够很好地适应任何目标域（不同于源域）的情感分类模型的任务是一个具有挑战性的问题。大多数现有的方法都集中在通过在训练期间利用源数据和目标数据来学习公共表示。在本文中，我们介绍了一个两阶段的训练过程，该过程利用弱监督数据集来开发简单的基于提升和移位的预测模型，而无需在训练阶段暴露于目标域。实验结果表明，从源域到各种目标域的弱监督转移提供的性能非常接近于通过目标域本身的监督训练获得的性能。
2019-11-23 cs.CL cs.IR cs.LG
Central Moment Discrepancy (CMD) for Domain-Invariant Representation Learning
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）；Software Competence Center Hagenberg（哈根贝格软件能力中心）
研究了在领域自适应的背景下，用神经网络学习领域不变表示的问题。我们提出了一种新的正则化方法，直接在隐藏的激活空间中最大限度地减少特定领域的潜在特征表示之间的差异。虽然存在一些标准的分布匹配方法，可以被解释为矩的加权和的匹配，例如最大均值离散（MMD），高阶矩的显式顺序匹配之前没有被考虑过。我们建议匹配高阶中心矩的概率分布的顺序明智的时刻差的手段。我们的模型不需要计算昂贵的距离和核矩阵计算。利用矩序列对概率分布的等价表示，定义了一种新的距离函数，称为中心矩离散（CMD）。证明了CMD是紧区间上概率分布集合上的度量。进一步证明了紧区间上的概率分布的收敛性。新的度量意味着各个随机变量的分布依分布收敛。我们在两个不同的基准数据集上测试我们的方法，用于对象识别（Office）和产品评论的情感分析（Amazon评论）。CMD在Office的大多数域自适应任务上实现了最先进的性能，并且在Amazon评论上优于使用MMD、变分公平自动编码器和域对抗神经网络训练的网络。此外，事后参数敏感性分析表明，新的方法是稳定的w.r.t.参数在一定的时间间隔内变化。实验的源代码是公开的。
2019-05-02 cs.LG stat.ML
Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual Learning
East China Normal University（华东师范大学）；Georgia Institute of Technology（佐治亚理工学院）
领域自适应情感分类是指在标记的源域上进行训练，以很好地推断未标记的目标域上的文档级情感。大多数现有的相关模型涉及特征提取器和情感分类器，其中特征提取器致力于从两个域学习域不变特征，并且情感分类器仅在源域上训练以指导特征提取器。因此，它们缺乏使用位于目标域中的情感极性的机制。为了通过从目标领域学习情感来改进领域适应的情感分类，我们设计了一种新的深度对抗性相互学习方法，涉及两组特征提取器，领域判别器，情感分类器和标签探测器。域鉴别器使得特征提取器能够获得域不变特征。同时，各组标签探测器通过同级组分类器生成的情感预测，探索目标领域的文档情感极性，指导同组特征提取器的学习。所提出的方法实现了两个组在端到端的方式相互学习。在多个公开数据集上的实验表明，该方法获得了最佳性能，验证了标签探测器相互学习的有效性。
2020-02-01 cs.CL cs.LG
Learning Invariant Representations for Sentiment Analysis: The Missing Material is Datasets
Centrale Supélec（中央理工-高等电力学院）；Université Paris-Saclay（巴黎萨克雷大学）；Sidetrade
保持对干扰因素不变的学习表示在领域自适应、迁移学习和公平机器学习中具有极大的兴趣。在NLP任务中找到这样的表示变得非常具有挑战性，因为滋扰因素纠缠在原始文本中。据我们所知，一个主要问题是只有少数NLP数据集可以评估这些因素的影响。在本文中，我们引入了两个泛化指标来评估模型的鲁棒性滋扰因素：\textit{generalization under target bias}和\textit{generalization onto unknown}。我们将这些指标与一个简单的数据过滤方法相结合，以控制滋扰因素对数据的影响，从而构建实验偏置数据集。我们将我们的方法应用于文献（\textit{Amazon}和\textit{Yelp}）的标准数据集。我们的工作表明，一个简单的文本分类基线（即，对评论的情感分析）可能在学习评论的极性时受到\textit{product ID}的严重影响（被认为是干扰因素）。所提出的方法是通用的和适用的滋扰变量被注释在数据集中。
2019-07-29 cs.IR cs.LG stat.ML
Invariant Representation Guided Multimodal Sentiment Decoding with Sequential Variation Regularization
Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学深圳校区）
本文提出了一种通过模态不变融合和序列变化正则化相结合的方法，以提升多模态情感解码的稳定性和准确性。
2026-01-31 cs.AI cs.CV cs.LG
MIDG: Mixture of Invariant Experts with knowledge injection for Domain Generalization in Multimodal Sentiment Analysis
School of Electronics and Information Technology（电子信息学院）
MIDG通过混合不变专家和跨模态适配器，提升多模态情感分析中领域泛化的性能与语义表达能力。
2025-12-08 cs.AI cs.LG
Learning in Order! A Sequential Strategy to Learn Invariant Features for Multimodal Sentiment Analysis
Harbin Institute of Technology（哈尔滨工业大学）；Monash University（莫纳什大学）
针对多模态情感分析的分布外泛化问题，提出先学文本域不变特征、再借其辅助学习视频稀疏域无关特征的序列策略，在单源与多源设置下均显著优于现有方法。
2024-09-05 cs.AI cs.LG
Domain-Adaptive Text Classification with Structured Knowledge from Unlabeled Data
Peking University（北京大学）；University of California, Berkeley（加州大学伯克利分校）；Sun Yat-sen University（中山大学）
领域自适应文本分类对于大规模预训练语言模型来说是一个具有挑战性的问题，因为它们通常需要昂贵的额外标记数据来适应新的领域。现有的作品通常无法利用跨域词之间的隐含关系。在本文中，我们提出了一种新的方法，称为领域自适应与结构化知识（DASK），提高领域自适应，利用词级语义关系。DASK首先构建一个知识图谱，以捕获目标领域中的枢轴术语（领域独立词）和非枢轴术语之间的关系。然后在训练过程中，DASK将相关的知识图谱信息注入到源领域文本中。对于下游任务，这些知识注入的文本被馈送到能够处理知识注入的文本数据的BERT变体中。由于知识注入，我们的模型根据非枢轴与枢轴的关系学习非枢轴的域不变特征。DASK通过在使用伪标签进行训练期间通过候选枢轴的极性得分动态推断来确保枢轴具有域不变行为。我们在广泛的跨域情感分类任务上验证了DASK，并观察到20个不同域对的绝对性能比基线提高了高达2.9%。代码将在https://github.com/hikaru-nara/DASK上提供。
2022-06-20 cs.CL
Representation Decomposition for Learning Similarity and Contrastness Across Modalities for Affective Computing
University of Washington（华盛顿大学）；Sichuan University（四川大学）；People’s Daily Online（人民日报网络）；University of Science and Technology of China（中国科学技术大学）
针对多模态情感信息存在复杂冲突证据的问题，提出基于LLM的表征分解方法，分离共享与模态特有情感成分并生成动态软提示，在三类任务上超越现有模型。
2025-06-08 cs.CL
ReMask: A Robust Information-Masking Approach for Domain Counterfactual Generation
Singapore University of Technology and Design（新加坡科技设计大学）；IIT Kharagpur（印度理工学院卡拉格布尔分校）
针对NLP领域偏移中现有方法的不足，该研究提出三步领域混淆的ReMask方法，在多类领域自适应任务及数据集上取得优于现有最优方法的效果，并公开了代码。
2023-05-04 cs.AI cs.CL
Learning Invariant Modality Representation for Robust Multimodal Learning from a Causal Inference Perspective
School of Computer Science, South China Normal University（华南师范大学计算机学院）
本文提出CmIR框架，通过因果推断分离模态中的因果不变表示与环境特定的虚假表示，提升多模态学习的鲁棒性和泛化能力。
2026-04-20 cs.LG
Robust Unsupervised Domain Adaptation for Neural Networks via Moment Alignment
Johannes Kepler University（约翰内斯·开普勒大学）；Software Competence Center Hagenberg GmbH（哈根贝格软件能力中心有限公司）
提出了一种新的神经网络无监督域自适应方法。它依赖于学习过程的基于度量的正则化。基于度量的正则化旨在通过最大化特定于域的激活分布之间的相似性来实现域不变的潜在特征表示。所提出的度量的结果从修改积分概率距离，使得它变得不太敏感的多项式函数空间上。该度量在对偶空间中有一个直观的解释，即相应激活分布的高阶中心矩的差之和。在适当的假设下，输入分布，误差最小化证明了连续的情况下。如情感分析，对象识别和数字识别的标准基准实验的分析所示，所概述的方法是鲁棒的参数变化，并实现更高的分类精度比可比的方法。源代码可在https://github.com/wzell/mann上获得。
2019-08-13 cs.LG stat.ML
ChainzRule: Sample-Efficient, Robust Deep Learning Across Tabular, NLP, and Vision Tasks
Sentivity AI
提出ChainzRule架构，用可学习多项式层替代激活函数，结合微分正则化，通过限制中间导数实现低频率、结构稳定的表示，在多个领域以更少数据和标准推理成本取得更优性能。
2026-05-23 cs.LG
