Counterfactual Language Model Adaptation for Suggesting Phrases
University of California（加利福尼亚大学）；Microsoft Research（微软研究院）
移动设备使用语言模型来建议用于文本输入的单词和短语。传统的语言模型是基于静态文本语料库中的上下文词频。然而，某些类型的短语，当提供给作者作为建议时，可能会被系统地选择，频率超过其预测的频率。在本文中，我们提出了生成建议的任务，作家接受，一个相关的，但不同的任务，以作出准确的预测。虽然这项任务从根本上是互动的，我们提出了一个反事实的设置，允许离线培训和评估。我们发现，即使是一个简单的语言模型可以捕捉文本的特点，提高可接受性。
2017-10-04 cs.CL
COCO-Counterfactuals: Automatically Constructed Counterfactual Examples for Image-Text Pairs
Intel Labs（英特尔实验室）
本文提出利用文本到图像扩散模型自动生成反事实示例的框架，并构建基于MS-COCO的多模态反事实数据集COCO-Counterfactuals，用于评估模型鲁棒性并提升视觉-语言模型的域外泛化能力。
2023-10-31 cs.CL cs.CV cs.LG
Counterfactual Multi-Token Fairness in Text Classification
IBM Research AI（IBM研究院人工智能部门）
反事实标记生成仅限于在通常是简短的单句的文本中扰动单个标记。这些标记通常与许多敏感属性之一相关联。在生成有限反事实的情况下，实现机器学习分类模型对任何敏感属性的不变性质的目标得到了限制，并且反事实公平性的公式得到了缩小。在本文中，我们通过解决根本问题并打开更大的理解领域来克服这些局限性。我们已经策划了一个敏感令牌资源及其相应的扰动令牌，甚至将支持扩展到传统使用的敏感属性（如年龄，性别，种族，国籍，残疾和宗教）之外。反事实生成的概念已经扩展到对所有形式的文本和文档有效的多令牌支持。我们将通过扰动多个敏感标记来生成反事实的方法定义为反事实多标记生成。该方法已被概念化，以展示单令牌方法的显着性能改进，并在多个基准数据集上进行了验证。反事实生成中的校正在实现改进的反事实多标记公平性中传播。
2022-02-09 cs.AI cs.CL
Explaining Text Classifiers with Counterfactual Representations
onepoint（万点公司）
针对文本反事实构建中属性值难匹配真实事件的问题，提出在文本表征空间干预生成反事实的方法，符合Pearl因果框架，经实验验证有效，可用于分类器解释与偏差缓解。
2024-09-11 cs.CL cs.LG
Flexible text generation for counterfactual fairness probing
Google Research（谷歌研究院）
在基于文本的分类器中测试公平性问题的一种常见方法是使用反事实：如果输入中的敏感属性发生变化，分类器的输出是否会发生变化？现有的反事实生成方法通常依赖于词表或模板，产生简单的反事实，不考虑语法，上下文或微妙的敏感属性引用，并可能错过词表创建者没有考虑的问题。在本文中，我们介绍了一项用于生成克服这些缺点的反事实的任务，并演示了如何利用大语言模型（LLM）来在此任务上取得进展。我们表明，这种基于LLM的方法可以产生复杂的反事实，现有的方法不能，比较各种反事实生成方法在Civil Comments数据集上的性能，并显示它们在评估毒性分类器中的价值。
2022-06-28 cs.CL cs.CY
Generate Your Counterfactuals: Towards Controlled Counterfactual Generation for Text
IBM Research AI（IBM研究院）
机器学习最近取得了巨大的增长，这导致了ML系统在教育评估、信用风险、医疗保健、就业、刑事司法等方面的广泛采用。ML和NLP系统的可信度是一个至关重要的方面，需要保证他们做出的决策是公平和稳健的。与此相一致，我们提出了一个框架GYC，以生成一组反事实文本样本，这对于测试这些ML系统至关重要。我们的主要贡献包括：a）我们引入了GYC，一个生成反事实样本的框架，使得生成是合理的，多样的，面向目标的，有效的，b）我们生成反事实样本，它可以引导生成对应的条件，如命名实体标签，语义角色标签或情感。我们在不同领域的实验结果表明，GYC生成的反事实文本样本表现出上述四个属性。GYC生成反事实，可以作为测试用例来评估模型和任何文本去偏置算法。
2021-03-17 cs.AI cs.CL cs.LG
Factual Consistency Evaluation for Text Summarization via Counterfactual Estimation
Alibaba Group（阿里巴巴集团）；The Chinese University of Hong Kong（香港中文大学）
尽管文本摘要技术已经取得了很大的进展，但摘要中的事实不一致性仍然严重限制了它的实际应用。在保证事实一致性的关键因素中，可靠的自动评价指标是首要的，也是最关键的。然而，现有的度量方法要么忽略了造成事实不一致的内在原因，要么依赖于辅助任务，导致与人类判断的相关性不高，或者增加了实际使用的不便。鉴于这些挑战，我们提出了一种新的度量标准来评估事实的一致性，在文本摘要通过反事实的估计，它制定了源文件，生成的摘要，和语言先验之间的因果关系。我们删除了语言先验的影响，这可能会导致事实的不一致性，从总的因果关系的影响所产生的摘要，并提供了一个简单而有效的方法来评估一致性，而不依赖于其他辅助任务。我们在三个公开的抽象文本摘要数据集上进行了一系列的实验，并证明了所提出的度量在提高与人类判断的相关性和使用的方便性方面的优势。源代码可在https://github.com/xieyxclack/factual_coco上获得。
2021-09-08 cs.CL
A Survey on Natural Language Counterfactual Generation
Nanyang Technological University（南洋理工大学）；Shenzhen University（深圳大学）
本综述针对自然语言反事实生成领域，全面梳理相关方法尤其是大语言模型相关方法，提出新的四类分类体系与质量评估指标，探讨现有挑战并指明未来研究方向。
2024-10-05 cs.CL
CNRL at SemEval-2020 Task 5: Modelling Causal Reasoning in Language with Multi-Head Self-Attention Weights based Counterfactual Detection
BITS Pilani（比尔拉科学技术学院）
在本文中，我们描述了一种方法，通过使用多头自注意权重检测文本中的反事实，在自然语言的因果推理建模。我们使用预训练的Transformer模型从文本中提取上下文嵌入和自我注意力权重。我们展示了卷积层的使用，从这些自我注意力权重中提取特定于任务的特征。此外，我们描述了一个微调的方法与一个共同的基础模型之间的知识共享的两个密切相关的子任务反事实检测。我们在实验中分析和比较了各种Transformer模型的性能。最后，我们进行了定性分析与多头自我注意力的权重来解释我们的模型的动力学。
2020-05-31 cs.CL
Counterfactual Debiasing for Generating Factually Consistent Text Summaries
Sun Yat-sen University（中山大学）；Alibaba Group（阿里巴巴集团）
本文针对抽象式文本摘要中的事实不一致问题，构建因果图识别语言偏差和无关性偏差，并提出反事实去偏框架CoFactSum，通过显式反事实掩码、隐式反事实训练及去偏程度调整机制，有效提升了生成摘要的事实一致性。
2023-05-18 cs.AI cs.CL
Truth or Twist? Optimal Model Selection for Reliable Label Flipping Evaluation in LLM-based Counterfactuals
Quality and Usability Lab, Technische Universität Berlin（柏林技术大学质量与可用性实验室）；University of Marburg（马尔堡大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Deutsche Telekom（德国电信）；BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院）
本文研究基于LLM的反事实数据增强中评判模型选择对标签翻转评估可靠性的影响，通过系统实验和用户研究发现独立且非微调的评判模型最可靠，并指出全自动CDA流程仍需人工干预。
2025-08-27 cs.CL
Debiasing Stance Detection Models with Counterfactual Reasoning and Adversarial Bias Learning
Harbin Institute of Technology（哈尔滨工业大学）
姿态检测模型可能倾向于依赖于文本部分中的数据集偏差作为捷径，因此无法充分学习目标和文本之间的交互。目前的去偏方法通常将小模型或大模型在早期学习到的特征作为偏置特征，并提出在推理过程中排除学习这些偏置特征的分支。然而，大多数这些方法未能区分文本部分中的“好”立场特征和“坏”偏见特征。在本文中，我们研究如何减轻数据集偏见的立场检测。出于因果效应的动机，我们利用一种新的反事实推理框架，它使我们能够捕获文本部分中的数据集偏差作为文本对立场的直接因果效应，并通过从总因果效应中减去直接文本效应来减少文本部分中的数据集偏差。我们新颖的模型偏见的功能，与立场标签，但失败的中间立场推理子任务的功能，并提出了一个对抗性的偏见学习模块，以更准确地建模的偏见。为了验证我们的模型是否可以更好地模拟文本和目标之间的交互，我们在最近提出的测试集上测试了我们的模型，以从各个方面评估对任务的理解。实验表明，我们提出的方法（1）可以更好地模型的偏见特征，（2）优于现有的去偏基线的原始数据集和大多数新构造的测试集。
2022-12-20 cs.CL
Sketch and Customize: A Counterfactual Story Generator
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent AI Lab（腾讯人工智能实验室）
现有的文本生成模型很容易为给定的文本生成相关的、流畅的文本，但在对给定文本的某些部分进行修改时，缺乏因果推理能力。反事实故事重写是最近提出的测试文本生成模型的因果推理能力的任务，它需要一个模型来预测相应的故事结局时，条件被修改为反事实之一。以往的研究表明，传统的序列到序列模型不能很好地处理这个问题，因为它经常捕捉到原始和反事实结局之间的一些虚假相关性，而不是条件和结局之间的因果关系。为了解决这个问题，我们提出了一个草图和自定义生成模型的指导下的因果关系所隐含的条件和结局。在草图阶段，通过从原始结尾中删除与反事实条件相冲突的单词来提取骨架。在定制阶段，使用生成模型，在反事实条件的指导下，在骨架中填充合适的词。这样，所获得的反事实结局既与原结局相关，又与反事实条件相一致。实验结果表明，与传统的序列到序列模型相比，该模型产生了更好的结尾。
2021-04-02 cs.AI cs.CL
Multi-Aspect Controllable Text Generation with Disentangled Counterfactual Augmentation
Nanjing University（南京大学）；National Institute of Healthcare Data Science, Nanjing University（南京大学国家医疗数据科学研究院）
针对多方面可控文本生成中因属性相关性不平衡导致的刻板印象问题，提出MAGIC方法，通过解耦反事实增强缓解训练阶段的不平衡并在推理阶段强化属性相关性，在多种场景下优于基线。
2024-05-30 cs.AI cs.CL
TIGTEC : Token Importance Guided TExt Counterfactuals
Ekimetrics（Ekimetrics公司）；Sorbonne University（索邦大学）；LIP6（LIP6实验室）
本文提出 TIGTEC，利用基于注意力的局部特征重要性编辑高贡献词，并结合语义距离代价函数与束搜索，为文本分类生成稀疏、合理且多样的反事实解释。
2023-04-24 cs.CL cs.LG stat.ME
Plug and Play Counterfactual Text Generation for Model Robustness
Indian Institute of Technology Delhi（印度理工学院德里分校）；IBM Research - India（IBM研究院（印度））
生成反事实测试用例是测试NLP模型并使其像传统软件一样健壮和可靠的重要支柱。在生成测试用例时，期望的属性是以灵活的方式控制测试用例生成以测试大量不同的故障用例并以有针对性的方式解释和修复它们的能力。在这个方向上，已经取得了显着的进展，在现有的工作，通过手动编写规则，生成受控的反事实。但是，这种方法需要大量的人工监督，并且缺乏灵活性，无法轻松引入新的控制措施。由于PPLM的即插即用方法具有令人印象深刻的灵活性，我们建议将即插即用框架引入反事实测试用例生成任务。我们介绍CASPer，即插即用的反事实生成框架，生成测试用例，满足目标属性的需求。我们的即插即用模型可以引导测试用例生成过程中给定的任何属性模型，而不需要特定属性的模型训练。在实验中，我们表明，CASPer有效地生成反事实的文本，遵循属性模型提供的指导，同时也是流畅的，多样的，并保留原始内容。我们还表明，从CASPer生成的反事实可以用于增加训练数据，从而固定和使测试模型更强大。
2022-06-21 cs.CL cs.LG
Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts
University of California, Los Angeles（加州大学洛杉矶分校）；Northeastern University（东北大学）
本文研究语言模型在理解故事时是否受习得的性别刻板印象影响，通过反事实数据增强探讨模型对性别刻板印象扰动的响应，发现模型在测试集上对性别扰动敏感，但经过反事实训练后更鲁棒。
2025-04-01 cs.CL
Does Using Counterfactual Help LLMs Explain Textual Importance in Classification?
American Express（美国运通）
本研究提出决策变化率框架，探讨反事实推理对LLM在文本分类中识别关键词语重要性的影响，实验表明反事实方法有效。
2025-10-05 cs.AI cs.CL
A General Search-based Framework for Generating Textual Counterfactual Explanations
Technion - Israel Institute of Technology（以色列理工学院）
针对生成式文本反事实方法依赖重训练、难适配需求变化的问题，提出模型与领域无关的搜索框架，通过通用及专用修改算子寻找目标类中用户指定距离最小的反事实文本。
2023-12-16 cs.CL cs.LG
Causal Proxy Models for Concept-Based Model Explanations
Stanford University（斯坦福大学）；Ghent University（根特大学）
NLP系统的可解释性方法遇到了因果推理的基本问题：对于给定的地面事实输入文本，我们从未真正观察到隔离模型表示对输出的因果影响所必需的反事实文本。作为回应，许多可解释性方法不使用反事实文本，假设它们不可用。在本文中，我们表明，可以使用近似反事实来创建强大的因果可解释性方法，这些方法可以由人类编写以近似特定的反事实，或者使用元数据引导的逻辑简单地进行采样。我们建议的核心是因果代理模型（CPM）。CPM解释了一个黑盒模型$\mathcal{N}$，因为它被训练成具有与$\mathcal{N}$相同的实际输入/输出行为，同时创建可以被干预以模拟$\mathcal{N}$的反事实输入/输出行为的神经表示。此外，我们表明，最好的CPM为$\mathcal{N}$执行的$\mathcal{N}$在作出事实预测，这意味着CPM可以简单地取代$\mathcal{N}$，导致更可解释的部署模型。我们的代码可在https://github.com/frankaging/Causal-Proxy-Model上获得。
2022-09-28 cs.CL
Robustifying Sentiment Classification by Maximally Exploiting Few Counterfactuals
Sinch Chatlayer；Ghent University（根特大学）
对于文本分类任务，微调的语言模型表现得非常好。然而，它们往往依赖于训练数据中的虚假模式，从而限制了它们在分布外（OOD）测试数据上的性能。在旨在避免这种虚假模式问题的最新模型中，向训练数据添加额外的反事实样本已被证明是非常有效的。然而，反事实数据生成是昂贵的，因为它依赖于人类注释。因此，我们提出了一种新的解决方案，它只需要一小部分的注释（例如，1%）的原始训练数据，并使用编码向量空间中的额外反事实的自动生成。我们证明了我们的方法在情感分类中的有效性，使用IMDb数据进行训练和其他OOD测试集（即，亚马逊，SemEval和Yelp）。通过仅添加1%的人工反事实，我们实现了显着的准确性提高：与添加+100%分布内训练样本相比，提高了3%，与替代反事实方法相比，提高了1.3%。
2022-10-21 cs.CL
Generating Plausible Counterfactual Explanations for Deep Transformers in Financial Text Classification
Insight Centre ,University College Dublin（都柏林大学洞察中心）；University of Wollongong（卧龙岗大学）；The Hong Kong University of Science and Technology（香港科技大学）
企业并购（M&A）每年在全球范围内占数十亿美元的投资，并为人工智能提供了一个有趣且具有挑战性的领域。然而，在这些高度敏感的领域，不仅要有一个高度鲁棒和准确的模型，而且要能够生成有用的解释，以获得用户对自动化系统的信任，这一点至关重要。令人遗憾的是，最近关于金融文本分类中的可解释AI（XAI）的研究几乎没有受到关注，并且许多当前用于生成基于文本的解释的方法导致非常不可信的解释，这损害了用户对系统的信任。为了解决这些问题，本文提出了一种新的方法，用于产生合理的反事实解释，同时探索在金融科技领域对语言模型进行对抗性训练的正则化好处。详尽的定量实验表明，这种方法不仅提高了模型的准确性相比，目前的最先进的和人类的表现，但它也产生反事实的解释，这是显着更合理的基础上，人体试验。
2020-10-23 cs.AI cs.CL
DRIV-EX: Counterfactual Explanations for Driving LLMs
Aptikal, Université Grenoble Alpes（Aptikal，格勒诺布尔大学）
本文提出DRIV-EX方法，通过反事实解释研究驾驶LLM的决策过程，利用梯度优化生成语义变化的场景描述，提升解释的可理解性和鲁棒性。
2026-04-21 cs.CL
DoCoGen: Domain Counterfactual Generation for Low Resource Domain Adaptation
Technion - Israel Institute of Technology（以色列理工学院）
自然语言处理（NLP）算法已经非常成功，但在应用于非分布示例时仍然很困难。在本文中，我们提出了一个可控的生成方法，以处理这个领域自适应（DA）的挑战。给定一个输入文本示例，我们的DoCoGen算法生成一个域反事实文本示例（D-con）-它在所有方面都与原始文本相似，包括任务标签，但其域被更改为所需的域。重要的是，DoCoGen只使用来自多个领域的未标记示例进行训练-不需要NLP任务标签或文本示例及其领域反事实的平行对。我们表明，DoCoGen可以生成由多个句子组成的连贯的反事实。我们使用DoCoGen生成的D-cons分别在20和78个DA设置中增强情感分类器和多标签意图分类器，其中源域标记数据很少。我们的模型优于强基线，并提高了最先进的无监督DA算法的准确性。
2022-03-05 cs.AI cs.CL
Target-oriented Multimodal Sentiment Classification with Counterfactual-enhanced Debiasing
School of Computer, Electronics and Information（计算机、电子与信息学院）；Guangxi University（广西大学）；Guangxi Key Laboratory of Multimedia Communications（广西多媒体通信与网络技术重点实验室）；School of Sociology and Anthropology（社会学与人类学学院）；Sun Yat-sen University（中山大学）
针对多模态情感分类中文本过度依赖和词级偏差导致的虚假相关性问题，提出反事实增强去偏框架，结合反事实数据增强与自适应去偏对比学习，在多个基准上超越现有方法。
2025-09-11 cs.AI cs.CL
CoBe: A Benchmark For Conversational Counterfactual Text Editing
Columbia University（哥伦比亚大学）；Causal Artificial Intelligence Lab（因果人工智能实验室）
本文推出对话式反事实文本编辑基准CoBe，测试模型零样本反事实编辑能力，发现模型常采用关联式生成，性能未随规模一致提升，问题或源于训练目标。
2026-10-12 cs.AI cs.CL cs.ET
Making a (Counterfactual) Difference One Rationale at a Time
North Carolina State University（北卡罗来纳州立大学）；Laboratory for Analytic Sciences（分析科学实验室）
摘要，解释推理的提取文本片段，已经成为可解释自然语言处理（NLP）的流行框架。基本原理模型通常由两个协作模块组成：选择器和分类器，其目标是最大化“所选”文本和文档标签之间的互信息（MMI）。尽管基于MMI的方法很有前途，但它们经常会发现虚假的文本模式，并导致模型具有无意义的行为。在这项工作中，我们调查是否反事实的数据增强（CDA），没有人的帮助下，可以通过降低虚假信号和文档标签之间的互信息，提高选择器的性能。我们的反事实是使用类依赖生成模型以无监督的方式产生的。从信息理论的镜头，我们得到的未增强的数据集，我们的CDA方法将成功的属性。通过与多个基线进行比较，包括在两个多方面数据集上改进的基于MMI的基本原理模式，对CDA的有效性进行了经验评估。我们的研究结果表明，CDA产生的理由，更好地捕捉感兴趣的信号。
2022-01-13 cs.CL cs.LG
Assessing News Thumbnail Representativeness: Counterfactual text can enhance the cross-modal matching ability
Soongsil University（崇实大学）；Adobe Research（奥多比研究院）
本文提出 NewsTT 数据集和 CFT-CLIP 对比学习框架，通过将新闻文本与其命名实体被替换的反事实文本进行对比，增强视觉与语言模型的跨模态匹配能力，从而更准确地评估新闻缩略图是否代表文本中的行为主体。
2024-06-07 cs.CL cs.CV
Gumbel Machine: Counterfactual Student Writing Generation via Gumbel Noise Steering
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University Politehnica of Bucharest（布加勒斯特理工大学）；Arizona State University（亚利桑那州立大学）
提出Gumbel机器，一种利用β-Hindsight控制解码算法生成既符合评分标准又与学生原文相似的反事实文本的模块化方法。
2026-05-26 cs.AI cs.CL
Learning Audio Concepts from Counterfactual Natural Language
Bosch（博世）
本研究在音频领域引入因果推理与反事实分析，利用反事实实例及人工标注文本的声学特征训练模型，显著提升了多任务表现，其中开放式音频检索任务top-1准确率提升超43%。
2024-01-10 cs.CL cs.MM cs.SD
Double Trouble: How to not explain a text classifier's decisions using counterfactuals synthesized by masked language models?
Auburn University（奥本大学）；Adobe Research（Adobe研究院）
几十种归因方法背后的一个原则是将输入特征（这里是标记）被删除前后的预测差异作为其归因。流行的输入边缘化（IM）方法（Kim等人，2020）使用BERT来替换令牌，产生更合理的反事实。虽然Kim等人（2020）报告IM是有效的，但我们发现这一结论并不令人信服，因为他们论文中使用的DeletionBERT指标偏向于IM。重要的是，这种偏见存在于基于删除的指标中，包括插入，充分性和全面性。此外，我们使用6个指标和3个数据集进行的严格评估发现，没有证据表明IM优于留一法（LOO）基线。我们发现了IM不如LOO的两个原因：（1）从输入中删除一个单词只会略微降低分类器的准确性;（2）高度可预测的单词总是被赋予接近零的属性，而不管它对分类器的真正重要性。相比之下，通过BERT使LIME样本更自然，在几个ROAR指标下一致地提高了LIME准确性。
2022-10-10 cs.AI cs.CL
Fairness for Text Classification Tasks with Identity Information Data Augmentation Methods
LinkedIn Corporation（领英公司）
反事实公平方法解决了这样一个问题：如果文本实例中引用的敏感身份属性不同，预测会如何变化？这些方法完全基于为给定的训练集和测试集实例生成反事实。反事实实例通常通过替换敏感的身份术语来准备，即，用属于同一敏感类别的其它身份项来替换该实例中存在的身份项。因此，这些方法的有效性在很大程度上取决于身份对的质量和全面性。在本文中，我们提供了一个两步数据增强过程，其中（1）前一阶段包括一个新的方法，准备一个全面的身份对列表与词嵌入，和（2）后者包括利用准备身份对列表，以提高训练实例，通过应用三个简单的操作（即身份对替换，身份项盲，身份对交换）。我们的经验表明，两阶段的增强过程导致不同的身份对和增强的训练集，与两个著名的文本分类任务的改进的基于反事实标记的公平性度量得分。
2022-02-04 cs.AI cs.CL
COFFEE: Counterfactual Fairness for Personalized Text Generation in Explainable Recommendation
Netflix Inc.（奈飞公司）；University of Virginia（弗吉尼亚大学）；Meta AI
本文针对可解释推荐中个性化文本生成因用户文本偏见导致的不公平问题，提出了一个实现特定度量反事实公平性的通用框架，并通过实验和人类评估验证了其有效性。
2023-10-22 cs.CL cs.CY cs.IR
Automatic Counterfactual Augmentation for Robust Text Classification Based on Word-Group Search
Jilin University（吉林大学）；University of Trento（特伦托大学）
本文提出基于词群搜索和束搜索的因果特征挖掘方法，并结合反事实增强与自适应投票机制，以缓解捷径学习，提升文本分类的鲁棒性和公平性。
2023-07-01 cs.AI cs.CL
Counterfactual Memorization in Neural Language Models
Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）；Google DeepMind（谷歌DeepMind）；ETH Zürich（苏黎世联邦理工学院）
提出反事实记忆概念，通过省略文档观察预测变化，识别标准数据集中的记忆示例，并估计其对验证集和生成文本的影响，为测试时记忆来源提供直接证据。
2023-10-13 cs.AI cs.CL cs.LG
Reducing Sentiment Bias in Language Models via Counterfactual Evaluation
DeepMind（深度思维）；University of California, Los Angeles（加州大学洛杉矶分校）；University College London（伦敦大学学院）
语言建模架构的进步和大型文本语料库的可用性推动了自动文本生成的进展。虽然这导致模型能够生成连贯的文本，但它也促使模型内化训练语料库中存在的社会偏见。本文旨在量化和减少语言模型表现出的一种特殊类型的偏见：生成文本的情感偏见。给定条件情境（例如，书写提示）和语言模型，我们分析所生成的文本的情感是否（以及如何）受到敏感属性的值的变化的影响（例如，国家名称、职业、性别），在条件语境中使用一种反事实评价的形式。我们通过采用公平的机器学习文献中的个人和群体公平性指标来量化情感偏见，并证明在两个不同的语料库（新闻文章和维基百科）上训练的大规模模型表现出相当大的偏见水平。然后，我们提出嵌入和情感预测派生正则化的语言模型的潜在表示。正则化改进了公平性度量，同时保留了可比的困惑度和语义相似度。
2020-10-08 cs.CL cs.CY cs.LG
From Graph Retrieval to Schema Realization: Counterfactual Validation for Text-to-SPARQL over Heterogeneous Knowledge Graphs
University of Bristol（布里斯托大学）
提出SchemaForge框架，通过问题条件化的模式切片对齐和反事实验证，在异构知识图谱上提升文本到SPARQL查询生成的执行准确率。
2026-06-03 cs.AI cs.CL
Mitigating Gender Bias in Distilled Language Models via Counterfactual Role Reversal
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；Amazon Alexa（亚马逊Alexa）；Harvard University（哈佛大学）；University of California, Los Angeles（加州大学洛杉矶分校）
语言模型擅长于生成连贯的文本，并且诸如知识蒸馏之类的模型压缩技术使得它们能够在资源受限的环境中使用。然而，这些模式可能在多个方面存在偏见，包括毫无根据地将男性和女性与性别中立的职业联系起来。因此，没有任何公平约束的知识蒸馏可能会保留或夸大教师模型对蒸馏模型的偏见。为此，我们提出了一种新的方法来减轻性别差异的文本生成过程中学习一个公平的模型在知识蒸馏。我们提出了两个修改的基础知识蒸馏基于反事实角色反转$\unicode{x2014}$修改教师概率和扩大训练集。我们评估了性别极性的开放式文本中产生的GPT $\unicode{x2012}$ 2模型的蒸馏和微调，并证明了性别差距的大幅减少，只有一个小的妥协效用。最后，我们观察到，在语言生成中减少性别极性的语言模型不会提高嵌入公平性或下游分类公平性。
2022-03-23 cs.CL cs.LG
Debiasing Text Safety Classifiers through a Fairness-Aware Ensemble
Google DeepMind（谷歌DeepMind）；Meta；Google Research（谷歌研究院）
本文提出一种公平感知集成后处理方法，通过结合阈值无关公平指标与公平数据重加权，在几乎不影响性能的前提下缓解闭源文本安全分类器的反事实偏见。
2024-10-22 cs.AI cs.CL cs.LG
Counterfactual Causal Inference in Natural Language with Large Language Models
NAOInstitute, University of Auckland（奥克兰大学NAO研究所）；Jožef Stefan Institute, Slovenia（斯洛文尼亚约瑟夫·斯蒂芬研究所）
本研究针对非结构化自然语言因果推断难题，提出基于大语言模型的端到端方法，通过提取因果变量、构建并融合多源因果图开展反事实推断，可降低模型偏差，同时揭示了LLM反事实推理局限的成因并给出缓解方向。
2024-10-08 cs.CL cs.LG
