Causality in the human niche: lessons for machine learning
Dept. of Computer Science, Rochester Institute of Technology(计算机科学系,罗切斯特理工学院);Cognitive Science PhD Program, Rochester Institute of Technology(认知科学博士项目,罗切斯特理工学院);Center for Vision Science, University of Rochester(视觉科学中心,罗切斯特大学);Dept. of Neurobiology, University of Pennsylvania(神经生物学系,宾夕法尼亚大学);CIFAR LMB
本文指出结构因果模型(SCM)难以捕捉人类因果认知的核心特征,提出人类生态位中的因果问题有其特殊性,主张机器学习因果研究应借鉴类人归纳偏置以提升系统能力。
2025-06-13 cs.AI cs.LG
ROS-Causal: A ROS-based Causal Analysis Framework for Human-Robot Interaction Applications
University of Lincoln(林肯大学);University of Padua(帕多瓦大学);National Research Council of Italy(意大利国家研究委员会)
本文提出ROS-Causal框架,基于ROS实现人机空间交互中的机载数据采集与因果发现,填补现有因果发现方法在ROS生态缺失的空白,并通过模拟器验证其有效性。
2024-03-21 cs.AI cs.RO
Causal Strengths and Leaky Beliefs: Interpreting LLM Reasoning via Noisy-OR Causal Bayes Nets
New York University(纽约大学)
本文通过噪声-或因果贝叶斯网络评估LLM和人类在因果推理任务中的表现,探讨其因果强度和信念差异。
2025-12-10 cs.AI
CausalKG: Causal Knowledge Graph Explainability using interventional and counterfactual reasoning
人类在日常决策、计划和理解生活事件时使用因果关系和假设性回顾。人类的头脑在回顾一个特定的情况时,会思考这样的问题:“特定情况的原因是什么?“、“我的行动会产生什么影响?“,或者“是什么行为导致了这种结果?".它开发了一个世界的因果模型,它可以用更少的数据点学习,进行推理,并考虑反事实的场景。看不见的、未知的场景被称为反事实。AI算法使用基于知识图谱(KG)的表示来表示时间、空间和事实的概念。KG是一个图形化的数据模型,它捕获诸如事件、对象或概念之类的实体之间的语义关系。现有的知识库表示从文本中提取的因果关系,基于名词短语的语言模式的原因和影响,如在概念网和WordNet。目前的因果关系表示在KG中,支持反事实推理是一个挑战。需要使用基于KG的方法来更丰富地表示AI系统中的因果关系,以获得更好的可解释性,并支持干预和反事实推理,从而提高人类对AI系统的理解。因果表征需要一个更高的表征框架来定义上下文、因果信息和因果效应。提出的因果知识图谱(Causal KG)框架,利用因果关系和KG的可解释性的最新进展。CauseKG旨在解决缺乏领域适应性因果模型的问题,并使用KG中的超关系图表示来表示复杂的因果关系。我们表明,CauseKG的干预和反事实推理可以使用的AI系统的域的可解释性。
2022-01-06 cs.AI
Empowerment Gain and Causal Model Construction: Children and adults are sensitive to controllability and variability in their causal interventions
Department of Psychology, University of California, Berkeley(加州大学伯克利分校心理学系);Department of Computer Science, University of British Columbia(不列颠哥伦比亚大学计算机科学系);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
研究探讨了赋能增益在因果学习中的作用,通过实验验证儿童和成人如何利用赋能信号推断因果关系并设计干预措施。
2026-04-14 cs.AI
Understanding Human Judgments of Causality
Habitech Inc.(Habitech公司);Massachusetts Institute of Technology(麻省理工学院)
区分因果关系和相关性是机器学习中的一个主要问题,用于确定因果关系的理论工具仍在开发中。然而,人们通常会做出因果关系的判断,而且往往是正确的,即使是在不熟悉的领域。人类是如何做出这些判断的?本文通过将人类专家和非专家的性能与机器学习算法的性能进行比较,考察了人类专家和非专家归因因果关系的能力差异。我们使用Amazon Mechanical Turk(MTurk)收集人类判断,然后将人类受试者分为两组:专家和非专家。我们还根据卷积神经网络(CNN)模型的不同训练准备了专家和非专家机器算法。结果表明,人类专家的判断与在目标领域的大量示例上训练的“专家”CNN模型所做出的判断相似。人类非专家的判断类似于CNN模型的预测输出,该模型仅在MTurk指令期间使用的少量示例上进行训练。我们还分析了专家和非专家机器算法之间的差异,基于它们的神经表示来评估性能,从而深入了解人类专家和非专家的认知能力。
2019-12-19 cs.AI cs.LG
Using Human-Guided Causal Knowledge for More Generalized Robot Task Planning
Brown University(布朗大学)
涉及人工智能(AI)的研究的一个主要挑战是开发算法,这些算法可以找到可以推广到不同环境和任务的问题的解决方案。与人工智能不同,人类善于找到可以转移的解决方案。我们假设这是因为他们的解决方案是由因果模型告知的。我们建议使用人类引导的因果知识来帮助机器人找到可以推广到新环境的解决方案。我们开发和测试的语言接口,天真的参与者可以用来沟通这些因果模型的规划的可行性。我们发现初步证据表明,参与者能够使用我们的界面,并生成因果模型,实现近泛化。我们概述了一个实验,旨在测试远泛化使用我们的接口,并描述我们的长期目标,这些因果模型。
2021-10-09 cs.AI cs.RO
CausalMob: Causal Human Mobility Prediction with LLMs-derived Human Intentions toward Public Events
The University of Tokyo(东京大学);School of Artificial Intelligence Jilin University(吉林大学人工智能学院)
针对非周期性公众事件干扰人类移动预测的问题,提出因果增强模型CausalMob,利用LLM从新闻提取人类意图作为因果处理,结合时空协变量表示,通过因果估计框架提升预测性能,实验优于现有模型。
2025-01-07 cs.AI cs.IR cs.LG
Evaluating computational models of explanation using human judgments
University of California at Berkeley(加州大学伯克利分校)
我们评估四个计算模型的解释贝叶斯网络模型预测比较,人类的判断。在两个实验中,我们向人类参与者提供因果结构,模型对此做出不同的预测,要么为观察到的事件寻求最佳解释(实验1),要么让参与者为观察到的事件提供解释(实验2)。在两个版本的两个因果结构和两个实验中,我们发现因果解释树和最相关的解释模型比最可能的解释或解释树模型更适合人类数据。我们确定这些模型的优点和缺点,以及它们可以揭示人类的解释。最后,我们提出并行进行计算和心理学解释研究的价值。
2013-09-26 cs.AI
Building Object-based Causal Programs for Human-like Generalization
University of Edinburgh(爱丁堡大学)
我们提出了一个新的任务,衡量人们如何概括对象的因果关系的权力的基础上观察一个单一的(实验1)或几个(实验2)对象对之间的因果关系。我们提出了一个计算建模框架,可以在我们的任务设置中合成类似人类的泛化模式,并揭示了人们如何有效地导航可能的因果函数和类别的组成空间。我们的建模框架结合了一个因果函数生成器,利用代理和收件人对象的功能和关系,和贝叶斯非参数推理过程来管理基于相似性的泛化程度。我们的模型有一个自然的“资源理性”的变体,在描述参与者,特别是再现概括顺序的效果和因果关系的不对称性,在我们的行为实验中观察到的朴素贝叶斯帐户优于。我们认为,这种建模框架提供了一个计算上合理的机制,现实世界的因果泛化。
2021-11-20 cs.AI cs.OH
Experimental Evaluation of ROS-Causal in Real-World Human-Robot Spatial Interaction Scenarios
School of Computer Science, University of Lincoln, UK(林肯大学计算机科学学院);Dept. of Information Engineering, University of Padua, Italy(帕多瓦大学信息工程系);National Research Council of Italy(意大利国家研究理事会)
本研究评估了ROS-Causal框架在真实人类-机器人空间交互场景中的性能,通过模拟和实验室实验验证其在因果发现和机器人部署中的有效性。
2026-02-16 cs.AI cs.RO
Humanoid-inspired Causal Representation Learning for Domain Generalization
本文提出受人类视觉分层处理启发的因果框架HSCM,通过解耦并重加权颜色、纹理、形状等属性建模细粒度因果机制,从而提升跨域泛化、稳健性与可解释性。
2025-10-18 cs.AI cs.LG
Personalized Causal Recourse: A Human-In-The-Loop Approach
The University of Edinburgh(爱丁堡大学);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Pavia(帕维亚大学)
研究人在回路框架,通过贝叶斯推理的交互式查询迭代逼近用户结构因果模型,克服传统追索方法局限,实现个性化、合理且具成本效益的追索推荐,模拟验证有成效但仍有挑战。
2026-07-07 cs.AI cs.HC
Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment
Università degli Studi di Genova(热那亚大学);FAIR IALAB;University of Buenos Aires(布宜诺斯艾利斯大学);University College London(伦敦大学学院)
研究探讨了人类在AI导致有害结果时对因果责任的归因,发现AI代理程度越高,责任归于AI;开发者虽远离事件但被归责高,用户责任降低;分解AI为大语言模型和代理组件时,代理部分更易被归责。
2026-02-17 cs.AI cs.CY
Human-Guided Causal Knowledge Injection for Virtual Cells
Hunan University(湖南大学);Yuelushan Laboratory(岳麓山实验室)
本文针对虚拟细胞因果图存在的错误问题,提出人导式因果知识注入方法,结合可视化与优化算法,经案例研究和专家反馈验证了其有效性。
2026-08-11 cs.AI cs.HC
Analytic Abduction: Causal Decomposition and Governed Commitment for Human--AI Coordination
Stake Lab, University of Molise(莫利塞大学斯塔克实验室)
研究分析性溯因推理,核心方法是κ - τ 机制及因果簇,贡献在于将未确定分解作为共享协调对象,用于人机协作,为决策者提供竞争解释场景及证据,助力合理行动。
2026-07-17 cs.AI
Causal Responsibility Attribution for Human-AI Collaboration
ETH Zürich(苏黎世联邦理工学院);MPI Tübingen(马克斯·普朗克智能系统研究所(蒂宾根));University of Toronto(多伦多大学)
本文提出基于结构因果模型和反事实推理的因果框架,用于在人机协作中系统归因责任,并通过案例研究展示其适应性。
2024-11-05 cs.AI cs.HC stat.AP
Causal Inference for Human-Language Model Collaboration
University of Michigan(密歇根大学)
本文提出增量风格效应(ISE)因果估计量及CausalCollab算法,用于在人类与语言模型协作中估计文本交互策略的因果效应,并在三个场景中验证其减少混杂和提升反事实估计的效果。
2024-03-30 cs.AI cs.CL cs.LG
Do Large Language Models Reason Causally Like Us? Even Better?
New York University(纽约大学);University of Tübingen(图宾根大学)
本研究通过基于对撞图的任务比较人类与四个LLMs的因果推理,发现GPT-4o等模型因无“联想偏差”而表现更优,但仍未完全掌握“解释消除”等微妙推理模式。
2025-06-06 cs.AI cs.LG
Causal discovery using dynamically requested knowledge
Queen Mary University of London(伦敦玛丽女王大学)
本文提出一种动态请求人类知识的方法,集成到Tabu算法中,通过识别不确定关系并请求知识,显著提升因果结构学习准确性,并增强过程透明度。
2023-10-17 cs.AI
CLEVRER-Humans: Describing Physical and Causal Events the Human Way
MIT(麻省理工学院);Stanford University(斯坦福大学)
针对现有物理因果推理基准多样性不足且与人类判断不符的问题,提出带人类标注的CLEVRER-Humans视频推理数据集,通过迭代事件完形任务构建因果事件图并利用神经语言模型增强数据,基线实验显示其挑战性。
2025-05-26 cs.AI cs.CL cs.CV
Do large language models and humans have similar behaviors in causal inference with script knowledge?
Saarland University(萨尔兰大学)
本研究通过自定步速阅读实验和多种LLM测试,发现人类能利用脚本知识轻松推断未明说的因果事件,而最新LLM虽在冲突条件下与人类行为相关,但整体仍难以整合脚本知识。
2023-11-13 cs.AI cs.CL
Cross-Embodiment Causal Transfer from Human Videos to Robot Manipulation
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Meituan(美团)
该研究针对机器人操作数据收集成本高的问题,提出CBST方法,通过因果束约束从人类视频中迁移操作知识,使机器人无需动作对应即可生成动作,提升了基准任务的成功率。
2026-10-16 cs.AI cs.RO
Causality and deceit: Do androids watch action movies?
我们通过科学、宗教和日常生活寻找原因。当一块大石头引起大的水花时,我们会兴奋,当它无缘无故地摔倒时,我们会害怕。但我们的因果认知通常是有偏见的。“why”受“who”的影响。它受到“自我”和“他人”的影响。我们分享仪式,我们看动作片,我们互相影响,相信同样的原因。人类的思想充满了主观性,因为共同的认知偏见使我们走到了一起。但也让我们变得脆弱。人工心智被认为比人类心智更客观。在多年的科幻幻想中,机器人的思想是公正的,现在它们被当作个人或专家助手出售,作为品牌倡导者,作为政策或候选人的支持者,作为网络影响者。人工代理人在人类之间传播人工因果信念方面取得了惊人的成功。随着恶意的人工代理继续操纵人类的认知偏见,并欺骗人类社区进入明显但广泛的因果错觉,保护我们的希望已经被赋予开发仁慈的人工代理,其任务是防止和减轻他们的恶意表亲对我们造成的认知扭曲。人类因果认知的扭曲是否可以在更坚实的人工因果认知基础上得到纠正?在本文中,我们研究了一个简单的因果认知模型,被视为因果模型的探索。我们表明,在非常温和和难以避免的假设下,总是有自我证实的因果模型,这会导致自我欺骗,似乎排除了通往客观性的康庄大道。
2019-10-10 cs.AI cs.CY math.CT
A Causal And-Or Graph Model for Visibility Fluent Reasoning in Tracking Interacting Objects
University of California, Los Angeles(加州大学洛杉矶分校);Dept. Computer Science, San Diego State University(圣地亚哥州立大学计算机科学系);Hikvision Research Institute, USA(海康威视研究院(美国));Inst. Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
跟踪与其他对象或环境交互的人在视觉跟踪中仍然未解决,因为视频中感兴趣的人的可见性是未知的并且可能随时间而变化。特别是,对于最先进的人类跟踪器来说,在具有频繁人类交互的拥挤场景中恢复完整的人类轨迹仍然是困难的。在这项工作中,我们认为一个主体的可见性状态作为一个流畅的变量,其变化主要归因于主体与周围环境的相互作用,例如,引入因果与或图(CausalAnd-Or Graph,C-AOG)来表示对象的可见性流与其活动之间的因果关系,并建立概率图模型来联合推理可见性流的变化(例如,从可见到不可见)并在视频中跟踪人类。我们将这个联合任务表述为对可行因果图结构的迭代搜索,该结构能够实现快速搜索算法,例如,动态规划方法。我们将所提出的方法应用于具有挑战性的视频序列,以评估其能力,估计可见性,流畅的变化的主题和跟踪的兴趣随着时间的推移。比较结果表明,我们的方法优于替代跟踪器,并可以恢复完整的轨迹的人在复杂的场景与频繁的人类互动。
2018-03-29 cs.AI cs.CV
Reasoning about Causality in Games
University of Oxford(牛津大学);DeepMind(深度思维)
本文提出结构因果博弈框架,将因果推理与博弈论统一建模,定义预测、干预和反事实查询,并配套开源 Python 库以支持更丰富的因果与策略推理。
2023-04-17 cs.AI cs.GT cs.MA
Collaborative Causal Sensemaking: Closing the Complementarity Gap in Human-AI Decision Support
Independent Researcher(独立研究者)
本文提出协同因果认知(CCS)研究议程,旨在开发人类与AI协作的认知能力,通过新的训练环境、共享的人机心理模型表示和以信任与互补性为中心的评估,推动人机团队的设计。
2026-03-25 cs.AI cs.CL cs.HC
Bayesian Causal Induction
Max-Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
发现因果关系是一项艰巨的任务,往往因需要干预而受阻,而且往往需要大量数据来解决统计上的不确定性。然而,人类很快就能找到有用的因果关系。一个可能的原因是,人类从过去的经验中推断出新的、看不见的情况:也就是说,他们对因果不变性的信念进行编码,允许从他们直接在世界上行动所获得的观察中进行合理的概括。在这里,我们概述了因果归纳的贝叶斯模型,在竞争的因果假设的信念建模使用概率树。基于这个模型,我们说明了为什么,在一般情况下,我们需要干预加上我们的因果假设的约束,以提取因果信息,从我们的经验。
2011-11-30 cs.AI stat.ML
CauTraj: A Causal-Knowledge-Guided Framework for Lane-Changing Trajectory Planning of Autonomous Vehicles
Chongqing Jiaotong University(重庆交通大学);Tongji University(同济大学)
CauTraj通过整合因果知识提升自动驾驶车辆车道变换轨迹规划的精度与稳定性。
2025-12-21 cs.AI cs.RO
Research on Personal Credit Risk Assessment Methods Based on Causal Inference
Guilin University Of Electronic Technology(桂林电子科技大学);Northeastern University(东北大学)
本文基于范畴论定义因果性并证明指标合成可行性,采用概率因果图工具,研究因果推断在个人信用风险评估中的应用,构建指标体系并探索干预替代准则。
2024-03-17 cs.AI math.CT
Human Schema Curation via Causal Association Rule Mining
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland, College Park(马里兰大学帕克分校)
事件模式是定义典型的现实世界场景的结构化知识源(例如,去机场)。我们提出了一个框架,有效的人在循环建设的模式库,基于一个新的脚本感应系统和精心制作的界面,允许非专家“编程”复杂的事件结构。与这项工作相关的是,我们发布了一个模式库:一个包含232个详细事件模式的机器可读资源,每个模式都描述了一个不同的典型场景,包括相关的子事件结构(场景中发生了什么)、参与者(谁在场景中扮演了角色)、每个参与者的细粒度类型以及它们之间隐含的关系约束。我们使我们的模式库和SchemaBlocks接口在线可用。
2022-05-23 cs.AI cs.CL
Evaluating Causal Explanation in Medical Reports with LLM-Based and Human-Aligned Metrics
Department of Medical Engineering, Konyang University(康山大学医学工程系);Department of Artificial Intelligence, Konyang University(康山大学人工智能系)
本研究比较了六种指标在评估自动生成诊断报告中因果解释质量的表现,发现 GPT-Black 和 GPT-White 与专家评估高度一致,优于相似度指标,支持基于 LLM 的评估用于因果推理任务。
2025-06-23 cs.AI cs.CL
Are the Values of LLMs Structurally Aligned with Humans? A Causal Perspective
BIGAI(北京智源人工智能研究院);Beijing Normal University(北京师范大学);Peking University(北京大学);Tsinghua University(清华大学)
本研究从因果视角揭示LLM价值结构异于人类,提出基于因果价值图的角色提示与稀疏自编码器导向方法,实现轻量且细粒度的价值对齐。
2025-02-23 cs.AI cs.CL cs.LG
Language Agents Mirror Human Causal Reasoning Biases. How Can We Help Them Think Like Scientists?
New York University(纽约大学);McGill University(麦吉尔大学);Mila - Quebec Artificial Intelligence Institute(魁北克人工智能研究所);CIFAR Learning in Machines and Brains Program(CIFAR 机器与大脑学习计划);The University of Utah(犹他大学)
本研究采用Blicket Test范式发现语言模型存在类似人类的因果推理析取偏差,且该偏差跨模型规模和提示策略普遍存在,同时提出测试时采样方法有效降低偏差,推动模型向科学严谨的因果推理发展。
2025-10-05 cs.AI cs.CL
Causality-enhanced Decision-Making for Autonomous Mobile Robots in Dynamic Environments
University of Lincoln(林肯大学);National Research Council of Italy(意大利国家研究 council);University of Padua(帕多瓦大学)
本文提出基于因果推理的决策框架,通过建模因果关系帮助机器人在动态环境中更高效安全地完成任务,同时开发了PeopleFlow模拟器来评估因果方法的有效性。
2026-05-01 cs.AI cs.RO
Quriosity: Analyzing Human Questioning Behavior and Causal Inquiry through Curiosity-Driven Queries
EPFL(苏黎世联邦理工学院);ETH Zürich(苏黎世联邦理工学院);University of Washington(华盛顿大学);University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Michigan(密歇根大学);MPI for Intelligent Systems, Tübingen, Germany(图宾根智能系统研究所)
本文提出Quriosity数据集,收集13.5K条来自搜索引擎、人际交互和人机对话的自然问题,分析好奇心驱动提问中的因果问题(最高42%),并开发迭代提示改进框架识别因果查询。
2025-11-09 cs.AI cs.CL cs.LG
Learning domain-specific causal discovery from time series
University of Pennsylvania(宾夕法尼亚大学)
本研究提出用数据驱动监督学习替代人类设计的通用因果发现算法,在多个数据集上显著提升时间序列因果发现的准确性。
2023-10-10 cs.AI cs.LG stat.ME
Causal Models Applied to the Patterns of Human Migration due to Climate Change
University of Calgary(卡尔加里大学);Cumming School of Medicine(卡明医学院)
本文提出结合深度学习预测与贝叶斯网络因果推理的框架,评估气候变化引发的大规模迁移对社会基础设施造成的风险与不平衡,为危机治理提供决策支持。
2023-11-03 cs.AI cs.CY
AI-Assisted Causal Pathway Diagram for Human-Centered Design
University of Washington(华盛顿大学);Kaiser Permanente Washington Health Research Institute(凯撒永久华盛顿健康研究所);University of Michigan(密歇根大学);Microsoft(微软公司)
本文研究将因果路径图整合到以人为中心的设计中,开发了Miro平台插件,通过用户研究发现其能支持发散与收敛思维、促进沟通,并降低认知负荷、提升创造力。
2024-03-12 cs.AI cs.CL cs.HC
Attaining Human`s Desirable Outcomes in Human-AI Interaction via Structural Causal Games
University College London(伦敦大学学院);University of Manchester(曼彻斯特大学);Peking University(北京大学);Renmin University of China(中国人民大学);Aalto University(阿尔托大学)
本文提出基于结构因果博弈的框架,通过策略前干预引导AI代理在多人机交互中实现人类期望的纳什均衡,并设计强化学习算法,在网格世界和对话场景中验证其有效性。
2024-05-26 cs.AI cs.GT cs.HC
Towards Human-like Perception: Learning Structural Causal Model in Heterogeneous Graph
Zhejiang University(浙江大学);Worcester Polytechnic Institute(伍斯特理工学院);Alibaba DAMO Academy(阿里巴巴达摩院)
本文提出 HG-SCM,将异质图构建为结构因果模型,利用图模式语义与因果发现自动学习任务级因果关系,在分布外场景中提升预测、泛化与可解释性。
2023-12-10 cs.AI cs.DL cs.LG
InfoCausalQA:Can Models Perform Non-explicit Causal Reasoning Based on Infographic?
本研究提出InfoCausalQA基准,通过定量与语义因果推理任务评估视觉语言模型基于信息图的因果推断能力,发现当前模型表现显著低于人类,凸显多模态AI在因果推理上的不足。
2025-08-13 cs.AI cs.CL
Original or Translated? A Causal Analysis of the Impact of Translationese on Machine Translation Performance
University College London(伦敦大学学院);MPI(马克斯·普朗克研究所);ETH Zürich(苏黎世联邦理工学院);Google Research(谷歌研究院)
人工翻译文本具有与自然语言文本不同的特征。这种现象,被称为翻译,已被认为是混淆的机器翻译(MT)的评价。然而,我们发现,现有的研究工作,忽视了一些重要的因素,结论大多是相关的,但不是因果关系。在这项工作中,我们收集了CauseMT,一个数据集,其中MT训练数据也标记有人类翻译方向。我们检查两个关键因素,训练-测试方向匹配(训练和测试集中的人类翻译方向是否对齐)和数据-模型方向匹配(模型是否在与数据集中的人类翻译方向相同的方向上学习)。我们发现,这两个因素有很大的因果关系的MT性能的影响,除了测试模型的方向不匹配突出现有的工作的影响,mathionese。根据我们的研究结果,我们提供了一套建议MT培训和评估。我们的代码和数据在https://github.com/EdisonNi-hku/CausalMT
2022-06-08 cs.AI cs.CL cs.LG
Eroding the Truth-Default: A Causal Analysis of Human Susceptibility to Foundation Model Hallucinations and Disinformation in the Wild
Frankfurt University of Applied Sciences(法兰克福应用科学大学)
本文通过双轴框架分析人类对基础模型幻觉和虚假信息的易感性,发现假新闻熟悉度是关键中介,提出应通过提升认知来源监控来确保信息可信。
2026-11-02 cs.AI cs.CL cs.CY
Efficient Causal Discovery for Robotics Applications
University of Lincoln(林肯大学);University of Padua(帕多瓦大学)
本文提出了一种名为F-PCMCI的快速准确的因果分析方法,能够在有限计算资源下实时重构人机交互场景的因果模型,从而提升机器人与人类的交互质量。
2023-10-24 cs.AI cs.RO
Beyond Reward Hacking: Causal Rewards for Large Language Model Alignment
Meta;University of Chicago(芝加哥大学)
本文提出一种新颖的因果奖励建模方法,通过整合因果性并强制反事实不变性来缓解RLHF中的虚假相关性,有效消除多种偏差,从而实现更可靠、公平的大型语言模型对齐。
2025-05-29 cs.AI cs.LG
Human-aligned Deep Learning: Explainability, Causality, and Biological Inspiration
本研究从可解释性、因果性和生物视觉三视角将深度学习与人类推理对齐,提出相关框架与模型,提升图像分类的效率、可解释性与鲁棒性,推动其临床应用。
2025-04-18 cs.AI cs.CV cs.LG
Human Mobility Prediction with Causal and Spatial-constrained Multi-task Network
Shanghai Jiao Tong University(上海交通大学);eBay Inc.(易趣公司)
针对下一位置预测忽视个体决策逻辑与群体空间分布一致性的问题,提出多任务 CSLSL,通过因果结构、空间约束损失和 LSC 模块提升预测性能。
2023-06-06 cs.AI cs.IR
MOGO: Residual Quantized Hierarchical Causal Transformer for High-Quality and Real-Time 3D Human Motion Generation
AAAI Press(AAAI出版社);AAAI Publications Committee(AAAI出版委员会)
MOGO提出了一种高效的实时3D人体运动生成框架,通过MoSA-VQ和RQHC-Transformer实现高质量运动生成与实时响应,实验表明其在生成质量和实时性能上优于现有方法。
2026-05-02 cs.AI cs.CV
A Causal Framework for Evaluating Deferring Systems
Princeton University(普林斯顿大学);University of Pisa(比萨大学);KU Leuven(鲁汶大学);University of Trento(特伦托大学)
本文提出基于因果推断的潜在结果框架评估延迟系统,通过区分两种预测获取场景识别延迟策略对预测准确性的因果影响,并在合成与真实数据集上验证了七种延迟系统的有效性。
2025-04-07 cs.AI cs.LG stat.ML
Inference of Fine-Grained Event Causality from Blogs and Films
University of California Santa Cruz(加州大学圣克鲁兹分校)
人类对叙事的理解主要是由对事件之间因果关系的推理驱动的,因此识别它们是语言理解的计算模型的关键能力。这一领域的计算工作通过两种不同的途径来实现这一点:专注于获取事件之间常见因果关系的知识库,或者试图理解特定的故事或宏观事件及其故事情节。在这份立场文件中,我们专注于知识获取的方法,并声称,新闻通讯是一个相对较差的来源,学习日常事件之间的细粒度的因果关系。我们描述的实验使用无监督的方法来学习事件之间的因果关系的第一人称叙事和电影场景描述的叙事类型。我们表明,我们的方法学习细粒度的因果关系,人类判断可能是因果关系超过80%的时间。我们还证明了学习的事件对不存在于公开的事件对数据集提取新闻专线。
2017-08-30 cs.AI cs.CL
COLD: Causal reasOning in cLosed Daily activities
Indian Institute of Technology Kanpur (IIT Kanpur)(印度理工学院坎普尔分校)
为评估LLM的类人因果推理能力,本文提出COLD框架,基于日常活动构建约900万条因果查询,评估发现LLM在简单日常活动的因果推理上仍具挑战,并通过后门标准探索其因果推理能力。
2024-11-29 cs.AI cs.CL cs.LG
Ground(less) Truth: A Causal Framework for Proxy Labels in Human-Algorithm Decision-Making
Carnegie Mellon University(卡内基梅隆大学)
本文提出一个因果框架,系统识别并厘清人类-AI决策中代理标签的五种目标变量偏差来源,用以审视既有建模假设和实验设计,并为未来研究提供评估策略。
2023-05-25 cs.AI cs.CY cs.HC
Causality in Neural Networks -- An Extended Abstract
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校)
因果推理是人类使用的主要学习和解释工具。人工智能系统应该具备因果推理能力,以便在现实世界中以信任和可靠的方式部署。将因果关系的思想引入机器学习有助于提供更好的学习和可解释的模型。可解释性、因果解纠缠是任何机器学习模型的一些重要方面。因果解释需要相信模型的决定,因果解纠缠学习对于迁移学习应用是重要的。我们利用因果关系的思想用于深度学习模型,以实现更好的和因果可解释的模型,这些模型在公平性,解纠缠表示等方面很有用。
2021-06-03 cs.AI cs.LG