Which Influence Are We Estimating? The Role of Counterfactual Specifications in Data Attribution
Singapore Management University(新加坡管理大学)
本文提出影响估计的分歧源于反事实设定不匹配,而非仅近似误差,通过形式化估计量并实验证明设定选择显著影响归因质量,行为对齐设定可识别目标特定样例。
2026-09-28 cs.AI cs.LG
Reinforcement Inference: Leveraging Uncertainty for Self-Correcting Language Model Reasoning
Programme of Management Engineering, Politecnico di Milano(米兰理工学院管理工程项目)
本研究提出强化推断方法,通过利用模型不确定性进行自我修正推理,提升语言模型在零样本设置下的准确性,同时减少计算成本。
2026-02-12 cs.AI cs.LG
MCAIR: Monitoring and Correcting Agent Unfaithfulness via Internal Representations
School of Computer Science and Technology, Beijing Institute of Technology, China(北京理工大学计算机科学与技术学院)
本研究针对基于LLM的智能体存在的完成不忠实性问题,提出MCAIR框架,通过训练风险感知探针在线检测并结合风险引导修正循环缓解该问题,构建ACUD数据集验证其性能优于基线且泛化性良好。
2026-10-14 cs.AI cs.LG
From Memory to Behavior: A Behavior-Aware Role-Playing Framework for Social Media Influencers
CMoney Technology Corporation(CMoney科技公司);National Taiwan University(国立台湾大学)
提出行为感知角色扮演框架,通过情境-内部状态-行为人格方法及带参考的评估协议,提升LLM对真实个体和虚构角色的模仿保真度,并在社交媒体回复任务中超越现有基线。
2026-09-21 cs.AI cs.CL
Localizing and Correcting Errors for LLM-based Planners
Language Technologies Institute, Carnegie Mellon University, Pittsburgh, US(语言技术研究所,卡内基梅隆大学,匹兹堡,美国);Machine Learning Department, Carnegie Mellon University, Pittsburgh, USA(机器学习系,卡内基梅隆大学,匹兹堡,美国)
本研究提出 L-ICL 方法,通过局部上下文学习修正 LLM 规划器的错误,显著提升规划任务的有效性。
2026-09-09 cs.AI
Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution
EleutherAI;University of Toronto(多伦多大学)
本文提出概念影响方法,通过利用模型中的可解释结构,提高训练数据归因的性能和效率,实现更可扩展和可控的模型行为。
2026-11-17 cs.AI stat.ML
Correcting Confounding via Random Selection of Background Variables
Amazon Research(亚马逊研究院)
我们提出了一种方法来区分因果影响隐藏混杂在以下情况下:给定一个目标变量Y,潜在的因果驱动因素X,和大量的背景特征,我们提出了一种新的标准,用于识别因果关系的基础上的稳定性的回归系数的X对Y相对于选择不同的背景特征。为此,我们提出了一个统计量V测量系数的变异性。我们证明,受对称性假设的背景影响,V收敛到零当且仅当X不包含因果驱动程序。在模拟数据的实验中,该方法优于最先进的算法。此外,我们报告了现实世界数据的令人鼓舞的结果。我们的方法与一般的信念,因果的见解承认更好的概括跨环境的统计关联,并证明类似的现有的启发式方法从文献。
2022-02-04 cs.LG stat.ML
Identifying and Correcting Label Noise for Robust GNNs via Influence Contradiction
University of Science and Technology of China(中国科学技术大学)
提出ICGNN方法,利用图扩散矩阵计算影响矛盾分数(ICS)检测噪声标签,并通过邻居预测软策略纠正噪声标签,结合伪标签提升鲁棒性。
2026-06-03 cs.LG
A Few Bad Neurons: Isolating and Surgically Correcting Sycophancy
Algoverse;RAND;Meta FAIR;University of Maryland(马里兰大学);Lockheed Martin AI Center(洛克希德·马丁人工智能中心)
本文提出通过隔离并微调最负责特定行为的神经元来实现LLM行为对齐,展示了在减少阿谀行为任务上的有效性。
2026-01-26 cs.LG
FastIF: Scalable Influence Functions for Efficient Model Interpretation and Debugging
Salesforce Research(Salesforce研究院);Carnegie Mellon University(卡内基梅隆大学);UNC Chapel Hill(北卡罗来纳大学教堂山分校)
影响函数近似于测试预测的训练数据点的“影响”,并且具有广泛的应用。尽管很流行,但它们的计算成本并不随模型和训练数据的大小而变化。我们提出了FastIF,一组简单的修改,以影响功能,显着提高其运行时间。我们使用k-近邻(kNN)缩小搜索空间的一个子集的良好的候选数据点,确定的配置,最好的平衡的速度和质量的权衡估计逆海森矢量积,并引入一个快速的并行变量。我们提出的方法实现了约80倍的加速比,同时与原始影响值高度相关。随着快速影响函数的可用性,我们证明了它们在四个应用程序中的有用性。首先,我们研究是否有影响力的数据点可以“解释”测试时间的行为使用的框架的可模拟性。其次,我们可视化的影响之间的相互作用的训练和测试数据-点。第三,我们证明了我们可以通过对某些有影响力的数据点进行额外的微调来纠正模型错误,将训练后的MultiNLI模型在HANS数据集上的准确性提高了2.5%。最后,我们使用类似的设置进行实验,但对训练过程中未看到的数据点进行微调,在HANS和ANLI数据集上分别将模型准确度提高了2.8%和1.7%。总的来说,我们的快速影响函数可以有效地应用于大型模型和数据集,我们的实验证明了影响函数在模型解释和纠正模型错误方面的潜力。代码可在https://github.com/salesforce/fast-influence-functions上获得
2021-09-09 cs.AI cs.CL cs.LG
Theoretical and Practical Perspectives on what Influence Functions Do
Google Research(谷歌研究院);University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
本文从理论和实践角度分析影响函数在深度神经网络中的失效原因,指出参数发散导致影响随训练时间消退,并验证影响函数仍可用于模型调试与错误预测修正。
2023-05-26 cs.LG
Rewarding High-Quality Data via Influence Functions
École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
我们考虑一个众包数据采集场景,例如联邦学习,其中一个中心从一组理性代理收集数据点,目的是训练模型。对于线性回归模型,我们展示了如何设计支付结构,以激励代理商尽早提供高质量的数据,基于数据点对模型的损失函数的影响的表征。我们的贡献可概括如下:(a)我们从理论上证明了该方案确保真实数据报告作为博弈论均衡,并进一步证明了其对真实和启发式数据报告的混合的鲁棒性,(b)我们设计了一个过程,根据该过程,可以有效地近似影响计算并随着时间的推移分批顺序处理,(c)我们开发了一种理论,可以纠正损失的影响和整体变化之间的差异,(d)我们在真实数据集上评估了我们的方法,证实了我们的理论发现。
2019-08-30 cs.AI cs.LG stat.ML
Correcting Human Labels for Rater Effects in AI Evaluation: An Item Response Theory Approach
CUNY Graduate Center(纽约市立大学研究生中心)
本文提出利用项目反应理论方法校正人类评分中的评分者效应,以提高AI评估的可靠性和有效性。
2026-02-26 cs.AI cs.LG
Patient Flow Prediction via Discriminative Learning of Mutually-Correcting Processes
Georgia Institute of Technology(佐治亚理工学院);Shanghai Jiao Tong University(上海交通大学);Emory University(埃默里大学)
在过去的十年中,美国的护理单位(CU)使用率一直在增加。随着人口老龄化和对医疗保健需求的不断增长,有效管理患者在不同护理机构之间的过渡将被证明是缩短住院时间、改善患者预后、分配重症护理资源和减少可预防的再次入院不可或缺的。在本文中,我们专注于一个重要的问题,预测所谓的“病人流”从纵向电子健康记录(EHR),这还没有通过现有的机器学习技术进行了探讨。通过将一系列过渡事件视为一个点过程,我们开发了一个新的框架,用于对通过各种CU的患者流进行建模,并联合预测患者的目的地CU和持续时间。我们提出了一种新的判别式学习算法,而不是通过最大似然估计学习生成点过程模型,旨在提高稀疏数据情况下的过渡事件的预测。通过将所提出的模型参数化为相互校正的过程,我们通过广义线性模型制定了估计问题,这有助于基于交替方向乘法器(ADMM)的有效学习。此外,我们实现了同时特征选择和学习,通过添加一个组套索正则化ADMM算法。另外,为了抑制数据不平衡对模型学习的负面影响,我们对样本量极少的类合成了辅助训练数据,从而提高了学习方法的鲁棒性。在真实数据上的测试表明,我们的方法在预测目的地CU转换和每个CU占用的持续时间的准确性方面获得了优越的性能。
2016-11-10 cs.LG
Learning to Influence Human Behavior with Offline Reinforcement Learning
UC Berkeley(加州大学伯克利分校)
本文研究如何利用离线强化学习从次优人类互动数据中学习影响策略,使智能体能够引导人类改善行动和潜在策略,并适应策略变化。
2023-10-27 cs.AI cs.LG
Incorporating Heterogeneous User Behaviors and Social Influences for Predictive Analysis
Ocean University of China(中国海洋大学);Shanghai Jiao Tong University(上海交通大学)
本文提出融合异构用户行为与社会影响的预测模型,通过上下文LSTM、投影与多面注意力机制、社会行为图及残差解码器提升行为预测效果。
2022-07-24 cs.AI cs.LG
Estimating Social Influence from Observational Data
Mila-Quebec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Columbia University(哥伦比亚大学)
我们考虑估计社会影响力的问题,即一个人的行为对同龄人未来行为的影响。关键的挑战是,朋友之间的共享行为可以用影响或其他两个混杂因素来解释:1)导致人们成为朋友并参与行为的潜在特征,以及2)对行为的潜在偏好。本文通过三个贡献解决了估计社会影响力的挑战。首先,我们将社会影响正式定义为一种因果效应,这需要对假设的干预措施进行推断。其次,我们开发了泊松影响因子(PIF),一种从观察数据中估计社会影响力的方法。PIF将概率因子模型拟合到网络和行为数据中,以推断出作为混淆潜在特征的替代品的变量。第三,我们开发的假设下,PIF恢复社会影响力的估计。我们从Last.fm的半合成和真实数据实证研究PIF,并进行敏感性分析。我们发现,PIF估计社会影响力最准确的相关方法相比,仍然是强大的一些违反其假设。
2022-03-24 cs.AI cs.LG cs.SI
Predicting Ship Responses in Different Seaways using a Generalizable Force Correcting Machine Learning Method
University of Michigan(密歇根大学);MARIN(MARIN(荷兰海事研究中心))
针对船舶响应预测中机器学习泛化性不足、高保真训练数据获取成本高的问题,提出修正低保真运动方程力的混合机器学习方法,经小数据集训练后,相比线性物理模型与LSTM模型,预测精度和泛化能力更优。
2024-05-13 cs.LG physics.flu-dyn stat.ML
JIM: Joint Influence Modeling for Collective Search Behavior
University of Illinois Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校);Yahoo Research(雅虎研究院);College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);College of Artificial Intelligence Jilin University(吉林大学人工智能学院)
以往的工作表明,流行的趋势事件是重要的外部因素,对用户的搜索行为构成显着的影响,也提供了一种方法来计算模型的影响。然而,他们的问题表述是基于一个强有力的假设,即每个事件都独立地产生影响。这个假设是不现实的,因为在现实世界中有许多相互影响的相关事件,因此会对用户搜索行为造成联合影响,而不是独立地造成影响。在本文中,我们研究了这一新的问题建模的多个相关事件对用户搜索行为的联合影响。我们提出了一个基于多变量霍克斯过程的联合影响模型,该模型捕捉了多个事件之间的相互依赖性,即它们对用户搜索行为的影响。我们使用来自https://search.yahoo.com/的两个月查询日志数据来评估所提出的联合影响模型。实验结果表明,该模型确实可以捕获联合影响随时间的时间动态,并且在应用于解决各种有趣的预测问题以及实际应用场景时,也实现了优于不同基线方法的性能,例如,查询自动完成。
2019-03-01 cs.IR cs.LG stat.ML
Benchmarking the Influence of Pre-training on Explanation Performance in MR Image Classification
Physikalisch-Technische Bundesanstalt(物理技术联邦机构);Technische Universität Berlin(技术大学柏林);Charité – Universitätsmedizin Berlin(柏林查理医院)
本文提出一个MRI分类任务的基准数据集,评估迁移学习对解释性能的影响,发现不同XAI方法在相同模型上表现差异显著,且解释性能依赖于预训练任务和CNN层数量。
2026-01-21 cs.AI cs.CV cs.LG
Infusion: Shaping Model Behavior by Editing Training Data via Influence Functions
FLAIR, University of Oxford(牛津大学FLAIR);UK AI Security Institute(英国人工智能安全研究所);AI Centre, UCL(伦敦大学学院人工智能中心);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
Infusion通过影响函数近似计算训练数据的微小扰动,以诱导模型行为的针对性变化。在CIFAR-10上,仅对0.2%的训练数据进行细微编辑即可与基线方法竞争,且在不同架构间具有迁移性。
2026-04-08 cs.AI cs.CY cs.LG
RetrySQL: text-to-SQL training with retry data for self-correcting query generation
针对text-to-SQL任务缺乏自校正生成相关SQL专用模型研究的问题,提出RetrySQL方法,构造含正误推理步骤的重试数据开展全参数持续预训练,可提升模型执行准确率,性能媲美参数量高数个量级的专有模型。
2025-11-14 cs.LG
Data Driven Deep Learning for Correcting Global Climate Model Projections of SST and DSL in the Bay of Bengal
Indian Institute of Science(印度科学研究院)
针对孟加拉湾全球气候模型预测与再分析数据的偏差,提出数据驱动深度学习模型,利用历史数据训练以校正SST和DSL预测,相比传统EDCDF方法显著降低了RMSE,并用于生成2024-2100年校正预测。
2025-04-29 cs.LG physics.ao-ph
Vehicle Acceleration Prediction Considering Environmental Influence and Individual Driving Behavior
Chang’an University(长安大学);National University of Singapore(新加坡国立大学)
本文提出一种融合环境序列与个体驾驶行为序列的LSTM Seq2Seq注意力预测框架,结合驾驶员聚类建模,在真实隧道轨迹数据上实现车辆加速度多步预测,精度较基线最高提升33%。
2025-04-05 cs.LG
Recommending Influenceable Targets based on Influence Propagation through Activity Behaviors in Online Social Media
Amity Institute of Information Technology (AIIT), Amity University(阿米蒂信息技术学院(AIIT),阿米蒂大学)
在线社交媒体(OSM)是一个平台,通过它,用户通过消息传递,发布,反应,标记和分享不同的内容以及其他社交活动将自己呈现给连接的世界。如今,它对行业,商业和社会的各个方面以及用户生活产生了巨大的影响。在OSN平台中,接触目标用户是大多数企业和其他组织的主要关注点之一。识别和推荐有影响力的目标有助于高效和有效地吸引适当的受众。在本文中,一个有效的模型已被讨论在自我中心的OSN,结合一个有效的影响力测量推荐系统,以产生一个列表中的所有连接的网络成员中的任何特定的社交网络用户的最具影响力的目标用户。首先,基于所有活动更新了交互网络成员的列表。基于情感类型的特定影响力类别,推荐具有最相似活动的交互网络成员。之后,通过分析这些更新的交互网络成员列表中的最有影响力的网络成员的活动内容相对于主用户的活动内容的相似性和频率,在所需数量的基础上,以适当的排名来识别这些最有影响力的网络成员。通过这两个连续的阶段,主要用户的顶级影响力目标的有效列表已经从任何社交网络的自我中心观点中区分出来。
2020-06-04 cs.IR cs.LG cs.SI