arXivDaily arXiv每日学术速递 周一至周五更新
arXiv 2604.04892cs.LG
收藏

自适应学习中的数据归因

Data Attribution in Adaptive Learning

Amit Kiran Rege

AI总结:

本文研究自适应学习中的数据归因问题,提出条件干预目标,证明回放信息无法一般性恢复归因,并识别出一个结构类以从日志数据中识别目标。

摘要:

机器学习模型越来越多地生成自己的训练数据——在线对冲、强化学习以及语言模型的后训练流水线是典型例子。在这些自适应设置中,单个训练观察既更新学习者又改变学习者将收集的未来数据分布。标准归因方法为静态数据集设计,忽略了这种反馈。本文通过条件干预目标正式化有限时间 horizon 自适应学习中的发生级归因,证明回放侧信息一般无法恢复它,并识别出一个结构类,在其中目标可以从日志数据中识别。

英文摘要:

Machine learning models increasingly generate their own training data -- online bandits, reinforcement learning, and post-training pipelines for language models are leading examples. In these adaptive settings, a single training observation both updates the learner and shifts the distribution of future data the learner will collect. Standard attribution methods, designed for static datasets, ignore this feedback. We formalize occurrence-level attribution for finite-horizon adaptive learning via a conditional interventional target, prove that replay-side information cannot recover it in general, and identify a structural class in which the target is identified from logged data.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑