How Do Recommendation Models Amplify Popularity Bias? An Analysis from the Spectral Perspective
Zhejiang University（浙江大学）；University of Science and Technology of China（中国科学技术大学）；Ant Group（蚂蚁集团）
本研究从谱视角分析推荐模型放大流行度偏差的根本原因，发现物品流行度被记忆在得分矩阵主谱且维度坍缩会加剧该偏差，进而提出基于谱范数正则化的去偏策略并通过实验验证其优越性。
2025-04-14 cs.AI cs.IR
Aligning Recommendations with User Popularity Preferences
University of Amsterdam（阿姆斯特丹大学）；Amazon Music（亚马逊音乐）
本文研究推荐系统中的流行偏差问题，提出基于激活引导的SPREE方法，通过量化用户历史流行偏好与推荐流行度的不匹配，提升用户层面的推荐对齐性。
2026-04-01 cs.AI cs.CY cs.IR
Debiasing the Cloze Task in Sequential Recommendation with Bidirectional Transformers
University of Louisville（路易斯维尔大学）；Amazon（亚马逊）；Meta
双向Transformer架构是最先进的顺序推荐模型，它使用基于完形填空任务的双向表示能力，也称为“完形填空”。屏蔽语言建模。后者旨在预测序列中随机掩蔽的项目。因为他们假设真正的互动项目是最相关的，暴露偏差的结果，其中具有低暴露倾向的非互动项目被认为是不相关的。最常见的方法，以减轻在建议的暴露偏差一直是逆倾向评分（IPS），其中包括降低权重的相互作用的预测在损失函数的比例，他们的暴露倾向，产生一个理论上无偏的学习。在这项工作中，我们认为，并证明IPS不扩展到顺序推荐，因为它没有考虑到问题的时间性质。然后，我们提出了一种新的倾向评分机制，理论上可以消除顺序推荐中完形填空任务的偏见。最后，我们实证证明了我们提出的方法的去偏置能力和它的鲁棒性的曝光偏差的严重程度。
2023-01-22 cs.IR cs.LG
A Missing Information Loss function for implicit feedback datasets
BBVA Data & Analytics（BBVA数据分析公司）
隐式反馈推荐系统的潜在因素模型通常将未观察到的用户-项目交互（即丢失信息）视为负反馈。这通常是通过负采样（逐点损失）或排序损失函数（成对或列表估计）来完成的。由于零偏好推荐是大多数常见目标函数的有效解决方案，因此将未知值视为实际零会导致用户对大多数可用项目具有零偏好推荐。在本文中，我们提出了一种新的目标函数，\emph{Missing Information Loss}（MIL），明确禁止治疗未观察到的用户项交互的积极或消极的反馈。我们将这种损失应用于传统的矩阵分解和基于用户的去噪自动编码器，并将其与其他已建立的目标函数进行比较，如交叉熵（点和成对）或最近提出的多项式对数似然。MIL在应用于三个数据集时，在排名感知指标方面取得了有竞争力的性能。此外，我们表明，这种相关性的建议，同时显示受欢迎的项目不太频繁（最多$20 \%$减少相对于最好的竞争方法）。这种对流行项目推荐的去偏倾向于不常见项目的出现（直到长尾推荐的$50 \%$增加），这对于具有大的产品目录的推荐系统是有价值的特征。
2018-08-16 cs.AI cs.IR cs.LG
Collaborative Reflection-Augmented Autoencoder Network for Recommender Systems
South China University of Technology（华南理工大学）；University of Hong Kong（香港大学）；Australian National University（澳大利亚国立大学）
随着深度学习技术已经扩展到现实世界的推荐任务，已经开发了许多基于深度神经网络的协同过滤（CF）模型，以基于各种神经架构（例如多层感知器、自动编码器和图神经网络）将用户-项目交互投影到潜在特征空间中。然而，大多数现有的协同过滤系统没有很好地设计来处理丢失的数据。特别是，为了在训练阶段注入负信号，这些解决方案在很大程度上依赖于从未观察到的用户-项目交互的负采样，并简单地将其视为负实例，这带来了推荐性能的下降。为了解决这些问题，我们开发了一个协作反射增强自动编码器网络（CRANet），它能够从观察到的和未观察到的用户-项目交互中探索可转移的知识。CRANet的网络架构是由一个反射受体网络和一个信息融合自动编码器模块组成的综合结构，它赋予了我们的推荐框架对交互和非交互项目的隐式用户成对偏好进行编码的能力。此外，基于参数正则化的捆绑权重方案被设计用于执行两阶段CRANet模型的鲁棒联合训练。最后，我们实验验证CRANet上的四个不同的基准数据集对应的两个推荐任务，去偏置的用户项目交互的负面信号，提高了性能相比，各种国家的最先进的推荐技术。我们的源代码可以在https://github.com/akaxlh/CRANet上找到。
2022-01-10 cs.AI cs.IR cs.LG
Causality-aware Graph Aggregation Weight Estimator for Popularity Debiasing in Top-K Recommendation
City University of Hong Kong（香港城市大学）；Dalian University of Technology（大连理工大学）
本文提出CAGED方法，通过理性建模图聚合过程缓解Top-K推荐中的流行度偏差，采用编码器-解码器架构优化交互可能性的证据下界，并设计动量更新策略提升早期训练效果。
2025-10-06 cs.IR cs.LG
PEARL: Unbiased Percentile Estimation via Contrastive Learning for Industrial-Scale Livestream Recommendation
TikTok（字节跳动）；ByteDance（字节跳动）
本文提出PEARL框架，通过对比学习方法解决用户行为不平衡问题，通过相对偏好信号建模提升推荐系统的性能和鲁棒性。
2026-05-20 cs.AI cs.LG
Debiasing Recommendation by Learning Identifiable Latent Confounders
Hong Kong University of Science and Technology（香港科技大学）；ByteDance Research（字节跳动研究院）；University of Virginia（弗吉尼亚大学）；Chongqing Univeristy（重庆大学）
针对推荐系统中未测量混杂因素引发的偏差及现有方法无法保证反事实反馈可识别的问题，提出基于近端因果推断的可识别去混杂器iDCF框架，经多数据集实验验证其有效性与鲁棒性。
2023-06-15 cs.IR cs.LG
Empowering Clinicians with Medical Decision Transformers: A Framework for Sepsis Treatment
Mila（米拉）；École de Technologie Supérieure（高等技术学院）；Université de Montréal（蒙特利尔大学）；CHU Sainte-Justine Hospital（圣贾斯汀医院中心）；University of Calgary（卡尔加里大学）
提出基于目标条件强化学习的医疗决策Transformer（MeDT）框架，利用急性程度评分解决稀疏奖励问题，在MIMIC-III数据集上实现可解释、个性化且由临床医生指导的脓毒症药物剂量推荐。
2024-07-28 cs.AI cs.LG
Clinical Decision Transformer: Intended Treatment Recommendation through Goal Prompting
Pohang University of Science and Technology (POSTECH)（浦项科技大学）；Korea University College of Medicine（高丽大学医学院）
随着近年来在需要上下文感知的任务中取得的成就，基础模型已被用于处理来自电子健康记录（EHR）系统的大规模数据。然而，先前的基于基础模型的临床推荐系统具有模仿临床医生的行为的有限目的，并且没有直接考虑缺失值的问题。在本文中，我们提出了临床决策Transformer（CDT），推荐系统，产生一系列的药物，以达到所需的范围内的临床状态作为目标提示。为此，我们进行了目标条件排序，它生成了预先设定未来目标状态的治疗历史的子序列，并训练CDT对达到该目标状态所需的顺序药物进行建模。对于在准入内和准入间的上下文嵌入，我们采用了基于GPT的架构，具有准入式注意掩码和列嵌入。在一个实验中，我们从EHR系统中提取了一个糖尿病数据集，其中包含4788名患者的治疗历史。我们观察到CDT根据目标提示范围（例如，NormalA1c、LowerA1c和HigherA1c），与行为克隆的情况相反。据我们所知，这是第一个从目标激励的角度探讨临床建议的研究。有关代码和其他信息，请参见https://clinical-decision-transformer.github.io。
2023-02-01 cs.AI
AutoDebias: Learning to Debias for Recommendation
University of Science and Technology of China（中国科学技术大学）；University of Glasgow（格拉斯哥大学）；Sun Yat-Sen University（中山大学）；Alibaba Group（阿里巴巴集团）
推荐系统依赖于用户行为数据，如评分和点击，以建立个性化模型。然而，收集的数据是观察性的，而不是实验性的，这会导致数据中的各种偏差，从而显著影响学习模型。大多数现有的推荐去偏工作，如逆倾向评分和插补方法，集中在一个或两个特定的偏见，缺乏通用的能力，可以解释混合的，甚至是未知的偏见的数据。针对这一研究空白，本文首先从表征预期经验风险与真实风险之差的\textit{risk discrepancy}的角度分析了偏差的来源。值得注意的是，我们得到了一个一般的学习框架，以及总结了大多数现有的去偏置策略，通过指定的一般框架的一些参数。这提供了一个宝贵的机会来开发一种通用的去偏置解决方案，例如，通过从数据学习去偏置参数。然而，训练数据缺乏数据如何有偏以及无偏数据看起来像什么的重要信号。为了推进这一想法，我们提出了\textit{AotoDebias}，它利用另一个（小）统一数据集来优化去偏参数，通过元学习解决双层优化问题。通过理论分析，我们得到了AutoDebias的推广界，并证明了它能够获得适当的去偏策略。在两个真实数据集和一个模拟数据集上的大量实验证明了AutoDebias的有效性。该代码可在\url{https://github.com/DongHande/AutoDebias}获得。
2021-10-28 cs.IR cs.LG
The Helicobacter pylori AI-Clinician: Harnessing Artificial Intelligence to Personalize H. pylori Treatment Recommendations
Imperial College London（帝国理工学院）；Hospital Universitario de La Princesa（拉普林塞萨大学医院）；Instituto de Investigación Sanitaria Princesa (IIS-Princesa)（普林塞萨健康研究所（IIS-Princesa））；Universidad Autónoma de Madrid (UAM)（马德里自治大学（UAM））；Centro de Investigación Biomédica en Red de Enfermedades Hepáticas y Digestivas (CIBEREHD)（肝脏与消化系统疾病生物医学研究网络中心（CIBEREHD））；Instituto Investigación Sanitaria INCLIVA (INCLIVA)（INCLIVA健康研究所（INCLIVA））；CIBERONC（CIBERONC癌症生物医学研究网络中心）；Hospital Clínico Universitario de Valencia（瓦伦西亚大学临床医院）；Universitat de Valencia（瓦伦西亚大学）；Yale University（耶鲁大学）
本文提出基于Hp-EuReg大规模患者数据训练的H. pylori AI-clinician，用于验证并生成个性化幽门螺杆菌治疗推荐，并揭示影响推荐的患者因素。
2024-12-07 cs.AI cs.LG q-bio.QM
Debias-CLR: A Contrastive Learning Based Debiasing Method for Algorithmic Fairness in Healthcare Applications
Wright State University（莱特州立大学）；Cincinnati Children’s Hospital Medical Center（辛辛那提儿童医院医疗中心）；Kairos Research LLC（Kairos Research有限责任公司）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文提出 Debias-CLR 对比学习去偏框架，利用 Clinical BERT 和 LSTM 自编码器分别提取临床文本与生命体征特征，在性别和族裔维度上学习公平表示，在不降低住院时长预测准确率的同时有效减轻医疗模型中的统计学偏见。
2024-11-20 cs.CY cs.LG
Echoes in Filter Bubble: Diagnosing and Curing Popularity Bias in Generative Recommenders
Department of Data Science and Artificial Intelligence, Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学）；School of Computer Science and Engineering, Central South University（计算机科学与工程学院，中南大学）；National Super Computing Center, Tianjin, China（国家超算中心，天津，中国）；Faculty of Data Science, City University of Macau（数据科学学院，澳门城市大学）；School of Information and Communication Technology, Griffith University（信息与通信技术学院，格里菲斯大学）
本文通过理论分析发现生成式推荐系统中的流行度偏差源于令牌级优化缺陷和物品分词的无差别性，并设计了非对称不相似度优化和基于骨架的分词方法（Ghost系统）来缓解偏差。
2026-05-28 cs.AI cs.IR
From Prediction to Incrementality: Causal Optimization for Large-Scale Targeting and Recommendation
LinkedIn（领英）
该研究针对大规模定向投放与推荐系统的资源错配问题，提出以决策为中心的因果优化框架，经实验验证可实现主要长期价值指标7.20%的统计显著提升，证明了生产规模因果优化的可行性。
2026-08-12 cs.AI cs.LG
CafeMed: Causal Attention Fusion Enhanced Medication Recommendation
Department of Computer Science and Engineering, Hanyang University（韩阳大学计算机科学与工程系）；Department of Applied Artificial Intelligence, Hanyang University（韩阳大学应用人工智能系）
针对现有药物推荐方法未建模医疗实体协同效应、静态因果关系无法适配患者个体状态的问题，本文提出融合动态因果推理与跨模态注意力的CafeMed框架，在MIMIC系列数据集上取得了更优的推荐准确率与更低的药物相互作用率。
2025-11-18 cs.AI cs.LG stat.ME
Addressing bias in Recommender Systems: A Case Study on Data Debiasing Techniques in Mobile Games
King（金氏公司）
针对移动游戏推荐系统数据偏差问题，本研究分析该领域现有研究缺口，评估多种去偏差技术在隐式反馈数据上的去偏差质量、数据需求及计算需求。
2024-11-27 cs.LG
Balancing Unobserved Confounding with a Few Unbiased Ratings in Debiased Recommendations
Peking University（北京大学）；University of Chinese Academy of Sciences（中国科学院大学）；University of California, San Diego（加州大学圣地亚哥分校）；Beijing Technology and Business University（北京工商大学）
本文提出一种模型无关的平衡方法，通过交替校正模型参数并自适应学习有偏样本平衡系数，以利用少量无偏评分对抗未观测混杂和模型设定错误，提升去偏推荐性能。
2023-04-17 cs.IR cs.LG
TDR-CL: Targeted Doubly Robust Collaborative Learning for Debiased Recommendations
Peking University（北京大学）；University of California, San Diego（加州大学圣地亚哥分校）；Beijing Technology and Business University（北京工商大学）
偏见是推荐系统中普遍存在的一个问题，它与用户的偏好纠缠在一起，对无偏学习提出了很大的挑战。对于去偏置任务，双鲁棒（DR）方法及其变体表现出优越的性能，由于双鲁棒性，即DR是无偏的，当估算误差或学习倾向是准确的。然而，我们的理论分析表明，DR通常有很大的方差。同时，由于不准确的估算误差和学习倾向，DR会出现意想不到的大偏差和泛化能力差，这在实践中是经常发生的。在本文中，我们提出了一个原则性的方法，可以有效地减少偏见和方差同时为现有的DR方法时，错误的插补模型是错误的。此外，我们还提出了一种新的半参数协作学习方法，将估算误差分解为参数和非参数部分，并协同更新它们，从而获得更准确的预测。理论分析和实验结果都表明了该方法相对于现有去偏方法的优越性。
2023-03-02 cs.IR cs.LG stat.ML
MONET: Debiasing Graph Embeddings via the Metadata-Orthogonal Training Unit
Google Research（谷歌研究院）
图神经网络（GNN）公平吗？在许多真实世界的图中，边的形成与某些节点属性（例如性别、社区、声誉）有关。在这种情况下，使用这些边的标准GNN将被这些信息所偏置，因为它被编码在邻接矩阵本身的结构中。在本文中，我们表明，当元数据与节点邻域的形成相关时，无监督的节点嵌入维学习该元数据。这种偏差意味着在现实世界的应用程序中无法控制重要的协变量，例如推荐系统。为了解决这些问题，我们引入了元数据正交节点嵌入训练（MONET）单元，这是一种用于消除图中节点嵌入的偏置的通用模型。MONET通过确保在与节点元数据正交的超平面上训练节点嵌入来实现这一点。这有效地将非结构化的嵌入维度组织成可解释的仅拓扑、仅元数据的划分，而没有线性交互。我们说明了MONET的有效性，通过我们的实验在各种现实世界的图，这表明，我们的方法可以学习和消除任意协变量的影响，如防止泄漏的博客网络中的政党从属关系，并挫败游戏的嵌入式推荐系统。
2020-02-25 cs.LG cs.SI stat.ML
Deep Attention Q-Network for Personalized Treatment Recommendation
Georgia Institute of Technology（佐治亚理工学院）
本文提出深度注意力Q网络，在深度强化学习框架中引入Transformer整合患者历史观察数据，用于个性化治疗推荐，并在脓毒症和急性低血压真实数据上验证其优于现有最优模型。
2023-07-04 cs.AI cs.LG
Modeling and Counteracting Exposure Bias in Recommender Systems
University of Louisville（路易斯维尔大学）
我们在网上发现和看到的东西，以及我们的观点和决定，越来越多地受到自动化机器学习预测的影响。同样，学习机器的预测准确性在很大程度上取决于我们提供给它们的反馈数据。这种相互影响可能导致闭环交互，这可能导致未知的偏差，在机器学习预测和用户反馈的多次迭代之后，这种偏差可能会加剧。机器造成的偏见有可能导致不良的社会影响，从两极分化到不公平和过滤泡沫。在本文中，我们研究了广泛使用的推荐策略，如矩阵分解固有的偏见。然后，我们模型的曝光，从用户和推荐系统之间的互动承担，并提出新的去偏置这些系统的策略。最后，我们试图减轻推荐系统的偏见工程解决方案的几个国家的最先进的推荐系统模型。我们的研究结果表明，推荐系统是有偏见的，并依赖于用户的事先曝光。我们还表明，研究的偏见迭代减少多样性的输出建议。我们的去偏置方法表明，需要考虑到曝光过程，以减少偏见的替代推荐策略。我们的研究结果表明，理解机器学习模型（如直接与人类交互的推荐系统）的性质并处理其中的偏见非常重要，因此对人类的发现和决策产生了越来越大的影响
2020-01-01 cs.IR cs.LG stat.ML
Information Theoretic Counterfactual Learning from Missing-Not-At-Random Feedback
Tsinghua University（清华大学）；Tencent（腾讯）；CNR（意大利国家研究委员会）
由于MNAR数据在现代推荐系统中无处不在，因此用于处理MNAR数据的反事实学习是推荐文献中一个有趣的话题。随机缺失（MAR）数据，即随机对照试验（RCT），通常需要大多数先前的反事实学习方法进行去偏学习。然而，在实践中，随机对照试验的执行成本极其昂贵。为了规避RCT的使用，我们建立了一个信息理论的反事实变分信息瓶颈（CVIB），作为一种替代方案，去偏置学习没有RCT。通过将原始信息瓶颈拉格朗日函数中的任务感知互信息项分解为事实和反事实部分，我们得到了一个对比信息损失和一个额外的输出置信度惩罚，从而促进了事实域和反事实域之间的平衡学习.对真实世界数据集的实证评估表明，我们的CVIB显着增强了浅层和深层模型，这揭示了超越RCT的建议中的反事实学习。
2020-10-17 cs.IR cs.LG stat.ME
Adaptive Data Debiasing through Bounded Exploration
Ohio State University（俄亥俄州立大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
用于训练算法决策规则的现有数据集中的偏见可能会引起伦理和经济问题，因为这会导致对不同群体的不同对待。我们提出了一种算法，通过自适应和有界探索在一个昂贵的和审查反馈的分类问题，顺序去偏置这样的数据集。在这种情况下，探索意味着决策者有时会在明智选择的程度上偏离其（当前）损失最小化规则，而是接受一些否则会被拒绝的个体，以减少统计数据偏差。我们提出的算法包括可用于在消除数据偏差的最终目标（这反过来又会导致更准确和公平的决策）与实现这一目标所带来的探索风险之间进行平衡的参数。我们分析表明，这样的探索可以帮助debias数据在某些分布。我们进一步研究如何公平的标准可以与我们的数据去偏置算法。我们说明了我们的算法使用合成和真实世界的数据集上的实验的性能。
2023-01-10 cs.CY cs.LG
Near-optimal Individualized Treatment Recommendations
Binghamton University, State University of New York（纽约州立大学宾汉姆顿大学）；Fred Hutchinson Cancer Research Center（弗雷德·哈钦森癌症研究中心）；Eli Lilly and Company（礼来公司）
个体化治疗推荐（ITR）是精准医疗的重要分析框架。我们的目标是根据患者的个人特征为他们分配适当的治疗。从机器学习的角度来看，ITR问题的解决方案可以被公式化为加权分类问题，以最大化患者从推荐的治疗中获得的平均益处。已经提出了几种方法ITR在二进制和多类别的治疗设置。在实践中，人们可能更喜欢有多种治疗选择的更灵活的建议。这促使我们开发方法来获得一组接近最佳的个体化治疗建议，称为替代个体化治疗建议（A-ITR）。我们提出了两种方法来估计最佳的A-ITR内的结果加权学习（OWL）的框架。我们证明了这些方法的一致性，并得到了理论上的最优推荐和估计之间的风险的上界。我们还进行了模拟研究，并将我们的方法应用于2型糖尿病患者注射降糖治疗的真实数据集。这些数值研究表明了拟议的A-ITR框架的有用性。我们开发了一个R包aitr，可以在https://github.com/menghaomiao/aitr上找到。
2020-04-06 cs.LG stat.ML
Adaptive Bounded Exploration and Intermediate Actions for Data Debiasing
Ohio State University（俄亥俄州立大学）；UC, Santa Cruz（加州大学圣克鲁兹分校）；UC, San Diego（加州大学圣迭戈分校）
本文提出通过自适应有界探索和低成本中间动作对训练数据进行顺序去偏的算法，以在降低探索风险的同时提升决策的准确性与公平性，并通过理论分析和数值实验验证其有效性。
2025-04-10 cs.LG
Prior-informed optimization of treatment recommendation via bandit algorithms trained on large language model-processed historical records
School of Industrial Engineering, College of Engineering, University of Tehran（工业工程学院，工程学院，德黑兰大学）
针对现有医疗忽略个体差异的问题，研究整合LLMs、CTGAN、T-learner与先验知情上下文老虎机构建系统，在III期结肠癌数据上KernelUCB表现优于参考方法，推进个体化医学发展。
2025-10-21 cs.AI cs.LG
Continuous Treatment Recommendation with Deep Survival Dose Response Function
本文提出 DeepSDRF 框架，从含混杂的临床生存观测数据中学习 CADR 函数，并结合随机搜索或强化学习构建经选择偏倚校正的连续治疗推荐方法。
2023-09-26 cs.AI cs.LG econ.EM
SAFER: A Calibrated Risk-Aware Multimodal Recommendation Model for Dynamic Treatment Regimes
University of Pennsylvania（宾夕法尼亚大学）；Rutgers University（罗格斯大学）
针对动态治疗方案中标签不确定、数据模态单一及安全保障不足的问题，提出融合结构化EHR与临床笔记的SAFER框架，并用保形预测过滤风险，实验证明其推荐效果与安全性更优。
2025-06-07 cs.LG stat.ML
Debiasing Machine Learning Predictions for Causal Inference Without Additional Ground Truth Data: "One Map, Many Trials" in Satellite-Driven Poverty Analysis
本文提出两种无需额外数据的后处理方法，用于减少机器学习预测中的收缩偏见，从而提升因果推断的准确性，适用于贫困分析等多领域应用。
2025-12-12 cs.LG stat.ML
Epsilon non-Greedy: A Bandit Approach for Unbiased Recommendation via Uniform Data
Sharif University of Technology（谢里夫理工大学）
针对推荐系统持续训练引发的自反馈循环偏差问题，提出基于上下文多臂老虎机的Epsilon non-Greedy框架，用少量均匀数据学习无偏估计量并优化后续训练数据，结合新离线序列训练模式，实验证明其优于现有去偏方法。
2023-10-07 cs.LG
Cross Pairwise Ranking for Unbiased Item Recommendation
University of Science and Technology of China（中国科学技术大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
大多数推荐系统在观察到的交互数据上优化模型，这受到先前曝光机制的影响，并表现出许多偏差，如流行度偏差。损失函数，如最常用的逐点二进制交叉熵和成对贝叶斯个性化排名，是不是设计来考虑观察数据中的偏差。因此，在损失上优化的模型将继承数据偏差，甚至更糟，放大偏差。例如，一些受欢迎的项目占用了越来越多的曝光机会，严重损害了利基项目的推荐质量-被称为臭名昭著的马修效应。在这项工作中，我们开发了一种新的学习范式，称为交叉配对排名（CPR），实现无偏见的建议，而不知道曝光机制。与反向倾向评分（IPS）不同，我们改变了样本的损失项-我们创新地对多个观察到的相互作用进行一次采样，并将损失作为其预测的组合。我们从理论上证明了这种方法抵消了用户/项目倾向对学习的影响，消除了由暴露机制引起的数据偏差的影响。与IPS相似，我们提出的CPR确保了每个训练实例的无偏学习，而无需设置倾向分数。实验结果表明，CPR优于国家的最先进的去偏的解决方案，在模型的泛化和训练效率。这些代码可在www.example.com上获得。
2022-04-26 cs.IR cs.LG
Asymmetric Tri-training for Debiasing Missing-Not-At-Random Explicit Feedback
Tokyo Institute of Technology（东京工业大学）
在大多数真实世界的推荐系统中，观察到的评级数据受到选择偏差的影响，因此数据是非随机丢失的。开发一种方法，以促进学习的推荐与偏见的反馈是最具挑战性的问题之一，因为它是众所周知的，天真的方法下选择偏见往往会导致次优的结果。这个问题的一个行之有效的解决方案是使用倾向评分技术。倾向得分是每个数据被观察到的概率，并且通过用其倾向的倒数对每个数据进行加权，可以进行无偏的性能估计。然而，基于倾向的无偏估计方法的性能往往受到倾向估计模型的选择或高方差问题的影响。为了克服这些局限性，我们提出了一个模型无关的元学习方法的启发非对称三训练框架的无监督领域自适应。该方法利用两个预测器生成具有可靠伪评级的数据，另一个预测器进行最终预测。在理论分析中，一个倾向独立的上界的真实性能指标的推导，它表明，所提出的方法可以最小化这个界限。我们使用公开的真实世界数据集进行全面的实验。研究结果表明，以往的基于倾向的方法在很大程度上受到倾向模型的选择和反向倾向加权引起的方差问题的影响。此外，我们表明，所提出的元学习方法对这些问题是鲁棒的，可以促进从有偏见的显式反馈中制定有效的建议。
2020-06-02 cs.IR cs.LG cs.SI
SupervisorBot: NLP-Annotated Real-Time Recommendations of Psychotherapy Treatment Strategies with Deep Reinforcement Learning
Columbia University（哥伦比亚大学）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
我们提出了一个建议系统，建议治疗策略的治疗师在心理治疗会话期间在实时的【形】。我们的系统使用了一个回合级别评级机制，通过计算评分清单的深度嵌入和患者正在说话的当前句子之间的相似性得分来预测治疗结果。该系统自动转录一个连续的音频流，并将其分为轮流的病人和治疗师，并执行实时的【形】推理他们的治疗工作联盟。然后，将对话对及其计算出的工作联盟作为评级馈送到深度强化学习推荐系统中，在该系统中，会话被视为用户，主题被视为项目。除了评估现有心理治疗会话数据集的核心组件的经验优势外，我们还在Web应用程序中展示了该系统的有效性。
2022-10-29 cs.AI cs.CL cs.HC
A Disease Diagnosis and Treatment Recommendation System Based on Big Data Mining and Cloud Computing
Hunan University（湖南大学）；National Supercomputing Center in Changsha（国家超级计算长沙中心）；Comsats Institute of Information Technology（COMSATS信息技术学院）；The second affiliated hospital of Xi’an Jiaotong University（西安交通大学第二附属医院）；State University of New York（纽约州立大学）
根据疾病不同阶段的不同症状提供相应的治疗方案至关重要。然而，大多数分类方法可能无法准确分类具有多治疗阶段，多种症状和多发病机制的疾病。此外，不同部门和医院之间在疾病诊断和治疗方面的交流和合作行动有限。因此，当新的疾病出现非典型症状时，经验不足的医生可能难以迅速准确地识别它们。因此，为了最大限度地利用发达医院的先进医疗技术和经验丰富的医生的丰富的医学知识，疾病诊断和治疗建议系统（DDTRS），本文提出。首先，为了更准确地有效地识别疾病症状，引入密度峰值聚类分析（DPCA）算法进行疾病症状聚类。此外，分别采用Apriori算法对疾病诊断（D-D）规则和疾病治疗（D-T）规则进行关联分析。适当的诊断和治疗方案建议患者和经验不足的医生，即使他们是在一个有限的治疗环境。此外，为了达到高性能和低延迟响应的目标，我们使用Apache Spark云平台实现了DDTRS的并行解决方案。大量的实验结果表明，所提出的DDTRS有效地实现了疾病症状聚类，并智能和准确地得出疾病治疗建议。
2018-10-17 cs.LG stat.ML
Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP
The University of Melbourne（墨尔本大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
现代NLP系统表现出一系列的偏差，越来越多的关于模型去偏的文献试图纠正这些偏差。然而，目前的进展是阻碍了偏见的多种定义，量化手段，往往是模糊的关系去偏算法和偏置的理论措施。本文旨在澄清现状，并制定一个有意义的进展，在公平学习的过程中，有两个关键的贡献：（1）明确目前的各种方法之间的相互关系，以及它们与公平理论的关系;（2）解决模型选择的实际问题，这涉及公平性和准确性之间的权衡，并导致公平性研究的系统性问题。综合这些建议，我们提出了一些建议，以帮助塑造未来的工作。
2023-02-11 cs.CL cs.CY cs.LG
Dual Control Memory Augmented Neural Networks for Treatment Recommendations
Applied AI Institute, Deakin University（迪肯大学应用人工智能研究所）
机器辅助治疗建议有望减少医生的时间和决策错误。我们将任务制定为序列到序列预测模型，该模型将整个时间顺序的病史作为输入，并预测未来临床程序和药物的序列。它是建立在一个有效的治疗计划可能有长期的依赖性，从以前的病史的前提。我们的方法的问题，通过使用记忆增强神经网络，特别是利用最近的可微神经计算机，由一个神经控制器和一个外部存储器模块。但与原始模型不同的是，我们使用双控制器，一个用于编码的历史，其次是另一个解码的治疗序列。在编码阶段，随着新输入的读取，记忆会更新;在这个阶段结束时，记忆不仅保存了病史，还保存了有关当前疾病的信息。在解码阶段，存储器是写保护的。解码控制器生成治疗序列，每次一个治疗选项。由此产生的双控制器写保护的内存增强神经网络证明了MIMIC-III数据集上的两个任务：程序预测和药物处方。结果表明，改进的性能比传统的词袋和序列到序列的方法。
2018-02-11 cs.LG stat.ML
Precision Radiotherapy via Information Integration of Expert Human Knowledge and AI Recommendation to Optimize Clinical Decision Making
University of Michigan（密歇根大学）；H. Lee Moffitt Cancer Center & Research Institute（H·李·莫菲特癌症中心与研究所）
在精准医学时代，对精准放射治疗的需求日益增长，其中需要通过考虑大量患者特定信息来最佳地确定计划的辐射剂量，以确保治疗效果。现有的人工智能（AI）方法可以在这些可用信息的范围内推荐辐射剂量处方。然而，由于已知的限制，或者当AI建议可能超出医生的现有知识时，治疗医生可能不会完全委托AI推荐的处方。本文提出了一种系统的方法，将人类专家知识与人工智能建议相结合，以优化临床决策。为了实现这一目标，将高斯过程（GP）模型与深度神经网络（DNN）集成，以分别量化医生和AI建议给出的治疗结果的不确定性，这些不确定性进一步用作指导临床医生和提高AI模型性能的指南。所提出的方法在一个全面的数据集中得到了证明，在该数据集中，前瞻性地收集了$67$非小细胞肺癌患者放疗期间的患者特定信息和治疗结局，并进行了回顾性分析。
2022-02-09 cs.AI cs.LG stat.ML
REST: Debiased Social Recommendation via Reconstructing Exposure Strategies
Guangdong University of Technology（广东工业大学）；Peng Cheng Laboratory（鹏城实验室）；Tufts University（塔夫茨大学）；Tencent Technology (SZ) Co., Ltd.（腾讯科技（深圳）有限公司）
推荐系统依靠历史观测数据来建模用户和项目之间的复杂关系，在实际应用中取得了巨大的成功。选择偏差是现有基于观测数据的方法中最重要的问题之一，它实际上是由多种类型的未观测暴露策略（例如促销和假期效应）引起的。虽然已经提出了各种方法来解决这个问题，他们主要依赖于隐式去偏置技术，而不是显式建模的未观察到的曝光策略。通过显式重构暴露策略（Reconstructing Exposure Strategies，简称REST），我们将推荐问题形式化为反事实推理，并提出了去偏见的社会推荐方法。在REST中，我们假设一个项目的暴露是由潜在暴露策略、用户和项目控制的。基于上述生成过程，我们首先通过辨识分析为我们的方法提供了理论保证。其次，我们采用变分自动编码器，重建潜在的曝光策略，在社交网络和项目的帮助下。第三，我们设计了一个基于反事实推理的推荐算法，利用恢复的曝光策略。在四个真实世界的数据集上进行的实验，包括三个已发布的数据集和一个私人微信公众号数据集，证明了几种最先进的方法的显着改进。
2022-01-13 cs.LG
From Observational Data to Clinical Recommendations: A Causal Framework for Estimating Patient-level Treatment Effects and Learning Policies
Faculty of Data and Decision Sciences, Technion（数据与决策科学学院，技术ion）；Blavatnik School of Computer Science, Tel-Aviv University（Blavatnik计算机科学学院，特拉维夫大学）；Department of Cardiology, Rambam Health Care Campus（心内科部，拉马姆医疗中心）；The Bruce Rappaport Faculty of Medicine, Technion（布鲁斯·拉帕波特医学院，技术ion）；Department of Statistics and Operations Research, School of Mathematical Sciences, Tel Aviv University（统计与运筹学部，数学科学学院，特拉维夫大学）
本文提出一个构建患者特定治疗推荐模型的因果框架，整合现有方法形成实用流程，并在心力衰竭伴急性肾损伤患者的真实用例中验证了其能改善预后。
2025-07-16 cs.LG stat.AP stat.ML
What Do We Care About in Bandits with Noncompliance? BRACE: Bandits with Recommendations, Abstention, and Certified Effects
Grouplang
BRACE算法针对非合规带隙问题，通过结构区间和固定间隙识别，实现推荐和治疗政策的有效性与稳定性。
2026-03-10 cs.LG stat.ML
Mind the Gap: Optimal and Equitable Encouragement Policies
Department of Data Sciences and Operations, University of Southern California（数据科学与运营系，南加州大学）
本文研究了在人类不遵循治疗建议的情况下，如何通过个性化决策问题设计最优且公平的鼓励政策，考虑响应性和治疗效果，并在预算和访问限制下提出可操作的政策特征。
2026-04-22 cs.LG stat.ML
Supervised Reinforcement Learning with Recurrent Neural Network for Dynamic Treatment Recommendation
East China Normal University（华东师范大学）；Georgia Tech（佐治亚理工学院）
基于大规模电子健康记录的动态治疗推荐系统成为成功改善实际临床结果的关键。先前的相关研究推荐使用监督学习（例如，匹配指示医生处方的指示信号）或强化学习（例如，最大化指示来自存活率的累积奖励的评估信号）的治疗。然而，这些研究都没有考虑将监督学习和强化学习的好处结合起来。在本文中，我们提出了监督强化学习与循环神经网络（SRL-RNN），它融合到一个协同学习框架。具体来说，SRL-RNN应用了一个非策略的行动者-批评者框架来处理多种药物、疾病和个体特征之间的复杂关系。通过指标信号和评价信号对框架中的“行动者”进行调整，以确保有效的处方和低死亡率。RNN被进一步用于解决部分观测马尔可夫决策过程（POMDP）问题，这是由于在现实世界中缺乏完全观测的状态。在公开的真实世界数据集上的实验，即，MIMIC-3，说明我们的模型可以降低估计的死亡率，同时提供了有前途的准确性匹配医生的处方。
2018-09-17 cs.LG stat.ML
A Deep Active Survival Analysis Approach for Precision Treatment Recommendations: Application of Prostate Cancer
Wayne State University（韦恩州立大学）
生存分析已被开发并应用于许多领域，包括制造业，金融，经济和医疗保健。在医疗领域，通常临床数据是高维的，稀疏的和复杂的，有时存在少量的时间到事件（标记）的实例。因此，从电子健康记录中构建准确的生存模型是具有挑战性的。有了这个动机，我们解决了这个问题，并提供了一个新的生存分析框架，使用深度学习和主动学习与一个新的采样策略。首先，我们的方法使用标记（事件发生时间）和未标记（删失）实例从临床特征中提供更低维度的更好表示，然后通过使用Oracle标记删失数据来主动训练生存模型。作为一个临床辅助工具，我们介绍了一个简单有效的治疗推荐方法的基础上，我们的生存模型。在实验研究中，我们将我们的方法应用于非裔美国人和白人患者中与前列腺癌相关的SEER医疗保险数据。结果表明，我们的方法优于基线模型显着。
2018-04-10 cs.CY cs.LG stat.ML
The Engagement-Diversity Connection: Evidence from a Field Experiment on Spotify
MIT Sloan School of Management（麻省理工学院斯隆管理学院）；Spotify, Inc.（Spotify公司）
个性化推荐是否会增加或减少人们消费的内容的多样性仍然是个未知数。我们从Spotify上的随机现场实验中获得了结果，该实验测试了个性化推荐对消费多样性的影响。在实验中，对照组和治疗组的用户都得到了播客推荐，唯一的目的是增加播客消费。治疗用户的推荐是基于他们的音乐收听历史来个性化的，而对照用户则是在他们的人口统计组中推荐流行的播客。我们发现，平均而言，治疗增加了播客流28.90%。然而，这种处理也使播客流的平均个体水平多样性降低了11.51%，并使播客流的总体多样性增加了5.96%，这表明个性化推荐有可能创造出用户内部同质而用户之间多样的消费模式，这种模式反映了个性化。我们的研究结果提供了一个“成就多样性权衡”的证据时，建议进行优化，只是为了推动消费：虽然个性化的建议增加用户参与度，他们也会影响消费内容的多样性。消费多样性的这种转变会影响用户留存率和终身价值，并影响内容生产商的最佳策略。我们还观察到证据表明，我们的治疗影响了Spotify应用程序中不受实验直接影响的部分的流，这表明接触个性化推荐可以影响用户有机消费的内容。我们认为，这些发现强调了学术界和从业者需要继续投资于明确考虑推荐内容多样性的个性化方法。
2020-03-17 cs.HC cs.LG cs.SI
Evaluating covariate balance for long time horizon Markov decision processes
研究在离线强化学习用于得出最优治疗建议时隐藏混杂因素/模型错误指定情况，采用协变量平衡诊断，发现现有研究有偏差风险或评估指标不足，结论给出未来使离线RL在治疗建议应用更稳健的研究方向。
2026-09-15 cs.LG
Causal Disentanglement with Network Information for Debiased Recommendations
Arizona State University（亚利桑那州立大学）；City University of Hong Kong（香港城市大学）
推荐系统的目标是通过学习用户和项目的表示来向用户推荐新的项目。在实践中，这些表示是高度纠缠的，因为它们包括关于多个因素的信息，包括用户的兴趣，项目属性以及诸如用户一致性和项目流行度之类的混淆因素。考虑这些纠缠的表示来推断用户偏好可能导致有偏见的推荐（例如，当推荐器模型推荐流行项目时，即使它们不符合用户的兴趣）。最近的研究建议从因果关系的角度来建立推荐系统的模型。暴露和评级分别类似于因果推理框架中的治疗和结局。这种情况下的关键挑战是解释隐藏的混杂因素。这些混杂因素未被观察到，因此很难对其进行测量。另一方面，由于这些混杂因素会影响曝光率和评级，因此在生成无偏见推荐时必须考虑到它们。为了更好地近似隐藏的混杂因素，我们建议利用网络信息（即，用户-社交和用户-项目网络），其被示出影响用户如何发现项目并与项目交互。除了用户一致性，混淆的方面，如项目的流行程度存在于网络信息中也被捕获在我们的方法的帮助下，\textit{causal disentanglement}解开学习表示成独立的因素，负责（a）建模项目的暴露给用户，（b）预测的评级，和（c）控制隐藏的混杂因素。在真实数据集上的实验验证了该模型在去偏推荐系统中的有效性。
2022-04-14 cs.IR cs.LG stat.ML
Heterogeneous treatment effect estimation with subpopulation identification for personalized medicine in opioid use disorder
The Ohio State University（俄亥俄州立大学）
针对现有深度学习治疗效应估计忽略亚组异质性的问题，提出整合亚组识别与效应估计的SubgroupTE框架，在合成数据和OUD真实数据集上均表现更优，可助力个体化治疗推荐。
2024-01-30 cs.LG
Are causal effect estimations enough for optimal recommendations under multitreatment scenarios?
Western University（西安大略大学）；Universidad Nacional de Colombia（哥伦比亚国立大学）
针对多处理场景下仅靠因果效应估计不足以实现最优决策的问题，本研究引入估计不确定性、预测准则等额外条件，结合倾向得分模型保障重叠假设，提出多处理选择综合方法，在信用卡额度调整场景中验证了其能显著提升策略性能。
2024-10-07 cs.LG stat.ML
Towards Out-of-Distribution Sequential Event Prediction: A Causal Treatment
Shanghai Jiao Tong University（上海交通大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Shanghai AI Laboratory（上海人工智能实验室）
序列事件预测的目标是基于一系列历史事件来估计下一个事件，其应用于序列推荐、用户行为分析和临床治疗。在实践中，下一事件预测模型是用一次收集的序列数据训练的，并且需要推广到遥远未来新到达的序列，这要求模型处理从训练到测试的时间分布偏移。在本文中，我们首先从数据生成的角度揭示了一个负面的结果，即现有的最大似然估计方法由于潜在的上下文混淆而导致分布偏移失败，即，历史事件和下一个事件的共同原因。然后，我们设计了一个基于后门调整的新学习目标，并进一步利用变分推理使其易于处理序列学习问题。最重要的是，我们提出了一个框架与层次分支结构学习上下文特定的表示。针对不同任务的综合实验（例如，顺序推荐）证明了我们的方法的有效性，适用性和可扩展性与各种现成的模型作为骨干。
2023-01-15 cs.IR cs.LG
Incentivizing Compliance with Algorithmic Instruments
University of Minnesota（明尼苏达大学）；Microsoft Research（微软研究院）；Carnegie Mellon University（卡内基梅隆大学）
由于参与者的潜在不依从性，随机实验可能容易受到选择偏倚的影响。虽然大部分现有的工作已经研究了遵守作为一个静态的行为，我们提出了一个博弈论模型来研究遵守的动态行为，可能会随着时间的推移而改变。在回合中，社交计划者与一系列异质代理交互，这些代理以其未观察到的私有类型到达，该私有类型确定他们在动作中的先前偏好（例如，对照组和治疗组）和他们的基线奖励而不进行任何治疗。规划者为每个代理提供一个随机的建议，可以改变他们的信念和行动选择。我们开发了一种新的推荐机制，认为规划师的建议作为一种形式的工具变量（IV），只影响代理的行动选择，但不观察到的奖励。我们通过仔细映射历史-规划者和先前代理之间的交互-到随机推荐来构建这样的IV。尽管最初的代理人可能完全不合规，但我们的机制可以随着时间的推移激励合规性，从而能够估计每次治疗的治疗效果，并最大限度地减少目标是确定最佳治疗的计划者的累积遗憾。
2021-07-28 cs.GT cs.LG
Optimizing Digital Therapeutic Interventions: Online Learning under Endogenous Adherence
Department of Industrial and Systems Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校工业与系统工程系）；College of Health Solutions, Arizona State University（亚利桑那州立大学健康解决方案学院）
针对慢性病数字治疗中患者依从性受推荐和过去依从性影响的问题，提出一个包含线性动力系统和logit链接的决策支持框架，并设计基于乐观主义的UCB-BOLD算法实现亚线性遗憾。
2026-05-22 cs.LG cs.SY eess.SY
Why Adaptively Collected Data Have Negative Bias and How to Correct for It
Stanford University（斯坦福大学）
从科学实验到在线A/B测试，先前观察到的数据往往会影响未来实验的执行方式，进而影响将收集哪些数据。这种适应性在数据和收集程序之间引入了复杂的关联。本文证明了当数据采集过程满足自然条件时，数据的样本均值具有系统性\emph{negative}偏差。作为一个例子，考虑一个适应性临床试验，其中更多的数据点更有可能被测试用于显示初步前景的治疗。我们令人惊讶的结果意味着观察到的平均处理效应会低估每种处理的真实效果。我们定量地分析了在各种环境中这种负偏差的大小和行为。我们还提出了一种新的基于选择性推理技术的去偏置算法。实验结果表明，该方法能有效地减小偏差和估计误差。
2017-12-30 cs.LG stat.ML
The Deconfounded Recommender: A Causal Inference Approach to Recommendation
Columbia University（哥伦比亚大学）；Netflix Inc.（奈飞公司）；Mila；HEC Montréal（蒙特利尔高等商学院）
推荐的目标是向用户展示他们喜欢的项目。虽然通常被框定为预测，但推荐的精神是回答一个介入性的问题-对于每个用户和电影，如果我们“强迫”用户观看电影，评分会是多少？为此，我们开发了一种因果推荐方法，其中观看电影是一种“治疗”，用户的评级是一种“结果”。“问题是可能存在未观察到的混杂因素，这些变量影响用户观看的电影以及他们如何评价它们;未观察到的混杂因素阻碍了观察数据的因果预测。为了解决这个问题，我们开发了去基推荐器，一种使用经典推荐模型进行因果推荐的方法。在Wang & Blei [23]之后，去基推荐器涉及两个概率模型。第一个模型是用户观看的电影;它为未观察到的混杂因素提供了替代品。第二个模型模拟每个用户如何评价每部电影;它使用替代品来帮助解释混淆因素。这种两阶段方法消除了由于混淆而导致的偏倚。它改善了推荐，并在测试集上具有稳定的性能。
2019-05-27 cs.IR cs.LG stat.ML
