Doubly robust inference via calibration
University of Washington(华盛顿大学);Stanford University(斯坦福大学);Harvard Medical School(哈佛医学院);Harvard University(哈佛大学)
该研究针对双重稳健推断中渐近正态性对两个干扰函数收敛速度的要求不匹配问题,提出校准去偏机器学习(DML)方法,结合 isotonic 回归调整,实现双重稳健渐近正态性,在半合成基准数据中表现更优。
2026-08-24 math.ST stat.ME stat.ML
On Varieties of Doubly Robust Estimators Under Missingness Not at Random With a Shadow Variable
假设我们感兴趣的是一个非随机缺失的结果变量的均值。然而,假设我们有一个完全可观察的影子变量,它与结果相关,但独立于以协变量和可能未观察到的结果为条件的缺失过程。这样的变量可能是一个代理或所有个人可用的结果的错误测量版本。我们以前已经建立了充要条件的充分必要条件,在这样一个设置的充分数据法的识别,并描述了半参数估计,包括一个双稳健估计的结果。在这里,我们提出了两个替代的双重稳健估计的结果意味着,这可能被视为类似的方法随机缺失下的扩展,但享受不同的属性。我们通过简单的拟合优度测试来评估所需工作模型的正确性。
2016-01-25 math.ST stat.TH
Doubly Robust Semiparametric Inference Using Regularized Calibrated Estimation with High-dimensional Data
考虑半参数估计,其中低维参数的双稳健估计函数可用,取决于两个工作模型。对于高维数据,我们开发了正则化校准估计作为估计两个工作模型中的参数的一般方法,使得如果两个工作模型中的任一个被正确指定,则可以在适当的稀疏条件下获得感兴趣的参数的有效Wald置信区间。我们提出了一个计算上易于处理的两步算法,并提供了严格的理论分析,证明了足够快的收敛速度的正则化校准估计,尽管顺序建设,并建立了所需的渐近扩展的双重鲁棒估计。作为具体的例子,我们讨论了部分线性,对数线性和逻辑模型和估计的平均处理效应的应用。在前三个例子的数值研究表明,我们的方法优越的性能相比,去偏Lasso。
2020-09-25 stat.ME
A Permutation-based Model for Crowd Labeling: Optimal Estimation and Robustness
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
随着众包平台和大规模数据集的出现,聚合和去噪众包标记数据的任务变得越来越重要。我们提出了一个基于置换的人群标记数据模型,这是一个显着的推广经典Dawid-Skene模型,并引入了一个新的误差度量,通过它来比较不同的估计。我们推导出全局极小极大速率的置换为基础的模型,是尖锐的对数因子,并匹配的极小极大下界下得到的更简单的Dawid-Skene模型。然后,我们设计了两个计算效率高的估计:WAN估计的设置,其中工人的能力方面的排序是近似已知的,和OBI-WAN估计,这是未知的。对于每一个这些估计,我们提供了非渐近界的性能。我们对真实世界的众包数据进行了合成模拟和实验,实验结果证实了我们的理论研究结果。
2021-01-10 cs.AI cs.IT cs.LG
Doubly Robust Inference with Non-probability Survey Samples
当相关辅助信息可从概率调查样本中获得时,我们建立了非概率调查样本统计推断的一般框架。我们开发了一个严格的程序,估计倾向得分的单位在非概率样本,并构造双重稳健估计的有限总体均值。方差估计讨论下提出的框架。仿真研究的结果表明,我们提出的估计与现有的方法相比,鲁棒性和效率。所提出的方法是用来分析一个非概率调查样本收集的皮尤研究中心的辅助信息,从行为风险因素监测系统和当前的人口调查。我们的研究结果说明了一个一般的方法来推断与非概率样本和突出的重要性和有用的辅助信息的概率调查样本。
2018-05-16 stat.ME
Automatic Doubly Robust Forests
Stanford University(斯坦福大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出自动双重稳健随机森林DRRF,将基于Riesz表示子的自动去偏扩展到条件矩泛函估计,证明其一致性与渐近正态性,并在HTE模拟中展现更优精度、稳健性和计算效率。
2025-06-08 cs.LG econ.EM math.ST
Robust boundary detection and density estimation using doubly stochastic scaling of the Gaussian kernel
Princeton University(普林斯顿大学);Halicioğlu Data Science Institute, UC San Diego(UC圣地亚哥哈尔西奥卢数据科学研究所);Department of Mathematics, UC San Diego(UC圣地亚哥数学系)
本文提出了一种基于双随机缩放高斯热核的鲁棒边界检测和密度估计方法,通过模拟验证其在噪声环境下优于传统高斯核方法。
2026-04-02 math.DG math.ST stat.TH
Optimal Stopping and Worker Selection in Crowdsourcing: an Adaptive Sequential Probability Ratio Test Framework
本文在贝叶斯序贯决策框架下研究了一类多重检验问题。我们的激励应用程序来自于众包中的二元标签任务,请求者需要同时决定选择哪个工人提供标签,以及在一定的预算限制下何时停止收集标签。我们从二元假设检验问题开始,以确定单个对象的真实标签,并通过将其投射到自适应序贯概率比检验(Ada-SPRT)框架下来提供最优解决方案。我们描述了最优解的结构,即,最优自适应序贯设计,通过对数似然比统计量最小化贝叶斯风险。我们还开发了一个动态规划算法,可以有效地近似最优解。对于多重检验问题,我们进一步提出了采用经验贝叶斯方法估计类先验,并表明我们的方法具有平均损失,收敛到最小的贝叶斯风险下的真实模型。模拟和真实数据的实验表明,我们的方法的鲁棒性和优越性,在标记精度相比,其他几个最近提出的方法。
2017-08-28 stat.ME
Doubly robust tests of exposure effects under high-dimensional confounding
在变量选择之后,回归参数的标准推断程序可能不是一致有效的;没有有限的样本量来保证标准检验近似达到其标称量。这个问题在高维环境中更加严重,变量选择变得不可避免。这促使了一系列的活动,为高维模型中的低维回归参数(例如,暴露A对结果Y的因果影响)开发一致有效的假设检验。到目前为止,对模型误指定的关注有限,尽管这在高维环境中是不可避免的。我们提出了测试的空,稀疏性条件下,弱于通常在文献中调用的一致有效,假设工作模型的曝光和结果都正确指定。当其中一个模型被错误指定时,通过修改估计滋扰参数的程序,我们的测试仍然有效,因此它们具有双重鲁棒性。我们的建议是直接使用现有的软件惩罚极大似然估计,不需要样本分裂。我们说明他们在模拟和分析从根特大学重症监护病房获得的数据。
2020-07-06 stat.ME
Doubly Robust Machine Learning for Population Size Estimation with Missing Covariates: Application to Gaza Conflict Mortality
Center for Data Science New York University(纽约大学数据科学中心);Department of Statistics & Data Science Carnegie Mellon University(卡内基梅隆大学统计与数据科学系);Department of Medical Statistics London School of Hygiene and Tropical Medicine(伦敦卫生与热带医学院医学统计学系)
本文提出了一种基于双重稳健机器学习的方法,用于在存在缺失协变量时估计群体规模,应用于加沙冲突死亡率的重新估计,结果显示比传统方法更保守且精确。
2026-02-10 stat.ME
Evaluating LLM-Contaminated Crowdsourcing Data Without Ground Truth
DIMACS, Rutgers University(Rutgers大学DIMACS研究中心)
本文针对众包标注中LLM作弊问题,提出一种基于同伴预测的免训练评分机制,在无真值条件下利用工作者答案间相关性检测LLM污染,并给出理论保证与实证验证。
2025-11-06 cs.AI cs.GT cs.HC
Mitigating Observation Biases in Crowdsourced Label Aggregation
Kyoto University(京都大学)
众包已经被广泛用于以低成本从大量人力资源高效地获得用于监督学习的标记数据集。然而,从众包中获得高质量结果的技术挑战之一是处理由人类执行工作的事实引起的可变性和偏差,各种研究已经解决了这个问题,通过整合冗余收集的响应来提高质量。在这项研究中,我们专注于众包中的观察偏差。工人响应的频率和任务的复杂性发生变化,这可能会影响聚合结果,当它们与响应的质量相关时。我们还提出了众包响应的统计聚合方法,该方法与因果推断中使用的观测数据偏差消除方法相结合。通过使用合成和真实数据集与/不人工注入垃圾邮件和串通工人的实验,我们验证了所提出的方法提高了聚合精度存在较强的观察偏差和鲁棒性的垃圾邮件和串通工人。
2023-02-25 cs.HC cs.LG
Inference Aided Reinforcement Learning for Incentive Mechanism Design in Crowdsourcing
Nanyang Technological University(南洋理工大学);University of California, Los Angeles(加州大学洛杉矶分校);Harvard University(哈佛大学)
众包的激励机制旨在激励在经济上自利的工作者制作和报告高质量的标签。现有的机制通常是作为一次性静态解决方案开发的,假设对工作者模型有一定程度的了解(专业知识水平,努力的成本等)。在本文中,我们提出了一种新的推理辅助强化机制,它可以学习顺序地激励高质量的数据,并且不需要这样的先验假设。具体来说,我们首先设计了一个吉布斯抽样增强贝叶斯推理算法估计工人的标签策略,从收集的标签在每一步。然后,我们提出了一种强化激励学习(RIL)方法,建立在上述估计的基础上,以揭示工人对不同报酬的反应。RIL动态确定付款,而无需访问任何地面实况标签。我们从理论上证明了RIL能够激励理性的工人提供高质量的标签。实证结果表明,我们的机制表现一贯良好的理性和非完全理性(自适应学习)的工人模型。此外,与现有的一次性机制相比,RIL提供的付款更稳健,差异更小。
2018-06-01 cs.GT cs.HC cs.LG
Crowdsourcing Gaze Data Collection
在许多图像和视频应用程序中,了解人们的视线位置是一个有用的工具。然而,传统的注视跟踪硬件是昂贵的,并且需要本地研究参与者,因此从大量参与者获取注视位置数据是非常有问题的。在这项工作中,我们提出了一种众包方法,用于从几乎无限数量的参与者中获取注视方向数据,使用强大的自我报告机制(见图1)。我们的系统在任何视觉信息中收集时间稀疏但空间密集的注意点。我们将我们的方法应用到现有的视频数据集,并证明我们获得的结果类似于传统的视线跟踪。我们还探索了我们的方法的参数范围,并收集了大量的YouTube视频的视线跟踪数据。
2012-04-16 cs.HC cs.SI
Is Crowdsourcing a Puppet Show? Detecting a New Type of Fraud in Online Platforms
本文揭示了 Amazon MTurk 等众包平台中由单一实体控制多个账户的新型欺诈行为,发现大量账户疑似木偶账户,并提出相应的检测对策以确保数据完整性。
2025-10-31 cs.HC
Crowdsourcing Airway Annotations in Chest Computed Tomography Images
Eindhoven University of Technology(埃因霍温理工大学);Erasmus MC - University Medical Center Rotterdam(伊拉斯谟医学中心-鹿特丹大学医学中心);Erasmus MC - Sophia Children’s Hospital(伊拉斯谟医学中心-索菲亚儿童医院);University of Copenhagen(哥本哈根大学)
在胸部计算机断层扫描(CT)扫描中测量气道对于表征囊性纤维化等疾病非常重要,但手动执行非常耗时。机器学习算法提供了一种替代方案,但需要大量带注释的扫描来获得良好的性能。我们调查众包是否可以用来收集气道注释。我们在24名受试者的气道已知位置生成图像切片,并要求人群工作人员勾勒出气道腔和气道壁。在结合多个人群工作人员之后,我们将测量结果与专家在原始扫描中所做的测量结果进行比较。与我们的初步研究类似,很大一部分注释被排除在外,可能是由于工人误解了说明。在排除这样的注释之后,可以观察到与专家的中等到强的相关性,尽管这些相关性略低于专家间的相关性。此外,本研究中受试者的结果差异很大。虽然人群在注释气道方面具有潜力,但需要进一步开发以使其足够健壮以在实践中收集注释。对于重现性,数据和代码可在线获得:\url{http://github.com/adriapr/crowdairway.git}。
2020-11-20 cs.CV cs.HC
A Truthful Mechanism with Biparameter Learning for Online Crowdsourcing
Indian Institute of Science(印度科学学院)
我们研究的问题分配可分割的工作,到达网上,工人在众包设置,其中涉及学习两个参数的战略行为的工人。每个作业被分成一定数量的任务,然后分配给工人。每个到达的工作必须在截止日期内完成,每个任务必须完成满足失败概率的上限。工作人口是同质的,而工人在成本、完成时间和失败时间方面是异质的。每个工人的工作完成时间和故障时间是随机的,具有固定但未知的手段。请求者面临的挑战是同时学习每个(战略行为)工人的两个独立的参数,即平均作业完成时间和平均故障时间。工作者的失败时间取决于工作者处理任务的持续时间。假设非战略工人开始,我们解决这个双参数学习问题,应用鲁棒UCB算法。然后,我们非平凡地将该算法扩展到工人对其成本具有战略性的设置。我们提出的机制是优势策略、激励相容和事后个体理性的,具有渐近最优的后悔性能。
2016-02-12 cs.AI cs.GT cs.HC