A Bayesian Approach to Graphical Record Linkage and De-duplication
我们提出了一种无监督的方法,用于链接任意多个文件中的记录,同时检测文件中的重复记录。我们的关键创新涉及到记录之间的链接模式表示为二分图,其中记录直接链接到潜在的真实个体,并且仅间接链接到其他记录。链接结构的这种灵活表示自然允许我们估计群体中唯一可观察人的属性,计算跨记录的传递链接概率(并可视化表示),并将记录链接的不确定性传播到以后的分析中。我们的方法使得它特别容易集成记录联动与后处理程序,如逻辑斯谛回归,捕获-再捕获等。我们的联动结构本身是一个有效的,线性时间,混合马尔可夫链蒙特卡罗算法,克服了许多障碍,以前的记录联动方法遇到的,尽管高维参数空间。我们说明了我们的方法使用纵向数据从国家长期护理调查和意大利家庭和财富调查的数据,在那里我们评估我们的方法的准确性,并显示它是更好的误差率和经验的可扩展性比其他方法在文献中。
2015-10-31 stat.ME
Scaling Bayesian Probabilistic Record Linkage with Post-Hoc Blocking: An Application to the California Great Registers
概率记录链接(ProbabilityRecordLinkage,PRL)是在没有唯一标识符的情况下确定两个数据库中的哪些记录对应于同一基础实体的过程。这个问题的贝叶斯解决方案提供了一个强大的机制,传播不确定性,由于不确定的记录之间的联系(通过后验分布)。然而,计算上的考虑严重限制了现有的贝叶斯方法的实用性。我们提出了一种新的计算方法,提供了一个快速算法,用于获得点估计的链接结构,适当占一对一的匹配和一个受限制的MCMC算法,从一个近似的后验分布的样本。我们的进步使得有可能进行贝叶斯PRL更大的问题,并评估结果的灵敏度,以不同的先验规范。我们演示的方法上的一个子集的OCR的数据集,加州大登记册,收集5700万选民登记从1900年至1968年,包括唯一的面板数据集的政党登记收集之前的科学调查。
2020-01-07 stat.AP stat.CO stat.ME
Bayesian Record Linkage with Variables in One File
针对多文件记录链接中现有方法仅用共有链接变量、易忽略链接误差的问题,研究扩展了贝叶斯记录链接方法,整合各文件专属变量关联,经分析与仿真验证可提升链接效果与推断准确性,并应用于相关受助者与医保登记记录链接。
2023-08-31 stat.AP stat.ME
Bayesian Propagation of Record Linkage Uncertainty into Population Size Estimation of Human Rights Violations
多系统或捕获-再捕获估计是人口规模估计的常用技术,特别是在侵犯人权行为的定量研究中。这些方法依赖于来自种群的多个样本,以及哪些个体出现在哪些样本中的信息。记录链接技术的目标是根据收集到的样本信息识别样本中的独特个体。当这些信息包含错误和缺失,并且不同的个体具有非常相似的特征时,联系决策就会受到不确定性的影响。联系中的不确定性应传播到人口规模估计阶段。我们提出了一种方法,称为链接平均传播连锁不确定性,量化的贝叶斯记录链接方法,到人口规模估计的后续阶段。联系平均法是一种两阶段的方法,其中记录联系阶段的结果被输入总体规模估计阶段。我们表明,在一定条件下,这种方法的结果对应于一个适当的贝叶斯联合模型的记录连接和人口规模估计。链接平均的两阶段性质允许我们将不同的记录链接模型与不同的捕获-再捕获模型相结合,这有利于模型探索。我们提出了一个案例研究,从萨尔瓦多内战,在那里我们有兴趣估计平民死亡的总人数使用不同组织收集的证人的报告清单。这些清单包含重复、印刷和拼写错误、遗漏和其他不准确之处,导致链接不确定。我们展示了如何链接平均可以用于转移到不同的模型,人口规模估计这些列表的链接的不确定性。
2018-12-22 stat.AP stat.ME
A Bayesian Approach to Linking Data Without Unique Identifiers
现有的文件链接方法可能会产生次优的结果,因为它们既不考虑不同的匹配记录对之间的相互作用,也不考虑变量之间的关系,是专属于一个文件。此外,许多当前的方法未能解决链接中的不确定性,这可能导致对变量之间的关系的过于精确的估计,而这些变量仅限于其中一个文件。贝叶斯方法的记录链接可以减少在估计的科学关系的利益和提供区间估计,占的不确定性的联系,但是,这些方法的实施往往是复杂的和计算密集型的。本文介绍了Python编程语言的gfs_sampler包,它利用贝叶斯方法进行文件链接。在gfs_sampler中实现的链接过程从模型参数的联合后验分布和链接排列中采样。该算法将文件链接问题看作是一个缺失数据问题,并生成多个链接数据集。为了计算效率,仅存储连接排列,并且单独使用每个排列执行多个分析。这种实现降低了链接过程的计算复杂性和研究人员分析链接数据集所需的专业知识。我们描述了在gfs_sampler包中实现的算法及其统计基础,并演示了其在样本数据集上的使用。
2021-09-27 stat.CO
Practical Bayesian Inference for Record Linkage
概率记录链接(ProbabilityRecordLinkage,PRL)是在没有唯一标识符的情况下确定两个数据库中的哪些记录对应于同一基础实体的过程。这个问题的贝叶斯解决方案提供了一个强大的机制,传播不确定性,由于不确定的记录之间的联系(通过后验分布)。然而,计算上的考虑严重限制了现有的贝叶斯方法的实用性。我们提出了一种新的计算方法,提供了一个快速算法,用于获得点估计的链接结构,适当占一对一的匹配和一个受限制的MCMC算法,从一个近似的后验分布的样本。我们的进步使得有可能进行贝叶斯PRL更大的问题,并评估结果的灵敏度,以不同的先验规范。我们展示了模拟数据和应用程序的方法,在意大利人口普查覆盖率估计后枚举调查。
2017-12-01 stat.ME
An Experiment with Hierarchical Bayesian Record Linkage
在记录链接(RL)或精确文件匹配中,目标是识别具有两个或多个文件信息的实体之间的链接。RL是一项重要的活动,涉及的领域包括人口统计、加强调查框架和数据以及进行流行病学和后续研究。当文件非常大时,RL具有挑战性,所有单位的所有文件上都没有准确的个人身份(ID)号码,并且某些信息记录错误。如果没有唯一的ID号,就必须依靠比较姓名、地址、日期和其他信息来找到链接。潜在类别模型可用于自动对用于确定匹配状态的信息的值进行评分。拟合模型的数据来自通过初始文件阻止要求的单元组内进行的比较。数据分布可能因块而异。本文研究了在RL的上下文中使用先验信息和分层潜在类模型。
2012-12-20 math.ST stat.AP stat.CO
A Record Linkage Model Incorporating Relational Data
在本文中,我们介绍了一种新的贝叶斯方法连接多个社交网络,以发现同一个现实世界中的人在网络上有不同的帐户。特别是,我们开发了一个潜在的模型,使我们能够共同表征网络和链接结构依赖于关系和配置文件数据。与机器学习文献中的其他现有方法相比,我们的贝叶斯实现自然地通过后验概率为连锁结构本身或其任何函数提供了不确定性量化。我们的研究结果清楚地表明,即使在没有配置文件信息的情况下,我们的方法也可以产生连锁结构的准确点估计,并且,在身份分辨率设置中,我们的结果证实,包括关系数据到匹配过程中提高了链接的准确性。我们使用来自流行的社交网络(如Twitter,Facebook和YouTube)的真实数据来说明我们的方法。
2018-08-14 stat.AP
Research Note: Bayesian Record Linkage with Application to Chinese Immigrants in Raleigh-Durham (ChIRDU) Study
本文提出一种基于概率记录链接的方法,通过构建罗马化姓名成对比较向量和完全贝叶斯模型,将ChIRDU调查与InfoUSA记录匹配,以获取高分辨率地理信息并刻画华人移民的空间分布。
2023-10-21 stat.AP
A hierarchical Bayesian approach to record linkage and population size problems
我们提出并说明了一个分层贝叶斯方法匹配的统计记录在不同的场合观察。我们展示了如何在记录链接问题和捕获-再捕获设置,其中有限人口的大小是真正感兴趣的对象,这个模型可以被有利地采用。在拟议的基于模型的方法和目前的记录链接做法之间至少有两个重要的区别。首先,根据实际观察到的分类变量建立统计模型,并且不减少(至0- 1比较)可用信息。第二,模型的分层结构允许参数估计步骤和匹配过程之间的不确定性的双向传播,因此不使用插入式估计,并且在估计总体大小和执行记录链接时都考虑了正确的不确定性。我们通过一个真实的数据例子和模拟来说明和激励我们的建议。
2011-07-28 stat.AP stat.ME
A Bayesian Record Linkage Approach to Applications in Tree Demography Using Overlapping LiDAR Scans
本文提出贝叶斯分层记录链接模型,结合个体树木生长模型,利用重叠LiDAR扫描数据识别针叶树个体并估计生长-尺寸曲线,在模拟数据和南落基山脉真实数据上验证了方法。
2025-06-05 stat.AP stat.ME
Bayesian Estimation of Bipartite Matchings for Record Linkage
二分记录连接任务包括合并两个不同的文件,其中包含两个重叠实体集的信息。在没有唯一标识符的情况下,这是不平凡的,并且对于各种各样的应用程序都很重要,因为每当我们必须组合来自不同来源的信息时,都需要解决这个问题。目前用于记录联系的大多数统计技术都来自Fellegi和Sunter(1969)的一篇开创性论文。这些技术通常假设独立的记录对的匹配状态,以获得估计过程和最佳点估计。我们认为,这种独立性的假设是不合理的,而不是目标的二分匹配的两个目标作为我们感兴趣的参数。贝叶斯实现使我们能够量化匹配决策的不确定性,并使用不同的损失函数推导出各种点估计量。我们提出了部分贝叶斯估计,允许不确定的部分的二分匹配,以待解决。我们使用各种具有挑战性的场景来评估我们的方法来记录链接,并表明它优于传统的方法。我们说明了我们的方法的优点合并两个伤亡人数从萨尔瓦多内战。
2016-01-25 stat.AP stat.ME stat.ML
Supervised Negative Binomial Classifier for Probabilistic Record Linkage
MCG Mysore(迈索尔MCG)
出于跨各种数据库的链接记录的需要,我们提出了一种新的基于图形模型的分类器,它使用的混合泊松分布与潜变量。这个想法是通过使用贝叶斯建模技术推断其潜在的潜在错误率来深入了解匹配的每对假设记录。使用伽马先验来学习潜变量以及监督标签的新方法是独特的,并且允许主动学习。天真的假设是故意的独立性的领域提出了一个广义的理论,这类问题,而不是破坏层次的依赖关系,可能存在于不同的情况下。该分类器能够处理稀疏数据和流数据。记录链接的应用能够满足稀疏性、数据流和数据集的变化性质的几个挑战。
2019-08-11 cs.DB cs.LG stat.ML
Theoretical Limits of Record Linkage and Microclustering
最近人们对记录链接产生了很大兴趣,试图将缺乏唯一标识符的大型数据库中属于相同实体的记录进行分组。这可以被看作是一种“微聚类”,每个聚类的观测值很少,但聚类的数量非常大。已经提出了各种方法,但缺乏文献提供的性能理论保证。我们表明,这个问题从根本上是困难的,从理论的角度来看,即使在理想化的情况下,准确的实体解析是有效地不可能的,当实体的数量相对于记录的数量和/或记录之间的分离从不同的实体不是非常大。为了描述基本的困难,我们专注于基于多元高斯混合模型的实体分辨率,但我们的结论适用广泛,并得到人权应用程序启发的模拟研究的支持。这些结果表明保守主义的记录链接的结果的解释,支持收集额外的数据,以更准确地消除歧义的实体,并激励集中在粗糙的推理。例如,来自模拟研究的结果表明,有时即使当精细尺度实体分辨率不准确时,也可以获得用于总体规模估计的准确结果。
2017-03-15 math.ST stat.TH
Machine-learning classifiers for logographic name matching in public health applications: approaches for incorporating phonetic, visual, and keystroke similarity in large-scale probabilistic record linkage
University of California, Berkeley(加利福尼亚大学伯克利分校);Centers for Disease Control and Prevention(疾病预防控制中心);Emory University(埃默里大学);University of Florida(佛罗里达大学)
近似的字符串匹配方法,以解决复杂的变化,在高度歧视性的文本字段,如个人姓名,可以提高概率记录链接。然而,区分匹配和不匹配的字符串是具有挑战性的语标文字,其中发音,外观或序列的相似性不直接编码在字符串数据中。我们利用一个已知匹配状态的大型中文管理数据集来开发逻辑回归和Xgboost分类器,该分类器集成了视觉,语音和语义相似性的测量,以增强对潜在匹配名称对的识别。我们评估了在大规模概率记录链接中利用名称相似性分数的三种方法,它们可以适应不同的匹配流行率和支持字段中的信息:(1)基于所有记录对之间的名称匹配的预测质量设置阈值分数;(2)基于链接模型的预测区分能力设置阈值分数;以及(3)使用匹配和非匹配之间的经验分数分布来执行从精确一致链接估计的匹配概率的贝叶斯调整。在对保留数据以及用不同的名称出错率和支持字段模拟的数据的实验中,通过贝叶斯方法并入的逻辑回归分类器在区分能力、匹配概率估计和准确性方面表现出比精确一致性链接的显著改进,在测试数据中将错误分类的记录对的总数减少21%,在模拟数据集中平均减少93%。我们的研究结果表明,将视觉,语音和语义相似性的标识名称匹配的价值,以及我们的贝叶斯方法的承诺,利用大规模的记录链接内的名称匹配。
2020-01-07 cs.CL cs.IR stat.AP
Fast Bayesian Record Linkage With Record-Specific Disagreement Parameters
研究人员通常对将两个缺乏共同唯一标识符的数据集之间的个体联系起来感兴趣。匹配过程通常很难将记录与常见的姓名、出生地或其他字段值进行匹配。计算可行性也是一个挑战,特别是在连接大型数据集时。我们开发了一种贝叶斯方法自动概率记录链接,并表明它恢复了超过50%的真实匹配,保持准确性不变,比可比的方法在军事招募数据匹配到1900年美国人口普查的专家标记的匹配。我们的方法建立在最近最先进的贝叶斯方法的基础上,改进了比较数据的建模,允许以非匹配状态为条件的不一致概率参数在两个数据集中的较小数据集中是特定于记录的。当许多记录共享公共字段值时,这种灵活性显著提高了匹配。我们表明,我们的方法是计算上可行的,在实践中,尽管增加了复杂性,与R/C++实现,实现了显着的速度比最近的方法。我们还提出了一个轻量级的方法治疗非常常见的名字,并显示如何估计真阳性率和阳性预测值时,真正的匹配状态不可用。
2021-03-19 econ.EM stat.AP stat.ME
A Generalized Fellegi-Sunter Framework for Multiple Record Linkage With Application to Homicide Record Systems
我们提出了一个概率方法连接多个文件。在没有所记录的个人的独特识别资料的情况下,这项任务并非微不足道。在将普查数据与覆盖面测量调查联系起来进行普查覆盖面评价时,以及在需要整合多个记录系统进行后验分析时,这是一种常见的情况。我们的方法概括了Fellegi-Sunter理论,用于连接来自两个文件夹的记录及其现代实现。多记录连接的目标是根据不同的匹配模式对来自K个记录的记录K元组进行分类。我们的方法采用了传递性的协议在用于模型匹配概率的数据的计算。我们使用混合模型来拟合匹配概率,通过极大似然使用期望最大化算法。我们提出了一种方法来决定记录的K-元组的匹配模式的子集的成员资格,我们证明了它的最优性。我们将我们的方法应用到三个哥伦比亚凶杀案记录系统的集成中,并进行了模拟研究,以探索该方法在测量误差和不同情况下的性能。所提出的方法效果良好,并为未来的研究开辟了一些方向。
2013-02-06 stat.AP stat.ME stat.ML
Relaxing the Assumption of Strongly Non-Informative Linkage Error in Secondary Regression Analysis of Linked Files
针对多源记录关联数据中的错误关联与漏链问题,本文扩展基于双成分混合模型的回归框架,放宽强非信息性关联假设,并通过模拟和案例研究验证其有效性。
2025-10-20 stat.ME
Multifile Partitioning for Record Linkage and Duplicate Detection
在没有唯一标识符的情况下,合并包含关于重叠实体集的信息的文件是一项具有挑战性的任务,并且当一些实体在文件中重复时,情况更加复杂。解决这个问题的大多数方法都集中在链接两个假定没有重复的文件,或者检测单个文件中的哪些记录是重复的。然而,在实践中经常会遇到介于这两种设置之间或之外的场景。我们提出了一个贝叶斯方法的一般设置的多文件记录链接和重复检测。我们使用一种新的分区表示提出了一个结构化的分区,可以将先验信息的数据收集过程中的fixiles以灵活的方式,并扩展以前的模型比较数据,以适应多文件设置。我们还引入了一个家庭的损失函数,以获得贝叶斯估计的分区,允许不确定的部分的分区被搁置未解决。我们提出的方法的性能进行了探讨,通过广泛的模拟。执行该方法的代码可在https://github.com/aleshing/multilink上查阅。
2021-10-08 stat.AP stat.ME stat.ML
A Flexible Model for Record Linkage
提出一种灵活的记录链接方法FlexRL,通过隐变量模型上的随机期望最大化算法平衡准确性与可扩展性,适应数据复杂性并处理标识信息变化,在真实数据和模拟中验证了稳健性。
2025-09-15 stat.AP stat.ME
Analysis of Linked Files: A Missing Data Perspective
本文将记录关联视为缺失数据问题,系统梳理似然与贝叶斯、插补和加权三类关联文件分析方法,并通过模拟评估其假设、局限与性能。
2024-07-08 stat.AP stat.ME
A General Framework for Regression with Mismatched Data Based on Mixture Modeling
针对仅提供链接文件时的错配误差问题,提出基于匹配状态混合模型、复合似然与EM及贝叶斯推断的通用回归框架,并通过模拟和案例验证其有效性。
2023-06-01 stat.ME
New Methods for Small Area Estimation with Linkage Uncertainty
在官方统计中,由于需要从不同来源提取信息,对数据整合的兴趣日益增长。然而,这些程序对所得到的统计分析的有效性的影响长期以来一直被忽视。近年来,人们普遍认识到,联系不是一个没有错误的过程,联系错误,如假联系和/或漏联系,可能使标准统计模型中估计数的可靠性失效。在本文中,我们考虑的一般问题,使用的数据,已被概率联系,我们探讨了潜在的连锁误差对生产的小面积估计的影响。我们描述了现有的方法,并提出和比较新的方法都从一个经典的贝叶斯的角度来看。我们进行了模拟研究,以评估利弊的每一种方法,我们的模拟计划的目的是在重现一个现实的背景下,小面积的估计和记录连接程序。
2017-12-07 stat.ME
Bayesian Graphical Entity Resolution Using Exchangeable Random Partition Priors
实体解析(记录链接或重复数据删除)是识别和链接数据库中重复记录的过程。在本文中,我们提出了一个贝叶斯图形化的实体决议,链接记录潜在的实体,在链接结构的先验表示是可交换的。首先,我们采用了灵活和听话的先验知识的链接结构,这对应于一类特殊的随机划分模型。其次,我们提出了一个更现实的失真模型的分类/离散记录属性,纠正与标准的命中-未命中模型的逻辑不一致。第三,我们结合hyperpriors来提高灵活性。第四,我们采用了部分塌陷吉布斯采样器的推理加速。使用选择的私人和非私人的数据集,我们调查我们的建模贡献的影响,并比较我们的模型与两个替代贝叶斯模型。此外,我们进行了模拟研究家庭调查数据,在那里我们不同的失真,重复率和数据集的大小。我们发现,我们的模型在各种场景中的表现比替代方案更一致,并且通常达到最高的实体分辨率准确度(F1得分)。开源软件可用于我们提出的方法,我们提供了关于我们的工作和未来方向的讨论。
2023-01-08 cs.DB stat.ME
A Bayesian Approach for De-duplication in the Presence of Relational Data
在本文中,我们研究了在重复数据消除设置中合并配置文件和网络数据的影响。我们还评估了一系列的先验分布的连锁结构的影响。此外,我们探索随机梯度哈密顿蒙特卡罗方法作为一种更快的替代方案,以获得样本的后验分布的网络参数。我们的方法使用RLdata500数据,这是一个流行的数据集,在记录链接文献进行评估。
2021-11-16 stat.ME
Assessing the accuracy of record linkages with Markov chain based Monte Carlo simulation approach
记录链接是从不同数据源查找匹配并链接记录的过程,以便链接的记录属于同一实体。在统计、卫生、政府和商业机构中,越来越多地应用记录链接,将行政、调查、人口普查和其他文件链接起来,以创建一套完整的信息,进行更完整和全面的分析。为了使用链接文件进行有效的推断,评估链接方法变得越来越重要。同样重要的是找到改进链接过程以实现更高准确性的技术。这促使开发一种用于评估链接过程的方法,并帮助决定哪种链接方法可能对链接任务更准确。本文提出了一种基于马尔可夫链的蒙特卡罗模拟方法,MaCSim评估的链接方法,并说明了实用的方法,使用现实的合成数据集从澳大利亚统计局,以避免隐私问题与使用真实的个人信息。还定义了MaCSim应用的链接方法。为了评估所定义的链接方法,使用我们开发的模拟方法计算每个记录的正确重新链接比例。针对许多模拟数据集确定准确度。分析表明,所提出的方法MaCSim的联动精度的评估有前途的性能。该方法的计算方面也进行了调查,以评估其实际应用的可行性。
2020-09-29 stat.AP stat.CO
d-blink: Distributed End-to-End Bayesian Entity Resolution
University of Melbourne(墨尔本大学);Colorado State University(科罗拉多州立大学);Australian Bureau of Statistics(澳大利亚统计局);Duke University(杜克大学);United States Census Bureau(美国人口普查局)
实体解析(ER;也称为记录链接或重复数据删除)是通常在没有唯一标识符的情况下合并有噪声的数据库的过程。ER方法的一个主要进步是贝叶斯生成模型的应用,它提供了一个自然的框架,用于推断具有严格量化的不确定性的潜在实体。尽管有这些优点,现有的模型在实践中受到严重限制,因为标准的推理算法在记录数量上是二次方的。虽然可以通过在单独的数据块上拟合模型来管理缩放,但这种幼稚的方法可能会在后验中引起显著的误差。在本文中,我们提出了一个可扩展的贝叶斯ER的原则模型,称为“分布式贝叶斯链接”或d-眨眼,它联合执行阻塞和ER,而不影响后验正确性。我们的方法依赖于几个关键思想,包括:(i)一个辅助变量表示,诱导的实体和记录到块的分区;(ii)一种方法,用于构建基于k-d树的平衡块;(iii)一个分布式的部分折叠吉布斯采样器与改进的混合;和(iv)快速算法执行吉布斯更新。六个数据集的实证研究-包括2010年十年一次的人口普查的案例研究-证明了我们的方法的可扩展性和有效性。
2020-09-22 cs.DB cs.LG stat.CO
Composable Models for Online Bayesian Analysis of Streaming Data
数据的数量和速度正在迅速增加,物联网(IoT)是这些数据的重要来源之一。物联网是一组连接的设备(事物),它们使用车载传感器不断记录周围环境的数据。这些设备可以以非常高的速率记录数据并将数据流传输到云端,从而导致高存储和分析成本。为了降低这些成本,我们可以在数据流到达时对其进行分析,以了解底层过程,执行插值和平滑,并进行预测和预测。状态空间建模的传统工具假设数据位于固定的规则时间网格上。然而,许多传感器会改变其采样频率,有时是自适应的,或者中断并重新启动,与先前的采样网格不同步,或者只是在不规则的时间生成事件数据。因此,希望将系统建模为在连续时间内演化的部分和不规则观测的马尔可夫过程。过程和观测模型都可能是非线性的。因此,粒子滤波器代表了在线分析的最简单方法。为了对物联网中捕获的各种数据进行建模,开发了一个功能性的可组合连续时间马尔可夫过程模型Scala库。
2016-09-02 stat.ME
Improved assessment of the accuracy of record linkage via an extended MaCSim approach
记录链接是将来自重叠数据源的相同实体合并在一起同时删除重复项的过程。现在,公共或私人组织以及研究人员和个人正在收集大量数据。从这个庞大的数据库中链接和分析相关信息可以为社会提供新的见解。然而,数据量的这种增加也可能增加数据库之间错误链接记录的可能性。越来越重要的是要有有效和高效的方法来连接来自不同来源的数据。因此,有必要评估链接方法实现高准确度的能力,或比较方法之间的准确度。在本文中,我们改进了基于马尔可夫链的蒙特卡罗模拟方法(MaCSim)评估的链接方法。MaCSim利用两个链接的文件,这些文件之前已经链接到类似类型的数据上,以创建一个一致性矩阵,然后使用一种拟议的算法来模拟该矩阵,该算法用于生成一致性矩阵的重新采样版本。在每个模拟中使用定义的链接方法来链接文件,并评估链接方法的准确性。这里提出的改进涉及计算每个记录对的每个链接变量值的相似性权重,这允许链接变量值的部分协议。根据每个链接变量的可调参数“公差”为该变量计算阈值。为了评估链接方法的准确性,对每个记录的正确链接比例进行了调查。扩展的MaCSim方法说明使用合成数据集提供的澳大利亚统计局(ABS)的基础上现实的数据设置。测试结果表明,更高的准确性评估的联系。
2020-10-13 cs.DB stat.AP stat.CO
Invited Discussion of "A Unified Framework for De-Duplication and Population Size Estimation"
受邀讨论“重复数据删除和人口规模估计的统一框架”,发表在贝叶斯分析上。我的讨论主要集中在两个主题上:提供一个关于记录链接和“下游任务”(即我们可能想对链接和重复数据消除的文件做的任何事情)的联合模型的成本和收益的更细致的画面,以及我们应该如何衡量性能。
2020-09-01 stat.ME
Assessing the accuracy of individual link with varying block sizes and cut-off values using MaCSim approach
记录链接是将来自不同数据源的属于同一实体的记录匹配在一起的过程。包括统计、卫生、政府等在内的许多组织越来越多地使用记录链接来链接行政、调查和其他文件,以创建一个强大的文件,进行更全面的分析。因此,有必要评估链接方法实现高准确度的能力或比较方法之间的准确度。在本文中,我们使用不同的块大小和不同的截止值,利用马尔可夫链为基础的蒙特卡罗模拟方法(MaCSim)的准确性进行评估的个别环节。MaCSim利用两个链接文件创建一致性矩阵。模拟一致性矩阵以生成一致性矩阵的重新采样版本。在每个模拟中使用定义的链接方法来链接文件,并评估链接方法的准确性。本文的目的是促进块大小和截止值的最佳选择,以实现高精度方面的最小化平均错误发现率和假阴性率。这些分析是使用澳大利亚统计局(ABS)提供的综合数据集进行的,结果令人鼓舞。
2020-11-23 cs.DB stat.AP stat.CO
A Comprehensive Bayesian Approach to Entity Resolution for Data with Multiple Truths
Colorado State University(科罗拉多州立大学)
针对实体解析领域假设变量存在唯一不变真值的缺陷,提出适配多重真值的指数族分布混合贝叶斯模型,经模拟与意大利家庭财富调查验证,可改善数据整合与下游推断。
2026-08-24 stat.AP stat.CO stat.ME
BlockingPy: approximate nearest neighbours for blocking of records for entity resolution
Adam Mickiewicz University in Poznań(波兹南亚当·密茨凯维奇大学);Statistical Office in Poznań(波兹南统计局);Poznań University of Economics and Business(波兹南经济与商业大学)
BlockingPy通过近似最近邻搜索和图算法,提供了一种高效处理记录阻塞的方法,用于实体解析中的数据链接任务。
2026-01-21 econ.GN q-fin.EC stat.AP