Fair Classification under Covariate Shift and Missing Protected Attribute -- an Investigation using Related Features
本研究使用一种简单的方法研究了协变量偏移和缺失保护属性下的公平分类问题,该方法基于使用重要性权重来处理协变量偏移,并使用Related Features arXiv:2104.14537来处理缺失保护属性。
2022-04-17 cs.CY cs.LG
Temporal Knowledge Graph Completion using Box Embeddings
University of Oxford(牛津大学)
知识图谱完成是基于知识图谱中的现有数据推断缺失事实的任务。时间知识图谱完成(TKGC)是该任务到时间知识图谱的扩展,其中每个事实另外与时间戳相关联。目前的TKGC方法主要建立在现有的嵌入模型上,这些模型是为(静态)知识图谱完成而开发的,并将这些模型扩展到包含时间,其中的想法是学习实体,关系和时间戳的潜在表示,然后使用学习到的表示来预测在各个时间步丢失的事实。本文在静态知识图谱嵌入模型BoxE的基础上,提出了一种面向TKGC的嵌入模型BoxTE。我们发现,BoxTE是充分的表达,并具有很强的归纳能力的时间设置。然后,我们实证评估我们的模型,并表明它实现了国家的最先进的结果在几个TKGC基准。
2021-09-18 cs.AI cs.LG
Impact Of Missing Data Imputation On The Fairness And Accuracy Of Graph Node Classifiers
Lahore University of Management Science(拉合尔管理科学大学);Georgia State University(佐治亚州立大学);Massey University(梅西大学);Hazara University(哈扎拉大学);National University of Ireland Galway(爱尔兰国立高威大学)
机器学习(ML)算法的公平性分析近年来引起了许多研究者的兴趣。大多数ML方法对受保护的群体有偏见,这限制了ML模型在许多应用中的适用性,如犯罪率预测等,因为数据可能有缺失值,如果处理不当,会进一步影响公平性。许多填补方法被提出来处理缺失数据。然而,缺失数据填补对公平性的影响还没有得到很好的研究。在本文中,我们分析了公平性的影响,在图数据(节点属性)的背景下,使用不同的嵌入和神经网络的方法填补。在六个数据集上的大量实验表明,图节点分类下的缺失数据填补存在严重的公平性问题。我们还发现,填补方法的选择影响公平性和准确性。我们的研究结果提供了宝贵的见解图数据的公平性和如何有效地处理图中的缺失。这项工作也提供了方向的公平性在图形数据的理论研究。
2022-11-01 cs.CY cs.LG cs.SI
Flow Matching with Missing Data
针对流匹配假设训练数据完全可观测的局限,提出含缺失数据的流匹配方法,将缺失坐标视为潜在变量并平均流匹配损失,通过理论分析和实验验证其有效性,可应对实际数据缺失问题。
2026-10-16 cs.LG
Fairness without Imputation: A Decision Tree Approach for Fair Prediction with Missing Values
Harvard University(哈佛大学)
我们研究了使用缺失值数据训练机器学习模型的公平性问题。尽管文献中有许多公平性干预方法,但大多数都需要完整的训练集作为输入。在实践中,数据可能有缺失值,数据缺失模式可能取决于组属性(例如性别或种族)。简单地将现成的公平学习算法应用于估算数据集可能会导致不公平的模型。在本文中,我们首先从理论上分析了在使用估算数据集进行训练时歧视风险的不同来源。然后,我们提出了一个集成的方法,基于决策树,不需要一个单独的过程中的估算和学习。相反,我们训练一棵树与失踪纳入为属性(MIA),这不需要显式插补,我们优化公平正则化的目标函数。我们证明了我们的方法优于现有的公平干预方法应用于估算数据集,通过对真实世界的数据集的几个实验。
2022-04-14 cs.CY cs.IT cs.LG
FRAMM: Fair Ranking with Missing Modalities for Clinical Trial Site Selection
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IQVIA(艾昆纬);Relativity Inc.(Relativity公司)
本文提出深度强化学习框架FRAMM,通过掩码交叉注意力处理缺失模态并设计同时优化入组与多样性的奖励函数,在真实临床试验数据上显著提升中心选择的多样性和少数群体入组率。
2023-05-30 cs.AI cs.LG
Weak Proxies are Sufficient and Preferable for Fairness with Missing Sensitive Attributes
ByteDance(字节跳动);University of California, Santa Cruz(加州大学圣克鲁兹分校)
评估公平性在实践中可能具有挑战性,因为数据的敏感属性通常由于隐私限制而无法访问。业界经常采用的方法是使用现成的代理模型来预测缺失的敏感属性,例如Meta [Alao et al.,2021]和Twitter [Belli等人,2022年]。尽管它很受欢迎,但有三个重要的问题没有得到回答:(1)直接使用代理在衡量公平方面是否有效?(2)如果不能,是否可以只使用代理来准确地评估公平性?(3)考虑到推断用户隐私信息的道德争议,是否有可能只使用弱(即不准确)代理来保护隐私?我们的理论分析表明,直接使用代理模型可能会给人一种虚假的(不)公平感。其次,我们开发了一种算法,能够测量公平性(可证明)准确地只有三个正确识别的代理。第三,我们证明了我们的算法只允许使用弱代理(例如,在COMPAS上只有68.85%的准确率),为用户隐私增加了一层额外的保护。实验验证了我们的理论分析,并表明我们的算法可以有效地测量和减轻偏见。我们的研究结果意味着一套实用的指导方针,从业者如何正确使用代理。代码可在github.com/UCSC-REAL/fair-eval上获得。
2023-01-31 cs.AI cs.CY cs.LG
Iterative missing value imputation based on feature importance
Henan University(河南大学)
针对现有缺失值插补方法未区分特征重要性的问题,提出一种迭代执行矩阵补全与特征重要性学习的插补算法,在三类数据集上均优于现有五种算法,为首个在插补模型中考虑特征重要性的研究。
2023-11-14 cs.AI cs.LG stat.ML
Knowledge Bridger: Towards Training-free Missing Modality Completion
Beijing Jiaotong University(北京交通大学);Singapore Management University(新加坡国立大学);Southeast University(东南大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Harbin Institute of Technology(哈尔滨工业大学);Nanjing University of Science and Technology(南京理工大学);South China University of Technology(华南理工大学);Xiamen Institute of Technology(厦门理工学院)
针对现有缺失模态补全方法依赖预训练、域外泛化差的问题,提出免训练框架Knowledge Bridger,通过知识图谱连接LMM的生成与排序模块,在多领域及域外场景均优于对比方法。
2025-06-17 cs.CV cs.LG cs.MM
Smooth Robust Tensor Completion for Background/Foreground Separation with Missing Pixels: Novel Algorithm with Convergence Guarantee
Virginia Tech(弗吉尼亚理工大学)
本研究的目的是通过将视频采集、视频恢复、背景/前景分离结合到一个框架中来解决具有缺失像素的背景/前景分离问题。为了实现这一点,平滑鲁棒张量完成(SRTC)模型被提出来恢复数据,并将其分解为静态背景和平滑前景,分别。具体地说,静态背景建模的低秩塔克分解和平滑的前景(运动物体)建模的时空连续性,这是由总变分正则化。基于张量近似交替最小化(tensor proximate alternative minimization,tenPAM)的有效算法实现求解所提出的模型,在非常温和的条件下具有全局收敛性保证。大量的实验表明,该方法显着优于国家的最先进的方法,背景/前景分离与丢失像素。
2022-04-11 cs.CV cs.LG stat.ML
Matrix Co-completion for Multi-label Classification with Missing Features and Labels
RIKEN Center for Advanced Intelligence Project(理化学研究所高级智能项目中心);Center for Artificial Intelligence, University of Technology Sydney(悉尼科技大学人工智能中心);Nanjing University(南京大学);University of Tokyo(东京大学)
我们考虑了一个具有挑战性的多标签分类问题,其中特征矩阵$\X$和标签矩阵$\Y$都有丢失的条目。现有的方法将$\X$和$\Y$级联为$[\X; \Y]$,并在假设$[\X; \Y]$具有低秩的情况下应用矩阵完成(MC)方法来填充缺失的条目。然而,由于$\Y$的条目在多标签设置中采用二进制值,因此$\Y$不太可能是低秩的。此外,这种假设意味着$\X$和$\Y$之间的线性关系,这在实践中可能不成立。在本文中,我们考虑一个潜在的矩阵$\Z$,产生的概率$σ(Z_{ij})$生成标签$Y_{ij}$,其中$σ(\cdot)$是非线性的。考虑到标签相关性,假设$[\X; \Z]$是低秩的,提出了一种基于次梯度下降的MC算法,称为共同完成(COCO),该算法由弹性网和一位MC驱动。我们给出了COCO的恢复效果的理论界,并通过实验证明了它的实用性。
2018-05-23 cs.LG stat.ML
Optimal Transfer Learning for Missing Not-at-Random Matrix Completion
Indian Statistical Institute(印度统计研究所)
针对整行整列缺失的MNAR矩阵补全问题,提出利用含噪源矩阵进行潜在空间特征偏移的迁移学习框架,在主动采样下达到极小极大下界并避免相干性假设。
2025-02-28 cs.LG stat.ML
Computational Efficient and Minimax Optimal Nonignorable Matrix Completion
School of Statistics, Renmin University of China(中国人民大学统计学院);Department of Probability and Statistics, School of Mathematical Sciences, Center for Statistical Science, Peking University(北京大学数学科学学院概率统计系、统计科学中心);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
针对不可忽略缺失机制下的矩阵补全问题,提出核范数正则化矩阵U统计量损失函数,结合加速近端梯度算法,实现与随机缺失方法相当的计算效率及接近极小化最优的统计收敛速率。
2025-06-27 cs.LG stat.ML
SEGAN: semi-supervised learning approach for missing data imputation
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);School of Software Technology, Zhejiang University(浙江大学软件学院);Binjiang Institute of Zhejiang University(浙江大学滨江研究院);China Academy of Space Technology(中国空间技术研究院);Beijing Life Science Academy(北京生命科学研究院);Zhengzhou Tobacco Research Institute of China National Tobacco Corporation(中国烟草总公司郑州烟草研究院);Purdue University(普渡大学);COSMOPlat IoT Technology Co.,Ltd.(卡奥斯物联科技有限公司)
本文提出半监督缺失数据插补模型SEGAN,通过生成器、判别器、分类器及缺失提示矩阵利用标签信息,理论证明其可学习真实数据分布,并在实验中较现有最优方法性能提升超3%。
2024-06-12 cs.LG
When Missing Becomes Structure: Intent-Preserving Policy Completion from Financial KOL Discourse
National University of Singapore(新加坡国立大学)
本文提出一种保留KOL意图的策略补全框架,通过离线强化学习补全未指定的执行决策,实验证明其在YouTube和X平台上的高收益和夏普比率。
2026-04-17 cs.LG
Multi-Domain Image Completion for Random Missing Input Data
Stanford University(斯坦福大学);NVIDIA(英伟达);National Institutes of Health(美国国立卫生研究院)
多域数据在视觉应用中被广泛利用,利用来自不同模态的互补信息,例如,从多参数磁共振成像(MRI)分割脑肿瘤。然而,由于可能的数据损坏和不同的成像协议,每个域的图像的可用性在实践中可能在多个数据源之间变化,这使得利用不同的输入数据集合构建通用模型具有挑战性。为了解决这个问题,我们提出了一种通用的方法来完成随机缺失域数据在实际应用中。具体来说,我们开发了一种新的多域图像完成方法,该方法利用生成对抗网络(GAN)与代表性的解纠缠方案来提取共享的骨架编码和分离的肉体编码跨多个域。我们进一步说明了多域图像完成中的学习表示可以用于高级任务,例如,分割,通过引入一个统一的框架,包括图像完成和分割与共享的内容编码器。实验表明,一致的性能提高三个数据集的脑肿瘤分割,前列腺分割,面部表情图像完成。
2020-07-10 cs.CV cs.LG eess.IV
Spatiotemporal Tensor Completion for Improved Urban Traffic Imputation
College of Engineering, Qatar University(卡塔尔大学工程学院)
有效的城市交通管理对于任何智慧城市计划都很重要。因此,传感交通数据的质量至关重要。然而,与任何传感数据一样,城市交通数据也容易出现不完善的情况,从而导致测量数据缺失。本文主要研究区域间交通数据的补齐问题。我们将区域间流量建模为一个时空张量,该张量存在测量缺失的问题。为了恢复丢失的数据,我们提出了一个增强的CANDECOMP/PARAFAC(CP)完成的方法,考虑城市和时间方面的交通。为了获得城市特征,我们将研究区域划分为区域。然后,对于每个区域,我们计算城市特征向量的启发,从生物多样性,用于计算城市相似性矩阵。为了挖掘时间方面,我们首先进行熵分析,以确定最规则的时间序列。然后,我们进行联合傅立叶和相关分析,计算其周期性和构造的时间矩阵。城市和时间矩阵被送入一个修改后的CP完成目标函数。为了解决这个问题,我们提出了一个交替的最小二乘方法,操作的矢量化版本的输入。我们进行了全面的比较研究与两个评估方案。在第一个中,我们模拟随机缺失值。在第二种情况下,我们模拟给定区域和持续时间的缺失值。我们的研究结果表明,我们的方法提供了有效的恢复性能达到26%的改善相比,最先进的CP方法和35%相比,最先进的生成模型为基础的方法。
2021-03-12 cs.LG
Patch Tracking-based Streaming Tensor Ring Completion for Visual Data Recovery
University of Central Florida(中佛罗里达大学)
张量完备化的目的是通过利用部分观测张量的低秩结构来恢复其丢失的条目,并已被应用于视觉数据恢复。在数据顺序到达的应用中,例如流式视频完成,张量的丢失条目需要以流式方式动态恢复。传统的流张量补全算法将整个视觉数据视为张量,当张量子空间沿时间维度发生较大变化(例如由于视频帧之间的强烈运动)时,这种算法可能无法令人满意地工作。在本文中,我们开发了一种新的补丁跟踪为基础的流张量环完成框架的视觉数据恢复。给定新传入的帧,从先前帧跟踪小块。同时,对于每一个跟踪补丁,补丁张量构造从新的帧堆叠相似的补丁。然后使用流式张量环完成算法完成补丁张量,并使用完成的补丁张量恢复传入帧。我们提出了一种新的补丁跟踪策略,可以准确,有效地跟踪补丁丢失的数据。此外,提出了一种新的流张量环补齐算法,该算法能够高效准确地更新潜在核张量,补齐补丁张量中缺失的条目。大量的实验结果表明,所提出的算法相比,批处理和流式状态的最先进的张量完成方法的优越性能。
2022-08-12 cs.CV cs.LG
High-Rank Matrix Completion and Subspace Clustering with Missing Data
Boston University(波士顿大学);University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
本文在矩阵列属于多个低秩子空间并的假设下,研究了多缺元矩阵的补问题。这将标准的低秩矩阵完备化问题推广到矩阵秩可以很高甚至满秩的情况。由于列属于子空间的并集,因此该问题也可以被视为子空间聚类问题的缺失数据版本。设X是一个n × N矩阵,其(完全)列位于至多k个子空间的并集中,每个子空间的秩<= r < n,并假设N >> kn。本文的主要结果表明,在温和的假设下,只要X的至少CrNlog^2(n)个元素是随机一致观测的,且C>1是一个常数,取决于通常的不相干条件、子空间的几何排列以及列在子空间上的分布,那么X的每一列都可以以很高的概率从不完整的版本完美地恢复。数值实验结果表明,并应用于互联网的距离矩阵完成和拓扑结构识别。
2011-12-27 cs.IT cs.LG math.IT
Polynomial Matrix Completion for Missing Data Imputation and Transductive Learning
Cornell University(康奈尔大学)
本文提出了一种新的方法来恢复高秩甚至满秩矩阵的缺失项时,数据的内在维数是低的环境维。具体来说,我们假设矩阵的列是由作用于低维内在变量的多项式生成的,并希望在此假设下恢复丢失的条目。证明了在高维特征空间中,通过最小化矩阵的秩,可以识别出最小内禀维数的完备矩阵。我们开发了一个新的配方所产生的问题,使用核技巧与一个新的放松的秩目标,并提出了一个有效的优化方法。我们还展示了如何使用我们的方法来完成从多个非线性流形的数据。通过对合成数据、缺失数据的子空间聚类、运动捕捉数据恢复和转换学习的比较研究,验证了本文方法的优越性。
2019-12-15 cs.LG stat.ML
openXDATA: A Tool for Multi-Target Data Generation and Missing Label Completion
Nuance Communications;MIT Media Lab(麻省理工学院媒体实验室);Massachusetts Institute of Technology(麻省理工学院)
机器学习中的一个常见问题是处理具有不相交标签空间和缺失标签的数据集。在这项工作中,我们引入了openXDATA工具,该工具可以完成部分标记或未标记的数据集中缺失的标签,以便在数据集的联合标签空间中生成带有标签的多目标数据。为此,我们设计并实现了交叉数据标签完成(CDLC)算法,该算法使用多任务共享隐藏层DNN迭代完成来自不同数据集的实例的稀疏标签矩阵。我们应用新工具来估计四个情感数据集的标签:一个用离散情感类别标记(例如,快乐、悲伤、愤怒),一个标记有沿着唤醒和效价维度的连续值,一个具有两种标记,以及一个未标记。通过对真实标签的丢弃测试,我们展示了以接近地面真值的速率估计所有数据集的类别和连续标签的能力。openXDATA在GNU通用公共许可证下可从https://github.com/fweninger/openXDATA获得。
2020-07-27 cs.LG cs.SD eess.AS
Contour Completion by Transformers and Its Application to Vector Font Data
Kyushu University(九州大学)
针对矢量字体等点序列轮廓中缺失点无标记、需同时检测并补全的问题,提出一种基于 Transformer 的轮廓补全方法并验证其字体轮廓补全效果。
2023-04-27 cs.CV cs.GR cs.LG
Concatenated image completion via tensor augmentation and completion
University of Technology Sydney(悉尼科技大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一种新的框架,称为级联图像完成通过张量增强和完成(ICTAC),恢复丢失的彩色图像条目具有高精度。典型的图像是二阶或三阶张量(2D/3D),这取决于它们是灰度还是彩色,因此张量完成算法是恢复它们的理想方法。所提出的框架通过将具有缺失条目的单个图像的副本连接到三阶张量中来执行图像完成,将维度增强技术应用于张量,利用张量完成算法来恢复其缺失条目,并最终从张量中提取恢复的图像。该解决方案依赖于最近提出的利用张量训练(TT)秩的两个关键组件:一个称为ket增广(KA)的张量增广工具,它用高阶张量表示低阶张量,以及通过张量训练(TMac-TT)并行矩阵分解的张量完成算法,该算法已被证明优于最先进的张量完成算法。彩色图像恢复的仿真结果显示了我们的框架对当前最先进的张量完成算法的明显优势。
2016-07-14 cs.CV cs.DS cs.LG
Towards Unsupervised Graph Completion Learning on Graphs with Features and Structure Missing
Huazhong University of Science and Technology(华中科技大学);JD Retail(京东零售)
针对图神经网络在节点特征与结构同时缺失时性能下降且现有图补全学习依赖标签和存在偏差的问题,提出无监督图补全学习框架UGCL,通过分离特征与结构重建并引入双重对比损失提供自监督信号,显著提升了下游节点分类任务性能。
2023-09-06 cs.LG
Node Attribute Completion in Knowledge Graphs with Multi-Relational Propagation
EPFL(洛桑联邦理工学院)
现有的关于知识图谱完成的文献大多集中在链接预测任务上。然而,知识图谱有一个额外的不完整性问题:它们的节点拥有数值属性,其值经常丢失。我们的方法,表示为MrAP,通过在知识图谱的多关系结构中传播信息来估算缺失属性的值。它采用回归函数根据节点之间的关系和属性的类型来预测一个节点属性与另一个节点属性。传播机制在消息传递方案中迭代地操作,该方案在每次迭代时收集预测并更新节点属性的值。在两个基准数据集上的实验表明了该方法的有效性。
2020-11-10 cs.LG
ACT-Tensor: Tensor Completion Framework for Financial Dataset Imputation
New York University(纽约大学)
针对金融面板数据缺失问题,提出ACT-Tensor张量补全框架,结合聚类与时序平滑模块,在极端稀疏下提升填补精度,并改善资产定价与组合收益。
2025-10-08 cs.AI cs.LG stat.AP
Provable Subspace Tracking from Missing Data and Matrix Completion
Iowa State University(爱荷华州立大学)
我们研究了存在缺失数据(ST-缺失)的子空间跟踪问题。在最近的工作中,我们研究了一个相关的问题,称为强大的ST。在这项工作中,我们表明,一个简单的修改我们的强大的ST解决方案也可证明解决ST未命中和强大的ST未命中。据我们所知,我们的结果是ST未命中的第一个“完全”保证。这意味着我们可以证明,在仅对算法输入的假设下,输出子空间估计始终接近真实的数据子空间。我们的保证在温和且易于解释的假设下成立,并允许底层子空间以分段恒定的方式随时间变化。与此相反,所有现有的保证ST是部分的结果,并假设一个固定的未知子空间。大量的数值实验证明了我们的理论主张。最后,我们的解决方案可以被解释为一个可证明正确的小批量和内存有效的解决方案,低秩矩阵完成(MC)。
2019-05-30 cs.CV cs.LG stat.ML
A Nonconvex Low-Rank Tensor Completion Model for Spatiotemporal Traffic Data Imputation
McGill University(麦吉尔大学);Shanghai Jiao Tong University(上海交通大学)
在各种传感系统采集的时空交通数据中,稀疏和缺失数据问题是非常普遍的。在智能交通系统的许多应用中,准确的估算是至关重要的。在本文中,我们制定了时空交通数据中的缺失数据填补问题的低秩张量完成(LRTC)框架,并定义了一个新的截断核范数(TNN)的交通张量的位置$\times$天$\times$时间的一天。特别是,我们引入了一个通用的速率参数来控制截断的程度上所有的张量模式在建议的LRTC-TNN模型,这使我们能够更好地描述时空交通数据中的隐藏模式。基于交替方向乘法(ADMM)的框架,我们提出了一个有效的算法来获得每个变量的最优解。我们在四个时空交通数据集上进行了数值实验,结果表明,所提出的LRTC-TNN模型优于许多最先进的缺失率/模式的插补模型。此外,该模型还优于其他基线模型在极端缺失的情况下。
2020-06-11 cs.LG stat.ML
TenIPS: Inverse Propensity Sampling for Tensor Completion
Cornell University(康奈尔大学)
张量广泛用于表示数据的多路数组。张量中缺失项的恢复已被广泛研究,通常假设项是完全随机缺失(MCAR)的。然而,在大多数实际情况下,观测值是非随机缺失(MNAR):给定条目被观测到的概率(也称为倾向)可能取决于张量中的其他条目,甚至取决于缺失条目的值。在本文中,我们研究的问题,完成一个部分观测张量的MNAR观测,没有先验信息的倾向。为了完成张量,我们假设原始张量和倾向张量都具有低多线性秩。该算法首先使用凸松弛估计倾向,然后使用高阶SVD方法预测缺失值,通过逆倾向重新加权观察到的张量。我们提供有限样本的误差界所产生的完整的张量。数值实验证明了该方法的有效性。
2021-04-22 cs.LG math.OC stat.ML
Schema-Guided Event Graph Completion
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);JP Olive S&T Management LLC(JP Olive科技管理有限责任公司)
我们解决了一个新的任务,事件图完成,其目的是预测事件图丢失的事件节点。现有的链接预测或图补全方法难以处理事件图,因为它们通常是针对诸如社交网络或知识图谱之类的单个大型图而设计的,而不是针对多个小的动态事件图。此外,它们只能预测丢失的边缘,而不是丢失的节点。在这项工作中,我们建议利用事件模式,一个模板,描述了事件图的定型结构,以解决上述问题。我们的模式引导的事件图完成方法首先映射一个实例事件图的模式图的一个子图的启发式子图匹配算法。然后,它预测模式图中的候选事件节点是否应该被添加到实例化的模式子图,通过表征模式图的两种类型的局部拓扑结构:候选节点和子图的邻居,以及连接候选节点和子图的路径。这两个模块随后组合在一起用于最终预测。我们还提出了一个自我监督的策略来构建训练样本,以及一个专门设计用于完成事件图的推理算法。在四个数据集上的大量实验结果表明,我们提出的方法实现了最先进的性能,在四个数据集上的最佳基线方法上具有4.3%至19.4%的绝对F1增益。
2022-06-06 cs.AI cs.CL cs.LG
DeepNC: Deep Generative Network Completion
Dankook University;Yonsei University(延世大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);Heidelberg University(海德堡大学);Machine Intelligence & Data Science Laboratory(机器智能与数据科学实验室)
大多数网络数据都是从部分可观察的网络中收集的,这些网络既有缺失的节点,也有缺失的边,例如,由于有限的资源和用户在社交媒体上指定的隐私设置。因此,通过执行网络补全来推断网络的缺失部分应该先于下游应用。然而,尽管有这种需要,但由于建模困难,在这种不完整网络中恢复丢失的节点和边缘是一个未充分探索的问题,这比仅推断丢失边缘的链接预测更具挑战性。在本文中,我们提出了DeepNC,这是一种基于图的深度生成模型来推断网络缺失部分的新方法。具体来说,我们的方法首先通过自回归生成模型学习边缘上的似然性,然后识别出以可观察图拓扑为条件的最大化学习似然性的图。此外,我们提出了一种计算效率高的DeepNC算法,该算法连续找到在每个节点生成步骤中最大化概率的单个节点,以及使用期望最大化算法的增强版本。这两种算法的运行时的复杂性被证明是几乎线性的网络中的节点数。我们通过经验证明了DeepNC优于最先进的网络完成方法。
2020-10-20 cs.LG cs.NE cs.SI
Justitia: Fair and Efficient Scheduling of Task-parallel LLM Agents with Selective Pampering
本文提出Justitia调度器,通过内存导向的成本量化和轻量预测方法,实现任务并行LLM代理的公平高效调度,实验表明其能显著提升调度效率并保持公平性。
2026-03-14 cs.AI cs.DC cs.LG
Ad Hoc Microphone Array Calibration: Euclidean Distance Matrix Completion Algorithm and Theoretical Guarantees
Idiap Research Institute(Idiap研究所);École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本文讨论的问题,ad hoc麦克风阵列校准麦克风之间的距离只有部分信息。我们构造了一个矩阵组成的成对距离,并提出了一种新的欧氏距离矩阵完成算法的基础上估计丢失的条目交替低秩矩阵完成和投影到欧氏距离空间。这种方法限制恢复矩阵的EDM锥在矩阵完成算法的每次迭代。考虑到随机和局部结构的缺失条目以及已知距离上的测量噪声,获得了校准性能的理论保证。这项研究阐明了校准误差和麦克风的数量以及噪声水平和缺失距离的比率之间的联系。真实数据记录和模拟设置进行彻底的实验,以证明这些理论的见解。一个显着的改善是由建议的欧几里德距离矩阵完成算法超过国家的最先进的技术,为ad hoc麦克风阵列校准。
2014-08-31 cs.LG cs.SD
Multi-view Kernel Completion
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所(HIIT));Aalto University School of Science and Technology(阿尔托大学科学与技术学院)
在本文中,我们介绍了第一种方法,(1)可以完成完全缺失行和列的核矩阵,而不是个别缺失的核值,(2)不需要任何核是先验完整的,(3)可以处理非线性核。这些方面在实际应用中是必要的,例如集成遗留数据集,在传感器故障下学习,以及在某些视图的测量成本高昂时学习。所提出的方法预测丢失的行建模内的视图和视图之间的关系内核值。我们表明,无论是在模拟数据和现实世界的数据,所提出的方法优于现有的技术,在有限的设置,它们是可用的,并扩展适用性到新的设置。
2016-02-08 cs.LG stat.ML
Missing Entries Matrix Approximation and Completion
School of Electrical Engineering Tel Aviv University(电气工程学院 特拉维夫大学);School of Computer Science Tel Aviv University(计算机科学学院 特拉维夫大学)
针对仅部分条目已知的矩阵,提出一系列算法实现矩阵补全与逼近,支持低秩、核范数、谱范数等多种约束,并证明凸情形下全局收敛,无需参数且适用于图像重建及偏微分方程数据恢复。
2014-06-29 cs.LG cs.NA math.NA
Low-Rank Autoregressive Tensor Completion for Spatiotemporal Traffic Data Imputation
Polytechnique Montreal(蒙特利尔理工学院);McGill University(麦吉尔大学)
时空交通时间序列(例如,交通量/速度)通常是不完整的,具有相当大的损坏和大量的缺失值,这阻止了用户利用数据的全部能力。缺失数据填补一直是一个长期的研究课题,并在现实世界的智能交通系统的关键应用。一种广泛应用的插补方法是低秩矩阵/张量完成,然而,低秩假设仅保留全局结构,而忽略了时空数据的强局部一致性。在本文中,我们提出了一个低秩自回归张量完成(LATC)框架,通过引入\textit{temporal variation}作为一个新的正则化项到完成的三阶(传感器$\times$时间的一天$\times$天)张量。三阶张量结构使我们能够更好地捕捉流量数据的全局一致性,例如固有的季节性和日常相似性。为了实现局部一致性,我们通过对每个时间序列施加AR($p$)模型来设计时间变化,其中系数作为可学习参数。与以往的空间和时间正则化方案不同,时间变化的最小化可以更好地表征局部平滑之外的时间生成机制,使我们能够处理更具挑战性的情况下,如“停电”失踪。为了解决LATC中的优化问题,我们引入了一个交替的最小化方案,迭代地估计低秩张量和自回归系数。我们进行了大量的数值实验,在几个现实世界的交通数据集,我们的结果表明,LATC在不同的失踪情况下的有效性。
2021-04-30 cs.LG stat.ML
A Critical Examination of RESCAL for Completion of Knowledge Bases with Transitive Relations
Johns Hopkins University(约翰斯·霍普金斯大学)
大型知识图中的链接预测最近受到了很多关注,因为它对于推断缺失的关系以及完善和改进噪声提取的知识图非常重要。多年来,许多机器学习研究人员已经提出了各种模型来预测知识库中缺失关系的存在。虽然所有以前的方法都给出了在选择数据集上表现出高性能的经验结果,但几乎没有以前的工作来理解知识库的属性与模型性能之间的联系。本文分析了RESCAL方法,证明了它不能对知识库中的非对称传递关系进行编码。
2016-05-16 cs.AI cs.DB cs.LG
S2SRec2: Set-to-Set Recommendation for Basket Completion with Recipe
Walmart Global Tech(沃尔玛全球科技)
针对传统食谱补全仅预测单一食材的局限,本文将购物篮补全重新定义为集合到集合推荐问题,提出基于Set Transformer的多任务框架S2SRec2,联合学习检索缺失食材与评估购物篮完整性,显著优于单目标基线。
2025-07-12 cs.LG
FaithFill: Faithful Inpainting for Object Completion Using a Single Reference Image
Georgetown University(乔治城大学)
本文提出基于扩散的 FaithFill 修复流程,仅用单张光照、背景或视角不同的参考图生成多视图并补全物体缺失部分,同时保持场景,且在 DreamBooth 与新数据集上通过指标、人工和 GPT 评估验证。
2024-06-12 cs.AI cs.CV cs.LG
A Parameter-free Nonconvex Low-rank Tensor Completion Model for Spatiotemporal Traffic Data Recovery
Southeast University(东南大学)
交通数据长期遭受丢失和损坏,导致后续智能交通系统(ITS)应用的准确性和实用性降低。注意到交通数据固有的低秩属性,许多研究将丢失的交通数据恢复描述为低秩张量完成(LRTC)问题。由于LRTC中秩最小化的非凸性和离散性,现有的方法要么用远离秩函数的凸代理函数代替秩,要么用涉及多个参数的非凸代理函数近似秩。在这项研究中,我们提出了一个无参数的非凸张量完成模型(TC-PFNC)的交通数据恢复,其中基于日志的松弛项被设计来近似张量代数秩。此外,以前的研究通常假设观察结果是可靠的,没有任何离群值。因此,我们扩展了TC-PFNC到一个强大的版本(RTC-PFNC)通过建模潜在的流量数据离群值,它可以恢复部分和损坏的观测值的缺失值,并删除观测值中的异常。阐述了基于交替方向乘子法的TC-PFNC和RTC-PFNC的数值解。在四个真实流量数据集上进行的大量实验结果表明,所提出的方法在丢失和损坏的数据恢复方面优于其他最先进的方法。本文中使用的代码可在https://github.com/YoungHe49/T-ITSPFNC上获得。
2022-09-28 cs.LG eess.SP
Learning on Attribute-Missing Graphs
Shanghai Jiao Tong University(上海交通大学);Australian Artificial Intelligence Institute(澳大利亚人工智能研究所);University of Technology Sydney(悉尼科技大学);Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Alibaba Group(阿里巴巴集团);Texas University(得克萨斯大学)
具有完全节点属性的图近年来得到了广泛的研究。而在实践中,有一个图,其中只有部分节点的属性可能是可用的,而其他节点的属性可能完全缺失。这种属性缺失图与许多现实世界的应用有关,并且有有限的研究调查相应的学习问题。现有的图学习方法,包括流行的GNN不能提供令人满意的学习性能,因为他们没有指定的属性缺失图。因此,为这些图设计一个新的GNN是图学习社区的一个紧迫问题。在本文中,我们对图的共享潜在空间的假设,并开发了一种新的基于分布匹配的GNN称为结构属性Transformer(SAT)的属性缺失图。SAT在一个解耦的方案中利用结构和属性,并通过分布匹配技术实现结构和属性的联合分布建模。它不仅可以执行链接预测任务,还可以执行新引入的节点属性补全任务。此外,提出了量化节点属性补全性能的实用措施。在7个真实数据集上的实验表明,SAT在链接预测和节点属性补全任务上都表现出比其他方法更好的性能。代码和数据可在线获取:https://github.com/xuChenSJTU/SAT-master-online
2020-11-03 cs.LG
Singular parameters and missing limits in neural PDE solvers
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学)
本文针对神经PDE求解器中因参数无界增长导致的缺失极限问题,通过分析tanh网络并添加核导数来补全模型,使最佳逼近可达,并数值验证了其对优化的影响。
2026-10-06 cs.LG cs.NA math.NA
Mutual Kernel Matrix Completion
Gunma University(群马大学);Ochanomizu University(御茶水女子大学)
本文提出互核矩阵补全算法,通过融合数据与核矩阵补全方法,提升生物数据分类任务中缺失核矩阵的补全效果。
2017-05-10 cs.LG cs.NA math.NA
Modality Completion via Gaussian Process Prior Variational Autoencoders for Multi-Modal Glioma Segmentation
Queen’s University(女王大学);Azad University(阿扎德大学);University of Leeds(利兹大学);KU Leuven(荷语鲁汶大学);Shenzhen University(深圳大学)
在涉及多协议磁共振成像(MRI)的大型研究中,由于质量差(例如成像伪影)、采集失败或走廊中断成像检查,可能会错过给定患者的一个或多个子模态。在某些情况下,由于扫描时间有限或回顾性协调两项独立研究的成像协议,某些协议不可用。丢失的图像模态对分割框架构成挑战,因为丢失的扫描所提供的补充信息随后丢失。在本文中,我们提出了一种新的模型,多模态高斯过程先验变分自动编码器(MGP-VAE),填补一个或多个丢失的子模态的患者扫描。MGP-VAE可以利用高斯过程(GP)在变分自动编码器(VAE)上的先验来利用受试者/患者和子模态相关性。代替为当前子模态的每个可能子集设计一个网络或使用框架来混合特征图,可以基于所有可用样本从单个模型生成缺失数据。我们展示了MGP-VAE对脑肿瘤分割的适用性,其中四个子模式中的两个或三个可能缺失。我们的实验对竞争性分割基线缺失的子模态BraTS的19数据集表明分割任务的MGP-VAE模型的有效性。
2021-07-07 cs.CV cs.LG eess.IV
Temporal Matrix Completion with Locally Linear Latent Factors for Medical Applications
Hong Kong Baptist University(香港浸会大学);The Chinese University of Hong Kong(香港中文大学)
定期医疗纪录有助医生分析及监察病人的健康状况,尤其是慢性病患者,但由于病人不准时及缺席,有关纪录通常并不完整。为了解决随时间推移的缺失数据问题,最近的论文中提出了基于张量的模型用于缺失数据填补,因为该方法对高度相关的数据使用低秩张量假设。然而,当记录之间的时间间隔较长时,数据相关性沿时间方向不高,这样的假设是不成立的。为了解决这个问题,我们建议将缺失数据的矩阵分解为其潜在因子。然后,本文对这些因子施加局部线性约束,使矩阵完备化。通过对一个公开数据集和两个医院采集的医学数据集的实验结果表明,与现有方法相比,该算法具有最佳的性能。
2016-10-31 cs.CV cs.LG stat.ML
Matrix Completion with Model-free Weighting
Texas A&M University(德州农工大学);Fudan University(复旦大学);University of Washington(华盛顿大学)
本文提出了一种在一般非一致缺失结构下的矩阵补元方法。通过控制一个新的平衡误差的上界,我们构造的权重,可以主动调整的非均匀性的经验风险,而不明确建模的观察概率,并可以通过凸优化有效地计算。恢复矩阵的基础上提出的加权经验风险享有吸引人的理论保证。特别是,所提出的方法实现了更强的保证比现有的工作方面的缩放相对于观测概率,渐近异构缺失设置(其中条目明智的观测概率可以是不同的顺序)。这些设置可以被认为是一个更好的理论模型的丢失模式与高度变化的概率。我们还提供了一个新的极大极小下界下的一类异构设置。数值实验也证明了所提出的方法的有效性。
2021-06-09 cs.LG math.ST stat.ME
Covariate-assisted Sparse Tensor Completion
Purdue University(普渡大学)
我们的目标是在沿着张量模式存在协变量信息的情况下,可证明地完成稀疏且高度缺失的张量。我们的动机来自在线广告,其中用户在各种设备上对广告的点击率(CTR)形成了一个CTR张量,该张量具有约96%的缺失条目,并且在非缺失条目上具有许多零,这使得独立张量完成方法不能令人满意。除了CTR张量之外,通常还可以使用其他广告功能或用户特征。在本文中,我们提出了协变量辅助稀疏张量完成(COSTCO),将协变量信息的稀疏张量的恢复。关键思想是从张量和协变量矩阵中联合提取潜在分量,以学习合成表示。从理论上讲,我们推导出恢复张量分量的误差界,并明确量化由于协变量的揭示概率条件和张量恢复精度的改进。最后,我们将COSTCO应用于由CTR张量和协变量矩阵组成的广告数据集,导致比基线提高了23%的准确性。一个重要的副产品是,来自COSTCO的广告潜在成分揭示了有趣的广告集群,这对更好的广告定位很有用。
2022-04-07 cs.LG math.ST stat.ME
Complete and separate: Conditional separation with missing target source attribute completion
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对条件声源分离中目标源语义信息不完整的问题,提出先训练模型补全缺失语义属性,再用于增强非耦合多条件分离网络,使其性能接近完整信息 oracle 模型并媲美专用单条件模型。
2023-07-27 cs.LG cs.SD eess.AS
Negative Binomial Matrix Completion
University of California, Merced(加州大学默塞德分校);University of California, Irvine(加州大学欧文分校)
本文针对过度离散计数数据提出负二项矩阵补全方法,通过核范数正则化模型和近端梯度下降求解,并在真实数据上验证其优于泊松矩阵补全。
2024-08-28 cs.CV cs.LG eess.IV
Matrix Completion with Quantified Uncertainty through Low Rank Gaussian Copula
Cornell University(康奈尔大学)
现代大规模数据集经常受到丢失条目的困扰。对于含有缺失值的表格数据,一系列插补算法求解一个完整的矩阵,使某些惩罚性重建误差最小化。然而,几乎没有人能估计其估算的不确定性。本文提出了一个概率和可扩展的框架缺失值填补量化的不确定性。我们的模型,低秩高斯Copula,增强了一个标准的概率模型,概率主成分分析,每列的边际变换,使模型更好地匹配数据的分布。它自然地处理布尔、序数和实值观测,并量化每个插补中的不确定性。拟合模型所需的时间与数据集中的行数和列数呈线性关系。实证结果表明,该方法在广泛的数据类型,包括那些具有高排名的国家的最先进的插补精度。我们的不确定性度量很好地预测了插补误差:不确定性较低的条目确实具有较低的插补误差(平均而言)。此外,对于实值数据,得到的置信区间是经过良好校准的。
2021-01-18 cs.LG stat.ML
Matrix Completion for Structured Observations
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出改进的核范数最小化方法,以考虑观测与未观测条目间的结构性差异,提升矩阵补全效果。
2018-01-29 cs.LG cs.NA math.NA
Semantic Image Completion and Enhancement using Deep Learning
ABV-Indian Institute of Information Technology and Management, Gwalior(ABV-瓜廖尔印度信息技术与管理学院)
在实际应用中,某些图像被破坏,其中图像像素被损坏或丢失,这增加了计算机视觉任务的复杂性。在本文中,提出了一种深度学习架构来处理图像完成和增强。生成对抗网络(GAN)已被证明在图片完成任务中很有帮助。因此,在GANs中,Wasserstein GAN架构用于图像完成,其创建粗糙补丁以填充失真图像中的缺失区域,并且增强网络将利用残差学习过程额外地细化所得图像,从而为计算机视觉应用提供更好的完整图像。实验结果表明,所提出的方法提高了峰值信噪比和结构相似性指数值分别为2.45%和4%时,最近报道的数据相比。
2020-01-05 cs.CV cs.LG eess.IV
Matrix Completion using Kronecker Product Approximation
Temple University(天普大学);Rutgers University(罗格斯大学)
一个矩阵完备化问题是恢复部分可观测矩阵中缺失的元素。现有的大多数矩阵完备化方法都假设其基础完备矩阵具有低秩结构。在本文中,我们介绍了一种替代的和更一般的形式的基本完全矩阵,它假设一个低的克罗内克秩,而不是一个低的正规秩,但包括后者作为一个特殊情况。额外的灵活性允许底层矩阵的更简约的表示,但也提出了确定要使用的适当克罗内克积配置的挑战。我们发现,该配置可以使用均方误差标准,以及修改后的交叉验证标准。我们建立了在适当的条件下的信号噪声比的一致性,这一过程。一个聚合过程也被提出来处理特殊的缺失模式和复杂的底层结构。数值和实证研究进行了证明新方法的性能。
2020-11-13 cs.LG stat.ME stat.ML
One-sided Matrix Completion from Two Observations Per Row
Stanford University(斯坦福大学)
针对行数多、每行仅两个观测导致无法恢复左奇异向量的情形,论文提出通过填补 $X^TX$ 恢复右奇异向量的单侧矩阵补全算法,并证明样本复杂度与实验优势。
2023-06-06 cs.DS cs.LG stat.ML