Graph Signal Sampling for Inductive One-Bit Matrix Completion: a Closed-form Solution
Shanghai Jiao Tong University(上海交通大学);Didi Chuxing(滴滴出行);Shanghai AI Laboratory(上海人工智能实验室)
归纳一位矩阵完成的动机是现代的应用程序,如推荐系统,其中新用户将出现在测试阶段的评级只包括1和没有零。我们提出了一个统一的图形信号采样框架,享有图形信号分析和处理的好处。其关键思想是将每个用户对项目的评分转换为项目-项目图的顶点上的函数(信号),然后学习结构图属性以从某些顶点上的值恢复函数-图信号采样问题。我们提出了一类正则化泛函,考虑到离散的随机标签噪声在图顶点域,然后开发的GS-IMC方法,偏向于重建功能,相邻顶点之间的变化很小的降噪。理论结果表明,在温和的条件下,可以实现精确的重建。对于在线设置,我们开发了贝叶斯扩展,即,BGS-IMC在图形傅立叶域中考虑连续随机高斯噪声,并建立在预测校正更新算法的基础上,以获得无偏和最小方差重建。GS-IMC和BGS-IMC都具有封闭形式的解决方案,因此在大数据中具有高度的可扩展性。实验表明,我们的方法在公共基准测试中达到了最先进的性能。
2023-02-08 cs.LG
Conformal Prediction in Learning Under Privileged Information Paradigm with Applications in Drug Discovery
Uppsala University(乌普萨拉大学);AstraZeneca(阿斯利康)
本文探讨了特权信息下学习(LUPI)范式中的共形预测。我们使用SVM+实现的LUPI的归纳共形预测,并将其应用到MNIST基准数据集和三个数据集的药物发现。结果表明,使用特权信息产生有效的模型,并提高了效率相比,标准的SVM,但改善测试数据集之间的差异,并没有实质性的药物发现应用。更重要的是,在共形预测框架中使用SVM+可以在指定的显著性水平上实现有效的预测区间。
2018-04-04 cs.LG stat.AP stat.ML
With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);European Commission, Joint Research Centre (JRC)(欧盟委员会联合研究中心)
研究揭示风险控制推荐系统因依赖聚合反馈易受集体对抗操控影响,通过实验证明小群体可通过平台功能降低非对抗用户nDCG表现,并提出将保障从群体层面转向用户层面的缓解策略。
2026-03-30 cs.IR cs.LG cs.SI
Conditional validity of inductive conformal predictors
共形预测因子是在覆盖概率等于或超过给定置信水平的意义上自动有效的集合预测因子。归纳共形预测是一个计算效率高的版本的共形预测满足相同的属性的有效性。然而,归纳共形预测已经只知道控制无条件覆盖概率。本文探讨了各种版本的条件效度和各种方法来实现它们使用归纳共形预测及其修改。
2012-09-24 cs.LG
Hypergraph Learning based Recommender System for Anomaly Detection, Control and Optimization
TCS Research(塔塔咨询服务研究中心)
提出一种基于超图学习的自适应异常检测框架,通过分层编码器-解码器建模多传感器时空关系,利用自监督自回归预测异常,并结合异常诊断本体与离线最优预测控制策略实现根因分析与补救推荐,达到SOTA性能。
2024-08-21 cs.AI cs.LG
Enhancing the conformal predictability of context-aware recommendation systems by using Deep Autoencoders
Faculty of Science of Tunis, University of Tunis El-Manar(突尼斯大学理工学院);SVKM’s Dwarkadas J. Sanghvi College of Engineering(SVKM德瓦尔卡斯贾亚甘吉学院);The Maersk Mc-Kinney Moller Institute, University of Southern Denmark(马士基麦金尼莫勒研究所,南部丹麦大学);Department of Software Science, Tallinn University of Technology(塔林技术大学软件科学系)
本文提出将神经上下文矩阵分解与自编码器结合用于评分预测,并引入共形预测评分(CPR),在真实数据集上验证了其优于现有方法的性能。
2024-11-30 cs.IR cs.LG
Inductive randomness predictors: beyond conformal
本文提出归纳随机性预测器,证明其严格支配归纳共形预测器但改进有限,呼吁对其开展更深入研究而非直接替代。
2025-07-07 cs.LG stat.ME
Inductive Entity Representations from Text via Link Prediction
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学);Discovery Lab, Elsevier(Elsevier发现实验室)
本文提出通过链接预测目标评估实体表示,展示其在链接预测、实体分类和信息检索中的良好泛化能力,优于现有方法。
2026-05-11 cs.AI cs.CL cs.LG
Reliable Prediction Intervals with Directly Optimized Inductive Conformal Regression for Deep Learning
University of Nottingham Ningbo China(宁波诺丁汉大学)
通过生成预测区间(PI)来量化深度学习回归中每个预测的不确定性,可以有效控制错误预测的风险。高质量的PI需要尽可能窄,同时覆盖预设比例的真实标签。目前,许多提高PI质量的方法可以有效地减少PI的宽度,但它们不能确保捕获足够的真实标签。归纳共形预测器(ICP)是一种算法,可以生成有效的PI,理论上保证覆盖预定比例的数据。然而,典型地,不直接优化ICP以产生最小PI宽度。然而,在这项研究中,我们使用直接优化的归纳共形回归(DOICR),只需要PI的平均宽度作为损失函数,并通过优化的计划,在PI中捕获足够的真实标签的有效性条件下,提高PI的质量。基准实验表明,DOICR优于当前最先进的算法,用于使用表格和图像数据的底层深度神经网络结构的回归问题。
2023-02-02 cs.LG
Conformal Inductive Graph Neural Networks
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);University of Cologne(科隆大学)
针对传统共形预测因消息传递导致校准分数偏移、无法用于归纳式图节点分类的问题,提出适配节点/边可交换图的方法,在保障统计效率的同时恢复标准覆盖保证,且保证与预测时间无关。
2024-07-12 cs.LG
Towards Open-World Recommendation: An Inductive Model-based Collaborative Filtering Approach
Shanghai Jiao Tong University(上海交通大学);Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳人工智能与机器人研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
推荐模型可以有效地估计潜在的用户兴趣和预测一个人的未来行为,通过将观察到的用户-项目评分矩阵分解为两组潜在因素的乘积。然而,特定于用户的嵌入因素只能以转导的方式学习,这使得难以即时处理新用户。在本文中,我们提出了一个归纳协同过滤框架,其中包含两个表示模型。第一种模型是对一组关键用户的评分矩阵进行矩阵分解,得到Meta潜在项。第二个模型采用基于注意力的结构学习,估计从查询到关键用户的隐藏关系,并学习利用Meta潜伏期通过神经消息传递来归纳计算查询用户的嵌入。我们的模型使用户能够进行归纳表示学习,同时保证与矩阵分解等价的表示能力。实验表明,我们的模型取得了可喜的成果,推荐Few-Shot用户有限的训练评级和新的未知用户,这是经常遇到的开放世界推荐系统。
2022-03-07 cs.IR cs.LG
Investigating Data Usage for Inductive Conformal Predictors
School of Computer Science, University of Nottingham Ningbo China(宁波诺丁汉大学计算机学院)
针对归纳共形预测器在数据有限或成本高场景下的高效数据划分开放问题,通过多组实验探究划分方式及训练与校准集样本重叠的情况,为相关学术与实践应用提供参考。
2024-06-18 cs.LG stat.ML
Inductive Conformal Prediction under Data Scarcity: Exploring the Impacts of Nonconformity Measures
Delft University of Technology(代尔夫特理工大学);Radboud University(拉德堡德大学)
本研究评估了数据稀缺下归纳共形预测中多种非一致性度量的表现,发现没有单一度量始终最优,且增加数据量不一定提升效率,需根据数据特性选择度量。
2024-10-13 cs.LG
Approximation to Object Conditional Validity with Inductive Conformal Predictors
School of Computer Science, University of Nottingham Ningbo China(宁波诺丁汉大学计算机科学学院)
共形预测器是机器学习算法,其输出具有最小分布假设的有限样本的边际有效性保证的预测集。这是一个属性,使共形预测有用的机器学习任务,我们需要可靠的预测。在预测区间的有效性保持有效而不管预测对象的任何特定性质的条件的意义上,还期望在相同的设置中实现条件有效性。不幸的是,它已被证明,这样的条件有效性是不可能保证有限样本的非平凡预测问题。在这篇文章中,而不是试图实现一个强大的条件有效性的结果,实现一个近似条件有效性的较弱的目标被认为是。一种新的算法被引入到这样做,通过迭代地调整一致性措施的偏差从对象的条件有效性测量的训练数据。随着一些理论结果,实验结果提供了三个数据集,证明(1)在现实世界中的机器学习任务,缺乏条件有效性是一个可衡量的问题,(2)所提出的算法是有效的,在缓解这个问题。
2021-03-02 cs.LG
Conformal Predictors for Compound Activity Prediction
Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
本文提出了一个应用共形预测的化学信息学问题,识别化合物的活动。本文解决了这一领域的一些具体挑战:大量的化合物(训练样本),高维的特征空间,稀疏和强大的类不平衡。共形预测称为归纳蒙德里安共形预测的一个变种,以应对这些挑战。结果提出了几个非一致性措施(NCM)提取的基础算法和不同的内核。一些性能指标的使用,以证明在处理这样一个复杂的数据集的归纳蒙德里安共形预测的灵活性。关键词:共形预测,置信估计,化学信息学,不一致性度量。
2016-03-14 cs.LG
Inductive Conformal Prediction: A Straightforward Introduction with Examples in Python
IEETA/DETI(电子与信息工程研究院/电子、电信与信息工程系);University of Aveiro(阿威罗大学)
归纳共形预测(ICP)是一组无分布和模型不可知的算法,旨在以用户定义的置信度进行预测,并保证覆盖率。而不是点预测,即,在回归或多类分类中的单个类的情况下为实数,使用ICP校准的模型分别输出一个区间或一组类。ICP在高风险环境中特别重要,我们希望真实输出属于高概率的预测集。作为示例,分类模型可以输出在给定磁共振图像的情况下患者没有要报告的潜在疾病。然而,该模型输出基于最可能的类别,第二个最可能的类别可能告诉患者有15%的可能性患有脑肿瘤或其他严重疾病,因此应进行进一步检查。因此,使用国际比较方案提供的信息更多,我们认为这应该是制作预测的标准方法。本文是一个动手介绍,这意味着我们将提供例子,因为我们介绍的理论。
2022-07-01 cs.LG stat.ML
Assurance Monitoring of Learning Enabled Cyber-Physical Systems Using Inductive Conformal Prediction based on Distance Learning
Vanderbilt University(范德堡大学)
诸如深度神经网络之类的机器学习组件在网络物理系统(CPS)中被广泛使用。然而,这些组件可能会引入新类型的危险,可能会产生灾难性的后果,需要解决工程值得信赖的系统。虽然深度神经网络提供了先进的功能,但它们必须辅以工程方法和实践,以实现CPS中的有效集成。在本文中,我们提出了一种基于共形预测框架的学习型CPS保证监控方法。为了允许实时保证监控,该方法采用远程学习将高维输入转换为较低大小的嵌入表示。通过利用共形预测,该方法提供了良好校准的置信度,并确保了有界的小出错率,同时限制了无法进行准确预测的输入的数量。我们使用三个数据集的移动机器人以下的墙壁,说话人识别和交通标志识别的方法。实验结果表明,出错率校准良好,而报警的数量是非常小的。此外,该方法在计算上是高效的,并且允许CPS的实时保证监控。
2021-10-07 cs.LG
Cross-conformal predictors
本文介绍了交叉共形预测方法,它是归纳共形预测方法和交叉验证方法的混合,并对其有效性和预测效率进行了实证研究。
2012-08-03 cs.LG stat.ML
Jointly Learning Explainable Rules for Recommendation with Knowledge Graph
Tsinghua University(清华大学);University of Southern California(南加利福尼亚大学)
可解释性和有效性是构建推荐系统的两个关键方面。以前的努力主要集中在合并边信息,以实现更好的推荐性能。然而,这些方法具有一些弱点:(1)基于神经网络的嵌入方法的预测难以解释和调试;(2)基于符号、图形的方法(例如,基于Meta路径的模型)需要人工努力和领域知识来定义模式和规则,并且忽略项目关联类型(例如,可替换的和互补的)。在本文中,我们提出了一种新的联合学习框架集成\textit{induction of explainable rules from knowledge graph}与\textit{construction of a rule-guided neural recommendation model}。该框架鼓励两个模块相互补充,以产生有效的和可解释的推荐:1)归纳规则,从以项目为中心的知识图谱中挖掘,总结常见的多跳关系模式,用于推断不同的项目关联,并为模型预测提供人类可读的解释; 2)推荐模块可以通过归纳规则进行扩充,从而在处理冷启动问题时具有更好的泛化能力。大量的实验\footnote{Code and data can be found at: \url{https://github.com/THUIR/RuleRec}}表明,我们提出的方法已经取得了显着的改善,在现实世界的数据集上的基线项目推荐。我们的模型在通过将项目名称链接到相关实体而生成的“嘈杂”项目知识…
2019-03-09 cs.AI cs.IR cs.LG
M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems
Alibaba Group(阿里巴巴集团);Hong Kong Polytechnic University(香港理工大学)
将图表示学习与多视图数据(边信息)相结合进行推荐是业界的一种趋势。大多数现有的方法可以归类为\emph{multi-view representation fusion} ;它们首先构建一个图,然后将多视图数据集成到图中每个节点的单个紧凑表示中。然而,这些方法在工程和算法方面都引起了人们的关注:1)多视图数据在工业中是丰富和信息丰富的,并且可能超过单个向量的容量,以及2)由于多视图数据通常来自不同的分布,因此可能引入归纳偏差。在本文中,我们使用\emph{multi-view representation alignment}的方法来解决这个问题。特别是,我们提出了一个多任务多视图图表示学习框架(M2 GRL)学习网络规模推荐系统的节点表示从多视图图。M2 GRL为每个单视图数据构建一个图,从多个图中学习多个单独的表示,并执行对齐以建模跨视图关系。M2 GRL选择多任务学习范式来联合学习视图内表示和跨视图关系。此外,M2 GRL应用同方差不确定性自适应调整训练过程中任务的损失权重。我们在淘宝部署了M2 GRL,并在570亿个示例上对其进行训练。根据离线指标和在线A/B测试,M2 GRL明显优于其他最先进的算法。在淘宝网上对多样性推荐的进一步探索表明了利用\method{}产生的多个表示的有效性,我们认为这是一个有前途的方向,为各种不同关注点的行业推荐任务。
2020-07-13 cs.IR cs.LG
Inductive Matrix Completion Based on Graph Neural Networks
Washington University in St. Louis(圣路易斯华盛顿大学);Facebook(脸书)
我们提出了一个不使用边信息的归纳矩阵完备化模型。通过将(评级)矩阵分解为行(用户)和列(项目)的低维潜在嵌入的乘积,大多数现有的矩阵完成方法都是直推的,因为学习的嵌入不能推广到看不见的行/列或新矩阵。为了使矩阵补全归纳,大多数以前的作品使用内容(边信息),如用户的年龄或电影的类型,进行预测。然而,高质量的内容并不总是可用的,并且很难提取。在除了要完成的矩阵之外没有任何边信息可用的极端设置下,我们仍然可以学习归纳矩阵完成模型吗?在本文中,我们提出了一个基于归纳图的矩阵完成(IGMC)模型来解决这个问题。IGMC训练一个图神经网络(GNN),纯粹基于1跳子图周围(用户,项目)从评级矩阵生成的对,并将这些子图映射到其相应的评级。它通过最先进的转换基线实现了极具竞争力的性能。此外,IGMC是归纳性的--它可以概括为在训练过程中看不到的用户/项目(假设他们的交互存在),甚至可以转移到新的任务。我们的迁移学习实验表明,从MovieLens数据集训练出来的模型可以直接用于预测豆瓣电影的评分,并且性能惊人。我们的工作表明:1)可以在不使用边信息的情况下训练归纳矩阵完成模型,同时实现与现有技术的转换方法类似或更好的性能; 2)(用户,项目)对周围的局部图形模式是该用户给予项目的评级的有效预测器;以及3)长范围依赖性对于建模推荐系统可能不是必需的。
2020-02-16 cs.IR cs.LG stat.ML
Optimized conformal classification using gradient descent approximation
University of Nottingham Ningbo China(宁波诺丁汉大学)
保形预测器是一类重要的算法,它允许以用户定义的置信水平进行预测。他们能够通过输出预测集而不是简单的点预测来做到这一点。保形预测是有效的,在这个意义上,它的预测精度保证满足置信水平,只有假设在数据中的交换。由于保证了准确性,因此通过预测集的效率来测量共形预测器的性能。通常,共形预测器建立在底层机器学习算法上,因此其预测能力继承自该算法。然而,由于底层机器学习算法不是以最小化预测效率为目标来训练的,这意味着所得到的适形预测器可能是次优的并且与该目标不充分对准。因此,在这项研究中,我们考虑一种方法来训练的共形预测直接与最大的预测效率作为优化目标,我们专注于归纳共形预测分类。为此,共形预测器由一个可微的目标函数近似,并利用梯度下降对其进行优化,然后将得到的参数估计值传递给一个适当的归纳共形预测器,得到有效的预测集。我们测试的方法在几个现实世界的数据集,发现该方法是有前途的,在大多数情况下,提供了改进的预测效率对基线共形预测。
2021-05-24 cs.LG
Knowledge-aware Graph Neural Networks with Label Smoothness Regularization for Recommender Systems
Stanford University(斯坦福大学);Meituan-Dianping Group(美团点评集团);Hong Kong Polytechnic University(香港理工大学)
知识图谱捕获一组实体或项目之间的结构化信息和关系。因此,知识图谱代表了一个有吸引力的信息源,可以帮助改善推荐系统。然而,该领域中的现有方法依赖于手动特征工程,并且不允许端到端训练。在这里,我们提出了知识感知的图神经网络与标签平滑正则化(KGNN-LS),以提供更好的建议。从概念上讲,我们的方法计算用户特定的项目嵌入,首先应用一个可训练的功能,确定重要的知识图谱的关系,为给定的用户。通过这种方式,我们将知识图谱转换为用户特定的加权图,然后应用图神经网络来计算个性化的项目嵌入。为了提供更好的归纳偏差,我们依赖于标签平滑性假设,该假设假定知识图谱中的相邻项可能具有相似的用户相关性标签/分数。标签平滑提供了正则化的边缘权重,我们证明了它是等价于一个标签传播计划的图。我们还开发了一个高效的实现,表现出强大的可扩展性方面的知识图谱的大小。在四个数据集上的实验表明,我们的方法优于最先进的基线。KGNN-LS还在用户-项目交互稀疏的冷启动场景中实现了强大的性能。
2019-06-14 cs.IR cs.LG stat.ML
Towards Universal Sequence Representation Learning for Recommender Systems
Renmin University of China(中国人民大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);Alibaba Group(阿里巴巴集团)
为了开发有效的序列表示器,提出了一系列序列表示学习(SRL)方法来建模历史用户行为。大多数现有的SRL方法依赖于显式的项目ID来开发序列模型,以更好地捕获用户偏好。虽然这些方法在一定程度上是有效的,但由于显式建模项目ID的限制,这些方法很难转移到新的推荐场景。为了解决这个问题,我们提出了一种新的通用序列表示学习方法,命名为UniSRec。所提出的方法利用项目的相关描述文本来学习跨不同推荐场景的可转移表示。为了学习通用项目表示,我们设计了一个轻量级的项目编码架构的参数白化和混合的专家增强适配器。为了学习通用序列表示,我们引入了两个对比的预训练任务,通过采样多域否定。通过预训练的通用序列表示模型,我们的方法可以在归纳或转换设置下以参数有效的方式有效地转移到新的推荐域或平台。在真实数据集上进行的大量实验证明了该方法的有效性。特别是,我们的方法也导致在跨平台设置的性能改善,显示出强大的通用SRL方法的可移植性。代码和预训练模型可在www.example.com上获得。
2022-06-13 cs.AI cs.IR cs.LG
Out-of-Sample Hydrocarbon Production Forecasting: Time Series Machine Learning using Productivity Index-Driven Features and Inductive Conformal Prediction
Sudapet Co. Ltd.(苏达佩特公司);University of Portsmouth(波特茅斯大学)
本研究针对样本外油气产量预测的鲁棒性问题,提出整合产能指数驱动特征选择与归纳共形预测的机器学习框架,在Volve和Norne油田数据上验证了LSTM模型的最优性能,为复杂油气预测提供可靠方法。
2025-08-12 cs.LG physics.data-an
PAC-Bayes Generalization Certificates for Learned Inductive Conformal Prediction
NVIDIA Research(英伟达研究院);Princeton University(普林斯顿大学);Harvard University(哈佛大学);Stanford University(斯坦福大学)
本文针对学习型 ICP 预测集合的覆盖率与效率泛化问题,提出 PAC-Bayes 泛化界及可利用全部校准数据联合微调模型与评分函数的算法,在低数据回归和分类任务上优于 Hoeffding 基线。
2023-12-07 cs.LG stat.ML
Data-Driven Calibration of Prediction Sets in Large Vision-Language Models Based on Inductive Conformal Prediction
提出模型无关的分裂共形预测框架,通过动态阈值与跨模态一致性校准 LVLM 预测集,在 ScienceQA 和 MMMU 上验证其覆盖率保证与部署稳健性。
2025-05-15 cs.AI cs.CL cs.LG
Reliability-based cleaning of noisy training labels with inductive conformal prediction in multi-modal biomedical data mining
Stanford University(斯坦福大学);Jinling Hospital(金陵医院)
针对生物医学数据标注困难的问题,提出一种基于归纳共形预测(ICP)的训练数据清洗方法,利用少量准确标签纠正噪声数据,在多模态分类任务中显著提升了性能且无需大量人工标注数据。
2023-09-13 cs.AI cs.CV cs.LG
Test-time augmentation improves efficiency in conformal prediction
Massachusetts Institute of Technology(麻省理工学院);CSAIL(计算机科学与人工智能实验室)
本研究表明测试时增强(TTA)能有效减小共形分类器生成的预测集大小,该方法无需重训模型,可结合任意共形分数,平均将预测集减小10%-14%。
2025-05-28 cs.CV cs.LG
Regression Conformal Prediction with Nearest Neighbours
Frederick University(弗雷德里克大学);Royal Holloway, University of London(伦敦大学皇家霍洛威学院)
在本文中,我们共形预测(CP)的k-最近邻回归(K-NNR)算法,并提出了扩展的方法,用于回归到目前为止的典型的非一致性措施。与生成点预测的传统回归方法不同,保形预测器输出满足给定置信水平的预测区域。任何共形预测器产生的区域都是自动有效的,但是它们的紧密性和有用性取决于每个CP使用的非一致性度量。实际上,非一致性度量评估给定示例与基于某些传统机器学习算法的一组其他示例相比有多奇怪。我们定义了六个新的不符合措施的基础上的k-最近邻回归算法,并开发相应的CP以下的原始(转导)和归纳CP的方法。我们的措施与典型的回归措施的预测区域的比较表明,一个重大的改进,在预测区域的紧密性方面实现了新的措施。
2014-01-16 cs.LG
Conformal prediction for text infilling and part-of-speech prediction
North Carolina State University(北卡罗来纳州立大学);University of Florida(佛罗里达大学);High Point University(高点大学);University of Louisiana, Lafayette(路易斯安那大学拉法叶分校)
现代机器学习算法能够提供非常准确的点预测;然而,关于其统计可靠性的问题仍然存在。与传统的机器学习方法不同,共形预测算法返回置信集(即,集值预测)。此外,这些置信度集是有效的,因为它们保证了对类型1错误概率的有限样本控制,允许从业者选择可接受的错误率。在本文中,我们提出了归纳共形预测(ICP)算法的文本填充和词性(POS)预测的自然语言数据的任务。我们构建了新的共形预测增强的双向编码器表示,从变压器(BERT)和双向长短期记忆(BiLSTM)算法的POS标记和一个新的共形预测增强的BERT算法的文本填充。我们分析了使用布朗语料库,其中包含超过57,000句模拟算法的性能。我们的研究结果表明,ICP算法能够产生有效的集值预测是足够小,适用于现实世界中的应用。我们还提供了一个真实的数据示例,说明我们提出的集值预测如何改善机器生成的音频传输。
2021-11-04 cs.LG stat.ML
Do LLM Recommenders Know When They're Hallucinating? Auditing Confidence Calibration in Catalog Faithfulness
Amazon.com LLC(亚马逊公司)
该研究审计了四个零样本LLM推荐系统的幻觉率与置信度校准,发现其系统性置信不足,提出conformal弃权阈值效果有限,建议审计需同时报告校准与OOD率并采用锚定目录的提示。
2026-08-25 cs.CL cs.IR cs.LG
When Can We Reuse a Calibration Set for Multiple Conformal Predictions?
Department of Mathematics, Cardiff University, UK(卡迪夫大学数学系);Department of Computing, Imperial College London, UK(伦敦帝国理工学院计算系)
本文结合e-conformal prediction与Hoeffding不等式,提出复用单一校准集的方法,在保持可证明置信度的同时减少了重复校准的需求。
2025-06-24 cs.AI cs.LG math.ST
Reinforcement Learning with Conformal Action Sets: An Application to Sequential Recommendation
University of Pennsylvania(宾夕法尼亚大学);Washington State University(华盛顿州立大学)
针对序列推荐中固定候选集大小的问题,提出带校准剪枝的强化学习(RLCP),通过评论家分数和在线阈值自适应调整动作集,在19种配置中至少一种变体实现最高目录多样性,达最强基线的1.11至5.21倍。
2026-10-07 cs.AI cs.LG
Approximate Conditional Coverage & Calibration via Neural Model Approximations
Reexpress AI;Harvard University(哈佛大学)
一个典型的迫切需要量化的不确定性从分类模型作为一个预测集是类条件单例集校准。也就是说,这样的集合应该映射到校准良好的选择性分类器的输出,匹配观察到的相似实例的频率。最近提出深度网络自适应和局部共形p值的工作并不能保证这种行为,也不能凭经验实现。相反,我们使用来自基于KNN的Transformer网络近似的预测可靠性的强信号来构建Mondrian Conformal Predictors的数据驱动分区,这些分区被视为弱选择性分类器,然后通过新的归纳Venn Predictor(Venn-ADMIT Predictor)进行校准。由此产生的选择性分类器是校准良好的,在一个保守的,但实际上有用的意义上,对于一个给定的阈值。它们对数据分区比例的变化具有固有的鲁棒性,并且简单的保守统计学对协变量偏移提供了额外的鲁棒性。我们比较和对比最近的共形预测器在几个具有代表性和挑战性的自然语言处理分类任务中产生的数量,包括类不平衡和分布偏移设置。
2022-12-01 cs.CL cs.LG
Multi-Scale Quasi-RNN for Next Item Recommendation
School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院);LILY Research Centre, Nanyang Technological University(南洋理工大学LILY研究中心)
如何更好地利用序列信息已被广泛研究的推荐系统的设置。为此,架构归纳偏差,如马尔可夫链,递归模型,卷积网络和许多其他已经证明了合理的成功在这项任务。本文提出了一种新的神经网络结构,多尺度准RNN下一个项目推荐(QR-Rec)任务。我们的模型通过利用多尺度卷积特征作为循环单元的组合门控函数,提供了两全其美的效果。该模型以多尺度方式实现,即,实现各种宽度的卷积滤波器以捕获影响合成编码器的输入序列的不同联合级特征。其关键思想是捕捉不同类型的局部特征之间的循环关系,这在推荐的背景下从未被研究过。通过大量的实验,我们证明了我们的模型在15个成熟的数据集上实现了最先进的性能,在MAP,Recall@10和NDCG@10方面,绝对优于FPMC,Fossil和Caser等强大的竞争对手0.57%-7.16%,相对于1.44%-17.65%。
2019-02-26 cs.IR cs.LG cs.NE
Kandinsky Conformal Prediction: Efficient Calibration of Image Segmentation Algorithms
The Netherlands Cancer Institute(荷兰癌症研究所);University of Amsterdam(阿姆斯特丹大学)
针对数据稀缺场景下像素级图像分割模型校准困难的问题,提出Kandinsky calibration方法,利用图像空间结构聚合相似区域的不一致性分数,在少量数据下显著降低了覆盖误差并提升了校准的数据效率。
2023-11-20 cs.AI cs.CV cs.LG
Privacy Preserving Inference of Personalized Content for Out of Matrix Users
Institute for Clarity in Documentation(清晰文档研究所);Inria Paris-Rocquencourt(巴黎-rocquencourt研究所);Rajiv Gandhi University(拉贾夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒姆研究实验室);Stanford University(斯坦福大学)
本文提出 DeepNaniNet,一种基于归纳图架构和 BERT 文本嵌入的隐私保护推荐框架,通过“内容篮子”用户表示与自编码器泛化策略解决冷启动问题,并在 CiteULike 和 AnimeULike 数据集上取得领先性能。
2025-08-12 cs.AI cs.IR cs.LG