Unsupervised Calibration under Covariate Shift
Stanford University(斯坦福大学)
如果概率模型的预测概率与相应的经验频率相匹配,则该概率模型被称为已校准。校准对于安全关键应用中的不确定性量化和决策非常重要。虽然分类器的校准已被广泛研究,我们发现,校准是脆弱的,很容易失去最小的协变量偏移。现有的技术,包括领域自适应技术,主要集中在预测精度上,并且在理论上和实践中都不能保证校准。在这项工作中,我们正式介绍的问题下域移位的校准,并提出了一个重要性采样为基础的方法来解决它。我们评估和讨论我们的方法在真实世界的数据集和合成数据集的有效性。
2020-06-29 cs.LG stat.ML
Semi-Supervised Conformal Prediction With Unlabeled Nonconformity Score
Southern University of Science and Technology(南方科技大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Fudan University(复旦大学);University of Science and Technology of China(中国科学技术大学);Shenzhen Loop Area Institute(深圳河套学院)
本文提出SemiCP,通过结合标记和未标记数据提升置信预测的覆盖性能,实验表明在有限标记数据下可显著降低覆盖差距。
2026-03-10 cs.LG
Calibration of Neural Networks using Splines
Australian National University(澳大利亚国立大学);Data61, CSIRO(联邦科学与工业研究组织 Data61);Google Research(谷歌研究院)
校准神经网络是最重要的,当采用它们在安全关键的应用程序,下游决策取决于预测的概率。测量校准误差相当于比较两个经验分布。在这项工作中,我们引入了一个免费的binning校准措施的灵感来自经典的Kolmogorov-Smirnov(KS)统计检验,其主要思想是比较各自的累积概率分布。由此,通过使用样条函数的可微函数来近似经验累积分布,我们获得了一个重新校准函数,该函数将网络输出映射到实际(校准)的类分配概率。使用保持的校准集进行脊柱拟合,并在看不见的测试集上评估所获得的重新校准函数。我们在各种图像分类数据集上测试了我们的方法与现有的校准方法,并且我们基于样条的重新校准方法在KS误差以及其他常用校准措施上始终优于现有方法。我们的代码可在https://github.com/kartikgupta-at-anu/spline-calibration上获得。
2021-12-29 cs.CV cs.LG stat.ML
Improving Multi-Class Calibration through Normalization-Aware Isotonic Techniques
Department of Statistics, Tel Aviv University(特拉维夫大学统计系)
本文提出了一种基于规范化感知的等距技术,用于改进多类校准,通过直接整合规范化或建模为累积双变量等距回归,提升了模型的校准性能和预测准确性。
2025-12-09 cs.LG
Calibrate and Prune: Improving Reliability of Lottery Tickets Through Prediction Calibration
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Labs(劳伦斯利弗莫尔国家实验室);IBM Research AI(IBM研究院人工智能部门)
子网络初始化(彩票)存在于过参数化网络的初始化中的假设,当孤立地训练时,产生高度概括的模型,这导致了对网络初始化的重要见解,并实现了有效的推理。具有未校准置信度的监督模型即使在做出错误预测时也倾向于过度自信。在本文中,我们首次研究了过参数化网络中的显式置信度校准如何影响所得彩票的质量。更具体地说,我们采用了一套校准策略,从混合正则化,方差加权置信度校准到新提出的基于似然的校准和归一化bin分配策略。此外,我们还探索了架构和数据集的不同组合,并就置信度校准的作用提出了一些关键发现。我们的实证研究表明,包括校准机制始终导致更有效的彩票,在准确性以及经验校准指标方面,即使使用相对于源数据集具有挑战性分布变化的数据进行再训练。
2020-09-30 cs.LG stat.ML
Beyond Probability Partitions: Calibrating Neural Networks with Semantic Aware Grouping
Nanjing University(南京大学)
提出广义的划分校准误差(PCE),通过联合学习基于深度模型特征和 logits 的语义感知分组函数划分数据空间并为各子集单独学习校准函数,显著提升了多个数据集和网络架构的校准性能。
2023-10-21 cs.LG
Towards Certification of Uncertainty Calibration under Adversarial Attacks
University of Oxford(牛津大学);Vienna University of Technology(维也纳技术大学)
针对对抗攻击损害神经分类器校准的问题,提出认证校准方法,给出Brier分数解析界与期望校准误差的混合整数规划近似界,并引入对抗校准训练以提升校准。
2025-02-25 cs.LG stat.ML
Improving conversion rate prediction via self-supervised pre-training in online advertising
Yahoo Research(雅虎研究院)
针对在线广告点击归因转化数据稀疏且不能用非点击归因数据训练以保障模型校准的问题,提出用在全量转化数据上预训练的自编码器做特征提取增强FM模型,在离线和在线A/B测试中均有提升,已部署于Yahoo原生广告系统。
2024-01-25 cs.IR cs.LG stat.ML
Guarding the Meaning: Self-Supervised Training for Semantic Robustness in Guard Models
Qualcomm AI Research(高通人工智能研究)
针对守卫模型对表层语言变异敏感、缺乏语义基础的问题,提出基于释义集和偏斜感知聚合策略的自监督框架,提升其语义鲁棒性,降低语义变异性约58%、平均提升基准准确率约2.5%,并发现校准与一致性的双向关系。
2025-11-06 cs.AI cs.CL cs.LG
Confidence-Aware Multi-Field Model Calibration
Tsinghua University(清华大学);Huawei Petal Cloud Technology Co., Ltd.(华为花瓣云技术有限公司)
针对广告场景下部分特征域样本稀疏导致校准不可靠的问题,提出置信度感知的多域校准方法,自适应调整校准强度并结合多域联合校准,有效提升广告效果、降低预测偏差。
2024-05-21 cs.LG
Evaluating Accuracy and Probabilistic Reliability of Zero-Shot Time Series Foundation Models
University of Nicosia(尼科西亚大学);University of Cyprus(塞浦路斯大学)
本文基准评估六种零样本时间序列基础模型,发现其优于统计与监督方法,但存在点准确性与概率校准的权衡,xLSTM校准稳健,补丁Transformer长程校准欠佳。
2026-09-23 cs.AI cs.LG
Explanation-based Counterfactual Retraining(XCR): A Calibration Method for Black-box Models
Nanjing University(南京大学)
随着可解释人工智能(XAI)的快速发展,基于扰动的事后XAI模型中的分布外(OOD)问题引起了人们的关注,而对这些问题的解释在社会上是不一致的。我们探讨了使用近似器来模仿黑盒模型行为的事后解释方法的局限性。然后提出了基于解释的反事实再训练算法(XCR),快速提取特征重要性。XCR将XAI模型生成的解释作为反事实输入,重新训练黑盒模型,以解决OOD和社会错位问题。对流行图像数据集的评估表明,XCR在不改变黑盒模型结构的情况下,仅保留12.5%的最关键特征,就可以提高模型性能。此外,腐败数据集的基准测试的评估表明,XCR是非常有助于提高模型的鲁棒性,并积极影响OOD问题的校准。即使没有像一些OOD校准方法那样在验证集中校准,损坏的数据度量也优于现有方法。如果应用验证集上的校准,则我们的方法还在OOD校准度量上击败了当前的OOD校准方法。
2022-06-22 cs.LG
Calibration tests beyond classification
Uppsala University(乌普萨拉大学);Linköping University(林雪平大学)
大多数有监督的机器学习任务都受到不可约的预测误差的影响。概率预测模型通过提供表示对似然目标的信念的概率分布而不是点估计来解决这个限制。这种模型可以成为在不确定情况下进行决策的宝贵工具,前提是模型输出是有意义的和可解释的。经过校准的模型保证概率预测既不会过度自信,也不会信心不足。在机器学习文献中,已经提出并研究了用于评估分类模型的校准的不同测量和统计测试。然而,对于回归问题,研究一直集中在一个较弱的校准条件的基础上预测的分位数为实值目标。在本文中,我们提出了第一个框架,统一的校准评估和测试一般概率预测模型。它适用于任何此类模型,包括任意维度的分类和回归模型。此外,该框架概括了现有的措施,并提供了一个更直观的重新制定最近提出的框架校准多类分类。特别是,我们重新制定和推广的内核校准误差,它的估计,并使用标量值内核的假设检验,并评估校准的实值回归问题。
2022-10-21 cs.LG stat.ML
Uncertainty Calibration of Multi-Label Bird Sound Classifiers
INS, Kiel University, Germany(基尔大学);Tilburg University, Netherlands(蒂尔堡大学);Naturalis Biodiversity Center, Netherlands(自然史生物多样性中心);IES, University of Kassel, Germany(卡塞尔大学)
本文研究了多标签鸟类声音分类器的不确定性校准问题,发现不同模型在不同数据集和类别上的校准效果差异显著,提出通过简单后处理方法提升校准性能。
2026-02-24 cs.LG cs.SD
Calibration without Ground Truth
Peking University(北京大学);Microsoft Research(微软研究院)
本文提出一种无需标注的校准方法,通过参考模型改进校准不准确的强模型,实现性能提升。
2026-01-27 cs.GT cs.LG
Deep Learning-Enhanced Calibration of the Heston Model: A Unified Framework
Department of Applied Mathematics, Faculty of Mathematical Sciences, University of Guilan, P. O. Box: 41938-1914, Rasht, Iran(应用数学系,数学科学学院,加兹万大学,伊朗拉什特邮编41938-1914);Department of Mathematics, Faculty of Mathematical Sciences, Alzahra University, Tehran, Iran(数学系,数学科学学院,阿尔扎哈拉大学,伊朗德黑兰);Department of Economics and Business, Universidad de Almeria, Spain(经济与商业系,阿尔梅里亚大学,西班牙)
本文提出一种结合深度学习的统一框架,通过价格近似网络和校准修正网络提升Heston模型校准的效率与准确性,在实证中表现出更优的收敛速度和泛化能力。
2026-04-20 cs.LG math.AP
Restoring Calibration for Aligned Large Language Models: A Calibration-Aware Fine-Tuning Approach
University of Pennsylvania(宾夕法尼亚大学)
本文针对偏好对齐导致LLM校准退化问题,提出校准感知微调及基于EM算法的ECE正则化方法,在保持性能的同时恢复校准。
2025-10-16 cs.AI cs.LG stat.ML
Supervised Deep Neural Networks (DNNs) for Pricing/Calibration of Vanilla/Exotic Options Under Various Different Processes
Shanghai Advanced Institute of Finance(上海高级金融学院);Orient Securities(东方证券);Cubist Systematic Strategies(库比斯特系统策略公司)
我们应用有监督的深度神经网络(DNN)对具有和不具有随机波动率的扩散和纯跳跃过程下的普通期权和奇异期权进行定价和校准。我们训练我们的神经网络模型在不同的层数,每层的神经元,和各种不同的激活函数,以找到哪些组合更好地工作经验。对于训练,我们考虑各种不同的损失函数和优化例程。我们证明,与常用的期权定价方法相比,深度神经网络以指数方式加快了期权定价,从而使校准和参数估计超快。
2019-02-15 cs.LG q-fin.PR
Active Semi-supervised Transfer Learning (ASTL) for Offline BCI Calibration
DataNova
脑电信号事件相关电位的单次分类是脑机接口(BCI)的一个重要研究方向。由于个体差异,通常需要一些特定于受试者的校准数据来为每个受试者定制分类器。迁移学习已被广泛用于通过利用来自类似/相关主体/任务的辅助数据来减少这种校准数据要求。然而,所有以前的研究都假设所有辅助数据都已标记。本文考虑了一个更一般的场景,其中部分辅助数据可以是未标记的。提出了一种基于主动半监督迁移学习(ASTL)的脑机接口离线校准方法,该方法集成了主动学习、半监督学习和迁移学习。使用视觉诱发电位古怪的任务和三种不同的EEG耳机,我们证明,ASTL可以实现一致的良好性能,跨学科和耳机,它优于一些国家的最先进的方法在文献中。
2018-05-12 cs.HC cs.LG stat.ML
Generative Modelling for Unsupervised Score Calibration
AGNITIO Research(AGNITIO研究院);Johns Hopkins University(约翰斯·霍普金斯大学)
分数校准使自动说话人识别器能够做出具有成本效益的接受/拒绝决定。传统的校准需要监督数据,这是一种昂贵的资源。我们提出了一个2分量GMM无监督校准,并表现出良好的性能相对于NIST SRE'10和SRE'12的监督基线。贝叶斯分析表明,与无监督校准参数估计值相关的不确定性是令人惊讶的小。
2014-02-14 cs.LG stat.ML
IW-GAE: Importance Weighted Group Accuracy Estimation for Improved Calibration and Model Selection in Unsupervised Domain Adaptation
Northwestern University(西北大学)
针对无监督域适应中的分布偏移,提出重要性加权组精度估计器(IW-GAE),通过优化重要性权重实现准确组精度估计,在模型校准和选择任务上分别提升22%和14%。
2024-07-17 cs.LG stat.ML
Self-Supervised Calibration of Scientific Instruments Using Physical Consistency Constraints
提出一种物理信息自监督框架,从原始测量中联合学习潜在探测器校准参数和任务预测,无需预校准信号或外部标签,在VAMOS++磁谱仪上演示了离子电荷态确定。
2026-06-28 cs.LG nucl-ex physics.ins-det
Physics-Informed Self-Supervised Learning for Joint Wire Calibration and Interaction Position Reconstruction in Multi-Wire Parallel Plate Avalanche Counters
GANIL, CEA/DRF - CNRS/IN2P3(GANIL,CEA/DRF - CNRS/IN2P3)
提出物理信息自监督学习框架,联合校准多丝平行板雪崩计数器丝线增益并重建相互作用位置,无需标签数据,实验验证提升均匀性与分辨率。
2026-09-25 cs.LG nucl-ex physics.ins-det
MAGIC-SSCIL: Manifold Anchoring and Geometric Incremental Calibration for Semi-Supervised Class Incremental Learning
针对无范例半监督类增量学习的灾难性遗忘与伪标签不可靠问题,提出MAGIC框架,通过软加权几何校准与几何结构对齐组件,在多数据集低标签场景下提升了平均增量准确率。
2026-08-11 cs.CV cs.LG
On the Importance of Difficulty Calibration in Membership Inference Attacks
University of Edinburgh(爱丁堡大学);Meta AI
近年来,机器学习模型对成员推断攻击的脆弱性备受关注。然而,现有的攻击大多仍然是不切实际的,由于具有高误报率,其中非成员样本往往被错误地预测为成员。这种类型的误差使得预测的隶属度信号不可靠,特别是因为大多数样本在现实世界应用中是非成员。在这项工作中,我们认为,成员推断攻击可以大大受益于\emph{difficulty calibration},其中攻击的预测成员分数调整到正确分类目标样本的难度。我们表明,难度校准可以显着降低各种现有攻击的误报率,而不会损失准确性。
2022-04-11 cs.CR cs.LG
Adaptive Semi-Supervised Training of P300 ERP-BCI Speller System with Minimum Calibration Effort
Department of Biostatistics and Bioinformatics(生物统计学与生物信息学系);Rollins School of Public Health, Emory University(埃默里大学罗林斯公共卫生学院);Department of Physical Medicine and Rehabilitation(物理医学与康复系);Department of Biomedical Engineering(生物医学工程系);University of Michigan(密歇根大学)
本文提出了一种自适应半监督学习框架,通过最小化校准努力提升P300 ERP-BCI拼写系统的实时拼写效率。
2026-02-17 cs.LG stat.AP
On the Importance of a Multi-Scale Calibration for Quantization
本文提出MaCa方法,通过多尺度校准提升大语言模型量化精度,改进Hessian估计并增强量化效果。
2026-02-07 cs.CL cs.LG
Pseudo-Label Calibration Semi-supervised Multi-Modal Entity Alignment
Renmin University of China(中国人民大学)
针对半监督多模态实体对齐中的模态噪声与标签利用不足问题,提出 PCMEA,通过多模态特征编码、互信息最大化去噪及伪标签校准动量对比学习,在两个数据集上达到 SOTA。
2024-03-02 cs.CL cs.DB cs.LG
Sampling Control for Imbalanced Calibration in Semi-Supervised Learning
Corresponding author(通讯作者)
SC-SSL通过解耦采样控制减轻半监督学习中的类别不平衡问题,通过自适应调整采样概率和后处理校准logits,提升模型性能。
2025-11-24 cs.CV cs.LG stat.ML
Bellman Calibration for Marginalized Importance Weighting in Offline Reinforcement Learning
Stanford University(斯坦福大学);Netflix(网飞);Cornell University(康奈尔大学)
本文针对离线强化学习中边缘化重要性加权的残留占用平衡违反问题,提出等渗贝尔曼校准方法,可减少此类违反并保证下游策略价值估计等任务的性能。
2026-08-26 cs.LG stat.ML
Exploring Transferability of Self-Supervised Learning by Task Conflict Calibration
本文针对SSL可迁移性的定义与建模问题,提出TC²方法,通过分割批次注入任务信息、提取因果因子与样本权重、两阶段优化校准表示,有效减轻任务冲突,持续提升SSL模型在下游任务的可迁移性。
2025-11-16 cs.CV cs.LG
ProCNS: Progressive Prototype Calibration and Noise Suppression for Weakly-Supervised Medical Image Segmentation
Southern University of Science and Technology(南方科技大学);University of Hong Kong(香港大学);Jiaxing Research Institute, Southern University of Science and Technology(南方科技大学嘉兴研究院)
提出弱监督医学图像分割方法ProCNS,通过PRSA损失最大化空间与语义亲和性并提供可靠指导,结合ANPM模块掩蔽噪声区域并生成软伪标签,在六项任务上显著优于现有方法。
2024-12-24 cs.CV cs.LG
Importance of user inputs while using incremental learning to personalize human activity recognition models
University of Oulu(奥卢大学)
在这项研究中,用户输入的重要性进行了研究的背景下,个性化的人类活动识别模型,使用增量学习。使用来自三个身体位置的惯性传感器数据,并且分类基于Learn++集成方法。比较了三种不同的模型更新方法:非监督、半监督和监督。非监督方法完全依赖于预测标签,监督完全依赖于用户标记的数据,而所提出的半监督学习方法是这两者的组合。事实上,我们的实验表明,通过依赖于高置信度的预测标签,并要求用户只标记不确定的观察结果(根据所使用的基本分类器,从12%到26%的观察结果),几乎可以实现与使用监督方法一样低的出错率。事实上,差异小于2%-单位。此外,与非监督方法不同,半监督方法不会遭受剧烈的概念漂移,因此,非监督方法的出错率超过5%,比使用半监督方法高。
2019-05-28 cs.CV cs.HC cs.LG
Normality Calibration in Semi-supervised Graph Anomaly Detection
University of Science and Technology of China(中国科学技术大学)
提出GraphNC框架,通过教师模型在异常分数和表示空间联合校准正态性,解决半监督图异常检测中正态性过拟合问题,降低误报。
2026-06-06 cs.LG
S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration
Carnegie Mellon University(卡内基梅隆大学);Hong Kong University of Science and Technology(香港科技大学);Inception Institute of Artificial Intelligence(起源人工智能研究院)
以往的研究主要针对实值网络上的自监督学习,并取得了许多有希望的结果。然而,在更具挑战性的二进制神经网络(BNN)上,这一任务尚未在社区中得到充分探索。在本文中,我们专注于这个更困难的场景:学习网络,其中权重和激活都是二进制的,同时没有任何人类注释的标签。我们观察到,常用的对比目标是不满意的BNN竞争的准确性,因为骨干网络包含相对有限的容量和表示能力。因此,我们没有直接应用现有的自监督方法,这会导致性能严重下降,而是提出了一种新的指导学习范式,从实值到最终预测分布上的二进制网络,以最大限度地减少损失并获得理想的精度。我们提出的方法可以提高简单的对比学习基线上的BNN的绝对增益为5.5~15%。我们进一步揭示了BNN在没有标签的情况下训练时很难恢复与实值模型相似的预测分布。因此,如何校准它们是解决性能下降的关键。在大规模ImageNet和下游数据集上进行了广泛的实验。我们的方法在简单的对比学习基线上取得了实质性的改进,甚至可以与许多主流的监督BNN方法相媲美。代码可在https://github.com/szq0214/S2-BNN上获得。
2021-06-21 cs.AI cs.CV cs.LG
On the Importance of Hyperparameters and Data Augmentation for Self-Supervised Learning
University of Freiburg(弗莱堡大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
自监督学习(SSL)已成为深度学习研究中非常活跃的领域,它被大量用作分类和其他任务的预训练方法。然而,这一领域的快速发展是有代价的:不同论文的培训渠道差异很大,这是一个潜在的关键混淆因素。在这里,我们表明,超参数和数据增强策略的选择确实会对性能产生巨大影响。为了揭示这些被忽视的因素并帮助最大限度地发挥SSL的功能,我们对这些组件进行了超参数化,并使用贝叶斯优化对其进行了优化,显示了SimSiam SSL方法在多个数据集上的改进。意识到数据增强对SSL的重要性,我们还引入了一个新的自动化数据增强算法GroupAugment,它考虑了增强组并优化了组间的采样。与为监督学习设计的算法相比,GroupAugment在我们考虑的所有数据集上都实现了一致的高线性评估精度。总体而言,我们的研究结果表明SSL的重要性和可能被低估的数据增强的作用。
2022-07-16 cs.AI cs.CV cs.LG
Supervised Neural Networks for RFI Flagging
University of Cape Town(开普敦大学)
将基于神经网络的方法应用于后相关、后校准时间/频率数据中的射频干扰(RFI)检测。虽然校准不影响RFI为了这项工作,减少数据集后校准使用。使用现有的RFI标记技术AOFlagger作为基础事实,展示了两种用于标记真实测量数据的机器学习方法。结果表明,以各极化的幅值、相位和斯托克斯速度为特征,利用各时频样本可以训练出单层全连接网络。该方法能够预测每个基线的布尔标志图,达到高度的准确性,召回率为0.69,精度为0.83,F1分数为0.75。
2020-07-29 astro-ph.IM cs.LG
Semi-supervised Node Importance Estimation with Informative Distribution Modeling for Uncertainty Regularization
Cornell University(康奈尔大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对异构图中节点重要性仅有部分标注的问题,提出首个半监督框架 EASING,通过深度编码-解码器 DJE 的分布建模联合预测重要性与不确定性,并生成伪标签进行异方差正则化学习。
2025-05-12 cs.LG
Leveraging unsupervised data and domain adaptation for deep regression in low-cost sensor calibration
Indian Institute of Technology Kanpur(坎普尔印度理工学院)
随着人们对空气质量认识的提高,空气质量监测正成为一项重要任务。低成本空气质量传感器易于部署,但不如昂贵且笨重的参考监测器可靠。低质量传感器可以在深度学习的帮助下针对参考监视器进行校准。在本文中,我们将传感器校准的任务转化为一个半监督的领域自适应问题,并提出了一种新的解决方案。该问题具有挑战性,因为它是一个具有协变量偏移和标签间隙的回归问题。我们使用直方图损失代替均方或平均绝对误差,这是常用的回归,并发现它对协变量偏移有用。为了处理标签间隙,我们提出了对抗熵优化的样本加权。在实验评估中,所提出的计划优于许多竞争的基线,这是基于半监督和监督领域自适应,在R2得分和平均绝对误差。消融研究显示了整个方案中每个拟议组件的相关性。
2022-10-02 cs.LG eess.SP
The Importance of Being Smoothly Calibrated
Apple(苹果公司);UT Austin(得克萨斯大学奥斯汀分校);Harvard(哈佛大学)
本文探讨了平稳校准在鲁棒性校准误差中的核心作用,提出新的平稳预测保证,统一并扩展了以往基于平稳校准的预测结果,同时揭示了校准距离与地球移动距离的关系。
2026-03-16 cs.DS cs.LG
Controlling the Interaction Between Generation and Inference in Semi-Supervised Variational Autoencoders Using Importance Weighting
LIPN(巴黎第十三大学计算机科学实验室);Université Sorbonne Paris Nord(索邦巴黎北大学);INRIA Paris(法国国家信息与自动化研究所巴黎分部)
尽管变分自编码器(VAE)广泛用于半监督学习,但它们工作的原因仍不清楚。事实上,添加无监督目标通常被模糊地描述为正则化。这种正则化的强度通过在训练集的未标记部分上对目标进行向下加权来控制。通过对半监督VAE目标的分析,我们观察到它们使用学习的生成模型的后验来指导推理模型学习部分观察的潜变量。我们表明,鉴于这一观察结果,有可能获得更精细的控制的效果,无监督的目标上的训练过程。使用重要性加权,我们得到两个新的目标,优先考虑部分观察到的潜在变量,或未观察到的潜在变量之一。在IMDB英语情感分析数据集和AG News主题分类数据集上的实验显示了我们的优先级排序机制带来的改进,并表现出与我们对半监督VAE内部工作的描述相一致的行为。
2020-10-14 cs.CL cs.LG
Interpretable and Calibrated Classification of Clinical Data Using Supervised Feature Binarization
Worcester Polytechnic Institute(伍斯特理工学院);Centro de Vacunación e Investigación (CEVAXIN)(疫苗接种与研究中心(CEVAXIN));Universidad Tecnológica de Panamá(巴拿马技术大学);Massachusetts Institute of Technology(麻省理工学院);Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学布罗德研究所);McGill University(麦吉尔大学);The Montreal Neurological Hospital-Institute(蒙特利尔神经学医院研究所)
研究针对医学数据分类中黑箱模型的问题,引入基于统计学的框架,用伯努利朴素贝叶斯模型并结合\(\chi^2\)引导的统计二值化方法,在多数据集上评估,性能与复杂模型相当,还提供可解释规则和校准风险估计。
2026-09-18 cs.LG
A Novel Semi-supervised Meta Learning Method for Subject-transfer Brain-computer Interface
South China Normal University(华南师范大学);Guangdong University of Finance(广东金融学院);Pazhou Lab(琶洲实验室)
脑-机接口(Brain-Computer Interface,BCI)是人脑与外部设备之间的直接通信通道。在新的受试者可以使用BCI之前,通常需要校准程序。因为受试者间和受试者内的差异如此之大,以至于由现有受试者训练的模型在新受试者上表现不佳。因此,有效的目标转移和校准方法是必不可少的。在本文中,我们提出了一个半监督Meta学习(SSML)方法的主体迁移学习的BCI。该方法首先利用已有的被试学习Meta模型,然后采用半监督学习的方式对模型进行微调,即利用少量的标记样本和大量的未标记样本进行标定。这对于标记数据稀缺或昂贵而未标记数据容易获得的BCI应用具有重要意义。为了验证SSML方法,测试了三种不同的BCI范例:1)事件相关电位检测; 2)情绪识别; 3)睡眠分期。SSML在前两种范式上取得了超过15%的显着改进,在第三种范式上取得了4.9%的显着改进。实验结果证明了SSML方法在脑机接口应用中的有效性和潜力。
2022-09-07 cs.AI cs.HC cs.LG
Semi-Supervised Risk Control via Prediction-Powered Inference
Department of Electrical and Computer Engineering, Technion IIT, Haifa, Israel(电气与计算机工程系,技术离子研究所,海法,以色列);Department of Computer Science, Technion IIT, Haifa, Israel(计算机科学系,技术离子研究所,海法,以色列)
针对RCPS校准依赖有限有标注留出数据导致超参数噪声和错误率保守的问题,提出基于prediction-powered inference的半监督校准方法,并在少样本图像与早期时间序列分类中验证其有效性。
2025-07-27 cs.LG stat.ML
PRISM: Prioritized Channel Importance with Semi-supervised Domain Adaptation for Cross-Subject EEG Emotion Recognition
School of Computing, T. J Watson College of Engineering and Applied Science, Binghamton University - State University of New York(计算学院、T.J Watson工程与应用科学学院、宾夕法尼亚州立大学宾夕法尼亚州立大学)
提出PRISM框架,通过可微分通道加权和置信度过滤伪标签的半监督域适应,解决脑电情绪识别中的通道冗余和跨被试差异问题,在三个数据集上超越现有方法。
2026-07-02 cs.LG
Parameter Importance is Not Static: Evolving Parameter Isolation for Supervised Fine-Tuning
Tencent Hunyuan(腾讯文言);Tencent Yuanbao(腾讯元宝);Peking University(北京大学);UESTC;University of New South Wales(新南威尔士大学)
本文提出EPI框架,通过动态调整参数隔离策略,减少训练中的任务干扰和遗忘,提升模型泛化能力。
2026-04-15 cs.CL cs.LG
On the Importance of Embedding Norms in Self-Supervised Learning
University of Amsterdam(阿姆斯特丹大学)
本文研究了嵌入范数在自监督学习中的作用,通过理论分析和实验表明范数影响收敛速度和网络置信度,且较小的范数对应意外样本。
2025-06-11 cs.LG
Geometric Calibration of Supervised Fine-Tuning
Nanyang Technological University(南洋理工大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本研究提出几何校准视角,开发无数据无训练的SPACE方法,通过子空间投影优化SFT更新,在多模型多任务上缓解OOD退化并提升ID性能,为持续模型改进提供新思路。
2026-10-14 cs.AI cs.LG
Importance Sampling CAMs for Weakly-Supervised Segmentation
Husqvarna Group(胡斯华纳集团);University of KwaZulu-Natal(夸祖鲁-纳塔尔大学)
针对弱监督分割中CAMs仅关注判别区域且预测轮廓模糊的问题,提出基于重要性采样的随机类别预测和特征相似性损失项,显著提升了轮廓精度并保持了区域相似性。
2023-04-04 cs.CV cs.LG eess.IV
Boosting In-Context Learning in LLMs Through the Lens of Classical Supervised Learning
The George Washington University(乔治华盛顿大学);Duke University(杜克大学);Washington University in St. Louis(华盛顿大学圣路易斯分校)
通过经典监督学习视角提出监督校准方法,提升大语言模型上下文学习的性能和决策边界方向调整能力。
2026-03-03 cs.AI cs.CL cs.LG
VCC-INFUSE: Towards Accurate and Efficient Selection of Unlabeled Examples in Semi-supervised Learning
Peking University(北京大学);Google(谷歌公司);National Key Laboratory of General Artificial Intelligence(通用人工智能国家重点实验室);School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院)
本文提出VCC和INFUSE两种方法,通过变分自编码器校准置信度选择准确伪标签,并利用影响函数构建无标签样本核心数据集,有效降低分类错误率并大幅节省训练时间。
2024-04-21 cs.CV cs.LG
SpellerSSL: Self-Supervised Learning with P300 Aggregation for Speller BCIs
Emotiv Research(Emotiv研究)
SpellerSSL通过结合自监督学习与P300聚合,提升拼写BCI的信噪比、泛化能力和校准效率。
2026-11-04 cs.LG eess.SP
Augmenting Supervised Neural Networks with Unsupervised Objectives for Large-scale Image Classification
University of Michigan(密歇根大学)
无监督学习和监督学习是深度学习的关键研究课题。然而,随着用大量标签训练的高容量监督神经网络在许多计算机视觉任务中取得了显著的成功,大规模标记图像的可用性降低了无监督学习的重要性。受最近重新审视无监督学习重要性的趋势的启发,我们通过增强现有神经网络的解码路径来重建,在大规模环境中研究联合监督和无监督学习。首先,我们证明了预训练的大规模分类网络的中间激活几乎保留了输入图像的所有信息,除了一部分局部空间细节。然后,通过对整个增强架构进行端到端的训练,我们展示了监督任务的网络性能的改善。我们评估了几种变体的自动编码器,包括最近提出的“什么地方”的自动编码器,使用编码器池开关,研究架构设计的重要性。以ImageNet ILSVRC 2012协议下训练的16层VGGNet作为图像分类的强基线,我们的方法显著提高了验证集的准确性。
2016-06-21 cs.CV cs.LG
Federated Calibration and Evaluation of Binary Classifiers
Meta AI
我们解决了两个主要的障碍,实际使用的监督分类分布式私人数据。无论分类器是由合作客户端的联合训练还是集中训练,(1)输出分数必须校准,(2)性能指标必须评估-所有这些都没有在一个地方组装标签。特别是,我们展示了如何在三种隐私模型下在联邦设置中执行校准和计算精度,召回率,准确率和ROC-AUC(i)安全聚合,(ii)分布式差分隐私,(iii)本地差分隐私。我们的定理和实验澄清了隐私,准确性和数据效率之间的权衡。它们还有助于确定给定应用程序是否有足够的数据来支持联合校准和评估。
2022-10-22 cs.CR cs.LG