Evaluating unsupervised disentangled representation learning for genomic discovery and disease risk prediction
Google Research(谷歌研究院)
本研究在遗传关联研究背景下评估多种无监督解耦表示学习方法,发现FactorVAE和beta-VAE相比标准方法能提升基因组发现与疾病风险预测效果,且FactorVAE超参数鲁棒性更强。
2023-07-17 cs.LG q-bio.GN stat.ML
Multimodal Cardiovascular Risk Profiling Using Self-Supervised Learning of Polysomnography
University of Arizona(亚利桑那大学);University of Georgia(佐治亚大学);Harvard Medical School(哈佛医学院);Brigham and Women’s Hospital(布列根和妇女医院)
本研究开发了一种自监督深度学习模型,从多导睡眠图(PSG)的多模态信号中提取特征生成心血管疾病(CVD)风险投影分数,结合Framingham风险评分显著提升了预测性能,并支持个性化临床风险评估。
2025-07-11 cs.AI cs.LG
Advancing Melanoma Diagnosis with Self-Supervised Neural Networks: Evaluating the Effectiveness of Different Techniques
Greenwood High International School(格林伍德高中国际学校);Weill Cornell Medicine(威尔康奈尔医学院)
本研究评估多种自监督技术对黑色素瘤斑块分类深度学习模型准确性的影响,发现损坏去除方法效果显著,并指出通过更多训练轮次或扩大数据集可进一步提升性能,建议未来探索BYOL和对比学习等方法。
2024-07-19 cs.CV cs.LG
Evaluating Contrastive Learning on Wearable Timeseries for Downstream Clinical Outcomes
University of Cambridge(剑桥大学)
大量的个人生成的健康数据(可穿戴设备)被收集,但注释以馈送到机器学习模型的过程是不切实际的。本文讨论了使用对比度损失的自监督方法,如Simplified和BYOL,以前应用于视觉领域,可以应用于高维健康信号,用于跨越睡眠,心脏和代谢条件的各种疾病的下游分类任务。为此,我们调整数据增强步骤和整体架构,以适应数据的时间性质(可穿戴痕迹),并通过比较其他最先进的方法,包括监督学习和对抗性无监督表示学习方法,对5个下游任务进行评估。我们表明,Simplified在大多数下游评估任务中优于对抗方法和全监督方法,并且所有自监督方法都优于全监督方法。这项工作为应用于可穿戴时间序列领域的对比方法提供了一个全面的基准,显示了下游临床结果的任务不可知表示的前景。
2021-11-13 cs.LG eess.SP
Evaluating Self-Supervised Learning in Medical Imaging: A Benchmark for Robustness, Generalizability, and Multi-Domain Impact
University of Tübingen(图宾根大学)
本文基于 MedMNIST 在 11 个医学数据集上系统评估 8 种 SSL 方法,考察鲁棒性、OOD 检测、跨数据集泛化及低标签场景性能。
2025-07-26 cs.AI cs.CV cs.LG
Evaluating the Label Efficiency of Contrastive Self-Supervised Learning for Multi-Resolution Satellite Imagery
Univ. Grenoble Alpes(格勒诺布尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LJK(让·昆塔纳实验室);Preligens(普雷利根斯公司)
针对遥感影像标注不足、需适配多分辨率的问题,本文从标签效率角度研究对比自监督学习,验证了基于MoCo的方法在少监督下优于随机初始化和域外预训练,并用fMoW、RESISC45数据集完成验证。
2022-10-13 cs.CV cs.LG eess.IV
Evaluating Self-Supervised Learning for Molecular Graph Embeddings
Cambridge(剑桥大学);UCL(伦敦大学学院);MILA(米拉人工智能研究所);UdeM(蒙特利尔大学);HEC(巴黎高等商学院);CIFAR(加拿大高等研究院);HKU(香港大学)
本文提出分子图表示评估基准MOLGRAPHEVAL,通过通用图、分子子结构和嵌入空间属性三类探测任务评估GSSL方法,发现现有数据集评估与细致探测结果存在显著不一致,表明当前评估方法不全面。
2023-10-18 cs.LG q-bio.QM
Asleep at the Wheel: JEPA's Limitations in Evaluating Novel Driving Data
Rensselaer Polytechnic Institute(伦斯勒理工学院)
该研究针对自动驾驶片段分类需求,测试基于JEPA的无标签新颖性评分方法,发现其在跨数据集场景看似有效,实则是域偏移导致,单数据集基准下失效,瓶颈为自监督目标。
2026-08-04 cs.CV cs.LG
DeepHeart: Semi-Supervised Sequence Learning for Cardiovascular Risk Prediction
Cardiogram;University of California(加利福尼亚大学)
我们对来自现成可穿戴心率传感器的57,675人周数据进行了训练和验证半监督多任务LSTM,在检测多种医疗状况时显示出很高的准确性,包括糖尿病(0.8451),高胆固醇(0.7441),高血压(0.8086)和睡眠呼吸暂停(0.8298)。我们比较了两种半监督训练- ing方法,半监督序列学习和启发式预训练,并显示它们优于来自医学文献的手工设计的生物标志物。我们相信,我们的工作提出了一种新的患者风险分层方法,该方法基于Fitbit、Apple Watch或Android Wear等流行可穿戴设备的心血管风险评分。
2018-02-07 cs.AI cs.LG stat.ML
Asymptotic Bayes risk of semi-supervised learning with uncertain labeling
Laboratoire d’Informatique de Grenoble(格勒诺布尔计算机实验室);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
本文研究高斯混合模型下带不确定标签的半监督分类问题,通过计算贝叶斯风险并与已知最佳算法进行比较,为该算法提供了新的见解。
2024-03-27 cs.LG stat.ML
Asymptotic Bayes risk of semi-supervised multitask learning on Gaussian mixture
GIPSA-lab(GIPSA实验室);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);LIG-lab(LIG实验室)
本文考虑高斯混合模型(GMM)上的半监督多任务学习。使用统计物理学的方法,我们计算的渐近贝叶斯风险的每个任务在大数据集的制度在高维,从中我们分析的任务相似性在学习中的作用和评估的性能增益时,任务一起学习,而不是分开。在监督的情况下,我们得到一个简单的算法,达到贝叶斯最优性能。
2023-03-03 cs.LG stat.ML
Adversarial Risk and the Dangers of Evaluating Against Weak Attacks
DeepMind(深度思维)
本文研究了最近提出的防御对抗性示例和评估对抗性鲁棒性的方法。我们激励“对抗性风险”作为实现对最坏情况输入具有鲁棒性的模型的目标。然后,我们将常用的攻击和评估指标定义为真实对抗风险的易处理替代目标。这表明模型可能会优化这个替代品,而不是真正的对抗风险。我们将这个概念形式化为“对对手的模糊性”,并开发工具和算法来识别模糊模型和设计透明模型。我们证明了这是一个重要的问题,在实践中重新利用梯度自由优化技术到对抗攻击,我们用它来降低最近提出的几个防御的准确性接近零。我们希望我们的配方和结果将帮助研究人员开发更强大的防御。
2018-06-12 cs.CR cs.LG stat.ML
Evaluating Patient Readmission Risk: A Predictive Analytics Approach
Syracuse University(雪城大学);UnityPoint Health(UnityPoint健康机构);Stevens Institute of Technology(史蒂文斯理工学院);Binghamton University(宾汉姆顿大学)
随着2012年10月1日医疗保险和医疗补助服务中心的医院再入院减少计划的出现,预测计划外患者再入院风险对医疗保健领域至关重要。在文献中有有形的作品强调开发再入院风险预测模型,但是,模型不够准确,无法在实际的临床环境中部署。我们的研究认为,患者再入院的风险作为优化的目标,并开发了一个有用的风险预测模型,以解决计划外再入院。并利用遗传算法和贪婪算法对模型约束条件进行优化。
2019-08-21 cs.CY cs.LG stat.ML
Mitigating Overfitting in Supervised Classification from Two Unlabeled Datasets: A Consistent Risk Correction Approach
The University of Tokyo(东京大学);RIKEN(理化学研究所)
最近提出的未标记-未标记(UU)分类方法允许我们训练一个二元分类器,只有从两个未标记的数据集与不同的类先验。由于该方法基于经验风险最小化,因此它的工作原理就像是一种监督分类方法,与任何模型和优化器兼容。然而,这种方法有时会遭受严重的过拟合,我们希望在本文中防止。我们在应用原始UU方法时的经验发现是,过度拟合经常与经验风险为负同时发生,这是不合理的。因此,我们建议通过某些修正函数来包装导致负经验风险的项。然后,我们证明了校正后的风险估计的一致性,并得到了校正后的风险最小化的估计误差界。实验表明,我们的建议可以成功地减轻UU方法的过拟合,并显着提高分类精度。
2020-03-31 cs.LG stat.ML
Updating Clinical Risk Stratification Models Using Rank-Based Compatibility: Approaches for Evaluating and Optimizing Clinician-Model Team Performance
University of Michigan(密歇根大学)
本文针对临床风险分层模型更新中的用户兼容性问题,提出基于排名的兼容性度量 $C^R$ 及相应损失函数,在 MIMIC 死亡风险分层任务中实现保持判别性能的同时显著提升模型兼容性。
2023-08-10 cs.AI cs.LG stat.ML
Supervised Learning with General Risk Functionals
Carnegie Mellon University(卡内基梅隆大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Purdue University(普渡大学)
标准的一致收敛结果约束了假设类上的期望损失的推广差距。风险敏感学习的出现需要对损失分布的泛函超出预期的泛化保证。虽然以前的作品专门在特定的泛函的一致收敛,我们的工作提供了一致收敛的一般类的Hölder风险泛函的接近的累积分布函数(CDF)需要接近的风险。我们建立了第一个统一的收敛结果估计CDF的损失分布,产生的保证,同时举行所有的霍尔德风险泛函和所有的假设。因此,我们被授权执行经验风险最小化,开发实用的基于梯度的方法来最小化失真风险(广泛研究的霍尔德风险子集,包括频谱风险,包括平均值,条件风险值,累积前景理论风险等),并提供收敛保证。在实验中,我们证明了我们的学习过程的有效性,无论是在一致收敛结果保持不变的环境中,还是在深度网络的高维环境中。
2022-06-27 cs.LG stat.ML
Generalized Distribution-Free Semi-Supervised Learning with Risk Rewrite
Institute of Science Tokyo(东京理科大学);RIKEN Center for Advanced Intelligence Project(理化学研究所高级智能项目中心)
研究针对半监督学习方法依赖分布假设的问题,提出基于组件风险线性组合构建无偏风险估计器的广义框架,推导最小可实现方差,建立泛化界,并引入两种实用方法,在多分类基准测试中表现良好。
2026-07-16 cs.AI cs.LG
Anomaly detection with semi-supervised classification based on risk estimators
University of Mons(蒙斯大学)
针对一类分类异常检测依赖正常数据假设的局限,提出基于无偏与有偏风险估计器的两种半监督异常检测方法,并给出误差界及实验验证。
2023-09-01 cs.LG
Semi-Supervised Ordinal Regression Based on Empirical Risk Minimization
The University of Tokyo(东京大学);RIKEN AIP(理化学研究所先进智能项目中心);Kyoto University(京都大学)
有序回归的目的是预测有序类标签。在本文中,我们考虑它的半监督制定,其中我们有未标记的数据以及有序标记的数据训练有序回归。有几个度量来评估有序回归的性能,例如平均绝对误差,平均零一误差和均方误差。然而,现有的研究没有考虑评价指标,对模型的选择有限制,没有理论保证。为了克服这些问题,我们提出了一种新的通用框架,半监督有序回归的基础上的经验风险最小化原则,适用于优化上述所有指标。此外,我们的框架具有灵活的模型,代理损失和优化算法的选择,而无需对未标记数据进行常见的几何假设,如聚类假设或流形假设。我们进一步提供了一个估计误差界,以表明我们的风险估计是一致的。最后,我们进行实验,以显示我们的框架的实用性。
2021-06-10 cs.LG stat.ML
Computing the Shattering Coefficient of Supervised Learning Algorithms
University of São Paulo(圣保罗大学)
统计学习理论为基于经验风险最小化原则的有监督机器学习提供了理论保证。该原则定义了一个上限,以确保经验风险Remp(f)的一致收敛,即,在给定的数据样本上测量的误差,到风险R(f)的期望值(a.k.a.实际风险),这取决于将X中的输入示例x映射到Y中的类别标签y的联合概率分布P(X x Y)。只有当破碎系数N(F,2n)具有多项式增长行为时,才能确保一致收敛。本文证明了包含输入空间X的任何Hilbert空间H的Shattering系数,并讨论了其在监督机器算法的学习保证方面的影响。
2018-05-14 cs.LG stat.ML
Evaluating Supervised Machine Learning Models: Principles, Pitfalls, and Metric Selection
Jiangsu Key Laboratory of Big Data Security and Intelligent Processing, Nanjing University of Posts and Telecommunications(江苏大数据安全与智能处理重点实验室,南京邮电大学);University of Brighton(布莱顿大学);University of Lancashire(兰开夏大学);School of Cyber Science and Engineering, Southeast University(东南大学信息科学与工程学院)
本文探讨监督学习模型评估的原则、挑战及实践考虑,分析数据集特性、验证设计、类别不平衡等因素对评估结果的影响,指出常见陷阱并强调选择合适度量标准的重要性。
2026-04-15 cs.AI cs.LG
SynQP: A Framework and Metrics for Evaluating the Quality and Privacy Risk of Synthetic Data
Computer Science University of Waterloo(计算机科学大学水力学院);Public Health Sciences University of Waterloo(公共卫生科学大学水力学院);Public Health Agency of Canada Government of Canada(加拿大公共卫生机构政府)
SynQP提出了一种用于评估合成数据质量和隐私风险的框架,通过模拟敏感数据进行基准测试,并引入新的身份披露风险指标以提高隐私评估的准确性。
2026-01-17 cs.AI cs.LG
Evaluating Self and Semi-Supervised Methods for Remote Sensing Segmentation Tasks
Google Research India(谷歌印度研究院);Google LLC(谷歌有限责任公司)
自监督和半监督机器学习技术利用未标记的数据来提高下游任务性能。这些方法对于遥感任务特别有价值,因为制作标记的地面实况数据集可能非常昂贵,但可以轻松获得大量未标记的图像。我们进行了严格的评估Simplified,一种自我监督的方法,和FixMatch,一种半监督的方法,在三个遥感任务:河床分割,土地覆盖制图,洪水制图。当原始监督数据集之外的其他图像可用于训练时,我们量化了这些遥感分割任务的性能改进。我们还设计了实验来测试这些技术的有效性时,测试集是域转移到不同的地理区域的样本相比,训练和验证集。我们发现,这种技术显着提高泛化性能时,标记的数据是有限的,有地理域之间的训练数据和验证/测试数据的变化。
2022-06-19 cs.CV cs.LG
Factors affecting the COVID-19 risk in the US counties: an innovative approach by combining unsupervised and supervised learning
Texas A&M University(德克萨斯A&M大学);Oklahoma State University(俄克拉荷马州立大学)
COVID-19疾病传播迅速,在中国确诊首例阳性病例近三个月后,冠状病毒开始在美国各地传播。一些州和县报告了大量的阳性病例和死亡病例,而一些州和县报告了较低的COVID-19相关病例和死亡率。本文以县级为单位,分析了可能影响COVID-19感染风险和死亡率的因素。一个创新的方法,通过使用K-均值聚类和几个分类模型,以确定最关键的因素。结果显示,平均气温、贫困人口百分比、肥胖成年人百分比、气压、人口密度、风速、经度和未参保人口百分比是最重要的属性
2021-12-05 cs.LG stat.ML
Evaluating Attacker Risk Behavior in an Internet of Things Ecosystem
Drexel University(德雷塞尔大学)
在网络安全领域,攻击者的范围从傲慢、简单的脚本小子和网络犯罪分子到隐秘、耐心的高级持续威胁。在对这些攻击者进行建模时,我们可以观察到他们表现出不同的风险寻求和风险规避行为。这项工作探讨了攻击者的风险寻求或风险规避行为如何影响他们对物联网生态系统中检测优化防御者的操作。使用一个评估框架,它使用真正的,参数化的恶意软件,我们开发了一个游戏,是由一个防御者对攻击者与一套恶意软件,是参数化的更具侵略性和更隐蔽。根据他们接受风险的意愿,在指数效用框架下评估这些结果。我们发现,对一个防御者谁必须选择一个单一的战略前面,寻求风险的攻击者获得更多的实际效用比风险厌恶的攻击者,特别是在情况下,防御者是更好的装备比两个攻击者预期。此外,我们还从经验上证实,高风险、高回报的场景对网络犯罪分子等寻求风险的攻击者更有利,而低风险、低回报的场景对高级持续性威胁等规避风险的攻击者更有利。
2021-09-23 cs.CR cs.GT cs.LG
Unified Risk Analysis for Weakly Supervised Learning
The University of Tokyo(东京大学)
本文提出一个弱监督学习的统一框架,利用污染视角解释弱监督形成机制并涵盖15种现有设置,通过去污染过程提供风险重写的系统方法,包括一种新的边际链策略,并验证了其可行性。
2023-09-15 cs.LG
Semi-Supervised Empirical Risk Minimization: Using unlabeled data to improve prediction
Tel-Aviv University(特拉维夫大学)
我们提出了一个通用的方法,使用未标记的数据设计半监督学习(SSL)变种的经验风险最小化(ERM)学习过程。针对广义线性回归,分析了SSL方法在提高预测性能方面的有效性。关键思想是仔细考虑空模型作为竞争对手,并利用未标记的数据来确定信号噪声组合,其中SSL优于监督学习和空模型。然后,我们使用SSL的自适应方式的基础上估计的信号和噪声。在特殊的情况下,线性回归与高斯协变量,我们证明了非自适应SSL版本实际上是不能够同时提高两个监督估计和空模型,超过一个可以忽略不计的O(1/n)项。另一方面,在这项工作中提出的自适应模型,可以同时实现对两个竞争对手的大幅改善,在各种设置下。这通过大量的模拟经验地显示,并扩展到其他场景,如非高斯协变量,错误指定的线性回归,或广义线性回归与非线性链接函数。
2022-02-05 cs.LG stat.ME stat.ML
K-Bench: a clinically calibrated benchmark for evaluating large language models in high-risk mental health conversations
University of Roehampton(罗汉普顿大学);Kivira Health;University of Hertfordshire(赫特福德大学);University of Surrey(萨里大学);University of Bedfordshire(贝德福德大学);Tavistock Relationships(塔维斯托克关系中心);InsideOut
K-Bench是一个临床校准的基准,通过200个多轮高风险心理健康情景评估125种LLM配置,发现领先模型综合风险评分超95,且治疗性提示仅对较弱模型有效。
2026-09-29 cs.AI cs.CL cs.LG
Semi-Supervised Risk Control via Prediction-Powered Inference
Department of Electrical and Computer Engineering, Technion IIT, Haifa, Israel(电气与计算机工程系,技术离子研究所,海法,以色列);Department of Computer Science, Technion IIT, Haifa, Israel(计算机科学系,技术离子研究所,海法,以色列)
针对RCPS校准依赖有限有标注留出数据导致超参数噪声和错误率保守的问题,提出基于prediction-powered inference的半监督校准方法,并在少样本图像与早期时间序列分类中验证其有效性。
2025-07-27 cs.LG stat.ML
Asymptotic Bayes risk for Gaussian mixture in a semi-supervised setting
INRIA-ENS(法国国家信息与自动化研究所-巴黎高等师范学院)
半监督学习(SSL)使用未标记的数据进行训练,并且与可用的标记数据上的监督方法相比,已被证明可以大大提高性能。这种说法既取决于可用的标记数据的数量,也取决于所使用的算法。在本文中,我们计算分析之间的差距最好的全监督方法,只使用标记的数据和最好的半监督方法,使用标记和未标记的数据。我们量化了由于未标记数据而获得的性能的最佳可能增加,即我们计算了由于未标记数据中包含的信息而导致的准确性增加。我们的工作涉及一个简单的高维高斯混合模型的数据在贝叶斯设置。我们严格的分析建立在最近的理论突破,在高维推理和大量的数学工具,从统计物理最初开发的自旋玻璃。
2019-09-28 cs.LG math.ST stat.ML
Evaluating Crowdsourcing Participants in the Absence of Ground-Truth
Northeastern Univ.(东北大学);LinkedIn(领英);Siemens(西门子)
给定一个监督/半监督学习的情况下,多个注释器可用,我们考虑的问题,识别敌对或不可靠的注释器。
2016-05-30 cs.HC cs.LG
Revisiting Vicinal Risk Minimization for Partially Supervised Multi-Label Classification Under Data Scarcity
University of Oxford(牛津大学)
由于注释的人力成本很高,因此管理针对所有感兴趣类别完全标记的大规模医疗数据集是非常重要的。相反,从不同的匹配源收集多个小的部分标记的数据集将是方便的,其中医学图像可能仅针对感兴趣类别的子集被注释。本文提供了一个经验性的理解一个未充分探索的问题,即部分监督多标签分类(PSMLC),其中多标签分类器的训练,只有部分标记的医学图像。相对于完全监督,部分监督导致的医疗数据稀缺性对模型性能有不小的负面影响。一个潜在的补救措施可能是增加部分标签。虽然邻近风险最小化(VRM)是一个很有前途的解决方案,以提高模型的泛化能力,其应用到PSMLC仍然是一个悬而未决的问题。为了弥合方法上的差距,我们为PSMLC提供了第一个基于VRM的解决方案。实验结果也为数据稀缺下部分监督学习的未来研究方向提供了启示。
2022-04-19 cs.CV cs.LG stat.ML
Evaluating the Cybersecurity Risk of Real World, Machine Learning Production Systems
Ben-Gurion University of the Negev(内盖夫本-古里安大学);NEC(日本电气股份有限公司)
尽管对机器学习(ML)生产系统的网络攻击可能是有害的,但今天,安全从业人员装备不足,缺乏方法和战术工具,使他们能够分析基于ML的系统的安全风险。在本文中,我们对ML生产系统进行了全面的威胁分析。在此分析中,我们遵循NIST提出的本体论评估企业网的安全风险,并将其应用到基于ML的生产系统。具体来说,我们(1)列举典型ML生产系统的资产,(2)描述威胁模型(即,潜在的对手,他们的能力,以及他们的主要目标),(3)识别ML系统的各种威胁,以及(4)审查大量的攻击,在以前的研究中,可以实现这些威胁。此外,为了量化对抗性机器学习(AML)威胁的风险,我们引入了一种新的评分系统,该系统为不同的AML攻击分配严重性评分。建议的评分系统利用层次分析法(AHP)的排名,与安全专家的协助下,各种属性的攻击。最后,我们开发了MulVAL攻击图生成和分析框架的扩展,以将网络攻击纳入ML生产系统。使用该扩展,安全从业人员可以在包含ML组件的环境中应用攻击图分析方法;因此,为安全从业人员提供了一种方法和实用工具,用于评估针对ML生产系统的网络攻击的影响和量化风险。
2021-10-03 cs.CR cs.LG
Evaluating Federated Learning for At-Risk Student Prediction: A Comparative Analysis of Model Complexity and Data Balancing
Federal Institute of Education, Science and Technology of Rio Grande do Norte - IFRN(北里奥格兰德联邦教育、科学与技术学院(IFRN))
本文通过比较模型复杂度和数据平衡,评估联邦学习在高风险学生预测中的应用,展示了其在保护隐私的同时实现高预测精度的可行性。
2025-12-12 cs.AI cs.CY cs.LG
SueNes: A Weakly Supervised Approach to Evaluating Single-Document Summarization via Negative Sampling
Iowa State University(爱荷华州立大学);Alibaba Group(阿里巴巴集团);East China Normal University(华东师范大学)
典型的自动摘要评价指标,如ROUGE,侧重于词汇相似性,不能很好地捕捉语义和语言质量,需要一个参考摘要,这是昂贵的获得。最近,已经有越来越多的努力来减轻这两个缺点中的一个或两个。在本文中,我们提出了一个概念验证的研究,弱监督摘要评估方法,没有参考摘要的存在。现有摘要数据集中的大量数据通过将文档与损坏的参考摘要配对来进行转换以进行训练。在跨域测试中,我们的策略优于基线,具有很好的改进效果,并且在衡量所有指标的语言质量方面表现出很大的优势。
2022-05-05 cs.CL cs.IR cs.LG
Trained Model in Supervised Deep Learning is a Conditional Risk Minimizer
Academy for Advanced Interdisciplinary Studies(前沿交叉学科研究院);Peking University(北京大学);MGH/BWH Center for Advanced Medical Computing and Analysis(麻省总医院/布莱根妇女医院高级医学计算与分析中心);Massachusetts General Hospital and Harvard Medical School(麻省总医院和哈佛医学院);Beijing International Center for Mathematical Research(北京国际数学研究中心)
我们证明了监督式深度学习中的训练模型可以最小化每个输入的条件风险(定理2.1)。这个属性提供了对训练模型行为的洞察,并在某些情况下建立了监督学习和无监督学习之间的联系。此外,当标签是棘手的,但可以写为一个条件风险最小化,我们证明了一个等价形式的原始监督学习问题与可访问的标签(定理2.2)。我们证明了许多现有的工作,如Noise2Score,Noise2Noise和得分函数估计可以用我们的定理来解释。此外,我们利用定理2.1导出了带噪声标签的分类问题的一个性质,并使用MNIST数据集进行了验证。在此基础上,提出了一种基于定理2.2的图像超分辨率不确定性估计方法,并使用ImageNet数据集进行了验证。我们的代码可以在github上找到。
2022-02-08 cs.CV cs.LG
A Unified and Stable Risk Minimization Framework for Weakly Supervised Learning with Theoretical Guarantees
提出一个统一的弱监督学习框架,通过直接构建基于弱监督数据结构的稳定替代风险,避免事后修正,并给出泛化界和可识别性条件。
2026-07-01 cs.AI cs.LG
Evaluating approaches for supervised semantic labeling
Siemens(西门子);Data61, CSIRO(澳大利亚联邦科学与工业研究组织数据61研究所)
关系数据源仍然是存储企业或Web数据的最流行的方法之一,然而,关系模式的问题是缺乏定义良好的语义描述。公共本体提供了一种表示关系模式的含义的方法,并且可以促进域中异构数据源的集成。语义标记是通过将数据源的属性映射到本体中的类和属性来实现的。我们制定这个问题作为一个多类分类问题,以前标记的数据源被用来学习规则标记新的数据源。大多数现有的语义标记方法都集中在数据集成的挑战,如命名冲突和语义异构性。此外,机器学习方法通常存在类不平衡、缺少标记实例和属性相对重要性的问题。为了解决这些问题,我们开发了一个新的机器学习模型与工程功能,以及两个深度学习模型,不需要广泛的功能工程。我们用最先进的技术来评估我们的新方法。
2018-01-29 cs.AI cs.CL cs.LG
PropensityBench: Evaluating Latent Safety Risks in Large Language Models via an Agentic Approach
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Maryland, College Park(马里兰大学帕克分校)
PropensityBench通过模拟危险能力评估大语言模型的潜在安全风险倾向,揭示模型在压力下可能选择高风险行为的倾向。
2025-11-24 cs.AI cs.CY cs.LG
Predicting Driver's Perceived Risk: a Model Based on Semi-Supervised Learning Strategy
School of Mechanical Engineering, Shanghai Jiao Tong University(上海交通大学机械工程学院)
本文提出基于半监督学习的DSPR模型,利用CNN-Bi-LSTM-TPA预测驾驶员主观风险评分,准确率达87.91%,较现有模型提升20.12%,为自动驾驶安全与信任提供支持。
2025-04-17 cs.HC cs.LG
From Hazard Functions to Language Space: Cox-Supervised Distillation of Survival Risk into a Large Language Model
Centre for Big Data Research in Health, the University of New South Wales(新南威尔士大学健康大数据研究中心)
提出将Cox比例风险模型的时间事件风险信息迁移到大语言模型中的方法,通过文本提示微调Qwen模型,在三个数据集上取得有竞争力的区分度和校准性,并发现隐藏状态呈现连续风险梯度。
2026-06-08 cs.LG
Evaluating Language Models on Grooming Risk Estimation Using Fuzzy Theory
Purdue University(普渡大学)
本文研究SBERT在在线儿童诱骗风险分级中的可靠性,发现其虽可经微调打分,但在高风险、间接表达和缺少性露骨内容的对话上方差较高。
2025-02-18 cs.AI cs.CL cs.LG
Unlocking the Black Box: A Five-Dimensional Framework for Evaluating Explainable AI in Credit Risk
Independent Researcher(独立研究者)
本文针对金融信用风险中黑箱模型与监管可解释性要求的矛盾,提出包含固有可解释性、全局解释、局部解释、一致性和复杂性的五维评估框架,并验证了SHAP和LIME可使高性能复杂模型达到合规可解释水平。
2025-11-07 cs.LG
Evaluating the Representation Space of Diffusion Models via Self-Supervised Principles
University of Science and Technology of China(中国科学技术大学)
受自监督学习启发,提出基于Fisher信息的度量ICR,分解特征为不变和残差成分,用于联合评估扩散模型的表示与生成能力,发现中间噪声水平下不变性最强且分类性能最佳,ICR可敏感检测训练中的记忆化。
2026-06-08 cs.CV cs.LG
Deep Representation for Connected Health: Semi-supervised Learning for Analysing the Risk of Urinary Tract Infections in People with Dementia
Imperial College London(伦敦帝国理工学院);University of Surrey(萨里大学);Surrey and Borders NHS Foundation Trust(萨里和边境国民健康服务基金会信托);The UK Dementia Research Institute (UK DRI)(英国痴呆症研究所)
机器学习技术与家庭监测技术相结合,为自动诊断和早期检测痴呆等长期疾病中的不良健康状况提供了独特的机会。然而,获取足够的标记训练样本并整合来自异构家庭监测技术的高质量、常规收集的数据是阻碍在现实世界医学中利用这些技术的主要障碍。这项工作提出了一个半监督模型,可以从日常收集的家庭观察和测量数据中不断学习。我们展示了我们的模型如何处理高度不平衡和动态的数据,以在分析痴呆症患者的尿路感染(UTIs)风险时做出稳健的预测。UTI在老年人中很常见,是痴呆症(PwD)患者可避免住院的主要原因之一。健康相关疾病,如UTI,在个体中的患病率较低,将其归类为散发病例(即罕见或分散,但重要的事件)。这限制了对足够的训练数据的访问,没有这些训练数据,监督学习模型就有可能变得过度拟合或有偏差。我们引入一个概率半监督学习框架来解决这些问题。所提出的方法产生一个风险分析分数UTI使用常规收集的数据,在家里的传感技术。
2021-04-28 cs.LG
Evaluating Protein Transfer Learning with TAPE
UC Berkeley(加州大学伯克利分校);Google(谷歌);Chan Zuckerberg Biohub(陈·扎克伯格生物中心)
蛋白质建模是机器学习研究的一个越来越受欢迎的领域。半监督学习已经成为蛋白质建模中的一个重要范例,由于获取监督蛋白质标签的成本很高,但目前的文献在数据集和标准化评估技术方面是支离破碎的。为了促进这一领域的进展,我们介绍了任务评估蛋白质嵌入(TAPE),一组五个生物相关的半监督学习任务分布在蛋白质生物学的不同领域。我们将任务划分为特定的训练、验证和测试部分,以确保每个任务都测试了转移到现实生活场景中的生物相关泛化。我们对一系列半监督蛋白质表示学习的方法进行了基准测试,这些方法涵盖了最近的工作以及规范序列学习技术。我们发现,自我监督的预训练对几乎所有任务的所有模型都有帮助,在某些情况下,性能提高了一倍以上。尽管有这种增长,但在某些情况下,通过自我监督预训练学习的特征仍然落后于通过最先进的非神经技术提取的特征。这种性能上的差距为创新架构设计和改进建模范式提供了巨大的机会,这些设计和建模范式可以更好地捕获生物序列中的信号。TAPE将帮助机器学习社区集中精力解决科学相关问题。为此,用于运行这些实验的所有数据和代码可在https://github.com/songlab-cal/tape上获得。
2019-06-19 cs.LG q-bio.BM stat.ML
Unsupervised Supervised Learning II: Training Margin Based Classifiers without Labels
School of Computational Science and Engineering(计算科学与工程学院);College of Computing(计算学院);Georgia Institute of Technology(佐治亚理工学院);Yahoo! Labs(雅虎实验室)
许多流行的线性分类器,如逻辑回归、boosting或SVM,都是通过优化基于边缘的风险函数来训练的。传统上,这些风险函数是基于标记数据集计算的。我们开发了一种新的技术来估计这种风险,只使用未标记的数据和边缘标签分布。我们证明了所提出的风险估计器在高维数据集上是一致的,并在合成数据和真实数据上进行了证明。特别是,我们展示了如何在迁移学习中使用估计来评估分类器,以及如何在没有标记数据的情况下训练分类器。
2010-07-21 cs.LG
Graph-Transformer Fraud Detection with Self-Supervised Pretraining and Conformal Risk Control
JP Morgan(摩根大通)
针对企业交易网络中的协调欺诈,提出图变换器检测器GTFD,融合结构与时序证据,结合自监督预训练和保形风险控制,显著提升检测性能与鲁棒性。
2026-09-15 cs.AI cs.LG
Benchmarking Image Embeddings for E-Commerce: Evaluating Off-the Shelf Foundation Models, Fine-Tuning Strategies and Practical Trade-offs
Adevinta(阿德温塔公司)
本文系统评测了电子商务场景下多种基础模型图像嵌入在分类与检索任务中的表现,发现全量微调稳健但top-tuning能以更低计算成本达到相近性能,并为嵌入选择与微调策略提供了实用指南。
2025-04-10 cs.AI cs.CE cs.CV
Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation
UC Berkeley(加州大学伯克利分校);UC San Diego(加州大学圣迭戈分校);Microsoft Research Asia(微软亚洲研究院);UIUC(伊利诺伊大学厄巴纳-香槟分校)
监督学习的成功取决于训练和测试数据来自相同的底层分布的假设,由于潜在的分布偏移,这在实践中通常是无效的。鉴于此,大多数现有的无监督领域自适应方法集中在实现域不变表示和小的源域误差。然而,最近的工作表明,这是不足以保证良好的推广目标域,事实上,是证明不利的标签分布偏移。此外,在许多实际应用中,从目标域获得少量标记数据并使用它们来促进利用源数据的模型训练通常是可行的。受上述观察的启发,在本文中,我们提出了第一种方法,旨在同时学习不变表示和风险的设置下的半监督领域自适应(半DA)。首先,我们提供了一个有限的样本界下的分类和回归问题Semi-DA。界建议一个原则性的方法来获得目标的推广,即通过对齐的边缘和条件分布跨域的特征空间。受此启发,我们然后介绍了联合\textbf{L}赚取\textbf{I} nvariant \textbf{R} epresentation和\textbf{R} isks的LIRR算法。最后,在分类和回归任务上进行了广泛的实验,结果表明LIRR始终达到最先进的性能,与只学习不变表示或不变风险的方法相比,有显着的改进。
2021-04-04 cs.AI cs.CV cs.LG
Evaluating Large Language Models for Forced Outage Risk Prediction: Benefits and Comparison to Machine Learning
Temple University(天普大学);Texas A&M University(德克萨斯农工大学)
该研究对比零样本LLMs与监督分类器预测配电网强迫停运风险的表现,发现监督模型在宏F1和精确率上更优,LLMs在可操作推理等方面有互补优势,二者结合或为最佳实践。
2026-09-07 cs.CL cs.LG
Evaluating Supervised Learning Models for Fraud Detection: A Comparative Study of Classical and Deep Architectures on Imbalanced Transaction Data
Rice University(莱斯大学);Georgia Institute of Technology(佐治亚理工学院);Duke University(杜克大学)
本研究系统比较了四种监督学习模型在大规模不平衡交易数据集上的欺诈检测性能,发现集成方法表现最佳,GRU召回率高但精确度低,强调应根据风险承受能力选择模型。
2025-09-17 cs.AI cs.LG
Error Bounds of Supervised Classification from Information-Theoretic Perspective
College of Electronics and Information Engineering, Tongji University(同济大学电子与信息工程学院)
该研究从信息论视角分解监督分类的经验风险,推导拟合误差与泛化误差的界,进而得到期望风险上界,可解释深度学习多种现象,且实验验证了理论界与实际风险的正相关性。
2024-10-07 cs.IR cs.LG
Grounded but Misleading: Evaluating Semantic Alignment in AI-Generated Security Explanations
Virginia Tech(弗吉尼亚理工学院)
本文研究了AI生成的安全解释中语义对齐的问题,通过VEXA测试平台验证了词汇基础与语义风险对齐之间的差距,发现即使解释在词汇上显得合理,其语义解释可能削弱检测器的意图风险评估。
2026-06-03 cs.CL cs.CR cs.LG