PAC-Bayesian AUC classification and scoring
我们开发了一个评分和分类程序的基础上的PAC贝叶斯方法和AUC(曲线下面积)标准。我们首先集中在类的线性得分函数。我们推导出两种类型的先验的评分参数的PAC贝叶斯非渐近界:高斯先验,和尖峰和板先验;后者使得有可能进行特征选择。我们的方法的一个重要优势是,它是服从于强大的贝叶斯计算工具。我们特别推导出一个序贯蒙特卡罗算法,作为一个有效的方法,可用作黄金标准,和期望传播算法,作为一个更快,但近似的方法。我们还将我们的方法扩展到一类非线性得分函数,基本上导致一个非参数的过程,通过考虑一个高斯过程前。
2014-10-13 stat.CO stat.ML
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(希腊研究与技术基金会计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。在本文中,提出了一种方法来分配先验知识的基础上存在或不存在某些路径的真实网络的信念。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2013-07-31 cs.AI cs.LG stat.ML
Large-Sample Learning of Bayesian Networks is NP-Hard
Microsoft Research(微软研究院)
在本文中,我们提供了新的复杂性结果的算法,从数据中学习离散变量贝叶斯网络。只要学习算法使用有利于能够准确表示生成分布的最简单模型的评分标准,我们的结果就适用。因此,只要学习算法使用一致的评分标准并应用于足够大的数据集,我们的结果就成立。我们发现,即使我们得到一个独立的预言机,推理预言机,和/或信息预言机,识别高分结构是困难的。我们的否定结果也适用于离散变量贝叶斯网络的学习,其中每个节点最多有k个父母,对于所有k > 3。
2012-10-19 cs.AI cs.LG stat.ML
Learning Equivalence Classes of Bayesian Networks Structures
University of California at Los Angeles(加州大学洛杉矶分校)
从数据中学习贝叶斯网络的方法通常将评分函数与启发式搜索过程相结合。给定贝叶斯网络结构,文献中导出的许多评分函数返回该结构所属的整个等价类的分数。当使用这样的评分函数时,启发式搜索算法适合搜索贝叶斯网络的等价类,而不是单个结构。我们提出的一般配方的搜索空间的搜索状态对应的等价类的结构。使用这个空间,可以容易地应用许多启发式搜索算法中的任何一个。我们比较贪婪的搜索性能在建议的搜索空间的贪婪搜索性能的搜索空间的状态对应于个人贝叶斯网络结构。
2013-02-13 cs.AI cs.LG stat.ML
Phrase-Level Adversarial Training for Mitigating Bias in Neural Network-based Automatic Essay Scoring
Eötvös Lorand University(厄特沃什·罗兰大学);University of Groningen(格罗宁根大学)
本文提出一种与模型无关的短语级对抗作文生成与数据增强方法,以缓解AES模型对高频样本的偏见,并在多种神经网络评分模型上验证其稳健性与性能提升。
2024-09-07 cs.AI cs.CL cs.LG
Automated Scoring of Graphical Open-Ended Responses Using Artificial Neural Networks
Boston College(波士顿学院)
免费绘画或图像作为响应的自动评分尚未用于大规模的学生成绩评估。在这项研究中,我们提出了人工神经网络来分类这些类型的图形反应,从基于计算机的国际数学和科学评估。我们正在比较卷积和前馈方法的分类精度。我们的研究结果表明,卷积神经网络(CNN)在损失和准确性方面都优于前馈神经网络。CNN模型将高达97.71%的图像响应分类到适当的评分类别中,这与典型的人类评分员相当,如果不是更准确的话。最准确的CNN模型正确地分类了一些被人类评分员错误评分的图像反应,这一观察结果进一步加强了这些发现。作为一个额外的创新,我们概述了一种方法来选择人类额定响应的训练样本的基础上的应用程序的预期响应函数来自项目响应理论。本文认为,基于CNN的图像响应自动评分是一种高度准确的程序,可以替代第二个人类评分员进行大规模评估的工作量和成本,同时提高复杂构建响应项目评分的有效性和可比性。
2022-01-05 cs.AI cs.CV cs.LG
Likelihood-Free Inference with Generative Neural Networks via Scoring Rule Minimization
University of Oxford(牛津大学);University of Warwick(华威大学)
贝叶斯似然自由推理方法产生后验近似的模拟器模型与棘手的可能性。近年来,许多工作训练神经网络来逼近难以处理的似然或后验。大多数建议使用归一化流,即神经网络参数化可逆映射,用于从底层基本度量转换样本;然后可以访问转换样本的概率密度,并且可以通过模拟参数-观测对的极大似然训练归一化流。最近的一项工作[拉梅什等人,2022]用生成网络近似后验,这降低了可逆性要求,因此是一类更灵活的分布,可以扩展到高维和结构化数据。然而,生成网络只允许从参数化分布中采样;因此,Ramesh et al.[2022]遵循对抗训练的常见解决方案,其中生成网络与"批评者"网络进行最小-最大游戏。这个过程是不稳定的,可能导致一个学习的分布低估了不确定性-在极端情况下崩溃到一个点。在这里,我们建议使用通过评分规则最小化训练的生成网络来近似后验,这是一种被忽视的无对抗方法,可以实现平滑训练和更好的不确定性量化。在模拟研究中,评分规则方法在对抗框架方面具有更短的训练时间,从而产生更好的性能。
2022-05-31 cs.LG stat.CO stat.ME
KAA: Kolmogorov-Arnold Attention for Enhancing Attentive Graph Neural Networks
Zhejiang University(浙江大学);Shanghai Jiaotong University(上海交通大学);FinVolution Group(FinVolution集团)
本文提出 Kolmogorov-Arnold 注意力(KAA),将 KAN 架构融入注意力 GNN 的评分过程,并通过最大排序距离证明其表达能力显著优于线性变换和 MLP 评分函数,实验显示性能提升可达 20% 以上。
2025-03-11 cs.AI cs.LG
A Bayesian Network Scoring Metric That Is Based On Globally Uniform Parameter Priors
Center for Biomedical Informatics(生物医学信息学中心);Intelligent Systems Program(智能系统项目);University of Pittsburgh(匹兹堡大学)
我们引入了一个新的贝叶斯网络(BN)评分度量称为全球统一(GU)度量。此度量基于特定类型的默认参数先验。当BN开发者不愿意或不能够指定域特定参数先验时,这样的先验可能是有用的。GU参数先验指定与BN结构S一致的每个先验联合概率分布P被认为是同等可能的。分布P与S一致,如果P只包含由S定义的独立关系的集合。我们表明,GU度量解决了BDeu和K2贝叶斯网络评分度量的一些不良行为,这些度量也使用了特定形式的默认参数先验。一个封闭的形式公式计算GU的特殊类别的BN。有效地计算任意BN的GU仍然是一个悬而未决的问题。
2012-12-12 cs.AI
The Effectiveness of a Dynamic Loss Function in Neural Network Based Automated Essay Scoring
本文提出一种动态损失函数,通过激励模型预测正确分布和数值来解决自动作文评分中回归模型的欠拟合问题,且在ASAP-AES数据集上取得0.752的QWK分数而不牺牲性能。
2023-05-15 cs.AI cs.CL
Deep Generative Models for Reject Inference in Credit Scoring
基于已接受申请的信用评分模型可能存在偏见,其后果可能会产生统计和经济影响。信用证推断是试图推断被拒绝的申请的信用状况的过程。在这项研究中,我们使用深度生成模型来开发两个新的半监督贝叶斯模型,用于信用评分中的拒绝推理,其中我们将数据生成过程建模为依赖于高斯混合。其目标是通过增加拒绝申请来提高信用评分模型的分类精度。我们提出的模型推断未知的信用可靠性拒绝申请的贷款的两种可能的结果(违约或非违约)的精确枚举。深度生成模型中使用的高效随机梯度优化技术使我们的模型适用于大型数据集。最后,在这项研究中的实验表明,我们提出的模型比经典的和替代的机器学习模型在信用评分的拒绝推理性能更好。
2021-09-24 q-fin.CP q-fin.RM stat.ML
Evaluating structure learning algorithms with a balanced scoring function
School of EECS, Queen Mary University of London (QMUL)(伦敦玛丽女王大学电子工程与计算机科学学院);The Alan Turing Institute(图灵研究所)
已经提出了几种结构学习算法来发现因果或贝叶斯网络(BN)图。这些算法的有效性往往通过评估学习和地面真值图之间的关系来评估。然而,没有商定的评分指标来确定这种关系。此外,本文表明,一些常用的指标往往偏向于最小化边缘的图形。虽然不太复杂的图是可取的,一些指标有利于欠拟合的图,从而鼓励有限的传播证据。本文提出了平衡评分函数(BSF),通过根据发现边缘或无边缘的难度(与它们在地面真值图中的出现率成比例)调整奖励函数来消除这种偏差。BSF分数可以与其他传统度量结合使用,以提供关于结构学习算法在发现因果图或BN图中的能力的替代且无偏的评估。
2020-09-02 cs.AI cs.LG stat.ML
Information-Theoretic Scoring Rules to Learn Additive Bayesian Network Applied to Epidemiology
University of Zurich(苏黎世大学)
贝叶斯网络建模是一种非常适合研究杂乱和高度相关的数据集的方法,这些数据集在例如,系统流行病学从观测数据集学习贝叶斯网络的一种流行方法是在搜索和评分方法中识别最大后验网络。许多分数都是基于贝叶斯或频率论提出的。从应用的角度来看,一个合适的方法将允许数据的多个分布,并且足够强大,可以自主运行。计算分数的一个有前途的框架是广义线性模型。事实上,存在快速估计算法和许多针对常见流行病学问题的定制解决方案。本文的目的是提出一个R包ABN,它具有多个频率论分数的实现和一些现实的模拟,显示其可用性和性能。它包括有效处理数据分离和调整的功能,这在系统流行病学中非常常见。
2018-08-03 cs.LG stat.CO stat.ML
Finding, Scoring and Explaining Arguments in Bayesian Networks
Aberdeen University(阿伯丁大学)
我们提出了一种新的方法来解释贝叶斯网络。该方法围绕着一个新的定义的概率参数和它提供的证据。我们定义了一个独立的参数的概念,并提出了一个算法来提取一个列表的相关,独立的参数给定的贝叶斯网络,目标节点和一组观察。为了证明参数的相关性,我们展示了如何使用提取的参数来近似消息传递。最后,我们展示了一个简单的方案来解释自然语言的参数。
2021-11-30 cs.AI cs.CL stat.AP
Learning Bayesian Networks: A Unification for Discrete and Gaussian Domains
我们研究贝叶斯方法学习贝叶斯网络的先验知识和统计数据的组合。特别是,我们统一的方法,我们在去年的会议上提出的离散和高斯域。我们推导出一个一般的贝叶斯评分指标,适用于这两个领域。然后,我们使用这个度量结合著名的统计事实的Dirichlet和正常的Wishart分布,以获得我们的度量离散和高斯域。
2021-06-29 cs.AI
Co-Attention Based Neural Network for Source-Dependent Essay Scoring
University of Pittsburgh(匹兹堡大学);Department of Computer Science(计算机科学系);LRDC(LRDC(此处LRDC未明确全称,按原文提取));Department of Computer Science & LRDC(计算机科学系及LRDC(此处LRDC未明确全称,按原文提取));Pittsburgh, PA 15260((地址信息,非机构,已排除))
本文提出了一种基于共同注意力的神经网络用于基于源的作文评分的研究。我们使用了一个共同的注意力机制来帮助模型更准确地学习文章每个部分的重要性。此外,本文表明,基于共同注意的神经网络模型提供了可靠的分数预测的源依赖性的反应。我们评估我们的模型上的两个源依赖响应语料库。结果表明,我们的模型优于基线上的两个语料库。我们还表明,该模型的注意力是类似的专家意见的例子。
2019-08-06 cs.AI cs.CL
Scoring and Searching over Bayesian Networks with Causal and Associative Priors
University of Crete(克里特大学);Institute of Computer Science, FORTH(FORTH计算机科学研究所)
学习贝叶斯网络的搜索和评分方法的一个重要理论优势是,它们可以接受每个可能网络的信息先验信念,从而补充数据。本文提出了一种基于真实网络中某些路径存在或不存在的信念来分配先验知识的方法。这种信念对应于关于变量对之间可能的因果关系和关联关系的知识。这种类型的知识自然来自先前的实验和观察数据等。此外,提出了一种新的搜索算子,以利用这些先验知识。实验表明,使用路径信念提高了骨架的学习,以及在网络中的边缘方向。
2014-08-09 cs.AI
Renormalized Normalized Maximum Likelihood and Three-Part Code Criteria For Learning Gaussian Networks
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对连续域基于评分的贝叶斯网络学习现有方法不足的问题,提出两种无超参数、可分解且渐近一致的新评分指标,实验证明其性能优于BIC/AIC,其中RNML指标收敛最快、结构汉明距离最小。
2020-12-26 cs.LG stat.ML
Learning Probabilistic Filters with Strictly Proper Scoring Rules
提出基于严格适当评分规则和Transformer的集成滤波器PSEF,通过合成轨迹训练分析映射逼近滤波分布,在非线性非高斯问题上优于经典方法。
2026-10-07 cs.LG math.DS stat.ML
ChemicalX: A Deep Learning Library for Drug Pair Scoring
AstraZeneca(阿斯利康);Harvard Medical School(哈佛医学院);Vanderbilt University(范德堡大学)
在本文中,我们介绍了ChemicalX,这是一个基于PyTorch的深度学习库,旨在提供一系列最先进的模型来解决药物对评分任务。该库的主要目标是使机器学习研究人员和从业者能够在简化的框架中访问深度药物对评分模型。ChemicalX的设计重用了PyTorch生态系统中现有的高级模型训练实用程序,几何深度学习和深度化学层。我们的系统为最终用户提供了神经网络层、自定义配对评分架构、数据加载器和批处理迭代器。我们通过示例代码片段和案例研究来展示这些功能,以突出ChemicalX的特性。一系列关于真实世界药物相互作用、多种药物副作用和组合协同作用预测任务的实验表明,ChemicalX中可用的模型在解决配对评分任务方面是有效的。最后,我们证明了ChemicalX可用于在大型药物对数据集上对训练和评分机器学习模型,这些数据集在商品硬件上具有数十万种化合物。
2022-05-26 cs.AI cs.LG
Learning Gaussian Graphical Models With Fractional Marginal Pseudo-likelihood
University of Helsinki(赫尔辛基大学);Åbo Akademi University(奥博学术大学)
我们提出了一个贝叶斯近似推理方法来学习高斯图模型的依赖结构。使用伪似然,我们推导出一个分析表达式来近似的边缘可能性为任意的图形结构,而不调用任何假设的可分解性。大多数用于学习高斯图形模型的现有方法要么限于可分解的图,要么需要指定可能对学习结构产生重大影响的调谐参数。通过结合一个简单的稀疏诱导先验的图形结构与一个默认的参考先验的模型参数,我们得到了一个快速,易于应用的评分功能,即使是高维数据也能很好地工作。我们证明了我们的方法的良好性能,通过大规模的比较,对学习不可分解的高斯图形模型的领先方法。我们的方法提供了一个理论上的理由表明,它会产生一个相合估计量的图结构。
2016-02-25 cs.LG stat.ML
Learning Bayesian Networks: The Combination of Knowledge and Statistical Data
Microsoft Research(微软研究院);Technion(以色列理工学院)
我们描述了学习贝叶斯网络的用户知识和统计数据的组合算法。该算法有两个组成部分:评分度量和搜索过程。评分度量采用网络结构、统计数据和用户的先验知识,并返回与给定数据的网络结构的后验概率成比例的分数。搜索过程生成网络,用于通过评分度量进行评估。我们的贡献是三方面的。首先,我们确定了度量的两个重要性质,我们称之为事件等价性和参数模块性。这些属性大多被忽略了,但是当它们结合在一起时,极大地简化了用户先验知识的编码。特别是,用户可以表达她的知识-大部分-作为一个单一的先验贝叶斯网络的域。其次,我们描述了本地搜索和退火算法与评分指标一起使用。在每个节点最多有一个父节点的特殊情况下,我们证明了启发式搜索可以用多项式算法来代替,以确定网络的最高分数。第三,我们描述了评估贝叶斯网络学习算法的方法。我们应用这种方法来比较指标和搜索程序。
2015-05-16 cs.AI
Towards new cross-validation-based estimators for Gaussian process regression: efficient adjoint computation of gradients
本文研究了用交叉验证法估计高斯过程的协方差函数的参数问题。我们建议使用新的交叉验证标准来自文学的评分规则。我们还提供了一个有效的方法来计算交叉验证标准的梯度。据我们所知,我们的方法是更有效的比在文献中提出的。它使得有可能降低联合评估留一法准则及其梯度的复杂性。
2020-08-06 stat.CO stat.ML
SleePyCo: Automatic Sleep Scoring with Feature Pyramid and Contrastive Learning
Korea Atomic Energy Research Institute(韩国原子能研究院)
本文提出SleePyCo框架,通过特征金字塔主干网络与监督对比学习解决单通道EEG自动睡眠分期中多尺度特征提取和相似阶段混淆问题,在四个数据集上优于现有方法,显著提升N1与REM阶段区分能力。
2022-09-20 cs.AI cs.LG eess.SP
Having a Ball: evaluating scoring streaks and game excitement using in-match trend estimation
许多流行的体育运动涉及两支球队或球员之间的比赛,每支球队都有可能在整个比赛中得分。虽然总的比赛获胜者和结果是有趣的,它传达了一点关于整个比赛的基本得分趋势的信息。建模方法,以适应整个比赛中的得分差异的更细粒度的需要,以评估在游戏中的策略,讨论得分连胜,球队的优势,和游戏的其他方面。我们提出了一个潜在的高斯过程来模拟两支球队之间的得分差异,并引入趋势方向指数作为一个易于解释的概率测量的当前趋势在比赛中,以及衡量赛后的趋势评估。此外,我们提出了兴奋趋势指数-预期数量的单调性变化的运行得分差-作为衡量整体游戏的兴奋。我们提出的方法适用于2019-2020年NBA赛季的所有1143场比赛。我们展示了如何在单个游戏中解释这些趋势,以及如何根据球队的兴奋程度来聚类球队。
2020-12-22 stat.AP stat.ME
Distilled Neural Networks for Efficient Learning to Rank
University of Pisa(比萨大学);ISTI–CNR(ISTI-CNR研究所)
本文结合知识蒸馏、结构化剪枝与快速稀疏矩阵乘法,从回归树集成中获得高效浅层排序神经网络,并通过评分时间预测模型设计满足效率约束的架构,在两个公开数据集上实现最高4倍加速且不损失排序质量。
2022-02-22 cs.AI cs.IR cs.LG
Credit scoring using neural networks and SURE posterior probability calibration
本文比较逻辑回归与神经网络在信用评分中的性能,发现时间特征可提升准确性,并提出基于SURE的概率校准技术,与Platt方法结合可改善校准效果。
2025-01-22 q-fin.ST stat.AP
BioLM-Score: Language-Prior Conditioned Probabilistic Geometric Potentials for Protein-Ligand Scoring
School of Computer Science, University of Nottingham Ningbo(计算机科学学院,诺丁汉大学宁波分校);School of Artificial Intelligence, Shenzhen University(人工智能学院,深圳大学)
BioLM-Score结合几何建模与表征学习,提供一种高效、可泛化且可解释的蛋白质-配体评分方法,提升药物发现效率。
2026-02-09 cs.AI cs.LG q-bio.BM
Probabilistic Rainfall Downscaling: Joint Generalized Neural Models with Censored Spatial Gaussian Copula
本研究提出一种结合联合广义神经模型与截断空间高斯Copula的概率性降雨降尺度方法,生成具有时空依赖的条件概率预报,并在英国大型数据集上验证其优于现有方法。
2025-03-28 stat.ME
Logical Expressivity and Explanations for Monotonic GNNs with Scoring Functions
Department of Compute Science, University of Oxford(牛津大学计算机科学系);Department of Computer Science, Royal Holloway, University of London(伦敦大学皇家霍洛威学院计算机科学系)
针对GNNs在知识图谱链接预测中缺乏可解释性的问题,本文提出带评分函数的单调GNNs方法,可提取可靠Datalog规则解释预测,刻画表达能力,在基准测试中表现良好且生成大量可靠规则。
2025-08-14 cs.AI cs.LG cs.LO
Deep Learning Architecture for Automatic Essay Scoring
随着在线学习和评价平台(如Coursera、Udemy、Khan academy等)的兴起,论文自动评价(AES,Automatic Evaluation of essay)成为一个严峻的问题,研究人员提出了许多自动评价技术。然而,这些技术中的许多使用手工制作的特征,因此从特征表示的角度来看是有限的。深度学习已经成为机器学习中的一种新范式,它可以利用大量数据并识别对论文评估有用的特征。为此,我们提出了一种新的架构,基于递归网络(RNN)和卷积神经网络(CNN)。在所提出的架构中,多通道卷积层从词嵌入向量和基本语义概念中学习和捕获词n-gram的上下文特征,以使用最大池化操作形成文章级别的特征向量。RNN的一个变体称为双门循环单元(BGRU),用于访问先前和随后的上下文表示。实验是在Kaggle上提供的八个数据集上进行的,用于AES任务。实验结果表明,我们提出的系统实现了显着更高的分级准确性比其他深度学习为基础的AES系统,也是其他国家的最先进的AES系统。
2022-06-16 cs.AI cs.CL
Initializing EM algorithm for univariate Gaussian, multi-component, heteroscedastic mixture models by dynamic programming partitions
EM递推算法估计混合分布时,参数初值的设置对估计的整体质量至关重要。现有的方法都不适合含有大量组分的混合物。我们提出了一个相关的方法来估计参数的初始值的单变量,异方差高斯混合物,动态规划算法的基础上划分成箱的观测范围。我们评估的动态规划方法对应于不同的评分函数分区的变种。对于模拟和真实的数据集,我们证明了所提出的方法相比,现有的技术优越的效率。
2015-08-02 stat.AP
Integrating Network Psychometrics and LLMs: The Ising-Embeddings-Model applied to Reliability Auditing
该研究结合网络心理测量学与LiRA,提出改进的伊辛嵌入模型,用于国际评估的信度审计,可利用全数据集完成评分一致性估计等任务。
2026-09-01 stat.AP
Personalized Risk Scoring for Critical Care Prognosis using Mixtures of Gaussian Processes
University of California, Los Angeles (UCLA)(加州大学洛杉矶分校)
目的:在本文中,我们开发了一个个性化的实时风险评分算法,提供及时和粒度评估的基础上,他们的(时间)实验室检查和生命体征病房患者的临床急性;建议的风险评分系统,确保及时重症监护病房(ICU)入院临床恶化的患者。研究方法:风险评分系统从离线电子健康记录数据学习一组潜在患者亚型,并训练高斯过程(GP)专家的混合,其中每个专家对与特定患者亚型相关联的生理数据流进行建模。迁移学习技术用于学习患者的潜在亚型与其静态入院信息(例如,年龄、性别、转移状态、ICD-9代码等)之间的关系。结果如下:对来自罗纳德里根加州大学洛杉矶分校医学中心的6,321名患者的异质队列数据进行的实验表明,我们的风险评分在及时性,真阳性率(TPR)和阳性预测值(PPV)方面显著且一致地优于目前部署的风险评分,如Rothman指数,MEWS,APACHE和SOFA评分。结论:我们的研究结果反映了在重症监护环境中采用个性化医疗概念的重要性;通过考虑患者的异质性,可以实现显着的准确性和及时性收益。重要性:提出的风险评分方法可以为美国每年超过20万名表现出心脏骤停的危重住院患者带来巨大的临床和社会效益。
2016-10-27 cs.AI
Bayesian Active Learning with Gaussian Processes Guided by LLM Relevance Scoring for Dense Passage Retrieval
Sungkyunkwan University(成均馆大学);University of Toronto(多伦多大学)
本文提出BAGEL框架,通过高斯过程引导LLM相关性评分,解决传统方法在语义不同聚类中检索失败和相关性信号传播不足的问题,实验证明其在四个数据集上优于LLM重排序方法。
2026-04-20 cs.AI cs.IR
Fourier Feature Methods for Nonlinear Causal Discovery: FFML Scoring, TRFF Scoring, and FFCI Testing in Mixed Data
Department of Philosophy(哲学系)
本文提出三种基于随机傅里叶特征的方法,用于非线性因果发现,包括FFML评分、TRFF评分和FFCI测试,适用于混合数据,提升因果发现的效率和精度。
2026-05-10 cs.AI cs.LG stat.ML
Shift-Invariant Attribute Scoring for Kolmogorov-Arnold Networks via Shapley Value
提出ShapKAN框架,利用Shapley值归因实现平移不变的节点重要性评估,有效压缩KAN网络并保持其可解释性优势。
2026-06-15 cs.AI cs.LG
An Evaluation of Anomaly Detection and Diagnosis in Multivariate Time Series
最近提出了几种多变量时间序列异常检测技术,但缺乏对一组常见的数据集和度量的系统比较。本文对基于无监督和半监督深度学习的方法进行了系统和全面的评估,用于对来自网络物理系统的多变量时间序列数据进行异常检测和诊断。与以前的作品不同,我们通过10个模型和4个评分函数的网格来改变模型和模型误差的后处理,即评分函数彼此独立,将这些变体与最先进的方法进行比较。在时间序列异常检测中,检测异常事件比检测单个异常时间点更重要。通过实验,我们发现现有的评价指标要么没有考虑事件,要么不能区分好的检测器和平凡的检测器,如随机检测器或全正检测器。我们提出了一个新的度量,以克服这些缺点,即,复合F分数($Fc_1$),用于评估时间序列异常检测。我们的研究强调,动态评分函数的工作比静态的多变量时间序列异常检测,评分函数的选择往往比选择的基础模型更重要。我们还发现,一个简单的通道模型-单变量全连接自动编码器,具有动态高斯评分函数,是异常检测和诊断的获胜候选者,击败了最先进的算法。
2021-09-23 cs.AI cs.LG stat.ML
The effects of data size on Automated Essay Scoring engines
我们研究了数据大小和质量对自动论文评分(AES)引擎性能的影响,这些引擎是根据三种不同的范式设计的;频率和手工制作的基于特征的模型,递归神经网络模型和预训练的基于transformer的语言模型,该模型经过微调用于分类。我们期望每种类型的模型以非常不同的方式从训练数据的大小和质量中受益。为AES引擎开发训练数据的标准实践是在考虑基于特征的方法的情况下建立的,然而,由于神经网络越来越多地被考虑用于生产环境,因此这项工作旨在告知我们如何为将用于生产的神经网络建立更好的训练数据。
2021-08-30 cs.AI cs.CL
Human readable network troubleshooting based on anomaly detection and feature scoring
Huawei Technologies Co. Ltd.(华为技术有限公司)
网络故障排除仍然是一个人力密集型的过程。为了减少人类操作员在诊断过程中所花费的时间,我们提出了一个系统的基础上(i)无监督学习方法检测异常的时域,(ii)一个注意力机制排名功能的特征空间,最后(iii)一个专家知识模块能够无缝地将以前收集的领域知识。在本文中,我们彻底评估了整个系统的性能和它的各个组成部分:特别是,我们考虑(i)10个异常检测算法以及(ii)10个注意力机制,全面代表了各自领域的最新技术水平。利用一个独特的收集专家标记的数据集值得几个月的真正的路由器遥测数据,我们进行了彻底的性能评估对比实际结果在受约束的流模式设置,与理想的甲骨文在学术环境中实现的结果。我们的实验评估表明,(i)所提出的系统是有效的,在实现高水平的协议与专家,(ii),即使是一个简单的统计方法是能够提取有用的信息,从过去的情况下获得的专家知识,显着提高故障排除性能。
2021-08-26 cs.AI cs.LG cs.NI
Scoring Graspability based on Grasp Regression for Better Grasp Prediction
Siléane;University of Lyon, Ecole Centrale de Lyon, LIRIS, CNRS UMR 5205(里昂大学,里昂中央理工学院,LIRIS,CNRS UMR 5205)
抓取物体是机器人与环境交互所需要掌握的最重要的能力之一。当前最先进的方法依赖于深度神经网络,所述深度神经网络被训练以联合预测可抓握性分数以及相对于抓握参考参数的偏移的回归。然而,这两个预测是独立执行的,这可能导致在应用预测的偏移时实际可抓握性分数的降低。因此,在本文中,我们扩展了一个国家的最先进的神经网络的评分器,评估一个给定的位置的可抓握性,并引入了一种新的损失函数,相关的抓地力得分参数的回归。我们发现,这种新的架构将性能从最先进的抓取检测网络的82.13%提高到Jobserver数据集的85.74%。当学习到的模型被转移到一个真正的机器人,所提出的方法相关的可抓取性和把握回归达到了92.4%的率相比,88.1%的基线训练没有相关性。
2021-03-31 cs.AI cs.LG cs.RO
Joint Optimization of Neural Autoregressors via Scoring rules
January 9, 2026(2026年1月9日)
本文通过评分规则联合优化神经自回归器,解决非参数分布回归在多变量扩展中的复杂性和参数量问题。
2026-01-09 cond-mat.soft cs.AI
An Empirical Analysis of Likelihood-Weighting Simulation on a Large, Multiply-Connected Belief Network
Stanford University(斯坦福大学)
我们分析了似然加权算法的收敛特性的两级,多连接,信念网络表示的QMR知识库的内科。具体而言,在两个困难的诊断情况下,我们检查了马尔可夫毯评分,重要性采样的效果,证明马尔可夫毯评分和自我重要性采样显着提高我们的模型上的模拟的收敛性。
2013-03-27 cs.AI
SkipFlow: Incorporating Neural Coherence Features for End-to-End Automatic Text Scoring
Institute for Infocomm Research(信息通信研究所);Nanyang Technological University(南洋理工大学)
深度学习在自动文本评分(ATS)任务中表现出了巨大的潜力。在本文中,我们描述了一种新的神经架构,增强香草神经网络模型与辅助神经一致性功能。我们的新方法提出了一种新的\textsc{SkipFlow}机制,该机制在读取时对长短期记忆(LSTM)网络的隐藏表示的快照之间的关系进行建模。随后,多个快照之间的语义关系被用作预测的辅助特征。这有两个主要好处。首先,文章通常是长序列,因此LSTM网络的记忆能力可能不足。对多个快照的隐式访问可以通过防止梯度消失来缓解这个问题。\textsc{SkipFlow}机构的参数也用作辅助存储器。其次,对多个位置之间的关系进行建模,使我们的模型能够学习代表和近似文本连贯性的特征。在我们的模型中,我们称之为\textit{neural coherence}特征。总的来说,我们提出了一个统一的深度学习架构,当它以端到端的方式读取时,它会生成神经连贯性特征。我们的方法在基准ASAP数据集上展示了最先进的性能,不仅优于特征工程基线,而且优于其他深度学习模型。
2017-11-14 cs.AI cs.CL
Knowledge Distillation of LLM for Automatic Scoring of Science Education Assessments
AI4STEM Education Center(AI4STEM教育中心);University of Georgia(佐治亚大学)
针对科学教育评估自动评分在资源受限设备上的部署难题,提出利用LLM软标签和专用损失函数训练0.03M学生网络的知识蒸馏方法,准确率优于ANN和TinyBERT且显著更小更快。
2024-06-11 cs.AI cs.CL
Neural Photofit: Gaze-based Mental Image Reconstruction
University of Stuttgart(斯图加特大学);LMU Munich(慕尼黑大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
我们提出了一种新的方法,利用人类的固定视觉解码的图像一个人心目中的photofit(面部合成)。我们的方法结合了三个神经网络:编码器,评分网络和解码器。编码器提取图像特征,并预测人类观察者看到的每张脸的神经激活图。神经评分网络比较人类和神经的注意力,并预测每个提取的图像特征的相关性得分。最后,图像特征被聚合成一个单一的特征向量,作为一个线性组合的所有功能加权的相关性,解码器解码成最终的photofit。我们在一个新的数据集上训练神经评分网络,该数据集包含19名参与者观看合成面孔拼贴画的凝视数据。我们表明,我们的方法显着优于平均基线预测和报告的人类研究表明,我们可以解码的photofits是视觉上合理的,接近观察者的心理形象。
2021-08-17 cs.AI cs.CV cs.HC