A framework for measuring the training efficiency of a neural architecture
TU Dublin(都柏林理工大学);Trinity College Dublin(都柏林圣三一学院);ADAPT Research Centre(ADAPT研究中心)
针对神经网络训练效率衡量这一开放问题,本文提出实验框架,通过分析CNN与贝叶斯等价模型在MNIST、CIFAR-10上的表现,揭示训练效率的变化规律及架构间的效率差异。
2024-09-12 cs.AI cs.LG
Measuring Uncertainty through Bayesian Learning of Deep Neural Network Structure
Tsinghua University(清华大学)
贝叶斯神经网络(BNN)通过贝叶斯处理网络权重来增强具有不确定性量化的深度网络。然而,这样的模型面临的挑战,贝叶斯推理在一个高维的,通常过参数化的空间。本文通过对网络结构进行贝叶斯推理来研究贝叶斯深度学习的一条新路线。我们不是从零开始低效地构建结构,而是从神经架构搜索中获得灵感来表示网络结构。然后,我们开发了一个有效的随机变分推理方法,它统一了网络结构和权重的学习。从经验上讲,我们的方法表现出有竞争力的预测性能,同时保留了贝叶斯原理在具有挑战性的场景中的优势。我们还提供了令人信服的实验理由,我们的建模选择。
2021-03-27 cs.LG stat.ML
Fetal Ultrasound Image Segmentation for Measuring Biometric Parameters Using Multi-Task Deep Learning
Isfahan University of Technology(伊斯法罕理工大学);University of Michigan(密歇根大学)
超声成像是怀孕期间的标准检查,可用于测量特定的生物特征参数,以进行产前诊断和估计胎龄。胎儿头围是决定胎儿生长发育和健康状况的重要因素之一。本文提出了一种多任务深度卷积神经网络,通过最小化由分割骰子分数和椭圆参数的MSE组成的复合代价函数来自动分割和估计HC椭圆。在不同孕期的胎儿超声数据集上的实验结果表明,分割结果和提取的HC与放射科医生的注释匹配良好。所获得的胎头分割的骰子分数和HC评价的准确性与最新技术相当。
2019-08-31 cs.CV cs.LG eess.IV
Measuring Progress in Deep Reinforcement Learning Sample Efficiency
ETH Zurich(苏黎世联邦理工学院);Institute of Science, Technology and Policy(科学、技术与政策研究所)
采样环境转换是深度强化学习(DRL)算法的关键输入。当前的DRL基准通常允许廉价且容易地生成大量样本,使得DRL中的感知进展不一定对应于改进的样本效率。由于模拟真实世界的过程通常是非常困难的,并且收集真实世界的经验是昂贵的,因此样本效率是DRL的经济相关应用的重要指标。我们调查的进展,样本效率的Atari游戏和连续控制任务,通过比较样本的数量,各种算法需要达到一个给定的性能水平,根据相应的出版物中的训练曲线。我们发现样本效率呈指数级增长,估计Atari的倍增时间约为10至18个月,基于状态的连续控制约为5至24个月,基于像素的连续控制约为4至9个月,具体取决于特定的任务和性能水平。
2021-02-09 cs.CY cs.LG
DeepCreativity: Measuring Creativity with Deep Learning Techniques
Alma Mater Studiorum Università di Bologna(博洛尼亚大学);University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
针对机器创造力的自动评估难题,本文基于Margaret Boden的创造力定义,提出无需人工判断、模块化通用的DeepCreativity衡量指标,经19世纪美国诗歌生成案例验证有效。
2022-01-16 cs.AI cs.CY cs.LG
On Measuring Intrinsic Causal Attributions in Deep Neural Networks
Indian Statistical Institute(印度统计研究所);University at Buffalo(布法罗大学)
本文提出可识别的生成式事后框架,将神经网络视为结构因果模型以量化内在因果贡献,并建立其与Sobol'指数的联系,实验证明该方法比现有全局解释技术更直观可靠。
2025-05-14 cs.LG stat.ML
Measuring and Characterizing Generalization in Deep Reinforcement Learning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Brown University(布朗大学)
深度学习方法在具有挑战性的控制任务中取得了卓越的性能。对结果行为的观察给人的印象是,智能体已经构建了一个支持有见地的行动决策的广义表示。我们重新审视RL中的泛化意味着什么,并根据代理在策略上,策略外和不可达状态下的表现提出了几个定义。我们提出了一套实用的方法来评估这些定义的泛化代理。我们在深度强化学习的一个常见基准任务上演示了这些技术,并且我们表明,学习后的网络对于与策略状态仅略有不同的状态做出了糟糕的决策,即使这些状态没有被对抗性地选择。总之,这些结果对深度Q网络学习广义表征的程度提出了质疑,并表明在支持表示学习的主张之前,需要进行更多的实验和分析。
2018-12-11 cs.AI cs.LG stat.ML
Measuring Calibration in Deep Learning
Google Brain(谷歌大脑);Google Research(谷歌研究院);Google Inc.(谷歌公司)
机器学习分类器中的过度自信和不足自信是通过校准来衡量的:为每个类别预测的概率与分类器在该预测上的准确性相匹配的程度。如何衡量校准仍然是一个挑战:预期校准误差,最流行的指标,有许多缺陷,我们概述,并没有明确的经验理解如何选择影响在实践中的结论,以及有什么建议来抵消它的缺陷。在本文中,我们进行了一个全面的实证研究的选择校准措施,包括测量所有的概率,而不仅仅是最大的预测,阈值概率值,类的条件性,箱数,箱是自适应的数据点密度,以及用于比较准确度的置信度的规范。为了分析校准措施的灵敏度,我们研究了使用重新校准技术直接优化每个变量的影响。在MNIST,Fashion MNIST,CIFAR-10/100和ImageNet中,我们发现重新校准方法的排名顺序的结论受到校准度量的选择的极大影响。我们发现,条件类导致更有效的校准评估,并使用L2规范,而不是L1规范提高了优化校准指标和秩相关测量指标的一致性。自适应分箱方案在箱数变化时使度量秩排序更稳定,也是推荐的。我们开源了一个库,用于我们的校准测量。
2020-08-07 cs.LG stat.ML
Evaluating the Disentanglement of Deep Generative Models through Manifold Topology
Stanford University(斯坦福大学)
学习解纠缠表示被认为是提高生成模型的泛化性、鲁棒性和可解释性的基本任务。然而,测量解纠缠一直具有挑战性和不一致性,通常依赖于特定的外部模型或特定于特定的数据集。为了解决这个问题,我们提出了一种方法来量化解纠缠,只使用生成模型,通过测量学习表示中的条件子流形的拓扑相似性。这种方法展示了无监督和监督的变体。为了说明我们方法的有效性和适用性,我们在多个数据集上对几个最先进的模型进行了经验评估。我们发现,我们的方法排名模型类似于现有的方法。我们在https://github.com/stanfordmlgroup/disentanglement上公开我们的代码。
2021-03-17 cs.CV cs.LG stat.ML
Measuring Sample Efficiency and Generalization in Reinforcement Learning Benchmarks: NeurIPS 2020 Procgen Benchmark
AIcrowd Research, AIcrowd(AIcrowd Research,AIcrowd);Toyota Research Institute(丰田研究所);Microsoft Research(微软研究院);Three Thirds;Institute of Informatics, Universidade Federal do Rio Grande do Sul(南里奥格兰德联邦大学信息学研究所);Temple University(天普大学);AIcrowd Community(AIcrowd社区);DiDi Labs(滴滴实验室)
NeurIPS 2020 Procgen竞赛被设计为一个集中的基准,具有明确定义的任务,用于测量强化学习中的样本效率和泛化。泛化仍然是深度强化学习中最基本的挑战之一,但我们没有足够的基准来衡量社区在强化学习泛化方面的进展。我们为强化学习设计了一个集中式基准测试,它可以通过以可扩展的方式对数千个用户提交的代码库的训练和推出阶段进行端到端评估,来帮助测量强化学习中的样本效率和泛化。我们通过定义明确的任务和标准化端到端评估设置,在现有的Procgen Benchmark基础上设计了基准。该设计旨在最大限度地提高研究人员的灵活性,他们希望设计此类基准的未来迭代,但也施加了必要的实际约束,以允许这样的系统扩展。本文介绍了竞争设置以及通过此设置确定的顶级解决方案的详细信息和分析,这些解决方案是在NeurIPS 2020年竞争迭代的背景下确定的。
2021-03-29 cs.AI cs.LG
From Efficiency to Equity: Measuring Fairness in Preference Learning
Birla Institute of Technology and Science, Pilani(毕拉理工学院皮拉尼分校);University of Montréal(蒙特利尔大学)
本文借鉴不平等与罗尔斯正义理论,提出基于 Gini Coefficient、Atkinson Index 和 Kuznets Ratio 的偏好学习认知公平评估框架,并通过两个数据集验证及缓解策略分析效率与公平的权衡。
2024-10-24 cs.AI cs.LG
DeepAg: Deep Learning Approach for Measuring the Effects of Outlier Events on Agricultural Production and Policy
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学);University of Georgia(佐治亚大学)
衡量全球经济平衡的量化指标与农业供应链和国际贸易流动有着密切和相互依存的关系。这些过程中由贸易战、流行病或天气等异常事件引起的突然冲击可能对全球经济产生复杂影响。在本文中,我们提出了一个新的框架,即:DeepAg,它采用计量经济学,并使用深度学习(DL)来测量异常事件检测的效果,以确定普通金融指数(如道琼斯指数)和农产品(如奶酪和牛奶)的生产价值之间的关系。我们采用了一种称为长短期记忆(LSTM)网络的DL技术,成功地以高精度预测了商品产量,并提出了五种流行的模型(回归和提升)作为基线来衡量异常事件的影响。结果表明,考虑离群值的DeepAg(使用隔离森林)优于基线模型,以及没有离群值检测的相同模型。在根据金融指数预测商品生产时,异常事件会产生相当大的影响。此外,我们还介绍了DeepAg对公共政策的影响,为政策制定者和农民以及农业生态系统的运营决策提供了见解。收集数据,开发模型,记录和展示结果。
2021-11-06 cs.LG
Measuring the Effect of Training Data on Deep Learning Predictions via Randomized Experiments
New York University(纽约大学);University of British Columbia(不列颠哥伦比亚大学);Microsoft Research(微软研究院)
我们开发了一种新的原则性算法,用于估计训练数据点对深度学习模型行为的贡献,例如它做出的特定预测。我们的算法估计AME,这是一个测量将数据点添加到从给定分布采样的训练数据子集的预期(平均)边际效应的量。当从均匀分布中采样子集时,AME减少到众所周知的Shapley值。我们的方法受到因果推理和随机实验的启发:我们对训练数据的不同子集进行采样,以训练多个子模型,并评估每个子模型的行为。然后,我们使用LASSO回归来联合估计每个数据点的AME,基于子集组成。在稀疏性假设下($k \ll N$数据点具有较大的AME),我们的估计量仅需要$O(k\log N)$随机子模型训练,改进了最佳先验Shapley值估计量。
2022-06-20 cs.LG
Pose-Selective Max Pooling for Measuring Similarity
Johns Hopkins University(约翰斯·霍普金斯大学)
在本文中,我们处理的两个挑战,在实际的基于视频的人脸识别测量的主体身份的相似性-在不受控制的环境中的头部姿势的变化和处理视频的计算费用。由于逐帧特征均值无法表征帧之间的姿态多样性,因此我们定义并保留视频中的整体姿态多样性和接近度。然后,身份将是视频之间变化的唯一来源,因为即使在单个视频中,姿势也会发生变化。我们不是简单地使用所有帧,而是选择那些姿态点最接近包含该姿态点的K均值聚类的质心的人脸。然后,我们将视频表示为一组帧级深度人脸特征,而特征数量已从数百减少到K。由于视频表示可以很好地表示身份,现在我们将两个视频之间的主题相似性度量为两个特征包中所有可能对之间的最大相关性。在用于人脸验证的YouTube Face数据集的官方5,000个视频对上,我们的算法实现了与VGG-face相当的性能,该性能平均超过了所有帧的深度特征。其他视觉任务也可以受益于采用几何线索来提高深度特征的连续性的一般想法。
2016-11-14 cs.AI cs.CV cs.LG
Measuring Generalization with Optimal Transport
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);IBM Research AI(IBM人工智能研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
理解深度神经网络的泛化是深度学习中最重要的任务之一。虽然已经取得了很大的进展,理论误差界仍然经常表现出与经验观察。在这项工作中,我们开发了基于边际的泛化边界,其中边际被归一化为从训练分布中采样的独立随机子集之间的最佳运输成本。特别是,最优传输成本可以被解释为方差的泛化,它捕获了学习特征空间的结构属性。在给定训练数据和网络参数的情况下,我们的界在大规模数据集上鲁棒地预测泛化误差。理论上,我们证明了特征的集中和分离在泛化中起着至关重要的作用,支持文献中的实证结果。代码可在\url{https://github.com/chingyaoc/kV-Margin}上获得。
2021-11-08 cs.LG stat.ML
Measuring Fairness in Generative Models
Singapore University of Technology and Design(新加坡科技设计大学)
深度生成模型在提高训练稳定性和生成数据质量方面取得了很大进展。最近,人们对深层生成数据的公平性越来越感兴趣。公平在许多应用中很重要,例如执法,因为偏见会影响效率。公平数据生成的核心是用于评估和评价不同生成模型的公平性度量。在本文中,我们首先回顾公平性指标提出了在以前的作品,并突出潜在的弱点。然后,我们讨论了性能基准框架以及替代指标的评估。
2021-07-16 cs.LG
Measuring global properties of neural generative model outputs via generating mathematical objects
Norwegian Defence Research Establishment (FFI)(挪威国防研究机构(FFI))
我们在自反多面体的数据集上训练深度生成模型。这使我们能够比较模型在生成样本的各种全局属性上的表现。我们的数据集是完整的,因为每一个例子,直到坐标的变化,都包含在数据集中。使用这个属性,我们还可以执行测试,检查模型在多大程度上只是记忆数据。我们还在以两种不同方式表示的同一数据集上训练模型,使我们能够衡量哪种形式最容易学习。我们使用这些实验来证明,深度生成模型可以学习生成具有非平凡全局属性的几何对象,并且模型可以学习对象的一些底层属性,而不是简单地记忆数据。
2021-05-28 cs.LG math.CO stat.ML
Measuring a hate speech spectrum with faceted Rasch item response theory and perspective-aware, explainable-by-design deep learning
Center for Precision Psychiatry, Mass General Hospital Department of Psychiatry, Harvard Medical School(精准精神病学中心,麻省总医院精神病科,哈佛医学院);D-Lab University of California, Berkeley(加州大学伯克利分校D实验室)
提出结合监督深度学习与分面Rasch项目反应理论的方法,将仇恨言论分解为10个有序标签,通过IRT模型转化为区间测量值并调整标注者视角,在RoBERTa模型上提升准确性,实现连续谱系测量与可解释性。
2026-06-08 cs.CL cs.LG cs.SI
A Deep Causal Inference Approach to Measuring the Effects of Forming Group Loans in Online Non-profit Microfinance Platform
Graduate School of Business, Stanford University(斯坦福大学商学院)
本文针对在线非营利小额信贷平台Kiva,采用深度因果推理与自然语言处理深度学习技术,探究团体贷款对筹资时间的影响,发现团体贷款平均可缩短筹资时间约3.3天。
2026-08-25 cs.IR cs.LG q-fin.GN
From Alexnet to Transformers: Measuring the Non-linearity of Deep Neural Networks with Affine Optimal Transport
LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI,巴黎电信学院,巴黎理工学院);Technical University of Munich(慕尼黑技术大学);Helmholtz Munich(海德堡-慕尼黑研究所);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML));Noah’s Ark Lab, Paris(诺亚实验室,巴黎);Aalto University, Finland, Dept. of Electrical Engineering and Automation(阿莱克大学,芬兰,电气工程与自动化系);Nomagic(Nomagic公司);Aalto University, Finland, Department of Computer Science(阿莱克大学,芬兰,计算机科学系);University of Manchester, UK, Department of Computer Science(曼彻斯特大学,英国,计算机科学系)
本文提出基于仿射最优传输的DNN非线性签名,首次从理论上可靠地近似度量深度神经网络非线性,并通过大量实验验证其在理解各类架构(尤其是计算机视觉模型)内部机制方面的实用价值。
2025-04-06 cs.AI cs.LG stat.ML
Measuring Patient Similarities via a Deep Architecture with Medical Concept Embedding
Xi’an Jiaotong University(西安交通大学);Microsoft AI & Research(微软人工智能与研究院);HP Labs(惠普实验室);Weill Cornell Medical School(威尔康奈尔医学院)
评估成对患者之间的临床相似性是医疗信息学中的一个基本问题。适当的患者相似性度量可以实现各种下游应用,例如队列研究和治疗比较有效性研究。进行患者相似性研究的一个主要载体是电子健康记录(EHR),它通常是异构的,纵向的和稀疏的。虽然现有的研究表明,从电子病历学习病人的相似性是有用的,在解决实际的临床问题,其适用性是有限的,由于缺乏医学解释。此外,大多数先前的方法假设患者的基于向量的表示,这通常需要在某个时间段内聚合医疗事件。因此,时间信息将丢失。在本文中,我们提出了一个病人的相似性评估框架的基础上,纵向病人EHR的时间匹配。提出了两种有效的方法,无监督和监督,这两种方法都保持了EHR的时间属性。监督方案采用卷积神经网络架构,并学习具有医学概念嵌入的患者临床记录的最佳表示。对真实世界临床数据的实证结果表明,与基线相比有了实质性改善。我们提供我们的代码和样本数据以供进一步研究。
2019-02-09 cs.AI cs.LG stat.ML
Deep Learning Framework for Measuring the Digital Strategy of Companies from Earnings Calls
University of Cambridge(剑桥大学);DeepOpinion;MIT(麻省理工学院)
如今的公司正在竞相利用最新的数字技术,如人工智能、区块链和云计算。然而,许多公司报告说,他们的战略并没有达到预期的业务成果。这项研究首次将最先进的NLP模型应用于非结构化数据,以了解公司正在采用的不同数字战略模式集群。我们通过分析2015年至2019年《财富》全球500强公司的财报电话会议来实现这一目标。我们使用基于Transformer的架构进行文本分类,从而更好地理解会话上下文。然后,我们通过应用聚类分析研究数字化战略模式。我们的研究结果表明,财富500强公司使用四种不同的战略,即产品导向,客户体验导向,服务导向和效率导向。这项工作为公司和研究人员提供了一个经验基线,以提高我们对该领域的理解。
2020-12-03 cs.CL cs.CY cs.LG
Measuring Annotation Efficiency for Handwritten Devanagari Recognition: Sample-Complexity Curves for Four Pretraining Regimes
Alliance School of Liberal Arts and Sciences(联盟文理学院);Alliance University(联盟大学);Department of Computer Science and Engineering(计算机科学与工程系)
本研究通过样本复杂度曲线直接测量手写天城文识别中预训练对标注成本的影响,发现监督式合成预训练可大幅减少所需真实转录单词数,但优势随目标精度提高而减弱。
2026-09-16 cs.CV cs.LG
Measuring disentangled generative spatio-temporal representation
RMIT University(皇家墨尔本理工大学)
解纠缠表示学习提供了有用的属性,如降维和可解释性,这对现代深度学习方法至关重要。虽然深度学习技术已被广泛应用于时空数据采掘,但很少有人关注进一步解开潜在特征并了解它们对模型性能的贡献,特别是它们的互信息和特征之间的相关性。在这项研究中,我们采用了两个国家的最先进的解开表示学习方法,并将其应用到三个大规模的公共时空数据集。为了评估它们的性能,我们提出了一个内部评估指标,专注于学习表示的潜在变量之间的相关程度和下游任务的预测性能。实证结果表明,我们的修改后的方法可以学习解纠缠表示,达到相同的性能水平,现有的国家的最先进的ST深度学习方法在时空序列预测问题。此外,我们发现,我们的方法可以用来发现真实世界的时空语义来描述学习表示中的变量。
2022-04-08 cs.LG
Measuring the Energy Consumption and Efficiency of Deep Neural Networks: An Empirical Analysis and Design Recommendations
National Renewable Energy Laboratory(国家可再生能源实验室);Carnegie Mellon University(卡内基梅隆大学)
本研究通过BUTTER-E数据集实证分析全连接神经网络的能耗,提出考虑缓存效应的能量模型,并揭示能效与网络设计的非线性关系,倡导综合设计以实现绿色AI。
2024-03-13 cs.AI cs.LG cs.NE
Measuring and Mitigating Local Instability in Deep Neural Networks
Amazon Alexa(亚马逊Alexa)
本文研究深度神经网络因训练随机性导致的预测不稳定性问题,提出基于标签熵的量化指标,并设计数据特定的局部缓解策略,显著优于数据无关方法且接近集成方法的性能。
2023-05-19 cs.LG
CEGI: Measuring the trade-off between efficiency and carbon emissions for SLMs and VLMs
Synechron(赛克龙公司)
提出 CEGI 指标,在4项任务上量化 Qwen 与 LLaMA 系列 SLM/VLM 的性能增益、参数量与碳排放权衡,表明微调和低比特量化可兼顾性能与环保。
2024-12-03 cs.AI cs.CL cs.CY
Measuring Discrimination to Boost Comparative Testing for Multiple Deep Learning Models
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);Department of Computer Science and Technology, Nanjing University(南京大学计算机科学与技术系);Momenta(Momenta(自动驾驶公司))
DL技术的兴起导致了大量DL模型的建立和共享,这为DL模型的获取和重用提供了便利。对于一个给定的任务,我们会遇到具有相同功能的多个DL模型,这些模型被认为是实现该任务的候选模型。预计测试人员将比较多个DL模型,并选择更合适的w.r.t.整个测试环境。由于标签工作的限制,测试人员的目标是选择一个有效的样本子集,以尽可能精确地估计这些模型的秩。为了解决这个问题,我们提出了基于样本区分的选择(SDS)来选择可以区分多个模型的有效样本,即,这些样本的预测行为(正确/错误)将有助于指示模型性能的趋势。为了评估SDS,我们使用三个广泛使用的图像数据集和80个真实世界的DL模型进行了广泛的实证研究。实验结果表明,与现有的基线方法相比,SDS是一种有效和高效的样本选择方法来排序多个DL模型。
2021-03-09 cs.LG cs.SE
Measuring and Sampling: A Metric-guided Subgraph Learning Framework for Graph Neural Network
University of California, Davis(加州大学戴维斯分校);Florida State University(佛罗里达州立大学)
图神经网络(GNN)在学习既保留节点属性又保留图结构信息的强大节点表示方面表现出令人信服的性能。然而,许多GNN在设计有更深的网络结构或处理大型图时会遇到有效性和效率方面的问题。已经提出了几种采样算法来改进和加速GNN的训练,但它们忽略了理解GNN性能增益的来源。对图数据内部信息的度量可以帮助采样算法在去除冗余信息甚至噪声的同时保留高价值信息。在本文中,我们提出了一个度量引导(MeGuide)子图学习框架的GNN。MeGuide采用两个新的指标:特征平滑度和连接失败距离来指导子图采样和基于小批量的训练。特征平滑度用于分析节点的特征以保留最有价值的信息,而连接失效距离用于度量结构信息以控制子图的大小。我们证明了MeGuide在多个数据集上训练各种GNN的有效性和效率。
2021-12-30 cs.AI cs.LG
TracInAD: Measuring Influence for Anomaly Detection
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);CentraleSupélec(中央理工-高等电力学院);Lusis(Lusis公司)
针对表格数据集深度异常检测模型匮乏的问题,本文提出基于TracIn影响力度量的TracInAD方法,可增强任意无监督深度异常检测模型,在医疗、网络安全表格基准上检测精度达到或优于现有最优水平。
2024-01-30 cs.LG
Detecting and measuring respiratory events in horses during exercise with a microphone: deep learning vs. standard signal processing
Utrecht University(乌得勒支大学);University of Twente(特文特大学);Inertia Technology B.V.(英纳迪亚科技有限公司);Swedish University of Agricultural Sciences(瑞典农业科学大学)
研究比较深度学习与标准信号处理方法,用于检测运动中马匹呼吸事件及提取呼吸频率,时间卷积网络效果最佳,首次实现自动检测与计算,未来还将在低强度声音及不同麦克风放置上进一步验证评估。
2026-07-14 cs.LG eess.SP
Intelligence per Watt: Measuring Intelligence Efficiency of Local AI
Stanford University(斯坦福大学);Together AI
本文研究了本地AI在能源效率和性能上的表现,提出了一种统一的衡量指标IPW,展示了本地推理在重新分配需求方面的能力,并揭示了本地加速器的优化潜力。
2026-08-10 cs.AI cs.CL cs.DC
gRoMA: a Tool for Measuring the Global Robustness of Deep Neural Networks
The Hebrew University of Jerusalem(耶路撒冷希伯来大学);The Weizmann Institute of Science(魏茨曼科学研究所)
gRoMA是一种概率工具,通过测量特定输出类别的对抗性输入概率,评估预训练黑盒DNN的全局类别鲁棒性,并在CIFAR10上验证了其有效性和可扩展性。
2023-12-28 cs.AI cs.LG
Measuring Statistical Dependencies via Maximum Norm and Characteristic Functions
Neurotechnology(神经技术公司);Institute of Data Science and Digital Technologies(数据科学与数字技术研究所);Vilnius University(维尔纽斯大学)
本文主要研究利用特征函数进行统计相关估计的问题。我们提出了一个统计依赖性的措施,联合和产品边际特征函数之间的差异的最大范数的基础上。所提出的度量可以检测可能不同维度的两个随机向量之间的任意统计依赖性,是可微的,并且容易集成到现代机器学习和深度学习管道中。我们还进行了模拟和真实数据的实验。我们的模拟表明,该方法可以测量高维非线性数据中的统计依赖性,并且与这一研究领域以前的工作相比,受维数灾难的影响较小。真实数据的实验证明了我们的统计测量对两种不同经验推理场景的潜在适用性,当应用于监督特征提取和深度神经网络正则化时,表现出统计上显著的性能改善。此外,我们还提供了一个链接,指向随附的开源存储库https://bit.ly/3d4ch5I。
2022-08-16 cs.AI cs.LG
Graphical vs. Deep Generative Models: Measuring the Impact of Differentially Private Mechanisms and Budgets on Utility
University College London(伦敦大学学院);Hazy;MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);University of California, Riverside(加州大学河滨分校)
本文对比了图模型与深度生成模型在差分隐私下的隐私预算分配方式,揭示了数据维度、DP机制对效用的影响,发现低隐私级别有时能提升泛化,为不同场景选择最佳DP合成数据模型提供了指导。
2024-08-28 cs.CR cs.LG