Model-Centric and Data-Centric Aspects of Active Learning for Deep Neural Networks
Chalmers University of Technology(查尔姆斯理工大学);Linköping University(林雪平大学)
我们以一致和统一的方式研究深度神经网络的主动学习的不同方面。i)我们研究了增量和累积训练模式,这些模式指定了如何使用新标记的数据进行训练。ii)我们研究了主动学习。模型配置,如epoch和神经元的数量以及批量大小的选择。iii)我们详细考虑了查询策略的行为及其相应的信息量度量,并相应地提出了更有效的查询过程。iv)我们进行统计分析,例如,关于主动学习类和测试误差估计,揭示了关于主动学习的一些见解。v)我们研究了使用神经网络的主动学习如何受益于伪标签作为实际标签的代理。
2022-12-29 cs.AI cs.LG stat.ML
Better, Not Just More: Data-Centric Machine Learning for Earth Observation
该研究针对地理空间模型脱离现实且基准性能饱和的问题,系统定义、分类并综述自动化以数据为中心的学习方法,结合代表性实验说明其在完整机器学习部署周期中的实践路径。
2025-03-13 cs.CV cs.LG
A Data-Centric Behavioral Machine Learning Platform to Reduce Health Inequalities
为低收入和中等收入国家的一线卫生工作者提供改善健康结果的建议和预测,可以对减少医疗保健不平等产生巨大影响,例如帮助防止每天发生的数千例孕产妇和新生儿死亡。为此,我们正在开发一个以数据为中心的机器学习平台,利用这些国家运行的各种移动健康应用程序的行为日志。在这里,我们描述了平台架构,重点是帮助我们在整个过程中最大限度地提高数据质量和组织的细节,从数据科学软件开发工具包的数据摄取到数据管道,功能工程和模型管理。
2021-11-17 cs.LG
A data-centric approach for assessing progress of Graph Neural Networks
Delft University of Technology(代尔夫特理工大学);L3S Research Center(L3S研究中心)
针对多标签节点分类研究数据集稀缺、传统同异质性概念不适用的问题,该研究发布3个真实生物数据集与可调多标签图生成器,定义适配的同质性与跨类邻域相似度,并通过8种方法在9个数据集上的大规模对比评估GNN在该任务的进展。
2024-06-18 cs.LG
Towards Data-centric Graph Machine Learning: Review and Outlook
Monash University(莫纳什大学);RMIT University(皇家墨尔本理工大学);University of Liverpool(利物浦大学);Rice University(莱斯大学);Griffith University(格里菲斯大学)
本文系统回顾以数据为中心的图机器学习,提出覆盖图数据全生命周期的DC-GML框架,并围绕数据质量、低质数据学习和图MLOps三个核心问题展望未来方向。
2023-09-20 cs.LG
Towards Efficient Data-Centric Robust Machine Learning with Noise-based Augmentation
Huazhong University of Science and Technology(华中科技大学)
以数据为中心的机器学习旨在寻找有效的方法来构建合适的数据集,从而提高AI模型的性能。在本文中,我们主要集中在设计一个有效的数据为中心的计划,以提高鲁棒性的模型对不可预见的恶意输入的黑盒测试设置。具体来说,我们介绍了一种基于噪声的数据增强方法,该方法由高斯噪声、椒盐噪声和PGD对抗性扰动组成。该方法是建立在轻量级算法的基础上,并证明了高效的综合评价的基础上,表现出良好的计算效率和鲁棒性增强。此外,我们还分享了我们从实验中获得的关于以数据为中心的鲁棒机器学习的见解。
2022-03-08 cs.AI cs.CR cs.LG
The Mass Agreement Score: A Point-centric Measure of Cluster Size Consistency
本文提出基于点的聚类规模一致性度量MAS,用于评估聚类大小一致性,具有鲁棒性和对真实质量重分布的敏感性。
2026-03-24 cs.LG stat.ML
Data-Centric Learning from Unlabeled Graphs with Diffusion Model
University of Notre Dame(圣母大学);Snap Inc.(Snap公司)
本文提出用扩散模型从大规模未标注图中生成任务特定标注样本,以数据为中心增强图属性预测,在十五个任务上优于十五种现有方法。
2023-10-12 cs.LG
BhashaSetu: A Data-Centric Approach to Low-Resource Machine Translation
Department of Computer Engineering and Information Technology, Veermata Jijabai Technological Institute, Mumbai(孟买韦尔马塔·吉贾拜技术学院计算机工程与信息技术系);Tübingen AI Center, University of Tübingen, Germany(图宾根大学图宾根人工智能中心,德国)
提出BhashaSetu数据集,通过大规模、多领域、形态感知的英-马拉地语平行语料库,并验证语料库级去重对低资源神经机器翻译质量的关键影响。
2026-05-26 cs.CL cs.LG
DataCLUE: A Benchmark Suite for Data-centric NLP
以数据为中心的人工智能最近被证明更有效和高性能,而传统的以模型为中心的人工智能提供的好处越来越少。它强调提高数据集的质量,以实现更好的模型性能。该领域因其巨大的实用性而具有巨大的发展潜力,并受到越来越多的关注.然而,我们还没有看到这一领域的重大研究进展,特别是在NLP方面。我们提出了DataCLUE,这是第一个应用于NLP领域的以数据为中心的基准。我们还提供了三个简单但有效的基线来促进该领域的研究(将宏观F1提高到5.7%)。此外,我们进行了全面的实验与人类注释,并显示DataCLUE的硬度。我们还尝试了一种先进的方法:遗忘通知自举标签校正方法。与DataCLUE相关的所有资源,包括数据集、工具包、排行榜和基线,都可以在https://github.com/CLUEbenchmark/DataCLUE上获得
2021-11-17 cs.CL cs.LG
A data-centric weak supervised learning for highway traffic incident detection
Purdue University(普渡大学);Argonne National Laboratory(阿贡国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
使用来自环路检测器传感器的数据对高速公路中的交通事件进行近实时检测对于避免重大交通拥堵至关重要。虽然最近的监督机器学习方法通过利用人类标记的事件数据来提供事件检测的解决方案,但误报率通常太高而无法在实践中使用。具体而言,事件的人类标记的不一致性显著影响监督学习模型的性能。为此,我们专注于一个以数据为中心的方法,以提高准确性和降低误报率的高速公路上的交通事件检测。我们开发了一个弱监督学习工作流程,为没有地面真实标签的事件数据生成高质量的训练标签,并在监督学习设置中使用这些生成的标签进行最终检测。这一办法包括三个阶段。首先,我们介绍了一个数据预处理和策展管道,处理交通传感器数据,以生成高质量的训练数据,通过利用标签功能,这可以是领域知识相关的或简单的启发式规则。其次,我们使用三种监督学习模型-随机森林,k-最近邻和支持向量机集成-和长短期记忆分类器来评估弱监督产生的训练数据。结果表明,使用弱监督生成的训练数据后,所有模型的精度都有显著提高。第三,我们开发了一种在线实时事件检测方法,利用模型集成和不确定性量化,同时检测事件。总体而言,我们表明,我们提出的弱监督学习工作流程实现了高事件检测率(0.90)和低误报率(0.08)。
2022-08-02 cs.LG
Data-Centric Label Smoothing for Explainable Glaucoma Screening from Eye Fundus Images
Computer Vision Center(计算机视觉中心);Universitat Autònoma de Barcelona(巴塞罗那自治大学);BCN Medtech(BCN医疗技术中心);Universitat Pompeu Fabra(庞培法布拉大学);ICREA(加泰罗尼亚研究与高级研究所)
本文提出一种数据中心化的定制标签平滑方法,融合多位不同水平标注者的信息以充分利用眼底图像数据,在高度不平衡的青光眼筛查多标签场景中超越标准 resnet50 和传统标签平滑模型。
2024-06-06 cs.CV cs.LG eess.IV
HAA500: Human-Centric Atomic Action Dataset with Curated Videos
HKUST(香港科技大学);Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学);Kuaishou Technology(快手科技)
我们贡献了HAA 500,一个手动注释的以人为中心的原子动作数据集,用于500个类的动作识别,超过591 K个标记帧。为了最大限度地减少动作分类中的模糊性,HAA 500由高度多样化的细粒度原子动作类别组成,其中只有一致的动作属于同一标签,例如,“棒球投球”vs“篮球罚球”。因此,HAA 500与现有的原子动作数据集不同,在现有的原子动作数据集中,粗粒度的原子动作被标记为粗糙的动作动词,例如“Throw”。HAA 500经过精心策划,可以捕捉人物的精确运动,几乎没有类无关的运动或时空标签噪声。HAA 500的优势有四个方面:1)以人为中心的动作,相关人体姿势的可检测关节平均高达69.7%; 2)可扩展性高,因为添加新类可以在20-60分钟内完成; 3)精心策划的视频捕捉原子动作的基本元素,而没有不相关的帧; 4)细粒度的原子动作类。我们的广泛实验,包括使用野外收集的数据集进行交叉数据验证,证明了HAA 500以人为中心和原子特征的明显优势,这使得即使是基线深度学习模型也能够通过关注原子人类姿势来提高预测。我们详细介绍了HAA 500数据集的统计数据和收集方法,并与现有的动作识别数据集进行了定量比较。
2021-08-16 cs.CV cs.LG eess.IV
Data-Centric Engineering: integrating simulation, machine learning and statistics. Challenges and Opportunities
Imperial College London(帝国理工学院);The Alan Turing Institute(阿兰·图灵研究所)
机器学习的最新进展,加上低成本计算,廉价流传感器的可用性,数据存储和云技术,导致了广泛的多学科研究活动,商业利益相关者的极大兴趣和投资。基于物理方程的机械模型和纯数据驱动的统计方法代表了建模范围的两端。新的混合、以数据为中心的工程方法,利用了两个世界的最好的东西,集成了模拟和数据,正在成为一个强大的工具,对物理学科产生变革性的影响。我们回顾了集成模拟、机器学习和统计的新兴领域的主要研究趋势和应用场景。我们强调了这样一个综合愿景可以释放的机遇,并概述了阻碍其实现的关键挑战。我们还讨论了该领域的翻译方面的瓶颈,以及现有劳动力和未来大学毕业生的长期技能提升要求。
2021-11-22 cs.CE cs.LG
Ordinal Adaptive Correction: A Data-Centric Approach to Ordinal Image Classification with Noisy Labels
School of Computer Engineering, Iran University of Science and Technology(伊朗科学技术大学计算机工程学院)
本文提出了一种数据导向的序数图像分类方法ORDAC,通过利用标签分布学习来建模序数标签的内在模糊性和不确定性,动态调整每个样本的标签分布均值和标准差,从而有效校正噪声标签并提高模型性能。
2026-05-17 cs.AI cs.CV cs.LG
An Axiomatic Theory of Provably-Fair Welfare-Centric Machine Learning
我们解决了福利理论公平机器学习的固有困难,提出了一个等价的公理合理的替代方案,并研究由此产生的计算和统计学习问题。福利指标量化了一个或多个群体的总体福祉,最近提出了基于福利的目标和约束,以激励公平的机器学习方法,以产生考虑多个群体的不同需求的满意解决方案。不幸的是,许多机器学习问题更自然地被视为损失最小化任务,而不是效用最大化,这使得以福利为中心的方法直接应用于公平的机器学习变得复杂。在这项工作中,我们定义了一个补充措施,称为malfare,衡量整体社会危害(而不是福祉),通过基数福利的标准公理化的理由。然后,我们将公平的机器学习视为每组风险值(预期损失)的最小化。令人惊讶的是,基数福利(malfare)公理规定,这并不等同于简单地将效用定义为负损失。在这些概念的基础上,我们定义了公平PAC(FPAC)学习,其中FPAC学习器是一种算法,学习$\varepsilon$ - $δ$ malfare最优模型,具有有限的样本复杂度,任何数据分布,并为任何(公理合理)malfare概念。最后,我们展示了广泛的条件,在此条件下,经过适当的修改,标准PAC学习者可以转换为FPAC学习者。这将FPAC学习置于坚实的理论基础之上,因为它为许多经过充分研究的机器学习模型提供了统计和计算效率保证,并且也具有实际意义,因为它通过为这些模型提供具体的训练算法和严格的泛化保证,使公平ML民主化
2021-07-26 cs.LG
Data-Centric Approach to Constrained Machine Learning: A Case Study on Conway's Game of Life
Skoltech(斯科尔科沃科技学院);Skoltech Agro(斯科尔科沃科技学院农业分支);Lirio LLC(Lirio有限责任公司)
本文以Conway生命游戏为例,研究在可训练参数受限条件下,通过策略性设计训练数据集来训练最小架构网络学习转换规则,证明了数据集设计的优势不依赖于网络权重或优化算法,并强调了领域专家知识在受限机器学习应用中的关键作用。
2024-08-23 cs.AI cs.CV cs.IR
A Review of Speech-centric Trustworthy Machine Learning: Privacy, Safety, and Fairness
本文首次全面综述以语音为中心的机器学习在隐私、安全与公平性方面的可靠性挑战与应对,并指出未来研究方向。
2023-04-16 cs.LG cs.SD eess.AS
A Data-Centric Framework for Machine Listening Projects: Addressing Large-Scale Data Acquisition and Labeling through Active Learning
ITI(ITI(信息技术研究所))
本文提出一套以数据为中心的机器听觉项目框架,采用专业标注的主动学习优化标注预算,解决大规模数据标注难题,经港口场景验证可高效适配资源受限的标注任务。
2024-10-08 cs.LG cs.SD eess.AS
Who Leads? Comparing Human-Centric and Model-Centric Strategies for Defining ML Target Variables
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文探讨了人类-机器协作在定义机器学习目标变量中的影响,发现以性能优先的策略能加快迭代速度,但可能导致与应用目标不一致的偏差。
2026-03-29 cs.HC cs.LG
Data-Centric Financial Large Language Models
Ant Group(蚂蚁集团);University of Virginia(弗吉尼亚大学)
提出数据中心金融大语言模型,通过多任务提示微调和溯因增强推理自动生成训练数据,在金融分析任务上达到最先进性能并开源新基准。
2023-11-14 cs.AI cs.CL cs.LG
Equipment-centric workpiece localization in near real-time using deep learning-based vision and event-driven finite state machines
本研究针对热锻造中工件直接跟踪不可靠的问题,提出结合深度学习视觉与事件驱动有限状态机的设备中心式工件定位框架,在实际工厂实现高事件检测准确率与可靠定位,支持可视化与定量分析。
2026-08-07 cs.LG
Redactor: A Data-centric and Individualized Defense Against Inference Attacks
KAIST(韩国科学技术院)
随着各种信息被错误地公开,信息泄漏正在成为一个关键问题,机器学习模型在这些数据上进行训练以提供服务。因此,一个人的私人信息很容易被这种训练过的模型记住。不幸的是,删除信息是不可能的,因为数据已经暴露在Web或第三方平台上。此外,我们也无法控制其他方的标签过程和模型训练。在这种情况下,我们研究了有针对性的虚假信息生成问题,其目标是稀释数据,从而使模型更安全,更鲁棒地抵御对特定目标的推断攻击(例如,一个人的简档)。我们的方法在输入空间中找到与目标最近的点,这些点将被标记为不同的类。由于我们不能控制的标签过程中,我们反而保守估计标签的概率结合决策边界的多个分类器使用数据编程技术。我们的实验表明,概率决策边界可以是一个很好的代理标记,我们的方法是有效的,在抵御推理攻击,并可以扩展到大数据。
2022-12-01 cs.AI cs.CR cs.LG
Augment & Valuate : A Data Enhancement Pipeline for Data-Centric AI
KAIST(韩国科学技术院);Samsung Research(三星研究院)
数据稀缺和噪声是机器学习工业应用中的重要问题。然而,它往往是具有挑战性的设计一个可扩展的和通用的方法来解决数据集的基本分布和语义属性与黑盒模型。因此,以数据为中心的方法对于机器学习操作流水线的自动化至关重要。为了作为这种自动化的基础,我们提出了一个领域不可知的管道,用于改进图像分类问题中的数据质量。这个管道包含数据估值、清洗和扩充。通过这些方法的适当组合,我们可以在仅使用所提供的数据集的以数据为中心的AI竞赛中实现84.711%的测试准确率(排名第6,最具创新性的荣誉奖)。
2021-12-07 cs.LG
Action-slot: Visual Action-centric Representations for Multi-label Atomic Activity Recognition in Traffic Scenes
National Yang Ming Chiao Tung University(国立阳明交通大学);Google(谷歌)
本文提出Action-slot,一种基于槽注意力的方法,通过设计动作槽和背景槽学习以动作为中心的视觉表示,同时捕获运动与上下文信息,并构建了更大且类别平衡的合成数据集TACO,显著提升了多标签原子活动识别的性能。
2024-04-20 cs.CV cs.LG
Data-Centric Machine Learning for Earth Observation: Necessary and Sufficient Features
University of Kaiserslautern-Landau (RPTU)(凯泽斯劳滕-兰道大学(RPTU));German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
针对地球观测机器学习模型架构设计趋于饱和的问题,提出利用模型解释方法识别最优性能的必要及最小充分特征集,在三个多模态地理空间数据集上验证了仅用极少时间实例或单一波段即可达到最优准确率。
2024-08-21 cs.AI cs.LG
PirouNet: Creating Dance through Artist-Centric Deep Learning
University of California Santa Barbara(加州大学圣巴巴拉分校);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室)
使用人工智能(AI)创建有意图的舞蹈编排仍处于早期阶段。有条件地生成舞蹈序列的方法在遵循编舞者特定的创作方向的能力方面仍然有限,通常依赖于外部提示或监督学习。同样,完全注释的舞蹈数据集是罕见的和劳动密集型的。为了填补这一空白,并帮助利用深度学习作为一个有意义的工具,编舞,我们提出了“PirouNet”,一个半监督的条件递归变分自编码器连同舞蹈标签的Web应用程序。PirouNet允许舞蹈专业人士用他们自己的主观创意标签来注释数据,然后根据他们的审美标准生成新的编舞。由于提出了半监督方法,PirouNet只需要标记数据集的一小部分,通常大约为1%。我们展示了PirouNet的能力,因为它产生了原始的编舞的基础上“拉班时间的努力”,一个既定的舞蹈概念,描述意图的运动的时间动态。我们通过一系列定性和定量指标对PirouNet的舞蹈创作进行了广泛的评估,验证了其作为编舞者工具的适用性。
2022-10-14 cs.LG
Semi-Supervised Graph Representation Learning with Human-centric Explanation for Predicting Fatty Liver Disease
Ajou University(亚洲大学);Seoul National University Hospital Healthcare System Gangnam Center(首尔大学医院保健体系江南中心)
针对脂肪肝预测中临床标记数据不足的问题,提出基于图神经网络的半监督图表示学习方法,构建受试者相似图挖掘风险模式,结合可解释GNN提供以人为中心的个性化解释,提升临床可用性。
2024-03-05 cs.AI cs.LG
DC-Check: A Data-Centric AI checklist to guide the development of reliable machine learning systems
University of Cambridge(剑桥大学);UCLA(加利福尼亚大学洛杉矶分校);Alan Turing Institute(阿兰·图灵研究所)
本文提出 DC-Check 检查清单框架,覆盖数据、训练、测试和部署阶段,帮助从业者与研究者系统考量以数据为中心的 AI 问题,并提供可持续更新的配套资源。
2022-11-09 cs.AI cs.CY cs.LG
Inconsistency-Based Data-Centric Active Open-Set Annotation
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对未标记数据含未知类别的主动开放集标注问题,提出以数据为中心的高效主动学习方法 NEAT,利用标签可聚类性与一致性准则选择信息性样本,性能显著优于现有方法。
2024-01-10 cs.CV cs.LG
A Data-Centric Perspective on Evaluating Machine Learning Models for Tabular Data
University of Mannheim(曼海姆大学);University of Rostock(罗斯托克大学)
针对表格数据模型评估中过度标准化预处理的偏差问题,提出数据中心评估框架,发现针对特定数据集的特征工程会显著改变模型排名并降低模型选择重要性,强调表格数据需要特征工程并具有时间特征。
2024-12-18 cs.AI cs.LG
Data Collection and Quality Challenges in Deep Learning: A Data-Centric AI Perspective
KAIST(韩国科学技术院);Naver AI Lab(Naver人工智能实验室)
以数据为中心的人工智能是软件工程根本性转变的核心,在这种转变中,机器学习成为由大数据和计算基础设施驱动的新软件。在这里,软件工程需要重新思考,数据成为与代码同等重要的一等公民。一个引人注目的观察结果是,机器学习过程的很大一部分都花在了数据准备上。没有好的数据,即使是最好的机器学习算法也无法很好地执行。因此,以数据为中心的人工智能实践现在正成为主流。不幸的是,现实世界中的许多数据集都很小,肮脏,有偏见,甚至有毒。在本调查中,我们研究了数据汇集和数据质量的研究前景,主要用于深度学习应用。数据汇集很重要,因为最近的深度学习方法对特征工程的需求较少,而是更多地需要大量数据。对于数据质量,我们研究数据验证,清洗和集成技术。即使数据不能被完全清理,我们仍然可以在模型训练期间使用鲁棒的模型训练技术来处理不完美的数据。此外,虽然偏见和公平性在传统的数据管理研究中研究得较少,但这些问题在现代机器学习应用中成为必不可少的主题。因此,我们研究公平性措施和不公平缓解技术,可以在模型训练之前,期间或之后应用。我们相信,数据管理社区已经做好了解决这些问题的准备。
2022-12-26 cs.LG
Data-Centric Machine Learning in the Legal Domain
Université de Montréal(蒙特利尔大学);Carnegie Mellon University(卡内基梅隆大学);Hofstra University(霍夫斯特拉大学);University of Pittsburgh(匹兹堡大学)
机器学习研究通常从过程早期创建的固定数据集开始。实验的重点是找到一个模型和训练过程,导致在一些选定的评估指标方面的最佳性能。本文探讨了数据集的变化如何影响模型的测量性能。我们使用三个来自法律领域的公开数据集,研究它们的大小、训练/测试分割以及人类标记准确性的变化如何影响经过训练的深度学习分类器的性能。我们评估整体表现(加权平均)以及每个类的表现。观察到的效果是令人惊讶的明显,特别是当考虑每类性能。我们研究如何“语义同质性”的一个类,即,句子在语义嵌入空间中的接近程度影响其分类的难度。所呈现的结果对人工智能和法律领域的数据汇集和管理工作具有深远的影响。结果还表明,可以考虑对数据集进行增强,以及ML模型的改进,作为提高AI & Law中各种任务分类性能的额外途径。最后,我们讨论了需要一个既定的方法来评估数据集属性的潜在影响。
2022-01-17 cs.AI cs.CL cs.LG
Self-Interested Agents in Collaborative Machine Learning: An Incentivized Adaptive Data-Centric Framework
National University of Singapore(新加坡国立大学)
本文提出一个由仲裁者协调的自利智能体在线协作学习框架,通过策略梯度优化数据共享策略,并利用双层优化和零均值噪声生成个性化模型,在非渐近收敛保证下激励有价值的数据贡献。
2025-02-06 cs.LG
Machine Learning (ML)-Centric Resource Management in Cloud Computing: A Review and Future Directions
University of Electronic Science and Technology of China(电子科技大学);University of Melbourne(墨尔本大学)
云计算已经迅速成为用于提供基于互联网的效用计算服务的模型。在云计算中,基础设施即服务(IaaS)是最重要和发展最快的领域之一。云提供商在此服务模型中提供用户/机器资源,例如虚拟机、原始(块)存储、防火墙、负载均衡器和网络设备。IaaS的云计算最重要的方面之一是资源管理。可扩展性、服务质量、最佳效用、降低开销、增加吞吐量、减少延迟、专业化环境、成本效益和简化界面是云计算中IaaS资源管理的一些优势。传统上,资源管理是通过静态策略来完成的,这在各种动态场景中施加了一定的限制,促使云服务提供商采用数据驱动的、基于机器学习的方法。机器学习正被用于处理各种资源管理任务,包括工作负载估计、任务调度、VM整合、资源优化和能量优化等。本文详细介绍了基于ML的资源管理在当前研究中面临的挑战,以及当前解决这些挑战的方法,以及它们的优点和局限性。最后,我们提出了潜在的未来研究方向的基础上确定的挑战和局限性,在目前的研究。
2021-05-09 cs.DC cs.LG
Do Explanations Reflect Decisions? A Machine-centric Strategy to Quantify the Performance of Explainability Algorithms
University of Waterloo(滑铁卢大学);Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所);DarwinAI Corp.(达尔文人工智能公司)
最近,人们对可解释人工智能(XAI)的概念产生了极大的兴趣,其目标是为机器学习算法做出的决策提供解释。特别令人感兴趣的是如何深入神经网络作出决定的解释,鉴于这种网络的复杂性和“黑匣子”的性质。鉴于该领域的起步阶段,对可解释性方法的性能评估的探索非常有限,大多数评估都集中在对所产生的解释的主观视觉解释上。在这项研究中,我们探索了一种更加以机器为中心的策略,通过决策影响分析的概念来量化深度神经网络上可解释性方法的性能。我们引入了两个定量性能指标:i)影响分数,评估具有强烈信心降低影响或决策改变影响的关键因素的百分比,以及ii)影响覆盖率,评估输入中不利影响因素的覆盖率。使用这种方法对ResNet-50深度卷积神经网络上的几种最先进的可解释性方法(LIME,SHAP,Expected Quantients,GS Inquire)进行了全面分析,使用ImageNet的子集进行图像分类任务。实验结果表明,在测试图像中由LIME识别的关键区域对网络决策过程的影响最小(约38%),对SHAP(约44%),Expectedconstraints(约51%)和GSInquire(约76%)的决策影响逐渐增加。虽然绝不是完美的,但希望提出的以机器为中心的策略有助于推动对话朝着更好的指标发展,以评估可解释性方法,并提高对深度神经网络的信任。
2019-10-29 cs.LG cs.NE
Data-centric Operational Design Domain Characterization for Machine Learning-based Aeronautical Products
Thales(泰雷兹集团);Rockdale Systems LLC(罗克代尔系统有限责任公司);KBR(凯洛格·布朗·路特公司);NASA Ames Research Center(美国国家航空航天局艾姆斯研究中心);Airbus Operations (SAS)(空客运营(简易股份公司))
本文提出以数据为中心的航空 ML 产品 ODD 表征框架,通过参数维度与运行数据分类支撑模型需求、影响分析、学习保证和架构设计。
2023-07-15 cs.LG cs.SE
Detecting Manufacturing Defects in PCBs via Data-Centric Machine Learning on Solder Paste Inspection Features
Global Technology Connection, Inc(全球科技连接公司)
本研究利用SPI提取的600万引脚特征,采用以数据为中心的XGBoost方法,在引脚、元件和PCB三个层级训练模型并融合结果,以检测PCB制造缺陷。
2023-09-06 cs.AI cs.CV cs.LG
Data-Centric AI Requires Rethinking Data Notion
IBM Research(IBM研究院)
向以数据为中心的AI过渡需要从数学和实现的角度重新审视数据概念,以获得统一的以数据为中心的机器学习包。为此,这项工作提出了由数据的分类和上链概念提供的统一原则,并讨论了这些原则在以数据为中心的AI过渡中的重要性。在范畴概念中,数据被视为一种数学结构,我们通过态射来保持这种结构。至于上链概念,数据可以被视为在感兴趣的离散域中定义的函数,并通过运算符进行操作。虽然这些概念几乎是正交的,但它们提供了一个统一的定义来查看数据,最终影响了从业者开发、实现和使用机器学习包的方式。
2021-12-02 cs.LG cs.NE math.CT
Data-Centric Machine Learning in Quantum Information Science
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Oak Ridge National Laboratory(橡树岭国家实验室);Tulane University(杜兰大学);DEVCOM US Army Research Laboratory(DEVCOM美国陆军研究实验室)
我们提出了一系列以数据为中心的算法,用于提高机器学习系统在应用于量子信息科学问题时的性能。特别是,我们考虑如何训练集的系统工程可以显着提高用于量子态重建的预训练神经网络的准确性,而不改变底层架构。我们发现,将训练集设计为与目标场景的预期分布完全匹配并不总是最佳的,相反,可以通过将训练集偏置为比目标稍微更混合来进一步提高性能。这是由于描述不同纯度的状态所需的自由变量数量的异质性,因此,当固定大小的训练集集中于具有最少约束的自由变量的状态时,网络的整体准确性提高。为了进一步清楚,我们还包括一个“玩具模型”演示虚假相关如何无意中进入用于训练的合成数据集,使用这些相关性训练的系统的性能如何显着降低,以及如何包含相对较少的反例可以有效地解决这些问题。
2022-01-22 cs.AI cs.LG quant-ph
AutoDC: Automated data-centric processing
Hypergiant Industries LLC(超巨人工业有限责任公司)
AutoML(自动化机器学习)在过去几年中已经被广泛开发用于以模型为中心的方法。至于以数据为中心的方法,改进数据集的过程,如修复不正确的标签,添加代表边缘情况的示例,以及应用数据增强,仍然非常手工和昂贵。在这里,我们开发了一个自动化的以数据为中心的工具(AutoDC),类似于AutoML的目的,旨在加快数据集的改进过程。在我们对3个开源图像分类数据集的初步测试中,AutoDC估计可以减少大约80%的数据改进任务的手动时间,同时,使用固定的ML代码将模型准确度提高10-15%。
2021-11-23 cs.HC cs.LG
Adaptive Ensemble Selection for Noisy Labels on Tabular Data
针对表格数据中的噪声标签问题,提出一种数据为中心的元模型自适应集成选择方法,通过预测检测器权重来诊断数据质量并选择清洗策略,在受控噪声基准上达到与Confident Learning相当的性能。
2026-09-29 cs.LG
Enhancing Machine Learning Performance through Intelligent Data Quality Assessment: An Unsupervised Data-centric Framework
Karlstad University(卡尔斯塔德大学);Czech Technical University(捷克技术大学)
针对数据质量低下限制机器学习性能的问题,提出一个结合质量度量整合与无监督学习的智能数据中心评估框架,在分析化学真实用例中验证,能识别高质量数据特征、指导实验并提升ML系统性能。
2025-02-18 cs.AI cs.LG stat.ML
Data-efficient learning of object-centric grasp preferences
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Beijing Institute of Technology(北京理工大学)
由于深度学习,抓取在过去几年中取得了令人印象深刻的进展。然而,有许多对象不可能仅通过查看RGB-D图像来选择抓取,可能是由于物理原因(例如,具有不均匀质量分布的锤子)或任务约束(例如,不应该被破坏的食物)。在这种情况下,需要考虑到专家的偏好。在本文中,我们引入了一个数据高效的抓取管道(潜在空间GP- LGPS),它可以学习抓取偏好,每个对象只有几个标签(通常为1到4个),并推广到这个对象的新视图。我们的流水线是基于利用任何最先进的抓取生成器(例如,Dex-Net)。这个潜在的空间,然后被用作高斯过程分类器的低维输入,该分类器在由生成器提出的那些抓取中选择优选的抓取。结果表明,我们的方法在Cornell数据集上的性能优于GR-ConvNet和GG-CNN(两种基于标记抓取的最先进方法),特别是当只使用少数标签时:只有80个标签足以正确选择80%的抓取(885个场景,244个对象)。在我们的数据集(91个场景,28个对象)上的结果相似。
2022-03-01 cs.LG cs.RO
McUDI: Model-Centric Unsupervised Degradation Indicator for Failure Prediction AIOps Solutions
TU Delft(代尔夫特理工大学);Leibniz University Hannover(莱布尼茨汉诺威大学)
本文提出无监督退化指示器 McUDI,用于准确识别故障预测 AIOps 模型因数据变化而需要重训练的时机,从而在保持性能的同时大幅减少标注样本。
2024-01-25 cs.LG cs.SE
A Data-Centric Approach to Generate Invariants for a Smart Grid Using Machine Learning
DHA Suffa University(DHA Suffa大学);Singapore Institute of Technology(新加坡理工大学)
本文提出数据驱动方法生成智能电网过程物理行为的不变量,用于检测网络中异常以防御网络攻击。
2022-02-14 cs.CR cs.LG
Person-Centric Annotations of LAION-400M: Auditing Bias and Its Transfer to Models
Technical University of Munich, Munich Center for Machine Learning (MCML), MDSI(慕尼黑工业大学,慕尼黑机器学习中心(MCML),MDSI);LTCI, Télécom Paris, Institut Polytechnique de Paris, France(法国巴黎理工学院,巴黎电信学院,LTCI);Helmholtz Munich(亥姆霍兹慕尼黑中心);University of California, Berkeley(加州大学伯克利分校)
本文通过创建LAION-400M的人为中心标注,揭示了训练数据中存在的人口统计学偏见,并展示了这些偏见如何转移到视觉-语言模型中。
2026-03-29 cs.CL cs.CV cs.CY
A Data-Centric Optimization Framework for Machine Learning
ETH Zurich(苏黎世联邦理工学院)
深度学习的快速发展导致了各种快速变化的模型,对计算的需求急剧增长。然而,由于框架专门针对流行网络中的模式进行性能优化,因此它们隐含地限制了推动研究进展的新颖且多样化的模型。我们通过定义一个灵活的、用户可自定义的管道来增强深度学习研究人员的能力,该管道基于数据移动最小化来优化任意深度神经网络的训练。该管道从PyTorch或ONNX中的标准网络开始,并通过逐步降低来转换计算。我们定义了四个级别的通用转换,从局部操作符内优化到全局数据移动减少。这些操作在以数据为中心的图形中间表示上进行,该中间表示在所有抽象级别上表达计算和数据移动,包括扩展基本运算符,例如将卷积扩展到其底层计算。设计的核心是管道的交互性和内省性。每个部分都可以通过Python API进行扩展,并且可以使用GUI进行交互式调优。我们在十个不同的网络上展示了具有竞争力的性能或加速,并通过交互式优化发现了EfficientNet中的新机会。
2022-08-29 cs.DC cs.LG cs.PF
Comparing Human-Centric and Robot-Centric Sampling for Robot Deep Learning from Demonstrations
University of California, Berkeley(加州大学伯克利分校)
受机器人控制深度学习最新进展的启发,本文考虑了两种学习算法如何获取演示。“以人为中心”(HC)采样是标准的监督学习算法,其中人类监督者通过远程操作机器人来提供由状态控制对组成的轨迹来演示任务。“以机器人为中心”(RC)采样是Dagger等算法中越来越流行的替代方案,其中人类主管观察机器人执行学习的策略,并为访问的每个状态提供纠正控制标签。RC采样对于人类监督员来说可能具有挑战性,并且容易出现错误标记。RC采样也可能导致策略性能的错误,因为它重复访问状态空间中难以学习的区域。虽然对于标准学习模型(例如线性SVM),使用RC采样学习的策略可能优于HC采样,但使用HC采样学习的策略可能与具有很小模型误差的高表达性学习模型(例如深度学习和超参数决策树)相当。我们比较HC和RC使用网格世界和物理机器人分离任务,其中在后者的输入是一个二进制图像的一组连接的对象在一个平面的工作表面和政策产生的运动的抓手,以分离一个对象从其余的。我们在模拟中观察到,对于线性SVM,使用RC学习的策略优于使用HC学习的策略,但对于深度模型,这种优势消失了。我们还发现,与RC,由人类提供的纠正控制标签可以是高度不一致的。我们证明了存在一类例子,在极限,HC是保证收敛到一个最优的政策,而RC可能无法收敛。
2017-03-29 cs.LG cs.RO
Bridging the gap to real-world for network intrusion detection systems with data-centric approach
Aeronautics Institute of Technology(航空技术学院);Federal University of Minas Gerais(米纳斯吉拉斯联邦大学)
大多数使用机器学习(ML)进行网络入侵检测系统(NIDS)的研究都使用了成熟的数据集,如KDD-CUP 99,NSL-KDD,UNSW-NB 15和CICIDS-2017。在这种情况下,探讨了机器学习技术的可能性,旨在与已发布的基线(以模型为中心的方法)相比,改进指标。然而,这些数据集存在一些局限性,如老化,使其不可行的基于ML的解决方案,以现实世界的应用程序。本文提出了一个系统的数据为中心的方法来解决目前的NIDS研究的局限性,特别是数据集。这种方法生成的NIDS数据集组成的最新的网络流量和攻击,与标签过程集成的设计。
2022-01-08 cs.AI cs.CR cs.LG
Beyond without Forgetting: Multi-Task Learning for Classification with Disjoint Datasets
用于不相交数据集分类的多任务学习(MTL)旨在探索当一个任务只有一个标记数据集时的MTL。在现有的方法中,对于每个任务,未标记的数据集没有被充分利用,以促进这项任务。受半监督学习的启发,我们使用带有伪标签的未标记数据集来促进每个任务。然而,存在两个主要问题:1)伪标签非常嘈杂; 2)每个任务的未标记数据集和标记数据集具有相当大的数据分布不匹配。为了解决这些问题,我们提出了我们的MTL与选择性增强(MTL-SA)方法来选择训练样本在未标记的数据集与自信的伪标签和接近的数据分布标记的数据集。然后,我们使用选定的训练样本添加信息,并使用剩余的训练样本保存信息。大量的实验表明,我们的MTL-SA方法的有效性,以脸为中心的和以人为中心的应用程序。
2020-03-15 cs.CV cs.LG stat.ML
From industry-wide parameters to aircraft-centric on-flight inference: improving aeronautics performance prediction with machine learning
Inria(法国国家信息与自动化研究所);University College London(伦敦大学学院);Université de Lille(里尔大学)
飞机性能模型在航空公司运营中发挥着关键作用,特别是在规划燃油效率高的飞行时。在实践中,制造商提供的指导方针在整个飞机生命周期中通过调整单个因素略有修改,从而能够更好地预测燃油。然而,这具有局限性,特别是它们不能反映影响飞机性能的每个特征的演变。我们的目标是克服这个限制。本文的主要贡献是促进使用机器学习来利用飞机在飞行期间连续记录的大量数据,并提供反映其实际和个人性能的模型。我们说明我们的方法,专注于从记录的飞行数据的阻力和升力系数的估计。由于这些系数不能直接记录,我们采用空气动力学近似。作为一个安全检查,我们提供了边界来评估我们的方法的空气动力学近似和统计性能的准确性。我们提供了一系列机器学习算法的数值结果。我们报告了真实数据的出色准确性,并展示了经验证据来支持我们的建模,与空气动力学原理保持一致。
2021-02-04 cs.LG stat.AP stat.ME
Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment
Universidad Autónoma de Madrid(马德里自治大学)
针对决策算法的公平性等以人为中心的需求,研究提出FairCVtest招聘案例,验证多模态算法会利用数据偏差产生不公,并概述去偏技术,证明隐私保护学习方法可实现公平决策。
2023-02-13 cs.AI cs.CY cs.LG
PEARL: Structural Privacy-Utility Control in Human-Centric CPS via Personalized Early-Exit Deep Reinforcement Learning
University of California, Irvine(加利福尼亚大学欧文分校)
PEARL通过边缘双路径早退深度Q网络,利用互信息训练效用与隐私置信标签,在推理时选择最浅退出分支,实现结构隐私控制,平均降低25.67%推理准确率,效用成本仅10-16%。
2026-09-14 cs.CR cs.HC cs.LG