Forecasting Lithium-Ion Battery Longevity with Limited Data Availability: Benchmarking Different Machine Learning Algorithms
University of Oxford(牛津大学)
该研究基准测试14种传统机器学习与深度学习模型,发现基于手工统计特征的Random Forest Regressor在仅用有限早期数据时预测电池循环寿命最佳,MAPE最低达9.8%,优于原始时序深度学习模型。
2023-12-10 cs.AI cs.LG
The limit of artificial intelligence: Can machines be rational?
University of Johannesburg(约翰内斯堡大学)
本文研究机器是否理性的问题。它观察到人类不理性的现有原因,这是由于不完美和有限的信息,有限的和不一致的处理能力,通过大脑和无法优化决策,实现最大效用。它研究人类的这些局限性是否会转移到机器的局限性上。得出的结论是,即使机器不是理性的,但技术的进步使这些机器变得更加理性。它还得出结论,机器可以比人类更理性。
2018-12-16 cs.AI
Artificial Intelligence based tool wear and defect prediction for special purpose milling machinery using low-cost acceleration sensor retrofits
铣床是许多工业加工链的组成部分。因此,近年来提出了几种基于机器学习的刀具磨损检测方法,但这些方法大多针对标准铣床,而专为更专业任务设计的机械迄今为止只获得了有限的关注。本文演示了加速度传感器的应用,以方便这样一个特殊用途的机器,即圆缝铣床的状态监测。我们检查各种情况,包括刀片磨损和刀片断裂,以及不正确的机器安装或传动带张力不足。此外,我们提出了不同的方法来监督故障识别有限的训练数据量。因此,除了理论见解外,我们的分析具有很高的实际重要性,因为用加速度传感器和边缘分类设置改造旧机器的成本和工作量很低,但对机器和工具的状态以及一般的生产过程提供了有价值的见解。
2022-02-07 cs.AI cs.LG
How do some Bayesian Network machine learned graphs compare to causal knowledge?
Queen Mary University of London(伦敦玛丽女王大学)
贝叶斯网络(BN)的图可以是机器学习的,由因果知识确定的,或者两者的组合。在生物信息学等学科中,应用BN结构学习算法可以揭示新的见解,否则将仍然未知。然而,当输入数据在样本大小方面受到限制时,这些算法不太有效,这在处理真实数据时经常是这种情况。本文重点关注纯机器学习和纯知识为基础的BN,并研究它们在图形结构方面的差异以及隐含的统计模型如何解释数据。测试是基于四个以前的案例研究,其BN结构是由领域知识。使用各种指标,我们将基于知识的图与TETRAD中实现的跨越所有三个学习类别的各种算法生成的机器学习图进行比较。结果表明,虽然算法产生的图形具有更高的模型选择得分,但基于知识的图形是感兴趣变量的更准确的预测器。在样本量有限的情况下,最大化分数拟合是无效的,因为拟合在有限的数据下变得越来越失真,将算法引导到共享更高拟合分数但却大大偏离真实图形的图形模式。这突出了因果知识在这些情况下的价值,以及需要更合适的拟合分数适合有限的数据。最后,这些实验还提供了新的证据,支持模拟数据的结果几乎没有告诉我们实际的真实世界性能。
2021-02-02 cs.AI cs.LG
MetaLead: A Comprehensive Human-Curated Leaderboard Dataset for Transparent Reporting of Machine Learning Experiments
CSIRO Data61(澳大利亚联邦科学与工业研究组织 Data61)
MetaLead是一个全面的人工标注的机器学习排行榜数据集,旨在通过透明报告机器学习实验来提高评估的透明度和细致程度。
2026-01-30 cs.AI cs.LG
Accelerating Machine Learning via the Weber-Fechner Law
韦伯-费希纳定律指出,人类的感知与刺激的对数成正比。我们认为,人类概念的学习算法可以受益于韦伯-费希纳定律。具体来说,我们通过排序输出的对数幂级数对简单的神经网络施加Weber-Fechner,有或没有卷积。我们的实验在几次训练迭代和有限的计算资源内对MNIST数据集显示出令人惊讶的性能和准确性,这表明Weber-Fechner可以加速人类概念的机器学习。
2022-04-21 cs.AI cs.LG
Data Synthesis for Testing Black-Box Machine Learning Models
IBM Research(IBM研究院)
机器学习模型的使用越来越多,提出了这些模型的可靠性问题。目前用有限的数据进行测试的做法往往是不够的。在本文中,我们提供了一个框架,自动测试数据合成测试黑盒ML/DL模型。我们解决了一个重要的挑战,生成现实的用户可控的数据与模型不可知的覆盖标准,以测试一组不同的属性,基本上是为了增加信任机器学习模型。我们的实验证明了我们的技术的有效性。
2021-11-03 cs.AI cs.LG
Interpretable Machine Learning for Football Performance Analysis: Evidence of Limited Transferability from Elite Leagues to University Competition
National Tsing Hua University(国立清华大学)
研究探讨了从精英联赛到大学比赛的足球表现决定因素的可迁移性,发现解释性在领域转移时存在不稳定性,表明解释性鲁棒性依赖于领域。
2026-05-11 cs.AI
From Machine Reading Comprehension to Dialogue State Tracking: Bridging the Gap
Amazon Alexa AI(亚马逊Alexa AI);Computer Science & Artificial Intelligence Laboratory, MIT(麻省理工学院计算机科学与人工智能实验室)
对话状态跟踪(DST)是面向任务的对话系统的核心。然而,标记数据的稀缺性是构建跨各种领域工作的准确和强大的状态跟踪系统的障碍。现有的方法通常需要一些对话数据的状态信息和他们的能力推广到未知的领域是有限的。在本文中,我们提出使用机器阅读理解(RC)的状态跟踪从两个角度:模型架构和数据集。我们将对话状态中的槽类型分为类别槽和抽取槽,以借鉴多项选择和广度阅读理解模式的优点。我们的方法在MultiWOZ 2.1上实现了接近当前最先进的联合目标精度,给出了完整的训练数据。更重要的是,通过利用机器阅读理解数据集,当域内数据的可用性有限时,我们的方法在Few-Shot场景中比现有方法表现出更大的优势。最后,即使没有任何状态跟踪数据,即,在zero-shot场景中,我们提出的方法在MultiWOZ 2.1的30个插槽中的12个插槽中实现了大于90%的平均插槽精度。
2020-04-13 cs.AI cs.CL cs.LG
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology(佐治亚理工学院)
机器教学(MT)是一个交互式的过程,其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统,但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架,并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分,即教学界面,机器学习者和知识库,和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明,机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
PINFER: Privacy-Preserving Inference for Machine Learning
OneSpan
预计外包机器学习服务的作用将越来越大,这引发了人们对用户数据隐私的担忧。目前正在提出若干技术解决办法来解决这一问题。云数据中心中的硬件安全模块由于其复杂性而仅限于企业客户,而一般的多方计算技术需要大量的消息交换。本文提出了各种隐私保护回归和分类协议,这些协议(i)只需要添加同态加密算法,(ii)将交互限制为仅仅是请求和响应,以及(iii)可以直接用于重要的机器学习算法,如逻辑回归和SVM分类。然后,将基本协议扩展并应用于前馈神经网络。
2019-10-04 cs.AI cs.CR cs.LG
Tool flank wear prediction using high-frequency machine data from industrial edge device
Ford Otosan R&D Center(福特奥托桑研发中心);Koç University(科奇大学);Tubitak BILGEM Information Technologies Institute(土耳其科学技术研究理事会比尔盖姆信息技术研究所)
刀具后刀面磨损监测可以最大限度地减少加工停机成本,同时提高生产率和产品质量。在某些工业应用中,仅允许有限水平的工具磨损以获得必要的公差。由于其他部件(例如机器的柔性振动)主导测量信号,因此在从机器收集的数据中监测有限水平的工具磨损可能变得具有挑战性。在这项研究中,刀具磨损监测技术来预测有限的水平,刀具磨损的主轴电机电流和测功机测量。高频主轴电机电流数据是用工业边缘设备收集的,而切削力和扭矩是用旋转测力计在选定数量的孔的钻孔测试中测量的。进行特征工程以识别对刀具磨损的微小变化最敏感的测量信号的统计特征。开发了一种基于长短期记忆(LSTM)结构的神经网络,用于从测量的主轴电机电流和测力计信号预测刀具后刀面磨损。结果表明,该技术预测刀具后刀面磨损具有良好的精度和高的计算效率。所提出的技术可以很容易地在工业边缘设备中实现,作为实时预测性维护应用,以最大限度地减少由于制造停机时间和工具使用不足或过度使用而导致的成本。
2022-12-12 cs.AI eess.SP
Machine Learning and Quantum Intelligence for Health Data Scenarios
QSPectral Systems(QSPectral系统)
针对医疗领域高维或低质量数据集下传统机器学习的挑战,本文探索量子机器学习(QML)在健康数据场景的应用,聚焦量子核方法与混合量子-经典网络在心脏病预测和新冠检测中的可行性与性能。
2024-10-28 cs.AI cs.LG quant-ph
Representation Learning from Limited Educational Data with Crowdsourced Labels
Michigan State University(密歇根州立大学);TAL Education Group(好未来教育集团);Tsinghua University(清华大学)
表示学习已被证明在机器学习模型在众多任务中取得空前成功的过程中发挥着重要作用,例如机器翻译、人脸识别和推荐。大多数现有的表示学习方法通常需要大量一致且无噪声的标签。然而,由于预算限制和隐私问题等各种原因,标签在许多现实场景中非常有限。直接将标准的表示学习方法应用于小的标记数据集将很容易遇到过拟合问题,并导致次优解决方案。更糟糕的是,在教育等领域,有限的标签通常由具有不同专业知识的多个工作人员注释,这在这种众包环境中产生了噪音和不一致性。在本文中,我们提出了一个新的框架,旨在从有限的数据与众包标签学习有效的表示。具体来说,我们设计了一个基于分组的深度神经网络,从有限数量的训练样本中学习嵌入,并提出了一个贝叶斯置信估计器来捕获众包标签之间的不一致性。此外,为了加快训练过程中,我们开发了一个硬的例子选择过程,自适应地拿起训练样本,被错误分类的模型。在三个真实世界的数据集上进行的大量实验表明,与各种最先进的基线相比,我们的框架在从具有众包标签的有限数据中学习表示方面具有优越性。此外,我们提供了一个全面的分析,我们提出的框架的每个主要组成部分,并介绍了它在我们的实际生产中取得的可喜成果,以充分了解所提出的框架。
2020-09-23 cs.AI cs.LG stat.ML
Disease Labeling via Machine Learning is NOT quite the same as Medical Diagnosis
Arison School of Business, Interdisciplinary Center(阿里森商学院,跨学科中心)
医学诊断的一个关键步骤是给病人一个普遍认可的标签(例如阑尾炎),这基本上是将病人分配到一个(或多个)具有类似身体衰竭的病人类别。然而,具有高概率相同疾病标签的两名患者在其特征表现模式上仍可能存在差异,这意味着所需治疗的差异。此外,在许多情况下,初步诊断的标签留下了一些无法解释的发现。医学诊断只是部分地关于标签X或Y的概率计算。诊断是不完整的,直到病人的整体情况是临床理解的水平,使最佳的治疗决策。大多数机器学习模型都是以数据为中心的模型,迄今为止的证据表明它们可以在疾病标记阶段达到专家级性能。然而,像任何其他数学技术一样,它们有其局限性和适用范围。以数据为中心的算法是知识盲的,缺乏医生用来实现完整诊断的解剖学和生理学知识。本文主张用智能来补充它们,以克服它们作为知识盲算法的固有局限性。机器可以从数据中学习很多东西,但数据并不是机器可以学习的唯一来源。历史患者数据只告诉我们某种身体衰竭的可能表现是什么。解剖学和生理学知识告诉我们身体如何工作和失败。两者都需要完整的诊断。提出的双重深度学习方法,以及针对智能机器的医学维基百科计划,为我们今天看到的有限数据标签解决方案之外的完整诊断提供了AI诊断支持解决方案。医学人工智能将永远受到限制,直到他们的智能也整合了解剖学和生理学。
2019-09-08 cs.AI cs.CY cs.LG
Revisiting 16-bit Neural Network Training: A Practical Approach for Resource-Limited Learning
Stony Brook University(石溪大学);State University of New York, Korea(纽约州立大学,韩国);Virginia Tech(弗吉尼亚理工大学)
本文通过理论分析和实验证明16位精度神经网络在准确率上可与32位匹配并提升计算速度,为资源受限的学习者提供实用指导。
2026-04-17 cs.AI cs.CV cs.LG
Comprehensive pKa Data Augmentation from Limited Real Data through an Engineered Models-Quantum Framework
Department of Chemistry, Tsinghua University(清华大学化学系);Department of Chemical Engineering, Tsinghua University(清华大学化学工程系);School of Science, China Pharmaceutical University(中国药科大学理学院)
针对pKa数据稀疏问题,提出量子辅助分子生成方法,利用优化机器学习模型预测和量子退火器采样,在相干伊辛机上实现极端值采样。
2026-06-18 cs.AI cs.LG physics.chem-ph
Replicable Benchmarking of Neural Machine Translation (NMT) on Low-Resource Local Languages in Indonesia
University of Indonesia(印度尼西亚大学);Bandung Institute of Technology(万隆理工学院);Boston University(波士顿大学);Monash University Indonesia(莫纳什大学印度尼西亚校区)
本文针对印尼四种低资源语言构建可复现NMT基准,系统比较不同训练方法与数据规模,并初步探索大模型合成平行数据,证明有限资源下NMT性能可媲美零样本gpt-3.5-turbo。
2023-11-02 cs.AI cs.CL
Props for Machine-Learning Security
Cornell Tech(康奈尔科技学院);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文提出 props 受保护流水线,利用隐私保护预言机安全、可信地访问深网数据,以缓解机器学习训练数据瓶颈并支持敏感数据推理。
2024-10-27 cs.AI cs.CR