World Machine: Towards Generative World Modeling for Time-Series
Universidade Estadual de Campinas (UNICAMP)（坎皮纳斯州立大学）；Universidade Estadual Paulista (UNESP)（保罗斯州立大学）
提出基于Transformer的潜在状态架构World Machine，用于时间序列生成式世界建模，在合成数据集Toy1D上验证了其超越传统Transformer的能力。
2026-05-21 cs.LG
Classifying World War II Era Ciphers with Machine Learning
San Jose State University（圣何塞州立大学）
本研究用机器学习分类二战密码（Enigma等），在仅密文且1000字符下准确率超97%，经典模型不逊于深度学习，且相似密码区分难度略高但可控。
2023-08-30 cs.CR cs.LG
Ovid: A Machine Learning Approach for Automated Vandalism Detection in OpenStreetMap
Leibniz University Hannover（汉诺威莱布尼茨大学）；L3S Research Center（L3S研究中心）；University of Bonn（波恩大学）
OpenStreetMap是一个开放的全球地图数据的独特来源，越来越多地被现实世界的应用所采用。OpenStreetMap中的恶意破坏检测是关键的，并且由于数据集的大规模、贡献者的绝对数量、各种恶意破坏形式以及缺乏用于训练机器学习算法的注释数据而具有显著挑战性。本文介绍了Ovid -一种新的机器学习方法，用于OpenStreetMap中的破坏检测。Ovid依赖于一个神经网络架构，该架构采用多头注意力机制来有效地总结OpenStreetMap变更集中的破坏信息。为了便于自动破坏检测，我们引入了一组原始功能，捕获更改，用户和编辑信息。我们对真实世界的故意破坏数据的评估结果表明，所提出的Ovid方法在F1得分上比基线高出4.7个百分点。
2022-03-21 cs.CR cs.LG
Field-aware Factorization Machines in a Real-world Online Advertising System
Criteo Research（Criteo研究院）；Facebook；Google
预测用户响应是计算广告中的核心机器学习任务之一。领域感知因子分解机（FFM）最近被确立为解决该问题的最先进方法，特别是赢得了两次Kaggle挑战。本文提出了一些结果，从实现这种方法在生产系统中预测点击率和转化率的显示广告，并表明这种方法不仅是有效的赢得挑战，但在现实世界中的预测系统也是有价值的。我们还讨论了一些具体的挑战和解决方案，以减少训练时间，即使用创新的播种算法和分布式学习机制。
2017-02-23 cs.LG
Adversarial Learning in Real-World Fraud Detection: Challenges and Perspectives
Université Libre de Bruxelles（布鲁塞尔自由大学）；University of Athens（雅典大学）；Athena Research Center（雅典娜研究中心）；Worldline S.A.（Worldline公司）
本文分析欺诈检测中对抗攻击的特殊性，指出其与图像等领域的差距，并提出若干研究方向以推动对抗机器学习在欺诈检测中的泛化应用。
2023-07-03 cs.CR cs.LG
Open-world Machine Learning: Applications, Challenges, and Opportunities
Malaviya National Institute of Technology Jaipur（马拉维亚国家理工学院斋浦尔分校）；Miami University（迈阿密大学）；ABV-IIITM Gwalior（阿塔尔·比哈里·瓦杰帕伊印度信息技术与管理学院瓜廖尔分校）
传统的机器学习主要是监督学习，遵循封闭世界学习的假设，即，每个测试班都有一个培训班。然而，这样的机器学习模型不能识别在训练时间期间不可用的类。这些类可以称为不可见类。而开放世界机器学习（OWML）处理的是看不见的类。在本文中，首先，我们提出了一个OWML的概述与现实世界的背景下的重要性。接下来，探索和讨论开放世界机器学习的不同维度。OWML领域仅在过去十年才获得研究界的关注。我们搜索了不同的在线数字图书馆，仔细研究了过去十年所做的工作。本文对OWML的各种技术进行了系统的综述。它还提出了开放世界机器学习的研究差距，挑战和未来的发展方向。本文将有助于研究人员了解OWML的全面发展和扩展研究在合适的领域的可能性。它还将有助于选择适用的方法和数据集，以进一步探讨这一问题。
2022-02-20 cs.AI cs.LG
Proceedings of NeurIPS 2018 Workshop on Machine Learning for the Developing World: Achieving Sustainable Impact
这是2018年12月8日在加拿大蒙特利尔举行的NeurIPS 2018发展中国家机器学习研讨会的会议记录：实现可持续影响
2019-02-18 cs.AI cs.CY cs.LG
Security and Machine Learning in the Real World
University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
部署在许多安全和业务关键型系统中的机器学习（ML）模型很容易通过对抗性示例被利用。大量的学术研究已经彻底探索了这些盲点的原因，开发了寻找它们的复杂算法，并提出了一些有前途的防御措施。然而，这些作品中的绝大多数研究独立的神经网络模型。在这项工作中，我们建立在我们的经验，评估大规模部署的机器学习软件产品的安全性，以扩大对话，包括这些漏洞的系统安全视图。我们描述了在具有ML组件的软件中实现系统安全最佳实践的新挑战。此外，我们还提出了一系列短期缓解建议，部署机器学习模块的从业者可以使用这些建议来保护他们的系统。最后，我们概述了机器学习攻击和防御的新研究方向，这些攻击和防御可以促进ML系统的安全性。
2020-07-13 cs.CR cs.LG stat.ML
Studying Accuracy of Machine Learning Models Trained on Lab Lifting Data in Solving Real-World Problems Using Wearable Sensors for Workplace Safety
NIOSH（美国国家职业安全与健康研究所）
本文研究将实验室训练的举重识别ML模型迁移至现实工作场所安全场景，针对性能下降问题探究原因并提出四种提升模型性能的解决方案。
2023-09-11 cs.AI cs.LG
A Critical Review on the Use (and Misuse) of Differential Privacy in Machine Learning
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）；University of Oklahoma（俄克拉荷马大学）
我们回顾了差分隐私（DP）在机器学习（ML）中的隐私保护。我们表明，在保持学习模型准确性的目标的驱动下，基于DP的ML实现是如此松散，以至于它们不提供DP的事前隐私保证。相反，它们提供的基本上是噪音添加类似于传统的（经常受到批评的）统计披露控制方法。由于缺乏正式的隐私保障，所提供的实际隐私水平必须事后进行实验性评估，而这种评估很少进行。在这方面，我们提出的实证结果表明，ML中的标准抗过拟合技术可以实现比DP更好的效用/隐私/效率权衡。
2022-07-05 cs.CR cs.LG
Machine Learning with World Knowledge: The Position and Survey
Hong Kong University of Science and Technology（香港科技大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
机器学习已经在多个领域变得普遍，影响了各种各样的应用，例如知识发现和数据采掘、自然语言处理、信息检索、计算机视觉、社会和健康信息学、普适计算等。机器学习的两个基本问题是如何生成特征和如何获取标签以供机器学习。特别是，为每个特定领域的问题标记大量数据可能非常耗时且成本高昂。它已经成为使学习协议在应用中变得现实的一个关键障碍。在本文中，我们将讨论如何使用现有的通用世界知识来增强机器学习过程，通过丰富的功能或减少标记工作。本文从世界知识与领域知识的比较入手，介绍了在学习过程中运用世界知识的三个关键问题，即：显式和隐式特征表示、用于知识链接和消歧的推理以及在直接或间接监督下的学习。最后，我们讨论了未来的研究方向。
2017-05-08 cs.AI cs.LG stat.ML
A Review of Machine Learning Classification Using Quantum Annealing for Real-world Applications
University of Kentucky（肯塔基大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
优化机器学习管道的训练有助于降低训练成本并提高模型性能。一种这样的优化策略是量子退火，这是一种新兴的计算范式，在优化机器学习模型的训练方面显示出了潜力。物理量子退火器的实现已经由D-Wave系统实现，并可供研究界进行实验。最近使用量子退火的各种机器学习应用的实验结果显示了有趣的结果，其中经典机器学习技术的性能受到有限的训练数据和高维特征的限制。本文探讨了D-Wave的量子退火器在优化机器学习管道以解决现实世界分类问题方面的应用。我们回顾了应用领域上的物理量子退火已被用于训练机器学习分类。我们讨论并分析了在D-Wave量子退火机上进行的实验，这些实验用于图像识别、遥感成像、计算生物学和粒子物理学等应用。我们讨论了量子退火可能优于经典计算的可能优势和问题。
2021-06-05 cs.LG quant-ph
Exploring the Open World Using Incremental Extreme Value Machines
e.solutions GmbH（e.solutions有限公司）；Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
动态环境需要自适应应用程序。动态环境中的一个特定机器学习问题是开放世界识别。它表征了一个连续变化的域，其中在一批训练数据中只能看到一些类，并且这些批只能增量学习。开放世界识别是一项艰巨的任务，据我们所知，只有几种方法可以解决。这项工作介绍了一个修改的广为人知的极值机（EVM），使开放世界的识别。我们提出的方法扩展EVM与部分模型拟合函数忽略未受影响的空间在更新过程中。这将训练时间缩短了28倍。此外，我们提供了一个修改后的模型约简，使用加权最大K集覆盖，严格限制模型的复杂性，并将计算工作量减少了3.5倍，从2.1秒到0.6秒。在我们的实验中，我们严格评估开放性与两个新的评估协议。所提出的方法在图像分类和人脸识别的任务中实现了约12%的高精度和计算效率。
2022-05-30 cs.CV cs.LG
OpenCML: End-to-End Framework of Open-world Machine Learning to Learn Unknown Classes Incrementally
Computer Science and Engineering（计算机科学与工程）；Jaypee University of Engineering and Technology（贾伊佩大学工程与技术）；Computer Engineering（计算机工程）；SVKM’S NMIMS STME
OpenCML通过开放世界机器学习框架实现增量学习未知类别的端到端方法，提升了持续学习的性能和准确性。
2025-11-23 cs.LG
A novel algorithm can generate data to train machine learning models in conditions of extreme scarcity of real world data
Kannerklinik（坎纳诊所）；Faculty of Science, Technology and Medicine, University of Luxembourg（卢森堡大学科学、技术与医学院）
针对真实世界数据稀缺等问题，提出一种基于遗传算法的人工数据生成算法，通过选择压力迭代优化数据集，在两类数据集上验证其可有效训练机器学习模型，稀缺场景下性能显著优于少量真实数据训练的模型。
2023-05-01 cs.LG cs.NE
Quantum Machine Learning: Performance and Security Implications in Real-World Applications
Rider University（莱德大学）；University of Missouri-Kansas City（密苏里大学堪萨斯城分校）；University of Oklahoma（俄克拉荷马大学）
本文通过阿尔茨海默病数据集案例研究，比较量子机器学习与经典算法的性能与安全影响，发现QML虽有潜力但尚未超越经典算法，且继承旧脆弱性并引入新攻击向量。
2024-08-08 cs.LG quant-ph
Efficient and Robust Machine Learning for Real-World Systems
Graz University of Technology（格拉茨工业大学）；Ruperts Karls University（鲁珀特卡尔斯大学）；Microsoft Research（微软研究院）；University of Cambridge（剑桥大学）；Uber AI Labs（优步人工智能实验室）；Arm Research（Arm研究院）；Arm Ltd.（Arm有限公司）
虽然机器学习传统上是一项资源密集型任务，但嵌入式系统、自主导航和物联网的愿景激发了人们对资源高效方法的兴趣。这些方法需要在计算和能量方面的性能和资源消耗之间仔细选择权衡。除此之外，在机器学习系统的所有应用中，以一致的方式处理不确定性至关重要。特别是，任何现实世界的系统都需要在存在异常值和损坏数据的情况下保持鲁棒性，并且“意识到”其局限性，即该系统应当保持并提供关于其自身预测的不确定性估计。这些复杂的需求是当前机器学习研究的主要挑战之一，也是确保机器学习技术顺利过渡到日常应用的关键。在这篇文章中，我们提供了一个概述的机器学习技术促进这些现实世界的需求的最新发展。首先，我们对深度神经网络中的资源效率进行了全面的回顾，重点关注模型大小缩减、压缩和精度降低的技术。这些技术可以在训练期间或作为后处理应用，并且被广泛用于降低计算复杂性和存储器占用。由于大多数（实用）神经网络在处理不确定性的方式上都有局限性，我们将其与概率图模型进行了对比，后者通过概率推理很容易满足这些需求。通过这种方式，我们提供了一个广泛的概述，目前的最先进的强大和有效的机器学习的现实世界的系统。
2018-12-05 cs.LG stat.ML
Putnam's Critical and Explanatory Tendencies Interpreted from a Machine Learning Perspective
本文重构普特南批判性与解释性倾向之分的思想脉络，论证二者的双向必要性，并借机器学习视角将其概念化为介入理论选择争论的新工具。
2025-01-06 cs.AI cs.CY cs.LG
Open-world machine learning: A review and new outlooks
Centre for Artificial Intelligence and Robotics, Hong Kong Institute of Science and Innovation, Chinese Academy of Sciences（人工智能与机器人中心，香港科学与创新研究院，中国科学院）；State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation of Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，中国科学院自动化研究所）；College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
本文综述开放世界机器学习，统一探讨未知拒绝、新奇发现与持续学习，总结挑战、基准与性能，并展望未来方向，以推动更安全、可进化的AI系统发展。
2025-06-21 cs.CV cs.LG
World Models for Cross-Machine CNC Transfer under Partial Sensor Overlap
Université de Bretagne Occidentale（西布列塔尼大学）；Mines Nancy, Université de Lorraine（洛林大学南锡国立高等矿业学校）
本研究提出SAAC-JEPA架构，解决部分传感器重叠下的跨机床CNC动力学迁移问题，发现源域预测精度不足以评估工业表示，跨机床适应需作为独立评估维度。
2026-09-24 cs.AI cs.LG
From Players to Champions: A Generalizable Machine Learning Approach for Match Outcome Prediction with Insights from the FIFA World Cup
Department of Electrical and Computer Engineering（电气与计算机工程系）；University of Michigan-Dearborn（密歇根大学-迪尔伯恩分校）；Department of Computer and Information Science（计算机与信息科学系）
本文提出了一种基于球员和球队数据的机器学习方法，用于预测国际足联世界杯比赛结果，通过整合历史数据和球员表现指标，提升预测准确性并提供新的分析洞察。
2025-05-03 cs.LG
Adversarial examples in the physical world
Google Brain（谷歌大脑）；OpenAI
大多数现有的机器学习分类器非常容易受到对抗性样本的影响。一个对抗性的例子是输入数据的样本被轻微地修改了，这是为了导致机器学习分类器错误地分类它。在许多情况下，这些修改是如此的微妙，以至于人类观察者甚至根本没有注意到修改，但分类器仍然会出错。对抗性示例会带来安全问题，因为它们可能被用来对机器学习系统进行攻击，即使对手无法访问底层模型。到目前为止，所有以前的工作都假设了一个威胁模型，其中对手可以将数据直接输入机器学习分类器。对于在物理世界中运行的系统，例如使用来自摄像机和其他传感器的信号作为输入的系统，情况并非总是如此。本文表明，即使在这样的物理世界场景中，机器学习系统也容易受到对抗性示例的影响。我们通过将从手机摄像头获得的对抗图像馈送到ImageNet Inception分类器并测量系统的分类精度来证明这一点。我们发现，即使通过摄像头感知，也有很大一部分对抗性样本被错误分类。
2017-02-11 cs.CR cs.CV cs.LG
Exploring MLOps Dynamics: An Experimental Analysis in a Real-World Machine Learning Project
University of Oslo（奥斯陆大学）；Amesto NextBridge AS（Amesto NextBridge公司）
本文通过真实机器学习项目中的实验，分析MLOps工作流的迭代与相互依赖特性，识别优化模式，提出主动规划与持续改进建议，以提升ML项目效率。
2023-07-22 cs.LG cs.SE
Information Theory in Open-world Machine Learning Foundations, Frameworks, and Future Direction
Shenzhen Key Laboratory of Neuropsychiatric Modulation（深圳心理行为调控重点实验室）；Shenzhen-Hong Kong Institute of Brain Science（深圳-香港脑科学研究院）；Shenzhen Institutes of Advanced Technology（深圳先进技术研究院）；Chinese Academy of Sciences（中国科学院）
本文综述信息论在开放世界机器学习中的应用，通过熵、互信息等概念统一开放集识别、新颖性发现与持续学习，并探讨其与可证明学习框架的联系及未来方向。
2025-10-17 cs.LG stat.ML
Hybrid Machine Learning Forecasts for the FIFA Women's World Cup 2019
TU Dortmund University（多特蒙德工业大学）；Ghent University（根特大学）；Technical University of Munich（慕尼黑工业大学）；Universität Innsbruck（因斯布鲁克大学）
在这项工作中，我们结合了两种不同的排名方法与其他几个预测在一个联合随机森林方法的足球比赛的成绩。第一种排名方法是基于博彩公司的共识，第二种排名方法估计足够的能力参数，最好地反映了球队的当前实力。然后将所提出的综合方法应用于前两届国际足联女足世界杯2011年和2015年的数据。最后，基于所得到的估计，反复模拟2019年FIFA女足世界杯，并获得所有球队的获胜概率。该模型显然有利于卫冕冠军美国之前，东道国法国。
2019-06-03 cs.LG stat.AP stat.ML
Machine learning prediction of critical transition and system collapse
Arizona State University（亚利桑那州立大学）；Shaanxi Normal University（陕西师范大学）；University of Aberdeen（阿伯丁大学）
在不依赖模型的情况下预测参数漂移引起的临界转变是非线性动力学及其应用领域中的一个突出问题。一个密切相关的问题是预测系统是否已经处于或系统是否将处于崩溃前的过渡状态。我们开发了一个无模型，机器学习为基础的解决方案，这两个问题，利用储备池计算，将参数输入通道。我们证明，当机器在具有混沌吸引子的正常功能状态下训练时（即，在临界转变之前），可以准确地预测转变点。值得注意的是，对于通过临界点的参数漂移，具有输入参数通道的机器不仅能够预测系统将处于瞬态，而且能够预测最终崩溃之前的平均瞬态时间。
2020-12-02 cs.AI cs.LG math.DS
Detection of Real-world Driving-induced Affective State Using Physiological Signals and Multi-view Multi-task Machine Learning
Harvard-MIT Health Sciences and Technology（哈佛-麻省理工学院健康科学与技术）；Massachusetts Institute of Technology（麻省理工学院）
情感状态在驾驶性能和安全性方面起着关键作用。它们会降低驾驶员的情况意识，并对认知过程产生负面影响，严重降低道路安全。因此，检测和评估驾驶员的情感状态是至关重要的，以帮助改善驾驶体验，提高安全性，舒适性和幸福感。情感计算的最新进展使这种状态的检测成为可能。这可能导致移情汽车用户界面，其考虑驾驶员的情绪状态并影响驾驶员以提高安全性。在这项工作中，我们提出了一个多视图多任务机器学习方法检测驾驶员的情感状态，使用生理信号。所提出的方法能够解释生理反应中的驱动器间变异性，同时实现学习模型的可解释性，这是在现实世界中部署的系统中特别重要的一个因素。我们在三个不同的数据集上评估模型，这些数据集包含真实的驾驶体验。我们的研究结果表明，占驱动器特定的差异显着提高模型的性能。
2019-07-19 cs.LG stat.ML
Preservation of Feature Stability in Machine Learning Under Data Uncertainty for Decision Support in Critical Domains
Sano - Centre for Computational Personalised Medicine（Sano——计算个性化医学中心）；Institute of Computer Science, AGH University of Krakow（克拉科夫AGH大学计算机科学学院）
针对关键领域缺失数据导致的特征不稳定问题，本文比较传统ML与描述性分类方法，证明后者在数据不完整性增加时仍能保持更高准确率和稳定特征选择。
2024-08-06 cs.AI cs.LG
Open Problems in Engineering and Quality Assurance of Safety Critical Machine Learning Systems
DENSO CORPORATION（电装公司）
致命事故是阻碍使用机器学习和深度学习模型的安全关键系统（如自动驾驶汽车）被广泛接受的一个主要问题。这种机器学习系统需要质量保证框架，但没有广泛接受和建立的质量保证概念和技术。与此同时，开放的问题和相关的技术领域没有组织。为了建立标准的质量保证框架，有必要以跨学科的方式将这些开放问题可视化和组织起来，以便来自许多不同技术领域的专家可以深入讨论这些问题并制定解决方案。在本研究中，我们以自动驾驶汽车为例，识别、分类和探索安全关键机器学习系统质量保证中的开放问题，以及相关的相应行业和技术趋势。我们的研究结果表明，解决这些开放性问题需要整合来自几个不同技术和工业领域的知识，包括汽车工业、统计学、软件工程和机器学习。
2018-12-07 cs.CY cs.LG stat.ML
Religious Affiliation in the Twenty-First Century: A Machine Learning Perspective on the World Value Survey
Data Science and Analytics Institute, University of Oklahoma（俄克拉荷马大学数据科学与分析研究所）
基于世界价值观调查数据，利用随机森林识别宗教信仰关键因素并对受访者分类，发现年龄和收入为多数国家最重要变量，为社会科学提供机器学习视角的洞察。
2023-10-16 cs.CY cs.LG
Differentially Private Algorithms for Empirical Machine Learning
Duke University（杜克大学）
私有数据的一个重要用途是构建机器学习分类器。虽然有一个蓬勃发展的文学差异私人分类算法，我们发现，他们是不实际的，在实际应用中，由于两个原因。首先，现有的差分私有分类器在真实世界数据集上的准确性很差。第二，没有已知的差分私有算法用于在私有测试数据集上凭经验评估私有分类器。在本文中，我们开发了不同的私人算法，反映现实世界的经验机器学习工作流程。我们将私有分类器训练算法视为黑盒。我们提出了私人算法，用于选择输入到分类器的功能。虽然添加预处理步骤会从实际分类过程中带走一些隐私预算（因此可能会使其噪音更大，准确性更低），但我们证明了我们的新型预处理技术在三个真实世界数据集上显着提高了分类器的准确性。我们还提出了第一个私人的算法，经验性地构建受试者工作特征（ROC）曲线上的私人测试集。
2014-11-21 cs.LG
Beyond the Model: The Critical Role of Data Filtering in Clinical Machine Learning
University of Guelph（圭尔夫大学）
本文强调临床机器学习中数据过滤决策的重要性，主张将其视为科学方法的一部分，并呼吁建立可解释、透明的预处理流程以理解其对数据分布和模型性能的影响。
2026-10-06 cs.LG
FrontierCO: Real-World and Large-Scale Evaluation of Machine Learning Solvers for Combinatorial Optimization
School of Computer Science, Carnegie Mellon University（计算机科学系，卡内基梅隆大学）
FrontierCO通过现实世界结构和大规模实例评估，揭示了机器学习求解器在组合优化中的性能差距及优势。
2026-03-09 cs.LG
A Critical Analysis of the Theoretical Framework of the Extreme Learning Machine
University of Ostrava（俄斯特拉发大学）；Cracow University of Technology（克拉科夫工业大学）；Universidad de Málaga（马拉加大学）；University of Warmia and Mazury in Olsztyn（奥尔什丁瓦尔米亚玛祖里大学）
本文批判性分析了极限学习机（ELM）的理论基础，通过反驳两个核心命题的证明并构建反例数据集揭示其缺陷，同时提出了替代性基础命题以论证ELM在特定理论情形下的有效性。
2024-06-25 cs.LG cs.NE
Machine learning fairness notions: Bridging the gap with real-world applications
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Higher Colleges of Technology（高等技术学院）；Inria（法国国家信息与自动化研究所）；Ecole Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
公平性是保证机器学习（ML）预测系统不歧视特定个人或整个亚群体（特别是少数群体）的重要要求。鉴于看待公平概念固有的主观性，文献中引入了几个公平概念。本文是一份调查，通过大量的例子和场景来说明公平概念之间的微妙之处。此外，与文献中的其他调查不同，它解决了这样一个问题：哪种公平概念最适合给定的现实世界场景，为什么？我们试图回答这个问题包括：（1）识别现实世界场景中与公平相关的特征集，（2）分析每个公平概念的行为，然后（3）拟合这两个元素，以在每个特定设置中推荐最合适的公平概念。结果总结在一个决策图中，从业者和政策制定者可以使用该图来浏览相对较大的ML目录。
2022-06-07 cs.AI cs.CY cs.LG
Demystifying a Dark Art: Understanding Real-World Machine Learning Model Development
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Berkeley（加州大学伯克利分校）
众所周知，开发机器学习（ML）工作流程的过程是一门黑暗艺术;即使是专家也很难找到一个最佳的工作流程，从而获得高精度的模型。用户目前依赖于经验试错法来获得自己的一套经过实战检验的指导方针，以告知他们的建模决策。在这项研究中，我们的目标是通过了解人们如何在实践中使用ML工作流程来揭开这种黑暗艺术的神秘面纱。我们在OpenML上分析了超过47.5万个用户生成的工作流，OpenML是一个用于跟踪和共享ML工作流的开源平台。我们发现，用户在迭代工作流时通常采用手动、自动或混合方法。我们观察到手动方法比自动方法导致更少的浪费迭代。然而，自动化方法通常涉及更多的预处理和探索的超参数选项，从而提高整体性能-这表明了人类在环机器学习系统的潜在好处，该系统适当地推荐了两种策略的巧妙组合。
2020-05-04 cs.DB cs.LG
Mission Critical -- Satellite Data is a Distinct Modality in Machine Learning
Harvard University（哈佛大学）；Arizona State University（亚利桑那州立大学）；Microsoft Research（微软研究院）；Microsoft AI for Good Research Lab（微软人工智能造福研究实验室）；University of Colorado, Boulder（科罗拉多大学博尔德分校）
本文提出卫星数据是机器学习的独特模态，指出当前SatML领域处于发展十字路口，呼吁围绕卫星数据特性建立专门研究议程，并给出讨论方向与行动建议，推动其成为独立研究学科以解决重大现实与学术难题。
2024-02-02 cs.AI cs.CV cs.LG
An Open Review of OpenReview: A Critical Analysis of the Machine Learning Conference Review Process
University of California, Berkeley（加州大学伯克利分校）；Princeton University（普林斯顿大学）；Centennial High School（百年高中）；Harvard University（哈佛大学）；University of Maryland, College Park（马里兰大学帕克分校）；University of Maryland College Park（马里兰大学帕克分校）
近年来，主流机器学习会议的参与者数量急剧增加，观点也越来越广泛。机器学习社区的成员可能会无意中听到从接受决定的随机性到制度偏见的指控。在这项工作中，我们通过对2017年至2020年提交给ICLR的论文进行全面研究，批判性地分析了审查过程。我们量化的再现性/随机性的审查分数和验收决定，并检查分数是否与论文的影响。我们的研究结果表明，在接受/拒绝的决定，即使在控制纸张质量强的机构偏见。此外，我们发现了性别差距的证据，女性作者的得分较低，接受率较低，每篇论文的引用次数少于男性作者。最后，我们对未来的会议组织者提出了建议。
2020-10-26 cs.CY cs.LG
NSML: Meet the MLaaS platform with a real-world case study
CLOVA AI Research, NAVER Corporation（NAVER公司CLOVA人工智能研究院）
深度学习的繁荣促使许多行业和学院竞相将基于机器学习的方法引入他们的关注领域。然而，现有的机器学习框架在数据和模型的协同和管理方面存在局限性。我们提出了NSML，一个机器学习即服务（MLaaS）平台，以满足这些需求。NSML有助于在NSML集群上轻松启动机器学习工作，并提供了一个协作环境，可以在企业规模上进行开发。最后，NSML用户可以使用NSML集群部署自己的商业服务。此外，NSML提供了方便的可视化工具，帮助用户分析他们的工作。为了验证NSML的有用性和可访问性，我们用常见的例子进行了一些实验。此外，我们还通过三个具有真实用例的竞赛来检验NSML的协作优势。
2018-10-08 cs.DC cs.LG stat.ML
Partial Differential Equations in the Age of Machine Learning: A Critical Synthesis of Classical, Machine Learning, and Hybrid Methods
Department of Mathematics, University of Bergen（卑尔根大学数学系）；AI Lab, Siemens Energy（西门子能源AI实验室）；Institute for Geosciences, Applied Geology, Friedrich-Schiller-University Jena（贾恩费里德-施勒尔-大学地质科学与应用地质研究所）
本文批判性综合了经典、机器学习和混合方法，探讨了PDE求解的六个核心挑战，并提出混合设计原则与误差分解框架。
2026-03-08 cs.LG math.AP
Machine Learning for Indoor Localization Using Mobile Phone-Based Sensors
Drake University（德雷克大学）
在本文中，我们研究了利用机器学习方法基于嵌入式传感器的读数来定位移动终端的问题。我们考虑一个真实的环境，收集了3110个数据点的大型数据集，并检查了大量的机器学习算法在本地化移动终端的性能。我们已经找到了算法，给出了一个准确的平均误差为0.76米，优于文献中报道的其他室内定位系统。我们还提出了一种基于实例的混合方法，该方法可以使速度提高十倍，而不会损失标准的基于实例的方法在现场部署中的准确性，从而实现快速准确的定位。此外，我们确定了以较低密度收集的较小数据集如何影响定位的准确性，这对于在现实环境中使用很重要。最后，我们证明了这些方法是适合现实世界的部署，通过评估其性能在一个在线的，在运动实验。
2015-05-22 cs.LG cs.NI
Language Models, Agent Models, and World Models: The LAW for Machine Reasoning and Planning
UCSD（加州大学圣地亚哥分校）；JHU（约翰斯·霍普金斯大学）
本文提出 LAW 视角，将语言模型、智能体模型与世界模型结合，以语言模型为后端，增强机器在多场景中的稳健推理与规划能力。
2023-12-08 cs.AI cs.CL cs.CV
Machine Learning Clustering Techniques for Selective Mitigation of Critical Design Features
iRoC Technologies；Politecnico di Torino（都灵理工大学）；Tallinn University of Technology（塔林理工大学）
选择性缓解或选择性硬化是一种有效的技术，以获得在电路的整体可靠性的改善和由硬化技术引起的硬件开销之间的良好权衡。选择性缓解依赖于根据其敏感性和关键性优先保护电路实例。然而，根据脆弱性对电路部件进行排名通常需要计算密集的故障注入模拟活动。本文提出了一种新的方法，它使用机器学习聚类技术组触发器具有类似的预期贡献的整体功能故障率，基于分析的一组紧凑的功能组合属性的静态元素和动态元素。故障模拟活动可以在每个组的基础上执行，大大减少了评估的时间和成本。通过一个实际的例子，评估了利用机器学习聚类算法对相似敏感触发器进行分组的有效性，并应用了不同的聚类算法，将结果与通过穷举故障注入仿真得到的理想选择性缓解进行了比较。
2021-04-02 cs.AR cs.LG
Operating critical machine learning models in resource constrained regimes
University of Copenhagen（哥本哈根大学）
本研究探讨了在资源受限环境下运行关键机器学习模型时，资源消耗与性能之间的权衡，重点关注临床部署中的挑战。
2024-02-04 cs.AI cs.LG
Investigation on Machine Learning Based Approaches for Estimating the Critical Temperature of Superconductors
Islamic University of Technology (IUT)（伊斯兰技术大学（IUT））
本文提出一种基于堆叠机器学习的方法，利用超导材料的复杂特征准确预测临界温度，模型性能达到RMSE 9.68和R2 0.922，为结合超参数优化的堆叠集成方法提供新见解。
2023-08-02 cond-mat.supr-con cs.LG
Machine learning predicts early onset of fever from continuous physiological data of critically ill patients
University of Tennessee Health Science Center（田纳西大学健康科学中心）
发热可以为肺炎、登革热、败血症等多种疾病的诊断和预后提供有价值的信息，因此，及早预测发烧可有助提高治疗方案的成效及加快治疗过程。本研究旨在通过将机器学习技术应用于连续生理数据，开发能够准确预测危重患者发热发作的新算法。我们分析了连续的生理数据，每5分钟从一个队列超过200，000重症监护室（ICU）收治的重症患者超过2年的时间。同一患者的每次发热发作被视为独立事件，间隔至少24小时。我们从六个生理数据流中提取描述性统计特征，包括心率、呼吸、收缩压和舒张压、平均动脉压和血氧饱和度，并使用这些特征独立预测发热的发作。使用bootstrap聚合方法，我们创建了7，801名无发热和发热患者的平衡数据集，并分析了发热发作前4小时的特征。我们发现，有监督的机器学习方法可以预测重症患者发病前4小时的发热，具有较高的回忆率，精确度和F1评分。这项研究证明了使用机器学习来预测住院成人发热的可行性。通过机器学习和深度学习技术发现显著的生理标志物，有可能进一步加速为医学上脆弱的患者开发和实施创新的护理提供协议和策略。
2020-09-14 cs.LG q-bio.QM stat.AP
Engineering problems in machine learning systems
DENSO CORPORATION（电装公司）；Tokyo Institute of Technology（东京工业大学）
致命事故是阻碍广泛接受采用机器学习和深度学习模型的安全关键系统（如自动驾驶车辆）的主要问题。为了在安全关键系统中使用机器学习，有必要通过工程流程来证明系统的安全性。然而，到目前为止，还没有为这些系统建立这样广泛接受的工程概念或框架。在演绎工程系统中使用机器学习模型的关键是将机器学习模型的数据驱动训练分解为需求、设计和验证，特别是对于安全关键系统中使用的机器学习模型。同时，开放问题和相关技术领域没有以一种使研究人员能够选择一个主题并对其进行研究的方式进行组织。（安全关键）机器学习系统-也就是说，在需求、设计、以及机器学习模型和系统的验证-并以自动驾驶汽车为例讨论了相关的工作和研究方向。我们的研究结果表明，机器学习模型的特点是缺乏需求规范，缺乏设计规范，缺乏可解释性，缺乏鲁棒性。我们还进行了一个传统的系统质量标准SQuARE的差距分析与机器学习模型的特点，研究质量模型的机器学习系统。我们发现，缺乏需求规范和缺乏鲁棒性的传统质量模型的影响最大。
2019-08-22 cs.LG cs.SE
Self-Healing Machine Learning: A Framework for Autonomous Adaptation in Real-World Environments
University of Cambridge（剑桥大学）
针对真实场景中数据分布偏移导致的模型性能下降问题，提出自愈机器学习SHML范式，构建基于大语言模型的智能体方案H-LLM实现自诊断与自适应，验证了该范式的有效性。
2024-10-31 cs.AI cs.LG
Machine Learning for Computational Science and Engineering -- a brief introduction and some critical questions
University of Bolton（博尔顿大学）
人工智能（AI）正在进入科学、技术、工程、艺术和管理的各个子领域。由于研究基金的大肆宣传和可用性，它正在被改编成许多领域没有太多的思考。计算科学与工程（CS&E）就是这样一个子领域。通过强调围绕CS&E适应机器学习（ML）的问题和挑战的一些关键问题，其中大多数在期刊论文中经常被忽视，本文希望为CS\&E及相关领域的ML适应应用提供一些见解。这是一篇针对普通读者和ML和/或CS\&E领域新研究人员的通用文章。本文的工作仅针对计算科学和工程中的前沿问题。还提供了一些基本方程和MATLAB代码，以帮助读者理解基础知识。
2021-12-22 cs.CE cs.LG physics.comp-ph
ReGentS: Real-World Safety-Critical Driving Scenario Generation Made Stable
Sorbonne Université（索邦大学）
针对真实世界安全关键驾驶场景数据稀缺的问题，提出ReGentS框架，通过轨迹优化修改常规场景生成安全关键场景，稳定轨迹并避免无效碰撞，支持最多32个智能体，借助可微分模拟器简化优化，助力自动驾驶系统训练。
2024-09-12 cs.CV cs.LG cs.RO
Carbon Emission Prediction on the World Bank Dataset for Canada
Pandit Deendayal Energy University（潘迪特迪恩达亚尔能源大学）
环境中二氧化碳排放量的持续上升是全世界面临的最关键问题之一。许多国家正在做出关键决定，控制其碳足迹，以避免一些灾难性后果。有很多研究正在预测未来的碳排放量，这可以帮助我们开发创新技术来提前处理它。机器学习是从当前数据预测碳排放量的最先进和最有效的技术之一。本文提供了预测未来几年碳排放量（CO2排放量）的方法。这些预测是基于过去50年的数据。用于进行预测的数据集是从世界银行数据集收集的。该数据集包含1960年至2018年所有国家的二氧化碳排放量（人均公吨）。我们的方法包括使用机器学习技术来了解未来十年的碳排放措施，并将其投射到来自世界银行数据库的数据集上。本研究的目的是比较不同的机器学习模型（决策树，线性回归，随机森林和支持向量机）如何在类似的数据集上执行，并测量它们的预测之间的差异。
2022-11-26 cs.AI cs.LG
Benchmarking machine learning models on multi-centre eICU critical care dataset
University of Trento（特伦托大学）；Fondazione Bruno Kessler Research Institute（布鲁诺·凯塞勒基金会研究所）
本研究针对重症监护领域缺乏公开基准的问题，基于含约7.3万名患者的多中心eICU数据集，构建了覆盖四大重症任务的公开基准套件，对比多类模型性能并探究变量处理的影响，同时开源代码以支持后续研究。
2021-08-05 cs.LG stat.ML
Quantum Machine Learning on Near-Term Quantum Devices: Current State of Supervised and Unsupervised Techniques for Real-World Applications
The University of Tokyo（东京大学）；IBM Quantum, IBM Research - Tokyo（IBM量子（IBM东京研究院））；Global Technology and Applied Research, J.P. Morgan Chase & Co.（摩根大通全球技术与应用研究院）；Quantum Computing Center, Keio University（庆应义塾大学量子计算中心）
本综述系统梳理了近期量子设备上监督与无监督量子机器学习的应用现状，分析编码、拟设结构、错误缓解与梯度方法等实现瓶颈，并评估其相对经典方法的性能，提出未来解决方向。
2024-06-08 cs.LG quant-ph stat.ML
Logics and practices of transparency and opacity in real-world applications of public sector machine learning
University College London（伦敦大学学院）
机器学习系统越来越多地用于支持各个部门的公共部门决策。鉴于对这些领域问责制的关注，以及对有意或无意偏见的指责，人们越来越多地呼吁这些技术的透明度。然而，很少有人考虑过，那些参与机器学习系统的人是如何理解有关透明度的逻辑和实践的，这些系统已经在公共机构中试用和部署。这篇简短的论文从对5个经合组织国家的27个此类行为者（主要是公务员和相关承包商）的采访中提炼出关于透明度的见解。考虑到透明度和不透明与信任和买进，更好的决策，并避免游戏，它试图为那些希望开发社会技术方法的人提供有用的见解，这些方法可能对实地的从业人员有用。这篇论文的扩展存档版本可以作为Veale M.，Van Kleek M.，&宾斯河。（2018年）。“公平和问责制设计需要算法支持高风险公共部门决策”2018年CHI计算机系统人为因素会议（CHI'18），http://doi.org/10.1145/3173574.3174014。
2018-11-05 cs.CY cs.LG
