Dataset Structural Index: Leveraging a machine's perspective towards visual data
Independent Researcher.
随着视觉和感知架构的进步,我们已经意识到,与算法相比,处理数据同样重要。直到今天,我们都是根据我们的知识和对世界的看法来训练机器。数据集结构索引(DSI)的整个概念围绕着理解机器对数据集的看法。通过DSI,我展示了两个Meta值,通过它们我们可以在可视化数据集上获得更多信息,并使用它来优化数据,创建更好的架构,并能够猜测哪个模型最好。这两个值是“品种贡献率”和“相似性矩阵”。在本文中,我展示了DSI的许多应用,其中之一是如何在更少的数据量上训练相同的模型架构来实现相同的准确度。
2023-01-23 cs.CV cs.LG
Machine Learning for Building Energy and Indoor Environment: A Perspective
North China Electric Power University(华北电力大学);China Academy of Building Research(中国建筑科学研究院)
机器学习在许多实际应用中是一种很有前途的技术。从这个角度,我们阐述了机器学习的发展和应用。指出机器学习方法在节能和室内环境领域的理论和应用尚不成熟,难以确定具有较好预测性的模型结构。为了更好地解决这一问题,我们利用人工神经网络模型对室内可培养真菌浓度进行预测,取得了较好的准确性和方便性。混合方法的提出进一步拓展了机器学习方法的应用领域。并将基于高温超导体的神经网络模型成功应用于建筑能源系统的优化。我们希望通过我们的介绍和观点,这种新的方法可以引起更多的研究者的关注,因为它具有准确性和可靠性的潜在发展。但其在其他领域的可行性有待进一步推广。
2017-12-31 cs.CY cs.LG
A Perspective on Symbolic Machine Learning in Physical Sciences
Qatar Computing Research Institute(卡塔尔计算研究所)
本文从视角角度探讨符号机器学习在物理科学中的应用,强调其与数值机器学习互补,以应对深度神经网络不可解释性,并加速物理发现。
2025-02-25 cs.LG hep-ph hep-th
Lensing Machines: Representing Perspective in Latent Variable Models
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学)
许多数据集代表了对同一数据的不同观察方式的组合,这些方式导致了不同的概括。例如,具有由不同的人生成的示例的语料库可以是许多视角的混合,并且可以由其他人以不同的视角来查看。并不总是能够通过预先对表示每个视点的示例进行清晰的分离来表示视点,并为每个视点训练一个单独的模型。我们引入透镜,一种混合主动技术,用于提取机器学习表示和人类专家观点之间的透镜或映射,并生成提供同一数据集多个视角的透镜模型。我们应用透镜的两类潜变量模型:混合隶属度模型,矩阵分解模型的背景下,两个心理健康的应用程序,我们捕获和灌输临床心理学家的观点到这些模型。我们的工作显示了机器学习从业者正式将知识渊博的领域专家的观点纳入其模型的好处,而不是孤立地估计非透镜模型本身。
2022-01-20 cs.AI cs.HC cs.LG
A Survey of Optimization Methods from a Machine Learning Perspective
East China Normal University(华东师范大学)
机器学习发展迅速,取得了许多理论突破,在各个领域得到广泛应用。优化作为机器学习的重要组成部分,受到了研究者的广泛关注。随着数据量的指数级增长和模型复杂度的增加,机器学习中的优化方法面临着越来越多的挑战。在机器学习中,人们相继提出了许多解决优化问题或改进优化方法的工作。从机器学习的角度对优化方法进行系统的回顾和总结,对优化技术的发展和机器学习的研究都具有重要的指导意义。在本文中,我们首先描述了机器学习中的优化问题。然后介绍了常用优化方法的原理和进展。接下来,我们总结了优化方法在一些热门的机器学习领域的应用和发展。最后,我们对机器学习中的优化问题进行了探讨和展望。
2019-10-23 cs.LG math.OC stat.ML
Privacy and Transparency in Graph Machine Learning: A Unified Perspective
Delft University of Technology(代尔夫特理工大学)
图机器学习(GraphML),其中经典的机器学习被推广到不规则的图形域,最近已经享受了复兴,导致了令人眼花缭乱的模型阵列及其在几个领域的应用。随着它越来越适用于敏感领域和政府机构对可信人工智能系统的监管,研究人员已经开始研究图学习的透明度和隐私问题。然而,这些主题主要是独立研究的。在这份立场文件中,我们提供了一个关于GraphML中隐私和透明度相互作用的统一观点。特别是,我们描述的挑战和可能的研究方向,在GraphML的隐私透明度权衡的正式调查。
2022-10-19 cs.CR cs.LG
Application of Machine Learning in understanding plant virus pathogenesis: Trends and perspectives on emergence, diagnosis, host-virus interplay and management
Jawaharlal Nehru University(贾瓦哈拉尔·尼赫鲁大学);Indian Institute of Technology Delhi(印度理工学院德里分校)
近年来,在生物学领域中包括高通量技术已经产生了大量的生物学数据。现在,将这些庞大的数据转化为知识是计算生物学的主要挑战。传统的数据分析方法已经无法完成这项任务。因此,研究人员正在转向基于机器学习的方法来分析高维大数据。在机器学习中,一旦用训练数据集训练了模型,就可以将其应用于独立的测试数据集。当前,深度学习算法进一步推动了机器学习在包括植物病毒学在内的生物学多个领域的应用。鉴于机器学习在植物病毒学研究中的应用取得了重大进展,本文对机器学习进行了介绍,并对机器学习在病毒疾病诊断、宿主-病毒相互作用和植物病毒发生等方面的研究趋势和前景进行了全面的讨论。
2021-12-03 cs.LG
Adversarial Machine Learning -- Industry Perspectives
Microsoft(微软公司)
根据对28家组织的采访,我们发现行业从业者没有配备战术和战略工具来保护、检测和应对对其机器学习(ML)系统的攻击。我们利用采访中的见解,并列举了在传统软件安全开发的背景下,在保护机器学习系统方面的差距。我们从两个角色的角度撰写本文:开发人员/ML工程师和安全事件响应者,他们的任务是在设计,开发和部署ML系统时保护ML系统。本文的目标是让研究人员在对抗ML时代修改和修改工业级软件的安全开发规范。
2021-03-19 cs.CR cs.CY cs.LG
Mercer Large-Scale Kernel Machines from Ridge Function Perspective
Faculty of Applied Mathematics, The Gda\'nsk University of Technology, ul. G. Narutowicza 11/12, 80-952 Gda\'nsk, Poland
本文从岭函数视角出发,研究大规模核机的Mercer性质,探讨了通过余弦函数的乘积之和近似核函数的可行性,并分析了该方法的障碍,应用于图像处理中的'一对一'方法。
2026-05-20 cs.LG math.CA
Putnam's Critical and Explanatory Tendencies Interpreted from a Machine Learning Perspective
本文重构普特南批判性与解释性倾向之分的思想脉络,论证二者的双向必要性,并借机器学习视角将其概念化为介入理论选择争论的新工具。
2025-01-06 cs.AI cs.CY cs.LG
Machine Learning Model Development from a Software Engineering Perspective: A Systematic Literature Review
University of Waterloo(滑铁卢大学)
数据科学家经常开发机器学习模型来解决行业和学术界的各种问题,但在模型开发方面也面临着一些挑战。关于机器学习开发的问题涉及这样一个事实,即这些专业人员没有意识到他们通常执行临时实践,这些实践可以通过采用软件工程开发手册中提出的活动来改进。当然,由于机器学习系统与传统的软件系统不同,它们各自的开发过程中的一些差异是可以预期的。在这种情况下,本文是从软件工程的角度来研究ML模型开发过程中出现的挑战和实践,重点是了解软件开发人员如何从应用或调整传统的软件工程过程中受益于机器学习工作流。
2021-02-15 cs.AI cs.LG cs.SE
Societal biases reinforcement through machine learning: A credit scoring perspective
University College London(伦敦大学学院)
机器学习和人工智能是否确保了社会偏见的滋生?本文旨在分析这一问题。事实上,由于算法是由数据提供信息的,如果这些数据被破坏,从社会偏见的角度来看,好的机器学习算法将从提供的数据中学习,并在与预期的分类或回归相关的预测中反映学习到的模式。换句话说,社会的行为方式,无论是积极的还是消极的,都必然会被模型所反映。在本文中,我们分析了社会偏见是如何从数据传输到银行贷款审批,通过使用客户通过其应用程序提供的完全相同的信息来预测客户的性别或种族。
2020-10-31 cs.LG stat.AP stat.CO
Towards Analyzing and Understanding the Limitations of VAPO: A Theoretical Perspective
本文从理论视角分析VAPO框架在长思维链强化学习中的局限性,探讨价值函数逼近、优势估计及优化机制,旨在推动更稳健的推理智能体发展。
2025-05-27 cs.CL cs.LG
Towards Better Analysis of Machine Learning Models: A Visual Analytics Perspective
Tsinghua University(清华大学)
交互式模型分析是在交互式可视化的帮助下理解、诊断和精炼机器学习模型的过程,对于用户有效地解决现实世界的人工智能和数据采掘问题非常重要。大数据分析的巨大进步导致了各种各样的交互式模型分析任务。在本文中,我们提出了一个全面的分析和解释这一迅速发展的地区。具体来说,我们将相关工作分为三类:理解、诊断和细化。每个类别都以最近有影响力的工作为例。还探讨和讨论了未来可能的研究机会。
2017-02-04 cs.LG stat.ML
SLA Violation Prediction In Cloud Computing: A Machine Learning Perspective
Université de Montréal(蒙特利尔大学)
服务水平协议(SLA)是云系统的重要组成部分,以确保为客户提供最大的服务可用性。如果违反SLA,供应商必须支付罚款。在本文中,我们探讨了两个机器学习模型:朴素贝叶斯和随机森林分类器来预测SLA违规。由于SLA违规在现实世界中是罕见的事件(约0.2%),因此分类任务变得更具挑战性。为了克服这些挑战,我们使用了几种重采样方法。我们发现,随机森林与SMOTE-ENN重采样有最好的性能与其他方法的准确率为99.88%,F_1得分为0.9980。
2016-11-30 cs.DC cs.LG
Generative AI Agents in Autonomous Machines: A Safety Perspective
Harvard University(哈佛大学)
本文从安全视角研究生成式AI智能体集成到自主机器中的安全要求与挑战,并提出开发和实施全面安全记分卡以保障其安全部署。
2024-10-20 cs.AI cs.LG cs.RO
Towards Perspective-Based Specification of Machine Learning-Enabled Systems
Pontifical Catholic University of Rio de Janeiro(里约热内卢天主教大学)
机器学习(ML)团队经常在项目上工作,只是为了意识到模型的性能不够好。事实上,支持ML的系统的成功涉及将数据与业务问题对齐,将其转换为ML任务,试验算法,评估模型,从用户那里捕获数据等。文献表明,支持ML的系统很少基于这些问题的精确规范构建,导致ML团队由于不正确的假设而变得不一致,这可能会影响此类系统的质量和整体项目的成功。为了帮助解决这个问题,本文介绍了我们的工作,以一个基于视角的方法来指定ML启用系统。该方法涉及分析一组45个ML关注点,分为五个方面:目标,用户体验,基础设施,模型和数据。本文的主要贡献是提供了两个新的工件,可用于帮助指定支持ML的系统:(i)基于透视的ML任务和关注点图和(ii)基于透视的ML规范模板。
2022-06-20 cs.LG cs.SE
Causality Learning: A New Perspective for Interpretable Machine Learning
University of Technology Sydney(悉尼科技大学)
近年来,机器学习在图像识别、文本分类、信用评分预测、推荐系统等领域得到了快速发展。尽管在不同领域取得了巨大的成就,但研究人员仍然关注任何机器学习(ML)技术下的机制,这些机制本质上是黑箱的,并且为了达到更高的准确性而变得更加复杂。因此,解释机器学习模型是目前研究界的一个主流课题。然而,传统的可解释机器学习关注的是关联而不是因果关系。本文概述了因果分析的基本背景和关键概念,然后总结了最新的因果方法可解释的机器学习。本文还讨论了评估方法质量的评估技术,以及因果可解释性中的开放问题。
2021-09-17 cs.AI cs.LG stat.ML
Quantum machine learning and quantum biomimetics: A perspective
Universidad de Sevilla(塞维利亚大学)
量子机器学习已经成为量子技术中令人兴奋和有前途的范例。一方面,它可以允许通过量子设备进行更有效的机器学习计算,而另一方面,可以使用机器学习技术来更好地控制量子系统。在量子机器学习中,量子强化学习的目标是开发“智能”量子代理,这些代理可以与外部世界进行交互并适应它,其策略是实现某些最终目标。量子机器学习中的另一个范例是量子自动编码器,它可以允许人们通过训练过程在量子设备中使用更少的资源。此外,量子仿生学领域旨在建立生物和量子系统之间的类比,以寻找可能实现有用应用的先前无意的连接。最近的两个例子是量子人工生命和量子忆阻器的概念。在这个视角中,我们对这些主题进行了概述,描述了科学界进行的相关研究。
2020-05-30 cond-mat.mes-hall cs.LG quant-ph
A Perspective on Machine Learning Methods in Turbulence Modelling
Univ. of Magdeburg "Otto von Guericke"(奥托·冯·格里克马格德堡大学);University of Stuttgart(斯图加特大学)
本文综述了数据驱动湍流闭合模型的研究现状。它提供了一个视角的挑战和开放的问题,但也对机器学习方法应用于参数估计,模型识别,关闭项重建和超越的优势和承诺,主要是从大涡模拟和相关技术的角度。我们强调,一致性的训练数据,模型,底层物理和离散化是一个关键的问题,需要考虑一个成功的ML增强建模策略。为了使讨论对这两个领域的非专家有用,我们以简洁和自洽的方式介绍了湍流中的建模问题以及突出的ML范式和方法。接下来,我们对当前数据驱动模型的概念和方法进行了调查,强调了重要的发展,并将其置于所讨论的挑战的背景下。
2020-10-23 cs.CE cs.LG
Radiological images and machine learning: trends, perspectives, and prospects
University of Pittsburgh(匹兹堡大学)
机器学习在放射图像中的应用是一个日益活跃的研究领域,预计将在未来五到十年内增长。机器学习的最新进展有可能识别和分类来自不同放射成像模式的复杂模式,例如X射线,计算机断层扫描,磁共振成像和正电子发射断层扫描成像。在许多应用中,基于机器学习的系统表现出与人类决策相当的性能。机器学习的应用是未来临床决策和监测系统的关键组成部分。该综述涵盖了各种机器学习技术背后的基本概念及其在几个放射成像领域的应用,如医学图像分割,脑功能研究和神经疾病诊断,以及计算机辅助系统,图像配准和基于内容的图像检索系统。同时,我们将简要讨论机器学习在放射成像中应用的当前挑战和未来方向。通过深入了解如何利用机器学习驱动的应用程序,我们希望临床医生能够更准确,更有效地预防和诊断疾病。
2019-03-27 cs.LG eess.IV
Mobile Machine Learning Hardware at ARM: A Systems-on-Chip (SoC) Perspective
University of Rochester(罗切斯特大学);ARM Research(ARM研究院)
机器学习在AR/VR、ADAS等新兴移动应用领域中发挥着越来越重要的作用。因此,硬件架构师已经为机器学习算法(特别是神经网络)设计了定制硬件,以提高计算效率。然而,机器学习通常只是复杂端到端应用中的一个处理阶段,涉及移动片上系统(SoC)中的多个组件。只关注机器学习加速器会在系统(SoC)层面失去更大的优化机会。本文认为,硬件架构师应该扩大优化范围到整个SoC。我们展示了一个特定的案例研究在连续计算机视觉领域的摄像头传感器,图像信号处理器(ISP),存储器和NN加速器协同协同设计,以实现最佳的系统级效率。
2018-02-01 cs.AR cs.LG cs.NE
Perspective: Energy Landscapes for Machine Learning
University of Notre Dame(圣母大学);New York University(纽约大学);Microsoft Research Ltd(微软研究院)
机器学习技术越来越多地用作物理科学中灵活的非线性拟合和预测工具。表现出多个解作为局部最小值的拟合函数可以根据相应的机器学习景观进行分析。探索和可视化分子势能景观的方法可以应用于这些机器学习景观,以获得对训练中涉及的解决方案空间和相应预测性质的新见解。特别是,我们可以定义类似于分子结构、热力学和动力学的量,并将这些涌现的性质与底层景观的结构联系起来。这个观点的目的是描述这些类比与最近的应用程序的例子,并建议新的跨学科研究的途径。
2017-03-23 cond-mat.dis-nn cs.CV cs.LG
A Machine Learning Perspective on Predictive Coding with PAQ
University of British Columbia(不列颠哥伦比亚大学)
PAQ8是一种开源无损数据压缩算法,目前在许多基准测试中达到了最佳压缩率。本报告从统计机器学习的角度详细描述了PAQ8。这表明,理解PAQ8的一些模块并使用这种理解来改进方法是可能的。然而,其他模块的行为的直观统计解释仍然难以捉摸。我们希望本报告中的描述将成为讨论的起点,这将增加我们的理解,导致PAQ8的改进,并促进知识从PAQ8转移到其他机器学习方法,如递归神经网络和随机记忆器。最后,该报告介绍了PAQ在机器学习任务中的广泛新应用,包括语言建模和自适应文本预测、自适应游戏、分类以及使用深度学习领域特征的压缩。
2011-08-16 cs.AI cs.CV cs.IR
An operator preconditioning perspective on training in physics-informed machine learning
ETH Zürich(苏黎世联邦理工学院);Sorbonne Université(索邦大学);Extrality(埃克斯特拉蒂(Extrality));ETH AI Center(苏黎世联邦理工学院人工智能中心);Seminar for Applied Mathematics(应用数学研讨班);Institute of Intelligent Systems and Robotics(智能系统与机器人研究所)
本文从算子预条件视角分析PINNs训练困难,揭示梯度下降性能受限于PDE算子Hermitian平方的条件数,并通过数学分析与实验验证多种预条件策略以改善训练。
2024-05-03 cs.LG
A New Perspective on Machine Learning: How to do Perfect Supervised Learning
iFLYTEK Laboratory for Neural Computing and Machine Learning (iNCML)(科大讯飞神经计算与机器学习实验室(iNCML));Department of Electrical Engineering and Computer Science York University(约克大学电气工程与计算机科学系)
在这项工作中,我们将带宽限制的概念引入到机器学习理论中,因为所有的物理过程在本质上都是带宽限制的,包括现实世界的机器学习任务。在考虑了带限约束后,我们的理论分析表明,所有实际的机器学习任务在完美意义下都是渐近可解的。此外,这种可解决性的关键几乎完全依赖于两个因素:i)足够大量的训练样本,超过由底层任务的难度测量确定的阈值; ii)足够复杂和带宽限制的模型。此外,对于一些特殊情况,我们推导出了新的完美学习的误差界,它可以量化学习的难度。这些推广界不仅是渐近收敛的,而且与模型的复杂性无关。我们在泛化方面的新结果为解释最近使用神经网络等复杂模型的大规模监督学习的成功提供了一个新的视角。
2019-03-19 cs.AI cs.LG stat.ML
A Systematic Literature Review on Federated Machine Learning: From A Software Engineering Perspective
CSIRO(澳大利亚联邦科学与工业研究组织);University of New South Wales(新南威尔士大学)
联邦学习是一种新兴的机器学习范例,其中客户端在本地训练模型并基于本地模型更新来制定全局模型。为了识别联邦学习的最新技术并探索如何开发联邦学习系统,我们从软件工程的角度进行了系统的文献综述,基于231项主要研究。我们的数据综合涵盖了联邦学习系统开发的生命周期,包括背景理解、需求分析、架构设计、实现和评估。我们强调并总结了结果中的发现,并确定了未来的趋势,以鼓励研究人员推进他们目前的工作。
2021-05-28 cs.DC cs.LG cs.SE
Langevin Unlearning: A New Perspective of Noisy Gradient Descent for Machine Unlearning
Department of Electrical and Computer Engineering(电气与计算机工程系);Georgia Institute of Technology(佐治亚理工学院);Department of Mathematics(数学系);Massachusetts Institute of Technology(麻省理工学院)
针对机器遗忘,提出基于噪声梯度下降的 Langevin 遗忘框架,统一 DP 学习与隐私认证遗忘,支持非凸问题、节省复杂度并实现顺序和批量遗忘。
2025-09-24 cs.LG
Bioclimating Modelling: A Machine Learning Perspective
Charles Sturt University(查尔斯特大学)
许多机器学习(ML)方法被广泛用于生成生物气候模型,以预测生物地理范围与气候的关系。预测生物活动范围的变化、受气候变化影响的入侵物种活动范围等应用是理解气候变化影响的重要参数。然而,基于机器学习的方法的成功取决于许多因素。虽然可以肯定地说,没有特定的ML技术可以在所有应用程序中有效,并且技术的成功主要取决于应用程序或问题的类型,但了解它们的行为以确保技术的明智选择是有用的。本文对基于机器学习的生物气候模型生成方法进行了综述,并分析了影响生物气候模型生成成功的因素。考虑到统计技术的广泛使用,在我们的讨论中,我们也包括生物气候建模中使用的传统统计技术。
2013-06-18 cs.LG stat.ML
Graph signal processing for machine learning: A review and new perspectives
大规模结构化数据的有效表示、处理、分析和可视化,特别是涉及网络和图形等复杂领域的数据,是现代机器学习的关键问题之一。图形信号处理(GSP)是信号处理模型和算法的一个充满活力的分支,旨在处理图形上支持的数据,为解决这一挑战开辟了新的研究途径。在这篇文章中,我们回顾了GSP概念和工具,如图过滤器和变换,新的机器学习算法的发展作出的一些重要贡献。特别是,我们的讨论集中在以下三个方面:利用数据结构和关系先验,提高数据和计算效率,提高模型的可解释性。此外,我们提供了新的前景,未来发展的GSP技术,可以作为一个桥梁之间的应用数学和信号处理的一方,机器学习和网络科学的其他。这些不同学科之间的交叉可能有助于解开现代复杂数据分析的众多挑战。
2020-07-31 cs.LG cs.SI eess.SP
Transfer Learning for Voice Activity Detection: A Denoising Deep Neural Network Perspective
Tsinghua University(清华大学)
源、目标带噪语料的不匹配问题严重阻碍了基于机器学习的语音激活检测(VAD)的实际应用。本文试图从迁移学习的角度来解决这一问题。迁移学习试图找到一个共同的学习机或一个共同的特征子空间,由源语料库和目标语料库共享。使用去噪深度神经网络作为学习机。三个转移技术,其目的是学习共同的特征表示,用于分析。实验结果证明了迁移学习方案对失配问题的有效性。
2013-03-08 cs.LG
How to Do Machine Learning with Small Data? -- A Review from an Industrial Perspective
Fraunhofer Institute for Ceramic Technologies and Systems(弗劳恩霍夫陶瓷技术与系统研究所);Brandenburg University of Technology Cottbus–Senftenberg(勃兰登堡工业大学科特布斯-森夫滕贝格)
本文从工业视角综述少量数据机器学习,定义其概念、提出五大挑战,并给出领域表示、数据采集及方法分类体系。
2023-11-13 cs.LG
Confidential Machine Learning Computation in Untrusted Environments: A Systems Security Perspective
Sungkyunkwan University(成均馆大学)
随着机器学习(ML)技术和应用正在迅速改变许多计算领域,与ML相关的安全问题也不断出现。在系统安全领域,已经做出了许多努力来确保ML模型和数据的机密性。ML计算通常不可避免地在不受信任的环境中执行,并且需要复杂的多方安全要求。因此,研究人员利用可信执行环境(TEE)来构建机密的ML计算系统。我们通过对不可信环境中机密ML计算中的攻击向量和缓解进行分类,分析多方场景中的复杂安全需求,并总结机密ML实施中的工程挑战,进行了系统而全面的调查。最后,我们根据我们的研究提出了未来的研究方向。
2022-01-06 cs.CR cs.LG
Requirements Engineering for Machine Learning: Perspectives from Data Scientists
Technische Universität Berlin(柏林工业大学);RISE Research Institutes of Sweden AB(瑞典RISE研究院AB)
机器学习(ML)越来越多地用于现实世界的应用。在本文中,我们描述了我们正在努力定义的特点和独特的需求工程(RE)的ML为基础的系统的挑战。作为第一步,我们采访了四位数据科学家,以了解ML专家如何处理需求和期望的启发、规范和保证。结果表明,发展模式的变化,即,从编码到培训,也需要RE的变化。我们的结论是,ML系统的开发要求需求工程师:(1)了解ML性能指标,以说明良好的功能需求,(2)了解新的质量要求,如可解释性,不受歧视,或特定的法律要求,(3)在RE过程中集成ML的细节。我们的研究为ML系统的RE方法提供了第一个贡献。
2019-08-13 cs.LG cs.SE
Quantum machine learning: a classical perspective
University College London(伦敦大学学院);University of Cambridge(剑桥大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Istituto Italiano di Tecnologia(意大利理工学院);University of Oxford(牛津大学);Shanghai Jiao Tong University(上海交通大学);ETH Zürich(苏黎世联邦理工学院)
最近,计算能力和数据可用性的提高以及算法的进步,使机器学习技术在回归、分类、数据生成和强化学习任务中取得了令人印象深刻的结果。尽管取得了这些成功,但芯片制造的物理极限以及数据集规模的不断增加,正在促使越来越多的研究人员探索利用量子计算的力量来加速经典机器学习算法的可能性。在这里,我们回顾了量子机器学习的文献,并讨论了经典机器学习和量子计算专家的混合读者群的观点。特别强调将放在澄清量子算法的局限性,他们如何与他们最好的经典同行相比,为什么量子资源预计将提供学习问题的优势。在机器学习中存在噪声和某些计算困难的问题的学习被认为是该领域有前途的方向。实际问题,如如何将经典数据上传到量子形式,也将得到解决。
2018-02-13 cs.LG quant-ph stat.ML
Constructing Effective Machine Learning Models for the Sciences: A Multidisciplinary Perspective
University of Luxembourg(卢森堡大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
从数据中学习已经导致了许多学科的实质性进步,包括文本和多媒体搜索、语音识别和车载导航。机器学习能在自然科学和社会科学领域实现类似的飞跃吗?这当然是许多科学领域的期望,近年来已经看到了大量的非线性模型应用于广泛的数据集。然而,灵活的非线性解决方案并不总是在手动将变量之间的转换和交互添加到线性回归模型时得到改进。我们将讨论如何在构建数据驱动模型之前认识到这一点,以及这种分析如何帮助我们转向本质上可解释的回归模型。此外,对于自然科学和社会科学中的各种应用,我们证明了为什么可以看到更复杂的回归模型的改进,为什么他们可能不会。
2022-11-21 cs.LG stat.ML
A Survey on Data Collection for Machine Learning: a Big Data -- AI Integration Perspective
KAIST(韩国科学技术院)
数据汇集是机器学习中的一个主要瓶颈,也是多个社区中的一个活跃研究课题。数据汇集最近成为一个关键问题,主要有两个原因。首先,随着机器学习的使用越来越广泛,我们看到新的应用程序不一定有足够的标记数据。其次,与传统的机器学习不同,深度学习技术自动生成特征,这节省了特征工程成本,但反过来可能需要更大量的标记数据。有趣的是,最近的数据汇集研究不仅来自机器学习、自然语言和计算机视觉社区,而且由于处理大量数据的重要性,也来自数据管理社区。在本调查中,我们从数据管理的角度对数据汇集进行了全面的研究。数据汇集主要包括数据采集、数据标记和现有数据或模型的改进。我们提供了这些操作的研究环境,提供了何时使用哪种技术的指导方针,并确定了有趣的研究挑战。机器学习和数据管理的集成用于数据汇集是大数据和人工智能(AI)集成的更大趋势的一部分,并为新的研究开辟了许多机会。
2019-08-12 cs.LG stat.ML
A Hierarchy of Limitations in Machine Learning
Berkman Klein Center for Internet & Society at Harvard University(哈佛大学伯克曼·克莱因互联网与社会中心)
“所有的模型都是错误的,但有些是有用的,”乔治E。P. Box(1979).机器学习一直专注于概率模型在社会系统预测中的有用性,但直到现在才开始掌握这些模型错误的方式以及这些缺陷的后果。本文试图对应用于社会时机器学习中模型的具体概念、程序和统计限制进行全面、结构化的概述。机器学习建模者自己可以使用所描述的层次结构来识别可能的故障点,并考虑如何解决这些问题,而机器学习模型的消费者可以知道在面临关于是否、在何处以及如何应用机器学习的决策时应该质疑什么。局限性从量化本身固有的承诺,到显示未建模的依赖关系如何导致交叉验证作为评估模型性能的一种方式过于乐观。
2020-02-29 cs.CY cs.LG econ.EM
No Fair Lunch: A Causal Perspective on Dataset Bias in Machine Learning for Medical Imaging
Microsoft Health Futures(微软健康未来部门);Imperial College London(帝国理工学院);The Hospital for Sick Children(病童医院)
本文从因果视角分析医学影像机器学习中的数据集偏差,提出三类因果偏差机制,并指出当前缓解方法的局限性,进而提供一个实用的三步框架以支持安全公平的AI预测模型开发。
2023-07-31 cs.AI cs.CV cs.LG
Fairness-aware machine learning: a perspective
University of Helsinki(赫尔辛基大学)
从数据中学习的算法越来越多地用于决定我们生活中的许多方面:从我们看的电影,到我们支付的价格,或者我们得到的药物。然而,越来越多的证据表明,不适当训练的算法可能会无意中歧视人们。例如,在候选人简历与职位描述的自动匹配中,算法可能会捕获并传播与种族相关的偏见。已经提出了几种针对特定算法的修复方法,但从计算的角度来看,这种歧视发生的基本机制尚未得到科学的理解。我们需要从理论上理解算法是如何变得具有歧视性的,并建立预防的基本机器学习原则。我们需要从整体上分析机器学习过程,以系统地解释歧视发生的根源,这将允许设计全局机器学习优化标准,以确保预防,而不是将经验约束逐例推入现有算法。因此,最先进的技术将从启发式修复发展到积极主动和有理论支持的预防。这不仅是因为法律要求保护弱势群体。大数据计划的渗透只会增加,计算机科学需要向公众提供可靠的解释和问责制,以免公众的担忧导致对机器学习的不必要的限制性规定。
2017-08-02 cs.AI cs.CY cs.LG
Unveiling Nonlinear Dynamics in Catastrophe Bond Pricing: A Machine Learning Perspective
Nankai University(南开大学);University of Guelph(圭尔夫大学);The University of Melbourne(墨尔本大学)
本文提出利用机器学习模型对巨灾债券进行定价,揭示了传统线性模型忽视的风险因素间非线性关系与复杂交互,基于1999至2021年交易数据验证了该方法能提升定价准确性并深化对风险结构的理解。
2024-08-26 cs.LG q-fin.CP q-fin.PR
REAL ML: Recognizing, Exploring, and Articulating Limitations of Machine Learning Research
University of Colorado Boulder(科罗拉多大学博尔德分校);Microsoft Research(微软研究院)
限制的透明度可以提高研究的科学严谨性,有助于确保对研究结果的适当解释,并使研究主张更加可信。尽管有这些好处,但机器学习(ML)研究社区缺乏关于披露和讨论限制的完善规范。为了解决这一差距,我们与30名ML和ML附近的研究人员进行了一个迭代设计过程,以开发和测试REAL ML,这是一组指导活动,旨在帮助ML研究人员认识、探索和阐明其研究的局限性。通过三阶段的访谈和调查研究,我们确定了ML研究人员对局限性的看法,以及他们在识别、探索和阐明局限性时所面临的挑战。我们开发REAL ML来解决其中的一些实际挑战,并强调需要更广泛的社区规范转变来解决的其他文化挑战。我们希望我们的研究和REAL ML有助于推动ML研究社区更积极和适当地参与限制。
2022-05-05 cs.AI cs.CY cs.LG
Machine Learning Approaches to Predict Breast Cancer: Bangladesh Perspective
Daffodil International University(达法迪尔国际大学)
近年来,乳腺癌已上升为最主要的死亡原因之一。在所有恶性肿瘤中,这是全球妇女死亡的最常见和主要原因。人工诊断这种疾病需要大量的时间和专业知识。乳腺癌的检测是耗时的,可以通过开发基于机器的乳腺癌预测来减少疾病的传播。在机器学习中,系统可以从先前的实例中学习,并使用各种统计,概率和优化方法从嘈杂或复杂的数据集中找到难以检测的模式。这项工作比较了几个机器学习算法的分类准确性,精度,灵敏度和特异性在一个新收集的数据集。在这项工作中,决策树,随机森林,逻辑回归,朴素贝叶斯和XGBoost,这五种机器学习方法已经实现,以在我们的数据集上获得最佳性能。这项研究的重点是找到最好的算法,可以预测乳腺癌的最大准确性方面的类别。这项工作评估了每个算法的数据分类的效率和有效性方面的质量。并与其他已发表的研究成果进行了比较。在实现该模型后,本研究在随机森林和XGBoost上实现了最佳模型准确率,为94%。
2022-06-30 cs.LG
Topology Optimization via Machine Learning and Deep Learning: A Review
Korea Advanced Institute of Science and Technology(韩国科学技术院);Narnia Labs(纳尼亚实验室)
本文综述基于机器学习(含深度学习)的拓扑优化研究,从TO与ML双视角分析其动机、方法、局限及未来方向。
2023-06-05 cs.LG
What-is and How-to for Fairness in Machine Learning: A Survey, Reflection, and Perspective
Carnegie Mellon University(卡内基梅隆大学);The Chinese University of Hong Kong(香港中文大学)
本文综述机器学习中的多种公平性概念,结合正义理论与动态长期影响视角,提出区分不同公平性探究的流程图,强调公平目标与分析手段相匹配。
2023-06-02 cs.CY cs.LG
Privacy-preserving machine learning for healthcare: open challenges and future perspectives
New York University Abu Dhabi(纽约大学阿布扎比分校)
本文综述了面向医疗保健的隐私保护机器学习方法,重点分析隐私保护训练与推理即服务,梳理现有趋势、挑战与未来方向,以推动私有高效医疗ML模型的实际落地。
2023-03-27 cs.CR cs.LG
Scientific machine learning in Hydrology: a unified perspective
Université du Québec à Chicoutimi(魁北克大学希库蒂米分校)
本文提出了一种统一的SciML框架,以整合水文学中的物理知识,促进方法学的统一和水文学建模的持续发展。
2025-05-24 cs.LG physics.comp-ph physics.data-an
Introduction to Stochastic Differential Equations for Generative Machine Learning: A Variational Perspective
Department of Biology, University of Copenhagen(哥本哈根大学生物系);Department of Applied Mathematics and Computer Science, Technical University of Denmark(丹麦技术大学应用数学与计算机科学系);Google DeepMind(谷歌DeepMind);Technical University of Berlin (TU Berlin)(柏林工业大学);Technical University of Munich(慕尼黑工业大学)
本文从变分视角出发,介绍常微分和随机微分方程在生成式机器学习中的应用,推导ELBO,并统一讨论扩散模型、分数匹配和流匹配。
2026-07-01 cs.LG
Three-Factor Learning in Spiking Neural Networks: An Overview of Methods and Trends from a Machine Learning Perspective
AGH University of Krakow(克拉科夫AGH大学);Jagiellonian University(雅盖隆大学);ACC Cyfronet AGH;Sano - Centre for Computational Medicine(Sano计算医学中心)
本文从机器学习视角综述脉冲神经网络中的三因子学习规则,涵盖理论基础、算法实现及其在强化学习与神经形态计算中的应用,并指出研究空白与未来方向。
2025-04-25 cs.AI cs.LG cs.NE
A Comprehensive Machine Learning Framework for Heart Disease Prediction: Performance Evaluation and Future Perspectives
该研究构建包含预处理、训练与评估的机器学习框架,在303例心脏病数据上比较三类模型,经GridSearchCV和RandomizedSearchCV调优后,Random Forest以91%准确率表现最佳。
2025-05-15 cs.AI cs.LG
Survey of Computerized Adaptive Testing: A Machine Learning Perspective
本文从机器学习角度综述了计算机自适应测试,探讨了测量模型、题目选择算法、题库构建与测试控制等核心问题,分析了当前方法的优劣与挑战,旨在推动更高效、公平的自适应测试系统。
2026-03-15 cs.AI cs.CY cs.IR
Machine Learning: Challenges, Limitations, and Compatibility for Audio Restoration Processes
University of Wisconsin-Eau Claire(威斯康星大学欧克莱尔分校);North Carolina A&T State University(北卡罗来纳农工州立大学)
在本文中,机器学习网络被探索用于恢复退化和压缩的语音音频。该项目的目的是建立一个新的训练模型,从语音数据,学习压缩伪像失真的特点介绍了数据丢失从有损压缩和分辨率损失与现有的算法SEGAN:语音增强生成对抗网络。然后,从模型中得到的生成器将用于恢复退化的语音音频。本文详细介绍了随后的兼容性和操作问题的检查,这些问题是通过使用弃用的代码来解决的,这些代码阻碍了训练模型的成功开发。本文进一步探讨了当前机器学习的挑战、局限性和兼容性。
2021-09-06 cs.LG cs.SD eess.AS
Human-like machine learning: limitations and suggestions
CogniLabs Ltd(认知实验室有限公司)
本文试图解决机器学习在其目前的实施问题。众所周知,机器学习算法需要大量的数据用于训练目的,而深度学习的最新发展极大地增加了这一要求。算法的性能取决于数据的质量,因此,算法与它们所训练的数据一样好。监督学习是基于人类学习过程通过分析命名(即注释)对象,场景和动作而开发的。在大量数据(即大数据)上进行训练是正确的还是错误的方法,这是有争议的。事实上,训练算法和我们学习自己的方式一样,也有局限性。本文讨论了将类人方法应用于训练算法的问题,以及在使用有限数据时这种方法的影响。一些目前的研究涉及非数据驱动的算法和自然的例子也进行了讨论,并提出了某些替代方法。
2018-11-14 cs.AI cs.LG
Explainable Artificial Intelligence and Machine Learning: A reality rooted perspective
Tampere University(坦佩雷大学);Tampere University of Technology(坦佩雷理工大学);University of Applied Sciences Upper Austria(上奥地利应用科学大学)
我们已经习惯了由于技术进步而在几乎所有科学领域产生的大数据的可用性。然而,对这些数据的分析面临着巨大的挑战。其中之一涉及人工智能(AI)或机器学习方法的可解释性。目前,许多这样的方法在其工作机制方面是不透明的,因此被称为黑盒模型,最著名的是深度学习方法。然而,人们已经意识到,这对包括健康科学和刑事司法在内的许多领域构成了严重的问题,并且已经提出了支持可解释人工智能的论点。在本文中,我们没有假设通常的观点来呈现可解释的人工智能,而是提供了一个讨论可解释的人工智能可以是什么。不同之处在于,我们并没有提出一厢情愿的想法,而是提出了与物理学之外的科学理论有关的基于现实的属性。
2020-01-26 cs.AI cs.CV cs.LG