Challenges in Representation Learning: A report on three machine learning contests
Université de Montréal(蒙特利尔大学);Google(谷歌)
ICML 2013年表征学习挑战研讨会重点讨论了三个挑战:黑盒学习挑战、面部表情识别挑战和多模态学习挑战。我们描述了为这些挑战创建的数据集,并总结了比赛的结果。我们为未来挑战的组织者提供了建议,并就从机器学习比赛中可以获得什么样的知识提出了一些意见。
2013-07-01 cs.LG stat.ML
Visual Diagnosis of Dermatological Disorders: Human and Machine Performance
Simon Fraser University(西蒙弗雷泽大学)
皮肤病是一个全球性的健康问题,在因残疾而损失的年数中,皮肤病是非致命性疾病负担的第四大原因。由于皮肤病的诊断或分类可以帮助确定有效的治疗方法,皮肤科医生已经广泛研究了如何从患者的病史和病变的视觉外观来诊断病情。计算机视觉研究人员正试图将这种诊断能力编码到机器中,最近的几项研究报告称,机器水平的性能与皮肤科医生相当。这份报告回顾了机器方法来分类皮肤图像,并考虑他们的性能相比,人类皮肤科医生。在概述了常见的图像模式、皮肤科医生的诊断方法和常见任务以及公开可用的数据集之后,我们讨论了机器皮肤病变分类的方法。然后,我们回顾直接比较人类和机器性能的作品。最后,本报告讨论了基于图像的皮肤病诊断的局限性和错误来源,适用于机器和皮肤科医生在远程皮肤病学设置。
2019-06-04 cs.CV cs.LG
Garbage In, Garbage Out? Do Machine Learning Application Papers in Social Computing Report Where Human-Labeled Training Data Comes From?
University of California, Berkeley(加州大学伯克利分校)
许多新应用领域的机器学习项目都涉及到为特定目的标记数据的人类团队,从雇用众包工作者到论文作者自己标记数据。这种任务与结构化内容分析非常相似(或某种形式),结构化内容分析是社会科学和人文科学中的一种长期方法,具有许多既定的最佳实践。在本文中,我们调查了社会计算中机器学习应用论文的样本--特别是来自ArXiv和传统出版物的论文,这些论文对Twitter数据执行ML分类任务--提供了关于是否遵循此类最佳实践的具体细节。我们的团队对每篇论文进行了多轮结构化内容分析,做出了以下决定:论文是否报告了标签人员是谁,他们的资格是什么,他们是否独立地标记了相同的项目,是否披露了评分员间的可靠性指标,给标签人员提供了什么程度的培训和/或指导,是否披露了对众包工作者的补偿,以及所述训练数据是否公开可用。我们发现,在这些做法是否得到遵守和记录方面存在很大分歧。大部分机器学习研究和教育都集中在一旦训练数据的“黄金标准”可用时所做的事情上,但我们首先讨论的是同样重要的问题,即这些数据是否可靠。
2019-12-17 cs.CL cs.CY cs.DL
Early Detection of Security-Relevant Bug Reports using Machine Learning: How Far Are We?
Université du Québec à Montréal(魁北克大学蒙特利尔分校);University of Luxembourg(卢森堡大学)
错误报告是软件开发中常见的人工制品。它们是用户与开发人员交流有关使用软件程序发布版本时遇到的问题的信息的主要渠道。然而,在问题描述中,用户可能有意或无意地暴露漏洞。在典型的维护场景中,开发团队在准备纠正补丁时会优先考虑此类安全相关的错误报告。然而,当安全相关性没有立即表达时(例如,通过标签)或由分类小组快速识别,开放的安全相关错误报告可能成为攻击者可以用来执行零日攻击的敏感信息的关键泄漏。为了支持实践者对错误报告进行分类,研究社区提出了许多用于检测安全相关错误报告的方法。近年来,基于机器学习的这方面的方法已经被报道具有有前途的性能。我们的工作侧重于这些方法,并重新审视其组成部分,以全面了解目前的成就。为此,我们构建了一个大型实验数据集,并使用不同的特征集和学习算法进行了广泛的实验。最终,我们的研究强调了不同的方法配置,产生最佳性能的分类器。
2021-12-19 cs.CL cs.LG cs.SE
Graphcore C2 Card performance for image-based deep learning application: A Report
Qwant
最近,Graphcore推出了一款IPU处理器,用于加速机器学习应用。该处理器的架构旨在实现当前机器智能模型的最新性能,用于训练和推理。在本文中,我们报告了一个基准测试,在该测试中,我们评估了IPU处理器在深度神经网络上进行推理的性能。我们专注于深度视觉模型,如ResNeXt。我们报告观察到的延迟,吞吐量和能源效率。
2020-02-27 cs.CV cs.LG
Machine Learning for Genomic Data
National University of Singapore(新加坡国立大学)
本报告探讨了机器学习技术在短时间序列基因表达数据上的应用。虽然标准的机器学习算法在较长的时间序列上工作得很好,但它们通常无法从较少的时间点找到有意义的见解。在本报告中,我们将探讨基于模型的聚类技术。我们将流行的无监督学习技术,如K-Means,高斯混合模型,贝叶斯网络,隐马尔可夫模型与着名的期望最大化算法相结合。K-Means和高斯混合模型是比较标准的,而隐马尔可夫模型和贝叶斯网络聚类是更新颖的想法,适合时间序列基因表达数据。
2021-11-15 cs.LG q-bio.GN
Analyzing Credit Risk Model Problems through NLP-Based Clustering and Machine Learning: Insights from Validation Reports
University of Warsaw(华沙大学);ING Hubs Poland(波兰ING中心);Warsaw School of Economics(华沙经济学院)
本文基于657条银行模型验证发现,利用NLP嵌入、聚类及逻辑回归和XGBoost等方法,自动识别并分类信用风险模型问题的验证维度与严重程度。
2023-06-02 cs.LG
Technical Report: When Does Machine Learning FAIL? Generalized Transferability for Evasion and Poisoning Attacks
University of Maryland, College Park(马里兰大学帕克分校)
最近的结果表明,对监督机器学习系统的攻击是非常有效的,而防御很容易被新的攻击绕过。然而,机器学习系统的规范目前缺乏精确的对手定义,现有的攻击对发起攻击的对手的实力做出了各种各样的、可能不切实际的假设。我们提出了FAIL攻击者模型,它描述了对手的知识和控制沿四个维度。我们的模型允许我们考虑各种较弱的对手,他们对所使用的功能、学习算法和训练实例的控制有限且知识不完整。为了评估FAIL模型的效用,我们考虑在现实环境中进行有针对性的中毒攻击的问题:精心制作的毒药样本必须有干净的标签,必须单独和集体不显眼,并且必须表现出FAIL模型定义的广义形式的可转移性。通过考虑这些约束,我们设计了StingRay,这是一种针对性的中毒攻击,可以针对4种机器学习应用程序,这些应用程序使用3种不同的学习算法,并且可以绕过2种现有的防御。相反,我们证明了在广义可转移性下,先验规避攻击的有效性较低。在失败对手模型下,这种攻击评估也可能为未来的防御提出有希望的方向。
2019-03-08 cs.CR cs.LG
Technical Report: Towards a Universal Code Formatter through Machine Learning
University of San Francisco(旧金山大学);Centrum Wiskunde & Informatica(荷兰数学与计算机科学研究中心)
有许多声明性框架允许我们相对容易地为任何特定语言实现代码格式化程序,但是构造它们很麻烦。第一个问题是,“每个人”都希望以不同的方式格式化他们的代码,这导致了许多格式化程序变体或荒谬的配置选项。第二,每个实现的大小与语言的语法大小成比例,导致数百条规则。在本文中,我们使用一种新的方法来解决格式化程序的构造问题,该方法可以自动导出任何给定语言的格式化程序,而无需语言专家的干预。我们介绍了一个代码格式称为CodeBuff,使用机器学习抽象的格式规则,从一个代表性的语料库,使用精心设计的功能集。我们在Java,SQL和ANTLR语法上的实验表明,CodeBuff是高效的,具有出色的准确性,并且对于给定的语言是语法不变的。它还推广到在手稿准备期间测试的第四语言。
2016-06-28 cs.AI cs.LG cs.PL
Questionable practices in machine learning
Arb Research(Arb研究);University of Bath(巴斯大学);University of Bristol(布里斯托大学)
该研究针对机器学习领域因追求最优结果催生可疑研究实践的问题,梳理了44种削弱结果可信度的相关实践(侧重大语言模型公共基准评估),并讨论了不可复现研究实践的影响。
2024-10-30 cs.CL cs.CY cs.LG
Improving Reproducibility in Machine Learning Research (A Report from the NeurIPS 2019 Reproducibility Program)
McGill University(麦吉尔大学);Facebook AI Research(Facebook人工智能研究院);CIFAR(加拿大高等研究院);Université de Montréal(蒙特利尔大学);Yahoo! Research(雅虎研究院);Télécom Paris(巴黎电信学院);Institut Polytechnique de France(法国理工学院);University of Washington(华盛顿大学);Apple(苹果公司);Google(谷歌)
机器学习研究的挑战之一是确保所呈现和发表的结果是合理和可靠的。复制,即使用相同的代码和数据(如果可用)获得与论文或演讲中所呈现的相似结果,是验证研究结果可靠性的必要步骤。复制数据库也是促进开放和无障碍研究的一个重要步骤,从而使科学界能够迅速整合新的发现,并将想法转化为实践。Reproductibility还促进了强大的实验工作流程的使用,这可能会减少无意的错误。在2019年,神经信息处理系统(NeurIPS)会议,机器学习研究的首要国际会议,介绍了一个再现性计划,旨在提高整个社区的标准,我们如何进行,交流和评估机器学习研究。该计划包含三个组成部分:代码提交政策,社区范围内的再现性挑战,以及将机器学习再现性检查表作为论文提交过程的一部分。在本文中,我们描述了这些组件中的每一个,它是如何部署的,以及我们能够从这一举措中学到什么。
2020-12-30 cs.LG stat.ML
Towards Understanding Confusion and Affective States Under Communication Failures in Voice-Based Human-Machine Interaction
SRI International(斯坦福国际研究院);Facebook Inc.(脸书公司);University of Chicago(芝加哥大学)
我们提出了一系列的两个研究,以了解用户的情感状态在基于语音的人机交互。重点放在通信错误或故障的情况下。特别是,我们有兴趣了解“混乱”与其他情感状态的关系。这些研究包括两种类型的任务:(1)与基于语音的虚拟代理的通信相关:与机器说话并理解机器所说的内容,(2)与通信无关的解决问题的任务,参与者解决难题和谜语,但被要求口头解释机器的答案。我们收集了视听资料和自我报告的情感状态的参与者。我们报告了两项研究的结果和对所收集数据的分析。第一个研究基于注释者的观察进行分析,第二个研究基于自我报告进行分析。
2022-07-15 cs.AI cs.HC cs.LG
A Machine Learning Perspective on Predictive Coding with PAQ
University of British Columbia(不列颠哥伦比亚大学)
PAQ8是一种开源无损数据压缩算法,目前在许多基准测试中达到了最佳压缩率。本报告从统计机器学习的角度详细描述了PAQ8。这表明,理解PAQ8的一些模块并使用这种理解来改进方法是可能的。然而,其他模块的行为的直观统计解释仍然难以捉摸。我们希望本报告中的描述将成为讨论的起点,这将增加我们的理解,导致PAQ8的改进,并促进知识从PAQ8转移到其他机器学习方法,如递归神经网络和随机记忆器。最后,该报告介绍了PAQ在机器学习任务中的广泛新应用,包括语言建模和自适应文本预测、自适应游戏、分类以及使用深度学习领域特征的压缩。
2011-08-16 cs.AI cs.CV cs.IR
Operator-Based Machine Intelligence: A Hilbert Space Framework for Spectral Learning and Symbolic Reasoning
UC Berkeley, School of Information(伯克利大学信息学院)
该研究提出基于希尔伯特空间的机器学习替代框架,借助泛函分析等工具构建严格数学表述,介绍散射变换、Koopman算子相关模型,为可扩展、可解释的机器学习提供新方向。
2025-07-27 cs.LG
On Feature Scaling of Recursive Feature Machines
Halıcıoğlu Data Science Institute(哈利哲奥卢数据科学研究所);UCSD(加州大学圣地亚哥分校)
在这份技术报告中,我们探索了递归特征机(RFM)的行为,RFM是一种新型的内核机器,通过回归数据集上的一系列实验,通过平均梯度外积递归地学习特征。当连续向数据集添加随机噪声特征时,我们在均方误差(MSE)曲线中观察到有趣的模式,测试MSE呈现出下降-增加-下降模式。这种行为在不同的数据集大小、噪声参数和目标函数中是一致的。有趣的是,观察到的MSE曲线显示出与在深层神经网络中观察到的“双下降“现象的相似性,暗示RFM和神经网络行为之间存在新的联系。这份报告为今后对这种特殊行为的研究奠定了基础。
2023-03-28 cs.AI cs.LG
Ideas for Improving the Field of Machine Learning: Summarizing Discussion from the NeurIPS 2019 Retrospectives Workshop
MILA;OpenAI;Facebook AI Research(Facebook 人工智能研究院);IBM;Applied Invention;McGill University(麦吉尔大学);Dutch National Center for Mathematics and Computer Science (CWI)(荷兰国家数学与计算机科学中心(CWI));Stanford University(斯坦福大学);Uber AI(Uber 人工智能)
本报告记录了改进机器学习领域的想法,这些想法来自NeurIPS 2019年ML回顾研讨会的讨论。报告的目的是更广泛地传播这些想法,并鼓励继续讨论该领域如何沿着这些轴线改进。我们关注研讨会上讨论最多的主题:鼓励替代形式的奖学金的激励措施,重新构建审查过程,学术界和工业界的参与,以及我们如何更好地训练计算机科学家作为科学家。研讨会视频可访问https://slideslive.com/neurips/west-114-115-retrospectives-a-venue-for-selfreflection-in-ml-research
2020-07-21 cs.AI cs.CY cs.LG
Model Cards for Model Reporting
Google(谷歌)
经过训练的机器学习模型越来越多地用于执行执法、医疗、教育和就业等领域的高影响力任务。为了阐明机器学习模型的预期用例,并尽量减少它们在不太适合的环境中的使用,我们建议发布的模型随附详细说明其性能特征的文档。在本文中,我们提出了一个框架,我们称之为模型卡,以鼓励这种透明的模型报告。模型卡是伴随训练的机器学习模型的简短文档,其在各种条件下提供基准评估,诸如跨不同的文化、人口统计或表型组(例如,种族、地理位置、性别、Fitzpatrick皮肤类型)和交叉组(例如,年龄和种族,或性别和Fitzpatrick皮肤类型)。模型卡还披露了模型的使用背景、性能评估程序的细节以及其他相关信息。虽然我们主要关注计算机视觉和自然语言处理应用领域中以人为中心的机器学习模型,但此框架可用于记录任何经过训练的机器学习模型。为了巩固这个概念,我们为两个监督模型提供了卡片:一个训练用于检测图像中的笑脸,另一个训练用于检测文本中的有毒评论。我们提出模型卡作为机器学习和相关人工智能技术负责任民主化的一步,提高人工智能技术工作的透明度。我们希望这项工作能够鼓励那些发布经过训练的机器学习模型的人,在发布模型时附带类似的详细评估数字和其他相关文档。
2019-01-14 cs.AI cs.LG
Comment on "All-optical machine learning using diffractive deep neural networks"
Ambow Research Institute, Ambow Education Group(安博教育集团安博研究院);The Third Affiliated Hospital of Sun Yat-sen University(中山大学附属第三医院);Texas A&M University(得克萨斯农工大学)
Lin等人(报告,2018年9月7日,第1004页)报告了一项引人注目的提议,该提议采用无源、严格线性的光学设置来执行模式分类。但是,将多层衍射设置解释为深度神经网络并将其倡导为全光学深度学习框架并不合理,并且通过忽视其完美线性和严格无源性的定义特征来代表对系统的错误描述。
2018-11-21 cs.LG stat.ML
REFORMS: Reporting Standards for Machine Learning Based Science
针对机器学习在科学研究中普遍存在的有效性、可重复性和泛化性问题,本文提出由32个问题及配套指南组成的REFORMS报告标准,为研究者、审稿人和期刊提供统一规范。
2023-09-19 cs.AI cs.LG stat.ME
FD4QC: Application of Classical and Quantum-Hybrid Machine Learning for Financial Fraud Detection A Technical Report
GFT Technologies(GFT技术公司);Spritzmatter
该报告在 IBM AML 数据集上比较经典与量子混合欺诈检测模型,并提出可部署的 FD4QC 架构;实验显示 Random Forest 综合表现最佳,QSVM 精度与假阳性率较优但召回和开销受限。
2025-07-25 cs.CE cs.LG
Btech thesis report on adversarial attack detection and purification of adverserially attacked images
INDIAN INSTITUTE OF TECHNOLOGY KHARAGPUR(印度理工学院克勒格布尔分校)
这是Btech关于检测和净化广告攻击图像的论文报告。深度学习模型在某些训练样本上进行训练,用于各种任务,如分类、回归等。通过训练,调整权重,使得模型不仅在由特定度量判断的训练样本上很好地执行任务,而且还具有在通常称为测试数据的其他未见过的样本上进行概括的出色能力。尽管机器学习模型在广泛的任务上取得了巨大的成功,但多年来,安全性受到的关注要少得多。各种潜在网络攻击的鲁棒性也应该是机器学习模型准确性的一个度量标准。这些网络攻击可能会对使用机器学习的现实世界敏感应用(如医疗和运输系统)造成各种负面影响。因此,有必要保护系统免受此类攻击。在这份报告中,我专注于一类被称为对抗攻击的网络攻击,其中原始输入样本被小扰动修改,使得它们在视觉上看起来仍然与人类相同,但机器学习模型被这些输入愚弄。在这份报告中,我讨论了使用AutoEncoders对抗对抗攻击的两种新方法,1)通过检测对手的存在,2)净化这些对手,使目标分类模型对此类攻击具有鲁棒性。
2022-05-09 cs.CR cs.LG
An Overview and Discussion of the Suitability of Existing Speech Datasets to Train Machine Learning Models for Collective Problem Solving
Stony Brook University(石溪大学)
本报告评估了现有语音数据集对训练协作问题求解机器学习模型的适宜性,基于认知、社交和情感指标分析了口语理解数据集,并提出未来数据集的开发要求。
2024-12-24 cs.AI cs.LG
Food for thought: How can machine learning help better predict and understand changes in food prices?
School of Engineering, University of Guelph(圭尔夫大学工程学院);Vector Institute(向量研究所);University of Toronto(多伦多大学)
针对加拿大食品可负担性波动缺乏系统认知的问题,研究评估了多种预测模型及以数据为中心的方法对食品价格波动的估算效果与模型敏感性,助力提升食品通胀预测精度。
2024-12-09 cs.LG
Technical Report on the Turba Fertilizer Machine Learning Stack in Morocco
Turba Open Lab(Turba开放实验室)
针对肥料推荐系统难以复用的问题,提出三层开源 Turba 栈,通过版本化快照和离线替代模型,在摩洛哥实现可复现的作物特定推荐,并完成大规模基准测试。
2026-10-06 cs.LG cs.SE
A Study of the Tasks and Models in Machine Reading Comprehension
YORK UNIVERSITY(约克大学)
本文综述了机器阅读理解(MRC)中已有的任务和模型:1)简单推理和复杂推理MRC任务的数据集收集和性能评估; 2)基于神经网络的MRC模型的体系结构设计、注意力机制和性能提升方法; 3)最近提出的一些迁移学习方法,用于将外部语料库中包含的文本风格知识整合到MRC模型的神经网络中; 4)最近提出的一些知识库编码方法,将外部知识库中包含的风格知识转化为MRC模型的神经网络。此外,根据本研究所取得的成果和存在的不足,本文还提出了一些有待进一步研究的问题。
2020-01-23 cs.CL cs.IR cs.LG
SoK: Machine Learning for Continuous Integration
University of Adelaide(阿德莱德大学);University of Melbourne(墨尔本大学)
本文对持续集成(CI)各阶段中基于机器学习(ML)的自动化方法进行了系统化知识(SoK)梳理,指出现有ML解决方案的不足,为推动该领域最新技术发展提供参考。
2023-04-06 cs.LG cs.SE
Revisiting Large Scale Distributed Machine Learning
School of Computer Communication Sciences(计算机与通信科学学院)
如今,随着配备各种传感器的智能手机和其他便携式小工具的普及,数据无处不在,机器学习的重点已经从能够从小训练样本中进行推断转移到处理大规模高维数据。在个人医疗保健应用等领域,分布式机器学习是一个很有前途的研究方向,既可以扩展学习算法,也可以处理在不同位置产生的数据。本报告全面概述了分布式机器学习的最新算法,包括监督学习和无监督学习,从简单的线性逻辑回归到图形模型和聚类。我们为大多数类别提出了未来的发展方向,具体到潜在的个人医疗保健应用。考虑到这一点,报告重点关注在严格的客户端-服务器架构模型的特定情况下如何确保安全性和低通信开销。作为特定的方向,我们提供了一个详尽的介绍经验聚类算法,k-窗口,并提出了一个异步分布式机器学习算法,将规模以及计算成本低,易于实现。
2015-07-06 cs.DC cs.LG
Technical Report for the Forgotten-by-Design Project: Targeted Obfuscation for Machine Learning
RISE Research Institutes of Sweden(瑞典RISE研究所)
本文提出“被遗忘设计”方法,在训练中通过定向混淆保护隐私,相比机器遗忘更主动,实验表明可大幅降低隐私风险并保持模型性能。
2025-01-20 cs.AI cs.CR cs.LG
It's 2025 -- Narrative Learning is the new baseline to beat for explainable machine learning
Australian National University(澳大利亚国立大学)
本文提出完全用自然语言定义并通过解释性提示迭代细化分类标准的Narrative Learning方法,在6个数据集中的5个上超越7个基线可解释模型,成为可解释机器学习的新基线。
2025-10-10 cs.AI cs.CL cs.LG
An Evaluation of Support Vector Machines as a Pattern Recognition Tool
University of Maryland at College Park(马里兰大学帕克分校)
这份报告的目的是在检查的泛化性能的支持向量机(SVM)作为模式识别和对象分类的工具。这项工作的动机是日益普及的方法,声称保证一个良好的泛化性能的任务在手。该方法在MATLAB中实现。基于各种内核的支持向量机进行了测试,用于对来自各个领域的数据进行分类。
2014-12-13 cs.LG
An Amalgamation of Classical and Quantum Machine Learning For the Classification of Adenocarcinoma and Squamous Cell Carcinoma Patients
University of Toronto(多伦多大学);NetraMark Corp(NetraMark公司);Queen’s University(女王大学)
准确分类疾病亚型的能力至关重要,特别是在肿瘤学中,这种能力可能会挽救生命。在这里,我们报告了非小细胞肺癌的两种亚型之间的分类,即腺癌与鳞状细胞癌。数据包括104名患者中每名患者的约20,000个基因表达值。数据来源于[1] [2]。我们使用了经典和量子机器学习模型的融合来成功地对这些患者进行分类。除了XGBoost之外,我们还利用了基于单变量统计的特征选择方法[3]。还使用了一种由作者之一开发的称为QCrush的新型专有数据表示方法,因为它旨在在D-Wave量子退火计算机的大小限制下包含最大量的信息。机器学习由量子玻尔兹曼机执行。本文将报告我们的结果,各种经典方法,以及我们使用的量子机器学习方法。
2018-10-29 cs.LG quant-ph stat.ML
Predicting Road Flooding Risk with Machine Learning Approaches Using Crowdsourced Reports and Fine-grained Traffic Data
Texas A&M University(德克萨斯A&M大学);Texas A&M University at Galveston(德克萨斯A&M大学加尔维斯顿分校);University of Delaware(特拉华大学)
本研究的目的是使用机器学习模型,根据地形,水文和时间降水特征预测道路洪水风险。道路网络洪水状态的预测性洪水监测在社区减灾、备灾和响应活动中起着至关重要的作用。现有的研究与道路淹没的估计要么缺乏观察到的道路淹没数据模型验证或主要集中在道路淹没暴露评估洪水地图的基础上。本研究通过使用众包和细粒度的交通数据作为道路淹没的指标,地形,水文和时间降水特征作为预测变量,解决了这一限制。然后测试和训练了两个基于树的机器学习模型(随机森林和AdaBoost),用于预测德克萨斯州哈里斯县2017年飓风哈维和2019年热带风暴伊梅尔达的道路洪水。飓风哈维的研究结果表明,降水是预测道路淹没敏感性的最重要特征,在两种风暴情况下,地形特征比水文特征更重要。随机森林和AdaBoost模型具有相对较高的AUC评分(Harvey分别为0.860和0.810,Imelda分别为0.790和0.720),随机森林模型在两种情况下表现更好。随机森林模型对哈维表现出稳定的性能,而对伊梅尔达表现出显著的变化。这项研究推进了智能洪水恢复力的新兴领域,在道路层面的预测洪水风险映射。例如,这些模型可以帮助受影响社区和应急管理机构制定更好的备灾和应对战略,提高对极端天气事件发生时道路被淹没可能性的情况了解。
2021-09-14 cs.LG physics.soc-ph
PickleBall: Secure Deserialization of Pickle-based Machine Learning Models (Extended Report)
Columbia University(哥伦比亚大学);Brown University(布朗大学);Purdue University(普渡大学);Google(谷歌)
PickleBall 通过静态分析机器学习库源码生成安全加载策略,并在加载时动态执行,以替代 pickle 模块,从而在保持较高良性模型兼容性的同时阻止恶意 pickle 模型中的任意函数调用。
2025-09-19 cs.CR cs.LG
The Mondrian Process for Machine Learning
Merton College(默顿学院);University of Oxford(牛津大学)
本报告关注的是蒙德里安过程及其在机器学习中的应用。蒙德里安过程是一个具有优美自洽性质的截断值随机过程。报告的第一部分使用应用概率中的简单概念来定义蒙德里安过程并探索其属性。蒙德里安过程已被用作一个聪明的在线随机森林分类算法的主要构建块,该算法被证明与其批处理算法是等价的。我们概述了这种算法对回归的轻微调整,因为报告的其余部分使用回归作为如何在机器学习中利用蒙德里安过程的案例研究。特别是,蒙德里安过程将被用来构建一个快速近似计算昂贵的内核岭回归问题的拉普拉斯内核。由蒙德里安过程生成的随机截断分区的复杂性以及由此产生的回归模型的复杂性由寿命超参数控制。事实证明,这些模型可以在给定范围内的所有生命周期内进行有效的训练和评估,而无需为每个生命周期值从头开始重新训练。这导致了一个有效的过程,用于确定手头数据集的正确模型复杂性。具有单个寿命超参数的限制将激发最终的蒙德里安网格模型,其中每个输入维度被赋予其自己的寿命参数。在这个模型中,我们保留了其超参数可以调整的属性,而无需从头开始重新训练修改后的模型。
2015-07-18 cs.LG stat.ML
Enhancing Traffic Incident Management with Large Language Models: A Hybrid Machine Learning Approach for Severity Classification
University of Technology Sydney(悉尼科技大学);University of Newcastle(纽卡斯尔大学)
本文提出一种混合机器学习方法,将大型语言模型生成的特征与传统事故报告特征相融合,用于交通事故严重程度分类,并在美、英、澳三个数据集上验证了其准确性和跨地域稳健性。
2024-04-29 cs.LG cs.SY eess.SY
Machine learning-based EDFA Gain Model Generalizable to Multiple Physical Devices
Technical University of Denmark(丹麦技术大学)
提出了一种基于神经网络的掺铒光纤放大器(EDFA)增益模型。该模型对于用于训练的相同设备(MSE $\leq$ 0.04 dB $^2$)和相同品牌的不同物理单元(泛化MSE $\leq$ 0.06 dB $^2$)都显示出低增益预测误差。
2020-09-11 cs.LG eess.SP physics.optics
Constructing Impactful Machine Learning Research for Astronomy: Best Practices for Researchers and Reviewers
SRON Netherlands Institute for Space Research(SRON荷兰空间研究所);Anton Pannekoek Institute for Astronomy, University of Amsterdam(阿姆斯特丹大学安东·潘涅库克天文研究所);Space Telescope Science Institute(空间望远镜科学研究所);Johns Hopkins University(约翰斯·霍普金斯大学);Sorbonne Université(索邦大学);Max Plank Institute for Astronomy(马克斯·普朗克天文研究所);Fermi National Accelerator Laboratory(费米国家加速器实验室);Kavli Institute for Cosmological Physics, University of Chicago(芝加哥大学卡夫利宇宙物理研究所);University of Chicago(芝加哥大学);University of Manchester(曼彻斯特大学)
本文为天文学界提供机器学习模型实现与结果报告的入门指南,旨在确保研究结果的准确性、可重复性和方法的实用性。
2023-10-19 astro-ph.IM cs.LG
A look under the hood of the Interactive Deep Learning Enterprise (No-IDLE)
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
本文介绍DFKI的No-IDLE原型系统,提出交互式机器学习与多模态交互相结合的方法,旨在让非专家用户也能使用交互式深度学习技术。
2024-06-27 cs.AI cs.HC cs.LG
Towards automatic extractive text summarization of A-133 Single Audit reports with machine learning
Harvard Medical School(哈佛医学院);Elder Research, Inc.(埃尔德研究公司);Clarkson University(克拉克森大学)
文本数据的快速增长推动了基于机器学习的自动文本摘要策略的发展,这些策略可以简洁地捕捉更大文本中的基本思想。本研究的目的是设计一个提取汇总方法的A-133单一审计,评估联邦补助金的接受者是否符合使用联邦资金的计划要求。目前,这些大量的审计必须由官员手动分析,以进行监督、风险管理和优先排序。自动总结有可能简化这些流程。分析集中在2016-2018年约20,000项单一审计的“发现”部分。在文本预处理和GloVe嵌入之后,执行了分级k均值聚类以按主题划分句子并确定每个句子的重要性。对于每次审计,通过与聚类中心的接近度提取关键摘要句子。通过非专家人工评价对总结进行判断,并使用ROUGE指标与人工生成的总结进行比较。虽然目标是完全自动化A-133审计摘要,但由于审计写作风格、内容和上下文的差异很大,因此在各个阶段都需要人工输入。人工输入的示例包括聚类的数量、基于其内容相关性保留或丢弃某些聚类的选择以及顶句的定义。总体而言,这一方法在自动提取A-133审计摘要方面取得了进展,未来的工作重点是全面自动化和提高摘要的一致性。这项工作突出了在现实世界中的应用程序的自动摘要的固有困难和主观性。
2019-11-08 cs.CL cs.LG stat.ML
The Impossibility Theorem of Machine Fairness -- A Causal Perspective
Columbia University(哥伦比亚大学)
随着机器学习在社会和经济环境中的日益普及,人工智能社区对机器偏见的概念产生了兴趣。根据历史数据训练的模型反映了社会中存在的偏见,并通过他们的决策将其传播到未来。在社区中使用了三个突出的机器公平性指标,统计数据表明,不可能同时满足所有这些指标。这导致了公平定义的模糊。在这份报告中,一个因果的公平性不可能定理的角度提出了一个因果的机器公平性的目标。
2021-01-29 cs.AI cs.LG stat.ML
NIPS - Not Even Wrong? A Systematic Review of Empirically Complete Demonstrations of Algorithmic Effectiveness in the Machine Learning and Artificial Intelligence Literature
The Alan Turing Institute(艾伦·图灵研究所);University College London(伦敦大学学院);University of Warwick(华威大学);Kings College Hospital(国王学院医院)
目的:确定在当前ML/AI监督学习文献样本中得出算法有效性结论所需的论证步骤的完整性。数据来源:发表在神经信息处理系统(NeurIPS,née NIPS)杂志上的论文,官方记录显示发表于2017年。合格性标准:报告(半)监督模型或与表格数据的(半)监督模型融合的预处理的研究。研究评价:三位评审员应用评估标准来确定论证的完整性。标准分为三组,包括:实验(例如,真实和/或合成数据)、基线(例如,不知情和/或最新技术水平)和定量比较(例如,具有置信区间的性能量化指标和算法与基线的正式比较)。结果:在121篇符合条件的论文中(来自679篇摘要的样本),99%使用真实世界数据,29%使用合成数据。91%的手稿没有报告不知情的基线,55%报告了最新的基线。32%的人报告了性能的置信区间,但没有人提供如何计算这些置信区间的参考或说明。3%报告了正式比较。局限性:使用一种期刊作为主要信息源可能无法代表所有ML/AI文献。然而,NeurIPS会议被认为是ML/AI研究的顶级会议之一,因此将其语料库视为高质量研究的代表是合理的。结论:使用NeurIPS监督学习语料库的2017年样本作为当前ML/AI研究的质量和可信度的指标,似乎在算法有效性的演示中完整的论证链是罕见的。
2018-12-18 cs.AI cs.LG stat.ML
Machine learning and control engineering: The model-free case
AL.I.E.N.
本文指出,无模型控制(MFC),它不能与无模型强化学习混淆,是机器学习(ML)的一种新工具。MFC易于实现,应该通过人工神经网络和/或强化学习在控制工程中取代ML。一个实验室实验,这是已经通过今天的ML技术进行了研究,报告,以确认这一观点。
2020-07-20 cs.LG cs.SY eess.SY