Automatic Detection of Industry Sectors in Legal Articles Using Machine Learning Approaches
University of Essex(埃塞克斯大学);Mondaq Ltd(蒙达克有限公司);Friedrich-Alexander University Erlangen-Nuremberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
在有关法律发展的文章或任何类型的新闻文章中自动识别行业报道的能力,可以为读者和内容创作者本身带来大量好处。通过根据行业报道标记文章,来自世界各地的读者将能够获得特定于其地区和专业行业的法律新闻。同时,作者将受益于了解哪些行业可能缺乏报道,或者哪些行业的读者目前最感兴趣,因此,他们将把写作努力集中在更具包容性和相关性的法律新闻报道上。本文研究了一种基于机器学习的工业分析方法,该方法将自然语言处理(NLP)与统计和机器学习(ML)技术相结合。创建了一个由1,700多篇附有注释的法律文章组成的数据集,用于确定六个行业部门。从文本中提取文本和法律特征。传统的ML方法(例如梯度提升机算法和基于决策树的算法)和深度神经网络(例如Transformer模型)都被应用于预测模型的性能比较。该系统取得了可喜的成果,与受试者工作特征曲线下的面积得分高于0.90和F-得分高于0.81的六个行业部门。实验结果表明,建议的自动化行业分析,采用ML技术允许在一个简单的,高效的,可扩展的方式处理大量的文本数据。当只有少量特定于领域的训练数据可用于研究时,传统ML方法的性能优于深度神经网络。
2023-03-08 cs.CL cs.LG
Facets of Disparate Impact: Evaluating Legally Consistent Bias in Machine Learning
Washington State University(华盛顿州立大学)
本文提出“客观公平指数”,在法律标准下结合边际收益与客观测试,用于区分机器学习中的歧视性测试与系统性差异,并在COMPAS等应用中验证其价值。
2025-05-08 cs.CY cs.LG
Engineering the Law-Machine Learning Translation Problem: Developing Legally Aligned Models
Vrije Universiteit Brussel(布鲁塞尔自由大学);FARI - AI for the Common Good Institute(FARI——人工智能公益研究院)
针对机器学习模型开发中法律义务难以直接操作化的问题,提出一个五阶段跨学科框架,整合法律推理与ML技术分析,以实现法律对齐的高性能模型设计,并通过反洗钱案例验证。
2025-04-23 cs.CY cs.LG
Seeing Justice Clearly: Handwritten Legal Document Translation with OCR and Vision-Language Models
本文提出利用视觉大语言模型统一OCR与机器翻译流程,以提升低资源环境下手写法律文件的翻译效率和准确性。
2025-12-19 cs.AI cs.CL cs.CV
Using Issues to Explain Legal Decisions
University of Liverpool(利物浦大学)
解释用于预测法律案件结果的机器学习系统的输出的需求,导致人们对传统人工智能和法律系统提供的解释重新产生了兴趣,特别是那些使用基于因素的推理和先例的系统。在本文中,我们考虑什么样的解释,我们应该期待从这样的系统,特别关注的结构,可以提供使用的问题的情况下。
2021-06-25 cs.AI cs.LG
ALKAFI-LLAMA3: Fine-Tuning LLMs for Precise Legal Understanding in Palestine
Faculty of Graduate Studies(研究生院);Arab American University, Palestine (AAUP)(巴勒斯坦阿拉伯美国大学);Birzeit University, Palestine(比尔宰特大学)
本研究针对巴勒斯坦法律领域资源匮乏问题,基于 Llama-3.2-1B-Instruct 量化版本微调模型,利用合成的巴勒斯坦法律问答数据训练,为资源受限环境提供准确、低成本且本地可持续的 AI 法律辅助方案。
2024-12-19 cs.AI cs.CL cs.LG
Use of Artificial Intelligence to Analyse Risk in Legal Documents for a Better Decision Support
PricewaterhouseCoopers Pvt Ltd.(普华永道私人有限公司)
评估大量法律文件的风险,如征求建议书;合同是繁琐和容易出错的。我们开发了一个基于机器学习和自然语言处理的框架“risk-o-meter”,以审查和评估任何法律文件的风险。我们的框架使用段落向量,一个无监督的模型来生成文本的向量表示。这使得框架能够学习法律术语的上下文关系,并生成合理的上下文感知嵌入。然后,该框架将向量空间馈送到监督分类算法中,以预测段落是否属于预先定义的风险类别。因此,该框架提取了容易产生风险的段落。该技术有效地克服了基于关键字的搜索的局限性。对于具有最大训练数据集的风险类别,我们实现了91%的准确率。该框架将帮助组织优化工作,以最少的人为干预从大型文档库中识别风险,从而有助于降低风险的可持续增长。它的机器学习能力使其可扩展,以发现除法律文档外的任何类型的文档中的相关信息,前提是库是按人口填充的和丰富的。
2019-11-22 cs.AI cs.CL cs.IR
Towards Efficient Data-Centric Robust Machine Learning with Noise-based Augmentation
Huazhong University of Science and Technology(华中科技大学)
以数据为中心的机器学习旨在寻找有效的方法来构建合适的数据集,从而提高AI模型的性能。在本文中,我们主要集中在设计一个有效的数据为中心的计划,以提高鲁棒性的模型对不可预见的恶意输入的黑盒测试设置。具体来说,我们介绍了一种基于噪声的数据增强方法,该方法由高斯噪声、椒盐噪声和PGD对抗性扰动组成。该方法是建立在轻量级算法的基础上,并证明了高效的综合评价的基础上,表现出良好的计算效率和鲁棒性增强。此外,我们还分享了我们从实验中获得的关于以数据为中心的鲁棒机器学习的见解。
2022-03-08 cs.AI cs.CR cs.LG
Empirical Study of Deep Learning for Text Classification in Legal Document Review
Ankura(安库拉)
预测编码已广泛用于法律事务中,以在大量电子存储的信息中找到相关或特权文档。它大大节省了时间和成本。逻辑回归(LR)和支持向量机(SVM)是预测编码中常用的两种机器学习算法。最近,深度学习在许多行业受到了广泛的关注。本文报告了我们在法律文件审查中使用深度学习的初步研究。具体而言,我们进行了实验,以比较深度学习结果与使用SVM算法在四个真实法律事务数据集上获得的结果。实验结果表明,CNN在训练数据量较大的情况下具有较好的分类效果,是一种适合于法律行业文本分类的方法。
2019-04-03 cs.IR cs.LG
Predicting Legal Proceedings Status: Approaches Based on Sequential Text Data
University of São Paulo(圣保罗大学);Tikal Tech(蒂卡尔科技)
本文的目的是开发预测模型,将巴西的法律程序分为三类:(一)存档的程序,(二)积极的程序,和(三)暂停的程序。解决这一问题的目的是协助公共和私营机构管理大量的法律诉讼,在规模和效率方面取得进展。在本文中,法律程序是由一系列被称为"动议"的简短文本组成的。"我们结合了几种自然语言处理(NLP)和机器学习技术来解决这个问题。虽然使用葡萄牙语NLP,由于缺乏资源,这可能具有挑战性,但我们的方法在分类任务中表现非常出色,实现了0.93的最高准确度和0.89(宏观)和0.93(加权)的最高平均F1得分。此外,除了量化这些模式与分类任务的关系之外,我们还可以提取和解释我们的模型所学习的模式。可解释性步骤在机器学习法律应用中非常重要,它让我们对黑盒模型如何做出决策有了令人兴奋的了解。
2021-06-23 cs.CL cs.LG stat.ML
Machine Learners Should Acknowledge the Legal Implications of Large Language Models as Personal Data
University Tübingen(图宾根大学);CZS Institute for Artificial Intelligence and Law(法律与人工智能研究所)
本文指出LLM可能记忆并输出个人数据,使其本身受GDPR约束,主张ML研究者应在全生命周期承认法律影响,并提出应对方案以促进法律与技术协调。
2025-06-18 cs.AI cs.CY cs.LG
Text clustering applied to data augmentation in legal contexts
Strategic Management Office, Brazilian Supreme Federal Court(巴西联邦最高法院战略管理办公室);Brasília University(巴西利亚大学);Internal Affairs Department of Justice, Roraima State Court of Justice(罗赖马州司法法院司法内务部)
本研究针对法律领域文本分类任务,提出基于聚类的数据增强策略,利用NLP工具优化专家整理的数据集,在联合国SDGs案例中实现分类性能超15%的提升,样本库最高扩至5倍,可高效扩充法律知识库。
2024-04-08 cs.CL cs.LG
Parameter Database : Data-centric Synchronization for Scalable Machine Learning
QATAR COMPUTING RESEARCH INSTITUTE(卡塔尔计算研究所);HAMAD BIN KHALIFA UNIVERSITY(哈马德·本·哈利法大学)
我们提出了一个新的以数据为中心的同步框架,用于在分布式环境中执行机器学习(ML)任务。我们的框架利用了ML算法的迭代性质,并放松了以前用于分布式机器学习的应用程序不可知的批量同步并行(BSP)范式。以数据为中心的同步补充了以功能为中心的同步,其基础是使用陈旧更新来增加分布式ML计算的吞吐量。验证我们的框架的实验表明,我们可以在保证ML任务的顺序正确性的同时,实现对BSP的实质性改进。
2015-08-04 cs.DB cs.LG
The Re-Label Method For Data-Centric Machine Learning
针对工业深度学习人工标注数据存在噪声的问题,提出以模型预测为参考、人工重标记噪声数据的方法,覆盖多类深度学习任务,经开发集与人工评估验证有效,可实现开发集90分以上的成绩。
2026-10-24 cs.CL cs.LG
The Engineer's Dilemma: A Review of Establishing a Legal Framework for Integrating Machine Learning in Construction by Navigating Precedents and Industry Expectations
Clemson University(克莱姆森大学)
本文探讨了工程行业整合机器学习面临的法律与监管不确定性,提出通过类比推理将ML嵌入现有工程规范,并基于责任原则与判例构建法律框架,以帮助利益相关者评估ML驱动方案的责任与收益。
2025-07-11 cs.CY cs.ET cs.LG
Computer-Assisted Creation of Boolean Search Rules for Text Classification in the Legal Domain
Université de Montréal(蒙特利尔大学);University of Pittsburgh(匹兹堡大学);Hofstra University(霍夫斯特拉大学)
本研究开发了CASE交互式环境辅助构建布尔搜索规则形式的可解释文本分类器,在4个法律领域数据集上对比多种机器学习方法,探讨了规则可解释性与模型性能间的权衡。
2021-12-10 cs.AI cs.CL cs.IR
Beyond English-Centric Multilingual Machine Translation
Facebook AI;LORIA(洛里亚研究所(法国洛林大学下属研究机构))
现有的翻译工作证明了大规模多语言机器翻译的潜力,通过训练一个能够在任何一对语言之间翻译的单一模型。然而,这些工作大部分都是以英语为中心的,只对从英语翻译或翻译成英语的数据进行培训。虽然这得到大量训练数据来源的支持,但并不反映世界各地的翻译需求。在这项工作中,我们创建了一个真正的多对多多语言翻译模型,可以直接在任何100种语言之间进行翻译。我们构建并开源了一个训练数据集,该数据集涵盖了数千种语言方向,并通过大规模挖掘创建了监督数据。然后,我们将探索如何通过密集缩放和语言特定的稀疏参数的组合来有效地增加模型容量,以创建高质量的模型。我们专注于非英语为中心的模型,在非英语方向之间直接翻译时带来超过10个BLEU的收益,同时与WMT的最佳单一系统竞争。我们将脚本开源,以便其他人可以复制数据、评估和最终的M2M-100模型。
2020-10-21 cs.CL cs.LG
Data-Centric Machine Learning for Earth Observation: Necessary and Sufficient Features
University of Kaiserslautern-Landau (RPTU)(凯泽斯劳滕-兰道大学(RPTU));German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
针对地球观测机器学习模型架构设计趋于饱和的问题,提出利用模型解释方法识别最优性能的必要及最小充分特征集,在三个多模态地理空间数据集上验证了仅用极少时间实例或单一波段即可达到最优准确率。
2024-08-21 cs.AI cs.LG
Attack-Centric Approach for Evaluating Transferability of Adversarial Samples in Machine Learning Models
Veterans United(退伍军人联合公司);Ozyegin University(奥兹耶金大学)
对抗样本的可转移性成为一个严重的问题,因为它们会影响机器学习系统部署的可靠性,因为它们会进入许多关键应用程序。了解影响对抗样本可转移性的因素可以帮助专家就如何构建强大可靠的机器学习系统做出明智的决策。本研究的目标是通过以攻击为中心的方法,深入了解对抗性样本可转移性背后的机制。这种以攻击为中心的视角通过评估机器学习攻击(生成它们)对给定输入数据集的影响来解释对抗性样本将如何转移。为了实现这一目标,我们使用攻击者模型生成对抗样本,并将这些样本转移到受害者模型。我们分析了对抗样本在受害者模型上的行为,并概述了四个可能影响对抗样本可转移性的因素。虽然这些因素不一定是详尽的,但它们为机器学习系统的研究人员和实践者提供了有用的见解。
2021-12-03 cs.LG
Better, Not Just More: Data-Centric Machine Learning for Earth Observation
该研究针对地理空间模型脱离现实且基准性能饱和的问题,系统定义、分类并综述自动化以数据为中心的学习方法,结合代表性实验说明其在完整机器学习部署周期中的实践路径。
2025-03-13 cs.CV cs.LG
A Data-Centric Perspective on Evaluating Machine Learning Models for Tabular Data
University of Mannheim(曼海姆大学);University of Rostock(罗斯托克大学)
针对表格数据模型评估中过度标准化预处理的偏差问题,提出数据中心评估框架,发现针对特定数据集的特征工程会显著改变模型排名并降低模型选择重要性,强调表格数据需要特征工程并具有时间特征。
2024-12-18 cs.AI cs.LG
Data-Centric Approach to Constrained Machine Learning: A Case Study on Conway's Game of Life
Skoltech(斯科尔科沃科技学院);Skoltech Agro(斯科尔科沃科技学院农业分支);Lirio LLC(Lirio有限责任公司)
本文以Conway生命游戏为例,研究在可训练参数受限条件下,通过策略性设计训练数据集来训练最小架构网络学习转换规则,证明了数据集设计的优势不依赖于网络权重或优化算法,并强调了领域专家知识在受限机器学习应用中的关键作用。
2024-08-23 cs.AI cs.CV cs.IR
Legal Risks of Adversarial Machine Learning Research
Microsoft(微软);University of Toronto(多伦多大学);Harvard Kennedy School(哈佛肯尼迪学院);Harvard Law School(哈佛法学院)
对抗性机器学习正在蓬勃发展,机器学习研究人员越来越多地将目标对准商业机器学习系统,例如Facebook、特斯拉、微软、IBM、谷歌中使用的机器学习系统,以展示漏洞。在这篇论文中,我们提出了这样一个问题:“当对抗性机器学习研究人员攻击机器学习系统时,他们潜在的法律风险是什么?“研究或测试任何操作系统的安全性都可能违反《计算机诈骗和滥用法案》(CFAA),这是美国联邦法律中规定黑客行为责任的主要法规。我们声称对抗性ML研究可能没有什么不同。我们的分析表明,由于CFAA的解释方式存在分歧,对抗性ML攻击的各个方面,例如模型反演,成员推断,模型窃取,重新编程ML系统和中毒攻击,可能会在某些司法管辖区受到制裁,而不会在其他司法管辖区受到惩罚。最后,我们分析预测美国最高法院如何解决CFAA在范布伦诉美国案中的申请中存在的一些不一致之处,该上诉预计将于2021年做出裁决。我们认为,法院可能会采用CFAA的狭义结构,从长远来看,这实际上会带来更好的对抗性ML安全结果。
2020-06-29 cs.CR cs.CY cs.LG
A conceptual model for leaving the data-centric approach in machine learning
Know-Center(知识中心);Graz University of Technology(格拉茨工业大学);University of Graz(格拉茨大学)
长期以来,机器学习(ML)一直被视为从独立于周围环境的数据中学习关系的抽象问题。这最近受到了挑战,并且已经提出了在机器学习模型中包括外部约束的方法。这些方法通常来自特定的应用领域,例如ML中公平性领域的去偏置算法或物理和工程领域的物理约束。在本文中,我们提出并讨论了一个概念性的高层次模型,统一这些方法在一个共同的语言。我们希望这将促进不同领域之间的交流,以及将外部约束纳入ML模型的不同方法,从而留下纯粹以数据为中心的方法。
2023-02-07 cs.LG
Active Informed Consent to Boost the Application of Machine Learning in Medicine
Guglielmo Marconi University(古列尔莫·马可尼大学);University of Vienna(维也纳大学);San Raffaele Roma Open University(罗马圣拉斐尔开放大学);IRCCS San Raffaele Roma(罗马圣拉斐尔科学住院与治疗研究所);University of Rome Tor Vergata(罗马第二大学)
机器学习可能会将精准医学的研究推向前所未有的高度。为了取得成功,机器学习需要大量数据,通常包括个人数据。因此,应用于精准医疗的机器学习正处于悬崖边上:如果不学会飞,就会深深地摔下去。在本文中,我们将主动知情同意(AIC)作为一种新型的混合法律技术工具,以促进为机器学习收集大量数据。我们仔细分析了这种技术工具对保护欧洲公民隐私的法律复杂性的遵守情况。
2022-09-27 cs.AI cs.CY cs.LG
A Data-Centric Behavioral Machine Learning Platform to Reduce Health Inequalities
为低收入和中等收入国家的一线卫生工作者提供改善健康结果的建议和预测,可以对减少医疗保健不平等产生巨大影响,例如帮助防止每天发生的数千例孕产妇和新生儿死亡。为此,我们正在开发一个以数据为中心的机器学习平台,利用这些国家运行的各种移动健康应用程序的行为日志。在这里,我们描述了平台架构,重点是帮助我们在整个过程中最大限度地提高数据质量和组织的细节,从数据科学软件开发工具包的数据摄取到数据管道,功能工程和模型管理。
2021-11-17 cs.LG
Towards Data-centric Graph Machine Learning: Review and Outlook
Monash University(莫纳什大学);RMIT University(皇家墨尔本理工大学);University of Liverpool(利物浦大学);Rice University(莱斯大学);Griffith University(格里菲斯大学)
本文系统回顾以数据为中心的图机器学习,提出覆盖图数据全生命周期的DC-GML框架,并围绕数据质量、低质数据学习和图MLOps三个核心问题展望未来方向。
2023-09-20 cs.LG
Empirical Comparisons of CNN with Other Learning Algorithms for Text Classification in Legal Document Review
Sidley Austin LLP(世达律师事务所);AT&T Services, Inc.(美国电话电报公司服务部);Ankura(安库拉咨询公司)
研究表明,卷积神经网络(CNN)可以有效地应用于文本分类,作为预测编码协议的一部分。也就是说,到目前为止,大多数研究都是在短文档的数据集上进行的,这些短文档并不能反映真实世界文档审查中的文档种类。使用来自不同长度文档的四个实际评论的数据,我们将CNN与其他流行的文本分类机器学习算法进行了比较,包括Logistic回归,支持向量机和随机森林。对于每个数据集,使用不同的学习算法用不同的训练样本量训练分类模型。然后使用大量随机抽样的文档测试集对这些模型进行评估,并使用精确度和召回率曲线对结果进行比较。我们的研究表明,CNN表现良好,但没有一种算法在数据集和训练样本大小的组合中表现最好。这些结果将有助于推进对法律行业使用机器学习算法的研究,以最大限度地提高性能。
2019-12-19 cs.IR cs.LG
DC-Check: A Data-Centric AI checklist to guide the development of reliable machine learning systems
University of Cambridge(剑桥大学);UCLA(加利福尼亚大学洛杉矶分校);Alan Turing Institute(阿兰·图灵研究所)
本文提出 DC-Check 检查清单框架,覆盖数据、训练、测试和部署阶段,帮助从业者与研究者系统考量以数据为中心的 AI 问题,并提供可持续更新的配套资源。
2022-11-09 cs.AI cs.CY cs.LG
Data-Centric Machine Learning in Quantum Information Science
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Oak Ridge National Laboratory(橡树岭国家实验室);Tulane University(杜兰大学);DEVCOM US Army Research Laboratory(DEVCOM美国陆军研究实验室)
我们提出了一系列以数据为中心的算法,用于提高机器学习系统在应用于量子信息科学问题时的性能。特别是,我们考虑如何训练集的系统工程可以显着提高用于量子态重建的预训练神经网络的准确性,而不改变底层架构。我们发现,将训练集设计为与目标场景的预期分布完全匹配并不总是最佳的,相反,可以通过将训练集偏置为比目标稍微更混合来进一步提高性能。这是由于描述不同纯度的状态所需的自由变量数量的异质性,因此,当固定大小的训练集集中于具有最少约束的自由变量的状态时,网络的整体准确性提高。为了进一步清楚,我们还包括一个“玩具模型”演示虚假相关如何无意中进入用于训练的合成数据集,使用这些相关性训练的系统的性能如何显着降低,以及如何包含相对较少的反例可以有效地解决这些问题。
2022-01-22 cs.AI cs.LG quant-ph
Data-Centric Engineering: integrating simulation, machine learning and statistics. Challenges and Opportunities
Imperial College London(帝国理工学院);The Alan Turing Institute(阿兰·图灵研究所)
机器学习的最新进展,加上低成本计算,廉价流传感器的可用性,数据存储和云技术,导致了广泛的多学科研究活动,商业利益相关者的极大兴趣和投资。基于物理方程的机械模型和纯数据驱动的统计方法代表了建模范围的两端。新的混合、以数据为中心的工程方法,利用了两个世界的最好的东西,集成了模拟和数据,正在成为一个强大的工具,对物理学科产生变革性的影响。我们回顾了集成模拟、机器学习和统计的新兴领域的主要研究趋势和应用场景。我们强调了这样一个综合愿景可以释放的机遇,并概述了阻碍其实现的关键挑战。我们还讨论了该领域的翻译方面的瓶颈,以及现有劳动力和未来大学毕业生的长期技能提升要求。
2021-11-22 cs.CE cs.LG
Enhancing Machine Learning Performance through Intelligent Data Quality Assessment: An Unsupervised Data-centric Framework
Karlstad University(卡尔斯塔德大学);Czech Technical University(捷克技术大学)
针对数据质量低下限制机器学习性能的问题,提出一个结合质量度量整合与无监督学习的智能数据中心评估框架,在分析化学真实用例中验证,能识别高质量数据特征、指导实验并提升ML系统性能。
2025-02-18 cs.AI cs.LG stat.ML
A Human-Centric Perspective on Fairness and Transparency in Algorithmic Decision-Making
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
自动决策系统(ADS)越来越多地用于后续决策。这些系统通常依赖于复杂但不透明的机器学习模型,这些模型不允许理解给定决策是如何得出的。这不仅从法律的角度来看是有问题的,而且不透明的系统也容易产生不公平的结果,因为它们的理智首先很难评估和校准-这对人类决策主体来说尤其令人担忧。基于这一观察,并在现有工作的基础上,我的目标是通过我的博士论文做出以下三个主要贡献:(a)了解如何(潜在)决策--受试者感知算法决策(基础ADS的透明度不同),与人类做出的类似决定相比;(b)评估不同的透明决策工具在使人们能够适当评估ADS的质量和公平性方面的有效性;以及(c)为公平的自动决策制定开发人类可理解的技术工件。在我的博士课程的前半部分,我已经解决了(a)和(c)的实质性部分,而(b)将是下半部分的主要焦点。
2022-04-29 cs.AI cs.HC cs.LG
A Review of Speech-centric Trustworthy Machine Learning: Privacy, Safety, and Fairness
本文首次全面综述以语音为中心的机器学习在隐私、安全与公平性方面的可靠性挑战与应对,并指出未来研究方向。
2023-04-16 cs.LG cs.SD eess.AS
Detecting Manufacturing Defects in PCBs via Data-Centric Machine Learning on Solder Paste Inspection Features
Global Technology Connection, Inc(全球科技连接公司)
本研究利用SPI提取的600万引脚特征,采用以数据为中心的XGBoost方法,在引脚、元件和PCB三个层级训练模型并融合结果,以检测PCB制造缺陷。
2023-09-06 cs.AI cs.CV cs.LG
Multi-Task Deep Learning for Legal Document Translation, Summarization and Multi-Label Classification
法律领域的数字化已经持续了几年。在这个过程中,不同机器学习(ML)技术的应用至关重要。诸如法律文件或合同条款的分类以及这些文件的翻译等任务具有高度相关性。另一方面,这一领域的数字化文件几乎无法获得,特别是在德国。当今,深度学习(DL)是一个热门话题,有许多出版物和各种应用。有时它提供的结果超过了人类的水平。因此,这种技术在法律领域也是可行的。然而,DL需要数千个样本才能提供像样的结果。这个问题的一个潜在解决方案是多任务DL,以实现迁移学习。这一办法或许能够克服法律领域的数据稀缺问题,特别是德语方面的数据稀缺问题。我们将最先进的多任务模型应用于三个任务:翻译,摘要和多标签分类。实验是在法律文档语料库上进行的,使用了几种任务组合以及各种模型参数。目标是为法律领域内的现有任务找到最佳配置。多任务DL方法在所有三项任务中的性能均优于最新技术水平。这为在法律领域更有效地整合DL技术开辟了新的方向。
2018-10-16 cs.CL cs.IR cs.LG
An Axiomatic Theory of Provably-Fair Welfare-Centric Machine Learning
我们解决了福利理论公平机器学习的固有困难,提出了一个等价的公理合理的替代方案,并研究由此产生的计算和统计学习问题。福利指标量化了一个或多个群体的总体福祉,最近提出了基于福利的目标和约束,以激励公平的机器学习方法,以产生考虑多个群体的不同需求的满意解决方案。不幸的是,许多机器学习问题更自然地被视为损失最小化任务,而不是效用最大化,这使得以福利为中心的方法直接应用于公平的机器学习变得复杂。在这项工作中,我们定义了一个补充措施,称为malfare,衡量整体社会危害(而不是福祉),通过基数福利的标准公理化的理由。然后,我们将公平的机器学习视为每组风险值(预期损失)的最小化。令人惊讶的是,基数福利(malfare)公理规定,这并不等同于简单地将效用定义为负损失。在这些概念的基础上,我们定义了公平PAC(FPAC)学习,其中FPAC学习器是一种算法,学习$\varepsilon$ - $δ$ malfare最优模型,具有有限的样本复杂度,任何数据分布,并为任何(公理合理)malfare概念。最后,我们展示了广泛的条件,在此条件下,经过适当的修改,标准PAC学习者可以转换为FPAC学习者。这将FPAC学习置于坚实的理论基础之上,因为它为许多经过充分研究的机器学习模型提供了统计和计算效率保证,并且也具有实际意义,因为它通过为这些模型提供具体的训练算法和严格的泛化保证,使公平ML民主化
2021-07-26 cs.LG
Who Leads? Comparing Human-Centric and Model-Centric Strategies for Defining ML Target Variables
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文探讨了人类-机器协作在定义机器学习目标变量中的影响,发现以性能优先的策略能加快迭代速度,但可能导致与应用目标不一致的偏差。
2026-03-29 cs.HC cs.LG
Bridging the gap to real-world for network intrusion detection systems with data-centric approach
Aeronautics Institute of Technology(航空技术学院);Federal University of Minas Gerais(米纳斯吉拉斯联邦大学)
大多数使用机器学习(ML)进行网络入侵检测系统(NIDS)的研究都使用了成熟的数据集,如KDD-CUP 99,NSL-KDD,UNSW-NB 15和CICIDS-2017。在这种情况下,探讨了机器学习技术的可能性,旨在与已发布的基线(以模型为中心的方法)相比,改进指标。然而,这些数据集存在一些局限性,如老化,使其不可行的基于ML的解决方案,以现实世界的应用程序。本文提出了一个系统的数据为中心的方法来解决目前的NIDS研究的局限性,特别是数据集。这种方法生成的NIDS数据集组成的最新的网络流量和攻击,与标签过程集成的设计。
2022-01-08 cs.AI cs.CR cs.LG
Multi-dimensional discrimination in Law and Machine Learning -- A comparative overview
L3S Research Center Hannover(汉诺威L3S研究中心);Free University of Berlin(柏林自由大学);Leibniz University of Hanover(莱布尼茨汉诺威大学);Bundeswehr University Munich(慕尼黑联邦国防军大学)
人工智能驱动的决策可能会导致基于种族、性别或年龄等受保护特征/属性对某些个人或社会群体的歧视。公平感知机器学习领域专注于理解、减轻和解释AI/ML模型中的偏见的方法和算法。尽管如此,到目前为止,绝大多数提出的方法基于单个受保护的属性(例如,仅性别或种族)来评估公平性。然而,在现实中,人的身份是多方面的,歧视可能基于一个以上的受保护特征而发生,导致所谓的"多方面歧视“或”多方面公平“问题。虽然在法律文献中得到了充分阐述,但歧视的多层面性在机器学习界却较少探讨。最近在这方面的做法主要遵循法律领域的所谓交叉公平定义,而其他概念,如附加和顺序歧视,则研究较少或迄今未考虑。在这项工作中,我们概述了多维歧视/公平在法律领域的不同定义,以及他们如何被转移/操作(如果)在公平意识的机器学习域。通过并列这两个领域,我们得出的连接,确定的局限性,并指出开放的研究方向。
2023-02-12 cs.CY cs.LG
Equipment-centric workpiece localization in near real-time using deep learning-based vision and event-driven finite state machines
本研究针对热锻造中工件直接跟踪不可靠的问题,提出结合深度学习视觉与事件驱动有限状态机的设备中心式工件定位框架,在实际工厂实现高事件检测准确率与可靠定位,支持可视化与定量分析。
2026-08-07 cs.LG
Extracting Fairness Policies from Legal Documents
IIIT Delhi(德里印度理工学院);IBM Research(IBM研究院)
机器学习社区最近正在探索偏见和公平性对人工智能应用的影响。这些应用的公平性定义根据其应用领域而有所不同。在给定上下文中管理这种机器学习系统的使用的策略由国家的宪法法律和由参与使用的组织执行的监管策略来定义。与公平相关的法律和政策通常分布在宪法、协议和组织条例等大型文件中。这些法律文件具有较长的复杂句子,以实现严谨性和健壮性。自动提取公平策略,或者一般来说,从大型法律语料库中提取任何特定类型的策略,对于研究人工智能应用背景下的偏见和公平性非常有用。我们试图自动提取公平政策,从公开的法律文件使用两种方法的基础上语义相关性。实验揭示了经典的基于Wordnet的相似性和基于向量的相似性在解决这个任务方面的不同。我们已经证明,基于词向量的相似性以较大的幅度击败了经典方法,而其他意义和句子的向量表示甚至无法匹配经典基线。此外,我们还提供了全面的错误分析和推理,以通过数据集中的适当示例解释结果,以获得更深入的见解。
2018-09-12 cs.IR cs.LG stat.ML
Augment & Valuate : A Data Enhancement Pipeline for Data-Centric AI
KAIST(韩国科学技术院);Samsung Research(三星研究院)
数据稀缺和噪声是机器学习工业应用中的重要问题。然而,它往往是具有挑战性的设计一个可扩展的和通用的方法来解决数据集的基本分布和语义属性与黑盒模型。因此,以数据为中心的方法对于机器学习操作流水线的自动化至关重要。为了作为这种自动化的基础,我们提出了一个领域不可知的管道,用于改进图像分类问题中的数据质量。这个管道包含数据估值、清洗和扩充。通过这些方法的适当组合,我们可以在仅使用所提供的数据集的以数据为中心的AI竞赛中实现84.711%的测试准确率(排名第6,最具创新性的荣誉奖)。
2021-12-07 cs.LG
Data Collection and Quality Challenges in Deep Learning: A Data-Centric AI Perspective
KAIST(韩国科学技术院);Naver AI Lab(Naver人工智能实验室)
以数据为中心的人工智能是软件工程根本性转变的核心,在这种转变中,机器学习成为由大数据和计算基础设施驱动的新软件。在这里,软件工程需要重新思考,数据成为与代码同等重要的一等公民。一个引人注目的观察结果是,机器学习过程的很大一部分都花在了数据准备上。没有好的数据,即使是最好的机器学习算法也无法很好地执行。因此,以数据为中心的人工智能实践现在正成为主流。不幸的是,现实世界中的许多数据集都很小,肮脏,有偏见,甚至有毒。在本调查中,我们研究了数据汇集和数据质量的研究前景,主要用于深度学习应用。数据汇集很重要,因为最近的深度学习方法对特征工程的需求较少,而是更多地需要大量数据。对于数据质量,我们研究数据验证,清洗和集成技术。即使数据不能被完全清理,我们仍然可以在模型训练期间使用鲁棒的模型训练技术来处理不完美的数据。此外,虽然偏见和公平性在传统的数据管理研究中研究得较少,但这些问题在现代机器学习应用中成为必不可少的主题。因此,我们研究公平性措施和不公平缓解技术,可以在模型训练之前,期间或之后应用。我们相信,数据管理社区已经做好了解决这些问题的准备。
2022-12-26 cs.LG
Machine Learning (ML)-Centric Resource Management in Cloud Computing: A Review and Future Directions
University of Electronic Science and Technology of China(电子科技大学);University of Melbourne(墨尔本大学)
云计算已经迅速成为用于提供基于互联网的效用计算服务的模型。在云计算中,基础设施即服务(IaaS)是最重要和发展最快的领域之一。云提供商在此服务模型中提供用户/机器资源,例如虚拟机、原始(块)存储、防火墙、负载均衡器和网络设备。IaaS的云计算最重要的方面之一是资源管理。可扩展性、服务质量、最佳效用、降低开销、增加吞吐量、减少延迟、专业化环境、成本效益和简化界面是云计算中IaaS资源管理的一些优势。传统上,资源管理是通过静态策略来完成的,这在各种动态场景中施加了一定的限制,促使云服务提供商采用数据驱动的、基于机器学习的方法。机器学习正被用于处理各种资源管理任务,包括工作负载估计、任务调度、VM整合、资源优化和能量优化等。本文详细介绍了基于ML的资源管理在当前研究中面临的挑战,以及当前解决这些挑战的方法,以及它们的优点和局限性。最后,我们提出了潜在的未来研究方向的基础上确定的挑战和局限性,在目前的研究。
2021-05-09 cs.DC cs.LG
Do Explanations Reflect Decisions? A Machine-centric Strategy to Quantify the Performance of Explainability Algorithms
University of Waterloo(滑铁卢大学);Waterloo Artificial Intelligence Institute(滑铁卢人工智能研究所);DarwinAI Corp.(达尔文人工智能公司)
最近,人们对可解释人工智能(XAI)的概念产生了极大的兴趣,其目标是为机器学习算法做出的决策提供解释。特别令人感兴趣的是如何深入神经网络作出决定的解释,鉴于这种网络的复杂性和“黑匣子”的性质。鉴于该领域的起步阶段,对可解释性方法的性能评估的探索非常有限,大多数评估都集中在对所产生的解释的主观视觉解释上。在这项研究中,我们探索了一种更加以机器为中心的策略,通过决策影响分析的概念来量化深度神经网络上可解释性方法的性能。我们引入了两个定量性能指标:i)影响分数,评估具有强烈信心降低影响或决策改变影响的关键因素的百分比,以及ii)影响覆盖率,评估输入中不利影响因素的覆盖率。使用这种方法对ResNet-50深度卷积神经网络上的几种最先进的可解释性方法(LIME,SHAP,Expected Quantients,GS Inquire)进行了全面分析,使用ImageNet的子集进行图像分类任务。实验结果表明,在测试图像中由LIME识别的关键区域对网络决策过程的影响最小(约38%),对SHAP(约44%),Expectedconstraints(约51%)和GSInquire(约76%)的决策影响逐渐增加。虽然绝不是完美的,但希望提出的以机器为中心的策略有助于推动对话朝着更好的指标发展,以评估可解释性方法,并提高对深度神经网络的信任。
2019-10-29 cs.LG cs.NE
Data-Centric AI Requires Rethinking Data Notion
IBM Research(IBM研究院)
向以数据为中心的AI过渡需要从数学和实现的角度重新审视数据概念,以获得统一的以数据为中心的机器学习包。为此,这项工作提出了由数据的分类和上链概念提供的统一原则,并讨论了这些原则在以数据为中心的AI过渡中的重要性。在范畴概念中,数据被视为一种数学结构,我们通过态射来保持这种结构。至于上链概念,数据可以被视为在感兴趣的离散域中定义的函数,并通过运算符进行操作。虽然这些概念几乎是正交的,但它们提供了一个统一的定义来查看数据,最终影响了从业者开发、实现和使用机器学习包的方式。
2021-12-02 cs.LG cs.NE math.CT
Modyn: Data-Centric Machine Learning Pipeline Orchestration
ETH Zurich(苏黎世联邦理工学院);IT University of Copenhagen(哥本哈根信息技术大学);Technical University of Munich(慕尼黑工业大学)
Modyn是一个以数据为中心的端到端机器学习平台,通过声明式管道抽象支持持续训练,引入复合模型概念衡量性能,并实证分析数据选择与触发策略对准确率的影响。
2025-01-24 cs.AI cs.DB cs.DC
Heterogeneous Data-Centric Architectures for Modern Data-Intensive Applications: Case Studies in Machine Learning and Databases
ETH Zürich(苏黎世联邦理工学院);Google(谷歌);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
当今的计算系统需要在计算资源之间来回移动数据(例如,CPU、GPU、加速器)和片外主存储器,以便可以对数据进行计算。不幸的是,这种数据移动是系统性能和能耗的主要瓶颈。在现代和新兴的应用程序中,一个有前途的执行范例是内存中处理(PIM),其中通过将计算能力放置在内存附近来降低数据移动到主内存/从主内存移动的成本。简单地采用PIM来加速数据密集型工作负载可能会导致次优性能,因为PIM基板施加了许多设计约束。因此,许多最近的作品共同设计专门的PIM加速器和算法,以提高性能并降低(i)来自各种应用领域的应用程序的能耗;以及(ii)各种计算环境,包括云系统,移动系统和边缘设备。我们展示了共同设计算法和硬件的好处,这种方式有效地利用了PIM范式用于两个现代数据密集型应用:(1)边缘设备的机器学习推理模型和(2)云系统的混合事务/分析处理数据库。我们在系统设计中遵循两步走的方法。在第一步中,我们广泛分析每个应用程序的计算和内存访问模式,以深入了解其硬件/软件要求以及以处理器为中心的系统中的性能和能源瓶颈的主要来源。在第二步中,我们利用第一步的见解来共同设计算法和硬件加速器,为每个应用程序实现高性能和高能效的以数据为中心的架构。
2022-05-29 cs.AI cs.AR cs.DB
Data-centric Operational Design Domain Characterization for Machine Learning-based Aeronautical Products
Thales(泰雷兹集团);Rockdale Systems LLC(罗克代尔系统有限责任公司);KBR(凯洛格·布朗·路特公司);NASA Ames Research Center(美国国家航空航天局艾姆斯研究中心);Airbus Operations (SAS)(空客运营(简易股份公司))
本文提出以数据为中心的航空 ML 产品 ODD 表征框架,通过参数维度与运行数据分类支撑模型需求、影响分析、学习保证和架构设计。
2023-07-15 cs.LG cs.SE
A Data-Centric Optimization Framework for Machine Learning
ETH Zurich(苏黎世联邦理工学院)
深度学习的快速发展导致了各种快速变化的模型,对计算的需求急剧增长。然而,由于框架专门针对流行网络中的模式进行性能优化,因此它们隐含地限制了推动研究进展的新颖且多样化的模型。我们通过定义一个灵活的、用户可自定义的管道来增强深度学习研究人员的能力,该管道基于数据移动最小化来优化任意深度神经网络的训练。该管道从PyTorch或ONNX中的标准网络开始,并通过逐步降低来转换计算。我们定义了四个级别的通用转换,从局部操作符内优化到全局数据移动减少。这些操作在以数据为中心的图形中间表示上进行,该中间表示在所有抽象级别上表达计算和数据移动,包括扩展基本运算符,例如将卷积扩展到其底层计算。设计的核心是管道的交互性和内省性。每个部分都可以通过Python API进行扩展,并且可以使用GUI进行交互式调优。我们在十个不同的网络上展示了具有竞争力的性能或加速,并通过交互式优化发现了EfficientNet中的新机会。
2022-08-29 cs.DC cs.LG cs.PF
A Data-Centric Approach to Generate Invariants for a Smart Grid Using Machine Learning
DHA Suffa University(DHA Suffa大学);Singapore Institute of Technology(新加坡理工大学)
本文提出数据驱动方法生成智能电网过程物理行为的不变量,用于检测网络中异常以防御网络攻击。
2022-02-14 cs.CR cs.LG
From industry-wide parameters to aircraft-centric on-flight inference: improving aeronautics performance prediction with machine learning
Inria(法国国家信息与自动化研究所);University College London(伦敦大学学院);Université de Lille(里尔大学)
飞机性能模型在航空公司运营中发挥着关键作用,特别是在规划燃油效率高的飞行时。在实践中,制造商提供的指导方针在整个飞机生命周期中通过调整单个因素略有修改,从而能够更好地预测燃油。然而,这具有局限性,特别是它们不能反映影响飞机性能的每个特征的演变。我们的目标是克服这个限制。本文的主要贡献是促进使用机器学习来利用飞机在飞行期间连续记录的大量数据,并提供反映其实际和个人性能的模型。我们说明我们的方法,专注于从记录的飞行数据的阻力和升力系数的估计。由于这些系数不能直接记录,我们采用空气动力学近似。作为一个安全检查,我们提供了边界来评估我们的方法的空气动力学近似和统计性能的准确性。我们提供了一系列机器学习算法的数值结果。我们报告了真实数据的出色准确性,并展示了经验证据来支持我们的建模,与空气动力学原理保持一致。
2021-02-04 cs.LG stat.AP stat.ME