Natural Language Processing in the Legal Domain
Singapore Management University（新加坡管理大学）；CodeX, Stanford University, USA（CodeX，斯坦福大学，美国）；Illinois Tech - Chicago Kent College of Law, USA（伊利诺伊理工学院—芝加哥肯特法学院，美国）；Bucerius Law School, Germany（伯克勒尔法学院，德国）；IIT-Bhubaneswar（IIT-巴纳拉斯瓦尔）
本文综述了NLP与法律领域的现状，分析了过去十年中相关论文数量、任务和语言的增加，以及方法的复杂性提升，指出该领域正逐步达到通用NLP的方法论水平和数据可用性标准。
2026-05-11 cs.AI cs.CL
When Does Pretraining Help? Assessing Self-Supervised Learning for Law and the CaseHOLD Dataset
Stanford University（斯坦福大学）
虽然自监督学习在自然语言处理方面取得了快速进展，但研究人员何时应该进行资源密集型的特定领域预训练（领域预训练）仍不清楚。令人困惑的是，尽管法律语言被广泛认为是独特的，但法律几乎没有记录在案的领域预训练的实质性收益。我们假设，这些现有的结果源于这样一个事实，即现有的法律NLP任务太容易，无法满足领域预训练可以帮助的条件。为了解决这个问题，我们首先介绍了CaseHOLD（法律判决的案例持有），这是一个新的数据集，由超过53，000个多项选择题组成，用于识别引用案例的相关持有。该数据集为律师提供了一项基本任务，从NLP的角度来看，它既有法律意义，又很困难（F1为0.4，BiLSTM基线）。其次，我们评估了CaseHOLD和现有合法NLP数据集的性能增益。虽然Transformer架构（BERT）在一般语料库上进行预训练（Google图书和维基百科）提高性能，域预训练（使用美国所有法院的大约350万个判决的语料库，其规模大于BERT），使用自定义法律词汇表，通过CaseHOLD表现出最显著的性能提升（在F1上获得7.2%的收益，比BERT提高了12%），并在其他两项法律任务上获得了一致的性能收益。第三，我们表明，域预训练可能是必要的，当任务表现出足够的相似性的预训练语料库：在三个法律任务的性能增加的水平直接挂钩的任务的域特异性。我们的研究结果告知研究人员何时应该进行资源密集型的预训练，并表…
2021-07-06 cs.CL
Improving Legal Judgement Prediction in Romanian with Long Text Encoders
University Politehnica of Bucharest（布加勒斯特理工大学）；BRD Groupe Societe Generale（BRD法国兴业银行集团）
针对法律领域长文档特性导致通用NLP模型难以直接应用的问题，本研究探索了专用模型与通用模型在罗马尼亚语法律判决预测任务上的表现，重点研究Transformer模型的序列长度扩展方法，通过4个不同规模的罗马尼亚语LJP数据集实验，验证了专用模型和长文本处理对性能提升的关键作用。
2024-03-04 cs.AI cs.CL
A Survey on Legal Judgment Prediction: Datasets, Metrics, Models and Challenges
Saarland Informatics Campus（萨尔兰信息学园区）；Northwestern Polytechnical University（西北工业大学）
法律判决预测是运用自然语言处理技术，根据事实描述自动预测判决结果。最近，大规模的公共数据集和NLP研究的进展导致了对LJP的兴趣越来越大。尽管机器和人类的表现之间存在明显的差距，但在各种基准数据集中取得了令人印象深刻的结果。本文针对目前缺乏对现有LJP任务、数据集、模型和评价的全面综述的现状，（1）分析了6种语言的31个LJP数据集，给出了它们的构造过程，定义了3种不同属性的LJP分类方法;（2）针对LJP任务的不同输出，总结了4类14个评价指标;（3）我们回顾了3种语言的12个法律领域预训练模型，并强调了LJP的3个主要研究方向;（4）我们展示了来自不同法院案件的8个代表性数据集的最新结果，并讨论了开放的挑战。本文可以提供最新的和全面的评论，以帮助读者了解LJP的地位。我们希望能促进NLP研究者和法律专业人士在这个问题上的进一步共同努力。
2022-04-11 cs.CL cs.LG
Through the Lens of Split Vote: Exploring Disagreement, Difficulty and Calibration in Legal Case Outcome Classification
Technical University of Munich（慕尼黑工业大学）；Graduate Institute of International and Development Studies（国际与发展研究研究生院）；IT University of Copenhagen（哥本哈根IT大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；ELTEMATE
本文通过欧洲人权法院分歧投票数据构建SV-ECHR数据集，系统探究法律案件结果分类中人类与模型在难度感知和校准上的一致性，发现现有模型与法官投票分布对齐有限，呼吁在法律NLP中重视人类标签变异的校准研究。
2024-06-06 cs.CL
The Legal Argument Reasoning Task in Civil Procedure
Technical University of Darmstadt（达姆施塔特工业大学）
我们提出了一个新的NLP任务和来自美国民事诉讼领域的数据集。数据集的每个实例都包括对案例的一般介绍，一个特定的问题和一个可能的解决方案论证，以及对该论证适用于该案例的详细分析。由于数据集是基于一本针对法律专业学生的书，我们相信它代表了一个真正复杂的任务，为基准现代法律语言模型。我们的基线评估表明，微调的法律Transformer提供了一些优势，随机基线模型，但我们的分析表明，实际的能力，推断法律论据仍然是一个具有挑战性的开放的研究问题。
2022-11-05 cs.CL
LAUKIN: A Multi-jurisdictional Common Law Contract Dataset
Computer Science and Engineering, UNSW, Sydney Australia（新南威尔士大学计算机科学与工程学院）；Law and Justice, UNSW, Sydney Australia（新南威尔士大学法律与司法学院）
针对跨国合同审查需求，构建了包含澳大利亚、英国和印度三地法律条款对的数据集LAUKIN，通过多阶段检索与人工标注实现法律等价性分类，基准测试显示跨司法管辖区分类具有挑战性。
2026-06-12 cs.CL
A Comprehensive Survey on Legal Summarization: Challenges and Future Directions
TU Dortmund University（多特蒙德工业大学）；Research Center Trustworthy Data Science and Security（可信数据科学与安全研究中心）；Ruhr University Bochum（波鸿鲁尔大学）
本文系统综述了法律领域的自动摘要技术、数据集、模型与评估方法，全面审查了120多篇NLP现代transformer时代的论文，填补了现有系统性综述的空白，并探讨了未来研究的趋势、挑战与机遇。
2025-01-29 cs.CL
JUDGEBERT: Assessing Legal Meaning Preservation Between Sentences
Université Laval（拉瓦尔大学）；Computer Science Department（计算机科学系）；Faculty of Law（法学院）
本文提出FrJUDGE数据集和JUDGEBERT评估指标，用于评估法语法律文本简化中的法律含义保留，实验表明其与人类判断相关性优于现有指标，并通过了相同句子得100%、无关句子得0%的健全性检查。
2025-08-23 cs.CL
FairLex: A Multilingual Benchmark for Evaluating Fairness in Legal Text Processing
University of Copenhagen（哥本哈根大学）；National University of Defense Technology（国防科技大学）
我们提出了一个由四个数据集组成的基准套件，用于评估预训练的语言模型的公平性，以及用于对下游任务进行微调的技术。我们的基准涵盖四个司法管辖区（欧洲理事会、美国、瑞士和中国）、五种语言（英语、德语、法语、意大利语和中文）以及五个属性（性别、年龄、地区、语言和法律领域）的公平性。在我们的实验中，我们使用几种组鲁棒微调技术来评估预训练的语言模型，并表明在许多情况下，表现组差异是充满活力的，而这些技术都不能保证公平性，也不能始终如一地减轻组差异。此外，我们提供了一个定量和定性分析我们的结果，突出了开放的挑战，在法律NLP的鲁棒性方法的发展。
2022-03-14 cs.CL
Legal Fact Prediction: The Missing Piece in Legal Judgment Prediction
Harbin Institute of Technology（哈尔滨理工大学）；The University of Osaka（大阪大学）；Zhejiang University（浙江大学）；Tsinghua University（清华大学）
本文提出法律事实预测（LFP）任务，以诉讼证据为输入预测法律事实，弥补法律判决预测在缺乏真实法律事实时无法应用的不足，并构建首个基准数据集LFPBench验证其有效性。
2025-11-06 cs.AI cs.CL cs.CY
From Dissonance to Insights: Dissecting Disagreements in Rationale Construction for Case Outcome Classification
Graduate Institute of International and Development Studies（国际与发展研究研究生院）；Faculty of Law, Ruhr University Bochum（波鸿鲁尔大学法学院）；IT University of Copenhagen（哥本哈根信息技术大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；Technical University of Munich（慕尼黑工业大学）
本文针对法律NLP中案件结果分类的可解释性，构建了专家理由分歧数据集RAVE，通过分析专家分歧构建分类法，并评估SOTA模型，揭示了法律基准数据集构建的复杂性。
2024-02-16 cs.CL
BLAD: A Historically Contextualized, Multilingual Dataset of Bangladeshi Legal Acts (1799 to 2025)
Islamic University of Technology（伊斯兰科技大学）；Systems and Software Lab (SSL)（系统与软件实验室）
介绍孟加拉国法律法案数据集BLAD，它包含1799年至2025年的1484项法案，涵盖多语言文档，解决南亚低资源民法管辖区法律NLP资源缺口，描述获取流程等，推动相关研究，数据集公开。
2026-07-21 cs.CL
MEL: Legal Spanish Language Model
Instituto de Ingeniería del Conocimiento (IIC)（知识工程研究所）；Universidad Politécnica de Madrid（马德里理工大学）
本文提出基于XLM-RoBERTa-large微调的西班牙语法律语言模型MEL，通过在BOE等法律文本上训练，显著提升了法律文本理解能力，并在多种NLP任务中展现出应用潜力。
2025-01-27 cs.CL
One Law, Many Languages: Benchmarking Multilingual Legal Reasoning for Judicial Support
University of Bern（伯尔尼大学）；University of Copenhagen（哥本哈根大学）；Bern University of Applied Sciences（伯尔尼应用科学大学）；University of Fribourg（弗里堡大学）；Stanford University（斯坦福大学）
针对LLM在长文档、领域知识、多语言、多任务及推理上的挑战，构建瑞士法律体系的多语言法律NLP基准，发现现有公开多语言模型即使经领域预训练与微调仍难以胜任多数任务。
2024-08-21 cs.AI cs.CL cs.LG
ImmigrationReason: A Structured Dataset of U.S. Immigration Appeals for Legal Reasoning Research
Stanford University（斯坦福大学）
本研究推出ImmigrationReason大规模结构化数据集，涵盖美国移民上诉裁决相关数据，可支撑法律推理领域的结果预测、错误分析及高风险监管智能体设计等研究方向。
2026-08-24 cs.CL
LEXTREME: A Multi-Lingual and Multi-Task Benchmark for the Legal Domain
University of Bern（伯尔尼大学）；Bern University of Applied Sciences（伯尔尼应用科学大学）；Stanford University（斯坦福大学）；University of Zurich（苏黎世大学）；University of Bologna（博洛尼亚大学）；University of Copenhagen（哥本哈根大学）
针对法律NLP缺乏多语言基准及现有基准饱和的问题，构建了涵盖24种语言11个数据集的多语言多任务基准LEXTREME，并提出两种综合评分方法，实验表明最佳基线模型得分仅61.3，表明该基准极具挑战性。
2024-01-08 cs.AI cs.CL cs.LG
The Law and NLP: Bridging Disciplinary Disconnects
MIT（麻省理工学院）；Harvard Law School（哈佛法学院）；ETH Zurich（苏黎世联邦理工学院）
本文指出法律界与NLP研究者的需求脱节导致NLP在法律实践中应用缓慢，回顾文献发现两者重叠有限且部分任务未满足实际需求，并探讨了有望弥合该脱节的任务及待探索的研究领域。
2023-10-22 cs.CL
BERT Goes to Law School: Quantifying the Competitive Advantage of Access to Large Legal Corpora in Contract Understanding
Lexion
在特定领域的语料库上微调语言模型，如BERT，已被证明在科学论文和生物医学文本等领域有价值。在本文中，我们表明，微调BERT的法律文件同样提供了宝贵的改善自然语言处理任务的法律领域。证明这一结果对于分析商业协议具有重要意义，因为由于其机密性，获得大型法律语料库具有挑战性。因此，我们表明，能够访问大型法律语料库是商业应用和分析合同的学术研究的竞争优势。
2019-11-01 cs.AI cs.CL cs.LG
Empowering Prior to Court Legal Analysis: A Transparent and Accessible Dataset for Defensive Statement Classification and Interpretation
Kingston University London（伦敦金斯顿大学）；University of Portsmouth（朴茨茅斯大学）
本研究构建了庭前警方讯问陈述分类专用数据集，提出经微调的DistilBERT模型（准确率86%，优于自定义Transformer），结合XAI方法与交互界面提升可解释性与可及性，推动法律NLP发展。
2024-05-17 cs.CL cs.CV
How Does NLP Benefit Legal System: A Summary of Legal Artificial Intelligence
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京国家信息科学与技术研究中心）；Beijing Powerlaw Intelligent Technology Co., Ltd.（北京幂律智能科技有限责任公司）
法律人工智能（LegalAI）专注于将人工智能技术，特别是自然语言处理，应用于法律领域的任务。近年来，LegalAI迅速引起了人工智能研究人员和法律专业人士越来越多的关注，因为LegalAI有利于法律系统将法律专业人士从迷宫般的文书工作中解放出来。法律专业人士经常考虑如何从基于规则和基于符号的方法来解决任务，而NLP研究人员则更多地关注数据驱动和嵌入方法。本文介绍了LegalAI的发展历史、研究现状以及未来的研究方向。我们从法律专业人士和NLP研究人员的角度说明了这些任务，并展示了LegalAI中的几个代表性应用。我们进行了实验，并提供了现有作品的优点和缺点的深入分析，以探索可能的未来方向。您可以从https://github.com/thunlp/CLAIM找到我们工作的实施。
2020-05-18 cs.CL
ILSIC: Corpora for Identifying Indian Legal Statutes from Queries by Laypeople
Indian Institute of Technology, Kharagpur（印度理工学院，克拉格浦尔）
ILSIC是一个包含500多条印度法律条文的非专业人士查询语料库，用于研究非专业人士与法院数据在法律条文识别任务中的差异。
2026-01-31 cs.CL
ACORD: An Expert-Annotated Retrieval Dataset for Legal Contract Drafting
ETH Zurich（苏黎世联邦理工学院）；New York University（纽约大学）；University of Washington（华盛顿大学）；Yale University（耶鲁大学）
ACORD是首个由专家标注的法律合同起草检索基准，包含114个查询和超12.6万查询-条款对，实验表明双编码器加大语言模型重排序效果良好，但复杂法律任务仍需改进。
2025-09-21 cs.CL
CLAIM: An Intent-Driven Multi-Agent Framework for Analyzing Manipulation in Courtroom Dialogues
Manipal University Jaipur（Manipal大学贾ipur）
本文提出 LegalCon 法庭对话数据集和两阶段意图驱动多智能体框架 CLAIM，用于检测操纵、识别操纵者并分类操纵技术，以提升司法公平性与透明度。
2025-06-04 cs.AI cs.CL cs.LG
Analyzing Bias in Swiss Federal Supreme Court Judgments Using Facebook's Holistic Bias Dataset: Implications for Language Model Training
Otto von Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）；Leibniz Institute for Educational Media | Georg Eckert Institute（莱布尼茨教育媒体研究所（格奥尔格·埃克特研究所））
本研究借助 Holistic Bias 社会偏见描述符与注意力可视化分析 SJP-Dataset，揭示法律判决预测数据中的偏见及其对模型行为的影响。
2025-01-06 cs.AI cs.CL
A Legal Approach to Hate Speech: Operationalizing the EU's Legal Framework against the Expression of Hatred as an NLP Task
Max Planck Institute for Research on Collective Goods（马克斯·普朗克集体物品研究所）；Waseda Institute for Advanced Study, Waseda University（早稻田大学高等研究所）；University of Duisburg-Essen（杜伊斯堡-埃森大学）
我们提出了一种“法律方法”，以仇恨言论检测的决定，是否一个职位是受刑法到一个NLP任务的操作。比较现有的仇恨言论监管制度，我们的调查基于欧洲联盟的框架，因为它提供了一个广泛适用的法律最低标准。准确判断一个职位是否应该受到惩罚通常需要法律培训。我们表明，通过将法律评估分解为一系列更简单的子决策，即使是外行也可以始终如一地进行注释。基于一个新注释的数据集，我们的实验表明，直接学习惩罚内容的自动化模型是具有挑战性的。然而，了解"目标群体"和"目标行为"这两个次级任务，而不是对惩罚采取端到端的办法，会产生更好的结果。总的来说，我们的方法还提供了比端到端模型更透明的决策，这是法律决策的关键点。
2021-10-05 cs.CL
Forging GEMs: Advancing Greek NLP through Quality-Based Corpus Curation
Novelcore；Department of Statistics & Insurance University of Piraeus（统计与保险系 帕里埃斯大学）
针对希腊语数据稀缺和架构局限，提出GEMs模型家族，通过质量策展语料库训练，在三个基准上显著提升准确率，最高达3.6%。
2025-10-24 cs.AI cs.CL
JUSTICE: A Benchmark Dataset for Supreme Court's Judgment Prediction
University of Southern California（南加州大学）
最近，人工智能被用于许多领域，法律系统也不例外。然而，就目前而言，与美国最高法院（SCOTUS）的法律文件有关的注释良好的数据集数量非常有限，可供公众使用。尽管最高法院的裁决是公共领域的知识，但由于每次都需要从头开始手动收集和处理这些数据，因此尝试使用它们进行有意义的工作变得更加艰巨。因此，我们的目标是创建一个高质量的SCOTUS法院案件数据集，以便它们可以随时用于自然语言处理（NLP）研究和其他数据驱动的应用程序。此外，NLP的最新进展为我们提供了构建预测模型的工具，这些模型可用于揭示影响法院判决的模式。通过使用先进的NLP算法来分析以前的法院案件，经过训练的模型能够预测和分类法院的判决，因为案件的事实来自原告和被告的文本格式;换句话说，该模型通过生成最终判决来模拟人类陪审团。
2021-12-06 cs.AI cs.CL
Open but Incompatible: A License Compatibility Analysis of Corpora for Low-Resource African Languages
Arktos AI Lab（阿克托斯人工智能实验室）；Netherlands（荷兰）
本文审计了非洲NLP中20多个语料库家族的许可证来源，构建六层兼容性矩阵，通过三个案例语言揭示四种许可证失败模式，并提出预标注尽职调查清单。
2026-06-27 cs.CL
DeepParliament: A Legal domain Benchmark & Dataset for Parliament Bills Prediction
Open Legal AI（开放法律人工智能）
本文介绍了DeepParliament，这是一个法律领域的基准数据集，它收集法案文档和元数据，并执行各种法案状态分类任务。拟议的数据集文本涵盖了从1986年至今的广泛法案，并包含有关议会法案内容的更丰富信息。本文提供了数据汇集、详细的统计和分析。此外，我们实验了不同类型的模型，从RNN到预训练的模型，并报告了结果。我们提出了两个新的基准：二进制和多类法案状态分类。为法案文件和相关支持任务开发的模型可以帮助国会议员、总统和其他法律从业人员。它将有助于审查或优先考虑法案，从而加快计费过程，提高决策质量，减少两院的时间消耗。考虑到该国民主的基础是议会和州立法机构，我们预计我们的研究将是法律NLP社区的重要补充。这项工作将首次提出一项议会法案预测任务。为了提高合法人工智能资源的可访问性并促进可重复性，我们在github.com/monk1337/DeepParliament上公开了我们的代码和数据集。
2022-11-15 cs.CL cs.IR cs.LG
MultiLegalSBD: A Multilingual Legal Sentence Boundary Detection Dataset
University of Bern（伯尔尼大学）；Bern University of Applied Sciences（伯尔尼应用科学大学）；Stanford University（斯坦福大学）
针对法律领域多语言句子边界检测任务，构建含6种语言超13万标注句的MultiLegalSBD数据集，训练多种模型实现最优性能，且多语言模型零样本表现优于基线，相关资源已公开。
2023-05-02 cs.AI cs.CL cs.LG
EURO-5K: When Does Domain Pretraining Matter? Benchmarking Transformers for EU Reporting Obligation Extraction
Division of Computer Science, School of Electrical and Computer Engineering（计算机科学系，电气与计算机工程学院）；National Technical University of Athens（雅典技术大学）；Department of Humanities Social Sciences and Law, School of Applied Mathematical and Physical Sciences（人文社会科学与法律系，应用数学与物理科学学院）
本文构建了EURO-5K数据集，通过对比判别式与生成式模型在欧盟报告义务提取上的表现，发现领域预训练在参数高效微调时收益显著，且模型可作为专用提取器。
2026-06-02 cs.CL
Legal Transformer Models May Not Always Help
EPFL（洛桑联邦理工学院）
基于深度学习的自然语言处理方法，尤其是Transformers，在过去几年取得了令人印象深刻的表现。将这些最先进的NLP方法应用于法律活动，以自动化或简化一些简单的工作，具有重要的价值。本文研究了领域自适应预训练和语言适配器在法律NLP任务中的价值。通过比较语言模型与领域自适应预训练在不同任务和不同数据集分割上的性能，我们表明领域自适应预训练仅对低资源下游任务有帮助，因此远非万能药。我们还在一个典型的合法NLP任务中对适配器的性能进行了基准测试，并表明它们可以以更小的训练成本产生与完整模型调优相似的性能。作为一个额外的结果，我们发布了LegalRoBERTA，这是一个在法律语料库上进一步预训练的RoBERTA模型。
2021-09-15 cs.CL
Towards Supporting Legal Argumentation with NLP: Is More Data Really All You Need?
Technical University of Munich（慕尼黑工业大学）；University of Pittsburgh（匹兹堡大学）；University of Liverpool（利物浦大学）
本文回顾了AI与法律中的传统符号方法及法律NLP的最新进展，探讨了如何通过整合专家知识在符号与数据驱动方法间平衡可扩展性与解释性，并指出了现代NLP模型在法律论证中的潜力与挑战。
2024-10-15 cs.AI cs.CL
ClassActionPrediction: A Challenging Benchmark for Legal Judgment Prediction of Class Action Cases in the US
Darrow AI Ltd.（达罗人工智能有限公司）
法律自然语言处理（NLP）是近年来的一个研究热点，其中法律判决预测（LJP）是其中研究最多的课题之一。到目前为止，大多数公开发布的LJP数据集来自大陆法系国家。在这项工作中，我们首次发布了一个具有挑战性的LJP数据集，专注于美国的集体诉讼案件。这是普通法制度中第一个专注于更困难和更现实的任务的数据集，涉及投诉作为输入，而不是法院经常使用的事实摘要。此外，我们通过收集专家的人类预测来研究任务的难度，结果表明，即使是人类专家在这个数据集上也只能达到53%的准确率。我们的Longformer模型明显优于人类基线（63%），尽管只考虑了前2，048个代币。此外，我们进行了详细的误差分析，发现Longformer模型的校准效果明显优于人类专家。最后，我们公开发布数据集和用于实验的代码。
2022-11-01 cs.AI cs.CL cs.LG
Judgement Citation Retrieval using Contextual Similarity
CVR College of Engineering（CVR工程学院）
针对传统法律案件引文检索依赖人工与关键词搜索、需专业法律知识的问题，提出结合NLP与机器学习、基于前沿嵌入模型生成文本嵌入的方法，实现无监督聚类与有监督引文检索，在SCOTUS数据集上达90.9%准确率，提升法律研究效率。
2024-08-15 cs.CL cs.IR cs.LG
MultiLegalPile: A 689GB Multilingual Legal Corpus
University of Bern（伯尔尼大学）；Bern University of Applied Sciences（伯尔尼应用科学大学）；Stanford University（斯坦福大学）；University of Copenhagen（哥本哈根大学）
针对法律领域多语言高质量训练数据匮乏的问题，研究者发布了689GB、覆盖24种语言17个司法管辖区的MultiLegalPile语料库，基于其训练的多语言和单语言模型在LEXTREME、LexGLUE基准上取得SotA成绩。
2024-05-19 cs.AI cs.CL cs.LG
Automatic Detection of Industry Sectors in Legal Articles Using Machine Learning Approaches
University of Essex（埃塞克斯大学）；Mondaq Ltd（蒙达克有限公司）；Friedrich-Alexander University Erlangen-Nuremberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
在有关法律发展的文章或任何类型的新闻文章中自动识别行业报道的能力，可以为读者和内容创作者本身带来大量好处。通过根据行业报道标记文章，来自世界各地的读者将能够获得特定于其地区和专业行业的法律新闻。同时，作者将受益于了解哪些行业可能缺乏报道，或者哪些行业的读者目前最感兴趣，因此，他们将把写作努力集中在更具包容性和相关性的法律新闻报道上。本文研究了一种基于机器学习的工业分析方法，该方法将自然语言处理（NLP）与统计和机器学习（ML）技术相结合。创建了一个由1，700多篇附有注释的法律文章组成的数据集，用于确定六个行业部门。从文本中提取文本和法律特征。传统的ML方法（例如梯度提升机算法和基于决策树的算法）和深度神经网络（例如Transformer模型）都被应用于预测模型的性能比较。该系统取得了可喜的成果，与受试者工作特征曲线下的面积得分高于0.90和F-得分高于0.81的六个行业部门。实验结果表明，建议的自动化行业分析，采用ML技术允许在一个简单的，高效的，可扩展的方式处理大量的文本数据。当只有少量特定于领域的训练数据可用于研究时，传统ML方法的性能优于深度神经网络。
2023-03-08 cs.CL cs.LG
Automated Refugee Case Analysis: An NLP Pipeline for Supporting Legal Practitioners
School of Informatics（信息学院）；The University of Edinburgh（爱丁堡大学）；School of Law（法学院）
本文提出一个端到端NLP流水线，用于从加拿大难民法律案件中提取19类信息，测试多种模型架构，发现法律领域预训练模型效果最佳，F1分数在多个类别上超过90%。
2023-05-24 cs.CL
ANTONIO: Towards a Systematic Method of Generating NLP Benchmarks for Verification
Heriot-Watt University（赫瑞-瓦特大学）；University of Edinburgh（爱丁堡大学）；University of Birmingham（伯明翰大学）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
本文分析 NLP 模型难以用现有神经网络验证方法处理的技术原因，提出数据集与模型准备方法，并实现连接 ERAN 和 Marabou 的 Python 库 ANTONIO，用 R-U-A-Robot 数据集评估以支持 NLP 验证基准构建。
2023-08-15 cs.AI cs.CL cs.LG
Comparing the Performance of NLP Toolkits and Evaluation measures in Legal Tech
Lehrstuhl für Data Science（数据科学讲席教授组）
自然语言处理的最新发展导致了最先进的神经语言模型的引入，该模型支持无监督可转移学习，使用不同的预训练目标。虽然这些模型在下游NLP任务上取得了优异的结果，但各种领域自适应技术可以提高它们在特定领域任务上的性能。我们比较和分析了预训练的神经语言模型，XLNet（自回归）和BERT（自动编码器）。结果表明，XLNet模型在我们的法律意见分类的序列分类任务上表现更好，而BERT在NER任务上产生更好的结果。我们使用特定于领域的预训练和额外的法律词汇来使BERT模型进一步适应法律领域。我们准备了BERT模型的多种变体，使用两种方法及其组合。比较我们的变体的BERT模型，专门在法律领域，我们的结论是，额外的预训练和词汇技术提高了BERT模型的法律意见分类任务的性能。额外的法律词汇提高了BERT在NER任务上的表现。结合预训练和词汇技术进一步提高了最终结果。我们的Legal-Vocab-BERT模型在法律意见任务上给出了最好的结果，优于较大的预训练通用语言模型，即，BERT-Base和XLNet-Base。
2021-03-12 cs.CL cs.LG
LegaLMFiT: Efficient Short Legal Text Classification with LSTM Language Model Pre-Training
Jus Mundi
基于transformer的大型语言模型，如BERT，已经在许多NLP任务上带来了广泛的性能提升。这些模型的特定领域变体在各种专业任务上表现出出色的性能。在法律NLP中，基于BERT的模型在多个任务上产生了新的最先进的结果。对这些模式的探索表明了捕捉法律语言及其词汇的特殊性的重要性。然而，这种方法的计算成本高，导致更高的生态影响和更低的可访问性。我们的研究结果，重点是英语语言的法律文本，表明轻量级的LSTM为基础的语言模型能够捕捉足够的信息，从一个小的法律文本预训练语料库，并取得了良好的性能，对短的法律文本分类任务。与基于BERT的模型相比，这是通过显着减少的计算开销来实现的。然而，我们的方法在更复杂的任务上也显示出性能下降，即对较长文档的多标签分类，突出了这种轻量级方法的局限性。
2021-09-15 cs.CL
Segmentation and Processing of German Court Decisions from Open Legal Data
Hasso-Plattner Institute / University of Potsdam, Germany（哈索-普拉特纳研究所 / 波茨坦大学）
本研究提出了一种从开放法律数据中清洗并分节德国法院判决的方法，提取了三个关键部分并公开了数据集，为法律NLP研究提供支持。
2026-01-04 cs.CL cs.IR cs.LG
ALJP: An Arabic Legal Judgment Prediction in Personal Status Cases Using Machine Learning Models
King Abdulaziz University（阿卜杜勒阿齐兹国王大学）
本文提出一个基于机器学习和深度学习模型的阿拉伯语法律判决预测系统，在监护权和婚姻无效案件中分别达到88%和78%的最高准确率，旨在辅助法官、律师和诉讼当事人。
2023-09-01 cs.AI cs.CL
DALE: Generative Data Augmentation for Low-Resource Legal NLP
University of Maryland, College Park（马里兰大学帕克分校）；NVIDIA（英伟达）
本文提出DALE，一个面向低资源法律NLP的生成式数据增强框架，基于选择性掩码的Encoder-Decoder模型预训练，在13个数据集上较基线提升1%-50%。
2023-10-24 cs.AI cs.CL
Conversion of Legal Agreements into Smart Legal Contracts using NLP
National Taiwan Normal University（台湾师范大学）；University College London（伦敦大学学院）；Peking University（北京大学）
本文提出一种利用NLP模型自动化创建智能法律合同的流水线，将法律协议转换为Accord Project的Concerto模型，并开发了相应的Web界面，实验表明其NER检测准确率达0.8。
2023-04-05 cs.CL cs.CY
Towards A Structured Overview of Use Cases for Natural Language Processing in the Legal Domain: A German Perspective
Technical University of Munich（慕尼黑工业大学）
本文基于系统性文献综述和德国法律实践，构建法律科技用例的结构化概览，识别七类NLP技术与22个法律用例的对应关系，并提炼出15个伦理、法律和社会方面（ELSA）问题。
2024-05-02 cs.CL cs.CY
Orchestrating NLP Services for the Legal Domain
DFKI GmbH（德国人工智能研究中心）；Semantic Web Company GmbH（语义网公司）；Openlaws GmbH（Openlaws公司）；Universidad de Zaragoza（萨拉戈萨大学）；Alpenite（阿尔卑尼特公司）
法律技术目前正受到各种角度的关注。在这篇文章中，我们描述了一个系统的主要技术组成部分，目前正在开发中的欧洲创新项目Lynx，其中包括来自工业和研究的合作伙伴。本文的主要贡献是一个工作流管理器，使工作流的灵活编排的基础上的投资组合的自然语言处理和内容策展服务，以及多语言的法律知识图谱，其中包含语义信息和有意义的参考法律文件。我们还描述了不同的用例，我们实验和开发原型解决方案。
2020-03-28 cs.AI cs.CL
LEGAL-BERT: The Muppets straight out of Law School
Athens University of Economics and Business（雅典经济与商业大学）；NCSR “Demokritos”（德谟克利特国家科学研究中心）；University of Sheffield（谢菲尔德大学）
BERT在几个NLP任务中取得了令人印象深刻的性能。然而，在专门领域对其适应指南的研究有限。在这里，我们专注于法律领域，在那里我们探索了几种方法，将BERT模型应用于下游法律任务，在多个数据集上进行评估。我们的研究结果表明，以前的预训练和微调的指导方针，往往盲目遵循，并不总是概括以及在法律领域。因此，我们提出了一个系统的调查时，适用于专门领域的BERT的可用策略。这些是：（a）使用开箱即用的原始BERT，（b）通过在特定领域语料库上进行额外的预训练来适应BERT，以及（c）在特定领域语料库上从头开始预训练BERT。我们还提出了一个更广泛的超参数搜索空间时，微调下游任务，我们发布了法律-BERT，一个家庭的BERT模型，旨在协助法律NLP研究，计算法，法律技术应用。
2020-10-06 cs.CL
On the Ethical Limits of Natural Language Processing on Legal Text
University of York（约克大学）；University of Sheffield（谢菲尔德大学）
用于分析法律文本的自然语言处理（NLP）方法为法律学者和实践者提供了一系列允许大规模地实证分析法律的工具。然而，研究人员似乎很难确定使用NLP系统获得关于法律和系统预测能力的真正见解的道德限制。在本文中，我们提出了一些系统地思考这些问题的方法。我们把重点放在三个关键的规范参数，据我们所知，被低估了目前的辩论：（a）学术自由的重要性，（b）存在的法律和道德规范的广泛多样性国内，但更是如此国际和（c）道德主义的威胁，在有关计算法的研究。对于这三个参数，我们为法律NLP社区提供了具体的建议。我们的讨论是围绕着一个现实生活中的场景进行的，这个场景最近引发了法律NLP研究界的争论。
2021-05-25 cs.AI cs.CL
German BERT Model for Legal Named Entity Recognition
University of Passau（帕绍大学）
BERT是最流行的语言模型之一，它的使用使得许多自然语言处理（NLP）任务得到了改进。一个这样的任务是命名实体识别（NER），即从给定文本自动识别诸如位置、人、组织等的命名实体。它也是许多自然语言处理任务，如信息抽取和论证挖掘的重要基础步骤。尽管使用BERT和其他流行的语言模型对NER进行了大量研究，但在法律NLP或法律技术方面却没有详细探讨。法律NLP应用各种NLP技术，如句子相似性或NER专门针对法律数据。使用BERT语言模型的NER任务只有少数模型，然而，这些模型都不是针对德语的法律文档。在本文中，我们微调了一个流行的BERT语言模型，该模型在法律实体识别（LER）数据集上对德国数据（德语BERT）进行了训练。为了确保我们的模型不会过度拟合，我们进行了分层的10倍交叉验证。我们在LER数据集上通过微调德国BERT获得的结果优于相同LER数据集作者使用的BiLSTM-CRF+模型。最后，我们通过HuggingFace公开提供模型。
2023-03-07 cs.CL cs.LG
NLP at UC Santa Cruz at SemEval-2024 Task 5: Legal Answer Validation using Few-Shot Multi-Choice QA
Baskin School of Engineering（巴斯金工程学院）；University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）
本文针对SemEval-2024法律答案验证任务，提出微调BERT领域模型和GPT少样本多项选择问答重构两种方法，最佳模型在20队中排名第7。
2024-04-04 cs.AI cs.CL
Natural Language Processing for the Legal Domain: A Survey of Tasks, Datasets, Models, and Challenges
The University of Queensland（昆士兰大学）
本文综述了法律领域NLP的任务、数据集、模型及挑战，探讨了法律文本处理的独特性与现存问题，并提出了十六项开放研究挑战。
2025-07-30 cs.AI cs.CL
The Ethics of Automating Legal Actors
University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）
本文从法官积极塑造法律的社会角色出发，论证当前法律NLP模型不具备自动化法官所需能力，且即使达到人类水平也仍存在固有伦理问题，因此不应将法官角色自动化。
2023-12-01 cs.AI cs.CL
