Hybrid Rule-Neural Coreference Resolution System based on Actor-Critic Learning
Samsung Research America(三星美国研究院)
一个共指消解系统是将在给定上下文中引用同一实体的所有提及进行聚类。所有的共指消解系统需要处理两个主要任务:一个任务是检测所有的潜在提及,另一个是学习每个可能提及的先行词的链接。在本文中,我们提出了一个混合的规则-神经共指消解系统的基础上actor-critic学习,使它可以实现更好的共指性能,利用启发式规则和神经会议模型的优点。该端到端系统还可以通过利用联合训练算法来执行提及检测和解决。我们在BERT模型上进行实验,以生成输入跨度表示。我们的模型与BERT跨度表示达到了国家的最先进的模型之间的性能在CoNLL-2012共享任务英语测试集。
2022-12-20 cs.CL
A Benchmark of Rule-Based and Neural Coreference Resolution in Dutch Novels and News
University of Groningen(格罗宁根大学)
我们评估了基于规则的(Lee等人,2013)和神经(Lee等人,2018)共指系统在荷兰两个领域的数据集:文学小说和新闻/维基百科文本。结果提供了洞察数据驱动和知识驱动系统的相对优势,以及域,文档长度和注释方案的影响。神经系统在新闻/维基百科文本上表现最好,而基于规则的系统在文学上表现最好。神经系统在有限的训练数据和长文档的情况下表现出弱点,而基于规则的系统受到注释差异的影响。本文中使用的代码和模型可在https://github.com/andreasvc/crac2020上获得
2020-11-03 cs.CL
Towards Harmful Erotic Content Detection through Coreference-Driven Contextual Analysis
NASK National Research Institute(NASK国家研究院)
本文提出一种利用共指解析的混合神经与规则上下文感知系统,通过分析非性部分的上下文线索识别有害色情内容,在波兰语数据集上准确率达84%,优于未用共指链的RoBERTa和Longformer模型。
2023-10-22 cs.CL
Who are you referring to? Coreference resolution in image narrations
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);CFAR, IHPC, A*STAR(新加坡科技研究局高性能计算研究所认知智能研究中心)
共指消解的目的是识别文本中指代同一实体的词和短语,是自然语言处理的核心任务。在本文中,我们将这项任务扩展到解决视觉场景的长篇叙述中的共指。首先,我们引入一个新的数据集与注释的共指链和它们的边界框,因为大多数现有的图像-文本数据集只包含短句没有共指表达式或标记链。我们提出了一种新的技术,学习识别共指链使用弱监督,只有从图像-文本对和正则化使用先验语言知识。我们的模型产生了很大的性能增益,在几个强大的基线解决共指。我们还表明,共指消解有助于改善图像中的接地叙事。
2023-03-17 cs.CL cs.CV
Sieve-based Coreference Resolution in the Biomedical Domain
University of Arizona(亚利桑那大学)
我们描述的挑战和独特的优势,共指消解在生物医学领域,和基于筛子的架构,利用领域知识的实体和事件共指消解。领域通用的共指消解算法在生物医学文档上表现不佳,因为它们所依赖的线索(如性别)在该领域中基本上不存在,并且因为它们不编码特定领域的知识,如化学反应所需的参与者的数量和类型。此外,由于大多数共指消解算法不是基于规则的,因此很难将这些知识直接编码到这些算法中。我们的基于规则的架构使用顺序应用手工设计的“筛子”,每个筛子的输出通知和约束后续筛子。这种架构为我们的Reach事件提取系统提供了3.2%的吞吐量增加,其精度与仅依赖于语法模式进行提取的更严格的系统的精度平行。
2016-09-02 cs.CL
Named Person Coreference in English News
University of Pennsylvania(宾夕法尼亚大学)
在诸如搜索和信息抽取之类的任务中,人通常是感兴趣的实体。在这些任务中,目标是找到尽可能多的信息,关于他们的名字指定的人。然而,在文本中,一些对人的引用是代词(她,他的)或一般描述(教授,德国总理)。因此,重要的是,共指消解系统能够将这些不同类型的提及与正确的人名联系起来。在这里,我们评估两个国家的最先进的共指消解系统的子任务命名的人共指,在其中,我们有兴趣确定一个人的名字提到,以及所有其他提到的人,代词或通用名词短语。我们的分析表明,标准的共指指标并没有充分反映在这项任务中的要求:他们不惩罚系统没有识别任何提到的名字,他们奖励系统,即使系统找到正确的提到同一个实体,但未能将这些链接到一个适当的名称(她-学生--没有名字)。我们引入新的指标来评估命名的人共指,解决这些差异。我们提出了一个简单的基于规则的命名实体识别驱动的系统,它优于目前国家的最先进的系统,这些特定任务的指标,并与他们在传统的共指评价。最后,我们提出了类似的评价共指消解的其他命名实体,并表明基于规则的方法是有效的,只有人命名的共指,而不是其他命名实体类型。
2018-11-20 cs.CL
Humans vs Vision-Language Models: A Unified Measure of Narrative Coherence
University of Gothenburg(哥德堡大学);Queen Mary University of London(伦敦玛丽女王大学)
研究通过比较人类写作与视觉语言模型生成的叙事,评估视觉基础故事中的叙事连贯性,发现模型在连贯性方面与人类存在系统性差异。
2026-03-26 cs.CL
InScript: Narrative texts annotated with script information
本文介绍了InScript语料库(Narrative Texts Instantiating Script structure)。InScript是一个包含1,000个故事的语料库,围绕着10个不同的场景。动词和名词短语分别用事件和参与者类型进行注释。此外,正文还附有共指信息的注释。该语料库显示了丰富的词汇变异,将成为研究脚本知识在自然语言处理中作用的独特资源。
2017-03-15 cs.AI cs.CL
Investigating the Role of Centering Theory in the Context of Neural Coreference Resolution Systems
定心理论(CT; Grosz等人,1995)提供了对话语结构的语言学分析。根据该理论,语篇的局部连贯性取决于连续话语对同一实体的指称方式和程度。本文研究了中心化理论与现代共指消解系统之间的联系。我们提供了一个可操作的中心和系统的调查,如果神经共指解析器坚持以中心理论的规则,通过定义各种话语指标和开发一个基于搜索的方法。我们的信息理论分析揭示了一个积极的相互依存关系和中心,但也表明,高质量的神经相互依存解析器可能不会受益于明确建模中心的想法。我们的分析进一步表明,情境化嵌入包含大量的一致性信息,这有助于解释为什么CT只能为使用预训练表示的现代神经共指解析器提供很少的增益。最后,我们讨论的因素,有助于共指,而不是由CT模型,如世界知识和近因偏见。我们制定了一个版本的CT,也模型的近因,并表明它捕获的共指信息更好地相比,香草CT。
2022-10-26 cs.CL
Using Decision Trees for Coreference Resolution
本文介绍了RESOLVE,一个系统,使用决策树来学习如何在商业合资企业领域的相关短语进行分类。一个实验中,RESOLVE的性能进行比较,手动设计的一组规则,为同一任务的性能。结果表明,决策树实现了更高的性能比规则的三个评价指标的共指任务。除了实现比规则更好的性能外,RESOLVE还提供了一个框架,便于探索对解决共指问题有用的知识类型。
1995-05-24 cmp-lg cs.CL
OntoGUM: Evaluating Contextualized SOTA Coreference Resolution on 12 More Genres
Georgetown University(乔治城大学);University of Pennsylvania(宾夕法尼亚大学)
SOTA共指消解在OntoNotes基准测试中的得分越来越高。然而,缺乏可比较的数据,遵循相同的计划,更多的体裁,很难评估通用性开放领域的数据。本文提供了一个数据集和全面的评估,表明最新的基于神经LM的端到端系统在域外的退化非常严重。我们做了一个OntoNotes一样的共指数据集称为OntoGUM公开,转换GUM,英语语料库,涵盖12种体裁,使用确定性规则,我们评估。由于GUM中丰富的句法和话语注释,我们能够根据OntoNotes指南创建最大的人类注释的共指语料库,并且是第一个评估与OntoNotes方案一致性的语料库。跨12种类型的域外评估显示,确定性和深度学习系统的性能下降了近15-20%,这表明现有的共指消解模型缺乏泛化能力或隐性过拟合。
2021-06-03 cs.CL
Anatomy of OntoGUM--Adapting GUM to the OntoNotes Scheme to Evaluate Robustness of SOTA Coreference Algorithms
Georgetown University(乔治城大学);Linguistic Data Consortium(语言数据联盟);University of Pennsylvania(宾夕法尼亚大学);Department of Linguistics, Georgetown University(乔治城大学语言学系)
SOTA共指消解在OntoNotes基准测试中的得分越来越高。然而,缺乏可比较的数据,遵循相同的计划,更多的体裁,很难评估通用性开放领域的数据。Zhu等人(2021)介绍了OntoGUM语料库的创建,用于评估最新的基于神经LM的端到端系统的可推广性。本文介绍了映射过程的细节,这是一组确定性的规则,适用于丰富的语法和语篇注释手动注释的GUM语料库。跨12种类型的域外评估显示,确定性和深度学习系统的性能下降了近15-20%,这表明现有的共指消解模型缺乏泛化能力或隐性过拟合。
2021-10-12 cs.CL
BOOKCOREF: Coreference Resolution at Book Scale
Sapienza NLP Group, Sapienza University of Rome(Sapienza 大学自然语言处理小组,Sapienza 罗马大学)
本文提出自动标注流水线并构建首个书籍规模共指消解基准BOOKCOREF(平均文档超20万token),实验表明该资源可使现有长文档共指系统提升最高+20 CoNLL-F1分,同时揭示了书籍规模设置带来的新挑战。
2025-07-16 cs.AI cs.CL
Knowledge-aware Pronoun Coreference Resolution
The Hong Kong University of Science and Technology(香港科技大学);Tencent AI Lab(腾讯人工智能实验室)
解决代词共指需要知识支持,特别是对于特定领域(例如,医学)。在本文中,我们探讨了如何利用不同类型的知识,以更好地解决代词指代与神经模型。为了保证模型的泛化能力,我们直接将知识以三元组的形式(现代知识图谱中最常见的形式)进行合并,而不是像传统方法那样用特征或规则对其进行编码。此外,由于并非所有的知识是有帮助的,在某些情况下,选择性地使用它们,我们提出了一个知识注意模块,学习选择和使用基于上下文的信息性知识,以增强我们的模型。在不同领域的两个数据集上的实验结果证明了我们的模型的有效性和有效性,它的性能大大优于最先进的基线。此外,由于我们的模型学习使用外部知识,而不仅仅是拟合训练数据,因此它在跨域设置中也表现出优于基线的性能。
2019-07-08 cs.CL
Gender Bias in Coreference Resolution: Evaluation and Debiasing Methods
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University of Virginia(弗吉尼亚大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们引入了一个新的基准,WinoBias,共指消解侧重于性别偏见。我们的语料库包含Winograd模式风格的句子,其实体对应于职业所指的人(例如,护士,医生,木匠)。我们证明了一个基于规则的,功能丰富的,和神经共指系统都链接性别代词亲刻板的实体具有更高的准确性比反刻板的实体,平均差异为21.1的F1得分。最后,我们展示了一种数据增强方法,结合现有的字嵌入去偏置技术,消除了这些系统在WinoBias中表现出的偏差,而不会显著影响它们在现有共指基准数据集上的性能。我们的数据集和代码可以在http://winobias.org上找到。
2018-04-18 cs.AI cs.CL
Syntactic Patterns and Stylistic Functions in Narrative Prose: A Rule-Based and Machine-Learning Approach
本文提出一种基于规则与机器学习的方法,利用依存句法分析语料库中的线性化三元组模式,对叙事散文句子进行五类文体分类,最佳模型宏F1达0.948。
2026-09-09 cs.CL
Learning to Ignore: Long Document Coreference with Bounded Memory Neural Networks
Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);University of Chicago(芝加哥大学)
长文档共指消解仍然是一个具有挑战性的任务,由于当前模型的大内存和运行时间的要求。最近的工作做增量共指消解只使用实体的全局表示显示了实际的好处,但需要保持所有的实体在内存中,这可能是不切实际的长文档。我们认为,保持所有实体在内存中是不必要的,我们提出了一个内存增强的神经网络,跟踪只有一个小的有限数量的实体在同一时间,从而保证了线性运行时间的文件长度。我们表明,(a)该模型仍然具有竞争力的OntoNotes和LitBank的高内存和计算要求的模型,和(b)该模型学习一个有效的存储管理策略很容易优于基于规则的策略。
2020-11-17 cs.CL cs.LG
An Agentic Approach to Generating XAI-Narratives
University of Antwerp(安特卫普大学)
本文提出多代理框架生成和优化XAI叙述,通过多个批评代理反馈改进叙述的忠实性和连贯性。实验显示基本设计、批评设计和批评规则设计有效提升叙述忠实度,Claude-4.5-Sonnet在三次迭代后减少90%不忠实叙述。
2026-03-20 cs.CL
On Coreferring Text-extracted Event Descriptions with the aid of Ontological Reasoning
ISTC CNR(意大利国家研究委员会认知科学与技术研究所);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
用于从大型文本资源中自动提取关于事件的语义信息的系统现在是可用的:这些工具能够生成关于文本提取事件的RDF数据集,并且这些知识可以用于对识别的事件进行推理。另一方面,用于事件识别的基于文本的任务,例如事件共指(即识别两个文本描述是否指代同一事件),在其过程中不考虑所提取事件的本体信息。在本文中,我们提出了一种方法来获得事件共指的文本提取的事件数据,使用基于语义的规则推理。我们证明了我们的方法,考虑有限的(但代表性的)一组事件类型:我们介绍了一个形式化的分析其本体属性,在此基础上,我们定义了一组共指标准。然后,我们将这些标准作为基于RDF的推理规则应用于文本提取的事件数据。我们评估我们的方法的有效性超过标准的共指基准数据集。
2016-12-01 cs.AI cs.CL
Piecing Together Cross-Document Coreference Resolution Datasets: Systematic Dataset Analysis and Unification
本文提出uCDCR数据集,整合多个领域英文核心指代消解数据集,分析其词汇特性并展示提升模型泛化能力的成果。
2026-03-03 cs.CL
A Rule Based Solution to Co-reference Resolution in Clinical Text
Baylor College of Medicine(贝勒医学院);VA HSR&D Center of Excellence(退伍军人事务部卫生研究与发展卓越中心)
本文面向生物医学临床文本,利用2011年 i2b2 挑战赛数据构建基于人工规则的共指消解系统,在多个医学数据集上达到89.6%的总体性能,验证了规则方法的有效性。
2025-03-12 cs.AI cs.CL
CorefPrompt: Prompt-based Event Coreference Resolution by Measuring Event Type and Argument Compatibilities
Soochow University(苏州大学)
本文提出基于提示的方法CorefPrompt,将事件共指消解转化为完形填空式MLM任务,并引入事件类型与论元兼容性辅助提示,在单一模板内同时建模与判别共指,在SOTA基准上表现良好。
2023-10-24 cs.AI cs.CL cs.IR
The Knowref Coreference Corpus: Removing Gender and Number Cues for Difficult Pronominal Anaphora Resolution
McGill University(麦吉尔大学);Microsoft Research Montreal(微软研究院蒙特利尔分院)
我们引入了一个新的基准共指消解和NLI,Knowref,目标常识理解和世界知识。以前的共指消解任务主要是利用先行词的数量和性别来解决的,或者是手工制作的,不能反映自然发生的文本的多样性。我们提出了一个语料库的8,000多个注释的文本段落与歧义代词回指。这些情况既具有挑战性又现实。我们发现,各种共指系统,无论是基于规则的,功能丰富的,或神经,执行任务显着不如人类,谁显示高注释者之间的协议。为了解释这种性能差距,我们从经验上表明,最先进的模型往往无法捕捉上下文,而是依赖于性别或候选前因的数量来做出决定。然后,我们使用特定于问题的见解来提出一种称为先行切换的数据增强技巧,以减轻模型中的这种趋势。最后,我们表明,先行切换在其他任务上也产生了很好的结果:我们用它来实现GAP共指任务的最先进的结果。
2019-06-13 cs.CL cs.IR cs.LG
Ontology-Based Post-Coordinated Expression Assembly: from Clinical Narrative to Queryable Knowledge Graphs
Hôpitaux Universitaires de Genève(日内瓦大学医院)
该研究提出符合SNOMED CT扩展语法的方法,通过工具UNIGRAPHE从临床叙事构建可查询知识图谱,解决临床文本无法大规模检索的问题,实验验证其可实现标注到后协调表达的有效转换。
2026-10-14 cs.CL
A hybrid entity-centric approach to Persian pronoun resolution
Islamic Azad University Tehran North Branch(伊斯兰阿扎德大学德黑兰北部分校);Shahid Beheshti University(沙希德·贝赫什提大学)
代词消解是自然语言处理中的一个重要领域,称为共指消解。共指消解是关于查找文本中引用同一真实世界实体的所有实体。本文提出了一种混合模型,结合多个基于规则的筛子和机器学习筛子的代词。为此,为波斯语设计了七个高精度的基于规则的筛子。然后,一个随机森林分类器将代词链接到先前的部分聚类。该方法使用流水线设计并结合了机器学习和基于规则的方法的优点,展示了示例性的性能。该方法解决了端到端模型中的一些挑战。在本文中,作者开发了一个波斯语共指语料库称为Mehr的400个文件的形式。这个语料库修复了以前波斯语语料库的一些弱点。最后,所提出的系统的效率相比,早期的模型在波斯的Mehr和乌普萨拉测试集上评估所提出的方法。
2022-11-11 cs.AI cs.CL cs.LG
Inter-Rater Reliability of LLM and Rule-Based Annotation for Inferential Narrative Features: Three Studies on a Turkish Corpus
Independent Researcher(独立研究者)
本研究通过三项实验评估了LLM与规则检测器在土耳其语语料库推理叙事特征标注上的信度,发现机器与人类一致性极低,表明该特征难以自动检测或规则定义不够可操作。
2026-09-15 cs.CL
Review of coreference resolution in English and Persian
Islamic Azad University Tehran North Branch(伊斯兰阿扎德大学德黑兰北部分校);Shahid Beheshti University(沙希德·贝赫什提大学)
本文综述英语与波斯语共指消解的语料、指标和算法演进,重点分析低资源波斯语及ParsBERT端到端模型,并指出挑战与未来方向。
2024-08-05 cs.AI cs.CL
COINS: Dynamically Generating COntextualized Inference Rules for Narrative Story Completion
Research Training Group AIPHES(AIPHES研究培训小组);Heidelberg University(海德堡大学)
尽管最近大型预训练语言模型在解决推理任务方面取得了成功,但它们的推理能力仍然不透明。我们认为,这样的模型可以通过显式地生成临时推理规则,并使用它们来指导特定于任务的文本输出的生成,使其更具可解释性。在本文中,我们提出了COINS,一个递归推理框架,i)迭代地读取上下文语句,ii)动态生成上下文推理规则,对它们进行编码,iii)使用它们来指导特定于任务的输出生成。我们将COINS应用于叙事故事完成任务,该任务要求模型完成一个缺少句子的故事,以产生一个具有合理逻辑连接,因果关系和时间依赖性的连贯故事。通过在循环模型中模块化推理和句子生成步骤,我们的目标是使推理步骤及其对下一个句子生成的影响透明。我们的自动和手动评估表明,该模型生成的故事句子比SOTA基线更好,特别是在连贯性方面。我们进一步证明了在生成常识推理规则方面比强预训练LM的性能有所提高。COINS的递归性质具有控制生成更长序列的潜力。
2021-06-04 cs.AI cs.CL
Ethics, Rules of Engagement, and AI: Neural Narrative Mapping Using Large Transformer Language Models
ASRC Federal(ASRC联邦);UMBC(马里兰大学巴尔的摩县分校);Lockheed-Martin(洛克希德·马丁)
确定一个军事单位是否正确地理解了一个命令,并正确地执行它的问题是一个困扰军事规划者在整个历史。OpenAI的GPT系列等高级语言模型的出现为解决这一问题提供了新的可能性。本文提出了一种机制,利用大语言模型的叙述性输出,并产生图或"地图"的关系,是潜在的权重等模型的GPT-3。由此产生的"神经叙事图"(NNM)旨在提供对模型中信息、观点和信念的组织的洞察,这反过来又提供了在物理距离的背景下理解意图和响应的方法。本文讨论了映射信息空间的一般问题,然后在OpenAI的GPT-3语言模型的上下文中提出了这一概念的具体实现,以确定下属是否在高风险情况下遵循指挥官的意图。下属在NNM中的位置允许一种新的能力来评估下属相对于指挥官的意图。我们表明,这不仅是可能的,以确定他们是否在附近的叙事空间,而且他们是如何定向,以及什么“轨迹”,他们是在。我们的研究结果表明,我们的方法是能够产生高质量的地图,并展示新的方法来评估意图更普遍。
2022-02-05 cs.AI cs.CL
NILE: Fast Natural Language Processing for Electronic Health Records
Tsinghua University(清华大学);Brigham and Women's Hospital(布莱根妇女医院);VA Boston Healthcare System(VA波士顿医疗系统);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院);Harvard Medical School(哈佛医学院)
目的:电子健康记录(EHR)中的叙述性文本包含丰富的医学和数据科学研究信息。本文介绍了叙述性信息线性提取(NILE)的设计和性能,一个自然语言处理(NLP)包的EHR分析,我们与医学信息学社区共享。方法:NILE使用一种改进的前缀树搜索算法进行命名实体识别,它可以检测前缀和后缀的共享。语义分析实现为基于规则的有限状态机。分析包括否定、定位、修改、家族史和忽视。结果:NILE的处理速度比现有的医学文本NLP软件快几百到几千倍。NILE存在分析的准确性与2010年i2 b2/VA NLP挑战数据的最佳性能模型相当。结论:速度,准确性和通过API操作的能力使NILE成为医学信息学和数据科学NLP软件的宝贵补充。
2019-07-16 cs.CL
Natural Language Processing for Cardiology: A Narrative Review
本综述系统梳理2014-2025年心脏病学领域NLP研究,筛选265篇文献从多维度分析,揭示从规则系统到LLM的方法演进,指出可解释LLM、多模态融合等未来方向,是该领域迄今最全面的综述。
2025-10-22 cs.AI cs.CL
One Graph to Rule them All: Using NLP and Graph Neural Networks to analyse Tolkien's Legendarium
Universität Zürich(苏黎世大学);Julius-Maximilians-Universität Würzburg(维尔茨堡朱利叶斯-马克西米利安大学)
自然语言处理和机器学习已经相当先进的计算文学研究。同样,文学人物共现网络的构建,以及运用社会网络分析和网络科学的方法对其进行的分析,为文学文本的微观和宏观结构提供了新的视角。结合这些观点,在这项工作中,我们研究字符网络提取的文本语料库的J.R.R.托尔金的传奇我们表明,这种观点有助于我们分析和可视化的叙事风格,托尔金的作品。解决字符分类,嵌入和共现预测,我们进一步研究了国家的最先进的图神经网络的优势,一个流行的词嵌入方法。我们的研究结果突出了图学习在计算文学研究中的巨大潜力。
2022-10-14 cs.AI cs.CL
Towards a science of human stories: using sentiment analysis and emotional arcs to understand the building blocks of complex social systems
The University of Vermont(佛蒙特大学)
鉴于情感测量工具的种类越来越多,必须了解情感词典的哪些方面有助于其分类准确性和提供更丰富的文本理解的能力。在这里,我们进行详细的,定量测试和定性评估的6个基于字典的方法,并简要地检查了另外20种方法。我们发现,虽然不适合的句子,基于字典的方法通常是强大的分类精度较长的文本。故事通常遵循不同的情感轨迹,形成对我们有意义的模式。通过对古腾堡计划小说集中4,803个故事的情感弧线进行分类,我们发现了一组六个核心轨迹,它们构成了复杂叙事的基石。具有深远科学意义的将是我们最终能够在多大程度上理解人类故事的全部景观,数据驱动的方法将发挥关键作用。最后,我们利用来自Twitter的网络规模数据来研究社交数据可以告诉我们关于公共卫生,精神疾病,#BlackLivesMatter抗议运动的话语,围绕气候变化的话语以及隐藏网络的限制。最后,我们回顾了复杂系统中已发表的作品,这些作品分别分析了慈善捐款、10种语言中的幸福感、美国100年来的每日温度数据以及澳大利亚规则足球比赛。
2017-12-17 cs.CL
SportsMetrics: Blending Text and Numerical Data to Understand Information Fusion in LLMs
University of Central Florida(中佛罗里达大学);Tencent AI Lab(腾讯AI实验室);Emory University(埃默里大学)
本文提出 SportsMetrics 基准,通过四项基于逐回合 NBA、NFL 比赛描述及对抗性场景的任务,评估 LLM 融合文本与数值数据并进行复杂推理的能力。
2024-06-16 cs.AI cs.CL