Friends and Grandmothers in Silico: Localizing Entity Cells in Language Models
Mentaleap;Independent Researcher(独立研究者);Tel Aviv University(特拉维夫大学)
研究通过寻找稀疏的实体选择性MLP神经元(实体细胞)探讨语言模型如何检索实体特定事实,并发现这些细胞在早期层聚集,具有因果作用。
2026-05-16 cs.AI cs.CL
Do I Know This Entity? Knowledge Awareness and Hallucinations in Language Models
U. Politècnica de Catalunya(加泰罗尼亚理工大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心);ETH Zürich(苏黎世联邦理工学院)
本文利用稀疏自编码器发现语言模型内部存在实体识别方向,可检测模型是否认识某实体,并能因果地调控模型拒绝回答或产生幻觉,揭示了聊天微调对既有自我知识机制的重新利用。
2025-02-08 cs.AI cs.CL cs.LG
Causal Reasoning of Entities and Events in Procedural Texts
University of Pennsylvania(宾夕法尼亚大学);Carnegie Mellon University(卡内基梅隆大学)
实体和事件是自然语言推理的关键,在过程文本中很常见。现有的工作要么专门集中在实体状态跟踪(例如,平底锅是否是热的)或基于事件推理(例如,一个人是否会因接触平底锅而烧伤自己),而这两项任务往往是因果关系。我们提出CREPE,事件可解释性和实体状态的因果推理的第一个基准。我们发现,大多数语言模型,包括GPT-3,在0.35 F1下的表现接近偶然,远远落后于人类的0.87 F1。我们通过创造性地将事件表示为程序设计语言,同时提示在代码上预训练的语言模型,将模型性能提升到.59 F1。通过在我们的表示中注入实体和事件之间的因果关系作为中间推理步骤,我们进一步将性能提高到.67 F1。我们的研究结果表明,不仅CREPE带来的语言模型的挑战,但也有效的代码类提示结合的多跳事件推理的思维链提示。
2023-02-16 cs.CL
Multi-Object Tracking with Deep Learning Ensemble for Unmanned Aerial System Applications
Lockheed Martin AI Center(洛克希德·马丁人工智能中心)
多目标跟踪(MOT)是军事防御应用中态势感知的重要组成部分。随着无人机系统(UAS)的使用越来越多,用于空中监视的MOT方法的需求也越来越高。MOT在UAS中的应用提出了特定的挑战,例如移动传感器,改变变焦水平,动态背景,照明变化,遮蔽和小物体。在这项工作中,我们提出了一个强大的目标跟踪架构,旨在适应实时情况下的噪声。我们提出了一种运动学预测模型,称为深度扩展卡尔曼滤波器(DeepEKF),其中序列到序列架构用于预测潜在空间中的实体轨迹。DeepEKF利用学习的图像嵌入以及经过训练的注意力机制来加权图像中区域的重要性,以预测未来状态。对于视觉评分,我们使用不同的相似性度量进行实验,以基于实体外观计算距离,包括卷积神经网络(CNN)编码器,使用Siamese网络进行预训练。在初步评估实验中,我们表明,我们的方法,结合评分结构的运动学和视觉模型在MHT框架内,提高了性能,特别是在边缘的情况下,实体运动是不可预测的,或数据呈现帧有显着的差距。
2021-10-05 cs.CV cs.LG cs.RO
Fine-Tuning Enhances Existing Mechanisms: A Case Study on Entity Tracking
Northeastern University(东北大学);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Technion – IIT(以色列理工学院)
本文以实体追踪为案例,发现微调主要增强而非改变语言模型的既有内部机制,性能提升源于对增强位置信息处理能力的改善。
2024-02-22 cs.CL cs.LG
EnigmaToM: Improve LLMs' Theory-of-Mind Reasoning Capabilities with Neural Knowledge Base of Entity States
Huawei London Research Centre(华为伦敦研究中心);The Alan Turing Institute(阿兰·图灵研究所);Queen Mary University of London(伦敦玛丽女王大学)
提出神经符号框架EnigmaToM,通过整合实体状态的神经知识库、迭代掩蔽机制与知识注入,显著提升不同规模LLM的心智理论推理能力,尤其在高阶推理场景中表现卓越。
2025-06-02 cs.CL
Does Knowledge Localization Hold True? Surprising Differences Between Entity and Relation Perspectives in Language Models
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);NLPR
本文通过知识编辑和因果分析发现语言模型中实体知识与关系知识不能直接迁移,且关系知识显著存储于注意力模块,揭示了知识存储的多面性。
2024-09-01 cs.AI cs.CL
DiscoTrack: A Multilingual LLM Benchmark for Discourse Tracking
Georgetown University(乔治城大学)
DiscoTrack是一个覆盖12种语言、四个话语理解层级的LLM基准,用于评估跨句、跨段和跨说话人的隐式信息整合与语用推理能力,实验表明这些任务对当前最先进模型仍具挑战性。
2025-11-08 cs.CL
Order-Based Pre-training Strategies for Procedural Text Understanding
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
本文提出将指令顺序作为监督信号的多种Transformer预训练方法,用于程序性文本的实体状态跟踪,并在NPN-Cooking与ProPara上显著优于基线及SoTA LLM。
2024-04-06 cs.CL
Entity Binding Failures in Speech LLM Reasoning: Diagnosis and Chain-of-Thought Intervention
School of Data Science, The Chinese University of Hong Kong, Shenzhen, China(1 数据科学学院,香港中文大学(深圳));ByteDance, China(2 字节跳动,中国)
本文通过诊断语音大模型在逻辑推理中的实体绑定失败问题,提出实体感知思维链方法,显著提升推理准确率。
2026-06-12 cs.CL eess.AS
Locating and Extracting Relational Concepts in Large Language Models
University of Sydney(悉尼大学);BrewAI
该研究针对大语言模型知识调取缺乏可解释性、内部关系概念表示不明的问题,通过因果中介分析定位并提取了关系表示,验证了其可信度与可控事实调取潜力。
2024-06-19 cs.CL
SPEER: Sentence-Level Planning of Long Clinical Summaries via Embedded Entity Retrieval
Columbia University(哥伦比亚大学)
针对临床出院摘要生成中实体覆盖不全和不忠实的问题,提出SPEER方法,通过嵌入式实体检索进行句子级规划,指导LLM在生成每句前检索标记实体,显著提升了摘要的覆盖率与忠实度。
2024-09-26 cs.CL
LLMs Are Prone to Fallacies in Causal Inference
New York University(纽约大学);University of Michigan(密歇根大学)
本研究针对LLMs因果推断能力是否依赖预训练记忆的问题,通过合成数据微调实验发现其易受提及顺序、时间先后影响产生后此谬误,且难以从反事实关系推断因果,质疑其因果理解能力。
2024-06-18 cs.AI cs.CL
Causal Reasoning in Large Language Models: A Knowledge Graph Approach
GraphLab(格拉夫实验室);George Washington University(乔治华盛顿大学);AI Convergence(人工智能融合中心);Hankuk University of Foreign Studies(韩国外国语大学)
本文提出一种基于知识图谱的随机游走因果推理方法,通过在常识问答任务中利用图谱节点连接提供信息与推理结构,显著提升了大型语言模型的推理能力与性能。
2024-10-15 cs.CL
Implicit Affordance Acquisition via Causal Action-Effect Modeling in the Video Domain
University of Stuttgart(斯图加特大学)
该研究为从视觉域获取可供性常识知识,构建CAE数据集并提出MAM、MEM两项预训练任务,经实验验证方法有效,且预训练模型在零样本物理推理任务上优于FLAVA等基线模型。
2023-12-18 cs.AI cs.CL
Structured-Sparse Attention for Entity Tracking with Subquadratic Sequence Complexity
ESPCI PSL(ESPCI 法国巴黎大学);LAMSADE, Université Paris Dauphine - PSL(LAMSADE 巴黎dauphine大学-巴黎科学实验室)
本文提出了一种结构稀疏注意力机制,用于在长序列中高效维护和更新实体和属性的潜在状态,通过减少计算复杂度提升实体跟踪的效率和准确性。
2026-05-21 cs.CL cs.LG
Unravelling Causal Genetic Biomarkers of Alzheimer's Disease via Neuron to Gene-token Backtracking in Neural Architecture: A Groundbreaking Reverse-Gene-Finder Approach
The University of Hong Kong(香港大学)
本文提出Reverse-Gene-Finder技术,通过神经网络中从最具因果性神经元向输入层基因令牌回溯的方法,识别驱动阿尔茨海默病的新型因果基因,具有高可解释性和跨疾病应用潜力。
2025-02-06 cs.LG
Speech-to-Text Adapter and Speech-to-Entity Retriever Augmented LLMs for Speech Understanding
Google DeepMind(谷歌DeepMind)
针对大语言模型应用于语音领域时因表示不对齐导致性能下降的问题,提出带Speech2Text适配器的联合语音语言模型,再用语音转实体检索器增强,有效提升对话状态跟踪和语音识别性能。
2023-06-08 cs.AI cs.CL eess.AS
Causality-aware Concept Extraction based on Knowledge-guided Prompting
Fudan University(复旦大学);Meituan(美团);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心)
针对预训练语言模型因虚假共现导致概念抽取精度低的问题,提出基于结构因果模型的知识引导提示干预方法,利用知识图谱实体主题缓解概念偏差,在多语言数据集上验证了有效性。
2023-06-10 cs.AI cs.CL
Should We Rely on Entity Mentions for Relation Extraction? Debiasing Relation Extraction with Counterfactual Analysis
National University of Singapore(新加坡国立大学);University of Southern California(南加州大学);Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团)
最近的文献集中在利用实体信息的层次关系抽取(RE),但这种风险泄漏表面和虚假的关系线索。因此,RE仍然遭受非预期的实体偏见,即,实体提及(名称)和关系之间的虚假关联。实体偏见会误导RE模型提取文本中不存在的关系。为了解决这个问题,以前的一些工作掩盖了实体提及,以防止RE模型过度拟合实体提及。然而,这种策略降低了RE的性能,因为它失去了实体的语义信息。在本文中,我们提出了CORE(Counterfactual Analysis based关系抽取)去偏置方法,引导RE模型专注于文本上下文的主要影响,而不丢失实体信息。我们首先为RE构建了一个因果图,该图对RE模型中变量之间的依赖关系进行建模。然后,我们建议对我们的因果图进行反事实分析,以提取和减轻实体偏见,从而捕获每个实例中特定实体提及的因果效应。请注意,我们的CORE方法是模型不可知的,可以在推理过程中消除现有RE系统的偏见,而不改变它们的训练过程。大量的实验结果表明,我们的CORE产生显着收益的有效性和推广RE。源代码提供于:https://github.com/vanoracai/CoRE。
2022-05-08 cs.AI cs.CL cs.LG
Dynamic Entity Representations in Neural Language Models
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Heidelberg University(海德堡大学)
理解一个长文档需要跟踪实体是如何被引入并随着时间的推移而演变的。我们提出了一种新型的语言模型,martytyNLM,可以显式地建模实体,动态更新其表示,并根据上下文生成其提及。我们的模型是生成性和灵活的,它可以模拟任意数量的实体在上下文中,同时生成每个实体提到任意长度。此外,它可以用于几个不同的任务,如语言建模,共指消解和实体预测。所有这些任务的实验结果表明,我们的模型始终优于强基线和先前的工作。
2017-08-02 cs.CL cs.LG
Story Disambiguation: Tracking Evolving News Stories across News and Social Streams
Insight Centre for Data Analytics(洞察数据分析中心);University College Dublin(都柏林大学学院)
在线跟踪特定新闻故事是一项重要但困难的任务,因为相关信息通常分散在不同的域/源(例如,新闻文章、博客、评论、推文),以各种格式和语言风格呈现,并且可能与数千个其他故事重叠。在这项工作中,我们加入了主题跟踪和实体消歧领域,并提出了一个框架命名为故事消歧-一个跨域的故事跟踪方法,建立在实时实体消歧和学习排名框架,以表示和更新丰富的语义结构的新闻故事。给定一个目标新闻故事,由一组种子文档指定,目标是从传入的文档流中有效地选择新的故事相关文档。我们将故事表示为实体图,并将故事跟踪问题建模为学习排名任务。这使我们能够从多个领域实时跟踪高精度的内容。我们研究了一系列基于文本,实体和图形的功能,以了解哪种类型的功能是最有效的代表故事。我们进一步提出了新的半监督学习技术,随着时间的推移自动更新的故事表示。我们的实证研究表明,我们优于国家的最先进的方法跟踪混合域文档流的准确性,同时需要更少的标记数据种子跟踪的故事。这对于容易被其他趋势故事遮蔽的本地新闻故事以及在嘈杂的流环境中具有模糊内容的复杂新闻故事来说尤其如此。
2018-08-16 cs.CL cs.IR cs.LG
Causal Distillation for Language Models
Stanford University(斯坦福大学)
蒸馏的努力已经导致语言模型更加紧凑和有效,而性能没有严重下降。蒸馏的标准方法针对两个目标训练学生模型:特定于任务的目标(例如,语言建模)和模仿目标,该模仿目标鼓励学生模型的隐藏状态与较大的教师模型的隐藏状态相似。在本文中,我们表明,这是有益的,以增加蒸馏的第三个目标,鼓励学生模仿因果计算过程中的教师,通过交换干预培训(IIT)。IIT推动学生模型成为教师模型的因果抽象-一个具有相同因果结构的更简单的模型。IIT是完全可区分的,易于实施,并与其他目标灵活结合。与BERT的标准蒸馏相比,通过IIT蒸馏在维基百科(掩蔽语言建模)上产生较低的困惑,并在GLUE基准(自然语言理解),SQuAD(问答)和CoNLL-2003(命名实体识别)上有显着的改进。
2022-06-03 cs.CL cs.LG
Causal neural set filtering for online multi-target tracking
Hangzhou Applied Acoustics Research Institute(杭州应用声学研究所)
针对Transformer多目标跟踪的冗余计算问题,提出因果神经集合滤波(CNSF),通过仅编码当前测量并递归传递状态,结合Sinkhorn关联和卡尔曼更新,在模拟测试集上显著降低GOSPA并提升推理速度。
2026-09-16 cs.AI cs.LG
Causal Intervention Sequence Analysis for Fault Tracking in Radio Access Networks
Ericsson(爱立信)
本文提出一种基于因果干预序列分析的AI方法,用于高精度识别无线电接入网络中SLA违规的触发因素,实现从被动故障排除到主动预防的转变。
2025-10-02 cs.LG cs.NI
Structured Prediction as Translation between Augmented Natural Languages
Amazon Web Services(亚马逊云服务)
我们提出了一个新的框架,增强自然语言之间的翻译(TANL),解决许多结构化的预测语言任务,包括联合实体和关系抽取,嵌套命名实体识别,关系分类,语义角色标注,事件提取,共指消解,对话状态跟踪。我们没有通过训练特定于任务的判别分类器来解决这个问题,而是将其视为增强自然语言之间的翻译任务,从中可以轻松提取任务相关信息。我们的方法可以匹配或优于所有任务的特定于任务的模型,特别是,在联合实体和关系抽取(CoNLL 04,ADE,NYT和ACE 2005数据集),关系分类(FewRel和TACRED),和语义角色标注(CoNLL-2005和CoNLL-2012)上实现了新的最先进的结果。我们在为所有任务使用相同的架构和超参数的同时实现了这一点,甚至在训练单个模型以同时解决所有任务(多任务学习)时也是如此。最后,我们表明,我们的框架也可以显着提高性能,在低资源制度,由于更好地使用标签语义。
2021-12-02 cs.CL cs.LG
CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning
CausalOPD 是一种课程在线过程提炼框架,通过识别首错误步并结合短视界强化学习,提升了学生模型的因果链推理能力,在三个领域中表现优于序列级提炼及专有参考模型。
2026-08-05 cs.LG
Robust Sound Source Tracking Using SRP-PHAT and 3D Convolutional Neural Networks
University of Zaragoza(萨拉戈萨大学)
在本文中,我们提出了一个新的单声源DOA估计和跟踪系统的基础上著名的SRP-PHAT算法和三维卷积神经网络。它使用SRP-PHAT功率图作为全卷积因果架构的输入特征,该架构使用3D卷积层来准确地执行声源跟踪,即使在大多数最先进技术都失败的高度混响场景中也是如此。与以前的方法不同,由于我们不使用双向递归层,并且我们所有的卷积层在时间维度上都是因果关系,因此我们的系统对于实时应用是可行的,并且它为每个新的SRP-PHAT映射提供了新的DOA估计。为了训练模型,我们引入了一个新的过程来模拟随机轨迹,因为它们在训练过程中需要,相当于一个无限大小的数据集具有高度的灵活性,以修改其声学条件,如混响时间。我们使用声学模拟在大范围的混响时间和LOCATA数据集的实际记录,以证明我们的系统的鲁棒性和良好的性能,即使使用低分辨率SRP-PHAT地图。
2020-12-16 cs.LG cs.SD eess.AS