Look before you Hop: Conversational Question Answering over Knowledge Graphs Using Judicious Context Expansion
MPI for Informatics(马克斯·普朗克信息学研究所);Amazon Alexa(亚马逊Alexa)
以事实为中心的信息需求很少是一次性的;用户通常会提出后续问题来探索一个主题。在这样的会话设置中,用户的输入通常是不完整的,其中实体或谓词被遗漏,以及不合语法的短语。这对问答(QA)系统提出了巨大的挑战,因为QA系统通常依赖于完整的疑问句中的线索。作为一种解决方案,我们开发了CONVEX:一种无监督的方法,可以通过使用迄今为止看到的实体和谓词来维护会话上下文,并自动推断后续问题的缺失或模糊部分,从而在知识图谱(KG)上回答不完整的问题。我们的方法的核心是一个图探索算法,明智地扩大了边界,找到候选答案的当前问题。为了评估CONVEX,我们发布了ConvQuestions,这是一个众包基准,包含来自五个不同领域的11,200个不同对话。我们证明了CONVEX:(i)为任何独立的QA系统添加会话支持,(ii)优于最先进的基线和问题完成策略。
2019-11-05 cs.CL cs.IR
Towards Adaptive Context Management for Intelligent Conversational Question Answering
School of Computing, Macquarie University, Sydney, NSW 2109, Australia(计算机学院,麦考瑞大学,悉尼,新南威尔士州2109,澳大利亚)
本文提出自适应上下文管理(ACM)框架,通过上下文管理器、摘要和实体抽取三个模块动态优化对话历史,在token限制内提升对话式问答系统的准确性与可扩展性。
2025-09-22 cs.CL
Clustering-based Inference for Biomedical Entity Linking
College of Information and Computer Sciences University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Chan Zuckerberg Initiative(陈-扎克伯格倡议)
由于生物医学知识库中存在大量的实体,只有一小部分实体具有相应的标记训练数据。这就需要实体链接模型,这些模型能够使用学习到的实体表示来链接提到的不可见实体。以前的方法独立地链接每个提及,忽略了实体提及之间的文档内和跨文档的关系。这些关系对于生物医学文本中的链接提及非常有用,其中链接决定通常很困难,因为提及具有通用或高度专业化的形式。在本文中,我们介绍了一个模型,在该模型中,不仅可以通过链接到一个知识库实体,但也通过分组多个提到一起,通过聚类和共同作出链接预测的链接决策。在最大的公开生物医学数据集上的实验中,我们将实体链接的最佳独立预测提高了3.0个点的准确性,并且我们基于聚类的推理模型进一步提高了实体链接2.3个点。
2021-04-08 cs.CL
Flexible End-to-End Dialogue System for Knowledge Grounded Conversation
Hong Kong University of Science and Technology(香港科技大学)
在以知识为基础的会话中,领域知识在音乐这样的特殊领域中起着重要的作用。基于知识的会话的应答可能包含多个应答实体或根本不包含应答实体。虽然现有的生成式问答(QA)系统可以应用于基于知识的会话,他们要么在响应中最多有一个实体,要么不能处理词汇表外的实体。我们提出了一个完全数据驱动的生成式对话系统GenDS,它能够根据输入消息和相关知识库(KB)生成响应。为了生成任意数量的答案实体,即使这些实体从来没有出现在训练集中,我们设计了一个动态的知识查询器,选择不同的答案实体在不同的位置在一个单一的响应,根据不同的本地上下文。它不依赖于实体的表示,使我们的模型能够处理词汇表外的实体。我们收集了一个人与人的对话数据(ConversMusic)与知识注释。在CoversMusic和一个公共问答数据集上对所提出的方法进行了评估。我们提出的GenDS系统在BLEU,实体准确性,实体召回和人类评估方面明显优于基线方法。此外,实验还表明,即使在小数据集上,GenDS也能更好地工作。
2017-09-13 cs.CL
Enriching Conversation Context in Retrieval-based Chatbots
University of Tehran(德黑兰大学)
与大多数序列对匹配任务一样,基于检索的聊天机器人的工作可以分为交叉编码器和双编码器,交叉编码器对序列对进行单词匹配,双编码器对序列对进行单独编码。后者具有更好的性能,但是由于候选响应不能离线编码,因此它也慢得多。最近,多层Transformer架构被预先训练为语言模型,已经在各种自然语言处理和信息检索任务中发挥了巨大作用。最近的工作表明,这些语言模型可以用于文本匹配场景,以创建性能几乎与交叉编码器一样好的双编码器,同时具有更快的推理速度。在本文中,我们扩展了这项工作,开发了一个序列匹配架构,%考虑到在推理时的训练数据集的上下文。利用整个训练集作为推理过程中的临时知识库。我们进行详细的实验表明,这种架构可以用来进一步提高双编码器的性能,同时仍然保持相对较高的推理速度。
2019-11-06 cs.CL
SCL-RAI: Span-based Contrastive Learning with Retrieval Augmented Inference for Unlabeled Entity Problem in NER
Peking University(北京大学)
本文提出SCL-RAI方法,通过基于片段的对比学习缓解实体歧义并提升模型鲁棒性,结合检索增强推理解决决策边界偏移问题,在两个真实数据集上F1分数分别提升4.21%和8.64%。
2023-10-24 cs.CL
Entity-Memory Graph Retrieval Improves Evidence Coverage in Long-Conversation Question Answering
Tsinghua University(清华大学)
该研究提出实体记忆图检索方法,在10个LoCoMo对话的1986个问题上,使top-k=25的证据召回率提升约4.74个百分点,实现检索覆盖增益。
2026-08-31 cs.CL
Incorporating Relation Paths in Neural Relation Extraction
Tsinghua University(清华大学)
远程监督关系抽取已被广泛用于从纯文本中发现新颖的关系事实。为了预测一对两个目标实体之间的关系,现有的方法仅仅依赖于那些包含两个实体的直接句子。事实上,也有许多句子只包含其中一个目标实体,这为关系抽取提供了丰富而有用的信息。为了解决这个问题,我们通过中间实体在两个目标实体之间建立推理链,并提出了一个基于路径的神经关系抽取模型来编码直接语句和推理链的关系语义。在真实数据集上的实验结果表明,该模型能够充分利用只包含一个目标实体的句子,并在关系抽取上取得了显著的一致性改进。本文的源代码可以从https://github.com/thunlp/PathNRE获得。
2017-09-13 cs.CL
TREND: Trigger-Enhanced Relation-Extraction Network for Dialogues
National Taiwan University(台湾大学)
对话关系抽取(DRE)的目的是识别给定对话中两个实体之间的关系。在会话过程中,说话人会通过明示或暗示的线索暴露出自己与特定实体的关系,这种证据被称为“触发点”。然而,触发器注释可能并不总是可用于目标数据,因此利用这些信息来增强性能是具有挑战性的。因此,本文提出学习如何从具有触发器注释的数据中识别触发器,然后将触发器查找能力转移到其他数据集以获得更好的性能。实验结果表明,该方法能够有效地提高未知关系的关系抽取性能,并证明了该模型在不同领域和数据集之间的可移植性.
2022-07-25 cs.CL
Joint Extraction of Events and Entities within a Document Context
Carnegie Mellon University(卡内基梅隆大学)
事件和实体密切相关;实体通常是事件的参与者或参与者,没有实体的事件是罕见的。对事件和实体的解释高度依赖于上下文。信息抽取中的现有工作通常将事件与实体分开建模,并在句子级别执行推理,忽略文档的其余部分。在本文中,我们提出了一种新的方法,模型之间的依赖关系的事件,实体和它们的关系的变量,并执行跨文档的这些变量的联合推理。目标是允许访问文档级上下文信息,并促进上下文感知预测。我们证明,我们的方法大大优于国家的最先进的事件提取方法,以及实体提取的强大基线。
2016-09-12 cs.AI cs.CL
Yes but.. Can ChatGPT Identify Entities in Historical Documents?
University of La Rochelle(拉罗谢尔大学);EPFL(洛桑联邦理工学院);University of Toulouse(图卢兹大学)
大语言模型(LLM)已经被利用了好几年,在从现代文档中识别实体方面获得了最先进的性能。在过去的几个月里,会话代理ChatGPT已经“引起”了科学界和公众的极大兴趣,因为它能够生成听起来可信的答案。在本文中,我们通过在主要来源的命名实体识别和分类(NERC)任务中探索这种能力(例如,历史报纸和经典评论),在一个zero-shot的方式,并通过比较它与国家的最先进的LM为基础的系统。我们的研究结果表明,在确定历史文本中的实体,范围从实体注释准则的一致性,实体的复杂性,和代码转换,提示的特异性的几个缺点。此外,正如预期的那样,公众无法查阅历史档案(因此也无法在互联网上查阅)也影响了其业绩。
2023-03-30 cs.CL cs.DL cs.IR
E2E Spoken Entity Extraction for Virtual Agents
Whissle;Interactions-AI
本文提出直接从语音中抽取实体的端到端方法,通过微调预训练编码器忽略无关语音,在企业虚拟助手对话中优于先转录后抽取的两步法。
2023-11-09 cs.CL cs.SD eess.AS
Knowledge-driven Answer Generation for Conversational Search
Universidade NOVA de Lisboa(新里斯本大学)
对话式搜索范式通过允许用户以多轮和自然的方式与搜索代理交互,从而在传统搜索范式上引入了一步改变。谈话自然流畅,通常围绕着一个目标知识领域。在这项工作中,我们提出了一个知识驱动的答案生成方法的开放域会话搜索,其中会话范围内的实体的知识图谱是用来偏见的搜索答案生成。首先,从使用基于transformer的重新排序器检索的顶部段落中提取特定于会话的知识图谱。然后,实体知识图被用于使搜索答案生成器Transformer偏向于信息丰富和简洁的答案。这种特定于对话的偏见是通过根据该特定对话的最突出的实体识别最相关的段落来计算的。实验表明,该方法成功地利用实体知识沿会话,并优于一组基线的搜索答案生成任务。
2021-04-14 cs.CL cs.IR
Entity-level Sentiment Analysis in Contact Center Telephone Conversations
Dialpad Canada Inc.(Dialpad加拿大公司)
语义级情感分析预测给定文本中提到的实体的情感。在业务环境中,了解用户对某些实体(如产品或公司)的情感非常有用。在本文中,我们演示了我们如何开发一个实体级的情感分析系统,分析英语电话交谈的成绩单在联络中心提供业务洞察力。我们提出了两种方法,一种完全基于基于transformer的DistilBERT模型,另一种使用卷积神经网络补充一些启发式规则。
2022-10-26 cs.CL
MOLEMAN: Mention-Only Linking of Entities with a Mention Annotation Network
Google Research(谷歌研究院)
我们提出了一个基于实例的最近邻实体链接方法。与大多数先前的实体检索系统,表示每个实体与一个单一的向量相比,我们建立了一个上下文提到编码器,学习放置类似的提到同一实体更接近的向量空间比提到不同的实体。这种方法允许实体的所有提及充当“类原型”,因为推理涉及从训练集中的标记实体提及的全集中检索并应用最近提及邻居的实体标签。我们的模型在来自维基百科超链接的提及对的大型多语言语料库上进行训练,并对7亿次提及的索引进行最近邻推理。它更容易训练,给出更多可解释的预测,并在两个多语言实体链接基准上优于所有其他系统。
2022-07-22 cs.CL cs.IR cs.LG
Realistic Conversational Question Answering with Answer Selection based on Calibrated Confidence and Uncertainty Measurement
Korea Advanced Institute of Science Technology(韩国科学技术院)
会话式问答(ConvQA)模型的目标是通过相关段落和在会话中多次出现的先前问答对来回答问题。为了将这些模型应用于现实世界的场景,一些现有的工作使用预测的答案,而不是不可用的地面真相答案,作为推理的会话历史。然而,由于这些模型通常预测错误的答案,使用所有的预测而不过滤显着阻碍了模型的性能。为了解决这个问题,我们建议根据ConvQA模型中估计的置信度和不确定性过滤掉对话历史中不准确的答案,而不进行任何架构更改。此外,为了使置信度和不确定性值更可靠,我们建议进一步校准它们,从而平滑模型预测。我们在两个标准ConvQA数据集上验证了我们的模型,基于答案选择的现实对话问答,结果表明我们的模型显著优于相关基线。代码可在:https://github.com/starsuzi/AS-ConvQA.
2023-02-10 cs.AI cs.CL cs.IR
Incorporating Relevant Knowledge in Context Modeling and Response Generation
The Hong Kong Polytechnic University(香港理工大学)
为了维持引人入胜的对话,聊天机器人充分利用相关知识至关重要。配备了知识库,聊天机器人能够提取与对话相关的属性和实体,以促进上下文建模和响应生成。在这项工作中,我们区分属性和实体的使用,并将它们以不同的方式纳入编码器-解码器架构。基于增强架构,我们的聊天机器人,即Mike,能够通过引用收集的知识中的适当实体来生成响应。为了验证所提出的方法,我们建立了一个电影会话语料库,所提出的方法显着优于其他四个知识为基础的模型。
2018-11-09 cs.CL
Addressing Objects and Their Relations: The Conversational Entity Dialogue Model
Cambridge University Engineering Department(剑桥大学工程系)
统计口语对话系统通常依赖于单域或多域对话模型,该模型在其对复杂对话结构建模的能力方面受到限制,例如,关系在这项工作中,我们提出了一种新的对话模型,是围绕实体,并能够建模的关系,以及相同类型的多个实体。我们展示了在对话层面上的关系建模的原型实现的好处,并表明,一个训练有素的政策,使用这些关系优于多域基线。此外,我们表明,通过对对话级别上的关系建模,系统能够处理用户输入中存在的关系,甚至学会在系统响应中解决它们。
2019-01-05 cs.CL
Modeling Dyadic Conversations for Personality Inference
目前,自动人格推理正受到学术界和工业界的广泛关注。传统方法主要基于用户生成的内容,例如,个人资料,喜欢,和文本,在社交媒体上,这实际上不是很可靠。相比之下,个人之间的二元对话不仅可以捕捉一个人如何表达自己,而且还反映了一个人如何应对不同的情况。二元对话中丰富的语境信息可以解释个体在对话中的反应。在本文中,我们提出了一种新的增广门控递归单元(GRU)模型学习无监督个人会话嵌入(PCE)的基础上,个人之间的二元对话。我们调整了传统GRU的每一层的公式,并对会话双方的序列学习和个人信息进行了序列调整。根据学习的PCE,我们可以推断每个人的个性。我们在电影脚本数据集上进行实验,该数据集是从电影脚本中人物之间的对话中收集的。我们发现,个人之间的二元对话建模可以显着提高人格推理的准确性。实验结果表明,我们所提出的方法的成功性能。
2020-09-26 cs.CL cs.IR
Embedding Entities and Relations for Learning and Inference in Knowledge Bases
Cornell University(康奈尔大学);Microsoft Research(微软研究院)
我们考虑使用神经嵌入方法学习知识库中实体和关系的表示。我们表明,大多数现有的模型,包括NTN(Socher等人,2013)和TransE(Bordes等人,2013 b),可以在统一的学习框架下推广,其中实体是从神经网络学习的低维向量,并且关系是双线性和/或线性映射函数。在这个框架下,我们比较了各种嵌入模型的链接预测任务。我们表明,一个简单的双线性公式实现了新的国家的最先进的结果的任务(实现了前10名的准确性为73.2%与54.7%的TransE的Freebase)。此外,我们引入了一种新的方法,利用学习的关系嵌入挖掘逻辑规则,如“BornInCity(a,b)和CityInCountry(b,c)=> Nationality(a,c)"。我们发现,嵌入学习的双线性目标是特别好的捕捉关系语义和组合关系的特点是矩阵乘法。更有趣的是,我们证明了我们的基于嵌入的规则提取方法成功地优于一个国家的最先进的基于信任的规则挖掘方法在挖掘霍恩规则,涉及组合推理。
2015-08-29 cs.CL
Investigating Large Language Models in Inferring Personality Traits from User Conversations
Kent State University(肯特州立大学)
本研究评估GPT-4o与GPT-4o mini零样本下从对话推断大五人格的能力,发现先算BFI-10条目得分再推特质的方法更准确,且两模型对抑郁症状群体的特质变化敏感度各有优势,为AI与心理学交叉研究提供基础。
2025-01-13 cs.CL
PIE: a Parameter and Inference Efficient Solution for Large Scale Knowledge Graph Embedding Reasoning
Ant Group(蚂蚁集团)
知识图谱(KG)的嵌入方法,映射的实体和关系的唯一嵌入在KG已显示出良好的结果,在许多推理任务。然而,密集实体和稀疏实体的相同嵌入维度将导致过度参数化(稀疏实体)或拟合不足(密集实体)。通常,设置较大的维度以获得更好的性能。同时,推理时间随着遍历和比较所有实体的实体数量呈对数线性增长。当处理大量实体时,参数和推理都成为挑战。因此,我们提出了PIE,一个\textbf{p}算法和\textbf{i}参考\textbf{e}有效的解决方案。受张量分解方法的启发,我们发现将实体嵌入矩阵分解为低秩矩阵可以在保持相当性能的同时减少一半以上的参数。为了加速模型推理,我们提出了一个自监督的辅助任务,它可以被看作是细粒度的实体类型。通过随机掩蔽和恢复实体的连接关系,任务学习实体和关系的共现。利用细粒度的类型,我们可以过滤不相关的实体在推理过程中,并得到可能的次线性时间要求的目标。在链接预测基准测试上的实验证明了所提出的关键能力。此外,我们证明了所提出的解决方案的有效性在开放图基准的大规模挑战数据集WikiKG90Mv2,并实现了最先进的性能。
2022-05-05 cs.AI cs.CL
Can LLMs Infer Personality from Real World Conversations?
Kent State University(肯特州立大学)
本文构建了555次真实半结构化访谈基准,测试GPT-4.1 Mini、Meta-LLaMA和DeepSeek的人格推断能力,发现模型重测信度高但效度有限,思维链提示仅改善分布对齐而未提升准确性,揭示了LLM在心理评估应用中的不足。
2025-07-18 cs.CL
PAGE: A Position-Aware Graph-Based Model for Emotion Cause Entailment in Conversation
Hangzhou City University(浙大城市学院);Pennsylvania State University(宾夕法尼亚州立大学)
会话因果情感蕴涵(Conversational Causal Emotion Entailment,C2E2)是一种旨在识别会话中目标情感对应的原因的任务。会话中的话语顺序影响因果推理。然而,目前大多数的位置编码策略忽略了话语和说话人之间的顺序关系。为了解决这个问题,我们设计了一种新的位置感知图来编码整个对话,完全建模话语之间的因果关系。综合实验表明,我们的方法在两个具有挑战性的测试集上始终达到最先进的性能,证明了我们的模型的有效性。我们的源代码可以在Github上找到:https://github.com/XiaojieGu/PAGE。
2023-03-03 cs.CL
Conversation as Measurement in Clinical Encounters: Observable Phase Structure, Partially Observable Patient State
Stanford University(斯坦福大学)
该研究以临床问诊为场景,利用439份真实转录文本,发现对话阶段结构可观测且有用,而患者状态仅部分可观测,警示勿仅靠对话转录推断人类状态。
2026-08-12 cs.CL
Does Pre-trained Language Model Actually Infer Unseen Links in Knowledge Graph Completion?
Nara Institute of Science and Technology(奈良科学技术研究所);The University of Tokyo(东京大学)
本文分析基于预训练语言模型的知识图谱补全方法究竟是在进行推断还是仅访问记忆知识,通过构建合成数据集证明PLM确实通过预训练获得了KGC所需的推断能力,但性能提升主要来自实体和关系的文本信息。
2024-06-06 cs.AI cs.CL cs.LG
LLMs Can Infer Political Alignment from Online Conversations
研究展示大语言模型能可靠推断隐藏的政治倾向,优于传统机器学习模型,通过聚合文本推断和使用相关领域提升预测精度,揭示LLM在利用社会文化关联方面的潜力与风险。
2026-03-13 cs.CL cs.CY cs.SI
Inductive Relation Prediction from Relational Paths and Context with Hierarchical Transformers
University of Science and Technology of China(中国科学技术大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出REPORT框架,利用分层Transformer同时聚合关系路径和上下文,仅依赖关系语义实现完全归纳式关系预测,并在两个数据集上一致优于基线且具备可解释性。
2023-07-10 cs.AI cs.CL cs.LG