Matching Questions and Answers in Dialogues from Online Forums
Shanghai Jiao Tong University(上海交通大学)
会话中两个话轮之间的问答关系匹配不仅是分析会话结构的第一步,而且对训练对话系统也有重要价值。本文提出了一种同时考虑距离信息和对话历史的问答匹配模型,该模型采用两种同时存在的注意力机制,称为相互注意。给定由训练模型在每个非问题轮与其候选问题之间计算的分数,贪婪匹配策略用于最终预测。由于现有的对话数据集(如Ubuntu数据集)不适合QA匹配任务,我们进一步创建了一个包含1,000个标记对话的数据集,并证明我们提出的模型优于最先进的和其他强基线,特别是对于匹配长距离QA对。
2020-08-03 cs.CL
Chinese Medical Question Answer Matching Based on Interactive Sentence Representation Learning
College of Computer and Engineering, Xi’an University of Posts and Telecommunications(西安邮电大学计算机与工程学院)
中文医学问答匹配比英文开放域问答匹配更具挑战性。即使深度学习方法在提高问答匹配性能方面表现良好,但这些方法只关注句子内部的语义信息,而忽略了问题和答案之间的语义关联,从而导致性能赤字。在本文中,我们设计了一系列的交互式句子表示学习模型来解决这个问题。为了更好地适应中医问答匹配,并充分利用不同神经网络结构的优势,本文提出了交叉BERT网络来提取句子内部的深层语义信息和问答之间的语义关联,然后与多个规模CNN网络或BiGRU网络,以利用不同结构的神经网络来学习更多的语义特征到句子中表示.在cMedQA V2.0和cMedQA V1.0数据集上的实验结果表明,该模型的性能明显优于现有的中文医学问答匹配模型。
2020-11-27 cs.CL
Can Taxonomy Help? Improving Semantic Question Matching using Question Taxonomy
Indian Institute of Technology Patna(印度理工学院巴特那分校);Purdue University(普渡大学);Accenture Labs(埃森哲实验室)
在本文中,我们提出了一种混合技术的语义问题匹配。它使用我们提出的英语问题的两层分类法,通过使用从基于深度学习的问题分类器获得的问题类来增强最先进的深度学习模型。在三个开放域数据集上的实验证明了该方法的有效性。我们在偏序问题排序(POQR)基准数据集上取得了最先进的结果。我们的实证分析表明,将标准分布特征(由问题编码器提供)与分类学知识相结合比单独使用深度学习(DL)或基于分类学的知识更有效。
2021-01-20 cs.CL
StructCoh: Structured Contrastive Learning for Context-Aware Text Semantic Matching
Beihang University, Beijing, China(北京航空航天大学);University College London, London, UK(伦敦大学学院)
针对预训练语言模型在文本语义匹配中忽略层级结构、难区分细微语义的问题,提出融合双图编码器与层级对比目标的StructCoh框架,在法律匹配等任务上显著超越SOTA。
2025-09-02 cs.CL
Match$^2$: A Matching over Matching Model for Similar Question Identification
University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Alibaba Group(阿里巴巴集团)
社区问答(Community Question Questioning,CQA)已经成为人们获取知识的主要手段,人们可以自由地提出问题或提交答案。为了提高服务的效率,相似问题识别成为CQA的核心任务,其目的是每当提出新问题时,从存档的存储库中找到相似的问题。然而,由于自然语言的固有变化,即,可以有不同的方式来提出相同的问题或具有相似表达的不同问题。为了缓解这个问题,很自然地涉及到现有的答案,以丰富存档的问题。传统的方法通常采用单边用法,即利用答案作为相应问题的某种扩展表示。不幸的是,这可能会在相似度计算中引入意想不到的噪声,因为答案通常很长且多样,导致性能较差。在这项工作中,我们提出了一个双面的用法,利用答案作为两个问题的桥梁。关键的想法是基于我们的观察,即类似的问题可以通过答案的类似部分来解决,而不同的问题可能不会。换句话说,我们可以比较两个问题在同一个答案上的匹配模式,以衡量它们的相似性。在此基础上,提出了一种新的基于匹配的问题识别模型Match $^2$,该模型通过比较两个问答对之间的匹配模式来识别相似问题。在两个基准数据集上的实证实验表明,我们的模型在类似的问题识别任务上可以显着优于以前的最先进的方法。
2020-06-21 cs.CL cs.IR
DuQM: A Chinese Dataset of Linguistically Perturbed Natural Questions for Evaluating the Robustness of Question Matching Models
Soochow University(苏州大学);Baidu Inc.(百度公司)
本文主要研究中文问句匹配的鲁棒性评价问题。以前大多数关于分析鲁棒性问题的工作都集中在一种或几种类型的人工对抗示例上。相反,我们认为,有必要制定一个全面的评估模型的语言能力的自然文本。为此,我们创建了一个中文数据集,即DuQM,其中包含自然问题与语言扰动,以评估问题匹配模型的鲁棒性。DuQM包含3个范畴和13个子范畴,包含32个语言扰动。大量的实验表明,DuQM具有较好的区分不同模型的能力。重要的是,DuQM中语言现象的评估详细分解有助于我们轻松诊断不同模型的优点和缺点。此外,我们的实验结果表明,人工对抗的例子的效果不工作的自然文本。
2022-05-25 cs.CL
Context-guided Triple Matching for Multiple Choice Question Answering
Wuhan Textile University(武汉纺织大学);University of Wollongong(伍伦贡大学)
多项选择问答(MCQA)任务是通过估计短文、问题和答案三者之间的匹配度,从多个候选答案中找出一个合适的答案。尽管在这方面的一般研究兴趣,现有的方法解耦成几个成对或双匹配步骤的过程中,限制了评估的能力与多个证据句子的情况下。为了解决这个问题,本文介绍了一种新的上下文引导的三重匹配算法,这是通过集成三重匹配(TM)模块和对比正则化(CR)。前者的目的是枚举三元组中的一个组件作为背景上下文,并估计其与其他两个组件的语义匹配。此外,对比项被进一步提出来捕捉正确答案和干扰答案之间的差异。我们验证了所提出的算法在几个基准MCQA数据集,表现出竞争力的性能对国家的最先进的。
2021-09-27 cs.CL
Improving Question Generation with Sentence-level Semantic Matching and Answer Position Inferring
NSF Center for Big Learning, University of Florida(佛罗里达大学NSF大数据学习中心);AI Institute, Tongdun Technology(同盾科技人工智能研究院)
以答案及其上下文作为输入,序列到序列模型在问题生成方面取得了相当大的进展。然而,我们观察到,这些方法经常生成错误的问题词或关键字,并从输入中复制与答案无关的词。我们认为缺乏全局问题语义和没有很好地利用答案位置意识是关键的根本原因。本文提出了一个神经问题生成模型,该模型包括两个具体模块:句子级语义匹配和答案位置推断。此外,我们通过利用答案感知门控融合机制来增强解码器的初始状态。实验结果表明,我们的模型优于最先进的(SOTA)模型SQuAD和MARCO数据集。由于其通用性,我们的工作也显着改善现有的模型。
2020-02-03 cs.AI cs.CL cs.LG
Lattice CNNs for Matching Based Chinese Question Answering
Peking University(北京大学);Lancaster University(兰卡斯特大学);Tencent AI Lab(腾讯人工智能实验室)
短文本匹配往往面临着两个文本之间存在大量的词不匹配和表达差异的挑战,而在汉语等没有自然空间显式分词的语言中,这一问题将进一步加剧。本文提出了一种新的基于格的CNN模型(LCN),它利用词格中固有的多粒度信息,同时保持较强的处理噪声信息的能力,用于中文基于匹配的问答。我们在基于文档的问答和基于知识的问答任务上进行了广泛的实验,实验结果表明,LCN模型可以显著优于最先进的匹配模型和强基线,利用更好的能力,从词格输入中提取丰富但有区别的信息。
2019-02-25 cs.CL
Transfer Learning for Context-Aware Question Matching in Information-seeking Conversations in E-commerce
Alibaba Group(阿里巴巴集团);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
构建多轮信息搜索会话系统是一个重要且具有挑战性的研究课题。虽然已经提出了几种先进的神经文本匹配模型来完成这项任务,但它们对于工业应用来说通常效率不高。此外,它们依赖于大量的标记数据,而这些数据在现实世界的应用中可能是不可用的。为了缓解这些问题,本文研究了多轮信息寻求会话的迁移学习。我们首先提出了一个高效和有效的多轮会话模型的基础上卷积神经网络。在此之后,我们扩展我们的模型,以适应从资源丰富的域中学习到的知识,以提高性能。最后,我们将我们的模型部署在一个名为AliMe Assist(https://consumerservice.taobao.com/online-help)的工业聊天机器人中,并观察到与现有在线模型相比的显着改进。
2018-06-14 cs.CL
Are LLMs Aware that Some Questions are not Open-ended?
Shanghai Jiao Tong University(上海交通大学)
本文提出问题意识温度采样(QuATS),通过基于问题特征自适应调整输出分布,缓解LLMs因缺乏问题意识而在事实性问题上产生幻觉、在开放式问题上回答乏味的问题,并消除了手动温度调节的需要。
2024-10-01 cs.CL
PACRR: A Position-Aware Neural IR Model for Relevance Matching
MPI for Informatics(马克斯·普朗克信息学研究所);htw saar(萨尔应用技术大学);Rutgers University(罗格斯大学)
为了将深度学习用于信息检索,需要能够捕获评估文档与给定用户查询的相关性所需的所有相关信息的模型。虽然以前的作品已经成功地捕捉unigram术语匹配,如何充分利用位置相关的信息,如接近度和术语依赖性一直没有得到充分的探讨。在这项工作中,我们提出了一种新的神经IR模型命名为PACRR,旨在更好地建模查询和文档之间的位置相关的相互作用。在6年的TREC Web Track数据上进行的大量实验证实,该模型在多个基准测试下产生了更好的结果。
2017-07-21 cs.CL cs.IR
Dual Co-Matching Network for Multi-choice Reading Comprehension
Shanghai Jiao Tong University(上海交通大学)
多项选择阅读理解是一项具有挑战性的任务,需要复杂的推理过程。给定段落和问题,需要从一组候选答案中选择正确答案。本文提出了\textbf{D}双\textbf{C} o- \textbf{M}匹配\textbf{N}网络(\textbf{DCMN}),它对段落、问题和答案之间的关系进行了双向建模.与现有方法只计算问题感知或选项感知的段落表征不同,我们同时计算问题感知的问题表征和选项感知的答案表征。为了证明我们的模型的有效性,我们评估我们的模型上的大规模多项选择机器阅读理解数据集(即RACE)。实验结果表明,我们提出的模型取得了新的国家的最先进的结果。
2019-08-20 cs.CL
Retrieving and ranking short medical questions with two stages neural matching model
University of Nottingham(诺丁汉大学);University of Melbourne(墨尔本大学);Ping An Health Cloud(平安健康云);Ping An(平安)
互联网医院是一个新兴的业务,这要归功于移动网络技术的最新进展和医疗保健服务的高需求。在线医疗服务变得越来越受欢迎和活跃。根据美国2018年的数据,80%的互联网用户在网上提出了与健康相关的问题。大量数据以前所未有的速度和规模生成。这些医学领域中具有代表性的问题和答案为医学数据采掘提供了宝贵的原始数据源。从信息检索和机器学习方法的角度来看,对这些大量数据的自动机器解释提供了帮助医生回答常见的医疗相关问题的机会。在这项工作中,我们提出了一个新的两阶段的框架查询级的医学问题的语义匹配。
2020-11-16 cs.CL
Subtopic-aware View Sampling and Temporal Aggregation for Long-form Document Matching
School of Computer Science and Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
本文提出一种用于长文档匹配的新框架,通过子主题感知视图采样捕获异构匹配信号,并采用时间聚合方法逐步整合多视图,有效提升了新闻查重与法律案例检索等任务的性能。
2024-12-24 cs.CL cs.IR
Adversarial Training for Community Question Answer Selection Based on Multi-scale Matching
Pennsylvania State University(宾夕法尼亚州立大学);Apple(苹果公司);Google(谷歌);Microsoft(微软)
基于社区的问答网站是一个重要的信息来源。因此,将最有价值的答案与其对应的问题相匹配的问题已经成为一个越来越热门的研究课题。我们将此任务定义为二元(相关/不相关)分类问题,并提出了一个对抗性训练框架来缓解标签不平衡问题。我们采用生成模型来迭代地对具有挑战性的阴性样本的子集进行采样,以欺骗我们的分类模型。这两个模型交替优化使用REINFORCE算法。该方法完全不同于以往的方法,即直接使用训练集中的负样本或对负样本进行均匀下采样。此外,我们建议使用多尺度匹配,它明确检查不同粒度级别的单词和ngrams之间的相关性。我们在SemEval 2016和SemEval 2017数据集上评估了所提出的方法,并实现了最先进或类似的性能。
2018-11-16 cs.CL
DCMN+: Dual Co-Matching Network for Multi-choice Reading Comprehension
Shanghai Jiao Tong University(上海交通大学);CloudWalk Technology(云从科技)
多项选择阅读理解是一项具有挑战性的任务,需要在给定段落和问题时从一组候选选项中选择答案。以往的方法在对篇章与问题之间的关系建模时,通常只计算问题感知的篇章表征,而忽略了问题感知的篇章表征,这显然不能充分利用篇章与问题之间的信息。在这项工作中,我们提出了双协同匹配网络(DCMN)模型之间的关系通道,问题和答案选项双向。此外,受人类解决多项选择题的启发,我们将两种阅读策略整合到我们的模型中:(i)段落句子选择,找到最突出的支持句子来回答问题,(ii)答案选项交互,编码答案选项之间的比较信息。DCMN结合两种策略(DCMN+)在来自不同领域的五个多项选择阅读理解数据集上获得了最先进的结果:RACE,SemEval-2018 Task 11,ROCStories,COIN,MCTest。
2020-01-16 cs.CL
LadRa-Net: Locally-Aware Dynamic Re-read Attention Net for Sentence Semantic Matching
Hefei University of Technology(合肥工业大学);Lenovo Research(联想研究院);University of Science and Technology of China(中国科学技术大学)
句子语义匹配需要一个智能体来确定两个句子之间的语义关系,它广泛应用于各种自然语言任务,如自然语言推理(NLI)、释义识别(PI)等,近年来在这方面取得了很大的进展,特别是基于注意力的方法和基于预训练语言模型的方法。然而,这些方法大多以静态的方式关注句子中的所有重要部分,只强调单词对查询的重要性,抑制了注意力机制的能力。为了克服这一问题,提高注意力机制的性能,本文提出了一种新的动态重读注意力机制,该机制能够在每一步中关注句子的一个小区域,并重读重要部分,以获得更好的句子表征。基于这种注意力的变化,我们开发了一种新的动态重读网络(DRr-Net)的句子语义匹配。此外,在动态重读注意中选择一个小区域似乎不足以用于句子语义,并且采用预先训练的语言模型作为输入编码器将引入不完整和脆弱的表示问题。为此,我们将DRrNet扩展为局部感知的动态重读注意力网络(LadRa-Net),该网络利用句子的局部结构来弥补字节对编码(BPE)在预训练语言模型中的不足,提高动态重读注意力的性能。在两个流行的句子语义匹配任务上的大量实验表明,DRr-Net可以显着提高句子语义匹配的性能。同时,LadRa-Net能够通过考虑句子的局部结构来实现更好的性能。此外,非常有趣的是,我们实验中的一些发现与心理学研究的一些发现是一致的。
2021-08-06 cs.CL
GEM: Context-Aware Gaze EstiMation with Visual Search Behavior Matching for Chest Radiograph
AI Research Center for Medical Image Analysis and Diagnosis, Shenzhen University(深圳大学医学影像分析与诊断AI研究中心);Guangdong Provincial Key Laboratory of Intelligent Information Processing(广东省智能信息处理重点实验室);Computer Vision Institute, College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机科学与软件工程学院计算机视觉研究所);Department of Electrical Engineering, City University of Hong Kong(香港城市大学电气工程系)
本文针对医学放射报告场景下的上下文感知视线估计问题,提出GEM网络,通过多模态配准、视觉行为图构建与匹配模拟医师视觉搜索行为,在四个公开数据集上表现优于现有方法且泛化性强。
2024-08-10 cs.CL cs.CV
Keyword-Attentive Deep Semantic Matching
Tencent Inc.(腾讯公司);WeChat AI(微信人工智能)
深度语义匹配是诸如问答(QA)的各种自然语言处理应用中的关键组件,其中输入查询与QA语料库中的每个候选问题在相关性方面进行比较。由于queryquestion对中的单词标记不同,在开放域场景中测量queryquestion对之间的相似性可能具有挑战性。我们提出了一种关注关键词的方法来提高深度语义匹配。我们首先利用从一个大型语料库的域标签生成一个域增强的关键字字典。在BERT的基础上,我们堆叠了一个关注关键字的Transformer层,以突出查询-问题对中关键字的重要性。在模型训练过程中,我们提出了一种新的负采样方法,基于输入对之间的关键字覆盖率。我们使用各种指标,包括检索候选项的精度和语义匹配的准确性,在中文问答语料库上评估我们的方法。实验表明,我们的方法优于现有的强基线。我们的方法是通用的,可以应用到其他文本匹配任务,几乎没有适应。
2020-03-11 cs.CL
K-VQG: Knowledge-aware Visual Question Generation for Common-sense Acquisition
The University of Tokyo(东京大学);RIKEN(理化学研究所)
可视化问题生成(VQG)是一个从图像中生成问题的任务。当人们对一幅图像提出问题时,他们的目标往往是获得一些新知识。然而,现有的VQG研究主要是从答案或问题类别中生成问题,忽略了知识获取的目标。为了将知识获取的观点引入VQG,我们构建了一个新的知识感知的VQG数据集称为K-VQG。这是第一个大型的、人工注释的数据集,其中有关图像的问题与结构化知识相关。我们还开发了一个新的VQG模型,可以编码和使用知识作为问题的目标。在K-VQG数据集上的实验结果表明,该模型的性能优于现有模型。
2022-03-15 cs.CL cs.CV
SPARTA: Efficient Open-Domain Question Answering via Sparse Transformer Matching Retrieval
SOCO Inc(索科公司);Carnegie Mellon University(卡内基梅隆大学)
我们介绍了SPARTA,一种新的神经检索方法,表现出很大的承诺,在性能,泛化和解释性的开放域问答。与许多使用密集向量最近邻搜索的神经排名方法不同,SPARTA学习了一种稀疏表示,可以有效地实现为倒排索引。由此产生的表示使可扩展的神经检索,不需要昂贵的近似向量搜索,并导致更好的性能比其密集的对应。我们在4个开放域问答(OpenQA)任务和11个检索问答(ReQA)任务上验证了我们的方法。SPARTA实现了新的国家的最先进的结果,在各种开放领域的问答任务在英语和中文数据集,包括开放SQuAD,自然问题,CMRC等分析也证实,所提出的方法创建人类可解释的表示,并允许灵活控制性能和效率之间的权衡。
2020-09-28 cs.CL cs.LG
Knowledge-Aware Diverse Reranking for Cross-Source Question Answering
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
本文提出Team Marikarp在SIGIR 2025 LiveRAG竞赛中夺冠的方案,通过知识感知多样性重排序RAG管道,从FineWeb的1500万文档子集中高效检索问题相关支持文档。
2025-06-25 cs.CL cs.IR
Abductive Matching in Question Answering
Google Research(谷歌研究院)
我们研究半结构化数据上的问题回答。我们引入了一种新的方式来应用语义解析技术,通过应用机器学习来提供系统推断为缺失的注释;所有其他解析逻辑都是手动编写规则的形式。实际上,机器学习用于提供非语法匹配,这是一个不适合手动规则的步骤。这种方法的优点在于它的可调试性和对最终用户的透明性。我们证明了该方法的有效性,通过在标准基准数据集上实现40.42%的准确率,超过了维基百科的表格。
2017-09-10 cs.CL cs.LG
PA-CDM: Position-Aware Character Detection Matching for Evaluating Handwritten Mathematical Expression Recognition
East China Normal University(华东师范大学)
提出位置感知指标PA-CDM,结合字符检测匹配与位置森林编码,解决手写数学表达式识别评估中位置盲区问题,与人类判断相关性最高(rho=0.9535),优于传统指标且零成本。
2026-09-14 cs.CL cs.CV cs.LG
ParNet: Position-aware Aggregated Relation Network for Image-Text matching
Peking University(北京大学);Pengcheng Laboratory(鹏城实验室)
探索实体之间(如图像中的对象或句子中的单词)的细粒度关系对于精确理解多媒体内容有很大的贡献。以往的注意力机制要么采用多个自注意步骤来收集对应关系,要么使用图像对象(或单词)作为上下文来推断图像和文本的相似性。然而,它们只利用了图像的语义信息,而没有考虑到物体的相对位置也有助于图像的理解。为此,我们引入了一种新的位置感知的关系模型的语义和空间关系,同时在本文中的图像-文本匹配。在给定一幅图像的情况下,我们的方法创新性地利用不同物体的位置来捕捉空间关系。通过语义和空间关系的结合,更容易理解不同模态(图像和句子)的内容,并捕获图像-文本对的细粒度潜在对应关系。此外,我们采用两步聚合关系模块来捕获图像-文本对的可解释对齐。第一步,我们称之为模态内关系机制,在该机制中,我们分别计算图像中不同对象或句子中不同单词之间的响应;第二步,我们称之为模态间关系机制,在该机制中,查询起着文本上下文的作用,以细化图像中对象建议之间的关系。通过这种方式,我们的位置感知聚合关系网络(ParNet)不仅知道哪些实体是相关的,通过参加不同的对象(词)自适应,但也调整根据潜在的对齐根据查询的内容的模态间的对应关系。我们的方法在MS-COCO数据集上实现了最先进的结果。
2019-06-17 cs.CL cs.CV cs.LG