A Deep Learning Approach for Expert Identification in Question Answering Communities
Binghamton University（宾汉姆顿大学）
在本文中，我们描述了一个有效的卷积神经网络框架，用于识别问答社区中的专家。该方法使用卷积神经网络并将用户特征表示与问题特征表示相结合来计算得分，得到最高得分的用户是该问题的专家。与现有方法不同的是，该方法不需要通过测量答案内容质量来识别专家，而只需要利用问句和用户嵌入特征来识别专家。值得注意的是，我们的模型可以应用于不同的语言和不同的领域。该框架在两个数据集上进行训练，第一个数据集是Stack Overflow，第二个数据集是Zhihu。我们的实验的Top-1准确率结果表明，我们的框架优于专家识别的最佳基线框架。
2017-11-14 cs.CL
Attention-Based Convolutional Neural Network for Machine Comprehension
University of Munich（慕尼黑大学）
理解开放域文本是自然语言处理（NLP）面临的主要挑战之一。机器理解基准仅基于文本内容来评估系统理解文本的能力。在这项工作中，我们调查机器理解MCTest，一个问答（QA）基准。以前的工作主要是基于特征工程方法。我们提出了一个神经网络框架，命名为分层注意力为基础的卷积神经网络（HABCNN），以解决这个任务，没有任何手动设计的功能。具体来说，我们通过两条路线探索HABCNN，一条是通过传统的通道，问题和答案的联合建模，一条是通过文本蕴涵。HABCNN采用注意力机制来检测与回答问题相关的关键短语、关键句子和关键片段。实验表明，HABCNN的性能大大优于之前的深度学习方法。
2016-02-13 cs.CL
Exploring the Effectiveness of Convolutional Neural Networks for Answer Selection in End-to-End Question Answering
David R. Cheriton School of Computer Science, University of Waterloo（滑铁卢大学 David R. Cheriton 计算机科学学院）；Department of Computer Science, University of Maryland（马里兰大学计算机科学系）
目前自然语言问答的大部分工作都集中在答案选择上：给定一个候选句子列表，确定哪个包含答案。答案选择虽然重要，但只是标准端到端问答管道中的一个阶段。本文探讨了卷积神经网络（CNN）在端到端环境中使用标准TrecQA数据集进行答案选择的有效性。我们观察到，一个简单的idf加权词重叠算法形成了一个非常强大的基线，尽管社区在应用深度学习来解决答案选择方面做出了大量努力，但在这个数据集上的收益充其量是适度的。此外，目前还不清楚CNN是否比基于标准检索指标的端到端上下文中的基线更有效。为了进一步探索这一发现，我们进行了手动用户评估，确认来自CNN的答案明显优于来自idf加权单词重叠的答案。这一结果表明，用户敏感的答案选择质量相对较小的差异。
2017-07-25 cs.CL cs.IR
Image Question Answering using Convolutional Neural Network with Dynamic Parameter Prediction
POSTECH（浦项科技大学）
我们解决图像问答（ImageQA）问题，通过学习卷积神经网络（CNN）与动态参数层，其权重是根据问题自适应地确定。对于自适应参数预测，我们采用了一个单独的参数预测网络，它由门控递归单元（GRU）以一个问题作为其输入和一个全连接层生成一组候选权重作为其输出。然而，在CNN的全连接动态参数层中为大量参数构造参数预测网络是具有挑战性的。我们降低了这个问题的复杂性，通过采用哈希技术，其中的候选权重的参数预测网络的选择使用预定义的哈希函数，以确定在动态参数层中的各个权重。所提出的网络-具有用于ImageQA的CNN和参数预测网络的联合网络-通过反向传播进行端到端训练，其中其权重使用预先训练的CNN和GRU进行初始化。该算法说明了所有可用的公共ImageQA基准测试的最先进的性能。
2015-11-18 cs.CL cs.CV cs.LG
Multi-Source Test-Time Adaptation as Dueling Bandits for Extractive Question Answering
National University of Singapore（新加坡国立大学）
该研究针对抽取式问答的多源测试时自适应问题，将其建模为对决式老虎机的随机决策过程，提出支持模型两两协作的Co-UCB方法，在6个数据集上表现优于强基线。
2023-06-11 cs.CL
Location-aware Graph Convolutional Networks for Video Question Answering
South China University of Technology（华南理工大学）；Peng Cheng Laboratory, Shenzhen（鹏城实验室）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）
我们解决了视频问答的挑战性任务，这需要机器以自然语言的形式回答有关视频的问题。现有的方法试图在视频帧特征上应用时空注意力机制，而没有明确地对视频中发生的对象交互之间的位置和关系进行建模。然而，对象交互与其位置信息之间的关系对于动作识别和问题推理都是非常关键的。在这项工作中，我们建议将一个对象的位置信息的图形结构中的视频内容表示为一个位置感知的图形。在这里，每个节点都与由其外观和位置特征表示的对象相关联。基于所构造的图，我们提出使用图卷积来推断动作的类别和时间位置。由于图是建立在对象上的，我们的方法能够专注于前景动作内容，以获得更好的视频问答。最后，我们利用注意力机制将图卷积的输出与编码的问题特征相结合，用于最终答案推理。大量的实验证明了所提出的方法的有效性。具体来说，我们的方法在TGIF-QA、Youtube 2 Text-QA和MSVD-QA数据集上的表现明显优于最先进的方法。代码和预训练模型可在以下网址公开获取：https://github.com/SunDoge/L-GCN
2020-08-07 cs.CL cs.CV
Bridging Anaphora Resolution as Question Answering
IBM Research Europe（IBM欧洲研究院）
大多数先前关于桥接回指解析的研究（Poesio等人，2004; Hou等人，2013 b; Hou，2018 a）使用成对模型来解决这个问题，并假设黄金提及信息已经给出。本文将桥接回指消解看作是基于语境的问答。这使我们能够找到一个给定的回指的先行词，而不知道任何黄金提到信息（除了回指本身）。我们提出了一个问答框架（BARQA）的这项任务，它利用了迁移学习的力量。此外，我们提出了一种新的方法来产生大量的“准桥接”的训练数据。我们表明，我们的模型在这个数据集上进行了预训练，并在少量的域内数据集上进行了微调，在两个桥接语料库上实现了桥接回指解析的最新结果（ISNotes（Markert et al.，2012）和BASHI（Roesiger，2018））。
2020-06-24 cs.CL
Comparing Attention-based Convolutional and Recurrent Neural Networks: Success and Limitations in Machine Reading Comprehension
我们提出了一个基于两阶段注意力的比较-聚合框架的机器阅读理解模型，在MovieQA问答数据集上取得了最先进的结果。为了研究我们的模型的局限性以及卷积神经网络和递归神经网络之间的行为差异，我们生成了对抗性示例来混淆模型并与人类性能进行比较。此外，我们通过分析模型与人类推理的差异来评估模型的泛化能力，
2018-08-27 cs.CL
Fast Reading Comprehension with ConvNets
Cornell University（康奈尔大学）；Google Inc.（谷歌公司）
最先进的深度阅读理解模型由递归神经网络主导。它们的顺序性质自然适合语言，但它也排除了实例内的并行化，并且经常成为将此类模型部署到延迟关键场景的瓶颈。这对于较长的文本来说尤其成问题。在这里，我们提出了一个卷积架构作为这些循环架构的替代方案。使用简单的扩张卷积单元代替经常性的卷积单元，我们在两个问答任务上实现了与最先进技术相当的结果，同时实现了问答的两个数量级的加速。
2017-11-12 cs.CL
On the Importance of Adaptive Data Collection for Extremely Imbalanced Pairwise Tasks
Stanford University（斯坦福大学）
许多成对分类任务，例如释义检测和开放域问答，自然具有极端的标签不平衡（例如，$99.99\%$的例子是否定的）。相比之下，许多最近的数据集选择示例以确保标签平衡。我们发现，这些算法导致训练的模型泛化能力差：在QQP和WikiQA上训练的最先进的模型在现实不平衡的测试数据上进行评估时，每个模型都只有$2.4\%$的平均精度。相反，我们使用主动学习来收集训练数据，使用基于BERT的嵌入模型来有效地从大量未标记的话语对中检索不确定点。通过创建具有更多信息的负样本的平衡训练数据，主动学习大大提高了QQP上的$32.5\%$和WikiQA上的$20.1\%$的平均精度。
2020-10-10 cs.CL cs.LG
Skipping Word: A Character-Sequential Representation based Framework for Question Answering
Sogou Inc（搜狗公司）；Key Lab of Intelligent Information Processing of CAS（中国科学院智能信息处理重点实验室）；ICT（中国科学院计算技术研究所）
最近的作品使用基于词的分布式表示的人工神经网络极大地提高了各种自然语言学习任务的性能，特别是问答。虽然，他们也进行了一些随之而来的问题，如语料库的选择嵌入学习，字典变换不同的学习任务，在本文中，我们提出了直接建模的句子通过字符序列，然后利用卷积神经网络集成字符嵌入学习与逐点答案选择训练。与使用词嵌入（WE）策略预训练的深度模型相比，我们基于字符顺序表示（CSR）的方法在不同的基准测试中显示出更简单的过程和更稳定的性能。在两个基准答案选择数据集上的实验表明，与现有方法相比，该方法具有很好的性能。
2016-09-02 cs.CL
Pretrained Transformers for Simple Question Answering over Knowledge Graphs
University of Bonn（波恩大学）；Ruhr University Bochum（波鸿鲁尔大学）；Fraunhofer IAIS（弗劳恩霍夫应用信息技术研究所）
在知识图谱上生成简单问题是问答中的一个研究热点。以前用于此任务的方法建立在基于递归和卷积神经网络的架构上，这些架构使用预训练的词嵌入。最近的研究表明，微调预训练的Transformer网络（例如BERT）可以在各种自然语言处理任务上优于以前的方法。在这项工作中，我们调查如何以及BERT执行SimpleQuestions，并提供了一个评估的BERT和BiLSTM为基础的模型，在codeparse方案。
2020-01-31 cs.AI cs.CL cs.LG
A Question Answering Approach to Emotion Cause Extraction
Shenzhen Graduate School, Harbin Institute of Technology（哈尔滨工业大学深圳研究生院）；College of Mathematics and Computer Science, Fuzhou University（福州大学数学与计算机科学学院）；School of Engineering and Applied Science, Aston University（阿斯顿大学工程与应用科学学院）；Guangdong Provincial Engineering Technology Research Center for Data Science（广东省数据科学工程技术研究中心）；Department of Computing, the Hong Kong Polytechnic University（香港理工大学计算学系）
情感原因抽取的目的是识别文本中表达的某种情感背后的原因。与情感分类相比，这是一项困难得多的任务。受深度记忆网络在问答中应用的最新进展的启发，我们提出了一种新的方法，将情感原因识别作为问答中的阅读理解任务。受卷积神经网络的启发，我们提出了一种新的机制，将相关的上下文存储在不同的内存槽中，以模拟上下文信息。我们提出的方法可以同时提取词级序列特征和词汇特征。性能评估表明，我们的方法达到了最先进的性能在最近发布的情绪原因数据集，超过了一些竞争基线的F-测量至少3.01%。
2017-09-24 cs.CL
LFQA-HP-1M: A Large-Scale Human Preference Dataset for Long-Form Question Answering
LFQA-HP-1M是一个大规模的人类偏好数据集，用于长形式问答的评估，提出了九个评估准则并展示了其在评估性能上的有效性。
2026-02-27 cs.AI cs.CL cs.IR
Exploring BERT Parameter Efficiency on the Stanford Question Answering Dataset v2.0
UC Berkeley（加州大学伯克利分校）；School of Information（信息学院）
在本文中，我们探讨了BERT arXiv：1810.04805的斯坦福问答数据集（SQuAD 2.0）的2.0版本的参数效率。我们在冻结不同数量的最终Transformer层以及包括arXiv：1902.00751中提出的适配器层的同时评估BERT的参数效率。此外，我们尝试使用上下文感知卷积（CACNN）过滤器，如arXiv：1709.08294v3中所述，作为SQuAD2.0任务的最终增强层。这种探索的部分动机是arXiv：1907.10597，它为扩大人工智能模型的评估标准以包括各种资源效率的度量提供了令人信服的理由。虽然我们没有根据arXiv：1907.10597中提出的浮点运算效率来评估这些模型，但我们检查了训练时间，推理时间和模型参数总数的效率。我们的结果在很大程度上证实了arXiv：1902.00751的适配器模块，同时也证明了由于训练和推理时间的增加，通过添加上下文感知卷积滤波器获得的F1分数是不实际的。
2020-03-03 cs.CL cs.LG stat.ML
Textbook Question Answering with Multi-modal Context Graph Understanding and Self-supervised Open-set Comprehension
Seoul National University（首尔国立大学）；V.DO Inc.（V.DO公司）；Search&Clova, Naver Corp.（Naver公司Search&Clova部门）
在这项工作中，我们介绍了一种新的算法解决教科书问答（TQA）的任务，描述了更现实的QA问题相比，最近的其他任务。我们主要集中在两个相关的问题与TQA数据集的分析。首先，解决TQA问题需要理解复杂输入数据中的多模态上下文。为了解决从长文本课程中提取知识特征并将其与视觉特征融合的问题，我们从文本和图像中建立了上下文图，并提出了一种基于图卷积网络（GCN）的新模块f-GCN。其次，科学术语没有分布在章节中，主题在TQA数据集中被分开。为了克服这个所谓的“域外”问题，在学习QA问题之前，我们引入了一个新的无任何注释的自监督开集学习过程。实验结果表明，我们的模型显着优于现有的最先进的方法。此外，消融研究验证了这两种方法，将f-GCN提取知识的多模态上下文和我们新提出的自监督学习过程是有效的TQA问题。
2019-06-02 cs.CL
Neural Multi-Step Reasoning for Question Answering on Semi-Structured Tables
Department of Computer Science ETH Zurich（苏黎世联邦理工学院计算机科学系）；ETH Zurich（苏黎世联邦理工学院）；Switzerland（瑞士）
近年来，由于神经网络方法的日益流行，自然语言处理任务的进展获得了动力。在本文中，我们探讨了用于回答半结构化表上操作的多步推理问题的深度学习技术。这里的挑战来自于问题所表达的逻辑组合性的水平，以及领域的开放性。我们的方法是弱监督的，在问答表三元组上训练，而不需要中间的强监督。它执行两个阶段：首先，机器可理解的逻辑形式（程序）是根据[Pasupat和Liang，2015]的工作从自然语言问题中生成的。第二，使用单词和字符卷积神经网络将逻辑形式和问题的释义嵌入到联合学习的向量空间中。神经评分函数进一步用于对问题的最可能的逻辑形式（解释）进行排名和检索。我们最好的单个模型在WikiTableQuestions数据集上达到了34.8%的准确率，而我们模型的最佳集合将这项任务的最先进分数推高到38.7%，从而略微超过了工程特征评分基线以及Neelakantan等人的神经程序员模型，2016年]。
2018-03-22 cs.CL
Lightweight Convolutional Approaches to Reading Comprehension on SQuAD
Stanford University（斯坦福大学）
当前最先进的阅读理解模型严重依赖于递归神经网络。我们探索了一种完全不同的问答方法：卷积模型。就其本质而言，这些卷积模型能够快速训练并很好地捕获局部依赖关系，尽管它们可能会与较长范围的依赖关系作斗争，因此需要增强以实现与基于RNN的模型相当的性能。我们使用卷积模型和各种内核/注意力/正则化方案进行了二十多个受控实验，以确定每种策略的精确性能增益，同时保持对速度的关注。我们最终集成了三个模型：crossconv（0.5398 dev F1），attnconv（0.5665）和maybeconv（0.5285）。使用官方SQuAD评估脚本，集成模型能够获得0.6238 F1分数。我们的个人卷积模型crossconv能够超过RNN加注意力基线的性能25%，同时训练速度快6倍。
2018-10-19 cs.AI cs.CL
Multimodal Multihop Source Retrieval for Web Question Answering
Carnegie Mellon University（卡内基梅隆大学）
针对多模态多跳网络问答，本文提出基于句子语义结构的图推理网络，利用图结构和邻接矩阵学习多源推理路径，以轻量模型在 WebQA 上取得检索 F1 提升 4.6%。
2025-01-07 cs.AI cs.CL
An Attention-Based Word-Level Interaction Model: Relation Detection for Knowledge Base Question Answering
Institute of Electronics, Chinese Academy of Sciences（中国科学院电子学研究所）；University of Chinese Academy of Sciences（中国科学院大学）；University of Technology Sydney（悉尼科技大学）
由于问句中关系表达式的高度变异性，关系检测在知识库问答中起着至关重要的作用。传统的深度学习方法遵循编码-比较范式，其中问题和候选关系被表示为向量以比较它们的语义相似性。最大或平均池化操作将词序列压缩成固定维的向量，成为信息的瓶颈。在本文中，我们建议学习基于注意力的问题和关系之间的词级交互，以缓解瓶颈问题。与传统模型相似，问题和关系首先表示为向量序列。然后，不是通过池化操作将序列合并到单个向量中，而是学习来自问题的单词与关系之间的软对齐。随后将对齐的字与卷积神经网络（CNN）进行比较，并最终合并比较结果。基于注意力的词级交互模型（ABWIM）通过在低层表征上进行比较，缓解了在比较之前将序列合并为固定维向量所造成的信息丢失问题。在SimpleQuestions和WebQuestions数据集上的实验结果表明，ABWIM达到了最先进的准确率，证明了其有效性。
2018-01-30 cs.CL
Promotion of Answer Value Measurement with Domain Effects in Community Question Answering Systems
University of Science and Technology of China（中国科学技术大学）；Baidu, Inc.（百度公司）
在社区问答领域，答案选择和答案排序是帮助用户快速获取有价值答案的两个任务。现有的解决方案主要利用问题和相关答案之间的句法或语义相关性，其中CQA中的多方面领域效应仍然没有得到充分的研究。在本文中，我们提出了一个统一的模型，增强的注意递归神经网络（EARNN），通过充分利用问答语义和多方面的领域效应（即，主题效果和时效性）。具体来说，我们开发了一个序列化的LSTM来学习Q & A的统一表示，其中设计了两个注意力机制，用于捕获主题的深层效果。同时，可以自动区分问答的重点。此外，我们设计了一个时间敏感的排序函数来模拟CQA中的时间性。为了有效地训练EARNN，问题相关的成对学习策略也被开发。最后，我们在Quora的真实数据集上进行了大量的实验。实验结果验证了我们提出的EARNN模型的有效性和可解释性。
2019-07-14 cs.CL cs.IR
Complex Temporal Question Answering on Knowledge Graphs
Southwest Jiaotong University（西南交通大学）；IIT Bhilai（比莱印度理工学院）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
基于知识图谱的问答（KG-QA）是信息检索中的一个重要研究课题。这项工作提出了EXAQT，第一个端到端的系统，用于回答复杂的时间问题，有多个实体和谓词，以及相关的时间条件。EXAQT通过两个阶段回答KG上的自然语言问题，一个阶段是高召回率，另一个阶段是高精度。第一步计算KG中与问题相关的紧凑子图，并使用Group Steiner Trees和微调的BERT模型，明智地用相关的时间事实增强它们。第二步从第一步的输出构造关系图卷积网络（R-GCN），并通过时间感知实体嵌入和对时间关系的关注来增强R-GCN。我们评估EXAQT上的TimeQuestions，一个大型数据集的16 k时间问题，我们从各种通用KG-QA基准编译。结果表明，EXAQT优于三个国家的最先进的系统回答复杂的问题，从而证明专门治疗的时间QA。
2021-09-18 cs.CL cs.IR
Question Answering over Knowledge Base using Language Model Embeddings
Southern Illinois University Carbondale（南伊利诺伊大学卡本代尔分校）
知识库，表示关于世界的事实，通常以某种形式的包容本体，而不是隐含地嵌入在过程代码中，传统的计算机程序的方式。虽然知识库迅速增长，但从中检索信息是一个挑战。知识库问答是从知识库中抽取大量知识的有效方法之一。与Web搜索不同，知识库上的问答给出了准确和简洁的结果，前提是自然语言问题可以被理解并精确地映射到知识库中的答案。然而，用于知识库问答系统的一些现有的基于嵌入的方法忽略了问题和知识库之间的微妙相关性（例如，实体类型、关系路径和上下文），并且遭受词汇表外问题。在本文中，我们专注于使用预先训练的语言模型的知识库问答任务。首先，我们使用BERT基进行初始实验。我们进一步微调这些嵌入与双向注意力机制从知识库到问的问题，从问的问题到知识库的答案方面。我们的方法是基于一个简单的卷积神经网络架构与多头注意力机制来表示所问的问题在多个方面的动态。我们的实验结果表明，BERT预训练的语言模型嵌入知识库上的问答系统的有效性和优越性比其他知名的嵌入方法。
2020-10-17 cs.CL cs.IR
Inter-sentence Relation Extraction with Document-level Graph Convolutional Neural Network
Toyota Technological Institute（丰田工业大学）；Artificial Intelligence Research Center (AIRC), National Institute of Advanced Industrial Science and Technology (AIST)（产业技术综合研究所人工智能研究中心）
句间关系抽取处理的是文档中大量复杂的语义关系，这些关系需要局部、非局部、句法和语义依赖。现有的方法没有充分利用这种依赖性。本文提出了一种新的句间关系抽取模型，该模型在文档级图上建立了一个标记边图卷积神经网络模型。该图使用各种句间和句内依赖关系来构建，以捕获本地和非本地依赖关系信息。为了预测实体对的关系，我们利用双仿射成对评分的多实例学习。实验结果表明，我们的模型在两个生物化学数据集上实现了与最先进的神经模型相当的性能。我们的分析表明，图中的所有类型是有效的句间关系抽取。
2019-06-11 cs.CL cs.IR
Learning to Answer Questions From Image Using Convolutional Neural Network
Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）
在本文中，我们提出采用卷积神经网络（CNN）的图像问答（QA）。我们提出的CNN提供了一个具有卷积架构的端到端框架，不仅用于学习图像和问题表示，还用于学习它们的模态间交互以产生答案。更具体地说，我们的模型由三个CNN组成：一个图像CNN用于编码图像内容，一个句子CNN用于组成问题的单词，以及一个多模态卷积层用于学习它们的联合表示，以便在候选答案单词的空间中进行分类。我们证明了我们提出的模型在DAQUAR和COCO-QA数据集上的有效性，这是图像QA的两个基准数据集，其性能显着优于最先进的。
2015-11-13 cs.CL cs.CV cs.LG
A Benchmark for Long-Form Medical Question Answering
Lavita AI（拉维塔人工智能公司）；Dartmouth Hitchcock Medical Center（达特茅斯-希区柯克医疗中心）；Dartmouth College（达特茅斯学院）
本文提出了一个由医生标注的公开长文本医疗问答基准，通过成对比较和LLM-as-a-judge分析发现开源LLMs在医疗QA中具有与领先闭源模型竞争的潜力。
2024-11-19 cs.AI cs.CL
Hyperbolic Representation Learning for Fast and Efficient Neural Question Answering
Nanyang Technological University（南洋理工大学）；Institute for Infocomm Research（资讯通信研究院）
问题答案检索中的主导神经架构基于配置有复杂单词匹配层的递归或卷积编码器。鉴于最近的架构创新大多是新词交互层或基于注意力的匹配机制，这些组件对于良好的性能是强制性的，这似乎是一个公认的事实。不幸的是，由这些复杂机制引起的存储器和计算成本对于实际应用是不期望的。因此，本文解决的问题是，是否有可能实现简单的神经架构的竞争力的表现。我们提出了一个简单但新颖的深度学习架构，用于快速有效的问答排名和检索。更具体地说，我们提出的模型，\textsc{HyperQA}，是一个参数有效的神经网络，优于其他参数密集型模型，如注意池BiLSTM和多视角CNN在多个QA基准测试。\textsc{HyperQA}背后的新颖之处是一个成对排序目标，它在双曲空间而不是欧几里得空间中对问题和答案嵌入之间的关系进行建模。这使我们的模型具有自组织能力，并在学习问题和答案的嵌入时自动发现潜在的层次结构。我们的模型不需要特征工程，没有相似性矩阵匹配，没有复杂的注意力机制，也没有过度参数化的层，但优于许多模型，并保持竞争力，具有这些功能的多个基准。
2017-11-23 cs.CL cs.IR
Product-Aware Answer Generation in E-Commerce Question-Answering
ICST, Peking University（北京大学信息科学技术学院）
在电子商业门户网站中，为产品相关问题生成答案已成为一项至关重要的任务。在本文中，我们提出了产品感知的答案生成任务，它倾向于从大规模的未标记的电子商业评论和产品属性中生成准确和完整的答案。与现有的问答问题不同，电子商业中的答案生成面临三个主要挑战：（1）评论是非正式的和有噪声的;（2）评论和关键值产品属性的联合建模具有挑战性;（3）传统方法容易生成无意义的答案。为了解决上述挑战，我们提出了一个基于对抗学习的模型，称为PAAG，它由三个组件组成：一个问题感知的评论表示模块，一个编码属性的键值记忆网络，以及一个作为序列生成器的递归神经网络。具体来说，我们使用卷积神经网络来区分我们生成的答案是否与事实相匹配。为了提取评论的显著性部分，提出了一种基于注意力的评论阅读器来捕获给定问题的最相关的词。在一个大规模的真实电子商业数据集上进行了大量的实验，验证了模型中每个模块的有效性。此外，我们的实验表明，我们的模型在自动度量和人工评估方面都达到了最先进的性能。
2019-01-24 cs.AI cs.CL
AQAScore: Evaluating Semantic Alignment in Text-to-Audio Generation via Audio Question Answering
National Taiwan University（国立台湾大学）；Massachusetts Institute of Technology（麻省理工学院）
AQAScore通过音频问答评估文本到音频生成的语义对齐，利用大型语言模型的推理能力，有效捕捉语义不一致性。
2026-01-21 cs.AI cs.CL cs.LG
Relational Graph Convolutional Neural Networks for Multihop Reasoning: A Comparative Study
University of Cambridge（剑桥大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
多跳问答是一个复杂的自然语言处理任务，需要多个推理步骤来找到给定问题的正确答案。以前的研究已经探索了使用基于图神经网络的模型来解决这一任务。已经提出了各种架构，包括关系图卷积网络（RGCN）。对于这些许多节点类型和它们之间的关系已经被引入，例如简单的实体同现，建模共引用，或通过中间实体从问题到答案的“推理路径”。然而，关于哪些关系、节点类型、嵌入和架构对这项任务最有益的深入分析仍然缺失。在本文中，我们探索了一些基于RGCN的多跳QA模型，图关系和节点嵌入，并实证探索每个对WikiHop数据集上的多跳QA性能的影响。
2022-10-13 cs.AI cs.CL cs.LG
Long-Span Question-Answering: Automatic Question Generation and QA-System Ranking via Side-by-Side Evaluation
Google DeepMind（谷歌DeepMind）
本文提出一种利用LLM长上下文能力从整本书自动生成阅读理解数据的流水线，通过成对比较和Bradley-Terry模型排名的相对评估方法，验证了整本书上下文在阅读理解任务上的优越性。
2024-05-31 cs.AI cs.CL
PullNet: Open Domain Question Answering with Iterative Retrieval on Knowledge Bases and Text
Google AI Language（谷歌AI语言部门）
我们考虑开放域问答（QA），其中答案来自语料库，知识库（KB）或两者的组合。我们专注于一个设置，其中语料库补充了一个大的，但不完整的KB，并在问题上，需要非平凡的（例如，"多跳“）推理。我们描述了PullNet，一个集成的框架，用于（1）学习检索什么（从KB和/或语料库）和（2）使用这种异构信息进行推理以找到最佳答案。PullNet使用{迭代}过程来构建包含与问题相关的信息的特定于问题的子图。在每次迭代中，使用图卷积网络（图CNN）来识别应该使用对语料库和/或KB的检索（或“拉”）操作来扩展的子图节点。在子图完成之后，使用类似的图CNN从子图中提取答案。这种检索和推理过程允许我们使用大型知识库和语料库回答多跳问题。PullNet是弱监督的，需要问答对，但不需要黄金推理路径。在实验上，PullNet比现有技术有所改进，并且在语料库与不完整的KB一起使用的情况下，这些改进通常是戏剧性的。PullNet在仅KB设置或仅文本设置中也通常优于现有系统。
2019-04-21 cs.CL cs.LG
Deep Feature Fusion Network for Answer Quality Prediction in Community Question Answering
IIIT Hyderabad（国际信息技术研究所海得拉巴分校）；Microsoft（微软）
社区问答（cQA）论坛已经成为一种流行的媒介，用于就给定主题从专家或其他有经验的用户那里征求对用户的特定问题的直接答案。然而，对于一个给定的问题，用户有时不得不从大量的低质量或不相关的答案中筛选出满足其信息需求的答案。为了缓解这一问题，答案质量预测（AQP）的问题旨在预测响应论坛问题而发布的答案的质量。当前的AQP系统要么使用a）各种手工特征（HCF）来学习模型，要么使用自动学习所需特征表示的深度学习（DL）技术来学习模型。在本文中，我们提出了一种新的AQP方法，称为“深度特征融合网络（DFFN）”，它利用了手工制作的功能和基于深度学习的系统的优势。给定一个问题-答案对及其元数据，DFFN独立地- a）使用卷积神经网络（CNN）学习深度特征，b）使用各种外部资源计算手工制作的特征，然后使用经过训练的深度神经网络将它们组合起来以预测最终答案质量。DFFN在标准SemEval-2015和SemEval-2016基准数据集上实现了最先进的性能，并且优于单独使用基于HCF或DL的技术的基线方法。
2016-06-26 cs.CL cs.IR
TwiRGCN: Temporally Weighted Graph Convolution for Question Answering over Temporal Knowledge Graphs
IISc（印度科学学院）；IIT Bombay（印度理工学院孟买分校）；Google Research（谷歌研究院）
针对时序知识图谱复杂问答任务，提出TwiRGCN模型，通过时序相关性调制图卷积消息传递并引入门控预测答案类型，在TimeQuestions数据集上显著优于现有最优方法，尤其在高难度问题上准确率提升9-10个百分点。
2023-10-06 cs.AI cs.CL
Rethinking Faithfulness in LLMs: A Pairwise Context-Sensitive Perspective
Hong Kong Baptist University（香港浸会大学）
针对LLM忠实性评估的不足，提出成对上下文敏感基准PFaithBench，发现模型存在回答偏向，训练数据组成影响忠实性权衡。
2026-10-07 cs.CL cs.LG
Question Answering over Freebase via Attentive RNN with Similarity Matrix based CNN
随着知识库的快速增长，基于知识库的问答，也就是基于知识库的问答，越来越受到人们的重视。KBQA近年来引起了极大的关注。大多数现有的KBQA方法遵循所谓的编码器比较框架。它们将问题和知识库事实映射到一个公共的嵌入空间，在该空间中可以方便地计算问题向量和事实向量之间的相似度。然而，这不可避免地丢失了原始词语交互信息。为了保留更多的原始信息，我们提出了一种基于相似性矩阵的卷积神经网络（AR-SM CNN）模型，它能够利用RNN和CNN的优点来捕获全面的层次信息。我们使用RNN通过其顺序建模性质来捕获语义级相关性，并使用注意力机制同时跟踪实体和关系。同时，我们使用一个基于相似性矩阵的CNN与双向池提取文字级的词的交互匹配，利用CNN建模数据之间的空间相关性的强度。此外，我们已经开发了一种新的启发式扩展方法的实体检测，显着降低噪声的影响。我们的方法在SimpleQuestion基准测试中的准确性和效率都优于最先进的方法。
2018-05-27 cs.AI cs.CL cs.LG
A Hybrid Approach Towards Two Stage Bengali Question Classification Utilizing Smart Data Balancing Technique
United International University（联合国际大学）
问题分类是问答系统的首要环节。问题分类（QC）系统将问题分类到特定的类中，以便问答（QA）系统能够为问题提供正确的答案。我们的系统在提取问题的特征之后，对以自然语言提出的事实类问题进行分类。我们提出了一个两阶段的孟加拉质量控制系统。它利用一维卷积神经网络在第一阶段将问题分类为粗类。已经构建了问题语料库的现有单词的Word 2 vec表示，并用于辅助1D CNN。智能数据平衡技术已被用于给予数据饥饿的卷积神经网络的优势，更多的有效样本学习。对于每个粗类，已经使用了单独的基于随机梯度下降（SGD）的分类器，以便在该粗类内的较细类之间进行区分。TF-IDF表示的每个单词已被用作功能的SGD分类器实现的第二阶段分类的一部分。实验表明，我们提出的方法的有效性孟加拉问题分类。
2020-03-03 cs.CL cs.IR cs.LG
Learning Convolutional Text Representations for Visual Question Answering
Washington State University（华盛顿州立大学）
视觉问答是最近提出的一项人工智能任务，需要对图像和文本都有深入的理解。在深度学习中，图像通常通过卷积神经网络建模，文本通常通过递归神经网络建模。虽然对图像建模的要求类似于传统的计算机视觉任务，例如对象识别和图像分类，但与其他自然语言处理任务相比，视觉问答对文本表示提出了不同的需求。本文对视觉问答中的自然语言问句进行了详细的分析。基于分析，我们建议依靠卷积神经网络学习文本表示。通过探索专门用于文本数据的卷积神经网络的各种属性，例如宽度和深度，我们提出了我们的“CNN Inception + Gate”模型。我们表明，我们的模型提高了问题的表示，从而提高了视觉问答模型的整体准确性。我们还表明，在视觉问答的文本表示的要求是更复杂和全面的比传统的自然语言处理任务，使它成为一个更好的任务，以评估文本表示方法。像fastText这样的浅层模型可以在文本分类等任务中获得与深度学习模型相当的结果，但不适合视觉问答。
2018-04-18 cs.CL cs.LG cs.NE
QAGCN: Answering Multi-Relation Questions via Single-Step Implicit Reasoning over Knowledge Graphs
University of Zurich（苏黎世大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Elsevier（爱思唯尔）
本文提出QAGCN，一种基于问题感知图卷积网络的单步隐式推理方法，以更简单高效的方式解决知识图谱多关系问答，性能达到或超越现有显式多步推理方法。
2024-03-28 cs.AI cs.CL cs.IR
Integrating Image Features with Convolutional Sequence-to-sequence Network for Multilingual Visual Question Answering
University of Information Technology（信息技术大学）；Vietnam National University（越南国家大学）
本文针对多语言视觉问答任务，将预训练VQA模型提示和图像特征融入卷积序列到序列网络，在UIT-EVJVQA数据集上取得竞赛第三名。
2023-09-03 cs.CL cs.CV
Neural Network Models for Paraphrase Identification, Semantic Textual Similarity, Natural Language Inference, and Question Answering
Ohio State University（俄亥俄州立大学）
在本文中，我们分析了几种用于句子对建模的神经网络设计（及其变体），并在八个数据集上广泛比较了它们的性能，包括释义识别，语义文本相似性，自然语言推理和问答任务。尽管这些模型中的大多数都声称具有最先进的性能，但原始论文通常只报告一两个选定的数据集。我们提供了一个系统的研究，并表明（i）通过LSTM编码上下文信息和句子间交互是至关重要的，（ii）Tree-LSTM并没有像之前声称的那样有帮助，但令人惊讶地提高了Twitter数据集的性能，（iii）增强型顺序推理模型是迄今为止最适合较大数据集的模型，而成对词交互模型在可用数据较少时实现了最佳性能。我们将我们的实现作为开源工具包发布。
2018-08-23 cs.CL
Modulated Self-attention Convolutional Network for VQA
Polytechnic Mons（蒙斯理工学院）；Telecom SudParis（巴黎南泰尔电信学院）
随着用于真实世界视觉推理和组合问答的新数据集的出现，可能需要在训练期间使用视觉特征提取作为端到端过程。这一小小的贡献旨在提出新的想法，以改善传统的卷积网络的视觉处理的视觉问答（VQA）。在本文中，我们提出了调制的语言输入的CNN增强自我注意。我们在这一方向的未来研究显示出令人鼓舞的相对改善。
2019-10-31 cs.CL cs.CV cs.LG
Advancing Vietnamese Visual Question Answering with Transformer and Convolutional Integration
University of Science（科学大学）；Vietnam National University（越南国家大学）
针对越南语视觉问答系统缺失问题，提出集成BLIP-2与EfficientNet提取图像特征，并利用BEiT-3融合多模态信息的模型，在ViVQA数据集上达到71.04%准确率。
2024-07-30 cs.CL cs.CV
GraghVQA: Language-Guided Graph Neural Networks for Graph-based Visual Question Answering
Stanford University（斯坦福大学）
图像不仅仅是对象或属性的集合--它们代表了相互连接的对象之间的关系网。场景图作为一种新的图像结构化图形表示形式出现。场景图将对象编码为通过成对关系连接的节点作为边。为了支持场景图上的问答，我们提出了GraphVQA，一个语言引导的图神经网络框架，它将自然语言问题翻译和执行为图节点之间消息传递的多次迭代。我们探索了GraphVQA框架的设计空间，并讨论了不同设计选择的权衡。我们在GQA数据集上的实验表明，GraphVQA的性能大大优于最先进的模型（88.43% vs. 94.78%）。
2021-06-02 cs.CL cs.CV
M$^2$S-Net: Multi-Modal Similarity Metric Learning based Deep Convolutional Network for Answer Selection
Shenma Search, Alibaba Mobile GroupAlibaba-Inc（阿里巴巴移动事业群神马搜索阿里巴巴公司）；Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS)Institute of Computing Technology, CAS（中国科学院智能信息处理重点实验室中国科学院计算技术研究所）
最近的作品使用基于分布式单词表示的人工神经网络大大提高了各种自然语言处理任务的性能，特别是答案选择问题。尽管如此，以前的大多数作品都使用了深度学习方法（如LSTM-RNN，CNN等）。仅仅单独地捕捉每个句子的语义表示，而没有考虑彼此之间的相互依赖性。在本文中，我们提出了一种新的端到端学习框架，该框架构成了基于成对令牌的多模态相似性度量学习（M $^2$ S-Net）的深度卷积神经网络。所提出的模型通过在答案选择基准上超越先前最先进的系统来展示其性能，即，TREC-QA数据集，MAP和MRR指标。
2018-03-16 cs.CL
Dual Recurrent Attention Units for Visual Question Answering
Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）
视觉问答（VQA）要求AI模型理解视觉和文本两个领域的数据。当前最先进的模型使用学习的注意力机制从输入域提取相关信息来回答某个问题。因此，强大的注意力机制是强大的VQA模型必不可少的。在本文中，我们提出了一个循环的注意力机制，并显示其优势相比，传统的卷积方法。我们进行了两项消融研究，以评估复发性注意。首先，我们引入了一个具有视觉注意力的基线VQA模型，并在VQA 2.0数据集上测试了卷积注意力和递归注意力之间的性能差异。其次，我们设计了一个架构VQA，它利用双重（文本和视觉）循环注意单元（RAU）。使用这个模型，我们展示了所有可能的递归和卷积双重注意组合的效果。我们的单一模型在VQA 2016挑战赛中的表现优于第一名，据我们所知，它是VQA 1.0数据集上表现第二好的单一模型。此外，我们的模型在VQA 2017挑战赛的获胜者身上有明显的改进。此外，我们实验用我们的RAU替换最先进模型中的注意力机制，并显示出更高的性能。
2019-03-26 cs.AI cs.CL cs.CV
Parameter-Efficient Neural Question Answering Models via Graph-Enriched Document Representations
Georgia Tech（佐治亚理工学院）；Keio University（庆应义塾大学）；University of Toronto（多伦多大学）
随着现代NLP系统计算量的增长，获得更有效的模型变得越来越重要。我们表明，通过采用图卷积文档表示，我们可以达到一个问答系统，执行的是martto，并在某些情况下超过SOTA解决方案，而使用不到5\%的资源方面的可训练参数。就目前而言，将GCN应用于NLP的一个主要问题是文档表示。在本文中，我们表明，GCN丰富的文档表示大大提高了HotPotQA中看到的结果，即使使用一个平凡的拓扑结构。我们的模型（gQA）与当前的SOTA相比表现出色，并且几乎不需要预处理。在Shao等人2020中，作者认为图网络对于多跳QA的良好性能不是必需的。在本文中，我们通过展示一个基于预训练的语言模型的GCN执行到SoTA模型的简单实现，表明大语言模型对于良好的性能是不必要的。
2021-06-01 cs.CL
Don't Give Me the Details, Just the Summary! Topic-Aware Convolutional Neural Networks for Extreme Summarization
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
我们介绍极端的摘要，一个新的单文档摘要任务，不赞成提取策略，并要求一个抽象的建模方法。这个想法是创建一个简短的，一句话的新闻摘要回答这个问题：“这篇文章是关于什么的？”".我们收集了一个真实世界的，大规模的数据集为这项任务收获的在线文章从英国广播公司（BBC）。我们提出了一种新的抽象模型，这是有条件的文章的主题和完全基于卷积神经网络。我们通过实验证明，这种架构捕获文档中的长距离依赖关系，并识别相关内容，在自动和人工评估时优于Oracle提取系统和最先进的抽象方法。
2018-08-27 cs.CL
VIBIKNet: Visual Bidirectional Kernelized Network for Visual Question Answering
Universitat de Barcelona（巴塞罗那大学）；Computer Vision Center（计算机视觉中心）；PRHLT Research Center（PRHLT研究中心）；Universitat Politècnica de València（瓦伦西亚理工大学）
在本文中，我们提出了一种新的模型，称为VIBIKNet解决问题的视觉问答。我们的模型是基于集成核卷积神经网络和长短期记忆单元，以生成一个关于图像的问题的答案。我们证明了VIBIKNet是准确性和计算负载之间的最佳权衡，在内存和时间消耗方面。我们在VQA挑战数据集上验证了我们的方法，并将其与性能最好的方法进行了比较，以说明其性能和速度。
2016-12-12 cs.CL cs.CV
What is this Article about? Extreme Summarization with Topic-aware Convolutional Neural Networks
Google Research（谷歌研究院）；University of Edinburgh（爱丁堡大学）
我们引入了“极端摘要”，一个新的单文档摘要任务，旨在创建一个简短的，一句话的新闻摘要回答问题“这篇文章是关于什么的？''.我们认为，极端的总结，本质上，是不适合提取策略，需要一个抽象的建模方法。为了进一步推动这项任务的研究：（a）我们通过从英国广播公司（BBC）收集在线文章来收集真实世界的大规模数据集;（b）提出一种新的抽象模型，该模型以文章的主题为条件，完全基于卷积神经网络。我们通过实验证明，该架构可以捕获文档中的长期依赖关系并识别相关内容，在自动评估和由人类在极端摘要数据集上评估时，其性能优于Oracle提取系统和最先进的抽象方法。
2019-07-19 cs.CL
Neural Self Talk: Image Understanding via Continuous Questioning and Answering
University of Maryland（马里兰大学）；Toyota Research Institute of North America（丰田北美研究院）
在本文中，我们考虑的问题，不断发现图像内容，积极提出基于图像的问题，并随后回答被问到的问题。关键组件包括视觉问题生成（VQG）模块和视觉问答模块，其中使用了递归神经网络（RNN）和卷积神经网络（CNN）。给定一个包含图像、问题及其答案的数据集，两个模块同时进行训练，不同之处在于VQG使用图像作为输入，相应的问题作为输出，而VQA使用图像和问题作为输入，相应的答案作为输出。我们使用Amazon Mechanical Turk主观评估了自我对话过程，表明了所提出方法的有效性。
2015-12-10 cs.CL cs.CV cs.RO
Deep Contextualized Pairwise Semantic Similarity for Arabic Language Questions
Mawdoo3 Ltd（Mawdoo3有限公司）
问题语义相似性是一个具有挑战性和活跃的研究问题，在许多NLP应用中非常有用，例如在Quora等社区问答平台中检测重复问题。阿拉伯语被认为是一种资源不足的语言，有许多方言，并且有丰富的形态。这些挑战加在一起，使得在阿拉伯语中识别语义相似的问题变得更加困难。在本文中，我们介绍了一种新的方法来解决这个问题，并在两个基准上进行测试;一个是现代标准阿拉伯语（MSA），另一个是24种主要的阿拉伯语方言。我们能够证明，我们的新系统在MSA基准测试中获得了93%的F1分数，在辩证测试中获得了82%的F1分数，优于最先进的方法。这是通过利用在包含MSA和辩证句的文本语料库上训练的上下文化单词表示（ELMo嵌入）来实现的。这与成对细粒度相似性层相结合，有助于我们的问题到问题相似性模型在仅基于问题到问题MSA数据进行训练的同时，对不同方言进行概括预测。
2019-09-19 cs.CL cs.LG stat.ML
Multimodal Commonsense Knowledge Distillation for Visual Question Answering
University of Melbourne（墨尔本大学）；University of Western Australia（西澳大学）
提出基于图的多模态常识知识蒸馏框架，通过GCN统一常识、视觉与问题，无需微调即可提升VQA常识问答性能。
2024-11-05 cs.AI cs.CL
Learning Sparse Mixture of Experts for Visual Question Answering
Mila（米拉）；Université de Montréal（蒙特利尔大学）；Polytechnique Montréal（蒙特利尔高等理工学院）
随着模型结构的改进，可视化问答的任务取得了快速的进展。不幸的是，这些模型通常是计算密集型的，由于其庞大的规模，这对部署构成了严重的挑战。我们的目标是解决这个问题的视觉问答（VQA）的具体任务。卷积神经网络（CNN）是VQA模型的视觉处理管道的组成部分（假设CNN与整个VQA模型一起训练）。在这个项目中，我们提出了一个有效的和模块化的神经架构的VQA任务的重点是CNN模块。我们的实验表明，一个稀疏激活的CNN为基础的VQA模型实现了相当的性能标准的CNN为基础的VQA模型架构。
2019-09-19 cs.CL cs.CV cs.LG
