A Preliminary Study for Literary Rhyme Generation based on Neuronal Representation, Semantics and Shallow Parsing
Universidade do Estado do Rio de Janeiro（里约热内卢州立大学）
近年来，计算创造力领域的研究人员研究了人类的创造过程，提出了不同的方法来重现它与一个正式的程序。本文介绍了一种结合语言结构和神经网络模型的西班牙语文学韵脚生成模型（\textit{Word2vec}）。变成一个语义同化的结构通过我们的算法生成的文本的手动评估所获得的结果是令人鼓舞的。
2021-12-25 cs.AI cs.CL
Machine Comprehension by Text-to-Text Neural Question Generation
Microsoft Maluuba（微软Maluuba）；Montreal Institute for Learning Algorithms, Université de Montréal（蒙特利尔大学蒙特利尔学习算法研究所）
我们提出了一个递归神经模型，它可以根据答案从文档中生成自然语言问题。我们展示了如何使用监督和强化学习的组合来训练模型。在教师强制进行标准最大似然训练后，我们使用策略梯度技术对模型进行微调，以最大化衡量问题质量的几个奖励。最值得注意的是，这些奖励之一是问答系统的性能。我们激励问题生成作为一种手段，以提高问答系统的性能。我们的模型是在最近的问答数据集SQuAD上训练和评估的。
2017-05-15 cs.CL
Investigating Inference-time Scaling for Chain of Multi-modal Thought: A Preliminary Study
School of Informatics, Xiamen University, China（厦门大学信息学院）；Baidu Inc., Beijing, China（百度公司）；Key Laboratory of Digital Protection and Intelligent Processing of Intangible Cultural Heritage of Fujian and Taiwan (Xiamen University), Ministry of Culture and Tourism, China（福建省和台湾非物质文化遗产数字化保护与智能处理重点实验室）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本研究首次探索多模态思维链的推理时扩展，在10个任务上比较采样与树搜索方法，发现多模态思维优于纯文本思维，但需更高令牌消耗。
2025-05-25 cs.CL
Did You Ask a Good Question? A Cross-Domain Question Intention Classification Benchmark for Text-to-SQL
Emory University（埃默里大学）；Beihang University（北京航空航天大学）；Ohio State University（俄亥俄州立大学）；Yale University（耶鲁大学）；University of Waterloo（滑铁卢大学）；Penn State University（宾夕法尼亚州立大学）
神经模型在文本到SQL任务上取得了显著的成果，其中大多数当前的工作假设所有输入问题都是合法的，并为任何输入生成SQL查询。然而，在实际场景中，用户可以输入任何可能无法通过SQL查询回答的文本。在这项工作中，我们提出了TriageSQL，第一个跨域的文本到SQL问题的意图分类基准，需要模型来区分四种类型的无法回答的问题从可回答的问题。基线RoBERTa模型在测试集上获得了60%的F1分数，表明需要进一步改进这项任务。我们的数据集可以在https://github.com/chatc/TriageSQL上找到。
2020-10-23 cs.CL
I Do Not Understand What I Cannot Define: Automatic Question Generation With Pedagogically-Driven Content Selection
Multimedia Communications Lab, Technical University of Darmstadt（达姆施塔特工业大学多媒体通信实验室）
大多数学习者在被动阅读课本时不能发展深层的文本理解。对学习者所读的内容提出问题是一种行之有效的培养学生阅读能力的方法。然而，许多教科书缺乏自我评估问题，因为编写它们既耗时又昂贵。自动问题生成器可以通过生成合理的教学问题来缓解这种短缺。然而，自动生成问题带来了语言和教学上的挑战。我们应该问什么？那么，我们如何自动表达这个问题呢？我们解决这些挑战与自动问题生成器接地学习理论。本文介绍了一种新的教学意义的内容选择机制，发现有问题的句子和答案中的任意教科书内容。我们与教育专家进行了一项实证评估研究，在六个不同的领域注释150个生成的问题。结果表明，生成的问题的语言质量高。此外，评估结果意味着，大多数生成的问题询问与给定的文本相关的中心信息，并可能促进在特定的学习场景中的文本理解。
2021-10-08 cs.CL
SkillQG: Learning to Generate Question for Reading Comprehension Assessment
Zhejiang University（浙江大学）；Université de Montréal（蒙特利尔大学）；Mila（米拉研究所）；Pinterest
SkillQG提出了一种基于技能条件的问题生成框架，通过分层技能模式界定理解类型并增强输入，实现可控生成，在质量、相关性和技能可控性上优于基线，并提升下游问答性能。
2023-05-08 cs.CL
Unifying Question Answering, Text Classification, and Regression via Span Extraction
Salesforce Research（赛富时研究院）
即使像BERT这样的预先训练的语言编码器在许多任务中共享，问答、文本分类和回归模型的输出层也有很大的不同。跨度解码器经常用于问答，固定类，分类层的文本分类，和相似性评分层的回归任务，我们表明，这种区别是没有必要的，所有三个可以统一为跨度提取。统一的跨度提取方法在几个问答、文本分类和回归基准的辅助监督预训练、低数据和多任务学习实验中具有优异或相当的性能。
2019-09-20 cs.CL
QURIOUS: Question Generation Pretraining for Text Generation
Google Research（谷歌研究院）；Google（谷歌）
使用预训练的自然语言处理的最新趋势已经将焦点转移到文本生成的预训练和微调方法上。通常关注的焦点是与任务无关的方法，这些方法概括了语言建模目标。我们提出问题生成作为预训练方法，这更好地符合文本生成的目标。我们用这种方法预训练的文本生成模型更好地理解了输入的本质，并且是目标任务的更好的语言模型。当评估两个文本生成任务，抽象摘要和答案为重点的问题生成，我们的模型在自动度量方面的最先进的性能。人类评估者也发现我们的摘要和生成的问题更自然，简洁和信息量。
2020-04-23 cs.CL
Question Answering on Knowledge Bases and Text using Universal Schema and Memory Networks
University of Edinburgh（爱丁堡大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Carnegie Mellon University（卡内基梅隆大学）
现有的问答方法从知识库或原始文本中推断答案。虽然知识库（KB）方法擅长回答组合问题，但它们的性能往往受到知识库不完整性的影响。相反，Web文本包含了数百万个KB中不存在的事实，但是以非结构化的形式存在。{ \it Universal schema}可以通过将结构化知识库和非结构化文本对齐到一个公共嵌入空间来支持对它们的联合进行推理。本文将通用模式扩展到自然语言问答系统中，采用\emph{memory networks}处理文本和知识库相结合的大量事实。我们的模型可以在问答对上以端到端的方式进行训练。在\spades填空问答数据集上的评价结果表明，利用通用模式进行问答比单独使用知识库或文本要好。该模型的性能也优于当前最先进的8.5 $F_1$点。\footnote{Code and data available in \url{https://rajarshd.github.io/TextKBQA}}
2017-04-27 cs.CL
Representations for Question Answering from Documents with Tables and Text
Google Research（谷歌研究院）；University of Washington（华盛顿大学）
Web文档中的表是普遍存在的，可以直接用于回答Web上搜索的许多查询，从而促进了它们在问答中的集成。表格中提供的信息通常很简洁，很难用标准语言表示来解释。另一方面，表格通常出现在文本上下文中，例如描述表格的文章。使用来自项目的信息作为附加上下文可以潜在地丰富表表示。在这项工作中，我们的目标是改善问答从表中提炼表表示从周围的文本信息的基础上。我们还提出了一种有效的方法来结合文本和基于表格的预测，从完整的文档中的问答，获得显着的改进自然问题数据集。
2021-01-26 cs.CL
Inquisitive Question Generation for High Level Text Comprehension
The University of Texas at Austin（得克萨斯大学奥斯汀分校）
在各种环境中，探究性的探索问题对人类来说是很自然的，但对于自动系统来说是一项具有挑战性的任务。一种自然类型的问题试图填补文本理解过程中的知识空白，比如阅读新闻文章：我们可能会询问背景信息，事情发生背后的更深层次原因，或者更多。尽管最近在数据驱动方法方面取得了进展，但生成此类问题超出了在现有数据集上训练的模型的范围。我们介绍INQUISITIVE，这是一个包含约19 K个问题的数据集，这些问题是在一个人阅读文档时引发的。与现有的数据集相比，INQUISITIVE问题更多地针对文本的高层次（语义和语篇）理解。我们发现，读者从事一系列的语用策略，以寻求信息。最后，我们评估了基于GPT-2的问题生成模型，并表明我们的模型能够生成合理的问题，虽然任务是具有挑战性的，并强调了上下文的重要性，以产生询问性问题。
2020-10-04 cs.CL
A Preliminary Analysis of Automatic Word and Syllable Prominence Detection in Non-Native Speech With Text-to-Speech Prosody Embeddings
Language Technologies Research Center, IIIT Hyderabad（语言技术研究中心，印度海得拉巴国际信息技术学院）
本研究探索TTS韵律嵌入在非母语语音重音检测中的效用，基于FastSpeech2提取时长、能量、音高嵌入，在两个语料库上实验验证其准确率显著优于启发式特征和Wav2Vec-2.0表示。
2024-12-11 cs.CL eess.AS
Evaluation Methodology for Large Language Models for Multilingual Document Question and Answer
Microsoft Corporation（微软公司）
本文针对大语言模型的多语言能力展开评估研究，发现将母语的文档语境、问题与答案翻译至高资源语言的方式能取得最优效果。
2024-02-01 cs.AI cs.CL
Answering Numerical Reasoning Questions in Table-Text Hybrid Contents with Graph-based Encoder and Tree-based Decoder
Institute of Automation, CAS（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
在现实世界的问答场景中，表格和文本相结合的混合形式越来越受到人们的关注，其中数值推理问题是最典型和最具挑战性的问题之一。现有的方法通常采用编码器-解码器框架来表示混合内容并生成答案。然而，它不能捕捉编码器端的数值、表模式和文本信息之间的丰富关系。解码器使用一个简单的预定义的操作分类器，这是不够灵活，以处理不同的表达式的数值推理过程。针对这些问题，本文提出了一种基于\textbf{T}语言的\textbf{G}增强型\textbf{H}混合表-文本\textbf{N}数值推理模型（\textbf{RegHNT}）.它将表-文本混合内容上的数字问答建模为表达式树生成任务。此外，我们提出了一种新的关系图建模方法，模型之间的对齐问题，表格和段落。我们验证了我们的模型上公开的表-文本混合QA基准（TAT-QA）。建议的RegHNT显着优于基线模型，并实现国家的最先进的结果。我们在https://github.com/lfy79001/RegHNT公开发布了源代码和数据（2022-05-05）。
2022-10-20 cs.CL
From Text to Sound: A Preliminary Study on Retrieving Sound Effects to Radio Stories
Carnegie Mellon University（卡内基梅隆大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Microsoft XiaoIce（微软小冰）；Beijing Film Academy（北京电影学院）
音效在制作高质量的广播故事中起着至关重要的作用，但需要巨大的劳动力成本添加。在本文中，我们解决了自动添加音效的问题，以检索为基础的模型广播故事。然而，直接实现基于标签的检索模型会导致高误报，由于故事内容的歧义。为了解决这个问题，我们引入了一个基于检索的框架与语义推理模型，这有助于实现强大的检索结果杂交。我们的模型依赖于从候选触发器的上下文中提取的精心设计的特征。我们通过众包收集了两个故事配音数据集，分析了添加声音效果的设置，并对我们提出的方法进行了训练和测试。我们进一步讨论了每个功能的重要性，并介绍了几个启发式规则之间的权衡精度和召回。再加上文本到语音的技术，我们的研究结果揭示了一个有前途的自动流水线生产高质量的广播故事。
2019-08-20 cs.CL cs.IR cs.SD
SCITAT: A Question Answering Benchmark for Scientific Tables and Text Covering Diverse Reasoning Types
Harbin Institute of Technology（哈尔滨工业大学）；iFLYTEK Research（讯飞研究院）；National University of Singapore（新加坡国立大学）
针对现有科学问答数据集推理类型有限且忽视表格与文本关联的问题，提出SciTaT基准，并设计结合多种推理方法的CaR基线，在SciTaT上平均提升12.9%。
2024-12-16 cs.CL
ViTextVQA: A Large-Scale Visual Question Answering Dataset and a Novel Multimodal Feature Fusion Method for Vietnamese Text Comprehension in Images
Faculty of Information Science and Engineering, University of Information Technology（信息科学与工程学院，信息科技大学）；Vietnam National University（越南国家大学）
ViTextVQA是一个大规模视觉问答数据集，提出了一种新的多模态特征融合方法，用于提升图像中越南语文本的理解能力。
2026-02-23 cs.CL
SQuAD: 100,000+ Questions for Machine Comprehension of Text
Stanford University（斯坦福大学）
我们提出了斯坦福问答数据集（SQuAD），这是一个新的阅读理解数据集，由众包工作者在一组维基百科文章上提出的10万多个问题组成，每个问题的答案是相应阅读段落中的一段文本。我们分析数据集，以了解回答问题所需的推理类型，严重依赖依赖于依赖关系和选区树。我们建立了一个强大的逻辑回归模型，其F1得分为51.0%，比简单基线（20%）有显著改善。然而，人类的表现（86.8%）要高得多，这表明该数据集为未来的研究提出了一个很好的挑战问题。该数据集可在https://stanford-qa.com上免费获得
2016-10-11 cs.CL
S$^2$SQL: Injecting Syntax to Question-Schema Interaction Graph Encoder for Text-to-SQL Parsers
Alibaba Group（阿里巴巴集团）；University of Chinese Academy of Sciences（中国科学院大学）；The Chinese University of Hong Kong（香港中文大学）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
将自然语言问题转换为可执行的SQL查询的任务，称为文本到SQL，是语义解析的一个重要分支。国家的最先进的基于图形的编码器已成功地用于这项任务，但没有建模的问题语法很好。本文提出了S $^2$ SQL，在文本到SQL解析器的问题模式图编码器中注入了XML，有效地利用了文本到SQL中问题的语法依赖信息，提高了性能。我们还采用解耦约束诱导不同的关系边嵌入，这进一步提高了网络的性能。在Spider和鲁棒性设置Spider-Syn上的实验表明，当使用预训练模型时，所提出的方法优于所有现有方法，从而在Spider排行榜上排名第一。
2022-03-14 cs.CL
QURG: Question Rewriting Guided Context-Dependent Text-to-SQL Semantic Parsing
Beihang University（北京航空航天大学）；Tencent Cloud Xiaowei（腾讯云小微）
本文提出QURG方法，通过训练问题重写模型生成重写编辑矩阵，并设计双流矩阵编码器联合建模重写关系与模式链接关系，显著提升了上下文相关Text-to-SQL在SParC和CoSQL数据集上的性能。
2023-05-16 cs.CL
LLMEval: A Preliminary Study on How to Evaluate Large Language Models
Fudan University（复旦大学）；Shanghai Jiaotong University（上海交通大学）
该研究针对大语言模型评估中“如何评估”这一少被探讨的问题，对比多类人工与自动评估标准，构建LLMEval数据集并对20个LLM开展评估，得出10条可为后续评估提供参考的结论，相关资源已公开。
2023-12-17 cs.AI cs.CL
Question Answering as Programming for Solving Time-Sensitive Questions
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Microsoft（微软）
针对LLMs因无法基于表层语义进行严格推理而难以解决时间敏感问答的问题，提出QAaP框架，将问答任务转化为编程任务，通过生成结构化代码从候选答案中选择最佳匹配项，在多个数据集上取得显著提升。
2023-10-20 cs.CL
Integrating question answering and text-to-SQL in Portuguese
Universidade de São Paulo（圣保罗大学）；Center for Artificial Intelligence (C4AI)（人工智能中心（C4AI））
深度学习Transformers极大地改进了用自然语言自动回答问题的系统。然而，不同的问题需要不同的回答技术;在这里，我们提出，构建和验证一个架构，集成不同的模块来回答两种不同的查询。我们的架构采用自由形式的自然语言文本，并将其分类，将其发送到神经问答推理器或自然语言解析器到SQL。我们为葡萄牙语实现了一个完整的系统，使用了该语言的一些主要工具，并翻译了培训和测试数据集。实验结果表明，该系统能够以较高的准确率（99%以上）选择合适的回答方法，从而验证了模块化问答策略的有效性。
2022-09-21 cs.CL
CQR-SQL: Conversational Question Reformulation Enhanced Context-Dependent Text-to-SQL Parsers
Tencent Cloud Xiaowei（腾讯云小微）；Beihang University（北京航空航天大学）
上下文相关的文本到SQL是将多轮问题转换为与数据库相关的SQL查询的任务。现有的方法通常侧重于充分利用历史上下文或先前预测的SQL来进行当前SQL解析，而忽略了显式地理解模式和会话依赖，如共指，省略和用户焦点变化。在本文中，我们提出了CQR-SQL，它使用辅助会话问题重构（CQR）学习显式地利用模式和解耦上下文依赖SQL解析。具体来说，我们首先提出了一个模式增强递归CQR方法产生领域相关的自包含的问题。其次，通过基于模式的一致性任务和树型结构的SQL解析一致性任务对CQR-SQL模型进行训练，使其能够将多轮问句和辅助自包含问句的语义映射到同一个潜在空间中，通过充分的上下文理解来提高SQL解析的能力。在撰写本文时，我们的CQR-SQL在两个上下文相关的文本到SQL基准测试SParC和CoSQL上取得了最新的结果。
2022-10-24 cs.CL
Context-Aware Answer Extraction in Question Answering
KAIST（韩国科学技术院）；NAVER AI LAB（NAVER人工智能实验室）；NAVER CLOVA
提取式QA模型在预测给定段落的问题的正确答案方面表现出非常有前途的性能。然而，它们有时会导致预测正确答案文本，但在与给定问题无关的上下文中。随着答案文本在文章中出现的次数增加，这种差异变得尤为重要。为了解决这个问题，我们提出了\textbf{BLANC}（\textbf{BL} ock \textbf{A} ttentio \textbf{N} for \textbf{C} ontext prediction）基于两个主要思想：上下文预测作为多任务学习方式的辅助任务，以及学习上下文预测任务的块注意方法。通过对阅读理解的实验，我们发现BLANC优于最先进的QA模型，并且随着答案文本出现次数的增加，性能差距也会增加。我们还进行了一个实验，使用SQuAD训练模型，并在HotpotQA上预测支持事实，并表明BLANC在这种zero-shot设置中优于所有基线模型。
2020-11-05 cs.CL
Chatbots put to the test in math and logic problems: A preliminary comparison and assessment of ChatGPT-3.5, ChatGPT-4, and Google Bard
Qatar University（卡塔尔大学）；National Technical University of Athens（雅典国家技术大学）；Oslo Metropolitan University（奥斯都会大学）
本研究比较了ChatGPT-3.5、ChatGPT-4和Google Bard在数学与逻辑问题上的表现，发现ChatGPT-4最优，Bard在已发表问题上领先，但复杂问题答案可靠性不足。
2023-05-30 cs.AI cs.CL
Understanding the Role of Temperature in Diverse Question Generation by GPT-4
Carnegie Mellon University（卡内基梅隆大学）
本研究初步探究GPT温度参数对GPT-4生成问题多样性的影响，发现更高温度可显著提升多样性，且不同温度呈现不同的问题集相似性，同时指出布鲁姆分类法低层级问题的多样化生成难度更大。
2024-04-14 cs.AI cs.CL
Joint Spatio-Textual Reasoning for Answering Tourism Questions
IBM Research AI（IBM研究院人工智能部门）；Indian Institute of Technology, New Delhi（印度理工学院新德里分校）
我们的目标是回答现实世界的旅游问题，寻求兴趣点（POI）的建议。这些问题表达了各种空间和非空间的限制，需要结合文本和空间推理。作为回应，我们开发了第一个联合空间-文本推理模型，它结合了地理空间知识和文本语料库中的信息来回答问题。我们首先开发了一个模块化的空间推理网络，使用地理坐标的位置名称中提到的一个问题，和候选答案POI，原因只有空间限制。然后，我们结合我们的空间推理机与文本推理机在一个联合模型和现实世界的POI推荐任务的实验。我们报告了显着的改进，现有的模型没有联合空间-文本推理。
2020-10-19 cs.AI cs.CL
Complex Factoid Question Answering with a Free-Text Knowledge Graph
University of Maryland（马里兰大学）；Microsoft AI & Research（微软AI与研究院）；Google Research Zürich（苏黎世谷歌研究院）
我们介绍DELFT，一个事实的问答系统，结合了细微差别和深度的知识图谱问答方法与自由文本的覆盖面更广。DELFT从Wikipedia构建了一个自由文本知识图谱，其中实体作为节点，实体共同出现的句子作为边。对于每个问题，DELFT使用文本句子作为边来找到将问题实体节点连接到候选者的子图，从而创建密集且高覆盖率的语义图。一种新颖的图神经网络在自由文本图上进行推理，通过沿边的信息组合节点上的证据，以选择最终答案。在三个问答数据集上的实验表明，DELFT比基于机器阅读的模型、基于伯特的答案排序和记忆网络更好地回答实体丰富的问题。DELFT的优势来自于其自由文本知识图谱的高覆盖率--是dbpedia关系的两倍多--以及新颖的图神经网络，它基于丰富但有噪声的自由文本证据进行推理。
2021-03-23 cs.CL cs.IR
Finding the Evidence: Localization-aware Answer Prediction for Text Visual Question Answering
MediaTek（联发科技）
图像文本承载着理解场景和执行推理的基本信息。基于文本的视觉问答（文本VQA）任务侧重于需要阅读图像中的文本的视觉问题。现有的文本VQA系统通过从光学字符识别（OCR）文本或固定词汇表中进行选择来生成答案。文本的位置信息未得到充分利用，并且生成的答案缺乏证据。因此，本文提出了一种定位感知答案预测网络（LaAP-Net）来解决这一挑战。我们的LaAP-Net不仅生成问题的答案，而且还预测一个限界框作为生成的答案的证据。此外，上下文丰富的OCR表示（COR）的多模态融合提出了促进本地化任务。我们提出的LaAP-Net在文本VQA任务的三个基准数据集上的性能明显优于现有方法。
2020-10-06 cs.CL cs.CV
Building Dynamic Knowledge Graphs from Text-based Games
Charles University, Faculty of Mathematics and Physics（查尔斯大学数学与物理学院）；Microsoft Research, Montréal（微软研究院蒙特利尔分院）
我们对学习如何从文本更新知识图谱（KG）感兴趣。在这项初步工作中，我们提出了一种新的序列到序列（Seq2Seq）架构来生成基本KG操作。此外，我们引入了一个新的KG提取数据集，该数据集基于基于文本的游戏转换（超过30万个数据点）。我们进行实验并讨论结果。
2020-01-23 cs.CL cs.LG
Unanswerable Questions about Images and Texts
New York University（纽约大学）
无法回答的文本或图像问题会给AI带来独特的问题。本文讨论了视觉问答（VQA）、视觉问答（QA）和人工智能（AI）中的不可回答问题。
2021-01-25 cs.AI cs.CL cs.CV
Biomedical Question Answering via Weighted Neural Network Passage Retrieval
ETH Zurich（苏黎世联邦理工学院）
近年来，可公开获得的生物医学文献的数量一直在快速增长，然而问答系统仍在努力开发这种数据源的全部潜力。在初步处理步骤中，许多问答系统依赖于检索模型来识别相关文档和段落。提出了一种基于神经网络词嵌入的加权余弦距离检索方案。我们的实验基于BioASQ生物医学问答挑战赛的公开数据和任务，并在各种最先进的模型中表现出显着的性能提升。
2018-01-09 cs.AI cs.CL cs.IR
LLMs Still Can't Plan; Can LRMs? A Preliminary Evaluation of OpenAI's o1 on PlanBench
Arizona State University（亚利桑那州立大学）
本文评估了OpenAI的o1模型在PlanBench基准上的规划能力，发现其性能显著超越现有LLMs但仍未饱和，并指出部署前需考虑准确性、效率和保证问题。
2024-09-20 cs.AI cs.CL
Asking Questions the Human Way: Scalable Question-Answer Generation from Text Corpus
University of Alberta（阿尔伯塔大学）；Platform and Content Group, Tencent（腾讯平台与内容事业群）
提出问题的能力在人类和机器智能中都很重要。学习提问有助于知识获取，提高问答和机器阅读理解任务，并帮助聊天机器人保持与人类的对话。现有的问题生成模型在从非结构化文本中生成大量高质量的问题-答案对方面是无效的，因为给定答案和输入段落，问题生成本质上是一对多映射。本文提出了一种基于线索风格感知的问题生成算法（ACS-QG），旨在模仿人类提问的方式，从大规模的无标签文本语料库中自动生成高质量、多样化的问答对。我们的系统包括：i）信息提取器，其从文本中采样多种类型的辅助信息以指导问题生成; ii）神经问题生成器，其利用所提取的辅助信息来生成多样且可控的问题;以及iii）神经质量控制器，其基于文本蕴涵来移除低质量的所生成的数据。我们比较我们的问题生成模型与现有的方法和诉诸自愿的人的评价，以评估生成的问答对的质量。评估结果表明，我们的系统在生成质量方面大大优于最先进的神经问题生成模型，同时具有可扩展性。通过在相对较少的数据量上训练模型，我们可以从维基百科中找到的100万个句子中生成280万个有质量保证的问答对。
2020-03-05 cs.CL cs.LG
ReasonChainQA: Text-based Complex Question Answering with Explainable Evidence Chains
School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
证据推理能力在问答中受到越来越多的关注。近年来，自然语言数据库（NLDB）利用文本证据而不是结构化的知识表示进行复杂的问答，由于文本证据的灵活性和丰富性，这项任务引起了人们的广泛关注。然而，现有的基于文本的复杂问答数据集无法提供显式的推理过程，而这对检索的有效性和推理的可解释性至关重要。因此，我们提出了一个基准\textbf{ReasonChainQA}的解释性和明确的证据链。ReasonChainQA包括两个子任务：答案生成和证据链提取，它还包含了不同深度的多跳问题的多样性，12种推理类型和78种关系。为回答复杂问题提供高质量的文本证据。在有监督和无监督检索上的实验充分说明了ReasonChainQA的重要性。数据集和代码将在接受后公开提供。
2022-10-17 cs.AI cs.CL
Improving Numerical Reasoning Skills in the Modular Approach for Complex Question Answering on Text
Monash University（莫纳什大学）
数字推理技能对于文本上的复杂问答（CQA）是必不可少的。它需要包括计数、比较、加法和减法在内的操作。一种成功的文本CQA方法，神经模块网络（NMN），遵循程序员-解释器范式，并利用专门的模块来执行组合推理。然而，国家独立网络框架在问题和段落中都没有考虑数字和实体之间的关系。我们提出了有效的技术，以提高NMN的数值推理能力，使解释器的问题意识和捕捉实体和数字之间的关系。在用于文本CQA的DROP数据集的同一子集上，实验结果表明，我们的添加比原始NMN的整体F1得分高出3.0分。
2021-09-06 cs.AI cs.CL
Declarative Question Answering over Knowledge Bases containing Natural Language Text with Answer Set Programming
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Arizona State University（亚利桑那州立大学）
虽然近年来基于机器学习（ML）的方法已经成为开发端到端问答系统的流行方法，但是当需要额外的知识来正确回答问题时，这样的系统经常会遇到困难。所提出的替代方案涉及将问题和自然语言文本翻译成逻辑表示，然后使用逻辑推理。然而，当文本的大小变得更大时，这种替代方法就不起作用了。为了解决这个问题，我们提出了一种方法，在自然语言文本中编写的前提进行逻辑推理。所提出的方法使用答案集编程（ASP）的最新功能来调用执行简单文本蕴涵的外部NLP模块（可能基于ML）。为了测试我们的方法，我们开发了一个语料库的生存周期问题的基础上，并表明，我们的系统实现了$18\%$性能增益相比，标准MCQ求解器。
2019-05-01 cs.AI cs.CL
Reading Stockholm Riots 2013 in social media by text-mining
Stockholm University（斯德哥尔摩大学）；Jagiellonian University（雅盖隆大学）；CIOP – National Research Instutute（CIOP国家研究院）
2013年5月在斯德哥尔摩发生的骚乱是一个在世界媒体上引起反响的事件，因为它的暴力层面已经蔓延到瑞典首都。在这项研究中，我们通过文本挖掘和自然语言处理研究了社交媒体在创造媒体现象中的作用。我们的分析重点关注两个沟通渠道：Twitter和Poloniainfo.se（瑞典波兰社区论坛）。我们的初步结果显示，一些热门话题驱动的讨论主要涉及瑞典警察和瑞典政治通过计数字的使用。媒体干预的典型特征。我们已经建立了最流行的短语网络，按类别（地理，媒体机构等）聚类。情感分析显示出对警察的负面内涵。这个初步的探索性定量研究的目的是产生问题和假设，我们可以仔细遵循更深入的定性方法。
2013-10-04 cs.CL cs.SI physics.soc-ph
Textually Enriched Neural Module Networks for Visual Question Answering
Carnegie Mellon University（卡内基梅隆大学）
随着计算机视觉研究超越传统的识别任务，语言和视觉交叉点的问题，如视觉问答，最近在多模态机器学习领域获得了大量关注。最近在使用深度神经网络模型的视觉问答中取得了成功，深度神经网络模型使用问题的语言结构来动态地实例化网络布局。在将问题转换为网络布局的过程中，问题被简化，这导致模型中的信息丢失。在本文中，我们丰富的图像信息与文本数据，使用图像标题和外部知识库，以生成更连贯的答案。我们实现了57.1%的整体准确率的测试开发开放式问题的视觉问答（VQA 1.0）的真实图像数据集。
2018-09-23 cs.CL cs.CV
Evaluating for Diversity in Question Generation over Text
University of Amsterdam（阿姆斯特丹大学）；University of Edinburgh（爱丁堡大学）；Amazon（亚马逊）
在文本上生成多样化和相关的问题是一项具有广泛应用的任务。我们认为，常用的评价指标，如BLEU和METEOR不适合这项任务，由于固有的多样性的参考问题，并提出了一个计划，扩展传统的指标，以反映多样性。此外，我们提出了一个变分编码器-解码器模型为这项任务。我们通过自动和人工评估表明，我们的变分模型提高了多样性，而不会损失质量，并展示了我们的评估方案如何反映这种改进。
2020-08-17 cs.CL stat.ML
Contrastive Domain Adaptation for Question Answering using Limited Text Corpora
Technical University of Munich（慕尼黑工业大学）；ETH AI Center（苏黎世联邦理工学院人工智能中心）；ETH Zurich（苏黎世联邦理工学院）
问题生成最近在定制问答（QA）系统的新领域中显示出令人印象深刻的结果。这些方法避免了对来自新领域的手动注释的训练数据的需要，而是生成用于训练的合成问题-答案对。然而，现有的问题生成方法依赖于大量的综合生成的数据集和昂贵的计算资源，这使得这些技术在文本语料库大小有限时无法广泛使用。这是有问题的，因为许多利基领域依赖于小文本语料库，这自然限制了可以生成的合成数据的量。在本文中，我们提出了一个新的框架领域自适应称为对比领域自适应QA（CAQA）。具体来说，CAQA结合了问题生成和领域不变学习的技术，以回答有限文本语料库设置中的域外问题。在这里，我们训练QA系统的源数据和生成的数据从目标域与对比适应损失，被纳入训练目标。通过结合问题生成和领域不变学习的技术，我们的模型与最先进的基线相比取得了相当大的改进。
2021-08-31 cs.AI cs.CL
Open Question Answering over Tables and Text
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Google Research（谷歌研究院）
在开放式问答（QA）中，通过检索并分析可能包含问题答案的文档来生成问题的答案。大多数开放式QA系统只考虑从非结构化文本中检索信息。在这里，我们第一次考虑开放式问答在表格和文本数据，并提出了一个新的大规模数据集开放式表格和文本问答（OTT-QA），以评估这项任务的性能。OTT-QA中的大多数问题都需要跨表格数据和非结构化文本进行多跳推理，并且回答问题所需的证据可以以不同的方式分布在这两种类型的输入中，这使得证据检索具有挑战性-我们使用迭代检索器和基于BERT的阅读器的基线模型实现了小于10%的精确匹配分数。然后，我们提出了两种新的技术，以解决检索和聚合OTT-QA证据的挑战。第一种技术是使用“早期融合”将多个高度相关的表格和文本单元分组到融合块中，这为检索器提供了更多的上下文来搜索。第二种技术是使用跨块阅读器来模拟多个检索到的证据与全局-局部稀疏注意之间的交叉依赖性。结合这两种技术可以显著提高分数，达到27%以上。
2021-02-10 cs.AI cs.CL
Open Domain Question Answering Using Early Fusion of Knowledge Bases and Text
Carnegie Mellon University（卡内基梅隆大学）
开放领域问答（QA）正从复杂的流水线系统向端到端的深度神经网络发展。已经开发了专门的神经模型，用于仅从文本或仅从知识库（KB）中提取答案。在本文中，我们看看一个更实际的设置，即QA的KB和实体链接的文本，这是适当的组合时，一个不完整的KB是一个大的文本语料库。基于图表示学习的最新进展，我们提出了一种新的模型，GRAFT-Net，用于从包含文本和KB实体和关系的特定于问题的子图中提取答案。我们为这个问题构建了一套基准任务，改变了问题的难度、训练数据的量和知识库的完整性。我们表明，GRAFT-Net是有竞争力的国家的最先进的测试时，使用知识库或文本单独，大大优于现有的方法在组合设置。源代码可在https://github.com/OceanskySun/GraftNet上获得。
2018-09-04 cs.CL cs.LG
Question Answering Against Very-Large Text Collections
问答涉及开发从大量文档集合中提取有用信息的方法。这是通过专门的搜索引擎完成的，例如Answer。答案搜索的目的是提供问题的答案，而不是列出可能包含正确答案的相关文档的页面。因此，像“埃菲尔铁塔有多高”这样的问题只会返回“325米”或“1，063英尺”。我们的任务是通过改进信息检索以及改进问题系列分析中涉及的预处理来构建Answer的当前版本。
2013-04-26 cs.CL cs.IR
Through the Twitter Glass: Detecting Questions in Micro-Text
Palo Alto Research Center（帕洛阿尔托研究中心）
在另一项研究中，我们对了解人们在Twitter上的问答习惯感兴趣。在Twitter中发现问题是一个困难的挑战，所以我们考虑应用一些传统的NLP方法来解决这个问题。一方面，Twitter充满了特质，这使得处理变得困难。另一方面，它的长度非常有限，倾向于使用简单的句法结构，这有助于NLP处理的性能。为了找出NLP和Twitter的可行性，我们构建了一个工具管道，专门用于Twitter输入，以完成在推文中查找问题的任务。这项工作仍然是初步的，但在本文中，我们将讨论我们使用的技术和我们学到的教训。
2020-06-13 cs.CL cs.SI
Multi-modal Retrieval of Tables and Texts Using Tri-encoder Models
deepset
开放域抽取式问答通过首先检索候选文本，然后从这些候选文本中提取答案，在文本数据上工作得很好。然而，有些问题不能仅通过文本来回答，而是需要存储在表格中的信息。在本文中，我们提出了一种方法来检索文本和表格相关的问题，共同编码文本，表格和问题到一个单一的向量空间。为此，我们基于相关工作中的文本和表格数据集创建了一个新的多模态数据集，并比较了不同编码模式的检索性能。我们发现，Transformer模型的密集向量嵌入在六个评估数据集中的四个上优于稀疏嵌入。比较不同的密集嵌入模型，每个问题，文本和表格都有一个编码器的三编码器，与问题有一个编码器，文本和表格都有一个编码器的双编码器相比，提高了检索性能。我们将新创建的多模态数据集发布给社区，以便它可以用于训练和评估。
2021-10-19 cs.CL cs.IR
PASemiQA: Plan-Assisted Agent for Question Answering on Semi-Structured Data with Text and Relational Information
Ant Group（蚂蚁集团）
提出PASemiQA，一种利用规划辅助的LLM智能体，联合处理半结构化数据中的文本与关系信息，以提升问答准确性和可靠性。
2025-02-28 cs.AI cs.CL
Understanding Unnatural Questions Improves Reasoning over Text
Monash University（莫纳什大学）
基于原始文本的复杂问答（CQA）是一项具有挑战性的任务。这个任务的一个突出的方法是基于程序员-解释器框架，程序员将问题映射到一系列推理动作中，然后由解释器在原始文本上执行。学习一个有效的CQA模型需要大量的人工注释数据，包括推理动作的地面实况序列，这是耗时和昂贵的大规模收集。在本文中，我们通过将自然的人类生成的问题投影到更方便解析的非自然机器生成的问题来解决学习高质量程序员（解析器）的挑战。我们首先生成合成（问题，动作序列）对的数据发生器，和训练的语义分析器，将合成的问题与其相应的动作序列。为了捕捉应用于自然问题时的多样性，我们学习了一个投影模型，将自然问题映射到最相似的非自然问题，解析器可以很好地工作。在没有任何自然训练数据的情况下，我们的投影模型为CQA任务提供了高质量的动作序列。实验结果表明，专门用我们的方法生成的合成数据训练的QA模型优于用人工标记数据训练的最先进的QA模型。
2020-10-19 cs.AI cs.CL
MultiQG-TI: Towards Question Generation from Multi-modal Sources
Adobe Research（奥多比研究院）；Rice University（莱斯大学）
本文提出MultiQG-TI方法，通过结合图像描述、OCR提取文本与输入文本，使纯文本问题生成器能够处理多模态输入，并在ScienceQA上以极少参数显著超越ChatGPT。
2023-07-07 cs.AI cs.CL
Denoising Table-Text Retrieval for Open-Domain Question Answering
POSTECH（浦项科技大学）；aiXplain, Inc.（aiXplain公司）
为解决表格-文本开放域问答中假阳性标签和跨表格推理证据检索困难的问题，提出DoTTeR模型，通过去噪训练集和引入表格级排序信息微调列编码器，显著提升了检索召回率与下游QA性能。
2024-03-26 cs.AI cs.CL
TTQA-RS- A break-down prompting approach for Multi-hop Table-Text Question Answering with Reasoning and Summarization
University of Florida（佛罗里达大学）
本文提出TTQA-RS模型，通过分解提示、检索增强生成和表格-文本摘要，结合推理与子问题答案，在多跳表格-文本问答任务上以开源LLM取得最优性能。
2024-09-30 cs.CL cs.IR
ViConsFormer: Constituting Meaningful Phrases of Scene Texts using Transformer-based Method in Vietnamese Text-based Visual Question Answering
Ho Chi Minh city University of Technology（胡志明市理工大学）；Vietnam National University, Ho Chi Minh city（越南国家大学胡志明市分校）；University of Information Technology（信息技术大学）
针对越南语 Text-based VQA，本文提出 ViConsFormer，依据语言学含义定义构建场景文本短语并有效挖掘其信息，在两个大规模数据集上达到最先进水平。
2024-10-24 cs.CL cs.CV
Multi-Row, Multi-Span Distant Supervision For Table+Text Question
IBM Research（IBM研究院）；IIT Bombay（印度理工学院孟买分校）
针对TextTableQA中多单元格、多文本跨度匹配导致的噪声多实例训练问题，提出基于transformer的MITQA系统，通过多实例损失和课程设计应对远程监督，在两个基准数据集上取得SOTA结果。
2023-06-11 cs.AI cs.CL
