Ask the Right Questions: Active Question Reformulation with Reinforcement Learning
Google(谷歌)
我们将提问(QA)定义为一个强化学习任务,我们称之为主动问答。我们提出了一个代理,坐在用户和一个黑盒QA系统之间,并学会重新制定的问题,以引出最好的答案。代理用初始问题的潜在的许多自然语言重新表述来探测系统,并聚集返回的证据以产生最佳答案。使用策略梯度对重构系统进行端到端训练以最大化答案质量。我们在SearchQA上进行评估,SearchQA是从Jeopardy!中提取的复杂问题的数据集。代理的性能优于最先进的基本模型,扮演环境和其他基准的角色。我们还分析了语言的代理人已经学会了,而与问答系统进行交互。我们发现,成功的问题重新表述看起来很不同于自然语言的释义。该代理能够发现非平凡的重构策略,类似于经典的信息检索技术,如术语重新加权(tf-idf)和词干。
2018-03-02 cs.AI cs.CL
Interactive Language Acquisition with One-shot Visual Concept Learning through a Conversational Game
Baidu Research - Institue of Deep Learning(百度研究院 - 深度学习研究所);National Engineering Laboratory for Deep Learning Technology and Applications(深度学习技术及应用国家工程实验室)
构建能够用自然语言与人类交流并向人类学习的智能代理具有重要价值。监督式语言学习主要受限于获取训练数据的统计信息的能力,并且很难适应新的场景或灵活地获取新知识而不进行低效的再训练或灾难性遗忘。我们强调的观点,会话互动作为一个自然的界面,既为语言学习和新的知识获取,并提出了一个联合模仿和强化的方法,通过互动的会话游戏接地语言学习。用这种方法训练的代理能够通过询问有关新对象的问题来主动获取信息,并以一次性方式在随后的对话中使用刚刚学习的知识。通过与其他方法的比较,验证了该方法的有效性。
2018-04-26 cs.AI cs.CL
Learning to Retrieve Videos by Asking Questions
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
大多数传统的文本到视频检索系统在静态环境中操作,即,除了用户提供的初始文本查询之外,用户和代理之间没有交互。如果初始查询有歧义,这可能是次优的,这将导致许多错误检索的视频。为了克服这一局限性,我们提出了一种新的框架,视频检索使用对话框(ViReD),它使用户能够通过多轮对话与人工智能智能体,其中用户通过回答由人工智能智能体产生的问题,细化检索结果进行交互。我们新型的多模式问题生成器学会提出问题,以最大限度地提高后续视频检索性能,使用(i)在与用户的最后一轮交互期间检索到的视频候选项和(ii)记录所有之前交互的基于文本的对话历史,以生成包含问题与视频检索相关的视觉和语言线索。此外,为了最大限度地生成信息问题,我们提出了一个信息引导监督(IGS),它引导问题生成器提出问题,这将提高后续的视频检索准确性。我们验证了我们的交互式ViReD框架的AVSD数据集的有效性,表明我们的交互式方法的性能显着优于传统的非交互式视频检索系统。我们还证明,我们提出的方法一般化到现实世界的设置,涉及与真实的人的互动,从而证明了我们的框架的鲁棒性和通用性
2022-07-16 cs.AI cs.CL cs.CV
Visual Curiosity: Learning to Ask Questions to Learn Visual Recognition
Georgia Institute of Technology(佐治亚理工学院);Facebook AI Research(Facebook人工智能研究院)
在开放世界的环境中,智能代理(例如,机器人)将遇到它不能识别的视觉对象、属性或关系。在这项工作中,我们开发了一个具有视觉好奇心的代理,即向Oracle提问的能力(例如,人类)关于图像中的内容(例如,红色立方体左边的物体是什么?)并基于接收到的答案建立视觉识别模型(例如,Cylinder)。为了做到这一点,代理必须(1)理解它识别什么和它不识别什么,(2)制定一个有效的,明确的和信息丰富的语言查询(一个问题)来询问Oracle,(3)从Oracle响应中导出视觉分类器的参数,以及(4)利用更新的视觉分类器来提出更明确的问题。具体来说,我们提出了一个新的框架,并制定了学习的视觉好奇心作为一个强化学习问题。在这个框架中,我们的代理的所有组件,视觉识别模块(看),问题生成策略(问),答案消化模块(理解)和图形记忆模块(记忆),都是完全端到端学习的,以最大限度地提高代理与Oracle对话后从场景图中获得的奖励。重要的是,问题生成策略从视觉识别系统和环境的细节中解脱出来。因此,我们证明了一种双重概括。我们的问题生成策略推广到新的环境和一双新的眼睛,即,新的视觉系统在合成数据集上进行训练,我们的结果表明,我们的智能体学习新的视觉概念的速度明显快于几个启发式基线,即使在具有新对象的合成环境以及现实环境中进行测试。
2018-10-01 cs.AI cs.CV cs.LG
Learning to Ask Medical Questions using Reinforcement Learning
Yale University(耶鲁大学);Technion(以色列理工学院)
我们提出了一种新的基于强化学习的自适应和迭代特征选择方法。给定输入特征的屏蔽向量,强化学习代理迭代地选择要被去除屏蔽的某些特征,并在足够自信时使用它们来预测结果。该算法利用了一种新的环境设置,对应于一个非平稳马尔可夫决策过程。我们的方法的一个关键组成部分是一个猜测网络,经过训练可以预测所选特征的结果并参数化奖励函数。将我们的方法应用于国家调查数据集,我们表明,当需要基于少量输入特征进行预测时,它不仅优于强基线,而且更具可解释性。我们的代码可在\url{https://github.com/ushaham/adaptiveFS}上公开获取。
2020-05-25 cs.AI cs.LG stat.ML
Active Inference as Context Acquisition for AI Agents
University of California, Davis(加利福尼亚大学戴维斯分校);Technical University of Munich(慕尼黑工业大学)
该研究将AI智能体的上下文获取权衡形式化为主动推理,在最优提问框架中验证其有效性,为智能体上下文获取层提供模型无关的设计原则。
2026-08-21 cs.AI cs.CL cs.LG
Learning to Ask: Information Acquisition for SLM-LLM Collaboration, under a budget
Pohang University of Science and Technology (POSTECH)(浦项科技大学);University of British Columbia(不列颠哥伦比亚大学);Vector Institute(向量研究所)
本研究将SLM-LLM协作视为预算约束下的信息获取问题,提出三阶段RLVR框架,使SLM选择性查询LLM顾问,在数学推理和编码任务中优化性能-成本权衡,并可迁移至其他模型。
2026-10-02 cs.AI
Ask, Pose, Unite: Scaling Data Acquisition for Close Interactions with Vision Language Models
Stanford University(斯坦福大学);Snap Research(Snap研究部门)
本文提出利用大型视觉语言模型标注接触图并构建APU数据集,以缓解近距离交互人体网格估计的数据稀缺问题,并通过训练扩散接触先验提升对未见交互的网格估计性能。
2024-10-01 cs.AI cs.CV cs.LG
Decide, Ask, or Defer: Clinical LLMs under Incomplete Evidence
University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对临床LLM在不完整证据下的决策,提出DECIDE/ASK/DEFER三行动策略,通过盲法协议和DDXPlus数据集评估,发现其能揭示二元弃权隐藏的行为,但未产生统一更优的决策策略。
2026-10-08 cs.AI
Using Language Models For Knowledge Acquisition in Natural Language Reasoning Problems
Hong Kong University of Science and Technology(香港科技大学);Xiaoi Robot Inc.(小i机器人公司)
比较了使用LLM直接解题与提取事实后用定理证明器解题两种方法,在逻辑字谜上证明后者更优。
2023-04-04 cs.AI
Asking the Right Question at the Right Time: Human and Model Uncertainty Guidance to Ask Clarification Questions
Institute for Logic, Language and Computation(逻辑、语言与计算研究所);University of Amsterdam(阿姆斯特丹大学)
本研究探讨对话系统中模型不确定性与人类澄清行为的关系,提出基于模型不确定性估计生成澄清问题的方法,显著提升任务成功率,强调系统自我评估不确定性的重要性。
2024-02-09 cs.AI cs.CL
STaR-GATE: Teaching Language Models to Ask Clarifying Questions
Stanford University(斯坦福大学)
本文提出 STaR-GATE 方法,通过奖励模型生成有用问题实现自我改进,使语言模型学会提出澄清性问题,从而在 72% 的任务上生成更优的个性化响应。
2024-08-07 cs.AI cs.CL
Interpreting Models by Allowing to Ask
KAIST(韩国科学技术院);Korea University(高丽大学);NAVER WEBTOON Corp.(NAVER WEBTOON公司)
问题传达了关于提问者的信息,也就是一个人不知道的东西。在本文中,我们提出了一种新的方法,允许学习代理在产生最终输出的过程中询问它认为难以预测的内容。通过分析它何时提出请求,我们可以使我们的模型更加透明和可解释。我们首先发展这个想法,提出一个可以提问的深度神经网络的一般框架,我们称之为提问网络。提出了一个特定的架构和训练过程的提问网络的着色任务,这是一个典型的一对多的任务,因此提出问题的任务是有助于准确地执行任务。我们的研究结果表明,该模型能够学习生成有意义的问题,首先提出困难的问题,并且比基线模型更有效地利用所提供的提示。我们的结论是,提出的询问框架,使学习代理揭示其弱点,这是一个有前途的新方向,在开发可解释的和交互式的模型。
2018-11-13 cs.AI cs.CL
It is AI's Turn to Ask Humans a Question: Question-Answer Pair Generation for Children's Story Books
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院);University of Washington(华盛顿大学);University of Notre Dame(圣母大学);WeChat AI, Tencent(腾讯微信人工智能);University of California Irvine(加州大学欧文分校)
现有的问答(QA)技术主要被创建来回答人类提出的问题。但在教育应用中,教师往往需要决定他们应该问什么问题,以帮助学生提高他们的叙事理解能力。我们设计了一个自动问答生成(QAG)系统,这种教育场景:给定一个故事书在幼儿园到八年级的水平作为输入,我们的系统可以自动生成QA对,能够测试各种尺寸的学生的理解能力。我们提出的QAG模型架构使用一个新的专家注释的FairytaleQA数据集进行了演示,该数据集有278本儿童友好的故事书,其中有10,580对QA。自动和人工评估表明,我们的模型优于最先进的QAG基线系统。在我们的QAG系统之上,我们还开始构建一个交互式讲故事应用程序,用于未来在这个教育场景中的实际部署。
2022-03-26 cs.AI cs.CL
Can LLMs Ask Good Questions?
University of California Berkeley(加州大学伯克利分校);KACST(王国立科学与技术委员会);University of Washington(华盛顿大学)
本研究从六个维度比较了LLM与人类生成的问题,发现LLM问题更均匀覆盖上下文且要求更长答案,为问题质量研究提供参考。
2025-06-17 cs.AI cs.CL
Collaboration with Conversational AI Assistants for UX Evaluation: Questions and How to Ask them (Voice vs. Text)
Rochester Institute of Technology(罗切斯特理工学院);University of Waterloo(滑铁卢大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
人工智能在帮助用户体验评估人员分析可用性测试方面很有前途,但其判断通常以非交互式可视化的形式呈现。评估人员可能对测试记录有疑问,但无法询问。交互式会话助理提供可以提高分析效率和评估者自主性的Q&A动态。为了了解与分析相关的所有问题,我们对20名通过文本或语音与模拟AI助手进行交互的参与者进行了一项绿野仙踪设计探索研究。我们发现,参与者询问了五类信息:用户操作、用户心理模型、人工智能助手的帮助、产品和任务信息以及用户人口统计数据。那些使用文本助手的人问了更多的问题,但问题长度相似。文本助理被认为效率更高,但两者在满意度和信任度方面的评分相同。我们还为未来的对话式AI助手提供设计考虑,以进行UX评估。
2023-03-07 cs.AI cs.HC
Ask To The Point: Open-Domain Entity-Centric Question Generation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了以实体为中心的问答生成(ECQG)任务,并构建了基于PLM的框架GenCONE,通过内容聚焦和问题验证两个模块生成高质量问题,显著优于基线方法。
2023-10-21 cs.AI cs.CL
Asking Clarifying Questions in Open-Domain Information-Seeking Conversations
Università della Svizzera italiana (USI)(瑞士意大利语区大学(USI));University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
用户往往无法在一个查询中表达其复杂的信息需求。因此,他们可能需要扫描多个结果页面或重新制定他们的查询,这可能是一个令人沮丧的经历。或者,系统可以通过主动询问用户的问题来澄清他们的信息需求,从而提高用户满意度。在会话系统中,提出澄清性问题尤其重要,因为它们只能返回有限数量的结果(通常只有一个)。在本文中,我们制定了开放域信息寻求会话系统中的问题澄清的任务。为此,我们提出了一种离线评估方法,并通过众包收集了一个名为Qulac的数据集。我们的数据集建立在TREC Web Track 2009-2012数据的基础上,由198个TREC主题的10 K多个问答对组成,涉及762个方面。我们在Oracle模型上的实验表明,只问一个好问题,就P@1而言,检索性能提高了170%以上,这清楚地表明了任务的潜在影响。我们进一步提出了一个检索框架,包括三个组成部分:问题检索,问题选择,和文档检索。特别是,我们的问题选择模型考虑到原始查询和以前的问答互动,同时选择下一个问题。我们的模型显著优于竞争基准。为了促进这一领域的研究,我们公开了Qulac。
2019-07-15 cs.AI cs.CL cs.IR
Question Asking as Program Generation
New York University(纽约大学)
人类智力的一个标志是能够提出丰富的,创造性的和启发性的问题。在这里,我们介绍了一个认知模型,能够构建类似人类的问题。我们的方法将问题视为正式程序,当对世界状态执行时,输出答案。该模型指定了一个复杂的概率分布,组成空间的程序,有利于简洁的程序,帮助代理在当前的上下文中学习。我们评估我们的方法,通过模拟人类谁试图了解一个模棱两可的情况下,在游戏中产生的开放式问题的类型。我们发现,我们的模型可以预测人们会问什么问题,并且可以创造性地产生训练集中没有的新问题。此外,我们比较了一些模型变量,发现问题的信息量和复杂性对于产生类似人类的问题都很重要。
2017-11-16 cs.AI cs.CL cs.LG
Ask to Learn: A Study on Curiosity-driven Question Generation
reciTAL(reciTAL公司);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心)
我们提出了一个新的文本生成任务,即好奇心驱动的问题生成。我们从观察问题生成任务传统上被认为是双重问题的问答,因此解决的问题,生成一个问题的文本,包含其答案。这些问题可以用来评估机器阅读理解。然而,在现实生活中,特别是在对话环境中,人们倾向于提出问题,目的是丰富他们的知识和/或澄清先前收集的信息的各个方面。我们将这些好奇的问题称为好奇心驱动的问题:这些问题的产生是为了获得输入文本中不存在的新信息(答案)。在这项工作中,我们使用会话式问答(QA)数据集对这个新任务进行实验;此外,由于大多数QA数据集不是以内置的会话方式,我们描述了一种方法来从非会话式QA数据中获得用于这个新任务的数据。我们研究了几种自动化指标来衡量好奇问题的不同属性,并在好奇驱动的问题生成任务上实验了不同的方法,包括模型预训练和强化学习。最后,我们报告所产生的输出的定性评价。
2019-11-08 cs.AI cs.CL
CLARINET: Augmenting Language Models to Ask Clarification Questions for Retrieval
UC Berkeley(加州大学伯克利分校)
针对信息检索中模糊查询需澄清的问题,提出CLARINET系统,通过增强LLM条件化检索分布并端到端微调生成澄清问题,在真实书籍检索数据集上显著提升检索成功率。
2024-04-28 cs.AI cs.CL cs.IR
MediQ: Question-Asking LLMs and a Benchmark for Reliable Interactive Clinical Reasoning
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学);Cornell Tech(康奈尔科技学院);Allen Institute for AI(艾伦人工智能研究所)
针对交互式临床推理中LLM可靠性不足的问题,提出MediQ基准和主动提问系统,通过弃权策略提升诊断准确率22.3%,并验证了过滤上下文与对话重格式化的有效性。
2024-11-07 cs.AI cs.CL
Modeling What-to-ask and How-to-ask for Answer-unaware Conversational Question Generation
Institute for Infocomm Research (I2R), A*STAR(新加坡科技研究局资讯通信研究院(I2R));Nanyang Technological University, Singapore(新加坡南洋理工大学);Salesforce AI(赛富时人工智能研究院);ByteDance(字节跳动);University of California, Santa Barbara(加州大学圣巴巴拉分校)
针对答案未知型对话式问题生成中“问什么”与“怎么问”的挑战,提出两阶段框架SG-CQG,结合语义图选推理依据、显式控制问题类型,并提出多样性评估指标Conv-Distinct,实现当前最优性能。
2023-05-04 cs.AI cs.CL
ChatGPT Asks, BLIP-2 Answers: Automatic Questioning Towards Enriched Visual Descriptions
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
提出有见地的问题对于获取知识和扩大我们对世界的理解至关重要。然而,在人工智能研究中,提问的重要性在很大程度上被忽视了,因为模型主要是为了回答问题而开发的。随着大语言模型(LLM)(如ChatGPT)的最新进展,我们发现它们在提供适当提示时能够提出高质量的问题。这一发现为开发自动提问系统提供了新的机会。在本文中,我们介绍了ChatCaptioner,一种新的自动提问方法部署在图像描述。在这里,ChatGPT被提示向BLIP-2提出一系列关于图像的信息性问题,BLIP-2是一个强大的视觉问答模型。通过不断从BLIP-2的答案中获取新的视觉信息,ChatCaptioner能够生成更丰富的图像描述。我们对常见的图像标题数据集(如COCO,Conceptual Caption和WikiArt)进行了人类主体评估,并将ChatCaptioner与BLIP-2以及地面实况进行了比较。我们的研究结果表明,ChatCaptioner的标题信息量更大,从人类评估人员那里获得了三倍的投票,以提供最多的图像信息。此外,ChatCaptioner识别图像中的对象比单独使用BLIP-2多53%,这是通过WordNet同义词集匹配测量的。代码可在https://github.com/Vision-CAIR/ChatCaptioner上获得
2023-03-12 cs.AI cs.CV cs.LG
Ask Good Questions for Large Language Models
College of Artificial Intelligence, China University of Petroleum-Beijing, China(人工智能学院,中国石油大学(北京));Hainan Institute of China University of Petroleum (Beijing), Sanya, Hainan, China(海南中国石油大学(北京)研究院,三亚,海南)
针对当前对话系统难以识别用户概念困惑、无法准确引导话题的问题,提出含改进概念增强项目反应理论(CEIRT)模型的Ask-Good-Question(AGQ)框架,结合LLMs生成引导问题,提升问答信息检索效率,性能优于基线方法。
2025-08-19 cs.AI cs.CL
CLAM: Selective Clarification for Ambiguous Questions with Generative Language Models
University of Oxford(牛津大学)
用户经常向对话系统提出需要澄清的模糊问题。我们发现,目前的语言模型很少要求用户澄清模棱两可的问题,而是提供不正确的答案。为了解决这个问题,我们引入CLAM:一个框架,让语言模型有选择地要求澄清模糊的用户问题。特别是,我们表明,我们可以提示语言模型检测是否一个给定的问题是模糊的,生成一个适当的澄清问题,问用户,并在收到澄清后给出最终答案。我们还表明,我们可以模拟用户提供语言模型的特权信息。这使我们能够自动评估多轮澄清对话。最后,相对于SotA,CLAM显著提高了语言模型在二义性和无二义性混合问题上的准确性.
2023-02-20 cs.AI cs.CL cs.LG
Learning to Ask: Neural Question Generation for Reading Comprehension
Cornell University(康奈尔大学);Shanghai Jiao Tong University(上海交通大学)
本文研究了阅读理解中从篇章中自动生成句子的问题。我们引入了一个基于注意力的序列学习模型的任务,并研究了编码句子与段落级信息的效果。与以前的所有工作相比,我们的模型不依赖于手工制作的规则或复杂的NLP管道;相反,它是通过序列到序列学习的端到端可训练的。自动评估结果表明,我们的系统显着优于国家的最先进的基于规则的系统。在人类评估中,我们的系统生成的问题也被评为更自然(即,语法性、流畅性)和更难回答(就句法和词汇与原文的分歧以及回答所需的推理而言)。
2017-04-29 cs.AI cs.CL
Question Generation for Reading Comprehension Assessment by Modeling How and What to Ask
University of Alberta(阿尔伯塔大学);EyeRead(EyeRead公司)
阅读是日常生活中不可或缺的一部分,但学习阅读对许多年轻学习者来说是一场斗争。在课堂上,教师可以使用理解问题来提高参与度,测试阅读技能,并提高记忆力。从历史上看,这些问题是由熟练的教师编写的,但最近语言模型已被用于生成理解问题。然而,许多现有的问题生成(QG)系统侧重于从文本中生成文字问题,并没有办法控制生成的问题的类型。在本文中,我们研究QG阅读理解推理问题是关键和提取技术不能使用。我们提出了一个两步模型(HTA-WTA),它利用了以前的数据集,并可以为特定的目标理解技能生成问题。我们提出了一个新的阅读理解数据集,其中包含与基于故事的阅读理解技能(SBRCS)注释的问题,允许更完整的读者评估。在几个实验中,我们的结果表明HTA-WTA在这个新数据集上的表现优于多个强基线。我们表明,HTA-WTA模型通过提出深度推理问题来测试强SCRS。
2022-04-06 cs.AI cs.CL cs.LG
NeCo@ALQAC 2023: Legal Domain Knowledge Acquisition for Low-Resource Languages through Data Enrichment
VNU University of Engineering and Technology(越南国立大学工程技术大学);National Institute of Informatics(国立情报学研究所)
本文提出NeCo团队在ALQAC 2023越南语法律问答任务中的解决方案,通过结合相似度排序、深度学习模型及自适应技术进行数据增强,在法律文档检索和答案提取任务上取得出色结果,验证了低资源语言法律问答系统的有效性。
2023-09-11 cs.AI cs.CL
Ask & Explore: Grounded Question Answering for Curiosity-Driven Exploration
Birla Institute of Technology and Science, Pilani(比拉理工学院);Carnegie Mellon University(卡内基梅隆大学)
在许多现实世界的情况下,外部奖励的代理是非常稀疏的,好奇心已经成为一个有用的概念,提供内在的奖励,使代理探索其环境和获取信息,以实现其目标。尽管它们在许多稀疏奖励任务上表现出色,但现有的好奇心方法依赖于对状态转换的过度全面的看法,并且不允许对环境的特定方面进行结构化的理解。在本文中,我们通过鼓励智能体提出有关环境的问题并在这些问题的答案发生变化时保持好奇心,从而基于有根据的问答来表达好奇心。我们发现,自然语言问题鼓励代理发现有关其环境的特定知识,例如对象的物理特性以及它们与其他对象的空间关系,这些知识可以作为有价值的好奇心奖励,以更有效地解决稀疏奖励任务。
2021-04-24 cs.AI cs.CL cs.LG
What's to know? Uncertainty as a Guide to Asking Goal-oriented Questions
Australian Institute of Machine Learning(澳大利亚机器学习研究所);The University of Adelaide(阿德莱德大学)
视觉对话问题的核心挑战之一是提出能够提供最有用信息的问题,以实现所需的目标。鼓励智能体提出正确的问题是困难的,因为我们不知道智能体需要什么信息来完成任务,我们也没有一个明确的模型来描述它已经知道的东西。我们提出了一个解决这个问题的贝叶斯模型的基础上的不确定性的隐式模型保持的视觉对话代理,并在用于选择适当的输出的功能。通过选择问题,最大限度地减少预测后悔相对于这个隐式模型的代理积极减少歧义。不确定性的贝叶斯模型还使得能够使用原则性方法来确定何时已经获得足够的信息,并且应该选择行动。我们评估我们的方法在两个面向目标的对话数据集,一个是基于视觉的协作任务,另一个是基于协商的任务。我们的不确定性感知信息搜索模型在这两个具有挑战性的问题优于其同行。
2018-12-16 cs.AI cs.CL cs.LG
Large Language Models Should Ask Clarifying Questions to Increase Confidence in Generated Code
George Washington University(乔治华盛顿大学)
本文提出以沟通为中心的LLM代码生成流程,通过自动识别高歧义或低置信度问题并向用户提问,来澄清需求、改善代码质量并增强生成信心。
2024-01-22 cs.AI cs.LG cs.SE
Want a Good Answer? Ask a Good Question First!
City College, CUNY(纽约市立大学城市学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stony Brook University(石溪大学)
社区问答(CQA)网站已经成为一个有价值的知识库,它承载了大量的人类知识。为了最大限度地利用这些知识,必须评估现有问题或答案的质量,特别是在CQA网站上发布后不久。在本文中,我们研究的问题和答案的质量推断通过一个案例研究的软件CQA(堆栈溢出)。我们的主要发现是,答案的质量与问题的质量密切相关。武装与此观察,我们提出了一个家庭的算法来共同预测问题和答案的质量,量化数值质量分数和区分高质量的问题/答案从那些低质量的。我们进行了广泛的实验评估,以证明我们的方法的有效性和效率。
2013-11-27 cs.AI cs.DB cs.IR
Ask Your Neurons: A Deep Learning Approach to Visual Question Answering
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);UC Berkeley(加州大学伯克利分校);ICSI(国际计算机科学研究所)
我们解决了一个问答任务,对现实世界的图像,是作为一个视觉图灵测试。通过结合图像表示和自然语言处理的最新进展,我们提出了Ask Your Neurons,一个可扩展的,联合训练的,端到端的公式来解决这个问题。与以前的努力相比,我们正面临着一个多模态的问题,其中的语言输出(答案)的视觉和自然语言输入(图像和问题)的条件。我们提供了额外的见解,通过分析有多少信息只包含在语言部分,我们提供了一个新的人类基线的问题。为了研究人类的共识,这是与在这个具有挑战性的任务中固有的模糊性,我们提出了两个新的指标,并收集额外的答案,扩展原来的DAQUAR数据集DAQUAR-Consensus。此外,我们还将我们的分析扩展到VQA,一个关于图像数据集的大规模问答,在那里我们研究了一些特定的设计选择,并显示了更强大的视觉模型的重要性。与此同时,我们实现了我们的模型的强大性能,仍然使用全局图像表示。最后,基于这样的分析,我们在DAQUAR上改进了我们的Ask Your Neurons,这也导致了这项具有挑战性的任务的更好性能。
2016-11-24 cs.AI cs.CL cs.CV
Learning to Ask for Data-Efficient Event Argument Extraction
Zhejiang University(浙江大学);AZFT Joint Lab for Knowledge Engine(AZFT知识引擎联合实验室);Hangzhou Innovation Center, Zhejiang University(浙江大学杭州创新中心);Alibaba Group(阿里巴巴集团)
事件变元抽取是信息抽取的一项重要任务,它能发现特定的变元角色。在本研究中,我们将EAE作为一个基于问题的完形填空任务,并实证分析固定离散标记模板的性能。由于生成人工注释的问题模板通常是耗时和劳动密集型的,我们进一步提出了一种新的方法,称为“学习问”,它可以学习优化的问题模板,EAE没有人的注释。使用ACE-2005数据集的实验表明,我们的方法的基础上优化的问题实现了最先进的性能在Few-Shot和监督设置。
2021-10-01 cs.AI cs.CL cs.IR
Learning to Ask Screening Questions for Job Postings
LinkedIn(领英)
在LinkedIn,我们希望为全球劳动力中的每个人创造经济机会。这一目标的一个关键方面是将工作与合格的申请人相匹配。为了提高招聘效率并减少人工筛选每个申请人的需要,我们开发了一种新产品,招聘人员可以在线询问筛选问题,以便他们可以轻松筛选合格的候选人。为了向LinkedIn上的所有$20$ M活动职位添加筛选问题,我们提出了一个新任务,旨在为给定的职位发布自动生成筛选问题。为了解决生成筛选问题的任务,我们开发了一个称为Job 2 Questions的两阶段深度学习模型,在该模型中,我们应用深度学习模型从文本描述中检测意图,然后根据其他上下文特征按其重要性对检测到的意图进行排名。由于这是一个没有历史数据的新产品,我们采用深度迁移学习来训练具有有限训练数据的复杂模型。我们向LinkedIn用户推出了筛选问题产品和人工智能模型,并观察到了对就业市场的重大影响。在我们的在线A/B测试中,我们观察了$+53.10\%$筛选问题建议接受率、$+22.17\%$职位覆盖率、$+190\%$招聘者-申请者互动以及$+11$净推荐分数。总之,部署的Job 2 Questions模型可以帮助招聘人员找到合格的申请人,帮助求职者找到他们适合的工作。
2020-04-30 cs.AI cs.CL cs.IR
Ask Twice, Look Twice: Prompt Echoing Resolves the Question-First Paradox in Vision-Language Models
Carnegie Mellon University(卡内基梅隆大学)
研究视觉语言模型中问题优先提示的悖论,发现问题前置虽能引导感知但后续答案生成阶段难关注到问题。提出问题回声方法,即在图像两侧重复问题,解决了悖论,在多基准测试中表现出色且无需训练等。
2026-09-04 cs.AI cs.CV cs.LG
Ask Question First for Enhancing Lifelong Language Learning
Institute of Acoustics, Chinese Academy of Sciences(中国科学院声学研究所);University of Chinese Academy of Sciences(中国科学院大学)
终身语言学习的目标是在保留以前任务的知识的同时,流式学习NLP任务。基于语言模型和以下无数据约束方法的先前工作已经探索了针对不同任务将所有数据格式化为“开始标记(\textit{B})+上下文(\textit{C})+问题(\textit{Q})+答案(\textit{A})”。然而,由于以下原因,它们仍然遭受灾难性遗忘,并且在先前任务的伪数据不足时加剧:(1)模型难以生成任务对应的伪数据,以及(2)当\textit{A}和\textit{C}被\textit{Q}分开时,\textit{A}易于出错,因为在生成\textit{A}之前,\textit{C}的信息被减少。因此,我们提出了先问问题再问问题(AQF-RQ),包括一个新的数据格式“\textit{BQCA}“和一个新的训练任务来训练以前的任务的伪问题。实验结果表明,AQF-RQ算法能使模型更容易地生成更多与任务匹配的伪数据,并且在任务边界清晰和不清晰的情况下,对伪数据充足和不足都具有更好的鲁棒性. AQF-RQ的学习效率仅比多任务学习低0.36%。
2022-12-26 cs.AI cs.CL cs.LG
GenQ: Automated Question Generation to Support Caregivers While Reading Stories with Children
University of Pittsburgh(匹兹堡大学);Ball State University(鲍尔州立大学);Arizona State University(亚利桑那州立大学)
GenQ通过众包拉丁裔照护者与其他人群的提问数据,分析文化与情境因素对提问的影响,并自动提取模板生成开放式问题,以支持儿童共读中的智能辅导。
2023-09-25 cs.AI cs.CL cs.HC
Learning to Ask Appropriate Questions in Conversational Recommendation
The University of Queensland(昆士兰大学);Alibaba AI Lab(阿里巴巴人工智能实验室);University of Electronic Science and Technology of China(电子科技大学)
会话式推荐系统(CRS)通过引入对话代理来动态地捕获细粒度的用户偏好,从而彻底改变了传统的推荐模式。在典型的会话推荐场景中,CRS首先生成问题,让用户澄清她/他的需求,然后做出合适的推荐。因此,生成合适的澄清问题的能力是及时跟踪用户的动态偏好并实现成功推荐的关键。然而,现有的CRS在询问高质量问题方面存在不足,因为:(1)系统生成的响应严重依赖于对话策略代理的性能,其必须用巨大的对话语料库来训练以覆盖所有情况;以及(2)当前的CRS不能充分利用学习到的潜在用户简档来生成适当的和个性化的响应。为了缓解这些问题,我们提出了基于知识的问题生成系统(KBQG),一个新的框架会话推荐。与以前的会话推荐系统不同,KBQG通过从结构化的知识图谱(KG)中识别最相关的关系,以更细的粒度对用户的偏好进行建模。在不同关系的重要性不同的条件下,生成的澄清问题可以更好地促使用户提供更多的细节,他们的喜好。从本质上讲,准确的建议可以在更少的会话回合中生成。此外,建议KBQG优于所有基线在我们的实验中的两个真实世界的数据集。
2021-05-11 cs.AI cs.CL cs.IR
Dual Ask-Answer Network for Machine Reading Comprehension
Tencent AI Lab(腾讯人工智能实验室)
在阅读理解中有三种模式:问题、答案和语境。问答或问题生成的任务旨在基于上下文在给出对应方时推断答案或问题。我们提出了一种新的双向神经序列转导模型,连接三种模态,使其能够同时学习两个任务,并相互受益。在训练过程中,该模型接收问题-上下文-答案三元组作为输入,并通过分层注意过程捕获跨模态交互。与以前的联合学习范式,利用问题生成和问答在数据级的双重性,我们解决了这样的双重任务,在体系结构级的镜像网络结构和部分共享组件在不同的层。这使得知识能够从一个任务转移到另一个任务,帮助模型找到每个模态的一般表示。在四个公开数据集上的测试结果表明,我们的双重学习模型在问答和问题生成任务上的性能都优于单一学习模型和最先进的联合学习模型。
2018-09-10 cs.AI cs.CL cs.LG
ProductAgent: Benchmarking Conversational Product Search Agent with Asking Clarification Questions
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Peng Cheng Laboratory(鹏城实验室)
本文提出ProductAgent对话式产品搜索智能体及PROCLARE评测基准,通过策略性澄清提问与动态检索,在电商模糊查询场景中随对话轮次增加逐步提升检索性能。
2024-07-01 cs.AI cs.CL cs.IR
ELBA: Learning by Asking for Embodied Visual Navigation and Task Completion
Amazon(亚马逊公司)
针对现有具身智能体缺乏主动提问消解环境歧义能力的问题,提出ELBA模型学习提问时机与内容以获取任务补充信息,在TEACh数据集上表现优于无问答能力的基线模型。
2024-12-11 cs.AI cs.CL cs.CV
Ask Your Neurons: A Neural-based Approach to Answering Questions about Images
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);UC Berkeley(加州大学伯克利分校);ICSI(国际计算机科学研究所)
我们解决了一个问答任务,对现实世界的图像,是作为一个视觉图灵测试。通过结合图像表示和自然语言处理的最新进展,我们提出了神经图像QA,一个端到端的制定这个问题的所有部分联合训练。与以前的努力相比,我们正面临着一个多模态的问题,其中的语言输出(答案)的视觉和自然语言输入(图像和问题)的条件。我们的方法Neural-Image-QA在这个问题上的性能是以前最好的方法的两倍。我们提供了额外的见解,通过分析有多少信息只包含在语言部分,我们提供了一个新的人类基线的问题。为了研究人类的共识,这是与在这个具有挑战性的任务中固有的模糊性,我们提出了两个新的指标,并收集额外的答案,扩展了原来的DAQUAR数据集DAQUAR-Consensus。
2015-10-01 cs.AI cs.CL cs.CV
Learning to Answer by Learning to Ask: Getting the Best of GPT-2 and BERT Worlds
SAP Machine Learning Research(SAP机器学习研究院)
自动问题生成的目的是从上下文中生成问题,相应的答案是给定段落的子跨度。然而,大多数方法主要依赖于启发式规则来生成问题,最近还提出了神经网络方法。在这项工作中,我们提出了一个变体的自我注意力Transformer网络架构模型,以产生有意义的和多样化的问题。为此,我们提出了一个易于使用的模型,该模型由Transformer解码器GPT-2模型与Transformer编码器BERT的结合组成,用于问答的下游任务。该模型以端到端的方式被训练,其中语言模型被训练以产生问题-答案感知的输入表示,该输入表示有助于生成答案集中的问题。我们从SQuAD 1.1数据集上的文本生成神经问题的结果表明,我们的方法可以生成语义正确和多样化的问题。此外,我们评估了我们所提出的方法的下游任务的问答的性能。分析表明,我们提出的生成和回答协作框架相对提高了这两个任务,特别是在半监督设置强大。研究结果进一步表明,一个强大的和简洁的管道,促进小数据制度的问题生成。
2019-11-06 cs.AI cs.CL cs.LG
Perturbation-based Active Learning for Question Answering
University of Arizona(亚利桑那大学)
为降低问答模型的标注成本,本研究提出一种基于扰动的主动学习采集策略,经证实其效果优于现有常用的主动学习策略。
2023-11-04 cs.AI cs.CL cs.LG
What Would You Ask When You First Saw $a^2+b^2=c^2$? Evaluating LLM on Curiosity-Driven Questioning
Stevens Institute of Technology(斯蒂文斯理工学院)
本文提出一个评估大语言模型知识获取潜力的框架,通过让模型对科学陈述提问并评分,发现小模型Phi-2在好奇心驱动提问上不逊于甚至优于大模型,挑战了规模决定论。
2025-07-07 cs.AI cs.CL cs.LG
PAQ: 65 Million Probably-Asked Questions and What You Can Do With Them
University College London(伦敦大学学院);Facebook AI Research(脸书人工智能研究院)
开放领域的问答模型直接利用问答(QA)对,如闭卷问答(CBQA)模型和问答对检索器,显示出承诺的速度和内存相比,传统的模型,检索和阅读文本语料库。QA对检索器还提供了可解释的答案,高度的控制,并且在测试时用新知识进行更新是微不足道的。然而,这些模型缺乏检索和阅读系统的准确性,因为相对于像维基百科这样的文本语料库,可用的QA对覆盖的知识少得多。为了促进改进的QA对模型,我们引入了可能问的问题(PAQ),这是一个非常大的65M自动生成的QA对资源。我们引入了一个新的QA对检索器,RePAQ,以补充PAQ。我们发现PAQ抢占和缓存测试问题,使RePAQ能够匹配最近的检索和读取模型的准确性,同时速度明显更快。使用PAQ,我们训练CBQA模型,其性能超过可比基线5%,但落后于RePAQ超过15%,表明显式检索的有效性。RePAQ可以配置大小(低于500MB)或速度(每秒超过1K个问题),同时保持高准确性。最后,我们展示了RePAQ在选择性QA方面的优势,当它可能不正确时,我们会放弃回答。这使得RePAQ能够“后退”到更昂贵的最先进的模型,从而形成一个比单独的最先进的模型更精确、速度快2倍的组合系统。
2021-02-13 cs.AI cs.CL cs.LG
Ask, Attend and Answer: Exploring Question-Guided Spatial Attention for Visual Question Answering
UMass Lowell(马萨诸塞大学洛厄尔分校)
我们解决的问题,视觉问答(VQA),这需要联合图像和语言理解回答一个问题,一个给定的照片。最近的方法已经将基于卷积递归网络的深度图像描述方法应用于该问题,但是未能对空间推断进行建模。为了解决这个问题,我们提出了一个模型,我们称之为空间记忆网络,并将其应用到VQA任务。记忆网络是具有明确的注意力机制的递归神经网络,该机制选择存储在记忆中的信息的某些部分。我们的空间记忆网络将来自图像不同空间区域的神经元激活存储在其记忆中,并使用问题选择相关区域来计算答案,这一过程构成了网络中的一个单一“跳”。我们提出了一种新的空间注意力架构,对齐的话与图像补丁在第一跳,并获得改进的结果,通过添加第二个注意力跳,认为整个问题选择视觉证据的基础上的第一跳的结果。为了更好地理解网络学习的推理过程,我们设计了专门需要空间推理的合成问题,并将注意力权重可视化。我们在两个已发布的视觉问答数据集DAQUAR [1]和VQA [2]上评估了我们的模型,并与连接图像和问题特征以预测答案的强深度基线模型(iBOWIMG)相比获得了改进的结果[3]。
2016-03-19 cs.AI cs.CL cs.CV