Exploring Fluent Query Reformulations with Text-to-Text Transformers and Reinforcement Learning
The Vanguard Group(先锋集团);University of Toronto(多伦多大学)
查询重构的目的是将嘈杂或模糊的文本序列转换为更接近自然语言问题的连贯文本序列。这是为了防止错误在面向客户端的管道中传播,并促进与用户的更好沟通。此外,在下游环境(如问答)中,当重新措辞的查询作为输入时,保持性能至关重要。我们表明,在以前的框架(AQA),试图改变RL算法不会带来显着的好处,无论是奖励收购或序列流畅性。相反,我们利用一个查询重构文本到文本的Transformer(QRT 5),并应用基于策略的RL算法来进一步推动这个重构器,并通过生成奖励获取查询轨迹来获得更好的下游答案。QRT 5在RL中显示出更好的样本效率,以实现与先前方法相同的QA性能水平。它可以基于查询良构性评估生成更具可读性的重构,并可以推广到样本外数据。我们的框架被证明是灵活的,允许奖励信号来自不同的下游环境,如意图分类。
2021-07-04 cs.AI cs.CL cs.LG
Survey of Query-based Text Summarization
针对基于查询的文本摘要领域现有研究缺乏系统梳理的问题,本综述总结了该领域及相关通用文本摘要的代表性研究,并提出分类体系与相关分析。
2024-10-06 cs.CL cs.IR
Introducing Auxiliary Text Query-modifier to Content-based Audio Retrieval
NTT Corporation(NTT公司)
公共网站上提供的音频数据量正在迅速增长,需要一个访问所需数据的有效机制。我们提出了一种基于内容的音频检索方法,可以检索到的目标音频是类似的,但略有不同的查询音频通过引入辅助文本信息,描述了查询和目标音频之间的差异。虽然传统的基于内容的音频检索的范围限于与查询音频相似的音频,但是所提出的方法可以通过将辅助文本查询修饰符的嵌入添加到查询样本音频在共享潜在空间中的嵌入来调整检索范围。为了评估我们的方法,我们构建了一个数据集,包括两个不同的音频片段和描述差异的文本。实验结果表明,该方法比基线更准确地检索成对音频。我们还证实了基于可视化,该方法获得了共享的潜在空间,其中音频差异和相应的文本表示为相似的嵌入向量。
2022-07-20 cs.CL cs.IR cs.LG
An LLM Maturity Model for Reliable and Transparent Text-to-Query
Expression
本文针对LLM在文本到查询应用中的可靠性与透明度问题,提出一个多维度的LLM成熟度模型,并通过执法领域的QueryIQ助手验证其实际效用。
2024-02-20 cs.AI cs.CL
Short Text Pre-training with Extended Token Classification for E-commerce Query Understanding
Amazon Search(亚马逊搜索)
电子商业查询理解是通过从用户的搜索查询中提取语义来推断用户的购物意图的过程。自然语言处理中的预训练掩蔽语言模型(MLM)的最新进展对于开发有效的查询理解模型具有极大的吸引力。具体地说,MLM通过恢复句子中的掩蔽标记来学习上下文文本嵌入。这样的预训练过程依赖于足够的上下文信息。然而,它对搜索查询的效果较差,因为搜索查询通常是短文本。当对短搜索查询应用掩蔽时,大部分上下文信息丢失,并且搜索查询的意图可能改变。为了缓解MLM搜索查询预训练的上述问题,我们提出了一种专门为短文本设计的新的预训练任务,称为扩展令牌分类(ETC)。我们的方法不是屏蔽输入文本,而是通过生成器网络插入令牌来扩展输入,并训练一个机器人来识别哪些令牌被插入到扩展输入中。我们在一个电子商业商店进行实验,以证明ETC的有效性。
2022-10-08 cs.CL cs.LG
No Free Lunch in Active Learning: LLM Embedding Quality Dictates Query Strategy Success
University of Kassel(卡塞尔大学);LMU Munich(慕尼黑大学)
本文通过基准实验系统研究了LLM嵌入质量对深度主动学习查询策略的影响,发现高质量嵌入能增强多样性初始化和Badge等策略的鲁棒性,而最优策略选择高度依赖嵌入质量与具体任务。
2025-05-18 cs.AI cs.CL cs.IR
SQLformer: Deep Auto-Regressive Query Graph Generation for Text-to-SQL Translation
University of Cambridge(剑桥大学)
SQLformer是一种新型Transformer架构,通过自回归生成SQL查询的抽象语法树并融入结构归纳偏置,在六个文本到SQL基准上取得最先进性能。
2024-05-27 cs.CL cs.LG
To Be Multimodal or Not to Be: Query-Adaptive Audio-Visual Person Retrieval via Active Modality Detection
University of Cambridge(剑桥大学);Queen's University Belfast(贝尔法斯特女王大学);University of Surrey(萨里大学);Cisco(思科);Southwest Jiaotong University(西南交通大学);Teesside University(泰赛德大学)
提出一种查询自适应框架,通过跨模态分数一致性检测主动模态,在BBC Rewind语料库上达到94.2%的P@1,优于单模态和固定融合方法。
2026-06-04 cs.AI cs.CL cs.CV
Cost-Effective Proxy Reward Model Construction with On-Policy and Active Learning
University of Washington(华盛顿大学);Microsoft Corporation(微软公司)
针对RLHF中人类偏好数据不足、在线算法专家查询成本高的问题,首次提出结合同策略查询与主动学习的代理奖励模型构建策略,用少量标注数据实现高效偏好标注,提升模型性能且可与其他策略融合降本。
2024-07-09 cs.AI cs.CL cs.LG
Skeletons Matter: Dynamic Data Augmentation for Text-to-Query
School of Data Science, Fudan University(复旦大学数据科学学院);School of Computer Science and Technology, Donghua University(东华大学计算机科学与技术学院);College of Computer Science and Artificial Intelligence, Fudan University(复旦大学计算机科学与人工智能学院);Ant Group(蚂蚁集团);Shanghai Key Laboratory of Data Science(上海数据科学 key laboratory)
本文提出一种动态数据增强框架,通过识别查询骨架作为共同优化目标,提升文本到查询任务的泛化能力和效率。
2025-11-24 cs.AI cs.CL cs.DB
Query-Variant Advertisement Text Generation with Association Knowledge
Peking University(北京大学);Beijing Language and Culture University(北京语言大学);Tencent(腾讯);Institute for Clarity in Documentation(文档清晰度研究所);Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗克库尔分部);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕尔默研究实验室)
在线广告是许多IT公司的重要收入来源。在搜索广告场景中,满足搜索查询需求的广告文本对用户更有吸引力。然而,为大量项目手动创建查询变体广告文本是昂贵的。传统的文本生成方法往往侧重于高频的通用搜索需求,而忽略了低频的多样化个性化搜索需求。在本文中,我们提出了查询变体广告文本生成任务,其目的是生成候选广告文本的不同的Web搜索查询与各种需求的基础上查询和项目的关键字。为了解决忽略低频需求的问题,本文提出了一种基于外部知识的动态联想机制来扩展感受野,从而获得待添加到输入中的关联词。这些关联词可以作为桥梁,将模型的能力从熟悉的高频词转移到不熟悉的低频词。通过关联,该模型可以利用查询中的各种个性化需求,生成查询变体广告文本。自动和人工评估都表明,我们的模型可以生成比基线更有吸引力的广告文本。
2021-09-23 cs.CL
Bertrand-DR: Improving Text-to-SQL using a Discriminative Re-ranker
Got It AI R&D(Got It人工智能研发中心)
为了访问存储在关系数据库中的数据,用户需要理解数据库模式并使用诸如SQL之类的查询语言编写查询。为了简化这一任务,文本到SQL模型试图将用户的自然语言问题转换为相应的SQL查询。最近,已经开发了几种生成式文本到SQL模型。我们提出了一种新的判别重排序器,通过从文本到SQL生成器预测的波束输出中提取最佳SQL查询来提高生成文本到SQL模型的性能,从而提高了最佳查询在候选列表中但不在列表顶部的情况下的性能。我们构建了一个模式不可知的BERT微调分类器的重新排名。我们分析了不同查询难度级别的文本到SQL和重新排序模型的相对优势,并建议如何将这两种模型结合起来以获得最佳性能。我们通过将其应用于两个最先进的文本到SQL模型来证明重新排名器的有效性,并在撰写本文时在Spider排行榜上获得前4名。
2020-11-03 cs.AI cs.CL cs.LG
Query-based Attention CNN for Text Similarity Map
National Taiwan University(台湾大学)
在本文中,我们介绍了基于查询的注意力CNN(QACNN)的文本相似性地图,一个端到端的问答神经网络。该网络由比较机制、具有注意力机制的两级CNN结构和预测层组成。首先,比较机制在给定的段落、查询和多个答案选择之间进行比较,以构建相似性图。然后,两阶段的CNN架构提取特征,通过词级和句子级。同时,注意力机制有助于CNN根据查询信息更好地关注文章的重要部分。最后,预测层找出最可能的答案选择。我们仅使用Plot Synopses在MovieQA数据集上进行此模型,并实现了79.99%的准确率,这是数据集上的最新技术水平。
2017-10-18 cs.AI cs.CL
Towards Multi-Modal DBMSs for Seamless Querying of Texts and Tables
TU Darmstadt(达姆施塔特工业大学);DFKI(德国人工智能研究中心)
本研究提出多模态数据库MMDBs,依托大语言模型构建多模态算子扩展关系数据库,无需手动转换即可用SQL查询文本与表格,在准确率、性能及微调数据需求上均优于现有最优方法。
2023-04-28 cs.CL cs.DB
PQPP: A Joint Benchmark for Text-to-Image Prompt and Query Performance Prediction
University of Bucharest(布加勒斯特大学);Aix-Marseille Université(艾克斯-马赛大学);Université Toulouse Jean-Jaurès(图卢兹让·饶勒斯大学)
该研究构建首个含超1万查询、基于人工标注的PQPP联合基准,用于评估文生图与文生图检索中的提示/查询难度及性能预测器,并提供基线与开源代码。
2025-03-18 cs.AI cs.CL cs.CV
Decoupling SQL Query Hardness Parsing for Text-to-SQL
Central South University(中南大学)
本文提出一种基于解耦SQL查询难度解析的Text-to-SQL框架,通过分析问题和模式将多难度任务简化为单一难度,降低语言模型解析压力,并在Spider开发集上取得微调方法的新最先进性能。
2023-12-29 cs.CL
TQTS-Bench: A Multi-Syntax Benchmark for Text-to-Query over Time-Series Databases
Hunan University(湖南大学)
提出TQTS-Bench多语法基准,含6125个QA对覆盖97个TSDBs,评估LLM文本到查询能力,发现最佳模型准确率仅48.98%,远低于人类的87.34%,揭示语法异构等挑战。
2026-09-29 cs.CL
Few-shot Query-Focused Summarization with Prefix-Merging
The Hong Kong Polytechnic University(香港理工大学);Xidian University(西安电子科技大学);Soochow University(苏州大学)
面向查询的摘要被认为是文本摘要的一个重要扩展。它的目的是为给定的查询生成一个简洁的突出显示。与文本摘要不同,面向查询的摘要一直受到缺乏高质量大规模数据集的困扰。本文探讨了在面向查询的摘要中,能否将文本摘要和问答知识整合和迁移,以辅助少样本学习。在这里,我们提出了前缀合并,一个基于前缀的预训练策略,用于以查询为中心的摘要中的少样本学习。受前缀调整的启发,我们可以将文本摘要和问答中的任务知识整合到一个适当设计的前缀中,并将合并后的前缀应用于以查询为中心的摘要。只有少量的可训练参数,前缀合并优于以查询为中心的摘要的微调。我们进一步讨论了不同的前缀设计的影响,并提出了一个可视化的解释前缀合并的工作原理。
2022-11-29 cs.AI cs.CL
Domain Adaptation with Pre-trained Transformers for Query Focused Abstractive Text Summarization
Dialpad Canada Inc.(Dialpad加拿大公司);Information Retrieval & Knowledge Management Research Lab, York University(约克大学信息检索与知识管理研究实验室);School of Information Technology, York University(约克大学信息技术学院)
以查询为中心的文本摘要(QFTS)任务旨在构建基于给定查询生成文本文档摘要的系统。解决此任务的一个关键挑战是缺乏用于训练摘要模型的大型标记数据。在本文中,我们通过探索一系列领域自适应技术来应对这一挑战。鉴于最近成功的预训练的Transformer模型在广泛的自然语言处理任务,我们利用这样的模型生成抽象摘要的QFTS任务的单文档和多文档的情况。对于领域自适应,我们使用预先训练的基于transformer的摘要模型应用各种技术,包括迁移学习,弱监督学习和远程监督。在六个数据集上进行的大量实验表明,我们提出的方法在为QFTS任务生成抽象摘要方面非常有效,同时在一组自动和人工评估指标的多个数据集中设置了一个新的最先进的结果。
2021-12-22 cs.AI cs.CL cs.LG
System and Methods for Converting Speech to SQL
IIT Guwahati(印度理工学院古瓦哈提分校);IBM Information Management, India Software Lab(IBM信息管理印度软件实验室)
本文讨论了如何将英语口语查询转换为SQL,以便从关系数据库中检索数据。用户通过用户界面提交作为语音信号的查询,并获得文本格式的查询结果。我们已经开发了声学和语言模型,使用它的语音话语可以转换为英语文本查询,从而自然语言处理技术可以应用于这个英语文本查询,以生成一个等效的SQL查询。语音转换成英文文本HTK和朱利叶斯工具已被使用,并转换成SQL查询的英文文本查询,我们已经实现了一个系统,使用基于规则的翻译翻译成SQL查询的英文语言查询。翻译使用词法分析器,解析器和语法指导的翻译技术,如编译器。JFLex和BYACC工具分别用于构建词法分析器和语法分析器。系统是域独立的,即系统可以在不同的数据库上运行,因为它从底层数据库生成lex文件。
2013-08-14 cs.CL cs.DB
TextFormer: A Query-based End-to-End Text Spotter with Mixed Supervision
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院);Baidu Inc.(百度公司)
TextFormer提出基于查询的Transformer端到端文本识别器,通过联合建模分类、分割与识别,并利用自适应全局聚合模块和混合监督,在多个中英文基准上取得领先性能。
2024-04-01 cs.CL cs.CV
Query Focused Multi-document Summarisation of Biomedical Texts
Macquarie University(麦考瑞大学);Australian National University(澳大利亚国立大学)
本文介绍了麦考瑞大学和澳大利亚国立大学参与2020年BioASQ挑战赛(BioASQ8b)的任务B阶段。我们的整体框架实现了查询集中的多文档提取摘要,通过应用分类或回归层的候选句子嵌入和问题和句子嵌入之间的比较。我们使用BERT和BioBERT、Siamese架构和强化学习对变体进行了实验。当使用BERT来获得词嵌入,然后使用LSTM层来获得句子嵌入时,我们观察到最佳结果。使用Siamese架构或BioBERT的变体没有改善结果。
2020-08-27 cs.CL
GQE-PRF: Generative Query Expansion with Pseudo-Relevance Feedback
Artificial Intelligence Application Research Center, Huawei Technologies(华为技术有限公司人工智能应用研究中心)
在信息检索中,基于伪相关反馈的查询扩展是提高检索效率的有效方法.近年来,随着深度学习技术的快速发展,神经文本生成在许多自然语言任务中取得了令人鼓舞的成功。为了充分利用文本生成的优势进行信息检索,本文提出了一种新的方法,有效地将文本生成模型集成到基于PRF的查询扩展中。特别是,我们的方法通过神经文本生成模型生成增强的查询条件的初始查询和伪相关反馈。此外,为了训练生成模型,我们采用了条件生成对抗网(CGANs),提出了PRF-CGAN方法,其中生成器和生成器都以伪相关反馈为条件。我们使用两个基准数据集评估我们的方法在信息检索任务上的性能。实验结果表明,我们的方法取得了相当的性能或优于传统的查询扩展方法的检索和重排序任务。
2021-08-13 cs.AI cs.CL cs.IR
LightRetriever: A LLM-based Text Retrieval Architecture with Extremely Faster Query Inference
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Langboat Technology(兰舟科技)
LightRetriever通过轻量级查询编码器显著提升检索效率,实现查询推理速度提升超1000倍,端到端吞吐量提升超10倍,且在多种任务中保持95%的检索性能。
2026-01-30 cs.AI cs.CL cs.IR
Onception: Active Learning with Expert Advice for Real World Machine Translation
INESC-ID(里斯本系统与计算机工程研究所);Instituto Superior Técnico(高等技术学院);Unbabel AI(Unbabel人工智能实验室)
主动学习可以在资源匮乏的环境中发挥重要作用(即,其中注释的数据是稀缺的),通过选择哪些实例可能更值得注释。大多数机器翻译的主动学习方法都假设源语言中存在一个句子池,并依赖于人工注释器来提供翻译或后期编辑,这仍然是昂贵的。在本文中,我们假设一个真实世界的人在回路场景,其中:(i)源句子可能不容易获得,而是以流的形式到达;(ii)自动翻译以评级的形式接收反馈,而不是正确/编辑的翻译,因为人在回路可能是一个正在寻找翻译的用户,但无法提供翻译。为了解决决定每个传入对源翻译是否值得查询人类反馈的挑战,我们采取了一些基于流的主动学习查询策略。此外,由于我们事先不知道哪种查询策略对于特定的语言对和机器翻译模型集是最合适的,因此我们建议使用预测和专家建议动态地组合多种策略。我们的实验表明,使用主动学习可以以更少的人为交互收敛到最好的机器翻译系统。此外,将使用预测的多个策略与专家建议相结合,往往比几个单独的主动学习策略更有效,甚至交互更少。
2022-03-12 cs.CL
Datrics Text2SQL: A Framework for Natural Language to SQL Query Generation
Datrics
针对Text-to-SQL系统在歧义理解、领域词汇和复杂模式处理上的难题,提出基于RAG的Datrics Text2SQL框架,通过知识库检索生成准确SQL,降低数据分析的使用门槛。
2025-04-03 cs.AI cs.CL cs.DB
text2ql: Multi-Target Natural Language Querying via a Language-Agnostic Intermediate Representation
text2ql框架通过QueryIR中间表示和可插拔渲染器,解决传统数据库自然语言接口的三个局限,确定性模式实现100%执行准确率,消融研究证实感知模式提示对准确率提升作用显著。
2026-09-03 cs.AI cs.CL cs.DB
Active Video Perception: Iterative Evidence Seeking for Agentic Long Video Understanding
Salesforce AI Research(Salesforce AI研究院);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出了一种主动视频感知框架AVP,通过迭代计划-观察-反思过程,主动决定视频内容的观察目标和时间,以提高长视频理解的准确性和效率。
2026-06-04 cs.AI cs.CL cs.CV
LBA: Textual Hard-Label Adversarial Attack under Low Query Budgets
Zhejiang Normal University(浙江师范大学);Zhejiang University(浙江大学);China Electric Power Research Institute(中国电力科学研究院)
研究在低查询预算硬标签场景下生成高质量对抗文本的难题,提出基于采样的LBA方法,整合先验与后验知识构建近似分布用于采样,实验证明该方法在多语言模型上显著优于基线,生成的对抗文本语义保留性和可理解性更佳。
2026-07-17 cs.AI cs.CL