GRISP: Guided Recurrent IRI Selection over SPARQL Skeletons
University of Freiburg(弗赖堡大学)
GRISP通过微调小型语言模型生成SPARQL骨架并迭代替换占位符,提升知识图谱问答性能,在Wikidata和Freebase基准测试中优于现有方法。
2026-07-28 cs.CL
SPARQL as a Foreign Language
Liber AI Research(莱伯人工智能研究院);University of Leipzig(莱比锡大学);HTWK Leipzig(莱比锡应用技术大学);University of Bonn(波恩大学)
在过去的几年里,关联数据云已经实现了超过1000亿个与多个领域相关的事实的规模。然而,访问这些信息对非专业用户来说是一个巨大的挑战。解决问题的方法,如关于关联数据的问答和链接发现,在增加信息获取方面发挥了重要作用。这些方法通常基于手工制作的和/或从数据观察中得出的统计模型。最近,基于称为seq 2seq的神经网络的深度学习架构已经显示出在将序列转换为序列方面实现了最先进的结果。在这个方向上,我们提出了神经SPARQL机器,这是一种端到端的深度架构,可以将任何自然语言表达式翻译成编码SPARQL查询的句子。我们的初步结果,仅限于选定的DBpedia类,表明神经SPARQL机是一个很有前途的方法问答的关联数据,因为它们可以处理已知的问题,如词汇不匹配和执行图形模式组成。
2020-05-05 cs.CL cs.DB
Kanbun-LM: Reading and Translating Classical Chinese in Japanese Methods by Language Models
Waseda University(早稻田大学)
针对日本汉文训读资源稀缺问题,本文构建首个文言文到Kanbun数据集,提出字符重排与机器翻译任务,并评测语言模型表现及评估方法。
2024-07-02 cs.CL
Translating Web Search Queries into Natural Language Questions
AI & Research, Microsoft(微软人工智能与研究部门)
用户经常查询一个搜索引擎与一个特定的问题,在头脑中,这些查询往往是关键字或子序列片段。例如,如果用户想知道“美国的首都是什么”的答案,他们很可能会查询“美国的首都”或“美国首都”或一些基于关键字的变体。例如,对于用户输入的查询“美国的首都”,最可能的问题意图是“美国的首都是什么?".在本文中,我们提出了一种方法来产生良好的形式自然语言问题从一个给定的基于关键字的查询,它具有相同的问题的意图查询。将基于关键字的Web查询转换为格式良好的问题有很多应用,其中一些应用于搜索引擎,社区问答(CQA)网站和机器人通信。我们发现了标准机器翻译(MT)任务之间的协同作用。我们使用了统计MT(SMT)和神经MT(NMT)模型来从查询中生成问题。我们已经观察到,MT模型在自动和人工评估方面表现良好。
2020-02-07 cs.AI cs.CL
Machine Translation in Pronunciation Space
Baidu Research(百度研究院);Oregon State University(俄勒冈州立大学)
机器翻译界的研究主要集中在文本空间的翻译上。然而,人类其实也擅长在发音空间中进行直接翻译。一些现有的翻译系统,例如同步机器翻译,通过在发音空间中直接翻译,本质上更自然,因此潜在地更鲁棒。在本文中,我们进行了大规模的实验上自建数据集约$20$ M En-Zh对文本句子和相应的发音句子。我们提出了三种新的翻译类别:$1)$将源语言的发音句子翻译成目标语言的发音句子P2P-Tran),$2)$将源语言的文本句子翻译成目标语言的发音句子(T2 P-Tran),以及$3)$将源语言的发音句子翻译成目标语言的文本句子(P2 T-Tran),并与传统的文本翻译(T2 T-Tran)进行比较。我们的实验清楚地表明,所有$4$类别的翻译具有可比的性能,具有小的,有时是可比较的差异。
2019-11-03 cs.CL
SPARQLing Database Queries from Intermediate Question Decompositions
HSE University(高等经济大学);Yandex(杨德克斯)
为了将自然语言问题转换为可执行的数据库查询,大多数方法依赖于完全注释的训练集。使用查询注释大型数据集是困难的,因为它需要查询语言专业知识。我们减少这种负担,使用接地在数据库中间的问题表示。这些表示更容易收集,并且最初在Break数据集中众包(Wolfson等人,2020年)。我们的管道由两部分组成:一个神经语义解析器,它将自然语言问题转换为中间表示和一个不可训练的转译器SPARQL查询语言(一种访问知识图谱和语义Web的标准语言)。我们选择SPARQL是因为它的查询在结构上更接近我们的中间表示(与SQL相比)。我们观察到,我们的模型在具有挑战性的Spider数据集上构建的查询的执行准确性与使用注释SQL查询训练的最先进的文本到SQL方法相当。我们的代码和数据是公开的(请参阅https://github.com/yandex-research/sparqling-queries)。
2022-05-31 cs.CL
On the Difficulty of Translating Free-Order Case-Marking Languages
Center for Language and Cognition(语言与认知中心);University of Groningen(格罗宁根大学)
识别使某些语言比其他语言更难建模的因素对于在未来的自然语言处理技术中实现语言平等至关重要。自由序格标记语言,如俄语、拉丁语或泰米尔语,在句法分析和主谓一致预测方面比固定序语言更具挑战性。在这项工作中,我们调查这类语言是否也更难以通过最先进的神经机器翻译模型(NMT)进行翻译。使用各种合成语言和新引入的翻译挑战集,我们发现,词序的灵活性在源语言只会导致一个非常小的损失NMT质量,即使核心动词参数变得不可能消除歧义的句子没有语义线索。后一个问题实际上通过增加大小写标记来解决。然而,在中等和低资源环境中,固定顺序语言的整体NMT质量仍然是无与伦比的。
2021-07-13 cs.CL
Conversational Lexicography: Querying Lexicographic Data on Knowledge Graphs with SPARQL through Natural Language
Department of Informatics University of Zurich(信息学院苏黎世大学);Department of Computational Linguistics University of Zurich(计算语言学系苏黎世大学)
本文针对非专家用户查询知识图谱词典数据的难题,提出多维分类体系和含120万映射的模板数据集,实验表明仅GPT-3.5-Turbo具备泛化能力,但稳健泛化仍面临挑战。
2025-05-26 cs.CL
SPBERT: An Efficient Pre-training BERT on SPARQL Queries for Question Answering over Knowledge Graphs
University of Science(科学大学);Case Western Reserve University(凯斯西储大学);National Cancer Institute(美国国家癌症研究所)
在本文中,我们提出了SPBERT,一个基于transformer的语言模型预训练的大量SPARQL查询日志。通过结合掩蔽语言建模目标和单词结构目标,SPBERT可以学习自然语言和SPARQL查询语言的通用表示。我们研究如何SPBERT和编码器-解码器架构可以适应基于知识的QA语料库。我们进行了详尽的实验上的两个额外的任务,包括SPARQL查询建设和回答动词化生成。实验结果表明,SPBERT可以获得令人满意的结果,在其中几个任务上获得了最先进的BLEU分数。
2021-06-30 cs.CL
Translating Phrases in Neural Machine Translation
Soochow University(苏州大学);Tencent AI Lab(腾讯人工智能实验室)
短语在自然语言理解和机器翻译中发挥着重要作用(Sag等人,2002; Villavicencio等人,2005年)。然而,很难将它们集成到当前逐词阅读和生成句子的神经机器翻译(NMT)中。在这项工作中,我们提出了一种方法来翻译NMT中的短语,通过将存储目标短语的短语存储器从基于短语的统计机器翻译(SMT)系统集成到NMT的编码器-解码器架构中。在每个解码步骤中,短语存储器首先由SMT模型重写,SMT模型利用NMT模型提供的上下文信息动态地生成相关目标短语。然后,所提出的模型读取短语记忆中的所有短语的概率估计。如果进行短语生成,则NMT解码器从存储器中选择适当的短语以执行短语翻译,并通过消耗所选短语中的单词来更新其解码状态。否则,NMT解码器如一般NMT解码器那样从词汇表生成单词。实验结果表明,该模型在不同的测试集上都取得了显著的提高。
2017-08-07 cs.CL
FRASE: Structured Representations for Generalizable SPARQL Query Generation
Polytechnique Montreal(蒙特利尔理工学院);Mila(米拉研究所)
本文提出FRASE方法,利用框架语义角色标注增强SPARQL查询生成,并构建LC-QuAD 3.0数据集,实验证明该方法在泛化场景下显著提升大型语言模型的生成性能。
2025-03-28 cs.AI cs.CL
Translating Neuralese
Computer Science Division(计算机科学系);University of California, Berkeley(加州大学伯克利分校)
最近已经提出了几种方法来学习通过可区分的通信信道进行协调的分散式深度多智能体策略。虽然这些政策对许多任务都是有效的,但对其诱导传播策略的解释仍然是一个挑战。在这里,我们建议通过翻译来解释代理的消息。与典型的机器翻译问题不同,我们没有并行数据可供学习。相反,我们开发了一个翻译模型的基础上的洞察力,代理消息和自然语言字符串意味着相同的事情,如果他们诱导相同的信念在一个听众的世界。我们提出的理论保证和经验证据表明,我们的方法保留了语义和语用的消息,确保通过翻译层进行通信的球员不会遭受实质性的损失,相对于球员的奖励与共同的语言。
2018-12-22 cs.CL cs.NE
Reducing the impact of out of vocabulary words in the translation of natural language questions into SPARQL queries
University of Calabria(卡拉布里亚大学)
对于不熟悉SPARQL查询语言的用户来说,公共知识库中的大量可用信息可能很复杂。SPARQL中自然语言问题的自动翻译有可能克服这个问题。现有的基于神经机器翻译的系统非常有效,但在识别训练集的词汇表之外(OOV)的单词时容易失败。在查询大型本体时,这是一个严重的问题。在本文中,我们结合命名实体链接,命名实体识别,神经机器翻译执行自动翻译的自然语言的问题到SPARQL查询。我们通过在Monument、QALD-9和LC-QuAD v1上运行实验,证明了我们的方法比现有方法对OOV词更有效和更有弹性,这些数据集是DBpedia上问答的知名数据集。
2021-11-04 cs.CL cs.IR cs.LG
GGC: Selective Query Correction for Reliable Text-to-SPARQL Generation
Nanyang Technological University(南洋理工大学);Institute of High Performance Computing, Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局高性能计算研究所)
该研究针对LLM生成Text-to-SPARQL查询不可靠的问题,提出GGC框架,通过选择性修正高风险查询,在MCQA数据集上提升准确率并降低推理开销。
2026-07-31 cs.CL
SPARQL-LLM: Real-Time SPARQL Query Generation from Natural Language Questions
SIB Swiss Institute of Bioinformatics(瑞士生物信息学研究所);University of Zurich(苏黎世大学)
SPARQL-LLM通过轻量级元数据方法,实现了从自然语言到SPARQL查询的高效生成,提升了准确性和效率,适用于实时低成本应用。
2026-09-25 cs.AI cs.CL cs.IR
Translating away Translationese without Parallel Data
Saarland University(萨尔兰大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);AppTek GmbH(AppTek公司)
本文提出一种基于风格迁移的自监督与无监督相结合的方法,在不依赖平行数据的情况下减少翻译文本中的翻译腔,实验证明该方法能将翻译腔分类准确率降至随机水平,同时保持内容与流畅性。
2023-10-28 cs.CL
Using Linguistic Analysis to Translate Arabic Natural Language Queries to SPARQL
The Islamic University of Gaza(伊斯兰大学(加沙))
语义网基于逻辑的机器可理解的框架往往挑战天真的用户,当他们试图查询基于本体的知识库。现有的研究工作已经接近这个问题,通过引入自然语言(NL)接口的本体。这些NL接口具有基于NL用户查询构造SPARQL查询的能力。然而,大多数努力仅限于用英语表达的查询,并且它们通常受益于英语NLP工具的进步。然而,很少有研究已经做了支持查询的阿拉伯语内容的语义Web上使用NL查询。本文提出了一种独立于领域的方法,利用语言分析将阿拉伯语NL查询转换为SPARQL。基于对名词短语(NPs)的特殊考虑,我们的方法使用语言解析器从阿拉伯语解析树中提取NPs和关系,并将它们与底层本体进行匹配。然后,它利用本体中的知识将NP分组为基于三重的表示。通过提取目标和修饰符,并将它们解释为SPARQL,最终生成SPARQL查询。对高级语义特征包括否定、连词和转折修饰语的解释也得到了支持。使用OWL测试数据和查询数据集对该方法进行了验证,结果证实了该方法将阿拉伯语NL查询转换为SPARQL的可行性。
2015-08-06 cs.AI cs.CL cs.DB
Learning Lexical Entries for Robotic Commands using Crowdsourcing
Carnegie Mellon University(卡内基梅隆大学)
自然语言中的机器人命令通常包含语义相似但句法不同的各种空间描述。由于自然语言表达的高度灵活性,将这种句法变体映射到机器人可以理解的语义概念是具有挑战性的。为了解决这个问题,我们使用众包收集机器人导航和操作任务的命令。我们进一步定义了机器人语言,并使用生成式机器翻译模型将机器人命令从自然语言翻译成机器人语言。本文的主要目的是利用众包平台模拟人与机器人之间的交互过程,并探讨利用释义将自然语言翻译成机器人语言的可能性。
2016-11-01 cs.CL
Reducing Hallucinations in Language Model-based SPARQL Query Generation Using Post-Generation Memory Retrieval
Polytechnique Montréal(蒙特利尔理工学院);Mila - Quebec AI Institute(魁北克人工智能研究院);Canada CIFAR AI Chair(加拿大CIFAR人工智能 chair)
本文提出PGMR框架,通过生成后记忆检索减少语言模型生成SPARQL查询时的URI幻觉,提升查询准确性和系统鲁棒性。
2026-01-28 cs.CL
The Role of Output Vocabulary in T2T LMs for SPARQL Semantic Parsing
Universität Hamburg(汉堡大学);Indian Institute of Technology (BHU)(印度理工学院(瓦拉纳西))
本研究分析了T2T模型在SPARQL语义解析中输出词汇表的作用,发现将查询词汇表替换为更贴合LM分词器的词汇表,可在GrailQA数据集上获得17%的绝对性能提升。
2023-05-24 cs.CL
Selecting Machine-Translated Data for Quick Bootstrapping of a Natural Language Understanding System
Amazon(亚马逊);University of Trento(特伦托大学)
本文研究了使用机器翻译(MT)来引导用于大规模语音控制设备的用例的新语言的自然语言理解(NLU)系统。我们的目标是减少为新语言获得注释语料库所需的成本和时间,同时仍然有足够大的用户请求覆盖范围。不同的方法过滤MT数据,以保持话语,提高NLU性能和语言特定的后处理方法进行了研究。这些方法在一个大规模的NLU任务中进行了测试,将大约1000万个训练话语从英语翻译成德语。结果表明,使用MT数据在基于语法和内部数据汇集基线上有很大的改进,同时大大减少了手动工作。滤波和后处理方法都进一步改善了结果。
2018-05-23 cs.CL
Toward Improving Health Literacy in Patient Education Materials with Neural Machine Translation Models
University of Pittsburgh(匹兹堡大学);North Allegheny Intermediate High School(北阿勒格尼中级高中);The Hong Kong Polytechnic University(香港理工大学);Weill Cornell Medicine(威尔康奈尔医学院)
健康素养是《健康人2030》的核心重点,这是美国国家目标和目的的第五次迭代。健康素养低的人通常很难理解健康信息,遵循就诊后的指示和使用处方,这导致更差的健康结果和严重的健康差距。在这项研究中,我们建议利用自然语言处理技术,通过自动翻译给定句子中的文盲语言来提高患者教育材料中的健康素养。我们从四个在线健康信息网站:MedlinePlus.gov,Drugs.com,Mayoclinic.org和Reddit.com上收集了患者教育材料。我们分别在银标准训练数据集和金标准测试数据集上训练和测试了最先进的神经机器翻译(NMT)模型。实验结果表明,双向长短期记忆(BiLSTM)NMT模型优于双向编码器表示从Transformers(BERT)为基础的NMT模型。我们还通过比较句子中健康文盲语言的比例来验证NMT模型在翻译健康文盲语言方面的有效性。所提出的NMT模型能够识别正确的复杂单词并简化为外行语言,但同时该模型存在句子完整性,流畅性,可读性以及难以翻译某些医学术语的问题。
2022-09-14 cs.CL
A Comprehensive Evaluation of Neural SPARQL Query Generation from Natural Language Questions
Polytechnique Montreal(蒙特利尔综合理工学院);LAMA-WeST Lab(LAMA-WeST实验室)
本文系统评估了基于神经机器翻译的SPARQL查询生成方法,证明复制机制和数据标注策略能显著提升预训练及非预训练语言模型的URI生成准确性,而大型语言模型表现未达预期。
2024-01-11 cs.CL cs.LG
Machine Translation between Spoken Languages and Signed Languages Represented in SignWriting
University of Zurich(苏黎世大学);Bar-Ilan University(巴伊兰大学)
本文介绍了新的机器翻译(MT)系统之间的口头和签署的语言,其中签署的语言表示在SignWriting,手语书写系统的工作。我们的工作旨在解决当前MT系统中缺乏对签名语言的开箱即用支持的问题,并基于SignBank数据集,该数据集包含口语文本和SignWriting内容。我们引入了新的方法来解析,分解,解码和评估SignWriting,利用神经因子MT的想法。在双语设置中-从美国手语翻译到(美国)英语-我们的方法实现了超过30 BLEU,而在两种多语言设置中-在口语和手语之间双向翻译-我们实现了超过20 BLEU。我们发现,用于提高口语翻译的常见MT技术同样会影响手语翻译的性能。这些发现验证了我们使用的中间文本表示的签名语言,包括他们在自然语言处理的研究。
2023-02-23 cs.CL
Text-to-SPARQL Generation with Reinforcement Learning: A GRPO-based Approach on DBLP
本文研究了在学术领域中,基于强化学习的零样本文本到SPARQL生成方法,通过GRPO算法在DBLP-QuAD上训练小型指令微调语言模型,并与监督学习的DoRA微调基线进行比较。
2026-09-14 cs.CL
SPARQL Generation: an analysis on fine-tuning OpenLLaMA for Question Answering over a Life Science Knowledge Graph
Department of Ecology and Evolution, University of Lausanne, Switzerland(生态与进化系,洛桑大学,瑞士);SIB Swiss Institute of Bioinformatics, Lausanne, Switzerland(瑞士生物信息学研究所,洛桑,瑞士)
针对特定领域知识图谱问答任务中问题转SPARQL查询训练数据稀缺的问题,本研究提出端到端数据增强方法并评估OpenLlama微调策略,结合语义线索(如有意义变量名)在Bgee图谱上使性能提升33%。
2024-02-07 cs.AI cs.CL cs.DB
XNLI 2.0: Improving XNLI dataset and performance on Cross Lingual Understanding (XLU)
JSS Academy of Technical Education(JSS技术教育学院)
自然语言处理系统严重依赖于注释数据的可用性来训练实用模型。首先,模型在英语数据集上训练。近年来,由于使用不同语言工作的必要性急剧增加,在多语言理解方面取得了重大进展。其中一个突出的观点是,由于现在有这么多预先训练的多语言模型,我们可以利用它们来完成跨语言理解任务。使用跨语言理解和自然语言推理,可以训练模型,其应用扩展到训练语言之外。我们可以利用机器翻译的强大功能,跳过将数据集从一种语言翻译成另一种语言这一令人厌烦的部分。在这项工作中,我们专注于通过将MNLI数据集重新翻译成XNLI中存在的所有14种不同语言来改进原始XNLI数据集,包括使用Google翻译的XNLI测试和开发集。我们还通过训练所有15种语言的模型并分析它们在自然语言推理任务上的性能来进行实验。然后,我们扩大我们的边界,以调查我们是否可以通过用英语以外的语言训练模型来提高低资源语言(如斯瓦希里语和乌尔都语)的性能。
2023-01-16 cs.CL cs.LG
Neural Machine Translation for Query Construction and Composition
University of Leipzig(莱比锡大学);Bonn University(波恩大学)
最近,对具有知识库的问答的研究越来越多地使用深度架构。在这个扩展的摘要中,我们研究了神经机器翻译范式在问题解析中的应用。我们采用序列到序列模型来学习SPARQL图查询语言中的图模式及其组合。我们期望采用半监督方法,而不是通过问答对来诱导程序,其中问题和查询之间的对齐是通过模板建立的。我们认为,语言话语的覆盖面可以扩大使用后期著名的作品在自然语言生成。
2018-07-09 cs.AI cs.CL cs.DB
Knowledge Graph Question Answering via SPARQL Silhouette Generation
IBM Research(IBM研究院)
随着大规模知识图谱的出现,知识图谱问答成为自然语言处理的一个重要研究领域。最近,基于神经机器翻译的方法正在获得动力,将自然语言查询转换为结构化查询语言,从而解决KGQA任务。然而,这些方法中的大多数都与词汇表外的单词斗争,其中在训练时间内看不到测试实体和关系。在这项工作中,我们提出了一个模块化的两阶段神经架构来解决KGQA任务。第一阶段为输入问题生成目标SPARQL的草图,称为SPARQL轮廓。这包括(1)噪声模拟器,以促进词汇表外的单词和减少词汇量(2)seq 2seq模型的文本到SPARQL轮廓生成。第二阶段是神经图搜索模块。在第一阶段中生成的SPARQL轮廓在第二阶段中通过在预测结构中替换精确关系来提取。我们通过设计一个噪声模拟器来模拟理想和现实的场景。实验结果表明,在第一阶段中生成的SPARQL轮廓的质量是突出的理想的情况下,但对于现实的情况下(即嘈杂的链接器),所得到的SPARQL轮廓的质量急剧下降。然而,我们的神经图搜索模块大大恢复了它。我们表明,我们的方法可以实现合理的性能,提高LC-QuAD-1数据集的3.72%F1的裕度。我们相信,我们提出的方法是新颖的,并将导致动态KGQA解决方案,适合于实际应用。
2021-09-06 cs.AI cs.CL cs.IR
NLQxform: A Language Model-based Question to SPARQL Transformer
University of Zurich(苏黎世大学)
针对学术知识图谱查询难题,提出NLQxform系统,利用BART模型将自然语言问题转换为SPARQL查询,在DBLP-QUAD任务上以F1=0.85排名第一。
2023-11-08 cs.AI cs.CL
On Translating Technical Terminology: A Translation Workflow for Machine-Translated Acronyms
Northeastern University(东北大学);Institute for Experiential AI(体验式人工智能研究院)
本文针对机器翻译系统在缩略词翻译上高达50%的错误率,提出在源语言到目标语言的翻译工作流中增加额外步骤,通过构建新缩略词语料库并采用基于搜索的阈值算法,相比Google Translate和OpusMT实现了近10%的性能提升。
2024-09-26 cs.AI cs.CL cs.LG
NeurIPS 2020 NLC2CMD Competition: Translating Natural Language to Bash Commands
IBM Research(IBM研究院);Vanderbilt University(范德堡大学);University of California, Davis(加州大学戴维斯分校);Facebook AI(Facebook人工智能研究院);KU Leuven(鲁汶大学);Salesforce Research(Salesforce研究院)
在NeurIPS 2020上举办的NLC2CMD竞赛旨在将自然语言处理的强大功能引入命令行。参与者的任务是构建模型,可以将英语命令行任务的描述转换为Bash语法。这是一份关于竞争的报告,其中包含任务、指标、数据、尝试的解决方案和经验教训的详细信息。
2021-08-08 cs.CL
Text-to-SPARQL Goes Beyond English: Multilingual Question Answering Over Knowledge Graphs through Human-Inspired Reasoning
WSE Research Group, Leipzig University of Applied Sciences(莱比锡应用科学大学WSE研究组);DICE Research Group, University of Paderborn(波德恩堡大学DICE研究组)
针对多语言知识图谱问答,本文提出受人类启发的 mKGQAgent 框架,通过 LLM 智能体协同完成规划、实体链接与查询精化,并在 Text2SPARQL 2025 两项基准中夺冠。
2025-07-22 cs.AI cs.CL cs.IR
Modern Baselines for SPARQL Semantic Parsing
Universität Hamburg(汉堡大学);Indian Institute of Technology (BHU)(印度理工学院(巴纳拉斯印度教大学));Microsoft Research(微软研究院)
本研究探索预训练语言模型(BART、T5、PGNs)在知识图谱SPARQL语义解析任务中的基线性能,证明T5在LC-QuAD数据集上达到最优,并支持输入复制到输出的新解析范式。
2023-09-14 cs.CL cs.IR
SPARQL Generation with Entity Pre-trained GPT for KG Question Answering
National Institute of Informatics (NII)(国立信息学研究所)
该研究面向知识图谱问答任务,以实体链接正确为前提,提出基于CWA下所有实体预训练GPT模型以生成SPARQL查询,找出了少/零样本下的难点,在3-shots测试中获62.703%的精确匹配准确率。
2024-02-01 cs.AI cs.CL cs.DB
SPARQL Query Generation with LLMs: Measuring the Impact of Training Data Memorization and Knowledge Injection
img/wse-cube-no-shadow.png Web \& Software Engineering (WSE) Research Group, Leipzig University of Applied Sciences (HTWK Leipzig), Leipzig, Germany CBZ München GmbH, Heilbronn, Germany
本文提出一种通过零样本、知识注入和匿名化知识注入三种条件生成SPARQL查询来评估大语言模型质量的方法,首次衡量训练数据记忆对问答性能的影响,该方法可移植且适用于任意知识图谱。
2025-07-18 cs.AI cs.CL cs.IR
From Graph Retrieval to Schema Realization: Counterfactual Validation for Text-to-SPARQL over Heterogeneous Knowledge Graphs
University of Bristol(布里斯托大学)
提出SchemaForge框架,通过问题条件化的模式切片对齐和反事实验证,在异构知识图谱上提升文本到SPARQL查询生成的执行准确率。
2026-06-03 cs.AI cs.CL
A Universal Question-Answering Platform for Knowledge Graphs
Concordia University(康考迪亚大学);KAUST(阿卜杜拉国王科技大学)
本文提出通用问答系统 KGQAn,通过神经序列到序列模型将自然语言问题转换为中间抽象表示,并利用即时链接器在查询时映射到特定知识图谱的 SPARQL 查询,无需预处理即可在多个真实知识图谱上大幅超越现有方法。
2023-08-08 cs.AI cs.CL cs.DB
Translating Navigation Instructions in Natural Language to a High-Level Plan for Behavioral Robot Navigation
Stanford University(斯坦福大学);Yale University(耶鲁大学);P. Universidad Católica de Chile(智利天主教大学)
我们提出了一个端到端的深度学习模型,用于将自由形式的自然语言指令转换为行为机器人导航的高级计划。我们使用注意力模型来连接来自用户指令和环境的拓扑表示的信息。我们在一个包含10,050对导航指令的新数据集上评估了我们的模型的性能。我们的模型显著优于基线方法。此外,我们的研究结果表明,有可能利用环境地图作为相关的知识库,以促进自由形式的导航指令的翻译。
2018-09-24 cs.AI cs.CL
Spider4SPARQL: A Complex Benchmark for Evaluating Knowledge Graph Question Answering Systems
Zurich University of Applied Sciences(苏黎世应用科技大学);University of Fribourg(弗里堡大学)
本文提出Spider4SPARQL,一个包含9,693个自然语言问题和4,721个复杂SPARQL查询的新基准,覆盖138个领域,用于评估知识图谱问答系统,现有系统最高仅达45%执行准确率。
2023-12-08 cs.CL
GRASP: Generic Reasoning And SPARQL Generation across Knowledge Graphs
University of Freiburg(弗赖堡大学)
GRASP通过大型语言模型实现跨知识图谱的通用推理与SPARQL生成,无需微调,在多个基准中达到先进水平。
2026-01-09 cs.CL cs.DB cs.IR
Translating Natural Language to SQL using Pointer-Generator Networks and How Decoding Order Matters
University of Bonn(波恩大学);Ruhr University Bochum(波鸿鲁尔大学)
将自然语言转换为SQL查询用于基于表的问答是一个具有挑战性的问题,并且已经受到研究界的极大关注。在这项工作中,我们扩展了一个指针生成器,并探讨了顺序事项的语义解析的SQL问题。尽管我们的模型是一个通用的指针生成器的简单扩展,它优于早期的作品WikiSQL,并保持竞争力,同时引入,更复杂的模型。此外,我们提供了一个更深入的调查潜在的订单事项的问题,可能会出现由于有多个正确的解码路径,并调查使用的增强以及在这种情况下的动态oracle。
2018-11-13 cs.AI cs.CL
Leveraging LLMs in Scholarly Knowledge Graph Question Answering
Universität Hamburg(汉堡大学);Leuphana Universität Lüneburg(吕讷堡大学)
本文提出一种利用大语言模型以少样本方式生成SPARQL查询的学术知识图谱问答系统,在SciQA基准上取得99.0%的F1分数。
2023-11-16 cs.AI cs.CL cs.DB
Translating Questions into Answers using DBPedia n-triples
Insight Centre for Data Analytics(Insight数据分析中心);National University of Ireland Galway(爱尔兰国立大学戈尔韦分校)
在本文中,我们提出了一个问答系统,使用神经网络来解释从DBpedia库中学习到的问题。我们使用从DBpedia Infobox Properties中提取的n个三元组训练序列到序列神经网络模型。由于这些属性不代表自然语言,我们进一步使用电影字幕的问答对话。虽然自动评估显示与黄金标准集相比,生成的答案重叠较低,但手动检查显示实验结果有希望进一步开展工作。
2018-03-07 cs.CL
AMUSE: Multilingual Semantic Parsing for Question Answering over Linked Data
Bielefeld University(比勒费尔德大学)
在RDF数据上回答自然语言问题的任务近年来受到了广泛的关注,特别是在一系列QALD基准的背景下。该任务包括将自然语言问题映射到可执行形式,例如SPARQL,以便可以从给定的KB中提取答案。到目前为止,提出的大多数系统都是i)单语的,ii)依赖于一组硬编码的规则来解释问题并将其映射到SPARQL查询中。我们提出了第一个多语言QALD管道,该管道从训练数据中导出一个模型,用于将自然语言问题映射为逻辑形式作为概率推理。特别是,我们的方法学会了映射通用的句法依赖表示的语言独立的逻辑形式的基础上DUDES(依赖性为基础的未充分指定的话语表示结构),然后映射到SPARQL查询作为确定性的第二步。我们的模型建立在依赖于从依赖图和相应的语义表示中提取的特征的因子图上。我们依靠近似推理技术,特别是马尔可夫链蒙特卡罗方法,以及样本排名使用排名目标更新参数。我们的重点在于开发的方法,克服词汇差距,并提出了一种新的组合机器翻译和词嵌入的方法,为此目的。作为我们方法的概念证明,我们在英语,德语和西班牙语的QALD-6数据集上评估了我们的方法。
2018-02-26 cs.AI cs.CL
Translating Natural Language Instructions for Behavioral Robot Navigation with a Multi-Head Attention Mechanism
Pontificia Universidad Catolica de Chile(智利天主教大学);Millennium Institute for Foundational Research on Data(千年基础数据研究所)
我们提出了一个多头注意力机制作为一个混合层的神经网络模型,将自然语言转换为一个高层次的行为语言的室内机器人导航。我们遵循由(Zang et al.,2018a),提出使用导航图作为任务的知识库。我们的研究结果显示,在以前看不见的环境中翻译指令时,性能有了显着的提高,因此,提高了模型的泛化能力。
2020-06-07 cs.CL cs.LG cs.RO
"How to best say it?" : Translating Directives in Machine Language into Natural Language in the Blocks World
SRI International(SRI国际)
我们提出了一种方法来生成最佳的自然语言块放置指令由机器的规划器在人与代理的互动过程中的块世界。非用户友好的机器指令,例如,move(ObjId,toPos)被转换为视觉上和上下文上接地的引用表达式,用户更容易理解。我们描述了一个算法,逐步和生成转换的机器的指令ECI(基本可组合的想法)空间,产生许多替代版本的指令。然后,我们定义一个成本函数来评估这些替代方案的容易理解程度,并选择最佳选项。这个成本函数的参数是从测量话语到动作定时的用户研究中根据经验得出的。
2021-07-14 cs.CL cs.HC
Translating Natural Language Instructions to Computer Programs for Robot Manipulation
Indian Institute of Science(印度科学学院);Robert Bosch Center for Cyber Physical Systems(罗伯特·博世网络物理系统中心)
非常希望与人类一起工作的机器人能够理解自然语言的指令。现有的语言条件模仿学习模型直接从图像观察和指令文本中预测执行器命令。而不是直接预测执行器命令,我们建议将自然语言指令翻译为Python函数,该函数通过访问对象检测器的输出来查询场景并控制机器人执行指定的任务。这使得在计算对机器人的命令时能够使用诸如约束求解器之类的不可微模块。此外,在这种设置中的标签是信息量更大的计算机程序,它捕捉了专家的意图,而不是遥控演示。我们表明,所提出的方法比训练一个神经网络直接预测机器人的行动。
2021-03-20 cs.CL cs.LG cs.RO
Translating Videos to Natural Language Using Deep Recurrent Neural Networks
UT Austin(德克萨斯大学奥斯汀分校);UMass Lowell(马萨诸塞大学洛厄尔分校);UC Berkeley(加州大学伯克利分校);ICSI(国际计算机科学研究所)
解决视觉符号接地问题一直是人工智能的目标。随着最近在静态图像中自然语言深度学习方面的突破,该领域似乎正在向这一目标迈进。在本文中,我们提出使用具有卷积和递归结构的统一深度神经网络将视频直接翻译为句子。描述的视频数据集是稀缺的,大多数现有的方法已被应用到玩具领域与一个小词汇的可能的话。通过从120万多张带有类别标签的图像和10万多张带有标题的图像中转移知识,我们的方法能够创建具有大词汇量的开放域视频的句子描述。我们比较我们的方法与最近的工作,使用语言生成指标,主语,动词和宾语的预测准确性,和人的评价。
2015-04-30 cs.CL cs.CV
SPARKLE: Enhancing SPARQL Generation with Direct KG Integration in Decoding
Samsung Research(三星研究院)
SPARKLE提出一种端到端NL2SPARQL框架,在解码中直接集成知识图谱结构,显著减少无效查询生成,并在多个KBQA基准上取得最优或接近最优结果。
2024-06-29 cs.AI cs.CL cs.DB
Translating Human Mobility Forecasting through Natural Language Generation
RMIT University(皇家墨尔本理工大学);University of Waterloo(滑铁卢大学)
现有的人员流动预测模型遵循时间序列预测模型的标准设计,其将一系列数值作为输入以生成数值作为预测。虽然将其视为回归问题似乎很简单,但在设计有效的移动性预测模型时,结合各种上下文信息(例如每个感兴趣的地方(POI)的语义类别信息)是必要的步骤,并且通常是瓶颈。相对于典型的方法,我们把预测作为一个翻译问题,并提出了一个新的预测通过语言生成管道。本文的目的是解决人类流动性预测问题作为一个语言翻译任务,在序列到序列的方式。首先引入了一个迁移率到语言模板来描述数字迁移率数据作为自然语言句子。人类移动性预测翻译任务的核心直觉是将输入的移动性描述语句转换为可以从中获得预测目标的未来移动性描述。在这条管道下,设计了一个两个分支的网络,翻译人类流动预测。具体地说,它包括一个用于语言生成的主分支和一个用于直接学习移动模式的辅助分支。在培训过程中,我们开发了一种动量模式,以便更好地连接和培训两个分支。在三个真实世界数据集上的大量实验表明,所提出的预测模型是有效的,并提出了一种新的革命性的方法来预测人类的流动性。
2021-12-13 cs.AI cs.CL
Outlining and Filling: Hierarchical Query Graph Generation for Answering Complex Questions over Knowledge Graphs
Southeast University(东南大学)
查询图构造的目的是在KG上构造正确的可执行SPARQL来回答自然语言问题。尽管最近的方法使用基于神经网络的查询图排序取得了良好的结果,但是当处理更复杂的问题时,它们遭受三个新的挑战:1)复杂的SPARQL语法,2)巨大的搜索空间,以及3)局部模糊的查询图。在本文中,我们提供了一种新的解决方案。作为一个准备,我们扩展了查询图处理每个SPARQL子句作为一个子图组成的顶点和边,并定义了一个统一的图形语法称为AQG来描述查询图的结构。基于这些概念,我们提出了一种新的端到端模型,执行分层自回归解码生成查询图。高级解码生成AQG作为约束,以修剪搜索空间并减少局部模糊查询图。底层解码通过从预先准备的候选中选择合适的实例来填充AQG中的槽来完成查询图的构造。实验结果表明,我们的方法大大提高了复杂KGQA基准上的SOTA性能。配备了预训练的模型,我们的方法的性能得到了进一步提高,实现了所有三个数据集的SOTA。
2022-09-11 cs.AI cs.CL
Translating Natural Language to Planning Goals with Large-Language Models
National University of Singapore(新加坡国立大学)
最近的大语言模型(LLM)在各种自然语言处理(NLP)任务上表现出了卓越的性能,导致人们对它们在各个领域的适用性感到非常兴奋。不幸的是,最近的工作也表明,LLM无法执行准确的推理,也无法解决规划问题,这可能会限制它们对机器人相关任务的有用性。在这项工作中,我们的中心问题是LLM是否能够将自然语言中指定的目标转换为结构化的规划语言。如果是这样的话,LLM可以作为规划者和人类用户之间的自然接口;翻译后的目标可以交给在规划方面非常有效的独立于领域的AI规划者。我们对GPT 3.5变体的实证结果表明,LLM更适合翻译而不是规划。我们发现,LLM能够利用常识知识和推理,从未指定的目标中提供缺失的细节(自然语言中经常出现这种情况)。然而,我们的实验也表明,LLM可能无法在涉及数字或物理的任务中生成目标(例如,空间)推理,并且LLM对所使用的提示敏感。因此,这些模型很有希望翻译成结构化规划语言,但在使用时应注意。
2023-02-10 cs.AI cs.CL cs.RO
ConformalNL2LTL: Translating Natural Language Instructions into Temporal Logic Formulas with Conformal Correctness Guarantees
Department of Electrical and Systems Engineering, Washington University in St Louis(华盛顿大学圣路易斯分校电子与系统工程系);Department of Computer Science, University of Southern California(南加州大学计算机科学系)
ConformalNL2LTL通过主辅模型协作和符合预测,将自然语言指令转换为时序逻辑公式并保证正确性。
2026-02-20 cs.AI cs.CL cs.LG