Improving Symbolic Translation of Language Models for Logical Reasoning
本文通过微调和增量推理框架,提升小型语言模型在逻辑推理中的符号翻译能力,减少错误率并提高推理性能。
2026-01-14 cs.AI cs.CL
VirusT5: Harnessing Large Language Models to Predicting SARS-CoV-2 Evolution
North Dakota State University(北达科他州立大学)
本研究利用大语言模型VirusT5将SARS-CoV-2代际突变视为翻译任务,成功捕获病毒进化背后的突变模式并预测未来变异株,确立了“突变即翻译”的新范式。
2024-12-20 cs.AI q-bio.QM
Grammar-Forced Translation of Natural Language to Temporal Logic using LLMs
Department of Electrical and Computer Engineering, University of Florida, Gainesville, Florida(电子与计算机工程系,佛罗里达大学,盖恩斯维尔,佛罗里达);Knight Foundation School of Computing and Information Sciences, Florida International University, Miami, Florida(骑士基金会计算与信息科学学院,佛罗里达国际大学,迈阿密,佛罗里达)
本文提出GraFT框架,通过限制输出标记集提升自然语言到时序逻辑的翻译准确率和领域外翻译能力。
2025-12-18 cs.AI cs.CL
Harnessing Artificial Intelligence to Combat Online Hate: Exploring the Challenges and Opportunities of Large Language Models in Hate Speech Detection
Arizona State University(亚利桑那州立大学)
本研究通过文献综述与实证分析,探讨大语言模型在仇恨言论检测中的能力与限制,识别表现优异的模型及其影响因素。
2024-03-12 cs.AI cs.CL
Divide and Translate: Compositional First-Order Logic Translation and Verification for Complex Logical Reasoning
KAIST(韩国科学技术院);MIT(麻省理工学院)
本文提出 CLOVER 方法,通过将自然语言句子组合式地解析并翻译为一阶逻辑公式,再结合 SAT 求解器进行语义验证,从而提升 LLM 在复杂逻辑推理任务上的表现,并在七个基准上取得最优结果。
2025-02-25 cs.CL
OMPILOT: Harnessing Transformer Models for Auto Parallelization to Shared Memory Computing Paradigms
Department of Computer Science, Iowa State University, Ames, IA, USA(伊阿华州立大学计算机科学系);Mako AI, USA(Mako AI公司);Argonne National Laboratory, USA(阿贡国家实验室);Code Metal, USA(Code Metal公司);Intel Labs, USA(英特尔实验室);Cisco Outshift, USA(Cisco Outshift公司)
针对代码翻译中共享内存并行化的需求,本文提出领域特定编码器-解码器Transformer模型OMPILOT,通过自定义预训练目标与函数级语义捕捉,实现C++到OpenMP的转换,并设计OMPBLEU指标评估其性能。
2025-11-11 cs.AI cs.DC cs.LG
From Hypothesis to Premises: LLM-based Backward Logical Reasoning with Selective Symbolic Translation
本文提出HBLR框架,通过结合自信符号翻译与假设驱动反向推理,提升逻辑推理的准确性和效率。
2025-12-03 cs.CL
Harnessing the Power of LLMs: Automating Unit Test Generation for High-Performance Computing
University Of Houston(休斯顿大学);Kent State University(肯特州立大学)
针对高性能并行科学软件单元测试成本高、现有工具效果差的问题,本文利用 Davinci 与 ChatGPT 为 C++ 并行程序自动生成单元测试,验证了 LLM 的有效性及局限。
2024-07-06 cs.AI cs.SE
Learning Semantic Structure through First-Order-Logic Translation
IRIT(法国图卢兹计算机科学、电子与通信研究所);CNRS(法国国家科学研究中心)
针对Transformer语言模型易混淆谓词与对应宾语的问题,该研究探索问答、一阶逻辑翻译两项任务及提示、微调两种范式,发现大语言模型的一阶逻辑翻译更适合学习谓词论元结构。
2024-10-04 cs.CL cs.LG
VDebugger: Harnessing Execution Feedback for Debugging Visual Programs
University of California, Los-Angeles(加州大学洛杉矶分校)
本文提出VDebugger框架,通过逐步跟踪执行反馈来定位和调试视觉程序中的逻辑错误,在多个数据集上提升了下游任务准确率,并展现出对未见任务的泛化能力。
2024-10-04 cs.CL cs.CV
Dynamic Code Orchestration: Harnessing the Power of Large Language Models for Adaptive Script Execution
Canisius University(卡尼修斯大学)
本研究探索利用大型语言模型动态执行书面指令,以文本编辑器为实例,实现无需静态可执行文件的全新编程与安全范式。
2024-08-07 cs.AI cs.HC cs.SE
LOGICPO: Efficient Translation of NL-based Logical Problems to FOL using LLMs and Preference Optimization
Indeed Inc.(Indeed公司);Singapore University of Technology and Design(新加坡科技设计大学);IIT Kharagpur(印度理工学院卡哈拉格普尔分校)
本文提出LOGICPO框架,通过构建偏好优化数据集并采用DPO和KTO微调开源LLM,将自然语言逻辑问题转换为FOL,使Phi-3.5在逻辑正确性和语法错误率上优于GPT-3.5-turbo。
2025-06-23 cs.AI cs.LG
Adaptive Selection of Symbolic Languages for Improving LLM Logical Reasoning
本文提出一种自适应选择符号语言的方法,通过在翻译前为不同自然语言逻辑推理问题匹配最优符号语言(一阶逻辑、逻辑编程或布尔可满足性),显著提升了LLM的逻辑推理性能。
2025-10-12 cs.AI
Harnessing LLM to Attack LLM-Guarded Text-to-Image Models
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
针对文本到图像模型安全过滤器,提出LLM驱动的多智能体方法DACA,通过将绘图意图重述为视觉组件的良性描述生成对抗性提示,成功绕过DALL-E 3和Midjourney过滤器,单次攻击成功率最高达76.7%和64%,复用攻击达98%和84%,并开源代码数据集。
2024-11-23 cs.AI
XiHeFusion: Harnessing Large Language Models for Science Communication in Nuclear Fusion
Anhui University(安徽大学);Institute of Plasma Physics, Chinese Academy of Sciences(中国科学院等离子体物理研究所);Tsinghua University(清华大学)
本文提出核聚变领域首个大模型XiHeFusion,基于Qwen2.5-14B监督微调,融合多源核聚变知识并通过思维链增强推理,经180+问题测试表现优异,模型已开源。
2025-02-08 cs.AI cs.CV
In-Context Explainers: Harnessing LLMs for Explaining Black Box Models
University of Florida(佛罗里达大学);Harvard University(哈佛大学)
本研究提出In-Context Explainers框架,通过三种利用大语言模型上下文学习能力的方法解释黑箱预测模型,实验证明其效果可媲美当前最优的事后解释器。
2024-07-11 cs.AI cs.CL cs.LG
HealMe: Harnessing Cognitive Reframing in Large Language Models for Psychotherapy
School of Computer Science, Wuhan University(武汉大学计算机学院);Jiangxi Normal University(江西师范大学);The University of Manchester(曼彻斯特大学);The FinAI(FinAI机构)
HealMe模型利用大语言模型,通过基于心理治疗框架的共情对话引导来访者区分情境与感受、探索替代观点,并采用专家设计的评估指标,在共情、引导和逻辑连贯性上优于现有方法。
2024-07-29 cs.AI cs.CL cs.HC
Do LLMs Really Struggle at NL-FOL Translation? Revealing their Strengths via a Novel Benchmarking Strategy
针对现有NL-FOL翻译评估存在局限、LLM相关能力结论矛盾的问题,本研究提出可区分真逻辑理解与表层模式匹配的评估协议,发现对话导向型顶尖LLM具备较强NL-FOL翻译能力。
2025-11-14 cs.AI cs.CL cs.LO
Strategies for Improving NL-to-FOL Translation with LLMs: Data Generation, Incremental Fine-Tuning, and Verification
Monash University(莫纳什大学);VinUniversity(文大)
本文针对LLM在自然语言到一阶逻辑翻译中的错误,构建了ProofFOL数据集,并提出包含数据增强与验证的增量微调框架,使LLaMA-2和Mistral等小模型在ProofWriter和ProntoQA上达到SOTA。
2024-09-24 cs.CL
Harnessing Deep Neural Networks with Logic Rules
School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机科学学院)
将深度神经网络与结构化逻辑规则相结合是期望的,以利用灵活性并减少神经模型的不可解释性。我们提出了一个能够增强各种类型的神经网络(例如,CNN和RNN)与声明性一阶逻辑规则。具体来说,我们开发了一种迭代蒸馏方法,将逻辑规则的结构化信息转换为神经网络的权重。我们将框架部署在用于情感分析的CNN和用于命名实体识别的RNN上。通过一些高度直观的规则,我们获得了实质性的改进,并实现了最先进的或与以前性能最好的系统相当的结果。
2020-08-08 cs.AI cs.CL cs.LG
Harnessing Large Language Models for Knowledge Graph Question Answering via Adaptive Multi-Aspect Retrieval-Augmentation
University of Science and Technology of China(中国科学技术大学);City University of Hong Kong(香港城市大学);Jarvis Research Center(贾维斯研究中心);Tencent YouTu Lab(腾讯优图实验室);Peking University(北京大学)
本文提出 Amar 框架,通过实体、关系和子图的自对齐与相关性软门控减少检索噪声,在 WebQSP 和 CWQ 上提升知识图谱问答准确率及逻辑形式生成。
2025-01-06 cs.CL
Enhancing Machine Translation through Advanced In-Context Learning: A Methodological Strategy for GPT-4 Improvement
Waseda University(早稻田大学)
本文提出一种基于上下文学习的机器翻译策略,通过精选与用户提示语义相似的示范数据,显著提升 GPT-4 翻译准确性,无需特定任务微调,为跨文化交流开辟新途径。
2023-11-15 cs.CL
A Closer Look at Logical Reasoning with LLMs: The Choice of Tool Matters
Monash University(莫纳什大学)
本研究针对大语言模型结合符号求解器的逻辑推理范式中工具选择影响不明确的问题,通过对比Z3、Pyke、Prover9三类求解器,发现工具选择带来近50%性能差异,且Prover9的翻译可执行率与结果准确率强相关。
2024-07-11 cs.CL
ConformalNL2LTL: Translating Natural Language Instructions into Temporal Logic Formulas with Conformal Correctness Guarantees
Department of Electrical and Systems Engineering, Washington University in St Louis(华盛顿大学圣路易斯分校电子与系统工程系);Department of Computer Science, University of Southern California(南加州大学计算机科学系)
ConformalNL2LTL通过主辅模型协作和符合预测,将自然语言指令转换为时序逻辑公式并保证正确性。
2026-02-20 cs.AI cs.CL cs.LG
An Efficient Sign Language Translation Using Spatial Configuration and Motion Dynamics with LLMs
本文提出SpaMo框架,利用现成视觉编码器提取手语空间与运动特征并输入大语言模型,辅以视觉-文本对齐预热,在PHOENIX14T和How2Sign数据集上达到最先进性能。
2025-02-24 cs.CL cs.CV
Harnessing Code Agents for Automatic Software Verification
Singapore Management University, Barkhausen Institut(新加坡管理大学, 巴克豪森研究所)
研究利用大语言模型代码智能体进行自动软件验证,将引理交给智能体自由选择方法并置于验证框架,该方法简单有效,能完全覆盖目标引理,在多维度评估中表现出色,可自动为软件开发编写证明。
2026-07-08 cs.AI cs.FL cs.SE
TIFIN India at SemEval-2025: Harnessing Translation to Overcome Multilingual IR Challenges in Fact-Checked Claim Retrieval
TIFIN India(TIFIN印度)
本研究提出两阶段检索策略,利用大语言模型翻译克服多语言信息检索障碍,在消费级GPU上实现事实核查声明检索,单语和跨语言测试集success@10分别达0.938和0.81025。
2025-04-23 cs.CL
Rule By Example: Harnessing Logical Rules for Explainable Hate Speech Detection
University of Michigan(密歇根大学);Microsoft(微软)
针对传统规则审核脆弱、深度学习模型缺乏可解释性的问题,提出基于示例的对比学习方法RBE,仅用少量示例即可学习规则嵌入,在3个仇恨言论数据集上的有/无监督性能均优于现有方法,且具备规则支撑的可解释性。
2023-07-24 cs.AI cs.CL
Harnessing Multilinguality in Unsupervised Machine Translation for Rare Languages
Google Research(谷歌研究院)
无监督翻译在资源丰富的语言对(如英语-法语和英语-德语)上达到了令人印象深刻的性能。然而,早期的研究表明,在涉及低资源,稀有语言的更现实的环境中,无监督翻译表现不佳,达到不到3.0 BLEU。在这项工作中,我们证明了多语言对于使无监督系统在低资源环境中实用至关重要。特别是,我们为5种低资源语言(古吉拉特语,哈萨克语,尼泊尔语,僧伽罗语和土耳其语)和英语方向提供了一个单一的模型,该模型通过三阶段训练计划利用来自其他高资源语言对的单语和辅助并行数据。我们超越了这些语言的所有当前最先进的无监督基线,实现了高达14.4 BLEU的增益。此外,我们的表现优于各种语言对的大量监督WMT提交,并与尼泊尔语-英语的当前最先进的监督模型的表现相匹配。我们进行了一系列的消融研究,以建立我们的模型在不同程度的数据质量的鲁棒性,以及分析的因素,导致所提出的方法优于传统的无监督模型的性能。
2021-03-12 cs.CL
(Perhaps) Beyond Human Translation: Harnessing Multi-Agent Collaboration for Translating Ultra-Long Literary Texts
Monash University(莫纳什大学);Nanyang Technological University(南洋理工大学);University of Macau(澳门大学);Alibaba International Digital Commerce(阿里巴巴国际数字商业集团)
提出模拟翻译公司的多智能体框架 TransAgents,通过两阶段流程翻译超长文学文本,并设计 MHP 和 BLP 两种评估策略,其翻译结果优于基线且更受人类与 LLM 青睐。
2025-05-01 cs.CL
Harnessing Indirect Training Data for End-to-End Automatic Speech Translation: Tricks of the Trade
Facebook(脸书);Johns Hopkins University(约翰斯·霍普金斯大学)
对于自动语音翻译(AST),端到端方法的性能优于级联模型,级联模型使用自动语音识别(ASR)进行转录,然后使用机器翻译(MT)进行翻译。性能差距的主要原因是,虽然现有的AST语料库很小,但ASR和MT子系统都存在大量数据集。在这项工作中,我们评估了几个数据增强和AST的预训练方法,通过比较所有相同的数据集。通过翻译ASR成绩单的简单数据增强在英语-法语增强的LibriSpeech数据集上证明是最有效的,与可以直接利用大量ASR和MT数据的非常强大的级联相比,它缩小了从8.2到1.4 BLEU的性能差距。同样的端到端方法加上微调缩小了英语-罗马尼亚Must-C数据集从6.7到3.7 BLEU的差距。除了这些结果,我们提出了实用的建议,增强和预训练的方法。最后,我们使用基于transformer的架构将性能差距减小到0.01 BLEU。
2019-10-22 cs.CL cs.SD eess.AS
Rule Learning as Machine Translation using the Atomic Knowledge Bank
University of Bergen(卑尔根大学);University of Oslo(奥斯陆大学)
针对语言模型推理可信度存疑、人工构建逻辑规则系统耗时易错的问题,本研究探索用Transformer将自然语言规则译为逻辑规则,复用现有推理器,并基于Atomic知识库构建了翻译数据集。
2023-11-05 cs.AI cs.CL
Harnessing Cross-lingual Features to Improve Cognate Detection for Low-resource Languages
IIT Bombay(印度理工学院孟买分校);IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什大学联合研究学院);Monash University(莫纳什大学);NICT(日本情报通信研究机构)
同源词是同一词汇形式在不同语言中的变体;例如西班牙语中的“fonema”和英语中的“phoneme”都是同源词,两者都意味着“声音的单位”。自动检测任意两种语言之间的同源词的任务可以帮助下游的NLP任务,例如跨语言信息检索、计算系统发生学和机器翻译。在本文中,我们展示了使用跨语言的词嵌入检测同源十四个印度语言。我们的方法介绍了使用上下文从知识图谱生成改进的特征表示同源检测。然后,我们评估了我们的同源检测机制对神经机器翻译(NMT)的影响,作为一个下游任务。我们评估我们的方法来检测同源词的一个具有挑战性的数据集的12种印度语言,即梵语,印地语,阿萨姆语,奥里亚语,卡纳达语,古吉拉特语,泰米尔语,泰卢固语,旁遮普语,孟加拉语,马拉地语,马拉雅拉姆语。此外,我们还为另外两种印度语言创建了评估数据集,即Konkani和尼泊尔语。我们观察到高达18%的点,在F分数方面,同源检测的改善。此外,我们观察到使用我们的方法提取的同源词有助于将NMT质量提高高达2.76 BLEU。我们还公开发布我们的代码、新构建的数据集和跨语言模型。
2021-12-16 cs.CL
Logical Parsing from Natural Language Based on a Neural Translation Model
Beihang University(北京航空航天大学)
语义解析已经成为自然语言接口和问答系统的重要和强大的范例。传统的语义分析方法依赖于高质量的词典、手工编写的语法和语言特征,这些都受到应用领域或表示的限制。在本文中,我们提出了一种通用的方法来学习的表示的基础上Seq2Seq模型增强注意力机制。我们将输入序列编码为向量,并使用动态规划来推断候选逻辑形式。我们利用相似的话语应该具有相似的逻辑形式这一事实来帮助减少搜索空间。在我们的学习策略下,Seq2Seq模型可以逐渐学习带有噪声的映射。采用课程学习,使学习更加顺畅。我们测试我们的方法在算术域,这表明我们的模型可以成功地推断出正确的逻辑形式,并学习单词的含义,组合性和操作顺序的同时。
2017-05-09 cs.CL
Solving puzzles described in English by automated translation to answer set programming and learning how to do that translation
Arizona State University(亚利桑那州立大学)
我们提出了一个系统,能够自动解决组合逻辑难题(简化)英语。它涉及到翻译成答案集编程(ASP)的难题的英文描述,并使用ASP求解器提供的难题的解决方案。为了翻译这些描述,我们使用了一种基于概率组合范畴语法(PCCG)的基于微积分的方法,其中单词的含义与参数相关联,以便能够区分同一单词的多种含义。许多单词的含义和参数都是学习的。在ASP中使用适用于大量逻辑谜题的本体来表示谜题。
2011-08-18 cs.AI cs.CL cs.LO
Verifiable Natural Language to Linear Temporal Logic Translation: A Benchmark Dataset and Evaluation Suite
University of Florida(佛罗里达大学);Florida International University(佛罗里达国际大学)
本文提出VLTL-Bench,一个用于评估可验证自然语言到线性时序逻辑翻译的基准数据集和评估套件。
2025-12-18 cs.CL cs.SY eess.SY
Structural-Ambiguity-Aware Translation from Natural Language to Signal Temporal Logic
Graduate School of Engineering, The University of Osaka(大阪大学工学研究科)
本文提出一种保留结构模糊性的方法,将自然语言任务描述转换为信号时间逻辑候选公式,通过三阶段流程保留多个可能的语法分析,生成带有可信度评分的STL候选公式。
2026-03-30 cs.CL cs.SC
DeepSTL -- From English Requirements to Signal Temporal Logic
Technische Universität Wien(维也纳工业大学);AIT Austrian Institute of Technology(奥地利AIT理工研究院)
形式化方法为复杂系统的设计和分析提供了非常强大的工具和技术。然而,它们的实际应用仍然有限,因为人们普遍认为形式方法需要广泛的专业知识和陡峭的学习曲线。以逻辑公式的形式编写正确的形式规范仍然被认为是一项困难且容易出错的任务。在本文中,我们提出了DeepSTL,一种工具和技术,用于将非正式需求(以自由英语句子形式给出)翻译成信号时序逻辑(STL),这是一种用于网络物理系统的正式规约语言,被学术界和工业界的高级研究实验室使用。设计这样一个翻译器的一个主要挑战是缺乏公开的非正式需求和正式规范。我们提出了一个两步工作流程来应对这一挑战。我们首先设计了一个基于语法的合成数据生成技术,其中每个输出是一个随机的STL公式及其相关的一组可能的英文翻译。在第二步中,我们使用最先进的transformer为基础的神经翻译技术,训练一个准确的注意翻译英语STL。实验结果表明,经过良好训练的英语要求模式的翻译质量很高,使这个工作流程有望扩展到处理更复杂的翻译任务。
2022-03-24 cs.CL cs.SE
Zero-Shot Cross-lingual Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
最近的跨语言语义解析工作已经成功地将机器翻译应用于将分析器本地化到新的语言。然而,这些进步都是以高质量的机器翻译系统和单词对齐工具为前提的。我们删除这些假设,并研究跨语言语义解析作为一个zero-shot问题,没有并行数据(即,话语-逻辑形式对)的新语言。我们提出了一个多任务的编码器-解码器模型来转移解析知识,以额外的语言只使用英语逻辑形式配对数据和域中的自然语言语料库在每一个新的语言。我们的模型鼓励语言无关的编码,通过联合优化逻辑形式生成与辅助目标设计的跨语言潜在的表示对齐。我们的解析器的性能明显高于基于预防的基线,在某些情况下,与监督的上限竞争。
2022-03-07 cs.CL