Deep Learning, Natural Language Processing, and Explainable Artificial Intelligence in the Biomedical Domain
Medical University of Vienna(维也纳医科大学)
在这篇文章中,我们首先在第一部分介绍了人工智能及其在生物学和医学中的应用。然后在第2节中描述深度学习方法。我们在第3节中缩小了对文本数据的研究重点,其中描述了自然语言处理及其在生物医学领域的应用。在第4节中,我们介绍了可解释的人工智能,并讨论了可解释性的重要性,人工智能系统,特别是在生物医学领域。
2022-03-07 cs.AI cs.CL cs.LG
NSP: A Neuro-Symbolic Natural Language Navigational Planner
University of Florida(佛罗里达大学);Florida International University(佛罗里达国际大学)
针对自然语言路径规划中符号方法难处理自由文本、神经方法缺性能保障的问题,提出神经符号框架NSP,结合LLM推理与符号规划及反馈自校正,有效路径率达90.1%且路径更短。
2024-09-13 cs.AI cs.CL cs.HC
TabVer: Tabular Fact Verification with Natural Logic
University of Cambridge(剑桥大学)
提出TabVer,通过自然逻辑的集合论解释整合算术函数,利用大语言模型生成表达式,在表格事实核查中超越现有方法。
2024-11-02 cs.CL
SPEED: Speculative Pipelined Execution for Efficient Decoding
University of California, Berkeley(加州大学伯克利分校)
本文提出SPEED方法,通过利用早期层隐藏状态预测值并行推测执行多个未来token,并均摊参数共享解码器的内存操作,有效降低了生成式LLM的推理延迟,同时支持训练更深解码器且开销极小。
2024-01-03 cs.CL
RunAgent: Interpreting Natural-Language Plans with Constraint-Guided Execution
University of Maryland, College Park(马里兰大学学院公园分校);NEC Laboratories America, Inc.(NEC美国实验室)
RunAgent通过约束引导执行解释自然语言计划,结合代理语言的显式控制构造,提升结构化工作流执行的可靠性。
2026-05-01 cs.CL cs.LG cs.MA
Genshin: General Shield for Natural Language Processing with Large Language Models
Institute of Prospective Technology Research, Changan Automobile(长安汽车前瞻技术研究院)
针对LLMs不透明性限制高风险应用的问题,提出级联框架Genshin,利用LLM作为防御插件将文本恢复至原始状态,结合泛化、判别与可解释性,有效提升防御效率与鲁棒性。
2024-06-03 cs.AI cs.CL
Socratic Planner: Self-QA-Based Zero-Shot Planning for Embodied Instruction Following
Seoul National University(首尔大学);Interdisciplinary Program in AI (IPAI), Seoul National University(首尔大学人工智能交叉项目);AI Institute, Seoul National University(首尔大学人工智能研究院)
本文提出苏格拉底规划器,一种基于自问答的零样本规划方法,通过LLM自我问答生成子目标序列,并利用视觉反馈重新规划,在ALFRED基准上超越现有最先进模型,尤其在长时程任务中表现优异,并已在实体机器人上验证。该方法无需训练即可实现具身指令跟随的组合任务规划。
2025-03-26 cs.AI cs.CL cs.CV
Can LLMs $\textit{understand}$ Math? -- Exploring the Pitfalls in Mathematical Reasoning
New York University(纽约大学)
针对现有大语言模型数学推理评估仅靠准确率、忽略过程缺陷的问题,本研究提出整合错误率、冗余性与有效性的MAPLE分数评估指标,以新型框架全面量化推理偏差。
2025-05-21 cs.CL cs.LG
Semi-Instruct: Bridging Natural-Instruct and Self-Instruct for Code Large Language Models
Harbin Institute of Technology(哈尔滨工业大学);Du Xiaoman (Beijing) Science Technology Co., Ltd.(度小满(北京)科技有限公司)
提出 Semi-Instruct,融合 natural-instruct 的多样正确代码与 self-instruct 的自动配对能力,并通过执行正确代码生成测试用例验证代码,显著提升 Code LLM 程序合成性能。
2024-03-01 cs.CL
Text-to-OverpassQL: A Natural Language Interface for Complex Geodata Querying of OpenStreetMap
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Computational Linguistics, Heidelberg University(海德堡大学计算语言学系);IWR, Heidelberg University(海德堡大学应用科学计算研究所)
本研究提出Text-to-OverpassQL任务以实现OSM地理数据的自然语言查询,构建含8352个样本的OverpassNL数据集,提出专属评估指标并建立强基线,为该方向后续研究奠基。
2023-08-30 cs.AI cs.CL cs.CY
A No-Code Low-Code Paradigm for Authoring Business Automations Using Natural Language
IBM Research AI(IBM研究院人工智能部门)
大多数业务流程自动化仍然是使用传统的自动化技术(如工作流引擎)开发的。这些系统提供了需要业务知识和编程技能才能有效使用的领域特定语言。因此,业务用户通常缺乏足够的编程技能来充分利用这些面向代码的环境。我们提出了一个使用自然语言的商业自动化建设的范例。该方法应用一个大型语言模型来翻译业务规则和自动化描述的自然语言,到一个特定领域的语言可解释的业务规则引擎。我们比较了各种语言模型配置的性能,在不同的目标域,并探讨使用约束解码,以确保语法正确的输出生成。
2022-07-15 cs.AI cs.CL
PEARL: Solver-in-the-Loop Interactive Optimization Modeling from Natural Language
研究旨在解决优化建模问题,提出PEARL系统,通过在循环中使用Python执行和数学编程求解器,学习优化策略,在多轮工具集成设置下提升求解率,在优化建模任务中表现优于强大基线。
2026-11-10 cs.AI cs.LG
Steward: Natural Language Web Automation
University of Michigan(密歇根大学)
本文提出Steward,一种基于LLM的Web自动化工具,通过自然语言指令驱动浏览器交互,解决了传统框架的可扩展性问题,并在效率和成本上表现优异。
2024-09-23 cs.AI
Towards Automated Data Sciences with Natural Language and SageCopilot: Practices and Lessons Learned
Baidu Inc.(百度公司);Beihang University(北京航空航天大学);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出工业级系统SageCopilot,通过结合LLM、AutoAgents和LUI及两阶段设计,自动化数据查询、分析、可视化与报告全流程,并在真实数据集上验证了其优越的端到端性能。
2024-07-21 cs.AI cs.CL cs.DB
Introspective Planning: Aligning Robots' Uncertainty with Inherent Task Ambiguity
Princeton University(普林斯顿大学)
针对LLM幻觉导致机器人计划与用户目标或安全要求不符,以及自然语言指令固有模糊性引入的不确定性问题,提出内省式规划方法,通过构建含内省推理示例的知识库对齐LLM不确定性与任务模糊性,结合保形预测提升合规性和安全性,减少用户澄清请求。
2025-02-10 cs.AI cs.CL cs.LG
Is English the New Programming Language? How About Pseudo-code Engineering?
Universidade Luterana do Brasil (Ulbra)(巴西路德大学)
本研究通过案例分析对比自然语言与伪代码工程输入对ChatGPT多意图任务表现的影响,发现伪代码工程可显著提升响应清晰度与确定性,倡导其在需精确AI响应场景的应用潜力。
2024-04-08 cs.AI cs.CL cs.HC
Information retrieval in folktales using natural language processing
Technical University of Cluj-Napoca(克卢日-纳波卡技术大学)
我们的目标是从非结构化文本中提取文学人物的信息。我们对领域本体进行自然语言处理和推理。第一个任务是确定主要人物和故事中这些人物被描述或表演的部分。我们说明了在民间故事领域的一个场景中的系统。该系统依赖于一个民间故事本体,我们已经开发的基础上Propp的模型的民间故事形态。
2015-11-10 cs.AI cs.CL cs.IR
Can LLMs substitute SQL? Comparing Resource Utilization of Querying LLMs versus Traditional Relational Databases
Boston University(波士顿大学)
本研究对比了9款不同参数量的大语言模型与传统关系型数据库SQL的查询资源利用情况和准确率,发现LLM查询能耗极高,不建议用其替代关系型数据库。
2024-04-12 cs.AI cs.CL cs.DB
Git-Assistant: Planning-Based Support for Updating Git Repositories
AI Research, JPMorganChase(人工智能研究,摩根大通)
研究针对git工具对开发者有挑战的问题,提出结合大语言模型与自动规划的Git-Assistant,经合成和随机git环境评估,证明该方法能提升仓库管理可靠性、减少错误,展现混合人工智能方法在开发者辅助上的潜力。
2026-09-21 cs.AI cs.CL cs.SE
Traffic Light or Light Traffic? Investigating Phrasal Semantics in Large Language Models
Salesforce Research(Salesforce研究院);University of Pittsburgh(匹兹堡大学)
本研究通过三个人工标注数据集考察大语言模型理解短语语义的能力,发现其优于传统嵌入方法但与微调方法相比无显著优势,并分析了提示策略效果及错误原因。
2024-10-03 cs.CL
EvolveScaler: Synthesizing Information-Evolution Contexts via Executable State Machines and Natural-Language Rendering
Tencent(腾讯);The Chinese University of Hong Kong(香港中文大学);Renmin University of China(中国人民大学)
EvolveScaler通过代码驱动方式定义信息演化并渲染为自然语言,生成多轮事件历史与参考答案,提供挑战性评估和可迁移训练监督。
2026-09-10 cs.AI cs.SE
BAGEL: Bootstrapping Agents by Guiding Exploration with Language
Stanford University(斯坦福大学);Google Deepmind(谷歌DeepMind)
BAGEL 通过语言标注器与零样本智能体的迭代往返,将随机轨迹自动转化为自然语言演示,无需人类监督即可提升 LM 智能体在新环境中的泛化能力,并在 ToolQA 和 MiniWob++ 上取得显著性能提升。
2024-06-09 cs.CL
WavLLM: Towards Robust and Adaptive Speech Large Language Model
Microsoft Research Asia(微软亚洲研究院)
提出WavLLM,通过双编码器解耦语音信息、提示感知LoRA适配器及两阶段课程学习,在多语音任务及高考听力上达到SOTA,展现强泛化能力。
2024-09-21 cs.AI cs.CL cs.SD
Effective Human-AI Teams via Learned Natural Language Rules and Onboarding
MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);Massachusetts Institute of Technology(麻省理工学院);IBM Research(IBM研究院)
本研究针对人类难以判断何时与AI协作的问题,提出基于数据区域的自然语言规则学习方法,通过入职培训教授规则,提升了人-AI团队的任务准确率。
2023-11-07 cs.AI cs.HC cs.LG
SCOPE: Real-Time Natural Language Camera Agent at the Edge
Armada AI
提出SCOPE模块化代理,用于自然语言控制的PTZ相机,在边缘部署实现实时感知、规划与控制,并通过仿真和物理实验评估延迟、准确性和错误模式。
2026-06-01 cs.AI cs.CL cs.CV
Situated Data, Situated Systems: A Methodology to Engage with Power Relations in Natural Language Processing Research
University of Edinburgh(爱丁堡大学)
我们提出了一个偏见意识的方法,从事权力关系的自然语言处理(NLP)的研究。NLP研究很少涉及社会背景下的偏见,限制了其减轻偏见的能力。虽然研究人员推荐了行动,技术方法和文档实践,但没有方法可以将对偏见的批判性反思与技术NLP方法相结合。在本文中,经过广泛的和跨学科的文献综述,我们贡献了一个偏见意识的方法NLP研究。我们还提供了有偏见的文本的定义,有偏见的NLP系统的影响的讨论,并展示了我们是如何执行偏见意识的方法在研究档案元数据描述的案例研究。
2020-11-11 cs.CL
Transcribing Natural Languages for The Deaf via Neural Editing Programs
The Australian National University(澳大利亚国立大学);DATA61-CSIRO(澳大利亚联邦科学与工业研究组织 Data61);Huawei Cyberverse Lab(华为河图实验室);SenseTime(商汤科技)
本文研究的是注释化的任务,其目的是将聋人群体的自然口语句子翻译成有序的手语注释。以前的序列到序列语言模型训练成对的语义-语义数据往往无法捕捉两种不同语言之间的丰富联系,导致不能令人满意的transmance。我们观察到,尽管不同的语法,注释有效地简化了句子,便于聋人沟通,同时分享了很大一部分的词汇与句子。这促使我们通过执行一系列编辑操作来实现注释化,例如在自然口语对应物上执行单词添加、删除和复制,称为编辑程序。具体来说,我们设计了一个新的神经代理,学习合成和执行编辑程序,条件的句子上下文和部分编辑结果。该代理被训练为模仿最小编辑程序,同时通过策略梯度更广泛地探索程序空间以优化顺序转录质量。结果表明,我们的方法优于以前的注释化模型的大幅度。
2021-12-17 cs.CL
Precise but Natural Specification for Robot Tasks
Max Planck Institute for Software Systems, Germany(德国马克斯·普朗克软件研究所)
Flipper通过自然语言接口实现机器人高阶任务规范,结合形式化核心语言与语义解析器,提供可视化反馈并支持自然语言扩展,提升任务描述效率。
2018-09-20 cs.CL cs.RO cs.SY
Neural Enquirer: Learning to Query Tables with Natural Language
The University of Hong Kong(香港大学);Noah’s Ark Lab, Huawei Technologies(华为技术有限公司诺亚方舟实验室)
我们提出了神经查询器作为一个神经网络架构,执行一个自然语言(NL)查询的知识库(KB)的答案。基本上,Neural Enquirer找到查询的分布式表示,然后在知识库表上执行它,以获得答案作为表中的一个值。与语义解析器端到端训练中的类似努力不同,Neural Enquirer是完全“神经化”的:它不仅给出了查询和知识库的分布式表示,而且还将组合查询的执行实现为一系列可区分的操作,中间结果(由不同级别的表的注释组成)保存在多层内存中。神经查询器可以通过梯度下降进行训练,不仅可以从头开始学习控制组件和语义解析组件的参数,还可以学习表和查询词的嵌入。培训可以以端到端的方式进行,但需要更强的指导,例如,神经查询器是构建神经网络系统的一步,该系统试图通过在现实世界中执行来理解语言。我们的实验表明,Neural Enquirer可以学习在具有丰富结构的表上执行相当复杂的NL查询。
2016-01-21 cs.AI cs.CL cs.LG
Processing Natural Language on Embedded Devices: How Well Do Transformer Models Perform?
Auburn University(奥本大学);Washington State University(华盛顿州立大学)
该研究测试了多款基于BERT的Transformer模型在不同配置嵌入式设备上的多任务性能,验证了无GPU的低配置嵌入式设备也能运行复杂NLP任务,为模型嵌入式部署提供参考。
2024-03-07 cs.CL cs.SY eess.SY
Evaluating Rational Contracting in Natural Language
本研究针对自然语言缔约的评估缺口,构建理性框架并开发ContractSim评估套件,发现当前LLM智能体在高不确定性下缔约及执行协议存在不足,为相关智能体设计指明改进方向。
2026-10-23 cs.AI cs.CL cs.GT
TEACh: Task-driven Embodied Agents that Chat
Amazon Alexa AI(亚马逊 Alexa AI);University of Southern California(南加州大学);University of Michigan(密歇根大学)
在人类空间中运行的机器人必须能够与人进行自然语言交互,理解和执行指令,并使用对话来解决歧义并从错误中恢复。为了研究这一点,我们引入了TEACh,这是一个包含3,000多个人类交互对话的数据集,用于在模拟中完成家务任务。一个指挥官可以访问关于任务的预言信息,用自然语言与一个跟随者通信。跟随者在环境中导航并与环境交互,以完成从“煮咖啡”到“准备早餐”的复杂性不同的任务,询问问题并从指挥官那里获得更多信息。我们提出了三个基准使用TEACh来研究具身智能的挑战,我们评估初始模型的对话理解,语言基础和任务执行的能力。
2021-12-29 cs.AI cs.CL cs.CV
IDAT: A Multi-Modal Dataset and Toolkit for Building and Evaluating Interactive Task-Solving Agents
Massachusetts Institute of Technology(麻省理工学院);University of Waterloo(滑铁卢大学);Meta AI;AIRI(人工智能研究院);École Polytechnique de Montréal(蒙特利尔理工学院);Microsoft Research(微软研究院)
本文针对交互式具身任务求解智能体研发中数据集与评估平台不足的问题,推出IDAT资源,包含类Minecraft环境下的多模态数据集与采集工具,以及人在回路评估平台,为相关研究提供支撑。
2024-07-12 cs.AI cs.CL cs.LG
ViTL: Temporal Logic-Guided Zero-Shot Natural Language Navigation via Vision-Language Models
Lehigh University(里海大学)
提出ViTL框架,利用大语言模型将自然语言命令编译为线性时序逻辑公式,并引入方向性评分,实现零样本多目标时序约束导航。
2026-07-01 cs.CL cs.LG cs.RO
An Overview of Natural Language State Representation for Reinforcement Learning
University of Potsdam(波茨坦大学)
合适的状态表示是强化学习中学习过程的基本部分。在各种任务中,状态既可以用自然语言描述,也可以是自然语言本身。本调查概述了文献中使用的策略,以建立自然语言状态表示。我们呼吁更多的语言解释和接地表示,设计决策和评估不同方法的有效性仔细的理由。
2020-07-19 cs.CL
Ranking suspected answers to natural language questions using predictive annotation
在本文中,我们描述了一个系统,排名可疑的答案自然语言的问题。我们使用一种新技术(预测注释)来处理语料库和查询,该技术在文本中添加短语,并带有标签,预测它们是某些类型问题的目标。给定一个自然语言问题,IR系统返回一组匹配的段落,然后根据本文描述的各种标准对这些段落进行分析和排名。我们提供了一个评估的技术的基础上,从TREC Q&A评估,我们的系统参与的结果。
2000-05-30 cs.CL
Exploiting Diversity in Natural Language Processing: Combining Parsers
三个国家的最先进的统计分析器相结合,以产生更准确的分析,以及新的界限可实现的树库解析精度。提出了两种通用方法,并针对每种方法描述了两种组合技术。探索了参数模型和非参数模型。由此产生的解析器超过了以前发表的最好的性能结果的Penn Treebank。
2000-06-01 cs.CL
Mixed-Level Knowledge Representation and Variable-Depth Inference in Natural Language Processing
描述了一种系统,其使用基于标准Horn子句逻辑的混合级知识表示来表示自然语言文档的含义(的一部分)。一个可变深度的搜索策略,区分不同层次的抽象之间的知识表示,以定位特定的段落中的文件。对该系统的语言方面进行了详细描述。混合层次表示以及可变深度搜索策略适用于NLP之外的领域。
1999-12-23 cs.CL
A System for Automated Image Editing from Natural Language Commands
Adobe Research(奥多比研究院)
这项工作提出了修改图像的图像编辑程序中使用自然语言书面命令的任务。我们利用超过6000个图像编辑文本请求的语料库来修改通过众包收集的真实世界图像。描述了一种由动作和实体组成的新颖框架,用于将用户的自然语言请求映射到图像编辑程序中的可执行命令。我们通过投票过程解决先前标记的注释者的分歧,并完成语料库的注释。我们对不同的机器学习模型进行了实验,发现LSTM、SVM和双向LSTM-CRF联合模型最适合检测给定话语中的图像编辑动作和关联实体。
2018-12-03 cs.CL