Do Compressed LLMs Forget Knowledge? An Experimental Study with Practical Implications
University of Texas at Austin(德克萨斯大学奥斯汀分校);Apple(苹果公司)
本研究探讨LLM压缩对固有知识的损害,提出知识遗忘与知识位移两种猜想,通过实验证明推理时动态提示(IDP)优于重训练方案,支持知识位移猜想,为恢复压缩LLM性能提供高效新机制。
2024-02-16 cs.AI cs.CL
Knowledge Prompting in Pre-trained Language Model for Natural Language Understanding
East China Normal University(华东师范大学);Ant Group(蚂蚁集团);Alibaba Group(阿里巴巴集团)
知识增强的预训练语言模型(PLM)是近年来备受关注的一种语言模型,旨在将事实知识融入PLM中。然而,大多数现有的方法修改固定类型的PLM的内部结构,通过堆叠复杂的模块,并引入冗余和无关的事实知识库(KBs)。针对这些问题,本文提出了一种基于知识激励的PLM框架KP-PLM。该框架可以灵活地与现有的主流PLM相结合。具体来说,我们首先从每个上下文的知识库构建一个知识子图。然后设计多条连续提示规则,将知识子图转化为自然语言提示。为了进一步利用这些提示中的事实知识,我们提出了两个新的知识感知的自监督任务,包括提示相关性检查和掩蔽提示建模。对多个自然语言理解(NLU)任务的大量实验表明,KP-PLM在全资源和低资源环境中都优于其他最先进的方法。
2022-10-16 cs.CL
Rationale-guided Prompting for Knowledge-based Visual Question Answering
提出PLRH框架,通过思维链生成理由启发式作为中间思维过程,引导LLMs在知识型VQA中预测答案,在OK-VQA和A-OKVQA上分别提升超过2.2和2.1。
2025-08-07 cs.AI cs.CL
Harry Potter is Still Here! Probing Knowledge Leakage in Targeted Unlearned Large Language Models via Automated Adversarial Prompting
University of Science, VNU-HCM(越南国立大学胡志明市理科大学);Indiana University(印第安纳大学)
提出LURK框架,通过自动生成对抗性后缀提示探测已遗忘LLM中隐藏的哈利·波特知识,揭示现有遗忘评估标准的漏洞,提供更严格的鲁棒性诊断工具。
2025-05-22 cs.AI cs.CL cs.CR
Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting
Chalmers University of Technology and University of Gothenburg, Sweden(楚姆勒大学技术学院和哥德堡大学,瑞典);Technical University of Denmark, Kgs. Lyngby, Denmark(丹麦技术大学,基斯勒吕辛,丹麦)
本文提出基于图的软提示框架,通过图神经网络编码子图生成软提示,使LLM在更丰富的结构上下文中推理,减少缺失边的影响,提升多跳KBQA性能。
2026-08-06 cs.AI cs.CL
Decomposed Prompting: Probing Multilingual Linguistic Structure Knowledge in Large Language Models
Center for Information and Language Processing (CIS)(信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);ScaDS.AI and TU Dresden(ScaDS.AI 和 梅克伦堡-前波美拉尼亚技术大学);Department of Statistics, LMU Munich(统计学系,慕尼黑大学);University of Maryland, College Park(马里兰大学 College Park 分校)
本文提出分解提示方法,将序列标注任务拆分为逐词元提示,在38种语言的词性标注上验证其优于迭代提示基线,并揭示多语言提示下的语言知识迁移规律。
2025-11-06 cs.CL
Conflict-Aware Soft Prompting for Retrieval-Augmented Generation
Sungkyunkwan University(成均馆大学)
针对RAG中上下文与模型记忆冲突的问题,提出CARE框架,通过上下文评估器与软提示引导推理,在QA和事实验证基准上平均提升5.0%。
2025-09-26 cs.AI cs.CL
Causality-aware Concept Extraction based on Knowledge-guided Prompting
Fudan University(复旦大学);Meituan(美团);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心)
针对预训练语言模型因虚假共现导致概念抽取精度低的问题,提出基于结构因果模型的知识引导提示干预方法,利用知识图谱实体主题缓解概念偏差,在多语言数据集上验证了有效性。
2023-06-10 cs.AI cs.CL
IAO Prompting: Making Knowledge Flow Explicit in LLMs through Structured Reasoning Templates
University College London(伦敦大学学院)
本文提出IAO提示方法,通过输入-动作-输出的结构化模板显式建模大语言模型的知识访问与应用过程,在提升零样本推理性能的同时增强知识利用的可验证性和透明度。
2025-02-05 cs.CL
Iterative Zero-Shot LLM Prompting for Knowledge Graph Construction
University of Cagliari(卡利亚里大学)
本文提出一种基于GPT-3.5的迭代式零样本LLM提示流水线,无需外部资源或人工即可构建知识图谱,实验证明其在特定领域数据集上具备可扩展性与多功能性。
2023-07-03 cs.AI cs.CL
PHALM: Building a Knowledge Graph from Scratch by Prompting Humans and a Language Model
Waseda University(早稻田大学);LY Corporation(LY公司)
本文提出PHALM方法,通过提示众包工作者和大型语言模型从零构建知识图谱,用于日语事件知识图谱及常识生成模型,实验验证了其可接受性。
2023-10-11 cs.CL
Concretized Proposition Prompting Resolves Composition-Knowledge Dichotomy in Large Language Models
Columbia University(哥伦比亚大学);UNIST(全南科学技术大学);POSCO Holdings(POSCO控股)
研究针对大语言模型组合-知识二分法难题,提出具体化命题提示(CPP)框架。通过明确相关命题具体化,提升推理性能,尤其在医学基准测试中表现突出,且可扩展到多种模型和参数规模,弥合两类方法差距,解决了二分法问题。
2026-07-10 cs.AI
KnowledgePrompts: Exploring the Abilities of Large Language Models to Solve Proportional Analogies via Knowledge-Enhanced Prompting
AI Institute, University of South Carolina(南卡罗来纳大学人工智能学院);IIIT Hyderabad(印度信息技术与管理研究所海得拉巴分校);Meta AI;Amazon GenAI(亚马逊生成式人工智能部门)
本研究构建了1.5万道比例类比多选题问答数据集,通过引入示例、结构化和针对性知识增强提示,评估了大型语言模型解决比例类比的能力,发现针对性知识辅助效果最佳,且最佳模型准确率仅为55%。
2024-12-19 cs.AI cs.CL
The Maskability Index: Predicting Task-Objective Alignment in Pretrained Language Models
Sirjan University of Technology(锡尔詹理工大学);Department of Computer Engineering(计算机工程系)
研究提出可掩码性指数(MI),用于评估知识关系适合的提示方式,通过掩码与未掩码模板的DepthRank分数差异计算。在ATOMIC2020基准上评估发现MI与下游生成性能正相关,有助于选择提示模板和策略提取预训练语言模型的关系知识。
2026-07-23 cs.AI cs.CL
Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know"
Arizona State University(亚利桑那州立大学);University of Pennsylvania(宾夕法尼亚大学);Oracle AI
研究大语言模型在闭卷问答中识别知识局限的问题,评估三种提示方式在不同模型规模和多跳问答基准下的影响,利用提示方式间的分歧信号实现无训练弃权策略,提升模型可靠性。
2026-07-07 cs.CL
Prompting Large Language Models with Chain-of-Thought for Few-Shot Knowledge Base Question Generation
East China Normal University(华东师范大学);Singapore Management University(新加坡管理大学)
本文提出基于思维链的提示方法 KQG-CoT 及其改进版 KQG-CoT+,将知识库问题生成转化为推理问题,通过检索逻辑形式并按复杂度排序构建推理链,在少样本场景下显著优于基线并在 PathQuestions 数据集上大幅超越现有 SoTA。
2023-10-23 cs.AI cs.CL
Prompting as Probing: Using Language Models for Knowledge Base Construction
Vrije Universiteit(阿姆斯特丹自由大学);Universiteit van Amsterdam(阿姆斯特丹大学);Elsevier(爱思唯尔);Huawei(华为)
本文提出ProP方法,利用GPT-3通过多步提示技术构建知识库,实验证明手动提示、可变长度答案集、真/假问题及模型规模等因素显著提升性能,并在LM-KBC竞赛中超越基线36.4个百分点。
2023-06-19 cs.AI cs.CL
Prompting is not a substitute for probability measurements in large language models
Kempner Institute(坎普纳研究所);Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
本研究比较了元语言提示与直接概率测量在评估LLMs语言知识时的效果,发现提示方法在一致性和准确性上均不如直接测量,并指出依赖提示的负面结果不能证明模型缺乏语言概括能力,同时强调了封闭API限制概率访问带来的价值损失。
2023-10-23 cs.AI cs.CL
Chain of Thought Prompting Elicits Knowledge Augmentation
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学);Renmin University of China(中国人民大学)
本文提出CoT-KA方法,利用大型语言模型的思维链提示为深度学习增强知识,无需额外检索或推理模型,在多个推理基准上优于纯思维链和非增强方法。
2023-07-04 cs.CL
NatLan: Native Language Prompting Facilitates Knowledge Elicitation Through Language Trigger Provision and Domain Trigger Retention
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Michigan State University(密歇根州立大学)
本文提出NatLan方法,通过多MLLM协作策略和引入角色增强的领域特定MLLM作为翻译器,在提供语言触发的同时保留领域触发,从而提升多语言大模型在非主导语言问答中的表现。
2024-10-15 cs.AI cs.CL
Prompting Large Language Models with Knowledge Graphs for Question Answering Involving Long-tail Facts
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Huawei Edinburgh Research Centre, CSI(华为爱丁堡研究中心)
针对 LLM 缺乏长尾事实知识的问题,本文构建 LTGen 基准,比较文本段落与 KG 三元组提示,证明 KG 提示通常更优,联合使用可显著减少幻觉。
2024-05-10 cs.CL
MindMap: Knowledge Graph Prompting Sparks Graph of Thoughts in Large Language Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出 MindMap 提示流程,利用知识图谱增强 LLM 的外部知识推理与过程可解释性,并在医疗等问答任务及新幻觉基准上验证其效果。
2024-03-02 cs.AI cs.CL cs.LG
Hint-before-Solving Prompting: Guiding LLMs to Effectively Utilize Encoded Knowledge
National University of Singapore(新加坡国立大学);School of Computer Science, Fudan University(复旦大学计算机科学学院);Shanghai AI Laboratory(上海人工智能实验室)
本文提出先提示后求解的提示方法HSP,通过先引导LLM生成关键提示再生成推理步骤,在多个推理基准上有效提升准确率,并构建HSPMATH数据集微调模型以超越GPT-3.5等基线。
2024-02-22 cs.CL
Can LLMs Be Constrained to the Past? Improving Knowledge Cutoff through Recall-Based Prompting
Institute of Science Tokyo(东京科学研究所)
提出两种基于回忆的提示策略(Self-Recall 和 Question-Recall)来改进大语言模型在知识截止约束下的表现,在反事实问题上尤其有效,并构建了多截止历史事件基准(MHEB)进行鲁棒性评估。
2026-06-04 cs.CL
Improving Language Model Prompting in Support of Semi-autonomous Task Learning
IQM Research Institute(IQM研究院)
语言模型(LLM)为需要在性能环境中获得新任务能力的代理提供了潜在的知识来源。我们描述了一种新的代理能力,可以构建线索(或“提示”),导致有用的LLM响应代理学习新任务的努力。重要的是,响应不仅必须是“合理的”(通常用于从LLM中提取知识的研究的措施),而且还特定于代理的任务上下文,并以代理可以解释其母语能力的形式。我们总结了一系列的实证研究的提示策略和评估的目标,有针对性的和可操作的任务学习的反应。我们的研究结果表明,可操作的任务知识,可以从LLM支持在线代理任务学习。
2022-11-19 cs.AI cs.CL cs.LG
Boosting Language Models Reasoning with Chain-of-Knowledge Prompting
East China Normal University(华东师范大学);The University of Hong Kong(香港大学)
针对思维链提示中推理链易出错的问题,提出知识链提示生成结构化知识证据,并引入F^2-Verification方法评估推理可靠性,通过指出错误证据促使模型重新思考,有效提升了多类推理任务的性能。
2024-06-03 cs.CL
Question-Aware Knowledge Graph Prompting for Enhancing Large Language Models
University of Virginia(弗吉尼亚大学)
针对LLMs在知识密集型MCQA任务中因KG集成产生噪声提示及部分选项缺乏相关KG知识的问题,提出问题感知知识图谱提示(QAP),通过将问题嵌入融入GNN聚合动态评估KG相关性,并利用全局注意力捕获选项间关系以丰富软提示,在多个数据集上优于现有方法。
2025-03-30 cs.CL cs.LG
Context-Aware Pragmatic Metacognitive Prompting for Sarcasm Detection
Computer Science Department(计算机科学系);School of Computer Science(计算机科学学院);Bina Nusantara University(宾努斯大学)
本文提出一种基于检索的元认知修辞提示方法,通过整合上下文信息提升LLMs在讽刺检测中的性能,实验显示在多个数据集上均取得显著提升。
2025-11-26 cs.AI cs.CL
Prompting is not Enough: Exploring Knowledge Integration and Controllable Generation
University of Science and Technology of China(中国科学技术大学);Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);Chinese Academy of Sciences(中国科学院);BOSS Zhipin Career Science Lab(BOSS智联招聘科研实验室)
针对开放域问答中知识整合与可控生成两大挑战,提出GenKI框架,通过检索增强微调与基于文本一致性的集成实现可控生成,在多个数据集上验证有效性。
2025-10-27 cs.AI cs.CL
Prompt-Time Symbolic Knowledge Capture with Large Language Models
Haltia, Inc.(哈尔蒂亚公司)
针对大语言模型缺乏提示驱动知识捕获机制的问题,本文聚焦知识图谱场景,通过提示到三元组生成任务探索零样本、少样本提示及微调三种方法,用合成数据集评估性能并公开了代码与数据。
2024-02-01 cs.AI cs.CL
Neuro-Symbolic Procedural Planning with Commonsense Prompting
University of California, Santa Barbara(加州大学圣巴巴拉分校);University of California, Santa Cruz(加州大学圣克鲁兹分校)
程序计划旨在通过分解成顺序的简单低级别步骤来实现复杂的高级别目标。尽管过程规划是人类日常生活中的一项基本技能,但对于缺乏对过程中因果关系的深刻理解的大语言模型(LLM)来说,它仍然是一个挑战。先前的方法需要手动样本来从zero-shot设置中的LLM获取程序规划知识。然而,LLM中的这种引发的预训练知识会导致目标和步骤之间的虚假相关性,从而损害模型对看不见的任务的泛化。相比之下,本文提出了一种神经符号程序规划器(ESTA),从常识注入提示LLM的程序规划知识。为了减轻虚假的目标步骤的相关性,我们使用符号程序执行器的潜在的程序表示形式化提示从常识知识库的因果干预结构因果模型。WikiHow和RobotHow上的自动和人工评估都显示了在没有进一步培训或手动范例的情况下,机器人程序规划的优越性。
2023-02-16 cs.AI cs.CL cs.LG
Have We Designed Generalizable Structural Knowledge Promptings? Systematic Evaluation and Rethinking
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph(浙江大学-蚂蚁集团知识图谱联合实验室)
本文从粒度、可迁移性、可扩展性和普适性四个视角系统评估结构化知识提示(SKP)的泛化能力,并提出多粒度多层次基准SUBARU以揭示其能力边界。
2024-12-31 cs.CL
Beyond the Parameters: A Technical Survey of Contextual Enrichment in Large Language Models: From In-Context Prompting to Causal Retrieval-Augmented Generation
本文综述了大型语言模型中通过增加结构化上下文来提升性能的技术,涵盖上下文学习、提示工程、检索增强生成等方法,并提出透明的文献筛选协议和可信检索增强NLP的研究优先级。
2026-04-03 cs.AI cs.CL
Making Large Language Models Better Knowledge Miners for Online Marketing with Progressive Prompting Augmentation
Ant Group(蚂蚁集团)
本文提出渐进式提示增强挖掘框架PAIR,通过知识赋能提示和自适应关系过滤解决LLM构建营销知识图谱时的问题,并设计轻量级LightPAIR以降低部署成本,在受众定位实验中验证了其有效性。
2025-04-02 cs.AI cs.LG
Knowledge-Infused Prompting: Assessing and Advancing Clinical Text Data Generation with Large Language Models
Emory University(埃默里大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出知识增强的临床文本生成方法ClinGen,通过临床知识提取与上下文感知提示,利用外部知识图谱指导合成数据生成,在7个任务和16个数据集上有效提升了性能并丰富了数据多样性。
2025-01-24 cs.AI cs.CL cs.LG
How and Where to Translate? The Impact of Translation Strategies in Cross-lingual LLM Prompting
Amazon(亚马逊)
该研究针对跨语言RAG系统中知识库与上下文语言不一致的问题,系统评估不同提示翻译策略对RAG增强LLM分类任务的影响,发现优化策略可显著提升跨语言知识共享与下游性能,为低资源语言场景提供优化方向。
2025-07-21 cs.AI cs.CL
Data Augmentation of Multi-turn Psychological Dialogue via Knowledge-driven Progressive Thought Prompting
The University of Hong Kong(香港大学);The Chinese University of Hong Kong(香港中文大学)
针对现有对话数据增强难兼顾上下文、低资源心理对话领域效果不佳的问题,提出知识驱动的渐进思维提示方法,整合三类生成器引导LLM生成多轮心理对话,经多数据集实验验证有效。
2024-06-24 cs.CL
See, Think, Confirm: Interactive Prompting Between Vision and Language Models for Knowledge-based Visual Reasoning
MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);UMass Amherst(马萨诸塞大学阿默斯特分校);Tsinghua University(清华大学)
大型的预先训练的视觉和语言模型在各种任务中表现出了卓越的能力。然而,解决基于知识的视觉推理任务仍然具有挑战性,这需要模型全面理解图像内容,连接外部世界知识,并执行逐步推理以正确回答问题。为此,我们提出了一个新的框架命名为交互式的视觉推理(IPVR)的Few-Shot知识为基础的视觉推理。IPVR包括三个阶段,看,想,确认。视阶段扫描图像,并根据视觉感知模型的视觉概念候选。思维阶段采用预先训练好的大语言模型(LLM)自适应地处理候选词中的关键概念。然后将它们转换为文本上下文,以视觉字幕模型进行提示,并采用LLM生成答案。确认阶段进一步使用LLM来生成对答案的支持理由,用跨模态分类器验证所生成的理由,并确保理由可以一致地推断预测输出。我们对一系列基于知识的视觉推理数据集进行了实验。我们发现我们的IPVR有几个好处,1)。其实现了比先前的少样本学习基线更好的性能; 2).它通过为每个推理步骤提供基本原理而享有整个推理过程的完全透明和可信度; 3)。与其他微调基线相比,它的计算效率更高。
2023-01-12 cs.AI cs.CL cs.CV
Social Meaning in Large Language Models: Structure, Magnitude, and Pragmatic Prompting
Leibniz-Centre General Linguistics, Berlin, Germany(莱布尼茨普通语言学中心,柏林,德国)
本文研究大语言模型在社会意义上的表现,提出两种校准指标并探讨语用理论指导的提示策略对模型校准的影响,发现提示策略能有效减少模型在规模校准上的偏差。
2026-08-13 cs.AI cs.CL
PromptEmbedder: Efficient and Transferable Text Embedding via Dual-LLM Soft Prompting
Department of Computer Science and Information Engineering, National Taiwan University(国立台湾大学计算机科学与资讯工程系);National Taiwan University AI Center of Research Excellence(国立台湾大学人工智能研究中心)
提出PromptEmbedder双LLM框架,通过可微分的软提示生成将嵌入知识从特定骨干权重中解耦,在保持性能的同时降低40% GPU内存并加速3.7倍训练。
2026-06-09 cs.AI cs.CL
Crossing New Frontiers: Knowledge-Augmented Large Language Model Prompting for Zero-Shot Text-Based De Novo Molecule Design
TCS Research(塔塔咨询服务研究部门)
本研究提出一种知识增强大型语言模型提示框架,通过任务特定指令和少量示例解决分布偏移挑战,实现零样本文本条件下的从头分子生成,并在基准数据集上优于SOTA基线模型。
2024-08-18 cs.AI cs.CL cs.LG
Semi-Structured Chain-of-Thought: Integrating Multiple Sources of Knowledge for Improved Language Model Reasoning
University of Arizona(亚利桑那大学);Intel Labs(英特尔实验室)
本文提出半结构化思维链提示方法,无缝整合参数化记忆、文本文档和知识图谱三类知识,在开放域多跳问答中显著超越现有方法,甚至优于需要微调的技术。
2024-04-02 cs.CL
ConstraintChecker: A Plugin for Large Language Models to Reason on Commonsense Knowledge Bases
HKUST(香港科技大学)
针对大语言模型难以从示例中掌握常识知识库显式关系约束的问题,本文提出 ConstraintChecker 插件,通过规则生成约束并用零样本模块检查,再与提示输出聚合,在多个基准上一致提升性能。
2024-01-25 cs.AI cs.CL
Automatic Multi-Label Prompting: Simple and Interpretable Few-Shot Classification
New York University(纽约大学);University of California, San Diego(加州大学圣地亚哥分校)
基于知识的学习(即,提示)是一种用于利用由预训练的语言模型学习的知识的新兴范例。在本文中,我们提出了自动多标签标注(AMuLaP),一个简单而有效的方法来自动选择标签映射的Few-Shot文本分类提示。我们的方法利用一对多的标签映射和一个基于代数的算法来选择标签映射给出一个提示模板。我们的实验表明,AMuLaP达到竞争力的性能,在没有人力或外部资源的情况下,在GLUE基准。
2022-04-14 cs.AI cs.CL cs.LG
Graph Neural Prompting with Large Language Models
University of Notre Dame(圣母大学);Amazon(亚马逊)
提出图神经提示(GNP),一种即插即用方法,通过知识图谱增强预训练大型语言模型,在常识和生物医学推理任务上表现优越。
2023-12-28 cs.AI cs.CL cs.LG
When Language Shapes Thought: Cross-Lingual Transfer of Factual Knowledge in Question Answering
Hankuk University of Foreign Studies(韩国外国语大学)
本文基于语言与思维理论提出Language-to-Thought提示方法,使模型内部思维语言与知识来源对齐,在三种语言和四个模型上证明其优于英语提示推理,逆转了英语提示的优势假设。
2025-11-10 cs.AI cs.CL
Context-faithful Prompting for Large Language Models
University of Southern California(南加州大学);Microsoft Research(微软研究院)
本文研究如何通过基于观点的提示和反事实演示两种无需额外训练的提示策略,提升大型语言模型在知识冲突和带弃权预测场景下的上下文忠实度,并在机器阅读理解和关系抽取任务上验证了其有效性。
2023-10-23 cs.CL
An Empirical Evaluation of Prompting Strategies for Large Language Models in Zero-Shot Clinical Natural Language Processing
University of Pittsburgh(匹兹堡大学)
本文对GPT-3.5、BARD和LLAMA2在五个零样本临床NLP任务上的提示工程进行了系统评估,提出了启发式和集成提示,并对比零样本与少样本提示,为临床NLP的提示设计提供了新见解。
2023-09-14 cs.AI cs.CL
FactGenius: Combining Zero-Shot Prompting and Fuzzy Relation Mining to Improve Fact Verification with Knowledge Graphs
Simula Metropolitan Center for Digital Engineering(模拟元数字工程中心)
针对传统事实验核方法依赖人工数据整理、规则化的局限,研究提出FactGenius方法,结合大语言模型零样本提示与知识图谱模糊匹配,经DBpedia优化关联,在FactKG基准上性能优于现有基线,为鲁棒事实验核提供新工具。
2024-06-03 cs.CL
DKPROMPT: Domain Knowledge Prompting Vision-Language Models for Open-World Planning
State Univeristy of New York at Binghamton(纽约州立大学宾汉姆顿分校);Ford Research(福特研究院)
本文提出DKPROMPT框架,利用PDDL领域知识自动化提示VLM,解决开放世界中机器人任务规划问题,在任务完成率上优于经典规划、纯VLM及竞争基线。
2024-06-25 cs.AI cs.RO
Incorporating Geo-Diverse Knowledge into Prompting for Increased Geographical Robustness in Object Recognition
Intelligent Systems Program(智能系统项目);Department of Computer Science, University of Pittsburgh(匹兹堡大学计算机科学系)
本文提出将地理多样性知识融入提示,并设计地理知识正则化,使在源地理上训练的软提示能泛化到未见目标地理,从而提升CLIP目标识别的地理鲁棒性。
2024-03-29 cs.AI cs.CV cs.LG
MultiTool-CoT: GPT-3 Can Use Multiple External Tools with Chain of Thought Prompting
Kyoto University(京都大学);National Institute of Informatics(国立信息学研究所)
本文提出 MultiTool-CoT 框架,通过思维链提示让 GPT-3 在推理中调用计算器和知识检索器等多个外部工具,在 NumGLUE Task 2 上取得最先进性能。
2023-05-26 cs.AI cs.CL cs.LG
Derivation Prompting: A Logic-Based Method for Improving Retrieval-Augmented Generation
Instituto de Computación, Facultad de Ingeniería, Universidad de la República(计算研究所,工程学院,乌拉圭共和国大学)
本文提出推导提示方法,通过系统应用预定义规则从初始假设推导结论,以提高检索增强生成中生成过程的可控性和准确性。
2026-05-13 cs.AI cs.CL
Fine-tuning vs Prompting, Can Language Models Understand Human Values?
HKUST(香港科技大学)
本文探讨了微调与提示调优在人类价值检测任务中的效果,并验证了预训练知识与RLHF对齐的LLMs在该任务中的能力,展示了初步实验结果。
2024-03-12 cs.AI cs.CL