Generalizable Multimodal Large Language Model Editing via Invariant Trajectory Learning
Zhejiang University, China(浙江大学);Singapore Management University, Singapore(新加坡管理学院);National University of Singapore, Singapore(新加坡国立大学);Hangzhou Dianzi University, China(杭州电子科技大学);Jiangxi Normal University, China(江西师范大学)
本文提出ODEit框架,通过不变轨迹学习提升多模态大语言模型的编辑可靠性、局部性和泛化能力。
2026-01-30 cs.AI cs.LG
Investigating Multi-Hop Factual Shortcuts in Knowledge Editing of Large Language Models
School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University(上海交通大学电子信息与电气工程学院);School of Cyberspace Security, Southeast University(东南大学网络空间安全学院)
本文探究了LLMs在多跳知识推理中利用初始与终端实体间事实捷径的现象,发现捷径强度与实体共现频率相关,并提出擦除捷径神经元的方法显著降低了多跳知识编辑的失败率。
2024-06-02 cs.CL
LEMoE: Advanced Mixture of Experts Adaptor for Lifelong Model Editing of Large Language Models
College of Computer Science and Technology(计算机科学与技术学院);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
本文提出 LEMoE 高级专家混合适配器,通过 KV 锚定路由和基于聚类的编辑顺序规划解决终身模型编辑中的灾难性遗忘、路由不一致和顺序敏感性问题,在终身与批量编辑任务中均超越现有方法。
2024-06-28 cs.CL
Multi-round, Chain-of-thought Post-editing for Unfaithful Summaries
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Amazon Web Services(亚马逊网络服务)
本研究探索了使用大型语言模型进行新闻摘要的忠实性评估与后编辑,通过思维链提示和多轮编辑策略,有效纠正事实不一致,提升摘要忠实性。
2025-01-20 cs.CL
PromptDecipher: Supporting AI Tutor Authoring Through Editable Simulated Interactions
Carnegie Mellon University(卡内基梅隆大学)
PromptDecipher通过直接纠正交互重构作者流程,帮助教师成为学习设计师和QA工程师,提升AI辅导作者的质量与效率。
2026-05-15 cs.AI cs.HC
PURR: Efficiently Editing Language Model Hallucinations by Denoising Language Model Corruptions
University of California, Irvine(加州大学欧文分校);Google DeepMind(谷歌DeepMind);Google Search(谷歌搜索)
本文提出PURR模型,通过利用大型语言模型引入噪声并微调紧凑型编辑器进行去噪,实现完全无监督的幻觉修正,在提升归因效果的同时大幅加快执行速度。
2023-05-24 cs.CL
DocEdit-v2: Document Structure Editing Via Multimodal LLM Grounding
Adobe Research(奥多比研究院);MBZUAI(Mohamed bin Zayed 人工智能大学);University of Maryland College Park(马里兰大学帕克分校)
DocEdit-v2提出基于多模态大语言模型的端到端文档结构编辑框架,通过Doc2Command定位编辑区域并生成命令,结合命令重述与GPT-4V/Gemini执行编辑,在多项任务上显著超越基线。
2024-10-21 cs.CL
Knowledge Editing through Chain-of-Thought
Tsinghua University(清华大学);Quan Cheng Laboratory(泉城实验室)
本文提出EditCoT框架,通过生成并迭代优化思维链来更新大语言模型知识,无需重新训练,在多种语言和任务基准上达到最先进性能,兼具泛化性、有效性和稳定性。
2025-09-07 cs.CL
Robust and Scalable Model Editing for Large Language Models
Tsinghua University(清华大学);Tencent Machine Learning Platform(腾讯机器学习平台);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本研究发现指令微调LLMs可通过提示方法受上下文知识控制并对不相关上下文鲁棒,据此提出EREN方法,通过上下文编辑提升模型编辑的可扩展性与鲁棒性,在新构建的高难度数据集上大幅超越现有方法。
2024-03-26 cs.CL cs.LG
The Rashomon Wikipedia: A Data-Perspectivist Analysis of Divergent Historical Narratives
Interdisciplinary School of Doctoral Studies(跨学科博士研究院);HLT Research Center(HLT研究中心);Faculty of Mathematics and Computer Science(数学与计算机科学学院);Faculty of Foreign Languages and Literatures(外国语与文学学院);University of Bucharest(布加勒斯特大学)
本研究通过分析五种语言维基百科中三个罗马尼亚历史事件的叙事,揭示跨语言史学偏见和“引文孤立”现象,并提出“和平缔造者”流水线,利用对抗性提示实现自动化冲突调和。
2026-09-30 cs.CL
CoIE: Chain-of-Instruct Editing for Multi-Attribute Face Manipulation
Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
针对单指令多属性人脸编辑难题,提出CoIE指令链编辑方法,结合大模型生成分步指令、自建数据集微调及超分辨率模块,显著提升编辑成功率与可控性。
2023-12-20 cs.AI cs.CV
MQuAKE: Assessing Knowledge Editing in Language Models via Multi-Hop Questions
Princeton University(普林斯顿大学);Stanford University(斯坦福大学)
本文提出MQuAKE多跳问答基准以评估知识编辑引发的连锁信念更新,并设计基于外部记忆与迭代提示的MeLLo方法,显著提升LLM在多跳问题上的编辑一致性。
2024-09-09 cs.CL
Multi-Query Focused Disaster Summarization via Instruction-Based Prompting
Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡乔治·西蒙·欧姆应用技术大学)
本文提出结合BM25和MonoT5两阶段检索、重排序及基于LLaMA-13b的问答驱动提示摘要方法,解决CrisisFACTS多流灾难事件关键事实提取任务,评估显示效果良好但开源与专有系统仍有差距。
2024-02-14 cs.CL
Learning Performance-Improving Code Edits
University of Pennsylvania(宾夕法尼亚大学);Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind);Google(谷歌)
该研究提出将大型语言模型适配于高级程序优化,构建了含7.7万对C++提交的数据集和基于gem5的评估环境,通过检索提示、思维链及微调等策略,实现了超越人类程序员的加速效果。
2024-04-26 cs.AI cs.LG cs.PF
Mechanistic Behavior Editing of Language Models
TU Darmstadt(达姆施塔特工业大学);IIT Delhi(德里印度理工学院)
针对大语言模型受噪声虚假特征影响泛化性差、监督微调数据效率低的问题,提出任务适配方法TaRot,用贝叶斯优化的可学习旋转矩阵干预神经回路,显著提升零样本和少样本性能。
2024-10-05 cs.AI cs.CL
Natural Language Declarative Prompting (NLD-P): A Modular Governance Method for Prompt Design Under Model Drift
ddai Inc.(ddai公司)
本文提出NLD-P作为模块化治理方法,通过自然语言声明式提示解决模型漂移下的提示设计问题,提供可解释的控制框架。
2026-02-26 cs.AI cs.CL
AgentDrug: Utilizing Large Language Models in An Agentic Workflow for Zero-Shot Molecular Editing
University of Notre Dame(诺丁汉大学)
AgentDrug通过代理工作流利用大语言模型,在分子编辑任务中实现更高准确性,特别是在单属性和多属性编辑任务中表现出显著性能提升。
2026-02-07 cs.AI cs.CV cs.LG
Evoke: Evoking Critical Thinking Abilities in LLMs via Reviewer-Author Prompt Editing
Microsoft(微软);University of Washington(华盛顿大学);University of Michigan(密歇根大学)
提出自动提示优化框架Evoke,通过LLM审稿人与作者反馈循环迭代编辑提示,并结合困难样本数据选择策略,显著提升LLM在逻辑谬误检测等任务上的性能。
2023-10-20 cs.AI cs.CL
The Model Agreed, But Didn't Learn: Diagnosing Surface Compliance in Large Language Models
Independent Researcher(独立研究员);Cornell Tech(康奈尔科技校区);The Ohio State University(俄亥俄州立大学);The Pennsylvania State University(宾夕法尼亚州立大学)
研究通过引入诊断框架,揭示大语言模型在记忆修改中存在表面合规现象,指出编辑方法可能仅模仿输出而非改变内部信念,导致认知不稳定和记忆不可逆。
2026-04-07 cs.AI cs.CL cs.LG
IDEA: An Interpretable and Editable Decision-Making Framework for LLMs via Verbal-to-Numeric Calibration
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Huawei Technologies Co.,Ltd(华为技术有限公司)
IDEA通过EM联合学习、相关采样和数学保证的参数编辑,实现LLM决策的校准概率与量化人机协作,实验显示其在五个数据集上优于其他模型。
2026-04-14 cs.AI
SynCraft: Guiding Large Language Models to Predict Edit Sequences for Molecular Synthesizability Optimization
BNLMS, College of Chemistry and Molecular Engineering, Peking University, Beijing 100871, China(BNLMS,化学与分子工程学院,北京大学,北京100871,中国)
SynCraft通过引导大语言模型预测编辑序列,优化分子合成可行性,提升生成分子的结构保真度和合成可行性。
2025-12-23 cs.AI q-bio.QM
How Much Would a Clinician Edit This Draft? Evaluating LLM Alignment for Patient Message Response Drafting
Department of Computer Science, Dartmouth College(计算机科学系,达特茅斯学院);Department of Community and Family Medicine, Dartmouth Health(社区与家庭医学系,达特茅斯健康);The Dartmouth Institute, Dartmouth College(达特茅斯研究所,达特茅斯学院)
本研究评估了LLM在患者信息回复起草任务中的对齐情况,提出了一种新的评估框架,并发现需要根据临床医生的偏好进行适应以提高可靠性。
2026-01-16 cs.AI cs.CL
Multi-Sample Prompting and Actor-Critic Prompt Optimization for Diverse Synthetic Data Generation
Paris 1 Panthéon–Sorbonne University(巴黎第一大学)
本文提出多样本提示与演员-评论员提示优化方法,用于提升合成数据生成的多样性与下游任务表现,实验显示在需求工程分类任务中,F1分数提升达6至43.8个百分点。
2026-03-28 cs.AI cs.SE
Rome was Not Built in a Single Step: Hierarchical Prompting for LLM-based Chip Design
New York University(纽约大学)
针对LLM生成复杂HDL的难题,本文提出分层提示与自动化流水线,使小型开源模型达到大型专有模型水平,并首次无人工反馈设计出处理器。
2024-09-09 cs.AI cs.AR
LLMR: Real-time Prompting of Interactive Worlds using Large Language Models
Microsoft(微软);Massachusetts Institute of Technology(麻省理工学院);MIT Media Lab(麻省理工学院媒体实验室);Rensselaer Polytechnic Institute(伦斯勒理工学院)
提出LLMR框架,利用LLM实时创建和修改混合现实体验,结合场景理解等技术,平均错误率比GPT-4低4倍,并在跨平台任务和可用性研究中表现优异。
2024-03-22 cs.AI cs.CL cs.ET
Understanding and supporting how developers prompt for LLM-powered code editing in practice
University of California Irvine(加州大学尔布雷分校);Google(谷歌);Meta
本文研究开发者在使用LLM赋能代码编辑工具时的提示行为,发现频繁重新提示表明使用困难,并提出AutoPrompter工具通过推断缺失信息提升编辑正确性27%。
2025-12-19 cs.AI cs.HC cs.SE
Aligning Large Language Models with Representation Editing: A Control Perspective
Georgia Tech(佐治亚理工学院);Cornell University(康奈尔大学);UC Berkeley(加州大学伯克利分校);University of Trento(特伦托大学)
针对大语言模型对齐中微调资源消耗高、测试时方法依赖原模型能力的问题,提出将LLM视为离散随机动力系统,通过表示编辑引入外部控制信号,基于贝尔曼方程训练价值函数以在测试时优化控制信号,实现性能优于现有测试时方法且资源消耗远低于微调的对齐效果。
2024-11-01 cs.AI cs.LG cs.SY
Values as Style: Disentangling Values from Semantics with One-Way Mixing for Low-Damage LLM Steering
Peking University(北京大学);University of Chinese Academy of Sciences(中国科学院大学);Tsinghua University(清华大学)
本文提出一种在冻结残差状态上通过单向语义到价值通路实现低损伤LLM价值引导的方法,在保持语义的同时提升对齐并减少拒绝。
2026-10-01 cs.AI cs.CY cs.LG
AutoPDL: Automatic Prompt Optimization for LLM Agents
UC Davis(加州大学戴维斯分校);IBM Research(IBM研究院)
本文提出AutoPDL,一种将LLM智能体提示配置构建为结构化AutoML问题的自动化方法,利用连续减半法在组合提示空间中高效搜索,生成可读可编辑的PDL程序,在多任务和模型上实现显著准确率提升。
2025-11-03 cs.AI cs.LG cs.PL
Prompting Large Language Models with Human Error Markings for Self-Correcting Machine Translation
Heidelberg University(海德堡大学);SAP SE(思爱普公司)
本文提出一种轻量级两步机器翻译方法,通过人类译者在推理阶段标记错误并从翻译记忆库提取示例提示LLM,引导模型专注纠错,在技术领域术语翻译上实现了优于自动译后编辑和从零开始翻译的一致改进。
2024-06-04 cs.CL
Efficient 3D-Aware Facial Image Editing via Attribute-Specific Prompt Learning
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Technology Innovation Institute(技术创新研究院)
提出基于属性特定提示学习的即插即用3D感知人脸编辑框架,通过文本驱动的潜在属性编辑器(LAE)和多种保持损失,实现跨姿态的高质量、视角一致且属性可控的人脸图像编辑。
2024-07-24 cs.AI cs.CV
How Far Can Prompting Go for Minimal-Edit Ukrainian Grammatical Error Correction?
Ukrainian Catholic University(乌克兰天主教大学);YouScan;Zendesk
评估11个商业LLM在乌克兰语最小编辑语法错误纠正上的表现,发现结合最小编辑提示和少样本策略的Gemini 3.1-Pro达到F0.5=69.22,缩小了与微调SOTA的差距。
2026-06-08 cs.CL
Compared to What? Baselines and Metrics for Counterfactual Prompting
Northeastern University(东北大学);Bar-Ilan University(巴伊兰大学);Allen Institute for AI(人工智能研究所)
本文探讨了反事实提示中基线和度量标准的重要性,指出单纯改变文本因素无法准确评估模型敏感性,提出通过统计检验比较干预差异与改写影响的框架,发现模型对患者性别等的敏感性在考虑一般模型敏感性后显著降低。
2026-08-24 cs.CL cs.LG
RES-Q: Evaluating Code-Editing Large Language Model Systems at the Repository Scale
Northeastern University(东北大学);Qurrent AI
针对大型语言模型系统在代码仓库编辑任务中缺乏稳健评估工具的问题,提出基于自然语言指令的基准 RES-Q,包含 100 个真实 GitHub 提交任务,全面评估系统的指令解释、信息检索与代码编辑能力,揭示了传统基准无法体现的模型差异。
2024-06-25 cs.CL
Tuning LLM-based Code Optimization via Meta-Prompting: An Industrial Perspective
University of Leeds(利兹大学);University of Surrey(萨里大学);University of West London(西伦敦大学)
针对多LLM工业部署中跨模型提示工程成本高的瓶颈,提出MPCO元提示代码优化框架,通过整合多类上下文动态生成适配不同LLM的优化提示,在真实代码库测试中实现最高19.06%的性能提升,为工业实践提供参考。
2025-10-03 cs.AI cs.SE
Reasoning Robustness of LLMs to Adversarial Typographical Errors
National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学);Google DeepMind(谷歌DeepMind)
本文研究大语言模型对对抗性拼写错误的推理鲁棒性,提出ATA攻击算法和R$^2$ATA基准,证明最小拼写编辑可显著降低模型性能,且攻击具有跨模型迁移性。
2024-11-08 cs.AI cs.CL
Enhancing Clinical Note Generation with ICD-10, Clinical Ontology Knowledge Graphs, and Chain-of-Thought Prompting Using GPT-4
Computer Science, Old Dominion University(旧 Dominion 大学计算机科学系);Biomedical Informatics, University of Arkansas for Medical Sciences(阿肯色医学科学大学生物医学信息学系)
本研究利用ICD-10、临床本体知识图谱和链式推理提示法提升临床笔记生成质量,通过GPT-4在六个临床案例中验证了方法的有效性。
2025-12-04 cs.CL q-bio.QM
Multi-Target Few-Shot Prompting with Diffusion Language Models
University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究针对少样本提示中因果自回归模型生成效果不佳的问题,提出基于扩散语言模型的多目标少样本提示方法,通过示例引导填充共享画布的多个掩码区域,结合似然比奖励提升填充准确率,在基准测试和软件重构中验证了方法的有效性。
2026-10-16 cs.CL
Leveraging LLMs for Multi-File DSL Code Generation: An Industrial Case Study
Technical University of Munich(慕尼黑技术大学)
本文探讨了LLMs在企业领域特定语言DSL多文件生成中的应用,通过BMW的案例研究,展示了从单一自然语言指令生成多文件DSL及Java/TypeScript代码的端到端流程。
2026-04-27 cs.AI cs.SE
The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models
Bluecore Consulting(蓝芯咨询)
本文针对部署语言模型提出隐形编辑层概念,形式化推理归因问题、概率置放等核心概念,探讨其与相关监管框架的关联,揭示未公开推理调控的潜在影响。
2026-08-27 cs.AI cs.CL cs.CY
Exploring Prompt Engineering Practices in the Enterprise
IBM Research(IBM研究院)
本研究通过分析企业环境中用户的提示编辑行为,探讨提示工程实践,以揭示用户对模型的理解并指导更高效的提示设计支持。
2024-03-13 cs.AI cs.HC
Mini-DALLE3: Interactive Text to Image by Prompting Large Language Models
Shanghai AI Laboratory(上海人工智能实验室);CUHK(香港中文大学);Beijing Institute of Technology(北京理工大学);Tsinghua University(清华大学)
本文提出一种通过提示技术和现成T2I模型增强LLM的简单方法,实现无需训练的交互式文生图(iT2I),支持图像生成、编辑与问答,并在多种LLM上验证了其有效性和低代价。
2023-10-12 cs.AI
DimSteer: Steering LLM Authoring with Automatically Discovered Stylistic Controls
Cornell Tech(康奈尔科技学院);Harvard University(哈佛大学)
DimSteer通过自动发现并展示风格控制滑块,减少用户对提示回忆的依赖,实验表明其降低认知负担并提升识别式探索。研究验证了提示局部控制的有效性。
2026-10-06 cs.CL cs.HC
TEMPERA: Test-Time Prompting via Reinforcement Learning
UC Berkeley(加州大学伯克利分校);Google Research(谷歌研究院);University of Alberta(阿尔伯塔大学)
在zero-shot或少样本学习中使用大语言模型时,仔细的提示设计至关重要。因此,人们对设计最佳提示的自动化方法越来越感兴趣。在这项工作中,我们提出了测试时提示编辑使用强化学习(CHTA)。与现有的提示生成方法相比,该方法可以有效地利用先验知识,适应不同的查询,并为每个查询提供可解释的提示。为了实现这一目标,我们设计了一个新颖的动作空间,允许灵活编辑的初始提示,涵盖了广泛的常用组件,如指令,Few-Shot范例,和verbalizers。与最近的SoTA方法(如提示微调,AutoPrompt和RLPrompt)相比,所提出的方法在各种任务(包括情感分析,主题分类,自然语言推理和阅读理解)中取得了显着的收益。与传统的微调方法相比,我们的方法在样本效率上平均提高了5.33倍。
2022-11-21 cs.AI cs.CL
Controllable Data Augmentation for Few-Shot Text Mining with Chain-of-Thought Attribute Manipulation
University of California, San Diego(加利福尼亚大学圣迭戈分校)
提出CoTAM方法,通过思维链属性操作在少样本文本挖掘中实现可控数据增强,在多项任务上优于其他LLM增强方法。
2024-05-22 cs.CL
Right Diagnoses, Decorative Reasoning:A Perturbation Audit of Medical Chain-of-Thought
Eindhoven University of Technology(埃因霍温理工大学);Dana-Farber Cancer Institute(达纳-法伯癌症研究所)
本研究通过医学扰动审计方法,对14个大语言模型在四个医学问答基准上进行测试,发现医学思维链多为装饰性内容,为医学CoT的忠实性审计提供了可复用标准。
2026-08-26 cs.AI
Do large language models scrutinise what they review? A multimodal audit of scoring calibration, error detection, and author-identity effects
University of Tabuk(塔布克大学)
本研究以两款多模态LLM为评审者评估2026 ICLR投稿,发现其评分高于人类、错误检测率低,提供图表会降低错误检测率,作者身份对评审无影响,编辑决策与简单评分平均一致。
2026-09-01 cs.AI cs.CL
Document-Level Text Simplification in Estonian Using Large Language Models
National Library of Estonia(爱沙尼亚国家图书馆);University of Tartu(塔尔图大学)
本研究评估五种多语言大语言模型在爱沙尼亚语文档级简化中的表现,提出三种提示策略和综合评估框架,发现Gemini-2.0和LLaMA-3.3效果最佳,并贡献了新的连贯性指标和公开资源。
2026-10-08 cs.CL
Retrieval-Augmented Fine-Tuning With Preference Optimization For Visual Program Generation
POSTECH(浦项科技大学);Hyundai Mobis(现代摩比斯);T&I Company(T&I公司)
针对工业梯形图视觉程序生成,提出检索增强微调结合直接偏好优化的两阶段训练策略,较监督微调提升程序级准确性超10%。
2025-05-23 cs.AI cs.CL
Decouple knowledge from parameters for plug-and-play language modeling
Peking University(北京大学);Renmin University of China(中国人民大学);BIGAI(北京通用人工智能研究院)
本文提出PlugLM,通过可微即插即用记忆将知识存储与模型参数解耦,实现可编辑、可扩展且可解释的知识利用,并在领域适应、知识更新和任务内知识学习三个场景中验证了其有效性。
2023-09-18 cs.AI cs.CL
Beyond the Sentence: A Survey on Context-Aware Machine Translation with Large Language Models
Department of Computer Science and Engineering, Indian Institute of Technology Patna, India(印度理工学院帕纳瓦分校计算机科学与工程系);Wipro AI, Lab45, London, UK(Wipro AI,Lab45,伦敦,英国);School of AI and Data Science, Indian Institute of Technology Jodhpur, India(印度理工学院朱罗普分校人工智能与数据科学学院)
本文综述大型语言模型在上下文感知机器翻译中的应用,梳理提示、微调、译后编辑与翻译智能体等方法,并比较商业与开源模型表现,指出未来方向。
2025-06-09 cs.AI cs.CL
Identifying Query-Relevant Neurons in Large Language Models for Long-Form Texts
Imperial College(帝国学院)
本文提出QRNCA框架,用于识别LLM中与查询相关的神经元,通过多选问答任务评估其有效性,并展示在不同领域中的局部知识区域。
2024-12-19 cs.CL
RepSelect: Robust LLM Unlearning via Representation Selectivity
Independent(独立);University of Oxford(牛津大学)
针对现有遗忘方法易被微调或少样本提示逆转的问题,提出RepSelect方法,通过梯度主成分坍塌隔离遗忘集表示,实现深度鲁棒遗忘。
2026-08-21 cs.CL
Prompting open-source and commercial language models for grammatical error correction of English learner text
Writer Inc.(Writer公司);King’s College London(伦敦国王学院);Imperial College London(伦敦帝国学院)
本研究评估七个开源和三个商业LLMs在四个GEC基准上的表现,发现LLMs并非总优于有监督模型,开源模型在最小编辑基准上表现更佳,且零样本提示具竞争力。
2025-04-06 cs.CL