Do Implicit Personalization and Explicit Styles Conflict? PsPLUG: A Lightweight Plug-in for Balancing Personalization and Style in Customized LLMs
University of California, Irvine(加州大学伊文斯顿分校);TikTok Inc.(TikTok公司)
研究个性化大语言模型中显式风格指令与隐式用户偏好冲突问题,提出轻量级插件PsPLUG,它能在考虑风格后学习用户特定残差并可调整个性化强度,实验证明其能更好平衡个性化与风格遵循,保留用户偏好。
2026-09-22 cs.AI
PRIME: Evaluating Prompt Resolution Under Incompatible Instructions in LLMs
School of Electrical Engineering;Computer Science (SEECS), National University of Sciences
提出PRIME框架,通过生成校准冲突(响应长度、输出格式、推理)并采用确定性行为分类法,分析大语言模型处理冲突指令的行为,发现冲突类型比模型规模对行为影响更大。
2026-06-23 cs.AI
Is Capability a Liability? More Capable Language Models Make Worse Forecasts When It Matters Most
Forecasting Research Institute(预测研究 institute)
本文发现,在时间序列呈现超线性增长和制度转换尾部风险的预测问题上,更强大的语言模型反而产生更差的分位数预测,并分析了这一逆缩放现象的机制、影响因素及评估指标问题。
2026-05-22 cs.AI
CoRect: Context-Aware Logit Contrast for Hidden State Rectification to Resolve Knowledge Conflicts
Beihang University(北航大学)
CoRect通过上下文感知logit对比校正隐藏状态,解决模型内部参数化知识与检索证据之间的冲突,提升生成任务的忠实度和减少幻觉。
2026-02-09 cs.AI cs.CL
Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures
研究发现指令遵循模型在冲突检测中存在沉默承诺失败,可控性差异显著,且基准准确度无法预测可控性,提示可控性在预训练阶段固定。
2026-03-22 cs.AI cs.CR cs.LG
Causal Evidence for Attention Head Imbalance in Modality Conflict Hallucination
National Key Laboratory for Novel Software Technology(新型软件技术国家重点实验室);School of Artificial Intelligence(人工智能学院)
本文研究了多模态大语言模型在模态冲突中产生幻觉的原因,通过分析注意力头的因果作用,发现驱动幻觉的头部分布更广且权重更大,而抑制幻觉的头部集中在少量重要头部,提出MACI方法在减少幻觉的同时保持准确性。
2026-05-19 cs.AI
Conflict Detection and Resolution in Table Top Scenarios for Human-Robot Interaction
Umeå University(于默奥大学)
与任何交互过程一样,误解、模糊和无法正确理解交互伙伴必然会在人机交互中发生。我们把这些失败的“冲突”,并有兴趣在冲突检测和冲突解决。在这一点上,我们专注于机器人的视角。对于机器人,冲突可能会发生,因为在其感知过程中的错误,或因为来自人类输入的模糊性。这张海报介绍了一个简短的系统概述,以及细节在这里,我们简要概述了项目的动机和设置,介绍了一般的处理框架,然后更详细地介绍了两种冲突:1)根本无法识别相关对象; 2)场景感知中的多个匹配产生的模糊性。
2019-12-29 cs.AI cs.HC cs.RO
Understanding the Dynamics of Demonstration Conflict in In-Context Learning
University of Toronto(多伦多大学);King Abdullah University of Science(卡布斯国王科学大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本研究探讨了上下文学习中演示冲突的处理机制,发现模型在冲突证据下表现出两阶段计算结构,通过注意力头分析揭示了模型对腐败证据的敏感性,并验证了针对性消融对性能提升的显著影响。
2026-03-03 cs.AI cs.LG
Conflict-Aware Retriever Editing for Knowledge Injection Attacks on LLM-Based RAG Systems
Shandong University, China(山东大学,中国);Tsinghua University, China(清华大学,中国)
提出冲突感知检索器编辑框架CAREATTACK,通过模型中心攻击将恶意知识注入RAG系统,利用图检测和参数编辑投影解决冲突,并轻量校准保持攻击效果。
2026-06-18 cs.AI cs.CR
IH-Challenge: A Training Dataset to Improve Instruction Hierarchy on Frontier LLMs
IH-Challenge通过强化学习训练数据集提升前沿大语言模型在指令冲突中的鲁棒性,减少不安全行为并提高帮助性。
2026-03-11 cs.AI cs.CL cs.CR
Towards an Intention Abstraction Layer for Autonomous Industrial Systems
针对自主工业系统中各子系统运行目标冲突难以及时发现的问题,提出意图抽象层(IAL),通过大型语言模型等将自然语言目标解析为结构化意图,检测并解释冲突,实现执行前意图级检查,保障协作自主系统行为。
2026-07-17 cs.AI cs.MA
More Skills, Worse Agents? Skill Shadowing Degrades Performance When Expanding Skill Libraries
Databricks Inc.(Databricks公司)
本文研究LLM智能体技能库扩展导致性能下降的现象,提出将性能下降分解为技能遮蔽和上下文开销两种效应,并通过实验证明技能遮蔽是主要瓶颈。
2026-06-24 cs.AI cs.SE stat.AP
FRESCO: Benchmarking and Optimizing Re-rankers for Evolving Semantic Conflict in Retrieval-Augmented Generation
Meta Superintelligence Labs(Meta超智能实验室)
FRESCO针对检索增强生成中动态语义冲突问题,评估重排序器在时间动态场景下的性能,发现现有重排序器对较旧文档存在偏见,通过指令优化框架改进了27%的动态知识任务性能。
2026-04-14 cs.AI cs.IR
Auditing Escalation Reliability in Healthcare LLM Agents: A Perturbation-Controlled Benchmark of Workflow-State Failures
Washington University in St. Louis(圣路易斯华盛顿大学);Southern Methodist University(南卫理公会大学)
本研究构建医疗大语言模型智能体的工作流状态故障扰动控制基准,发现现有模型漏检大量必要升级,工作流感知控制器可提升效用但泛化性受限,推动了工作流状态评估的必要性。
2026-11-03 cs.AI cs.CL
Strained Coherence: A Pre-Failure Signal in Coding Agent Execution Trajectories
提出“应变连贯性”模式,即编码代理识别到问题但仍按原计划行动,通过构建Claude Sonnet 4.6检测器在44条轨迹上实现94%故障预测精度,优于基线方法。
2026-06-05 cs.AI cs.CL cs.LG
How Language Models Choose Sides: Internal Representations of Instruction Hierarchy
Amazon(亚马逊);National Taiwan University(国立台湾大学);Plaksha University(普拉卡莎大学);RAND Corporation(兰德公司);Algoverse;Google DeepMind(谷歌DeepMind)
本研究探究指令微调LLM在系统与用户指令冲突中的仲裁机制,构建含41对约束的基准评估8个模型,发现反层级模型Llama-3.1-8B的冲突结果可从残差流激活线性解码,干预效果取决于读出几何结构。
2026-09-01 cs.AI cs.CL cs.LG
When Text Misleads: Inconsistent-Aware Reasoning for Audio-Grounded Dialogue
Center for Language and Speech Processing, Johns Hopkins University(约翰霍普金斯大学语言与语音处理中心)
本研究针对口语对话理解中基于转录本的捷径问题,构建了含501个问题的受控基准ContraTalk,提出Audio Twin智能体式推理框架,可提升冲突问答案例的准确率并减少文本偏向陷阱选择。
2026-09-09 cs.AI cs.CL cs.LG
Where Instruction Hierarchy Breaks: Diagnosing and Repairing Failures in Reasoning Language Models
NVIDIA(英伟达)
提出白盒诊断框架,将指令层级失效定位为指令识别、冲突解决和响应实现三个环节,并设计两种免训练自监控机制,将违规率降低81-99%。
2026-06-05 cs.AI
CRAFT: Causal Responsibility and Failure Tracing in Medical Vision Language Models
Hunan University(湖南大学);University of Hong Kong(香港大学)
针对医学视觉语言模型中的仲裁失败和刹车失败,提出CRAFT方法,通过因果头定位与干预,实现精准识别和纠正,提升诊断安全性。
2026-10-30 cs.AI cs.CV
Control Illusion: The Failure of Instruction Hierarchies in Large Language Models
研究探讨了大型语言模型中指令层级机制的有效性,发现模型在处理简单格式冲突时难以保持一致的优先级,且系统/用户提示分离方法无法建立可靠层级,社会层级框架对模型行为影响更大。
2025-12-04 cs.AI cs.CL
Measuring LLM Trust Allocation Across Conflicting Software Artifacts
University of Texas at Dallas(德克萨斯大学达拉斯分校);IQVIA Inc.(IQVIA公司)
研究探讨LLM在处理冲突软件构件时的信任分配问题,提出TRACE框架评估不同构件的质量、不一致性和信任校准,发现模型在检测文档错误时表现优于实现错误,但对实现漂移而文档无误的情况检测率下降,且信任校准不佳。
2026-07-23 cs.AI cs.SE
CDH-Bench: A Commonsense-Driven Hallucination Benchmark for Evaluating Visual Fidelity in Vision-Language Models
Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies, Institute of Cyberspace Security, School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen(广东省新型安全智能技术重点实验室,网络空间安全研究院,计算机科学与技术学院,哈尔滨工业大学(深圳))
本文提出CDH-Bench基准,用于评估视觉语言模型在视觉证据与常识冲突时的视觉保真度,通过三种异常类型和两种QA任务,揭示模型在常识驱动下的幻觉问题。
2026-04-01 cs.AI cs.CL cs.CV
When Gradients Collide: Failure Modes of Multi-Objective Prompt Optimization for LLM Judges
IIT Jodhpur(印度理工学院乔普里尔);Amazon(亚马逊)
研究多目标文本梯度优化中梯度稀释和指令干扰两种失败模式,通过分解优化器信息共享方式揭示性能下降原因。
2026-06-03 cs.AI cs.CL cs.LG
When LLM Agents See a Conflict but Still Proceed: Cross-Domain Dependencies in Network Slicing
Federal University of ABC(ABC联邦大学);NEXA
该研究针对AI原生网络中LLM智能体处理跨域依赖关系的问题,通过智能电网用例实验发现多数模型会违背已识别的依赖关系,提出需由管理架构而非LLM执行依赖关系验证。
2026-10-14 cs.AI cs.CL cs.LG
CoreSense: Traceable Failure Recall and Conflict-Aware Belief Gating for Auditable Robot Decisions
CoreSense通过冲突感知信念门控和可追溯证据,将机器人不安全继续操作率降至0%,实现可审计的故障回忆决策。
2026-09-18 cs.AI cs.RO
Position: AI Is Not Ready for Strategic Conflicts
Georgia Institute of Technology(佐治亚理工学院)
本文指出开放式战略兵棋推演中语言模型存在五种失败模式,主张在无安全论证前不得用于规划决策,当前仅可作压力测试工具。
2026-09-16 cs.AI
Semantic Consensus: Process-Aware Conflict Detection and Resolution for Enterprise Multi-Agent LLM Systems
Independent Researcher(独立研究员)
本文提出语义共识框架,通过过程感知中间件解决多智能体系统中因共享目标解释不一致导致的冲突问题,实现100%工作流完成率和高精度冲突检测。
2026-03-13 cs.AI cs.MA cs.SE
Tensor-Coord: Algebraic Decomposition of Joint Plan Tensors for Conflict-Free Multi-Agent LLM Planning
University of Michigan(密歇根大学)
提出Tensor-Coord框架,将多智能体联合计划表示为三阶张量,通过CP和Tucker分解识别协调结构,计算协调复杂度并定位冲突,实现无冲突规划。
2026-06-16 cs.AI
The Circuit Basis of Metacognitive Failure in Language Models: Interference and Hallucination
Massachusetts Institute of Technology(麻省理工学院);University of Texas Austin(德克萨斯大学奥斯汀分校);Cognizant(Cognizant公司)
研究Transformer记忆中冲突与hallucination的几何机制,揭示吸引子基底在隐藏状态空间中的作用,通过合成任务验证几何边界在区分正确回忆与hallucination中的有效性。
2026-11-03 cs.AI
Position: Multi-Agent Systems Should Prioritize Concurrency Control
该研究指出基于LLM的多智能体系统的故障本质是并发控制问题,提出应将显式并发控制机制作为首要设计考量,以解决系统可靠性下降的问题。
2026-08-20 cs.AI
The Provenance Paradox in Multi-Agent LLM Routing: Delegation Contracts and Attested Identity in LDP
Indian School of Business(印度管理学院)
本文研究多智能体大语言模型在跨信任边界任务委托中的溯源悖论,提出委托合同和认证身份模型以解决不可验证质量声明的问题,通过实验验证认证路由的高效性。
2026-03-15 cs.AI cs.MA
FIDES: Faithful Inference via Deep Evidence Signals for Retrieval-Memory Conflict in RAG
Binjiang Institute of Zhejiang University(浙江大学滨江研究院);Zhejiang University(浙江大学);Guangzhou University(广州大学);GenTel.io
针对检索增强生成中检索证据与参数记忆冲突导致模型忽略上下文的问题,提出无训练解码器FIDES,通过融合输出表面、隐藏表示和预测轨迹三种内部信号,在token级别动态调整干预强度,显著提升上下文忠实度。
2026-06-04 cs.AI
The Specification Gap: Coordination Failure Under Partial Knowledge in Code Agents
Catalan Institute of Nanoscience and Nanotechnology (ICN2), CSIC and BIST(加泰罗尼亚纳米科学与纳米技术研究所(ICN2),西班牙国家科研 council(CSIC)和巴塞罗那技术研究所(BIST))
研究代码代理在部分知识下的协调失败问题,发现规范鸿沟导致两代理整合准确率下降,信息不对称和协调成本是主要因素,支持以规范为导向的多代理代码生成观点。
2026-03-25 cs.AI cs.MA cs.SE
CodeCRDT: Observation-Driven Coordination for Multi-Agent LLM Code Generation
本文提出CodeCRDT,一种基于CRDT观测驱动的多智能体协调模式,通过共享状态监控替代消息传递,实现无锁并发代码生成,实验显示最高21.1%加速、100%收敛,并揭示了语义冲突率与质量-性能权衡。
2025-10-18 cs.AI cs.DC cs.SE
Diagnosing Conformal Prediction Failures Under Distribution Shift: A COVID-19 Case Study
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
本文研究了在分布偏移下符合预测的退化问题,通过新冠大流行中的8个供应链任务实验,发现特征稳定性而非集中度决定模型稳健性,并提出监控SHAP集中度和季度重新训练的决策框架。
2026-08-28 cs.AI cs.LG stat.ML
Conflict-Free Replicated Data Types for Neural Network Model Merging: A Two-Layer Architecture Enabling CRDT-Compliant Model Merging Across 26 Strategies
Independent researcher(独立研究者)
本文提出了一种双层架构CRDTMergeState,通过将任何融合策略封装在CRDT兼容层中,解决了26种神经网络融合策略在分布式操作中无法满足交换律、结合律和幂等律的结构性问题,实现了强最终一致性。
2026-05-16 cs.AI cs.DC cs.LG