Retrieved but Not Read: Understanding Why Search-Augmented LLMs Fail to Use Available Evidence
Imperial College London(帝国理工学院)
该研究针对搜索增强型大语言模型存在的检索证据未被有效利用的问题,通过构建时间事实、评估不同模型配置,发现模型常基于搜索片段直接作答,即便证据影响内部预测仍可能偏向过时信息,相关发现可推动该领域研究。
2026-10-16 cs.AI cs.CL cs.IR
Why Don't You Know? Evaluating the Impact of Uncertainty Sources on Uncertainty Quantification in LLMs
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本文通过引入一个明确分类不确定性来源的新数据集,系统评估了现有不确定性量化方法在不同不确定性来源下的表现,发现多数方法在模型知识局限下表现良好,但在其他来源下性能下降或产生误导。
2026-05-29 cs.CL
The illusion of a perfect metric: Why evaluating AI's words is harder than it looks
Iris AI Borgen, Norway(Iris AI 布尔根,挪威);Iris AI Neurobiology BAS Sofia, Bulgaria(Iris AI 神经生物学 BAS 萨福ia,保加利亚);Iris AI Sofia, Bulgaria(Iris AI 萨福ia,保加利亚)
本文系统考察了 NLG 自动评估指标的方法、局限及与人类判断的相关性,指出包括 LLM-as-a-Judge 和 RAG 评估在内均不存在完美指标,并建议按任务需求选择指标、加强验证方法。
2025-08-19 cs.AI cs.CL
Evaluating Instruction-Tuned Large Language Models on Code Comprehension and Generation
Fudan University(复旦大学)
本文在四个代码理解与生成任务上评估了10个开源指令微调LLM,发现其在零样本下极具竞争力,少样本和微调能进一步提升性能,并据此提出了模型选择与权衡的实际建议。
2023-08-02 cs.AI cs.CL
Evaluating the Zero-shot Robustness of Instruction-tuned Language Models
Northeastern University(东北大学)
本文通过收集80多个任务的319条人工指令评估指令微调LLM的零样本鲁棒性,发现未见过的等价措辞会显著降低并放大性能波动,进而提出优化软提示嵌入以拉近语义等价指令表示的方法,持续提升鲁棒性。
2023-07-09 cs.CL cs.LG
Evaluating the Rationale Understanding of Critical Reasoning in Logical Reading Comprehension
The Asahi Shimbun Company(朝日新闻公司);National Institute of Informatics(国立信息学研究所)
本文构建了一个包含3,003个子问题的数据集,用于评估语言模型对逻辑阅读理解中批判性推理理由的理解,实验发现现有大模型即使能答对主问题,也难以解释为何排除错误选项,从而揭示了其在批判性推理上的不足。
2023-11-30 cs.CL
Surgical Feature-Space Decomposition of LLMs: Why, When and How?
Nyun AI;Transmute AI Hub;IIT (ISM) Dhanbad(印度理工学院(印度矿业学院)丹巴德分校)
本研究实证探索了Transformer大语言模型中权重与特征空间的逐层低秩分解,揭示了其在不同网络段的有效性,并发现该分解不仅能平衡压缩与语言建模性能,有时还能提升常识推理,同时为纠正模型偏见提供新视角。
2024-05-17 cs.AI cs.CL
Evaluating the Effectiveness of Cost-Efficient Large Language Models in Benchmark Biomedical Tasks
本文系统评估了成本高效的开源与闭源大型语言模型在多种生物医学文本和多模态任务中的表现,发现不同模型各有所长,开源模型在部分任务上可媲美甚至超越闭源模型,并为特定生物医学应用提供了模型选择依据。
2025-07-18 cs.CL
Why are hyperbolic neural networks effective? A study on hierarchical representation capability
Anhui University(安徽大学)
本文通过提出HRC评估基准和大规模实验,揭示双曲神经网络无法达到理论最优嵌入,并提出预训练策略增强层级表示能力,显著提升下游任务性能。
2024-02-04 cs.AI cs.LG
Why Language Models Hallucinate
OpenAI;Georgia Tech(佐治亚理工学院)
该研究指出大语言模型的幻觉源于训练与评估更奖励猜测而非承认不确定性,本质是二分类错误,提出需调整现有主流基准的评分规则以推动构建更可信的AI系统。
2025-09-04 cs.CL
Evaluating Contrast Localizer for Identifying Causal Units in Social & Mathematical Tasks in Language Models
EPFL(苏黎世联邦理工学院);MIT(麻省理工学院)
本研究将神经科学对比定位器应用于LLMs和VLMs,定位与心理理论及数学推理相关的因果单元,通过消融实验发现低激活单元或数学定位器单元对任务性能的影响超预期,质疑对比定位器的因果相关性。
2025-08-23 cs.AI cs.CL
Predicting Effects, Missing Distributions: Evaluating LLMs as Human Behavior Simulators in Operations Management
Department of Industrial Engineering and Decision Analytics, Hong Kong University of Science and Technology(香港科技大学工业工程与决策分析系)
本文评估LLMs在运营管理中模拟人类行为的能力,通过九个实验发现LLMs能复制假设效应,但分布不匹配问题显著,轻量策略可缓解此问题。
2026-06-27 cs.AI cs.LG
Why Artificial Intelligence Needs a Task Theory --- And What It Might Look Like
Icelandic Institute for Intelligent Machines(冰岛智能机器研究所);Reykjavik University(雷克雅未克大学);The Swiss AI Lab IDSIA(瑞士人工智能实验室IDSIA)
“任务”的概念是人工智能(AI)的核心:任务用于训练和评估人工智能系统,这些系统是按照内置的序构建的,用于执行和自动化我们认为有用的任务。在其他工程领域,理论基础允许通过对具有已知作用和重要性的众所周知的参数进行有条理的操作来对设计进行彻底的评估;这允许航空工程师,例如,系统地评估风速对飞机性能和稳定性的影响。在人工智能中不存在允许这种有条不紊的操作的框架:当前使用的少数任务的性能结果(参见。棋盘游戏,问答)不能很容易地比较,无论相似或不同。这个问题在人工智能系统方面更加尖锐,它必须处理无法预料的任务,这些任务的具体细节无法事先知道。任务理论将能够在类的层次上处理任务,绕过它们的细节,提供任务、环境及其参数的适当形式化和分类,从而产生更严格的测量、比较和评估智能行为的方法。即使在这个方向上进行适度的改进,也会超过当前机器学习和人工智能评估的特设性质。在这里,我们讨论了任务理论的主要论点,并提出了一个大纲,它可能看起来像物理任务。
2016-05-12 cs.AI
Why Don't Prompt-Based Fairness Metrics Correlate?
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montreal(蒙特利尔理工学院);IBM Research(IBM研究院)
本文揭示了基于提示的公平性指标之间相关性低的问题,分析其六个原因,并提出 CAIRO 方法通过提示增强与选择显著提升指标间相关性。
2024-06-09 cs.AI cs.CL cs.CY
Why Trust in AI May Be Inevitable
Sasin School of Management, Chulalongkorn University(朱拉隆功大学萨辛管理学院);INSEAD(欧洲工商管理学院)
本研究论证信任可能是AI交互的前提,因解释在有限时间内可能失败,即使条件理想;随着AI生成虚假解释,人类可能默认信任,带来风险。
2025-02-28 cs.AI cs.CY cs.HC
Can LLMs Judge Better Than They Generate? Evaluating Task Asymmetry, Mechanistic Interpretability and Transferability for In-Context QA
Adobe Research(Adobe研究院)
本研究在受控上下文问答中测试LLM自我评估是否比生成更容易,发现评估并非普遍更易,注意力分析显示评估对上下文关注更少,微调实验证实不对称性非训练伪影,挑战了自我评估管线的核心假设。
2026-06-29 cs.AI cs.CL
Evaluating Ill-Defined Tasks in Large Language Models
IBM Research San Jose, CA(IBM研发San Jose分校)
本文分析了现有评估基准在处理模糊任务时的不足,通过复杂指令跟随和自然语言到Mermaid序列图的案例研究,揭示了评估方法的不稳定性与非诊断性,推动更稳健的评估设计。
2026-03-17 cs.AI cs.CL
Can Decision Models Understand Stance? Evaluating Jev Against General-Purpose LLMs
Dalian Maritime University(大连海事大学);Dalian University of Technology(大连理工大学)
本研究评估专用决策模型Jev在立场检测任务上的表现,对比通用LLMs及微调模型,发现Jev在英文数据集VAST上具竞争力但在中文对话数据集ZS-CSD上存在局限,凸显其潜力与不足。
2026-10-09 cs.CL
HiChunk: Evaluating and Enhancing Retrieval-Augmented Generation with Hierarchical Chunking
Tencent Youtu Lab(腾讯优图实验室)
针对RAG分块缺乏有效评估的问题,提出HiCBench基准和基于微调LLM的HiChunk层次化分块框架,结合自动合并检索,提升分块质量与RAG整体性能。
2025-10-09 cs.AI cs.CL
Accommodation and Epistemic Vigilance: A Pragmatic Account of Why LLMs Fail to Challenge Harmful Beliefs
Department of Computer Science, Stanford University(计算机科学系,斯坦福大学);Department of Linguistics, Stanford University(语言学系,斯坦福大学)
本文通过语用学视角揭示LLMs在挑战有害信念时的失败原因,并提出简单干预提升安全性的方法。
2026-01-07 cs.AI cs.CL cs.CY
CombEval: A Framework for Evaluating Combinatorial Counting in Large Language Models
School of Artificial Intelligence, Jilin University(吉林大学人工智能学院);Czech Technical University in Prague(捷克布拉格理工大学);CRRC Zhuzhou Institute(中车株洲研究所);Tengen Intelligence Institute(天元智能研究院);International Center of Future Science, Jilin University(吉林大学未来科学国际合作中心);Engineering Research Center of Knowledge-Driven Human-Machine Intelligence, MOE(教育部知识驱动人机智能工程研究中心)
提出CombEval动态基准,通过类型化Cofola规范生成组合计数问题,评估11个大语言模型在直接和代码增强设置下的表现,发现模型在有序对象、不可区分元素、相对位置约束和嵌套对象依赖上存在脆弱性。
2026-10-01 cs.AI cs.CL
DRInQ: Evaluating Conversational Implicature with Controlled Context Variation
University of Southern California(南加州大学)
提出DRInQ基准,通过半自动化管道生成系统变化的问答上下文实例,评估大语言模型在会话含义中的语用推理能力,发现模型在生成与推理之间存在不对称性。
2026-05-22 cs.CL
CommonWhy: A Dataset for Evaluating Entity-Based Causal Commonsense Reasoning in Large Language Models
University of Toronto(多伦多大学)
CommonWhy数据集通过15000个为什么问题评估大语言模型的因果关系实体推理能力,揭示现有模型在因果推理和事实生成上的不足。
2026-05-13 cs.CL
Why It Hurts: Identifying the Drivers of Negative Thoughts in Emotional Support Conversations
King’s College London(伦敦国王学院);JinFlow Intelligence Ltd.(金流智能公司);The Alan Turing Institute(阿兰·图灵研究所)
本研究针对LLM情感支持任务中认知评估维度显著性被忽视的问题,推出AppraiSal基准并提出基于贝叶斯逆规划的多智能体概率框架PRISM,提升了LLMs识别情境特定显著评估维度的能力。
2026-09-01 cs.AI cs.CL cs.HC
Automatic Pseudo-Harmful Prompt Generation for Evaluating False Refusals in Large Language Models
University of Maryland, College Park(马里兰大学 College Park 分校);Adobe Research(Adobe 研究院);Capital One(Capital One 公司)
针对大语言模型常错误拒绝伪有害无害请求的问题,提出首个自动生成多样化可控伪有害提示的方法,构建规模十倍于现有数据集的PHTest,评估20款LLM发现安全防御与可用性存在权衡,助力研发更安全易用的模型。
2025-06-11 cs.CL cs.CR cs.CY
Evaluating Large Language Model Biases in Persona-Steered Generation
Carnegie Mellon University(卡内基梅隆大学)
本文研究了人格引导生成中的LLM偏见,发现LLM对不一致人格的可引导性降低,RLHF微调模型虽提升可引导性但降低了观点多样性,强调了开放式文本生成评估的重要性。
2024-05-30 cs.CL
Why On-Policy Distillation Sometimes Fails: Vanishing Learning Signals
University of Pennsylvania(宾夕法尼亚大学);Tsinghua University(清华大学);University of California, Riverside(加州大学河滨分校);Marquette University(马凯特大学)
该研究探究在线策略蒸馏(OPD)失败的机制,发现大规模教师模型的OPD会出现早期损失平台,推测有限的表示适应可能导致学习信号崩溃,为理解OPD的性能差异提供了条件性解释。
2026-10-09 cs.CL cs.LG
The Hawthorne Effect in Reasoning Models: Evaluating and Steering Test Awareness
Microsoft(微软公司);ELLIS Institute Tübingen & MPI for Intelligent Systems(图宾根ELLIS研究所及智能系统马克斯·普朗克研究所);Tübingen AI Center(图宾根人工智能中心)
本研究首次定量探究推理大语言模型的测试感知对安全任务表现的影响,提出白盒探测框架识别并调控测试感知激活,发现其显著影响模型安全对齐效果,为安全评估提供压力测试机制以提升可信度。
2025-10-28 cs.CL cs.CY
Evaluating and Preserving High-level Fidelity in Super-Resolution
Computer Vision Center(计算机视觉中心);Universitat Autonoma de Barcelona(巴塞罗那自治大学)
本文提出通过保真度度量评估超分辨率模型的可靠性,构建了首个注释数据集并展示了通过微调提升语义和感知质量的方法。
2025-12-09 cs.CV cs.LG
Can GPT tell us why these images are synthesized? Empowering Multimodal Large Language Models for Forensics
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
针对生成式AI导致图像篡改难检测的问题,本研究提出基于语义篡改线索的框架,通过提示工程和少样本学习解锁多模态LLMs的伪造分析潜力,GPT4V在相关数据集上取得与最先进方法竞争的准确率,还讨论了局限性及改进方向。
2025-04-16 cs.AI cs.CV
The Narrative Continuity Test: A Conceptual Framework for Evaluating Identity Persistence in AI Systems
University of Milan(米兰大学);IRCCS Istituto Nazionale dei Tumori(意大利国家肿瘤研究所)
本文提出叙事连续性测试(NCT)概念框架,通过五个维度评估大语言模型在无状态推理下的身份持久性与历时连贯性,将AI评估焦点从任务性能转向长期身份与目标连贯性。
2025-11-01 cs.AI cs.CY cs.HC
Evaluating Self-supervised Speech Models on a Taiwanese Hokkien Corpus
Carnegie Mellon University(卡内基梅隆大学);Scripps College(斯克里普斯学院);University of Maryland(马里兰大学);Swarthmore College(斯沃斯莫尔学院);National Taiwan Normal University(国立台湾师范大学);China Medical University, Taiwan(中国医药大学(台湾));National Taiwan University(国立台湾大学)
本文构建 1.5 小时台湾闽南语数据集并纳入 ML-SUPERB 隐藏集,评估多种 SSL 语音表示,证明模型规模不决定性能且语言对齐至关重要。
2023-12-06 cs.CL cs.SD eess.AS
Adapting and evaluating a deep learning language model for clinical why-question answering
Mayo Clinic(梅奥诊所);Suez Canal University(苏伊士运河大学)
目的:调整和评估深度学习语言模型,以基于患者特定的临床文本回答为什么问题。材料与方法:使用不同的数据源训练来自Transformers(BERT)模型的双向编码器表示,以对临床笔记执行SQuAD 2.0风格的why-问答(why-QA)。评估的重点是:1)比较不同训练数据的优点,2)误差分析。结果:最佳模型的准确度为0.707(部分匹配为0.760)。针对临床语言定制的培训有助于提高6%的准确性。讨论内容:错误分析表明,该模型并没有真正执行深度推理,临床why-QA可能需要更复杂的解决方案。结论:BERT模型在临床why-QA中达到了中等准确度,应该从快速发展的技术中受益。尽管存在已识别的局限性,但它可以作为问题驱动的临床信息抽取的合格代理。
2019-11-13 cs.CL
ELI-Why: Evaluating the Pedagogical Utility of Language Model Explanations
University of Southern California(南加州大学);Stanford University(斯坦福大学)
该研究提出包含1.34万个“为什么”问题的ELI-Why基准,通过两项人类研究和自动化评估发现,语言模型生成的教育解释在年级适配度、用户信息需求匹配度上均显著低于人类策划内容,教学效用有限。
2025-06-17 cs.CL cs.HC
Evaluating Language Model Agency through Negotiations
EPFL(瑞士联邦理工学院);UGA(普罗万大学);CNRS(法国国家科学研究中心);LIG(里莫恩-盖朗实验室);Stanford University(斯坦福大学)
通过谈判游戏评估语言模型的代理能力,发现封闭源模型更擅长完成任务,合作谈判游戏最具挑战性,且强模型可能输给弱对手。
2026-02-18 cs.AI cs.CL cs.LG
An Objective Metric for Explainable AI: How and Why to Estimate the Degree of Explainability
University of Bologna(博洛尼亚大学)
本文基于 Achinstein 解释理论提出模型无关的可解释程度客观指标,并通过知识图谱、信息检索及190余人的医疗与金融系统用户研究验证其稳健性。
2023-01-31 cs.AI cs.CL
Cognitive Dissonance: Why Do Language Model Outputs Disagree with Internal Representations of Truthfulness?
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
本文分析语言模型输出查询与内部真实性探测之间的分歧,将其归为虚构、欺骗和异质性三类,并指出探测优势常来自校准与互补表现,集成二者可提升准确率。
2023-11-27 cs.AI cs.CL
Worth Their Weights? Evaluating Generative Models for Discourse Parsing
Indiana University Bloomington(印第安纳大学伯明顿分校);Georgetown University(乔治城大学)
本研究对比评估生成式与判别式模型在RST话语解析中的性能,发现参数匹配时判别式模型更优,大规模生成式模型有时胜出,且生成式模型在EDU分割上具优势,在RST-DT基准取得新最优结果。
2026-10-14 cs.CL
Generative Frontiers: Why Evaluation Matters for Diffusion Language Models
Purdue University(普渡大学)
本文探讨了扩散语言模型评估方法的局限性,提出生成前沿作为评估生成质量的原理性方法,分析了生成困惑度和熵在KL散度中的作用。
2026-04-03 cs.CL cs.LG
Why Does Zero-Shot Cross-Lingual Generation Fail? An Explanation and a Solution
Center for Language and Speech Processing(语言与语音处理中心);Human Language Technology Center of Excellence(人类语言技术卓越中心);Johns Hopkins University(约翰斯·霍普金斯大学)
本文揭示零样本跨语言生成失败的根源在于微调学到语言不变表示,并提出正则化与无开发集检查点选择方法,显著减少错误语言输出并提升生成质量。
2023-05-27 cs.CL
Evaluating Document-Tuned Transformer Representations for Person-level Mental Health Assessment
Vanderbilt University(范德堡大学);Lund University(隆德大学);Carnegie Mellon University(卡内基梅隆大学)
比较基础Transformer和文档调优Transformer在个体级心理健康评估中的表现,发现文档调优模型在预测准确性和鲁棒性上显著优于基础模型。
2026-06-23 cs.CL cs.LG
TabXEval: Why this is a Bad Table? An eXhaustive Rubric for Table Evaluation
Arizona State University(亚利桑那州立大学);IIIT Hyderabad(海得拉巴IIIT)
本文提出TabXEval框架,通过结构对齐和语义比较实现精确表格评估,通过TabXBench验证其鲁棒性和可解释性。
2026-04-21 cs.CL
Evaluating the Effectiveness of Efficient Neural Architecture Search for Sentence-Pair Tasks
Khoury College of Computer Sciences, Northeastern University(东北大学库里计算机科学学院);Amazon Alexa(亚马逊 Alexa)
自动学习整个神经模型或单个神经细胞架构的神经架构搜索(NAS)方法最近已经在各种自然语言处理和计算机视觉任务(包括语言建模、自然语言推理和图像分类)上实现了有竞争力的或最先进的(SOTA)性能。在这项工作中,我们探索了SOTA NAS算法的适用性,高效神经架构搜索(ENAS)(Pham等人,2018)到两个句子对任务,释义检测和语义文本相似性。我们使用ENAS来执行微观级搜索,并学习任务优化的RNN单元架构,作为LSTM的直接替代品。我们通过三个数据集(MRPC,SICK,STS-B),两个不同的模型(ESIM,BiLSTM-Max)和两组嵌入(Glove,BERT)的实验来探索ENAS的有效性。与之前将ENAS应用于NLP任务的工作相比,我们的结果是混合的-我们发现ENAS架构有时,但并非总是优于LSTM,并且与随机架构搜索相似。
2020-10-08 cs.CL
On the Challenges of Evaluating Compositional Explanations in Multi-Hop Inference: Relevance, Completeness, and Expert Ratings
University of Arizona(亚利桑那大学)
构建组合解释需要模型将两个或多个事实结合在一起,描述为什么问题的答案是正确的。通常,这些“多跳”解释相对于一个(或少量)黄金解释进行评估。在这项工作中,我们发现这些评估大大低估了模型的性能,无论是在所包含的事实的相关性,以及模型生成的解释的完整性,因为模型经常发现和产生有效的解释,是不同于黄金的解释。为了解决这个问题,我们构建了一个大型语料库的126k领域专家(科学教师)的相关性评级,增加了语料库的解释标准化的科学考试问题,发现80k额外的相关事实不评为黄金。我们建立了三个强大的模型基于不同的方法(生成,排名和模式),并实证表明,虽然专家增强的评级提供更好的估计解释质量,无论是原始(黄金)和专家增强的自动评估仍然大大低估了性能高达36%,与全手动专家判断相比,不同的模型受到不成比例的影响。这对准确评估组合推理模型产生的解释提出了重大的方法学挑战。
2021-09-07 cs.AI cs.CL
How much do language models copy from their training data? Evaluating linguistic novelty in text generation using RAVEN
Johns Hopkins University(约翰斯·霍普金斯大学);Microsoft Research(微软研究院);New York University(纽约大学);Facebook AI Research(Facebook人工智能研究院)
当前的语言模型可以生成高质量的文本。他们只是简单地复制他们以前看过的文本,还是他们学会了概括的语言抽象?为了梳理除了这些可能性,我们介绍了RAVEN,一套分析,用于评估生成的文本的新颖性,专注于顺序结构(n-gram)和句法结构。我们将这些分析应用于四个神经语言模型(LSTM,Transformer,Transformer-XL和GPT-2)。对于本地结构-例如,个体依赖性-模型生成的文本基本上不如我们从每个模型的测试集中人工生成的文本的基线新颖。对于较大规模的结构,例如,整体句子结构-模型生成的文本与人类生成的基线一样新颖,甚至更新颖,但模型有时仍然大量复制,在某些情况下,从训练集中复制超过1,000个单词的段落。我们还进行了大量的手动分析,表明GPT-2的小说文本通常在形态和句法上都是格式良好的,但有相当频繁的语义问题(例如,自相矛盾)。
2021-11-18 cs.CL
AM2iCo: Evaluating Word Meaning in Context across Low-Resource Languages with Adversarial Examples
University of Cambridge(剑桥大学);Mila/McGill University(米拉/麦吉尔大学)
在上下文中捕获词义并区分不同语言之间的对应和变化是构建成功的多语言和跨语言文本表示模型的关键。然而,现有的多语言评估数据集,评估词汇语义“在上下文”有各种限制。特别是,1)他们的语言覆盖范围仅限于高资源语言,并且只偏向于少数几个语系和地区,2)通过表面线索使任务可以解决的设计,这导致人为夸大预训练编码器在许多目标语言上的(有时是超人的)性能,这限制了它们对模型探测和诊断的有用性,3)对跨语言评价的支持不足。为了解决这些差距,我们提出了AM 2 iCo(上下文中的对抗和多语言含义),这是一个广泛覆盖的跨语言和多语言评估集;它旨在忠实地评估最先进的(SotA)表示模型在14种语言对的跨语言上下文中理解词义身份的能力。我们在广泛的设置中进行了一系列实验,并展示了AM 2 iCo的挑战性。结果显示,目前SotA预训练的编码器大大落后于人类的表现,并且在低资源语言和与英语不同的语言中观察到最大的差距。
2021-09-19 cs.CL