Evaluating Large Language Models for Generalization and Robustness via Data Compression
University of Surrey(萨里大学);Harbin Engineering University(哈尔滨工程大学);University of Manchester(曼彻斯特大学)
本文提出基于无损数据压缩的评估方法,通过训练截止前后压缩性能差异衡量大模型的泛化与鲁棒性,实验发现Mistral和Llama-2表现均衡,且模型在arXiv数据上泛化最佳。
2024-02-04 cs.AI cs.CL
Certainty robustness: Evaluating LLM stability under self-challenging prompts
TELUS Digital(TELUS数字公司)
本文提出确定性鲁棒性基准,评估LLM在自我挑战提示下的稳定性与适应性平衡,揭示模型在交互压力下的可靠性差异。
2026-02-10 cs.AI cs.CL
Beyond Preserved Accuracy: Evaluating Loyalty and Robustness of BERT Compression
Microsoft Research Asia(微软亚洲研究院);University of California, San Diego(加利福尼亚大学圣迭戈分校);Stanford University(斯坦福大学);Beihang University(北京航空航天大学)
关于预训练语言模型压缩的最新研究(例如,BERT)通常使用保留的准确度作为评估的度量。在本文中,我们提出了两个新的度量标准,标签忠诚度和概率忠诚度,衡量压缩模型(即,学生)模仿原始模型(即,教师)。我们还探讨了在对抗攻击下压缩对鲁棒性的影响。我们对量化、剪枝、知识蒸馏和渐进模块替换进行了基准测试,测试了它们的忠诚度和鲁棒性。通过结合多种压缩技术,我们提供了一种实用的策略,以实现更好的准确性,忠诚度和鲁棒性。
2021-10-04 cs.AI cs.CL cs.LG
When Claims Evolve: Evaluating and Enhancing the Robustness of Embedding Models Against Misinformation Edits
University of Oxford(牛津大学);Alan Turing Institute(艾伦·图灵研究所);World Bank(世界银行);New York University(纽约大学);Meedan
本文提出扰动框架评估嵌入模型对声明编辑的鲁棒性,发现LLM蒸馏模型更稳健但成本更高,并通过训练与推理时缓解方法显著提升声明匹配系统的域内外性能。
2025-06-05 cs.AI cs.CL
Evaluating and Improving Robustness in Large Language Models: A Survey and Future Directions
Hefei University of Technology(合肥工业大学);AI Laboratory, Lenovo Research(联想研究院人工智能实验室)
本综述系统梳理大型语言模型鲁棒性的定义、对抗与OOD鲁棒性方法及评估工具,并展望未来研究方向。
2025-07-09 cs.AI cs.CL
ERAS: Evaluating the Robustness of Chinese NLP Models to Morphological Garden Path Errors
Tandon School of Engineering(坦登工程学院);New York University(纽约大学);Center for Data Science(数据科学中心)
本文提出基准ERAS,通过对比有无局部分割歧义的句子,揭示中文分词和情感分析模型因忽视形态句法上下文而易犯形态学花园路径错误。
2024-10-16 cs.AI cs.CL
Evaluating and Safeguarding the Adversarial Robustness of Retrieval-Based In-Context Learning
University of Edinburgh(爱丁堡大学)
该研究针对检索增强型上下文学习的对抗鲁棒性展开评估,发现其对测试样本攻击鲁棒性提升但易受示范攻击影响,并提出免训练防御方法DARD,可将攻击成功率较基线降低15%。
2024-10-08 cs.AI cs.CL
Stability vs. Manipulability: Evaluating Robustness Under Post-Decision Interaction in LLM Judges
WAI USA Research Labs(WAI美国研究实验室)
研究LLM作为裁判在决策后交互中的可操纵性,发现虽然重复中性评估下高度稳定,但针对性挑战可显著逆转判决,并提出评估鲁棒性分数(ERS)量化交互鲁棒性。
2026-06-03 cs.AI cs.CL
Evaluating Adversarial Robustness of Concept Representations in Sparse Autoencoders
University of California, Berkeley(加州大学伯克利分校);Bosch Research(博世研究);Harvard University(哈佛大学)
本研究评估了稀疏自编码器中概念表示的对抗鲁棒性,发现其易受微小输入扰动影响,可能不适合用于模型监控和监督。
2026-01-22 cs.AI cs.CL cs.LG
ASSERT: Automated Safety Scenario Red Teaming for Evaluating the Robustness of Large Language Models
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
提出ASSERT自动化红队测试方法,通过语义对齐增强、目标自举和对抗知识注入生成多样化提示,评估大模型在安全场景下的鲁棒性,发现语义相关场景准确率差异达11%,零样本对抗误差率达19%。
2023-11-11 cs.AI cs.CL cs.LG
ArithmAttack: Evaluating Robustness of LLMs to Noisy Context in Math Problem Solving
本文提出ArithmAttack方法,评估LLMs在包含标点符号噪声的提示下鲁棒性,发现所有模型在噪声增加时表现下降。
2026-03-15 cs.CL
Evaluating Robustness of Generative Search Engine on Adversarial Factual Questions
HKUST(GZ)(香港科技大学(广州));Tsinghua University(清华大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本研究通过黑盒对抗性事实问题评估生成式搜索引擎的鲁棒性,发现其易受攻击且检索增强生成更易产生事实错误,强调部署前需严格评估。
2024-02-25 cs.AI cs.CL cs.IR
Evaluating Concurrent Robustness of Language Models Across Diverse Challenge Sets
University of Utah(犹他大学);Arizona State University(亚利桑那州立大学);University of Pennsylvania(宾夕法尼亚大学);IIT Guwahati(古瓦哈提印度理工学院)
本文提出多种微调策略和思维链提示方法,系统评估并提升语言模型在多样化输入扰动下的并发鲁棒性,并在Tabular-NLI任务上验证其有效性。
2024-12-30 cs.AI cs.CL cs.IR
Evaluating the Robustness of Japanese LLMs to IME-Related and Typographical Errors
Kobe University(神户大学);University of Hyogo(兵库县立大学)
本研究评估日本大语言模型对五种日语特定拼写错误的鲁棒性,发现字符换位和替换显著降低性能,而输入法相关错误影响较小,凸显了实际输入环境中鲁棒性评估的重要性。
2026-10-02 cs.CL
Evaluating Theory of Mind in Reasoning Models: Robustness over Reasoning
Leiden University(莱顿大学);LIACS(莱顿高级计算机科学研究所)
本研究考察经强化学习训练的推理LLMs在ToM任务中的表现,发现其对提示与任务扰动的鲁棒性提升,支持鲁棒性解释而非ToM特有的新能力。
2026-08-06 cs.CL
Latent Jailbreak: A Benchmark for Evaluating Text Safety and Output Robustness of Large Language Models
Zhejiang University(浙江大学);School of Engineering, Westlake University(西湖大学工程学院)
该研究提出同时评估大语言模型安全性与鲁棒性的Latent Jailbreak基准,构建含嵌入恶意指令的潜在越狱提示数据集,通过多维度分析发现现有模型对不同指令动词存在响应优先级差异与越狱率区别。
2023-08-28 cs.CL
VocalBench-DF: A Benchmark for Evaluating Speech LLM Robustness to Disfluency
Shanghai Jiao Tong University(上海交通大学)
针对语音大语言模型对不流畅语音鲁棒性不足的问题,提出VocalBench-DF基准,评估22个模型发现性能显著下降,瓶颈在音素级处理和长上下文建模,需加强识别推理能力。
2025-10-17 cs.CL
PPTC-R benchmark: Towards Evaluating the Robustness of Large Language Models for PowerPoint Task Completion
Peking University(北京大学);Microsoft Research Asia(微软亚洲研究院)
该研究提出PPTC-R基准,从对抗指令和软件版本两方面评估大语言模型的PPT任务完成鲁棒性,测试发现GPT-4表现最优但多挑战下所有模型性能均显著下降,为开发更鲁棒的LLM及智能体提供参考。
2024-03-06 cs.CL
HellaSwag-Pro: A Large-Scale Bilingual Benchmark for Evaluating the Robustness of LLMs in Commonsense Reasoning
University of Science and Technology of China(中国科学技术大学);Alibaba Group(阿里巴巴集团);National University of Singapore(新加坡国立大学)
该研究提出HellaSwag-Pro双语基准,通过七种问题变体评估41个LLM的常识推理鲁棒性,发现其远非鲁棒且受语言影响。
2025-05-26 cs.CL
Evaluating the Performance and Robustness of LLMs in Materials Science Q&A and Property Predictions
本研究评估了LLMs在材料科学问答与性能预测中的表现与鲁棒性,通过多种提示策略和对抗噪声测试,揭示了其独特现象,为该领域应用提供理性质疑与改进方向。
2025-03-11 cond-mat.mtrl-sci cs.AI cs.CL
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Tencent(腾讯);East China Normal University(华东师范大学);University College London(伦敦大学学院)
该研究针对LLM智能体鲁棒性评估缺乏系统框架的问题,提出AgentPerturb的二维扰动评估方法,在APEX-Agents和Toolathlon上验证扰动会降低性能,揭示智能体漏洞并为鲁棒训练提供方向。
2026-10-26 cs.AI
Evaluating Robustness of Reasoning Models on Parameterized Logical Problems
CRIL UMR 8188, Univ Artois, CNRS, France(CRIL UMR 8188,阿维尼翁大学,法国国家科学研究中心)
本文提出了一种针对2-SAT的诊断基准,用于评估推理模型在参数化逻辑问题上的鲁棒性,通过隔离不同能力与失败模式,揭示模型在结构干预下的性能变化。
2026-02-13 cs.AI
Evaluating Answer Leakage Robustness of LLM Tutors against Adversarial Student Attacks
EPFL(瑞士联邦理工学院)
本文研究了学生对抗性攻击下LLM导师的答案泄露鲁棒性,评估了多种模型在对抗攻击下的表现,并提出标准化基准和防御策略。
2026-04-20 cs.AI cs.CR
Evaluating Robustness of Large Language Models Against Multilingual Typographical Errors
Center for Information and Language Processing(信息与语言处理中心);LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
本文提出MulTypo算法,评估18种开源LLM在多语言拼写错误下的表现,发现拼写错误显著降低性能,尤其在生成任务和推理任务中,且语言和任务类型影响鲁棒性,强调需关注噪声训练和多语言鲁棒性评估。
2026-04-18 cs.CL
Evaluating LLMs Robustness in Less Resourced Languages with Proxy Models
NASK - National Research Institute(NASK国家研究院)
本文提出结合少量字符改动与小型代理模型计算词重要性的低成本攻击方法,用于评估LLM在波兰语等低资源语言中的安全鲁棒性,并公开数据集与代码。
2025-06-09 cs.CL
Beyond Clean Text: Evaluating Encoder and Decoder Robustness for Bangla Event Detection in Noisy Text
Jahangirnagar University(贾汉吉尔纳加尔大学);Rajshahi University of Engineering & Technology(拉杰沙希工程技术大学);Bangladesh University of Engineering and Technology(孟加拉国工程技术大学)
针对孟加拉语事件检测在噪声文本中的鲁棒性问题,构建含9,979句标注的基准数据集,系统评估编码器模型(BanglaBERT、XLM-R)与解码器LLM(Llama 3、Gemma 3),发现解码器模型鲁棒性更强,而编码器模型在干净文本上表现更好但受噪声影响大。
2026-07-01 cs.CL
SegSub: Evaluating Robustness to Knowledge Conflicts and Hallucinations in Vision-Language Models
Carnegie Mellon University(卡内基梅隆大学);Google(谷歌)
本文提出 SegSub 框架,通过图像扰动系统评估视觉-语言模型在知识冲突下的幻觉脆弱性,并通过微调提升冲突检测能力。
2025-05-09 cs.AI cs.CL cs.CV
Evaluating Japanese Dialect Robustness Across Speech and Text-based Large Language Models
SB Intuitions
研究通过日语方言测试,发现语音语言模型(SLM)的方言鲁棒性与文本基座LLM相关,方言数据训练和语音编码器微调可提升鲁棒性。
2026-06-25 cs.CL cs.SD eess.AS
ComparisonQA: Evaluating Factuality Robustness of LLMs Through Knowledge Frequency Control and Uncertainty
Department of Computer Science and Engineering, HKUST(计算机科学与工程系,香港科技大学)
提出ComparisonQA基准,通过高频与低频实体配对控制问题难度,结合正确性与不确定性两轮评估,揭示LLMs对低频知识鲁棒性差,并自动筛选出困难子集ComparisonQA-Hard。
2025-05-25 cs.CL
Evaluating Robustness of Large Language Models in Enterprise Applications: Benchmarks for Perturbation Consistency Across Formats and Languages
ServiceNow
本研究提出跨格式和语言的扰动一致性基准测试,评估大型语言模型在企业应用中的鲁棒性,发现模型大小与鲁棒性关系复杂,8B参数模型表现各异。
2026-01-09 cs.AI cs.LG cs.SE
Evaluating Autoformalization Robustness via Semantically Similar Paraphrasing
Department of Computer Science and Engineering, The Pennsylvania State University(宾夕法尼亚州立大学计算机科学与工程系)
本文通过语义相似改写生成自然语言变体,评估大语言模型在自动形式化中生成形式证明的鲁棒性,发现自然语言表述的微小变化会显著影响模型输出。
2026-06-03 cs.CL cs.LO
RobustExplain: Evaluating Robustness of LLM-Based Explanation Agents for Recommendation
Workday
RobustExplain提出首个评估框架,用于衡量LLM生成推荐解释的鲁棒性,揭示当前模型鲁棒性较低,较大模型稳定性更高。
2026-02-03 cs.AI cs.IR cs.LG
ToxiCloakCN: Evaluating Robustness of Offensive Language Detection in Chinese with Cloaking Perturbations
Carnegie Mellon University(卡内基梅隆大学);Singapore University of Technology and Design(新加坡科技设计大学)
本研究针对中文冒犯性语言检测的鲁棒性问题,构建了加入谐音替换、表情变换扰动的增强数据集ToxiCloakCN,发现现有大语言模型检测性能显著下降,强调需升级检测技术应对规避手段。
2024-06-18 cs.CL cs.CY
Evaluating the Robustness of Open-Source Vision-Language Models to Domain Shift in Object Captioning
Centre for Robotic Autonomy in Demanding and Long-lasting Environments(机器人自主性在恶劣和持久环境中的研究中心);Centre for Robotics and AI(机器人与人工智能中心);University of Manchester(曼彻斯特大学);Amentum Clean Energy Ltd(Amentum清洁能源有限公司)
本文系统评估了开源视觉语言模型在单视图物体描述任务中面对物理领域偏移时的鲁棒性,发现所有受测模型在描述3D打印物体时性能显著下降,揭示了当前模型泛化能力的局限。
2025-09-16 cs.AI cs.CL cs.CV
Know Or Not: a library for evaluating out-of-knowledge base robustness
GovTech Singapore(新加坡政府科技局);National University of Singapore(国立新加坡大学)
本文提出并实现开源库knowornot,用于在RAG设置下无需人工标注即可系统评估LLM的知识库外鲁棒性,并通过PolicyBench基准验证其有效性。
2025-07-21 cs.AI cs.IR
RobuNFR: Evaluating the Robustness of Large Language Models on Non-Functional Requirements Aware Code Generation
Concordia University(康考迪亚大学);DePaul University(德保罗大学);York University(约克大学)
提出RobuNFR框架,评估LLM在NFR感知代码生成中的鲁棒性,发现包含NFR导致Pass@1下降且增加提示词敏感度,揭示了LLM在多维度下的鲁棒性问题与权衡。
2025-04-03 cs.AI cs.SE
SynDORBench: Evaluating LVLM Perceptual Robustness Under Physically Constrained Visibility Conditions
SynDORBench是首个物理基础基准,通过DORI校准和54k问答对评估LVLM在像素密度等物理约束下的感知鲁棒性,发现紧凑开源模型优于商业基线。
2026-09-29 cs.AI cs.CV
PromptRobust: Towards Evaluating the Robustness of Large Language Models on Adversarial Prompts
Microsoft Research(微软研究院);Institute of Automation, CAS(中国科学院自动化研究所);Carnegie Mellon University(卡内基梅隆大学);Peking University(北京大学);Westlake University(西湖大学);Duke University(杜克大学)
提出PromptRobust基准,通过多层次对抗性文本攻击评估LLMs对提示的鲁棒性,发现其不鲁棒,并提供分析与建议。
2024-07-16 cs.CL cs.CR cs.LG
TrustGLM: Evaluating the Robustness of GraphLLMs Against Prompt, Text, and Structure Attacks
New York University(纽约大学);New York University Shanghai(纽约大学上海)
该研究提出TrustGLM框架,从文本、图结构、提示三个维度评估GraphLLMs的对抗鲁棒性,发现其易受各类攻击,同时验证了数据增强和对抗训练的防御效果,并开源工具库以推动相关研究。
2025-06-13 cs.AI cs.LG
Evaluating perturbation robustness of generative systems that use COBOL code inputs
IBM Research(IBM研究院)
本文提出评估使用COBOL代码输入的生成系统鲁棒性的框架,通过扰动方法和可视化工具提升系统对输入变化的鲁棒性。
2026-01-15 cs.AI cs.SE
Evaluating Paraphrastic Robustness in Textual Entailment Models
Stony Brook University(石溪大学);Bloomberg(彭博);Johns Hopkins University(约翰斯·霍普金斯大学);Bryn Mawr College(布林莫尔学院)
提出包含1,126对RTE示例的PaRTE评估集,测试模型对释义的鲁棒性,发现当代模型在8-16%的释义示例上预测不一致,表明改进空间存在。
2023-06-29 cs.AI cs.CL
Evaluating the Robustness of Neural Language Models to Input Perturbations
Medical University of Vienna(维也纳医科大学)
高性能神经语言模型已经在广泛的自然语言处理(NLP)任务上获得了最先进的结果。然而,常见基准数据集的结果往往不能反映模型的可靠性和鲁棒性时,应用于嘈杂的,真实世界的数据。在这项研究中,我们设计并实现了各种类型的字符级和单词级扰动方法来模拟现实场景,其中输入文本可能会有轻微的噪音或与NLP系统训练的数据分布不同。在不同的NLP任务上进行全面的实验,我们研究了高性能语言模型,如BERT,XLNet,RoBERTa和ELMo在处理不同类型的输入扰动的能力。结果表明,语言模型是敏感的输入扰动和它们的性能可以降低,即使是小的变化。我们强调,模型需要进一步改进,目前的基准不能很好地反映模型的鲁棒性。我们认为,扰动输入的评估应定期补充广泛使用的基准,以产生一个更现实的理解NLP系统的鲁棒性。
2021-08-27 cs.AI cs.CL
Leak-Resistant Unlearning: A New Benchmark for Evaluating Multi-Hop Reasoning Consistency and Recovery Robustness
Tsinghua University(清华大学);Ant Group(蚂蚁集团)
本文提出新基准unlearning评估LLM遗忘的鲁棒性,实验发现现有遗忘方法易受多跳推理路径和恢复攻击影响,还探究了遗忘质量、鲁棒性与模型效用的权衡。
2026-08-06 cs.AI cs.CL
Evaluating Robustness to Input Perturbations for Neural Machine Translation
Amazon AI(亚马逊人工智能)
神经机器翻译(NMT)模型对输入中的小扰动敏感。对这种扰动的鲁棒性通常使用翻译质量度量来测量,例如噪声输入上的BLEU。本文提出了额外的指标,衡量的相对退化和变化时,小的扰动被添加到输入翻译。我们专注于一类采用子字正则化来解决鲁棒性的模型,并使用提出的鲁棒性措施对这些模型进行了广泛的评估。结果表明,我们提出的指标揭示了一个明显的趋势,提高鲁棒性扰动时,使用子字正则化方法。
2020-05-01 cs.CL
Evaluating Neural Machine Comprehension Model Robustness to Noisy Inputs and Adversarial Attacks
Johns Hopkins University(约翰斯·霍普金斯大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
我们评估机器理解模型的鲁棒性噪声和对抗攻击进行新的扰动,在字符,单词和句子的水平。我们使用不同的扰动量进行实验,以检查模型的置信度和误分类率,并在两个基准数据集上使用不同的嵌入类型对比对抗训练中的模型性能。我们证明了提高模型的性能与集成。最后,我们分析了对抗训练下影响模型行为的因素,并开发了一个模型来预测对抗攻击期间的模型错误。
2020-05-01 cs.CL
Evaluating Deception Detection Model Robustness To Linguistic Variation
Pacific Northwest National Laboratory(太平洋西北国家实验室)
随着越来越多地使用机器学习驱动的算法判断,开发对不断变化或操纵的输入具有鲁棒性的模型至关重要。我们提出了一个广泛的分析模型的鲁棒性对语言的变化设置欺骗性新闻检测,一个重要的任务,在网上传播的错误信息的背景下。我们考虑了两个预测任务,并比较了三种最先进的嵌入,以突出模型性能、高置信度错误分类和高影响失败的一致趋势。通过测量对抗性防御策略的有效性和评估模型对使用字符和单词扰动文本的对抗攻击的敏感性,我们发现字符或混合集成模型是最有效的防御,基于字符扰动的攻击策略更成功。
2021-04-23 cs.CL
RockNER: A Simple Method to Create Adversarial Examples for Evaluating the Robustness of Named Entity Recognition Models
University of Southern California(南加州大学)
为了审计命名实体识别(NER)模型的鲁棒性,我们提出了RockNER,一种简单而有效的方法来创建自然的对抗性示例。具体来说,在实体层面,我们用维基数据中相同语义类的其他实体替换目标实体;在上下文层面,我们使用预先训练好的语言模型(例如,BERT)来生成单词替换。这两个级别的攻击一起产生了自然的对抗性示例,导致我们的目标模型在训练数据上训练的分布发生了变化。我们将所提出的方法应用到OntoNotes数据集,并创建了一个新的基准OntoRock,通过系统的评估协议来评估现有NER模型的鲁棒性。我们的实验和分析表明,即使是最好的模型也有显着的性能下降,这些模型似乎记住了域中的实体模式,而不是从上下文进行推理。我们的工作还研究了几个简单的数据增强方法,以提高NER模型的鲁棒性的效果。
2021-09-12 cs.CL
DuQM: A Chinese Dataset of Linguistically Perturbed Natural Questions for Evaluating the Robustness of Question Matching Models
Soochow University(苏州大学);Baidu Inc.(百度公司)
本文主要研究中文问句匹配的鲁棒性评价问题。以前大多数关于分析鲁棒性问题的工作都集中在一种或几种类型的人工对抗示例上。相反,我们认为,有必要制定一个全面的评估模型的语言能力的自然文本。为此,我们创建了一个中文数据集,即DuQM,其中包含自然问题与语言扰动,以评估问题匹配模型的鲁棒性。DuQM包含3个范畴和13个子范畴,包含32个语言扰动。大量的实验表明,DuQM具有较好的区分不同模型的能力。重要的是,DuQM中语言现象的评估详细分解有助于我们轻松诊断不同模型的优点和缺点。此外,我们的实验结果表明,人工对抗的例子的效果不工作的自然文本。
2022-05-25 cs.CL
Evaluating Robustness of Reward Models for Mathematical Reasoning
Yonsei University(延世大学)
针对RewardBench数学子集评估不可靠的问题,本文提出新的奖励模型评估设计并构建RewardMATH基准,可更准确衡量数学推理奖励模型鲁棒性及奖励过度优化风险。
2024-10-02 cs.AI cs.CL cs.LG
Back Transcription as a Method for Evaluating Robustness of Natural Language Understanding Models to Speech Recognition Errors
Adam Mickiewicz University, Poznań(亚当·密茨凯维奇大学);Samsung Research Poland(三星电子波兰研究院)
本文提出一种结合反向转录与细粒度错误分类的方法,利用合成语音评估语音识别错误对自然语言理解模型性能的影响,并证实合成语音可替代真实音频。
2023-10-25 cs.AI cs.CL cs.SD
Evaluating Robustness of Large Audio Language Models to Audio Injection: An Empirical Study
University of Electronic Science and Technology of China(电子科技大学);Chengdu University of Technology(成都理工大学);Sun Yat-Sen University(中山大学)
本研究系统评估了五种大型音频语言模型在四种音频注入攻击场景下的鲁棒性,发现模型表现存在显著差异,且指令遵循能力与鲁棒性呈负相关,强调了将鲁棒性整合到训练流程中的必要性。
2025-07-10 cs.CL
DuReader_robust: A Chinese Dataset Towards Evaluating Robustness and Generalization of Machine Reading Comprehension in Real-World Applications
Soochow University(苏州大学);Baidu Inc.(百度公司)
机器阅读理解(MRC)是自然语言处理中的一项重要任务,并取得了显著的进展。然而,大多数神经MRC模型仍然远远不够鲁棒,并且在现实世界的应用中无法很好地推广。为了全面验证MRC模型的鲁棒性和泛化能力,我们引入了一个真实的中文数据集-- DuReader_robust。该模型从超灵敏度、超稳定性和泛化能力三个方面对MRC模型进行了评价。与以前的工作相比,DuReader_robust中的实例是自然文本,而不是经过修改的非自然文本。它提出了将MRC模型应用于实际应用时的挑战。实验结果表明,MRC模型在挑战测试集上表现不佳。此外,我们分析了现有模型在挑战测试集上的行为,这可能会为未来的模型开发提供建议。数据集和代码可在https://github.com/baidu/DuReader上公开获得。
2021-07-21 cs.CL
Evaluating the Robustness of Machine Reading Comprehension Models to Low Resource Entity Renaming
University of Amsterdam(阿姆斯特丹大学);Insight Centre for Data Analytics(洞察数据分析中心);University of Galway(戈尔韦大学)
针对机器阅读理解模型鲁棒性不足的问题,提出测试时扰动方法EntSwap,用非洲等低资源地区的实体重命名构建AfriSQuAD2测试集,评估发现大模型对新实体表现更优,人物类实体挑战最大。
2024-04-16 cs.CL
Evaluating Structured Output Robustness of Small Language Models for Open Attribute-Value Extraction from Clinical Notes
Saint Mary’s University(圣玛丽大学);York University(约克大学)
本研究比较了小型语言模型在临床笔记属性-值抽取中生成JSON、YAML和XML输出的可解析性,发现JSON最优,并提出了格式选择与提示设计的实用建议。
2025-07-02 cs.CL cs.IR