Limited Effectiveness of LLM-based Data Augmentation for COVID-19 Misinformation Stance Detection
University of Southern California（南加州大学）
本研究探讨使用LLMs进行可控虚假信息生成（CMG）作为数据增强方法在COVID-19虚假信息立场检测中的效果，发现受限于LLMs内置安全防护机制，其性能提升有限且不稳定。
2025-03-04 cs.CL cs.CY cs.HC
Can Large Language Models Detect Misinformation in Scientific News Reporting?
Stevens Institute of Technology（斯蒂文斯理工学院）
本文探讨了使用大型语言模型检测科学新闻中虚假信息的可能性，并提出了SciNews数据集及多种基线架构进行验证。
2025-11-24 cs.AI cs.CL cs.SI
Classifying Human-Generated and AI-Generated Election Claims in Social Media
George Mason University（乔治梅森大学）；OSET Institute（OSET研究所）
本文提出了一种新的选举相关声明分类法，并引入了包含9,900条推文的ElectAI基准数据集，通过训练机器学习模型区分人类与AI生成的帖子并识别具体LLM变体，以应对社交媒体中选举虚假信息问题。
2024-04-26 cs.AI cs.CL
SynDy: Synthetic Dynamic Dataset Generation Framework for Misinformation Tasks
University of Connecticut（康涅狄格大学）；Meedan（米丹机构）；University of Oxford（牛津大学）
针对散居群体虚假信息核查资源不足的问题，提出合成动态数据集生成框架SynDy，用大模型生成三类虚假信息相关任务的合成标注数据，效果接近人工标注，已集成到主流事实核查工具中，可降低低资源机构开展事实核查的成本。
2024-05-17 cs.AI cs.CL cs.CY
Unlearning Climate Misinformation in Large Language Models
Microsoft Corporation（微软公司）；University of Vermont（佛蒙特大学）；George Mason University（乔治梅森大学）；RC Athena（希腊研究与技术基金会雅典娜研究中心）
本文研究了LLMs在气候信息上的事实准确性，发现注入虚假信息可能不影响其他领域准确性，并比较了遗忘算法、微调和RAG，证明遗忘算法对细微概念性声明有效，为开发更可靠的LLMs提供了指导。
2024-05-29 cs.CL
Towards LLM-based Fact Verification on News Claims with a Hierarchical Step-by-Step Prompting Method
School of Computing and Information Systems（计算与信息系统学院）；Singapore Management University（新加坡管理大学）
本文研究LLM在新闻声明事实验证中的应用，提出分层逐步HiSS提示方法，通过拆分声明并多步问答验证，在两个数据集上超过全监督SOTA与少样本ICL基线。
2023-09-30 cs.CL
Countering Misinformation via Emotional Response Generation
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；University of Trento（特伦托大学）
针对社交媒体错误信息，提出首个结合风格与情绪的大规模数据集VerMouth，并训练模型以生成情感化纠正回应，显著提升输出质量与泛化能力。
2023-11-17 cs.CL
Probing Multimodal Large Language Models on Cognitive Biases in Chinese Short-Video Misinformation
Johns Hopkins University（约翰霍普金斯大学）；Chinese University of Hong Kong（香港中文大学）；University of Chicago（芝加哥大学）；Renmin University of China（中国人民大学）
本文通过200个短视频数据集评估8种多模态大语言模型在健康领域虚假信息中的表现，发现Gemini-2.5-Pro表现最佳（信念分数71.5/100），而模型易受权威频道ID等社会线索影响。
2026-06-05 cs.CL
Fact4ac at the Financial Misinformation Detection Challenge Task: Reference-Free Financial Misinformation Detection via Fine-Tuning and Few-Shot Prompting of Large Language Models
KaiNKaiho
本文提出一种结合零样本/少样本提示和LoRA参数高效微调的大语言模型框架，用于无外部证据的金融虚假信息检测，在公开和私有测试集上分别达到95.4%和96.3%的准确率，获得竞赛第一名。
2026-04-16 cs.AI cs.CL
Forecasting the Growth of Social Media Information Cascades: Towards Human-in-the-Loop Misinformation Triage
The Overlake School（奥弗克学校）；Stanford University（斯坦福大学）
针对虚假信息分流，提出基于前30分钟传播树预测后续增长的方法，结合回复模式与证据检索，构建人机协同审核系统以提升识别效率。
2026-10-07 cs.CL cs.SI
Debate-to-Detect: Reformulating Misinformation Detection as a Real-World Debate with Large Language Models
School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院）；State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）
针对传统错误信息检测的静态分类局限，提出D2D多智能体辩论框架，通过五阶段对抗辩论和五维评估，利用GPT-4o在两个数据集上显著提升检测性能，并增强决策透明度。
2025-08-26 cs.AI cs.CL
Veracity: An Open-Source AI Fact-Checking System
Mila；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Nord AI（北AI）；Harvard University（哈佛大学）；Supervised Program for Alignment Research (SPAR)（对齐研究监督计划）
Veracity是一个开源AI事实核查系统，结合大型语言模型与网络检索代理，提供多语言、数值评分的可信度评估和交互式界面，以对抗错误信息并提升媒体素养。
2025-06-18 cs.AI cs.CL cs.HC
Missci: Reconstructing Fallacies in Misrepresented Science
TU Darmstadt（达姆施塔特工业大学）；Hessian Center for AI (hessian.AI)（黑森人工智能中心）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；IBM Research, Ireland（IBM爱尔兰研究中心）
本文提出 Missci 模型与数据集，针对歪曲生物医学文献的错误信息，要求模型在零样本下识别并表述隐性谬误推理，并评估了 LLMs 的批判性推理能力。
2024-06-05 cs.CL
Has this Fact been Edited? Detecting Knowledge Edits in Language Models
Marburg University（马尔堡大学）；University of Sheffield（谢菲尔德大学）；University of Mannheim（曼海姆大学）
本文提出检测语言模型中知识是否被编辑的新任务，利用隐藏状态和概率分布特征结合 AdaBoost 分类器，在有限数据和跨域场景下实现有效检测，为应对恶意模型编辑奠定基础。
2025-02-10 cs.AI cs.CL
Multilingual, Multimodal Pipeline for Creating Authentic and Structured Fact-Checked Claim Dataset
Ruhr-Universität Bochum（博尔塔尔大学波恩）
本文提出一个多语言、多模态的数据收集与处理流水线，通过整合ClaimReview feeds、抓取完整驳斥文章、标准化异构声明裁定并添加结构化元数据和对齐的视觉内容，构建了法语和德语的事实核查数据集，提升了事实核查的可解释性和证据基础。
2026-03-17 cs.CL
How LLMs Fail to Support Fact-Checking
University of Rochester（罗切斯特大学）
本文实证评估ChatGPT、Gemini和Claude在对抗政治错误信息中的表现，发现它们难以基于真实新闻来源且偏向左倾引用，凸显仅靠提示工程进行事实核查的局限性。
2025-09-26 cs.AI cs.CL
Beyond Binary Detection: A Multi-Dimensional Taxonomy of Cancer Misinformation on Reddit
Drexel University（德雷塞尔大学）；UCLA（加州大学洛杉矶分校）
研究旨在刻画Reddit上癌症错误信息，引入多维分类法涵盖七个维度。利用专家标注数据评估大语言模型，分析错误信息。发现其约占癌症讨论6%，少样本提示可提高性能，还识别出常见错误信息叙述，为相关建模奠定基础。
2026-09-09 cs.CL
Simulating Misinformation Propagation in Social Networks using Large Language Models
Vizuara AI Labs（Vizuara AI实验室）
本文利用大语言模型模拟社交媒体虚假信息传播，通过构建人格代理网络研究虚假信息演变机制，揭示身份和意识形态驱动的人格加速虚假信息扩散，专家驱动人格则保持事实稳定。
2025-11-13 cs.AI cs.CL cs.CY
ViMGuard: A Novel Multi-Modal System for Video Misinformation Guarding
Weston High School（韦斯顿高中）；Noble and Greenough School（诺布尔与古鲁学校）；Google（谷歌）
本文提出 ViMGuard，首个通过视频、音频掩码自编码器与检索增强生成相结合，对短视频的文字、视觉和非语言音频三模态进行事实核查的深度学习系统，并在评估中超越三种前沿事实核查器。
2024-10-22 cs.CL cs.CY cs.LG
A Comparative Study of Translation Bias and Accuracy in Multilingual Large Language Models for Cross-Language Claim Verification
Algoverse AI Research（Algoverse AI研究）
本研究系统评估了15种语言下多语言LLMs在跨语言声明验证中的翻译偏差与准确性，发现低资源语言直接推理准确率较低，而较大模型在自翻译中表现更优且偏差更小。
2024-10-14 cs.CL
Contradiction to Consensus: Dual Perspective, Multi Source Retrieval Based Claim Verification with Source Level Disagreement using LLM
George Mason University（乔治·梅奥大学）
本研究提出基于双视角多源检索和跨源分歧分析的声明验证系统，利用LLM提升验证准确性并揭示来源差异。
2026-02-21 cs.CL
Dharma, Data and Deception: An LLM-Powered Rhetorical Analysis of Cow-Urine Health Claims on YouTube
University of Michigan（密歇根大学）；University of Kansas（堪萨斯大学）；IIT Jodhpur（印度理工学院乔普里尔）
本文利用LLM分析YouTube上牛尿健康主张的修辞策略，揭示推广者与反驳者在说服技巧上的差异，验证了LLM在 misinformation 分析中的有效性。
2026-04-24 cs.CL
When Cow Urine Cures Constipation on YouTube: Limits of LLMs in Detecting Culture-specific Health Misinformation
University of Michigan（密歇根大学）；University of Kansas（堪萨斯大学）；IIT Jodhpur（印度理工学院乔浦尔）
研究通过分析印度YouTube上的牛尿相关内容，揭示LLMs在处理文化特定健康谣言时的局限性，指出文化嵌入的谣言无法通过提示工程解决。
2026-04-23 cs.CL
Generative Debunking of Climate Misinformation
The University of Melbourne（墨尔本大学）
针对气候错误信息难以大规模纠正的问题，本文提出融合逆向主张分类与谬误检测的 LLM 提示框架，使 GPT-4、Mixtral 等模型生成“真相三明治”式辟谣，并发布数据集、代码和演示。
2024-07-08 cs.CL cs.CY
Tracing and Reversing Edits in LLMs
Marburg University（马堡大学）；University of Sheffield（谢菲尔德大学）
本研究提出通过分析修改后的权重来追踪和逆转大语言模型中的恶意编辑，实现高准确率的检测与恢复，以增强模型安全性。
2026-02-27 cs.CL
Evaluating the Performance of Large Language Models in Scientific Claim Detection and Classification
Colorado State University（科罗拉多州立大学）
本研究评估了大型语言模型在检测和分类COVID-19相关科学声明中的性能，提出其在自动化事实核查和公共卫生传播中具有显著潜力。
2024-12-21 cs.CL cs.CY cs.LG
Fact2Fiction: Targeted Poisoning Attack to Agentic Fact-checking System
针对当前基于LLM智能体的SOTA事实核查系统存在的安全研究空白，提出首个定向投毒攻击框架Fact2Fiction，实验证明其攻击成功率显著优于现有SOTA攻击，暴露了现有系统的安全缺陷。
2025-11-17 cs.CL cs.CR
The Synthetic Media Shift: Tracking the Rise, Virality, and Detectability of AI-Generated Multimodal Misinformation
Centre for Research and Technology Hellas（希腊研究中心）
本文提出CONVEX数据集，研究多模态虚假信息的传播与共识动态，发现AI生成内容虽传播迅速但依赖被动互动，且检测性能随生成模型发展而下降。
2026-04-15 cs.AI cs.CR cs.MM
Diverse, but Divisive: LLMs Can Exaggerate Gender Differences in Opinion Related to Harms of Misinformation
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Northeastern University（东北大学）
本研究构建TopicMisinfo数据集，探究大语言模型辅助事实核查优先级排序时的观点性别差异反映情况，发现GPT 3.5-Turbo会放大实证存在的观点性别差异，并公开数据集以支持相关研究。
2024-01-29 cs.CL cs.CY
MERIT: Modular Framework for Multimodal Misinformation Detection with Web-Grounded Reasoning
University of Rochester（罗切斯特大学）
MERIT通过四个专用模块提升多模态虚假信息检测性能，采用GPT-4o-mini在MMFakeBench上取得81.65% F1得分，优于零样本基线，验证了其架构设计的有效性。
2026-04-26 cs.AI cs.CL cs.CV
Long Live Fine-Tuning: Task-Specific Transformers Outperform Zero-Shot LLMs for Misinformation Response Classification on Reddit
University of Technology Sydney（悉尼技术大学）
通过对比微调模型与零样本LLM在Reddit错误信息评论分类上的表现，发现微调RoBERTa在宏F1分数上显著优于最佳零样本模型，且成本更低，表明任务特定微调在检测隐性错误信息方面仍更可靠。
2026-06-02 cs.CL cs.CY
Utilising Large Language Models for Generating Effective Counter Arguments to Anti-Vaccine Tweets
针对反疫苗推文，本文结合多标签分类、提示策略与结构化微调提升LLM生成情境化反驳的能力，并通过人工、LLM和自动评估验证其有效性。
2025-10-18 cs.CL
Evaluating Health Misinformation in Low-Resource Languages: Integrating Small Language Models with a Culturally-Sensitive Responsible NLP Framework (Bangla as a Case Study)
Western Sydney University（西悉尼大学）；Microsoft（微软公司）；Excelsia College（埃克塞尔西亚学院）；Faulconbridge Health Centre（福尔康布里奇健康中心）
研究针对低资源语言中健康错误信息难检测问题，提出结合小语言模型与文化敏感的负责任自然语言处理框架，以孟加拉语为例进行实验，证明Phi-4表现优，还设计新框架，为评估低资源语言错误信息提供整体视角。
2026-07-15 cs.AI cs.CL cs.CY
FACT-GPT: Fact-Checking Augmentation via Claim Matching with LLMs
University of Southern California（南加州大学）
FACT-GPT利用大语言模型自动化事实核查中的声明匹配，在合成数据上训练，能识别与已辟谣声明一致、矛盾或无关的内容，其准确性与更大模型相当并接近人类判断。
2024-02-08 cs.CL cs.CY cs.HC
VeriTaS: The First Dynamic Benchmark for Multimodal Automated Fact-Checking
Multimodal AI Lab（多模态AI实验室）；Technical University of Darmstadt（达姆施塔特技术大学）
为应对在线虚假信息的扩大规模，本文提出VeriTaS动态基准，通过自动化流程持续更新，涵盖104个专业机构的25000个真实声明，支持多模态事实核查评估。
2026-04-30 cs.AI cs.CV cs.IR
Latent Fact-Checking: Detecting Misinformation through Activation Engineering
PUCRS（巴西天主教大学（里约格兰德 do 苏里））；Kunumi Institute（库纳米研究所）
本研究提出基于激活工程的虚假信息检测框架，通过对比激活引出潜在空间的虚假信息方向，在多类模型和基准上实现了优于部分基线的检测性能，为可解释性驱动的虚假信息检测提供了新方向。
2026-09-07 cs.CL cs.LG
"Flex Tape Can't Fix That": Bias and Misinformation in Edited Language Models
École polytechnique fédérale de Lausanne（洛桑联邦理工学院）；Carnegie Mellon University（卡内基梅隆大学）；University of Maryland, College Park（马里兰大学帕克分校）
该研究针对模型编辑后意外放大偏见的问题，提出Seesaw-CF基准数据集，探究不同权重编辑方法对模型偏见的影响，发现编辑会加剧多类偏见并干扰无关知识。
2024-10-03 cs.CL
Monant Medical Misinformation Dataset: Mapping Articles to Fact-Checked Claims
Kempelen Institute of Intelligent Technologies（凯普伦智能技术研究所）；Faculty of Information Technology, Brno University of Technology（布尔诺理工大学信息技术学院）
虚假信息对个人乃至整个社会都有重大的负面影响。特别是在当前的COVID-19时代，我们目睹了医疗错误信息的前所未有的增长。为了用机器学习方法来帮助解决这个问题，我们发布了一个功能丰富的数据集，大约有100个机器学习算法。317 k医学新闻文章/博客和3.5k事实核查索赔。它还包含573个手动和超过51 k个自动标记的声明和文章之间的映射。映射包括声明存在，即，声明是否包含在给定的文章中，以及文章对声明的立场。我们为这两个任务提供了几个基线，并在数据集的手动标记部分对其进行评估。该数据集支持许多与医疗错误信息相关的额外任务，例如错误信息表征研究或来源之间错误信息扩散的研究。
2022-04-26 cs.CL cs.CY cs.IR
Misinformation Has High Perplexity
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；Hong Kong University of Science and Technology（香港科技大学）
揭穿错误信息是一项重要和时间紧迫的任务，因为如果错误信息不及时消除，可能会产生不利后果。然而，通常通过错误信息分类进行揭穿的监督方法需要人工注释的数据，并且不适合新出现的事件（如COVID-19爆发）的快速时间框架。在本文中，我们假设错误信息本身具有更高的困惑相比，真实的陈述，并建议利用困惑揭穿虚假索赔在无监督的方式。首先，我们从科学和新闻来源中提取可靠的证据，根据句子的相似性索赔。其次，我们用提取的证据来填充一个语言模型，最后根据揭穿时的困惑分数来评估给定声明的正确性。我们构建了两个新的COVID-19相关测试集，一个是科学的，另一个是政治的内容，并实证验证了我们的系统与现有系统相比表现良好。我们公开发布这些数据集，以鼓励更多的研究来揭穿有关COVID-19和其他主题的错误信息。
2020-06-10 cs.AI cs.CL cs.LG
Stanceosaurus: Classifying Stance Towards Multilingual Misinformation
School of Interactive Computing（交互计算学院）；Georgia Institute of Technology（佐治亚理工学院）
我们提出了Stanceosaurus，一个新的语料库，包含28，033条英语，印地语和阿拉伯语的推文，并对251个错误信息声明进行了注释。据我们所知，这是最大的语料库注释的立场，对错误的信息索赔。斯坦塞龙的说法来自15个事实核查来源，涵盖不同的地理区域和文化。与现有的立场数据集不同，我们引入了一个更细粒度的5类标签策略，并增加了子类别来区分隐式立场。在我们的语料库上进行微调的预训练的基于变换器的立场分类器对来自训练数据之外的国家的看不见的声明和区域声明显示出良好的泛化。跨语言实验证明了Stanceosaurus训练多语言模型的能力，在没有任何目标语言微调的情况下，印地语达到53.1 F1，阿拉伯语达到50.4 F1。最后，我们展示了如何使用领域自适应方法来使用额外的RumourEval-2019数据提高Stanceosaurus的性能。我们将斯坦塞龙公开提供给研究界，并希望它将鼓励跨语言和文化的错误信息识别的进一步工作。
2022-10-28 cs.CL
Lost in translation: using global fact-checks to measure multilingual misinformation prevalence, spread, and evolution
Department of Mathematical Modeling and Machine Learning, University of Zurich, Switzerland（苏黎世大学数学建模与机器学习系）；Digital Society Initiative, University of Zurich, Switzerland（苏黎世大学数字社会倡议）；Oxford Internet Institute, University of Oxford, United Kingdom（牛津大学网络研究所）；Meedan, San Francisco, United States（梅丹公司，旧金山，美国）
本文通过分析多语言事实核查数据，揭示虚假信息在不同语言间的传播特性及演变过程，指出跨语言传播的挑战及本地化验证的重要性。
2025-11-24 cs.CL cs.CY cs.SI
ArCOV19-Rumors: Arabic COVID-19 Twitter Dataset for Misinformation Detection
Qatar University（卡塔尔大学）
在本文中，我们介绍了ArCOV 19-Rumors，这是一个用于错误信息检测的阿拉伯语COVID-19 Twitter数据集，由2020年1月27日至4月底包含声明的推文组成。我们收集了138个经过验证的声明，大部分来自流行的事实核查网站，并确定了9.4K与这些声明相关的推文。推特被人工标注了真实性，以支持错误信息检测的研究，这是大流行期间面临的主要问题之一。ArCOV 19-谣言支持两个级别的错误信息检测：验证自由文本声明（称为声明级别验证）和验证推文中表达的声明（称为推文级别验证）。我们的数据集除健康外，还涵盖与受COVID-19影响的其他主题类别相关的索赔，即社会，政治，体育，娱乐和宗教。此外，我们提出了对数据集的推文级验证的基准测试结果。我们试验了SOTA模型的通用方法，利用内容，用户简档功能，时间特征和传播结构的会话线程的鸣叫验证。
2021-03-13 cs.CL cs.IR cs.SI
Query Rewriting for Effective Misinformation Discovery
University of Michigan（密歇根大学）；Meta AI；Meedan（米丹）；Oxford Internet Institute（牛津互联网研究院）
本文提出基于离线强化学习与 decision transformer 的查询重写系统，自动学习可解释编辑动作，帮助事实核查人员跨平台检索错误信息，查询有效性最高相对提升42%。
2023-10-02 cs.CL
Human-in-the-loop Evaluation for Early Misinformation Detection: A Case Study of COVID-19 Treatments
Georgia Institute of Technology（佐治亚理工学院）
本文提出一个人在环评估框架，通过提取并排序值得核查的声明，利用立场分类器识别支持新型虚假信息声明的推文并审查其违规情况，基于现代NLP方法开发了COVID-19治疗领域的基线系统，并公开数据与标注指南以支持相关系统评估。
2023-07-03 cs.CL
CAMOUFLAGE: Exploiting Misinformation Detection Systems Through LLM-driven Adversarial Claim Transformation
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
CAMOUFLAGE提出一种LLM驱动的双智能体对抗攻击方法，通过迭代改写声明操纵证据检索与比较模块，在不改变语义的前提下绕过误信息检测系统，在四个系统上平均攻击成功率达46.92%。
2025-05-03 cs.CL
MIC: Explaining Image-Claim Inconsistencies in AI-Generated Multimodal Misinformation
KU Leuven（鲁汶大学）；TU Darmstadt（达姆施塔特工业大学）；National Research Center for Applied Cybersecurity ATHENE（国家应用网络安全研究中心ATHENE）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对AI生成图像与声明不一致的虚假信息，提出MIC框架，结合SFT和GRPO优化，并构建MIC-Bench基准，显著提升核查性能。
2026-09-29 cs.CL
Evidence-Grounded Multimodal Misinformation Detection with Attention-Based GNNs
Fatima Fellowship（法蒂玛奖学金）；University of Rochester（罗切斯特大学）
针对多模态脱离上下文虚假信息，提出基于证据图和声明图的双图表示与GNN编码比较方法，在检测任务上以93.05%准确率超越LLM，验证了小型任务特定模型的有效性。
2025-05-23 cs.AI cs.CL cs.IR
Edited Media Understanding Frames: Reasoning About the Intent and Implications of Visual Misinformation
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Michigan（密歇根大学）；Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；Stanford University（斯坦福大学）
本文提出编辑媒体理解任务及EMU数据集，并引入PELICAN模型，旨在识别图像编辑的意图与影响，实验显示模型准确率40.35%，仍有提升空间。
2025-03-26 cs.CL cs.CV
PoxVerifi: An Information Verification System to Combat Monkeypox Misinformation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
在最近的疫情爆发之后，与猴痘有关的错误信息继续在网上迅速传播。这对应对策略产生了负面影响，并在短期内对LGBTQ+社区造成了不成比例的伤害，最终破坏了公共卫生应对措施的整体有效性。为了打击猴痘相关的错误信息，我们提出了PoxVerifi，一个开源的，可扩展的工具，提供了一个全面的方法来评估猴痘相关索赔的准确性。利用现有事实核查来源的信息和世界卫生组织（WHO）公布的信息，我们创建了一个包含225项猴痘索赔的开源语料库。此外，我们训练了一个开源的基于BERT的机器学习模型，专门对猴痘信息进行分类，实现了96%的交叉验证准确率。PoxVerifi是Google Chrome浏览器扩展程序，旨在使用户能够浏览与monkeypox相关的错误信息。具体来说，PoxVerifi为用户提供了一个全面的工具包，可以评估互联网上任何网页上标题的真实性，而无需访问外部网站。用户可以从我们经过训练的机器学习模型中查看自动准确性审查，这是一个基于社区成员投票的用户生成的准确性审查，并能够查看类似的审查声明。除了PoxVerifi全面的索赔测试方法外，我们的平台还提供了一种高效且易于使用的方法，用于对猴痘相关索赔进行众包准确性评级，这些准确性评级可以汇总以创建新的标记错误信息数据集。
2022-09-09 cs.CL cs.LG cs.SI
SUCEA: Reasoning-Intensive Retrieval for Adversarial Fact-checking through Claim Decomposition and Editing
New York University（纽约大学）；NYU Shanghai（纽约大学上海校区）；Yale University（耶鲁大学）；Allen Institute for AI（人工智能 Allen 机构）
SUCEA框架通过声明分解、迭代证据检索与编辑及证据聚合三个步骤，无需训练即可提升对抗性事实核查的检索与蕴含标签准确率，在两个数据集上优于四个基线方法。
2025-06-05 cs.AI cs.CL
No Hindsight for LLM Fact-Checkers: Measuring Leakage Channels in Misinformation Detection
Georgia Institute of Technology（佐治亚理工学院）
本研究测量LLM事实核查中的参数泄漏与事后证据泄漏，发现两者可被总体准确率掩盖，表示瓶颈能有效减少泄漏，且事后证据在AVeriTeC上虚增6.3点准确率，揭示基准测试可能高估性能。
2026-10-06 cs.CL
Memory-First Fact-Checking: A Knowledge-Graph-Grounded Multi-Agent System for Misinformation Detection
Technical University of Cluj-Napoca（克卢日-纳波卡技术大学）
该研究提出一种基于知识图谱与对抗多智能体的优先记忆式虚假信息检测框架，在COVID-19虚假信息基准上准确率达97.4%，优于Llama 3.3 70B基线模型。
2026-09-01 cs.AI cs.CL
RAMA: Retrieval-Augmented Multi-Agent Framework for Misinformation Detection in Multimodal Fact-Checking
The University of Hong Kong（香港大学）
提出检索增强多智能体框架RAMA，通过策略性查询生成、交叉验证证据聚合与多智能体集成架构，利用多模态大语言模型和检索事实证据，有效解决多模态虚假信息核查中模糊声明验证难题，提升系统可靠性与可扩展性。
2025-07-12 cs.CL
Too Many Claims to Fact-Check: Prioritizing Political Claims Based on Check-Worthiness
TOBB University of Economics and Technology（TOBB经济与技术大学）
每天在互联网上传播的大量错误信息对社会产生了巨大的负面影响。因此，我们需要自动化系统来帮助事实核查人员打击错误信息。在本文中，我们提出了一个模型，优先级的索赔的基础上，他们的检查价值。我们使用BERT模型，并添加了其他功能，包括特定领域的争议主题，词嵌入等。在我们的实验中，我们表明，我们提出的模型优于所有国家的最先进的模型在两个测试集合的CLEF检查！实验室在2018年和2019年。我们还进行定性分析，以揭示检测值得检查的索赔。我们建议要求背后的判断是需要理解的主观性质的任务和有问题的标签的理由。
2021-02-14 cs.CL
