Fake News Detection on Social Media: A Data Mining Perspective
Arizona State University(亚利桑那州立大学);Charles River Analytics(查尔斯河分析公司);Michigan State University(密歇根州立大学)
社交媒体对新闻消费来说是一把双刃剑。一方面,它的低成本,容易获取和快速传播的信息导致人们从社交媒体中寻找和消费新闻。另一方面,它使“假新闻”得以广泛传播,即,低质量新闻,故意虚假信息。假新闻的广泛传播有可能对个人和社会产生极其负面的影响。因此,社交媒体上的假新闻检测最近成为一项新兴的研究,引起了极大的关注。社交媒体上的假新闻检测呈现出独特的特征和挑战,使得传统新闻媒体的现有检测算法无效或不适用。首先,假新闻是故意编写的,以误导读者相信虚假信息,这使得基于新闻内容的检测变得困难和重要;因此,我们需要包括辅助信息,例如社交媒体上的用户社交活动,以帮助做出决定。其次,利用这些辅助信息本身就具有挑战性,因为用户与假新闻的社交活动会产生大量、不完整、非结构化和嘈杂的数据。由于社交媒体上的假新闻检测问题既具有挑战性又具有相关性,我们进行了这项调查,以进一步促进对该问题的研究。本文对社交媒体上的假新闻检测进行了全面的综述,包括心理学和社会学理论对假新闻的刻画、数据采掘视角下的现有算法、评价指标和代表性数据集。我们还讨论了社交媒体上虚假新闻检测的相关研究领域,开放问题和未来的研究方向。
2017-09-03 cs.AI cs.SI
Fake News Detection with Different Models
这篇论文旨在探索各种不同的模型,旨在开发假新闻检测模型,我们使用了某些机器学习算法,并使用了TFIDF和CV和W2V等预训练算法作为处理文本数据的特征。
2020-02-15 cs.CL cs.LG stat.ML
X-CapsNet For Fake News Detection
Amirkabir University of Technology(阿米卡比尔理工大学)
针对假新闻检测需求,本文提出融合CapsNet的Transformer模型X-CapsNet,结合基于篇幅的双分类器与间接特征解决短新闻表征问题,在两个数据集上性能优于现有最优基线。
2023-07-23 cs.CL cs.CY
Exploring Text Representations for Online Misinformation
Queen's University Belfast(贝尔法斯特女王大学)
本文研究在线错误信息检测,提出利用新闻文章主题连贯性差异提取文本特征的新方法,并通过分类与聚类验证主题特征的有效性,为基于机器学习和自然语言处理的假新闻检测提供新思路。
2024-12-13 cs.CL cs.SI
Explainable Tsetlin Machine framework for fake news detection with credibility score assessment
University of Agder(阿格德大学)
假新闻的扩散,即,新闻故意传播错误信息,对个人和社会构成威胁。尽管有各种事实核查网站,如PolitiFact,但仍需要强大的检测技术来应对假新闻的增加。几个深度学习模型在假新闻分类方面显示出了很好的效果,然而,它们的黑盒性质使得很难解释它们的分类决策和保证模型的质量。我们在这里解决这个问题,提出了一个新的可解释的假新闻检测框架的基础上,最近推出的Tsetlin机(TM)。简而言之,我们利用TM的连接子句来捕获真实和虚假新闻文本的词汇和语义属性。此外,我们使用子句集合来计算假新闻的可信度。为了进行评估,我们在两个公开的数据集PolitiFact和GossipCop上进行了实验,并证明TM框架在准确性方面明显优于先前发布的基线至少$5\%$,并具有可解释的基于逻辑的表示的额外好处。此外,我们的方法提供了比BERT和XLNet更高的F1分数,但是,我们获得的准确性略低。最后,我们提出了一个案例研究我们的模型的可解释性,展示了它如何分解成有意义的词和他们的否定。
2021-05-19 cs.AI cs.CL cs.LG
Neural Abstractive Text Summarization and Fake News Detection
Stanford University(斯坦福大学)
在这项工作中,我们研究抽象的文本摘要,探索不同的模型,如LSTM编码器解码器与注意,指针生成器网络,覆盖机制,和Transformers。经过广泛和仔细的超参数调整,我们比较了所提出的架构对彼此的抽象文本摘要任务。最后,作为我们工作的延伸,我们将我们的文本摘要模型作为假新闻检测任务的特征提取器,在该任务中,将对分类之前的新闻文章进行总结,并将结果与仅使用原始新闻文本的分类进行比较。关键词:LSTM,编码器-解码器,抽象文本摘要,指针生成器,覆盖机制,Transformers,假新闻检测
2019-12-12 cs.CL cs.LG stat.ML
Automatic Fake News Detection: Are Models Learning to Reason?
University of Copenhagen(哥本哈根大学)
大多数用于自动虚假新闻检测的事实检查模型都是基于推理的:给定一个具有相关证据的声明,这些模型旨在根据证据中的支持或反驳内容来估计声明的真实性。当这些模型表现良好时,通常认为是由于模型已经学会了对索赔的证据进行推理。在本文中,我们通过探讨主张和证据的关系和重要性来研究这一推理假设。令人惊讶的是,我们在政治事实核查数据集上发现,最常见的最高有效性是通过只利用证据来获得的,因为包括索赔的影响可以忽略不计或对有效性有害。这突出了一个重要问题,即在现有的自动虚假新闻检测方法中,什么构成证据。
2021-05-17 cs.CL cs.CY cs.LG
Heterogeneous Subgraph Transformer for Fake News Detection
School of Computing, Macquarie University(麦考瑞大学计算学院);School of Information Management, Wuhan University(武汉大学信息管理学院)
本文提出异构子图Transformer(HeteroSGT)用于假新闻检测,通过构建异构图并利用预训练语言模型和带重启的随机游走提取子图,在五个真实数据集上优于基线模型。
2024-04-19 cs.AI cs.CL
Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation
UIUC(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学);University of Washington(华盛顿大学);AI2(艾伦人工智能研究所)
针对机器生成与人类撰写假新闻间的风格与意图差异,提出基于自然语言推理引导的自批判序列训练框架,结合宣传技巧生成训练数据集 PropaNews,使假新闻检测器在公开数据集上检测人类虚假信息的 F1 分数提升 3.62% - 7.69%。
2023-05-15 cs.CL
A Multi-Policy Framework for Deep Learning-Based Fake News Detection
School of Engineering, Polytechnic of Porto (ISEP/IPP)(波尔图理工学院工程学院);Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD)(智能工程与计算高级创新与发展研究组)
连通性在现代社会中发挥着越来越重要的作用,世界各地的人们都可以轻松获得快速传播的信息。然而,一个更加相互联系的社会使故意虚假信息的传播成为可能。为了减轻假新闻的负面影响,必须改进检测方法。这项工作引入了多政策声明检查器(MPSC),这是一个通过使用深度学习技术分析声明本身及其相关新闻文章、预测其是否看似可信或可疑来自动检测假新闻的框架。使用包含真实和虚假新闻的四个合并数据集对拟议的框架进行了评估。训练长短期记忆(LSTM)、门控递归单元(GRU)和来自Transformers的双向编码器表示(BERT)模型以利用词汇和句法特征,并评估它们的性能。所获得的结果表明,多策略分析可以可靠地识别可疑语句,这对于假新闻检测是有利的。
2022-06-01 cs.CL cs.CR cs.LG
Fake News Early Detection: An Interdisciplinary Study
Syracuse University(雪城大学)
假新闻的大规模传播及其侵蚀民主的潜力增加了对准确检测假新闻的需求。这一领域的最新进展提出了旨在通过探索假新闻如何在社交网络上传播来检测假新闻的新技术。然而,为了在早期阶段发现假新闻,即,当它在新闻媒体上发布但尚未在社交媒体上传播时,人们不能依赖新闻传播信息,因为它不存在。因此,迫切需要开发能够通过关注新闻内容来检测假新闻的方法。本文提出了一种理论驱动的虚假新闻检测模型。该方法从词汇层、句法层、语义层和语篇层四个层面对新闻内容进行分析。我们代表新闻的每一个层面,依靠社会和法医心理学的成熟理论。然后在有监督的机器学习框架内进行假新闻检测。作为一项跨学科的研究,我们的工作探索了潜在的假新闻模式,增强了假新闻特征工程的可解释性,并研究了假新闻,欺骗/虚假信息和点击诱饵之间的关系。在两个真实数据集上进行的实验表明,该方法可以在内容信息有限的情况下实现假新闻的早期检测。
2020-09-16 cs.CL cs.SI
Combination Of Convolution Neural Networks And Deep Neural Networks For Fake News Detection
University of Kufa(库法大学);College of Mathematical and Computer Science(数学与计算机科学学院)
如今,人们更喜欢在社交媒体上关注最新的新闻,因为它便宜,容易获得,并且传播迅速。然而,它可以传播虚假或不可靠的,故意包含虚假信息的低质量新闻。假新闻的传播会对人们和社会产生负面影响。鉴于这一问题的严重性,研究人员尽最大努力识别假新闻可能表现出的模式和特征,以设计一个可以在发布前检测假新闻的系统。在本文中,我们描述了假新闻挑战赛第一阶段(FNC-1)数据集,并概述了使用FNC-1数据集构建假新闻检测系统的竞争尝试。用FNC-1数据集对所提出的模型进行了评估。一个有竞争力的数据集被认为是一个开放的问题,也是一个全球性的挑战。该系统的过程意味着用不同的自然语言处理技术处理标题和正文列中的文本。然后,使用肘截断方法减少提取的特征,使用软余弦相似性方法找到每对之间的相似性。新特征被输入到CNN和DNN深度学习方法中。所提出的系统检测所有的类别,除了不同意的类别具有较高的准确性。因此,该系统达到了高达84.6%的准确率,根据有关该数据集的其他竞争性研究,将其归类为第二排名。
2022-10-15 cs.CL cs.IR
User Preference-aware Fake News Detection
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Illinois Institute of Technology(伊利诺伊理工学院);Lehigh University(理海大学)
近年来,虚假信息和假新闻对个人和社会造成了不利影响,引起了人们对虚假新闻检测的广泛关注。现有的大多数假新闻检测算法专注于挖掘新闻内容和/或周围的外生上下文以发现欺骗性信号;而当用户决定传播一条假新闻时,他/她的内生偏好被忽略。确认偏差理论表明,当用户确认他/她现有的信念/偏好时,他/她更有可能传播一条假新闻。用户的历史社交活动(如帖子)提供了有关用户对新闻偏好的丰富信息,并具有很大的潜力来推进假新闻检测。然而,探索用户对假新闻检测的偏好的工作有些有限。因此,在本文中,我们研究了利用用户偏好进行假新闻检测的新问题。我们提出了一个新的框架,UPFD,它同时捕捉各种信号,从用户的喜好,联合内容和图形建模。在真实数据集上的实验结果证明了该框架的有效性。我们发布我们的代码和数据作为基于GNN的假新闻检测的基准:https://github.com/safe-graph/GNN-FakeNews。
2021-04-25 cs.CL cs.SI
Learning from Fact-checkers: Analysis and Generation of Fact-checking Language
Worcester Polytechnic Institute(伍斯特理工学院)
在打击假新闻的过程中,许多事实核查系统由基于人类的事实核查网站组成(例如,snopes.com和politifact.com)和自动检测系统。然而,即使已经被揭穿,在线用户仍然继续分享假新闻。这意味着早期的假新闻检测可能是不够的,我们需要另一种补充方法来减轻错误信息的传播。在本文中,我们介绍了一种用于打击假新闻的文本生成新应用。具体而言,我们(1)利用名为\emph{fact-checkers}的在线用户,他们引用事实核查网站作为公共话语中的事实核查信息的可信证据;(2)分析事实核查推文的语言特征;(3)提出并构建一个深度学习框架,以生成具有事实核查意图的响应,以增加事实核查人员对事实核查活动的参与。我们的分析表明,事实核查者倾向于反驳错误信息,并使用形式语言(例如,很少使用脏话和互联网俚语)。我们的框架成功地生成相关的响应,并通过实现高达30%的改进,优于竞争模型。我们的定性研究也证实了我们所产生的反应与现有模型产生的反应相比的优越性。
2019-10-05 cs.AI cs.CL cs.IR
TieFake: Title-Text Similarity and Emotion-Aware Fake News Detection
University of Electronic Science and Technology of China(电子科技大学);th Research Institute of China Electronics Technology Group Corporation(中国电子科技集团公司第三十研究所)
针对假新闻中情感意图与标题-文本不一致被忽视的问题,提出 TieFake 统一框架,融合 BERT、ResNeSt、情感提取与缩放点积注意力,在两个多模态数据集上显著提升检测性能。
2023-04-19 cs.CL cs.CV cs.LG
NewsEdits 2.0: Learning the Intentions Behind Updating News
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所);Salesforce AI(Salesforce人工智能部门)
本研究假设语言特征可指示事实流动性并预测新闻事实更新,引入NewsEdits 2.0分类体系区分不同更新意图,标注训练模型后实现高精度预测,还在LLM-QA弃权任务中验证了实用性。
2024-11-27 cs.AI cs.CL cs.DL
Uncertainty-Aware Reward-based Deep Reinforcement Learning for Intent Analysis of Social Media Information
Virginia Tech(弗吉尼亚理工大学);University of Oslo(奥斯陆大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);University of Texas at Dallas(德克萨斯大学达拉斯分校);University of the District of Columbia(哥伦比亚特区大学)
由于传播假新闻的各种严重不良影响,人们往往知道,只有恶意的人才会传播假新闻。然而,根据社会科学研究,这并不一定是真的。根据他们的意图区分假新闻传播者的类型至关重要,因为它将有效地指导如何通过不同的方法进行干预以减轻假新闻的传播。为此,我们提出了一个意图分类框架,可以最好地识别假新闻的正确意图。我们将利用深度强化学习(DRL),在将演员添加到长短期记忆(LSTM)意图分类器时,通过从输入序列中删除嘈杂的单词来优化每条推文的结构表示。策略梯度DRL模型(例如,REINFORCE)可以引导行动者获得更高的延迟奖励。我们还设计了一个新的不确定性意识的即时奖励使用的主观意见,可以明确地处理多维的不确定性,有效的决策。通过来自带有注释意图类的假新闻推文数据集的60万训练集,我们评估了DRL中不确定性感知奖励的性能。评估结果表明,我们提出的框架有效地减少了选择的单词的数量,以保持高95%的多类准确率。
2023-02-19 cs.AI cs.CL cs.LG
SirenLess: reveal the intention behind news
Hong Kong University of Science and Technology(香港科技大学)
现今的新闻报道往往越来越具有误导性,使读者无法对某些事件作出主观判断。虽然已经提出了一些机器学习方法来检测误导性新闻,但其中大多数都是黑匣子,为人类决策提供的帮助有限。在本文中,我们提出了SirenLess,一个视觉分析系统的误导性新闻检测的语言特征。文章浏览器是一个新颖的交互式工具,它整合了新闻元数据和语言特征,以揭示新闻文章的语义结构,促进语篇分析。我们使用SirenLess分析了来自不同来源的18篇新闻文章,并总结了一些有用的模式,用于误导性新闻检测。与新闻专业人士和大学生进行用户研究,以确认我们的系统的有用性和有效性。
2020-01-08 cs.CL cs.HC
Exploring News Summarization and Enrichment in a Highly Resource-Scarce Indian Language: A Case Study of Mizo
International Institute of Information Technology - Hyderabad(海得拉巴国际信息技术学院)
本文针对资源极度稀缺的米佐语新闻,提出利用英语新闻补充信息以生成整体摘要的方法,并通过公开500篇数据集及人工评估验证其显著提升信息覆盖度的有效性。
2024-04-25 cs.AI cs.CL
Intent-Driven Semantic ID Generation for Grounded Conversational News Recommendation
Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区);Platform and Content Group, Tencent(腾讯平台与内容部)
本文提出意图驱动的语义ID生成方法,通过多任务对齐和GPT-4链式推理蒸馏,实现意图到层级SID前缀的映射,提升新闻推荐的 grounded 性和冷启动用户推荐效果。
2026-05-08 cs.CL
Exploring Thematic Coherence in Fake News
Queen’s University Belfast(贝尔法斯特女王大学)
假新闻的传播仍然是一个严重的全球性问题;理解和遏制它至关重要。区分谎言和真实故事的一种方法是分析它们的连贯性。本研究旨在探讨话题模式在跨领域新闻连贯性分析中的应用。在七个跨领域数据集上的实验结果表明,假新闻在其开头句子与其其余句子之间表现出更大的主题偏离。
2020-12-17 cs.CL
TruthBot: An Automated Conversational Tool for Intent Learning, Curated Information Presenting, and Fake News Alerting
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);Indian Institute of Information Technology Delhi(印度德里信息技术学院)
我们介绍TruthBot,一个多功能多语言对话聊天机器人,旨在寻求特定主题的真相(值得信赖和验证的信息)。它可以帮助用户获得特定主题的信息,事实检查信息,并获得最新消息。聊天机器人通过从先前意图的数据训练深度神经网络来学习查询的意图,并在将意图分类到上述类别之一时做出适当的响应。每个类都作为一个单独的模块实现,该模块使用自己的知识库或搜索Web以获得正确的信息。聊天机器人的主题目前设置为COVID-19。然而,机器人可以很容易地定制任何特定主题的响应。我们的实验结果表明,每个模块的性能显着优于其最接近的竞争对手,这是验证了定量和通过多种语言的几个基于用户的调查。TruthBot已于2020年6月部署,目前正在运行。
2021-01-31 cs.CL cs.SI
Bad Actor, Good Advisor: Exploring the Role of Large Language Models in Fake News Detection
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences(中国科学院智能信息处理重点实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);National University of Singapore(新加坡国立大学)
本文研究大语言模型在假新闻检测中的作用,发现LLM虽能提供多视角理由但结论整合能力不足,提出让LLM作为小语言模型顾问的自适应理由引导网络ARG及其蒸馏版本ARG-D,在真实数据集上优于多种基线方法。
2024-01-22 cs.AI cs.CL cs.CY
Seeing Through Deception: Uncovering Misleading Creator Intent in Multimodal News with Vision-Language Models
National University of Singapore(新加坡国立大学);Yunnan University(云南大学)
本文提出DeceptionDecoded基准数据集,通过意图引导模拟框架生成12000组图像-描述对,旨在揭示多模态虚假信息中的误导性意图,评估14种最新视觉-语言模型,发现其在意图推理上存在不足,提出系统合成数据以提升模型意图理解能力。
2026-04-13 cs.CL cs.CV cs.MM
Do All Good Actors Look The Same? Exploring News Veracity Detection Across The U.S. and The U.K
Rensselaer Polytechnic Institute(伦斯勒理工学院)
基于文本的新闻真实性检测方法的一个主要问题是,它们可能无法在国家和文化之间推广。在这篇简短的论文中,我们明确地测试了来自美国和英国的新闻数据的新闻真实性模型,证明了有理由关注泛化。通过一系列的测试方案,我们表明,基于文本的分类器在一个国家的新闻数据上训练和在另一个国家的新闻数据上测试时表现不佳。此外,这些模型在分类看不见的、不可靠的新闻来源方面存在困难。最后,我们讨论了这些结果的影响和未来工作的途径。
2020-05-26 cs.CL cs.IR cs.LG
Hitachi at SemEval-2023 Task 3: Exploring Cross-lingual Multi-task Strategies for Genre and Framing Detection in Online News
Hitachi, Ltd.(日立制作所)
本文针对多语言低资源在线新闻体裁与框架检测,探索预训练语言模型的跨语言、多任务训练及外部平衡数据策略,并通过集成模型在两个子任务中取得最佳宏平均 F1。
2023-04-25 cs.AI cs.CL
Rookie: A unique approach for exploring news archives
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
新闻档案是将当前事件置于历史背景中的宝贵的主要来源。但是当前的搜索引擎工具在发现跨文档的广泛主题和叙述方面做得很差。我们介绍新秀:一个实用的软件系统,它使用自然语言处理(NLP)来帮助读者、记者和编辑在新闻档案中发现广泛的故事。与之前的工作不同,Rookie的设计是经过18个月的迭代开发,并与编辑和计算记者进行了磋商。这一过程导致了与以前具有类似目标的学术体系截然不同的方法。我们的努力为其他使用NLP构建真实世界新闻软件的人提供了一个可推广的案例研究。
2017-08-06 cs.CL cs.HC
Exploring Zero and Few-shot Techniques for Intent Classification
ServiceNow Inc(ServiceNow公司)
本文针对NLU冷启动和存储限制,比较了四种零/少样本意图分类方法,发现基于T-few配方微调Flan-T5在单样本下性能最优,并验证了LLM描述提示的零样本有效性。
2023-05-11 cs.AI cs.CL
Exploring Teacher-Student Learning Approach for Multi-lingual Speech-to-Intent Classification
National University of Singapore(新加坡国立大学);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
端到端语音到意图分类已经显示出其在从文本和语音中获取信息方面的优势。在本文中,我们研究了一种技术来开发这样一个端到端的系统,支持多种语言。为了克服多语言语音语料库的不足,我们利用预先训练的多语言自然语言处理模型的知识。来自Transformers(mBERT)模型的多语言双向编码器表示是在多种语言上训练的,因此预计在多语言场景中表现良好。在这项工作中,我们采用了师生学习的方法,充分提取信息的mBERT模型训练多语言的语音模型。特别是,我们使用从英语-汉语文本语料库生成的合成语音进行多语言意图分类模型的分析和训练。我们还证明了师生学习方法在实际的多语言场景中获得了比传统的端到端(89.40%)意图分类方法更好的性能(91.02%)。
2021-09-28 cs.AI cs.CL
TopExNet: Entity-Centric Network Topic Exploration in News Streams
Heidelberg University(海德堡大学)
最近引入的以实体为中心的隐式网络表示的非结构化文本提供了新的方式来探索文档集合和流中的实体关系,有效地和交互式。在这里,我们将TopExNet作为一种工具,用于探索新闻文章流中以实体为中心的网络主题。该应用程序作为Web服务在https://topexnet.ifi.uni-heidelberg.de/上提供。
2019-05-31 cs.CL
Exploring the Potential of the Large Language Models (LLMs) in Identifying Misleading News Headlines
University of Maryland(马里兰大学);University of Oklahoma(俄克拉荷马大学)
本文通过60篇多领域新闻文章评估ChatGPT-3.5、ChatGPT-4和Gemini识别误导性标题的能力,发现ChatGPT-4准确率最高,并强调以人为中心评估对构建伦理敏感且技术先进的LLMs的重要性。
2024-05-06 cs.CL cs.CY cs.LG
Exploring the Deceptive Power of LLM-Generated Fake News: A Study of Real-World Detection Challenges
Virginia Tech(弗吉尼亚理工大学);Amazon(亚马逊公司)
针对LLM假新闻攻击依赖人工收集信息且易失真的问题,本文提出VLPrompt攻击方法并构建VLPFN数据集,通过多种检测器与人类研究评估其检测挑战。
2024-04-08 cs.CL cs.SI
Misinfo Reaction Frames: Reasoning about Readers' Reactions to News Headlines
University of Washington(华盛顿大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Carnegie Mellon University(卡内基梅隆大学)
即使是一个简单而简短的新闻标题,读者也会以多种方式做出反应:认知上(例如推断作者的意图),情感上(例如感到不信任)和行为上(例如与朋友分享新闻)。这种反应是即时的,但也是复杂的,因为它们依赖于超越解释新闻事实内容的因素。我们提出了错误信息反应框架(MRF),一个务实的形式主义建模读者可能会如何反应的新闻标题。与分类模式相比,我们的自由文本维度提供了一种更细致的方式来理解意图,而不仅仅是善意或恶意。我们还引入了一个Misinfo Reaction Frames语料库,这是一个众包数据集,包含了对超过25,000条新闻标题的反应,这些新闻标题专注于全球危机:新冠肺炎大流行,气候变化和癌症。实证结果证实,神经模型确实有可能预测读者对以前看不见的新闻标题的反应的突出模式。此外,我们的用户研究表明,将机器生成的MRF含义与新闻标题一起显示给读者可以增加他们对真实新闻的信任,同时减少他们对错误信息的信任。我们的工作证明了对新闻标题进行语用推理的可行性和重要性,以帮助增强人工智能引导的错误信息检测和缓解。
2022-03-22 cs.CL
Dhoroni: Exploring Bengali Climate Change and Environmental Views with a Multi-Perspective News Dataset and Natural Language Processing
Shahjalal University of Science and Technology(沙赫贾拉勒科技大学);Independent University(独立大学)
针对孟加拉语气候相关NLP研究空白,该研究构建了含2300篇标注新闻的多视角孟加拉语气候环境数据集Dhoroni,开发了微调后的基线模型族BanglaBERT-Dhoroni,助力当地气候话语研究。
2024-11-02 cs.CL cs.CY cs.LG
LLMs for Targeted Sentiment in News Headlines: Exploring the Descriptive-Prescriptive Dilemma
Faculty of Electrical Engineering and Computing, University of Zagreb(萨格勒布大学电气工程与计算机学院);TakeLab
本研究针对新闻标题目标情感分析任务,探究描述-规范标注范式的影响,对比了大语言模型与微调编码器在多语言数据集上的表现,分析了提示规范程度对性能的作用,并评估了大模型的不确定性量化能力。
2024-10-30 cs.CL
Exploring Description-Augmented Dataless Intent Classification
Imperial College London(帝国理工学院);California Polytechnic State University(加州州立理工大学)
本文提出利用描述增强的嵌入相似度进行无数据意图分类,在四个数据集上较零样本基线平均提升6.12%,并提供了定性错误分析以指导未来研究。
2024-07-25 cs.CL
Exploring Factual Entailment with NLI: A News Media Study
Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本研究提出新型事实蕴涵标注方案FactRel并构建新闻句对数据集,发现事实关系与NLI关系存在显著差异,验证了GPT-4合成数据、小样本学习在该任务上的有效性,揭示任务对世界知识与推理能力的双重依赖。
2024-06-24 cs.CL
Quote Erat Demonstrandum: A Web Interface for Exploring the Quotebank Corpus
EPFL(洛桑联邦理工学院);University of Konstanz(康斯坦茨大学)
引用是新闻中最直接、过滤最少的信息传播途径。因此,引语在新闻故事的构思、接受和分析中起着核心作用。由于引语比常规报道更能直接了解演讲者的思想,因此它们对记者和研究人员来说都是一种宝贵的资源。虽然大量的研究工作一直致力于从新闻中自动提取报价及其归因于扬声器的方法,但很少有来自当代来源的归因报价的综合语料库可供公众使用。在这里,我们提供了一个自适应的Web界面,用于搜索Quotebank,这是一个来自新闻的大量引用集合,我们可以在https://quotebank.dlab.tools上获得。
2022-07-07 cs.CL cs.DB cs.IR
Exploring the Vulnerability of the Content Moderation Guardrail in Large Language Models via Intent Manipulation
Boise State University(博伊州立大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Pittsburgh(匹兹堡大学);New York University(纽约大学);Florida International University(佛罗里达国际大学)
本研究调查大型语言模型(LLMs)中感知意图的内容审核护栏的脆弱性,提出两阶段提示优化框架IntentPrompt,通过意图操纵实现高越狱成功率,实验表明其优于前沿方法并能规避先进防御,凸显安全机制关键弱点。
2025-08-25 cs.AI cs.CL
P^3SUM: Preserving Author's Perspective in News Summarization with Diffusion Language Models
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学);Allen Institute for AI(艾伦人工智能研究所);Xi’an Jiaotong University(西安交通大学)
针对新闻摘要常改变作者政治立场的问题,提出由政治视角分类器控制的扩散模型P^3SUM,在推理时逐步纠偏,立场保留成功率最高提升13.7%。
2024-04-04 cs.CL cs.LG
Identifying Informational Sources in News Articles
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);University of California, Los Angeles(加州大学洛杉矶分校);Annenberg School of Communication, University of Southern California(南加州大学安纳伯格传播学院)
本研究构建了迄今最大规模的新闻信息来源标注数据集,支持训练高性能模型进行信息检测与来源归因,并引入来源预测新任务,为叙事科学和辅助记者的来源推荐系统奠定基础。
2023-05-24 cs.AI cs.CL cs.CY
Exploring the Limits of Natural Language Inference Based Setup for Few-Shot Intent Detection
本研究提出基于自然语言推理的少样本意图检测方法,利用类标签语义,在1-shot和5-shot任务上F1提升2-8%,广义设置下提升达20%。
2023-12-26 cs.CL cs.LG
Contextualizing Emerging Trends in Financial News Articles
University of La Rochelle(拉罗谢尔大学);Sorbonne University(索邦大学);La Banque Postale Asset Management(法国邮政银行资产管理公司)
识别和探索新闻中的新兴趋势变得比以往任何时候都更加重要,因为全球健康危机导致世界范围内发生了许多变化。然而,最近的大多数研究主要集中在检测社交媒体的趋势,因此,受益于社交功能(例如Twitter上的喜欢和转发),这有助于完成任务,因为它们可以用来衡量内容的参与和传播率。然而,正式的文本数据与简短的社交媒体帖子不同,具有更长,更少限制的写作格式,因此更具挑战性。在本文中,我们重点研究了在COVID-19大流行开始之前和期间(2019年7月至2020年7月)收集的有关微软的金融新闻文章中的新兴趋势检测。我们使数据集可访问,并提出了一个强大的基线(上下文Leap 2 Trend),用于探索基于主题建模和词频的关键字对之间的相似性动态。最后,我们根据黄金标准(谷歌趋势)进行评估,并就疫情对微软的影响提出了值得注意的现实情况。
2023-01-20 cs.CL cs.SI q-fin.GN
From Deception to Detection: The Dual Roles of Large Language Models in Fake News
University of Montreal(蒙特利尔大学)
本文探讨了大型语言模型(LLMs)在假新闻中的双重角色,分析了七个模型生成带偏见假新闻的能力及检测假新闻的表现,发现部分模型能轻易生成假新闻且更难被检测,而大模型检测能力更强,且LLM生成的解释有助于用户识别假新闻。
2024-09-25 cs.AI cs.CL
Exploring the Robustness of Task-oriented Dialogue Systems for Colloquial German Varieties
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);IT University of Copenhagen(哥本哈根信息技术大学)
本研究针对德语口语变体,通过构建涵盖18种语言现象的扰动规则合成测试集,评估六种Transformer模型,发现任务型对话系统意图识别性能稳定,但槽位检测F1分数显著下降31%。
2024-02-03 cs.CL
Intent-Driven Dynamic Chunking: Segmenting Documents to Reflect Predicted Information Needs
University of Limerick(利默里克大学);SAP(思爱普)
本文提出基于意图的动态分块方法,通过预测用户查询优化文档分块,提升检索性能,尤其在长文档中效果显著。
2026-08-19 cs.AI cs.CL cs.IR