Transformer-based Lexically Constrained Headline Generation
Nagoya University（名古屋大学）；Insight Edge, Inc.（Insight Edge 公司）；The Asahi Shimbun Company（朝日新闻社）；Tokyo Institute of Technology（东京工业大学）；Tohoku University（东北大学）；RIKEN AIP（理化学研究所革新智能综合研究中心）
本文探讨了自动标题生成方法的一种变体，其中生成的标题需要包括给定的短语，如公司或产品名称。使用基于变换器的模型的先前方法通过向编码器提供对应于给定短语的附加信息来生成包括给定短语的标题。然而，这些方法并不总是在生成的标题中包含短语。受以前基于RNN的方法从给定短语中向后和向前生成令牌序列的启发，我们提出了一种简单的基于Transformer的方法，该方法保证将给定短语包含在高质量的生成标题中。我们还考虑了一个新的标题生成策略，利用可控的生成顺序的Transformer。我们的日本新闻语料库的实验表明，我们的方法，这是保证包括短语在生成的标题，实现ROUGE分数相比，以前的基于transformer的方法。我们还表明，我们的一代策略比以前的策略表现更好。
2021-09-15 cs.CL
Improving Truthfulness of Headline Generation
Tokyo Institute of Technology（东京工业大学）
大多数关于抽象摘要的研究报告了系统摘要和参考摘要之间的ROUGE评分。然而，我们有一个问题的真实性生成的摘要：是否所有的事实生成的摘要中提到的源文本。本文在两个流行的数据集上探讨了如何提高标题生成的真实性。分析由最先进的编码器-解码器模型生成的标题，我们发现该模型有时会生成不真实的标题。我们推测原因之一在于用于训练模型的监管数据不真实。为了量化文章标题对的真实性，我们考虑了文章是否包含其标题的文本蕴涵。在确认数据集中存在大量不真实实例后，本研究假设从监督数据中删除不真实实例可以弥补模型的不真实行为问题。建立一个二元分类器，预测文章和标题之间的蕴涵关系，我们过滤掉监督数据中的不真实实例。实验结果表明，基于过滤监督数据训练的标题生成模型在ROUGE评分上没有明显差异，但在自动和人工评价标题方面有显著提高。
2020-05-05 cs.CL
Diverse, Controllable, and Keyphrase-Aware: A Corpus and Method for News Multi-Headline Generation
College of Computer Science, Sichuan University（四川大学计算机学院）；Microsoft Research Asia（微软亚洲研究院）；Mila（米拉）；Microsoft（微软）
新闻标题生成的目的是产生一个简短的句子来吸引读者阅读新闻。一篇新闻文章通常包含不同用户感兴趣的多个关键词，自然可以有多个合理的标题。然而，大多数现有的方法集中在单一的标题生成。本文提出了一种基于用户兴趣关键词的多标题生成方法，其主要思想是先生成多个用户感兴趣的关键词，然后再生成多个关键词相关的标题。我们提出了一个多源Transformer解码器，它采用三个源作为输入：（a）关键词，（b）关键词过滤的文章，和（c）原始文章，以生成关键词相关的，高质量的，多样化的标题。此外，我们提出了一种简单有效的方法来挖掘新闻文章中感兴趣的关键词，并建立了第一个大规模的关键词感知的新闻标题语料库，其中包含超过18万对齐的$<$新闻文章，标题，关键词$>$三元组。在真实世界数据集上的大量实验比较表明，该方法在质量和多样性方面达到了最先进的结果
2020-10-04 cs.CL
Automatic Generation of Factual News Headlines in Finnish
University of Helsinki（赫尔辛基大学）；École Normale Supérieure-PSL（巴黎高等师范学院-PSL大学）；CNRS（法国国家科学研究中心）；Université Sorbonne nouvelle（新索邦大学）
我们提出了一种新的方法来生成芬兰语的新闻标题为一个给定的新闻故事。我们将其建模为摘要任务，其中模型被赋予新闻文章，其任务是生成描述文章主题的简洁标题。因为芬兰语没有公开可用的GPT-2模型，我们将首先使用几个语料库构建这样一个模型。然后，使用大量的新闻语料库的标题生成任务的模型进行微调。该系统由在芬兰一家媒体工作的3名专家记者进行评估。结果显示，可用性的标题建议工具，以促进新闻生产过程中所提出的方法。
2022-12-05 cs.CL
NumHG: A Dataset for Number-Focused Headline Generation
National Taiwan University（台湾大学）；Academia Sinica（中央研究院）
针对标题生成中数字不准确的问题，提出NumHG数据集，含超2.7万篇标注新闻，评估五个模型，揭示提升数字准确性的必要性。
2023-09-04 cs.CL
Topic Sensitive Neural Headline Generation
State Key Laboratory of Intelligent Technology and Systems（智能技术与系统国家重点实验室）；Tsinghua National Laboratory for Information Science and Technology（清华信息科学与技术国家实验室）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
神经模型最近被用于文本摘要，包括标题生成。该模型可以使用一组文档标题对进行训练。然而，该模型没有明确考虑主题的相似性和差异的文件。我们建议将文档分类到不同的主题中，以便同一主题中的文档在内容上相似并且共享相似的摘要模式。利用文档的主题信息，提出主题敏感的神经标题生成模型。我们的模型可以根据文档主题生成更准确的摘要。我们在LCSTS数据集上测试了我们的模型，实验表明我们的方法在每个主题上都优于其他基线，并达到了最先进的性能。
2016-08-20 cs.CL
CMHG: A Dataset and Benchmark for Headline Generation of Minority Languages in China
Key Laboratory of Ethnic Language Intelligent Analysis and Security Governance of MOE（教育部民族语言智能分析与安全治理重点实验室）；Minzu University of China（民族大学）；Shanghai Jiao Tong University（上海交通大学）
针对中国少数民族语言标题生成语料匮乏问题，构建了包含藏、维、蒙三种语言共20万条数据的CMHG数据集，并提供了母语者标注的高质量测试集作为基准，以推动该领域研究。
2025-09-12 cs.CL
Russian News Clustering and Headline Selection Shared Task
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；ABBYY（泰比（ABBYY）公司）
本文介绍了俄语新闻聚类和标题选择共享任务的结果。作为其中的一部分，我们提出了俄语新闻事件检测，标题选择和标题生成的任务。这些任务伴随着数据集和基线。用于事件检测和标题选择的数据集是其任务的第一个公共俄语数据集。标题生成数据集基于聚类，并为每个聚类提供多个参考标题，这与以前的数据集不同。最后，报告和分析了共享任务参与者提出的方法。
2021-06-14 cs.CL
Abstractive Headline Generation for Spoken Content by Attentive Recurrent Neural Networks with ASR Error Modeling
National Taiwan University（台湾大学）
由于口语内容难以显示在屏幕上并被用户浏览，因此口语内容的标题生成是重要的。它是一种特殊类型的摘要，摘要是从零开始逐字生成的，而不使用原始内容的任何部分。最近提出了许多用于从文本文档生成标题的深度学习方法，这些方法都需要大量的训练数据，这对于口语文档摘要是困难的。在本文中，我们提出了一个ASR错误建模方法来学习ASR错误模式的底层结构，并将此模型的注意递归神经网络（ARNN）架构。通过这种方式，可以从大量的文本数据和一些识别器的ASR数据中学习用于口语内容的抽象标题生成的模型。实验表明，非常令人鼓舞的结果，并验证了所提出的ASR错误模型工作良好，即使输入的口语内容是由一个识别器非常不同的模型学习。
2016-12-26 cs.CL
A novel repetition normalized adversarial reward for headline generation
HKUST（香港科技大学）
虽然强化学习可以有效地改进语言生成模型，但它通常会生成不连贯和重复的短语\cite{paulus2017deep}。在本文中，我们提出了一种新的重复归一化对抗性奖励来缓解这些问题。我们的重复惩罚奖励可以大大降低重复率，对抗性训练可以减少不连贯短语的产生。我们的模型在ROUGE-1上显著优于基线模型（+3.24），ROUGE-L上显著优于基线模型（+2.25），并且重复率降低（-4.98\%）。
2019-02-19 cs.CL
Headline Generation: Learning from Decomposable Document Titles
Primer
我们提出了一种新的方法来生成非结构化文本文档的标题。我们将问题重新定义为一个连续的问答任务。深度神经网络在具有可分解标题的文档-标题对上进行训练，这意味着标题的词汇表是文档的词汇表的子集。为了训练模型，我们使用了数百万个公开可用的文档标题对的语料库：新闻文章和标题。我们提出了一项随机双盲试验的结果，其中受试者不知道哪些标题是人类或机器生成的。当对大约150万篇新闻文章进行训练时，该模型生成的标题在大多数情况下被人类判断为与原始人类撰写的标题一样好或更好。
2019-05-10 cs.CL
Source-side Prediction for Neural Headline Generation
Tohoku University（东北大学）；NTT Communication Science Laboratories, NTT Corporation（NTT通信科学实验室，NTT公司）；Tokyo Institute of Technology（东京工业大学）；RIKEN（理化学研究所）
编码器-解码器模型广泛用于自然语言生成任务中。然而，该模型有时会遭受重复的冗余生成，错过重要的短语，并包括不相关的实体。为了解决这些问题，我们提出了一种新的源端令牌预测模块。我们的方法联合估计源和目标词汇的概率分布，以捕获源和目标标记之间的对应关系。实验表明，该模型在标题生成任务中的性能优于当前最先进的方法。此外，我们表明，我们的方法有能力学习一个合理的令牌明智的对应关系，而不知道任何真正的路线。
2017-12-22 cs.CL
When Less Is Enough: Context Selection and Prompting Strategies for Bengali News Headline Generation
Charles Sturt University（查尔斯斯特大学）；Chittagong University of Engineering and Technology（吉大港工程技术大学）；Bangladesh Army University of Science and Technology（孟加拉国陆军理工大学）
该研究以孟加拉语新闻标题生成任务为对象，对比Gemini、Llama、GPT-4o，发现选定导语比全文输入更优，跨语言提示结合上下文丰富效果好，少样本提示对Gemini增益显著，为低资源多语言LLM应用提供启示。
2026-08-18 cs.CL
AfriHG: News headline generation for African Languages
Data Scientists Network（数据科学家网络）；University College London（伦敦大学学院）
本文构建了面向16种非洲语言的新闻标题生成数据集AfriHG，实验证明非洲中心模型AfriTeVa V2优于通用多语言模型mT5-base，且其微调性能可比肩参数量大40余倍的Aya-101大模型。
2024-12-28 cs.CL
Enhancing Emotion Prediction in News Headlines: Insights from ChatGPT and Seq2Seq Models for Free-Text Generation
Boston University（波士顿大学）；Monash University Indonesia（莫纳什大学印度尼西亚校区）
该研究针对新闻头条情绪预测任务，提出利用自由文本情绪解释作为中间输入的思路，通过训练Seq2Seq模型、使用ChatGPT生成解释及T5多任务微调等方法验证，证实该思路可显著提升分类性能。
2024-07-14 cs.CL
Advances of Transformer-Based Models for News Headline Generation
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
基于Transformer架构的预训练语言模型是最近在NLP的许多领域取得突破的原因，包括情感分析，问答，命名实体识别。标题生成是一种特殊的文本摘要任务。模型需要具有强大的自然语言理解能力，超越单个单词和句子的含义，并能够区分必要的信息，以取得成功。在本文中，我们微调了两个预训练的基于transformer的模型（mBART和BertSumAbs），并在俄罗斯新闻的RIA和Lenta数据集上取得了新的最先进的结果。BertSumAbs使ROUGE平均分别比基于短语的注意力Transformer和CopyNet获得的最佳分数提高2.9和2.0分。
2020-07-27 cs.CL
Leveraging Key Information Modeling to Improve Less-Data Constrained News Headline Generation via Duality Fine-Tuning
Tencent Youtu Lab（腾讯优图实验室）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
最近的语言生成模型大多是在大规模数据集上训练的，而在一些真实场景中，训练数据集通常是昂贵的，并且规模较小。在本文中，我们研究了具有挑战性的任务，少数据约束的生成，特别是当生成的新闻标题是短的，但读者期望保持可读性和信息量的同时。我们突出了关键信息建模任务，并提出了一种新的对偶微调方法，通过正式定义关键信息预测和标题生成任务之间的概率对偶约束。该方法可以从有限的数据中获取更多的信息，在不同的任务之间建立连接，适用于数据约束较少的生成任务。此外，该方法可以利用各种预先训练的生成机制，例如，自回归和编码器-解码器模型。我们进行了大量的实验，以证明我们的方法是有效的和高效的，以实现在两个公共数据集上的语言建模度量和信息正确性度量方面的性能提高。
2022-10-10 cs.CL
Clickbait? Sensational Headline Generation with Auto-tuned Reinforcement Learning
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心（CAiRE））；The Hong Kong University of Science and Technology（香港科技大学）
耸人听闻的标题是标题，抓住人们的注意力，并产生读者的兴趣。传统的抽象标题生成方法，不像人类作家，不优化最大的读者注意力。在本文中，我们提出了一个模型，产生耸人听闻的标题没有标记的数据。我们首先训练一个耸人听闻的评分员，通过对从摘要模型生成的标题基线进行分类，对具有许多评论（“点击诱饵”）的在线标题进行分类。来自耸人听闻评分器的分数被用作对强化学习器的奖励。然而，最大化嘈杂的耸人听闻的奖励将产生不自然的短语，而不是耸人听闻的标题。为了有效地利用这种嘈杂的奖励，我们提出了一种新的损失函数，自动调整强化学习（ARL），动态平衡强化学习（RL）与最大似然估计（MLE）。人类评估表明，我们的模型生成的样本中有60.8%是耸人听闻的，这明显优于Pointer-Gen基线和其他RL模型。
2019-09-09 cs.CL cs.HC
Importance-Aware Learning for Neural Headline Editing
University of California, Davis（加州大学戴维斯分校）；ByteDance（字节跳动）
许多社交媒体记者没有受过专业训练。因此，社交媒体平台不得不聘请专业编辑来调整业余标题，以吸引更多的读者。我们建议通过神经网络模型自动化这个标题编辑过程，为这些社交媒体新闻作者提供更直接的写作支持。为了训练这样一个神经标题编辑模型，我们收集了一个包含原始标题和专业编辑标题的文章的数据集。然而，收集大量经过专业编辑的标题是昂贵的。为了解决这个低资源的问题，我们设计了一个编码器-解码器模型，它利用大规模预训练的语言模型。我们通过在标题编辑任务之前引入标题生成任务作为中间任务，进一步提高了预训练模型的质量。此外，我们提出了自我重要性感知（SIA）损失，以解决数据集中不同级别的编辑，通过降低权重的重要性，易于分类的令牌和句子。在预训练、适应和SIA的帮助下，该模型学习以专业编辑的风格生成标题。实验结果表明，与以往的方法相比，该方法显著提高了标题编辑的质量。
2019-11-25 cs.CL
Attractive or Faithful? Popularity-Reinforced Learning for Inspired Headline Generation
National Chiao Tung University（国立交通大学）；National Tsing Hua University（国立清华大学）；Academia Sinica（中央研究院）
随着在线媒体源和已发布新闻的快速扩散，标题对于吸引读者阅读新闻文章变得越来越重要，因为用户可能被大量信息淹没。在本文中，我们生成的灵感标题，保持新闻文章的性质，并抓住读者的眼睛同时。启发式标题生成任务可以被视为标题生成任务的一种特殊形式，其重点是从给定的新闻文章中创建有吸引力的标题。为了生成启发式标题，我们提出了一个新的框架，称为受欢迎程度增强学习启发式标题生成（PORL-HG）。PORL-HG利用提取-抽象架构，具有1）用于引导提取器从文章中选择有吸引力的句子的流行主题注意力（PTA）和2）用于引导抽象器重写有吸引力的句子的流行度预测器。此外，由于提取器的句子选择是不可区分的，因此利用强化学习（RL）技术来用从流行度分数预测器获得的奖励来弥合差距。通过定量和定性实验，我们表明，所提出的PORL-HG显着优于国家的最先进的标题生成模型的吸引力评价的人类（71.03%）和预测（至少27.60%），而忠实的PORL-HG也是国家的最先进的生成模型。
2020-02-06 cs.CL cs.LG
L3Cube-IndicHeadline-ID: A Dataset for Headline Identification and Semantic Evaluation in Low-Resource Indian Languages
Department of Information Technology, PICT, Pune（信息科技系，PICT，普那）；Indian Institute of Technology Madras, Chennai（印度理工学院马德拉斯分校，钦奈）；L3Cube Labs, Pune（L3Cube实验室，普那）
针对低资源印度语言语义评估基准缺失的问题，该研究推出覆盖11种语言的L3Cube-IndicHeadline-ID标题识别数据集，测试句子Transformer性能，为印度语言NLP及RAG等应用提供多用途评估基准。
2025-09-02 cs.CL cs.LG
CAP-LLM: Context-Augmented Personalized Large Language Models for News Headline Generation
National Energy University（国家能源大学）
针对个性化新闻标题生成中用户兴趣捕捉和事实一致性的挑战，提出CAP-LLM框架，通过用户偏好编码器、上下文注入适配器和对比损失强化模块，在PENS数据集上取得最优性能，平衡个性化与事实准确性。
2025-08-05 cs.CL
Vārta: A Large-Scale Headline-Generation Dataset for Indic Languages
Mila – Quebec Artificial Intelligence Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；IIT Madras（印度理工学院马德拉斯分校）；AI4Bharat（AI4Bharat（印度人工智能研究机构））；CIFAR AI Chair（加拿大高等研究院人工智能讲席）
本文提出Vārta，一个包含41.8百万篇新闻文章、覆盖14种印度语言的大规模标题生成数据集，并证明其挑战性及用于预训练强语言模型的潜力。
2023-05-10 cs.CL
Mukhyansh: A Headline Generation Dataset for Indic Languages
Language Technologies Research Center（语言技术研究中心）
本文提出面向八种印度语言的标题生成数据集Mukhyansh，包含超339万篇文章-标题对，并在该数据集上验证其性能优于现有模型，平均ROUGE-L达31.43。
2023-11-29 cs.AI cs.CL
Headline-Guided Extractive Summarization for Thai News Articles
Chulalongkorn University（朱拉隆功大学）；National Institute of Informatics（信息学研究所）
针对泰语等低资源语言摘要研究不足及现有模型未利用标题的问题，提出CHIMA模型，结合标题上下文信息，采用两种相似度聚合策略，实验表明其在多指标上优于基线，提升了摘要质量与相关性。
2025-02-10 cs.CL
Quantifying Affective Bias in Low-Resource Media: Large-Scale Emotion Profiling of Bengali Headlines
本研究通过 Gemma 3 4B 零样本推理分析 30 万孟加拉语新闻标题，发现负面情绪标签高频出现，提出偏差敏感新闻界面以帮助读者识别情感框架模式。
2026-08-31 cs.AI cs.CL
Self-Attentive Model for Headline Generation
标题生成是一种特殊类型的文本摘要任务。虽然这个任务的可用训练数据量几乎是无限的，但它仍然具有挑战性，因为学习为新闻文章生成标题意味着模型对自然语言有很强的推理能力。为了克服这个问题，我们应用了最近的通用Transformer架构与字节对编码技术配对，并在纽约时报注释语料库上获得了新的最先进的结果，ROUGE-L F1得分为24.84，ROUGE-2 F1得分为13.48。我们还介绍了新的RIA语料库，并达到ROUGE-L的F1-评分36.81和ROUGE-2的F1-评分22.15。
2019-01-23 cs.AI cs.CL
Panoramic Interests: Stylistic-Content Aware Personalized Headline Generation
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
针对现有个性化新闻标题生成方法忽略用户风格偏好的问题，提出SCAPE框架，借助LLM协作提取内容与风格特征，并通过对比学习分层融合网络整合用户长短期兴趣，在PENS数据集上验证了其优越性。
2025-01-28 cs.AI cs.CL
Automatic Generation of Headlines for Online Math Questions
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；The Pennsylvania State University（宾夕法尼亚州立大学）；School of Data and Computer Science, Sun Yat-sen University（中山大学数据科学与计算机学院）
数学方程是科学信息传播和交流的重要组成部分。然而，学生们在阅读和理解数学内容和方程式方面经常感到挑战。随着网络的发展，学生们把他们的数学问题发布到网上。然而，构建一个简洁的数学标题，对所发布的详细数学问题进行良好的描述是不平凡的。在这项研究中，我们探索了一种新的摘要任务表示为geNerating一个简洁的数学hEadline从一个详细的数学问题（名称）。与传统的摘要任务相比，该任务有两个额外的和必要的限制：1）详细的数学问题由文本和数学方程组成，需要一个统一的框架来联合建模文本和数学信息; 2）与文本不同，数学方程包含语义和结构特征，两者应该一起捕获。为了解决这些问题，我们提出了MathSum，一种新的摘要模型，它利用指针机制与多头注意力机制相结合的数学表示增强。指针机制可以从源问题复制文本标记或数学标记，以生成数学标题。多头注意力机制通过对数学方程的语义特征和结构特征进行建模和整合，丰富了数学方程的表示形式。为了进行评估，我们收集并提供了两组真实世界的详细数学问题以及人类编写的数学标题，即EXEQ-300 k和OFEQ-10 k。实验结果表明，我们的模型（MathSum）在EXEQ-300 k和OFEQ-10 k数据集上的性能明显优于最先进的模型。
2019-11-27 cs.CL
Fact-Preserved Personalized News Headline Generation
Key Lab of Intelligent Information Processing of Chinese Academy of Sciences (CAS), Institute of Computing Technology, CAS（中国科学院计算技术研究所智能信息处理重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Intelligent Computing Technology, Suzhou, CAS（中国科学院苏州智能计算技术研究院）
提出FPG框架，通过相似度引导关键事实关注和对比学习增强，在PENS基准上实现个性化与事实一致性的良好权衡。
2025-01-21 cs.AI cs.CL
Stimulating Creativity with FunLines: A Case Study of Humor Generation in Headlines
University of Rochester（罗切斯特大学）；Microsoft Research AI, Microsoft Corporation（微软研究院人工智能部门，微软公司）；University of Alberta（阿尔伯塔大学）
构建创造性文本（如幽默）的数据集是相当具有挑战性的。我们介绍FunLines，这是一款竞技游戏，玩家可以编辑新闻标题使其变得有趣，并对其他人编辑的标题进行评级。FunLines使幽默生成过程变得有趣，互动，协作，奖励和教育，与传统的众包方法相比，让玩家参与并以非常低的成本提供幽默数据。正如我们的分析所示，FunLines提供了有用的表现反馈，帮助玩家随着时间的推移在生成和评估幽默方面变得更好。这有助于进一步提高生成的数据集的质量。我们通过训练幽默分类模型来展示这些数据的有效性，这些模型的表现优于以前的基准，我们将这些数据集发布给公众。
2020-02-05 cs.AI cs.CL
Modeling Unified Semantic Discourse Structure for High-quality Headline Generation
School of Cyber Science and Engineering, Wuhan University（武汉大学网络安全学院）；National University of Singapore（新加坡国立大学）；Leshan Normal University（乐山师范学院）
提出统一语义语篇结构S3，结合RST树与AMR图编码文档语义，并设计层级剪枝机制去除冗余，显著提升标题生成质量。
2024-03-23 cs.AI cs.CL
Harnessing the Power of LLMs: Evaluating Human-AI Text Co-Creation through the Lens of News Headline Generation
University of Maryland, College Park（马里兰大学帕克分校）；Dataminr Inc.（Dataminr公司）
本文在LLM辅助新闻标题生成背景下比较了多种人机交互类型，发现引导和选择模型输出以最低成本带来最大收益，且AI辅助不损害用户的控制感。
2023-10-18 cs.AI cs.CL
Beyond Quality: Unlocking Diversity in Ad Headline Generation with Large Language Models
Xiaohongshu Inc.（小红书公司）；East China Normal University（东华大学）
针对广告标题生成中质量与多样性难以兼顾的问题，提出基于大型语言模型的DIVER框架，通过多阶段多目标优化（SFT+RL）在单次前向中实现两者平衡，部署后使ADVV和CTR分别提升4.0%和1.4%。
2025-08-26 cs.CL cs.LG
Crafting Tomorrow's Headlines: Neural News Generation and Detection in English, Turkish, Hungarian, and Persian
Technical University of Munich（慕尼黑工业大学）
本研究构建了涵盖四种语言的多语言神经新闻检测基准数据集，并比较多种分类器，以探究机器生成新闻检测的可解释性与鲁棒性。
2024-11-04 cs.CL
RoLargeSum: A Large Dialect-Aware Romanian News Dataset for Summary, Headline, and Keyword Generation
National University of Science and Technology POLITEHNICA Bucharest（布加勒斯特理工国立科学技术大学）；National Institute for Research and Development in Informatics - ICI Bucharest（布加勒斯特国家信息学研究与发展研究所）；Paris 1 Panthéon-Sorbonne University（巴黎第一大学先贤祠-索邦大学）；University of Bucharest（布加勒斯特大学）
针对罗马尼亚语摘要数据集稀缺的问题，构建了大规模方言感知数据集RoLargeSum，包含超过615K篇新闻文章及其摘要、标题等，并评估了多种BART变体和开源大语言模型的性能。
2024-12-15 cs.CL
HonestBait: Forward References for Attractive but Faithful Headline Generation
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Northwestern University（西北大学）；Academia Sinica（中央研究院）
提出HonestBait框架，利用前向引用和自我验证过程生成有吸引力且忠实的新闻标题，在保持高真实性的同时提升吸引力11.25%。
2023-06-26 cs.AI cs.CL
Teaching Large Language Models Number-Focused Headline Generation With Key Element Rationales
School of Computing Technologies, RMIT University（RMIT大学计算技术学院）
本文提出基于主题、实体和数值推理（TEN）的思维链框架，通过教师LLM生成推理监督数据来微调学生LLM，以提升数字标题生成的文本质量与数值准确性。
2025-02-05 cs.CL cs.LG
Improved Personalized Headline Generation via Denoising Fake Interests from Implicit Feedback
Henan Institute of Advanced Technology, Zhengzhou University（河南高级技术研究所，郑州大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Independent Researcher（独立研究者）
针对历史点击流中噪声导致标题幻觉的问题，提出PHG-DIF框架，通过双阶段过滤去除点击噪声并结合多级时间融合建模用户兴趣，同时发布DT-PENS基准数据集，在标题生成任务上达到SOTA。
2025-08-14 cs.AI cs.CL
Importance of Copying Mechanism for News Headline Generation
MIPT（莫斯科物理技术学院）
新闻标题的生成是文本摘要的一个基本问题，因为它是受约束的，定义明确的，并且仍然很难解决。词汇量有限的模型不能很好地解决这个问题，因为新的命名实体可能会经常出现在新闻中，这些实体通常应该出现在标题中。在形态丰富的语言，如俄语的新闻文章需要模型修改，由于大量的可能的单词形式。本研究旨在验证具有从原始文章复制单词的可能性的模型比没有这种选项的模型表现更好。所提出的模型在提供的测试数据集上实现了平均ROUGE得分23，这比没有复制机制的类似模型的结果高8分。此外，所得到的模型比任何已知的模型在新的俄罗斯新闻数据集上的表现更好。
2019-04-25 cs.AI cs.CL cs.LG
COBART: Controlled, Optimized, Bidirectional and Auto-Regressive Transformer for Ad Headline Generation
Amazon（亚马逊）
研究针对广告标题生成难题，提出用前缀控制令牌结合BART微调的方法，可控制标题长度，适应不同格式与要求，实验显示该方法能提升Rouge-L和估计CTR，相比基线有显著提高。
2026-07-10 cs.AI cs.CL cs.LG
BeliN: A Novel Corpus for Bengali Religious News Headline Generation using Contextual Feature Fusion
Chittagong University of Engineering and Technology（吉大港工程技术大学）；Bangladesh Army University of Science and Technology (BAUST)（孟加拉国陆军科技大学）；Charles Sturt University（查尔斯斯特大学）
针对孟加拉语宗教新闻标题生成忽视上下文特征的问题，本文提出语料库BeliN和融合类别、方面与情感的MultiGen方法，实验表明其显著优于仅用内容的基线模型。
2025-01-02 cs.CL cs.LG
Multilingual Fine-Grained News Headline Hallucination Detection
Google Research（谷歌研究院）
本研究构建了首个包含5种语言超1.1万对数据的多语言细粒度新闻标题幻觉检测专家标注数据集，通过监督微调和大型语言模型上下文学习实验，提出语言相关示例选择与从粗到细提示技术提升少样本检测性能。
2024-07-22 cs.CL
Ad Headline Generation using Self-Critical Masked Language Model
amazon（亚马逊）
研究如何为电商网站生成吸引人的广告标题，核心方法是将强化学习策略梯度方法应用于基于Transformer的掩码语言模型，通过联合多种产品信息生成标题，该方法在指标和质量审核上优于现有方法，生成标题质量也优于人工提交的。
2026-07-09 cs.AI cs.CL cs.LG
LLM-guided headline rewriting for clickability enhancement without clickbait
Intelligent Systems, Afeka Academic College of Engineering（阿菲卡工程学院智能系统系）；School of Computer Science, Faculty of Sciences, HIT-Holon Institute of Technology（霍隆理工学院理学院计算机科学系）
本文提出一种引导性标题重写框架，通过控制生成过程中的语言属性，在保持语义忠实的前提下提升标题吸引力，避免产生误导性内容。
2026-03-23 cs.AI cs.CL
Not all Fake News is Written: A Dataset and Analysis of Misleading Video Headlines
University of Maryland（马里兰大学）
针对多模态误导信息检测数据集匮乏的问题，本研究构建了包含视频及标题误导性标注的VMH数据集，分析了相关多模态基线模型，并探究了标注者背景与视频内容的相互作用。
2023-12-14 cs.CL cs.CV
The MediaSpin Dataset: Post-Publication News Headline Edits Annotated for Media Bias
Carnegie Mellon University（卡内基梅隆大学）；National University of Singapore（新加坡国立大学）；NUS Centre for Trusted Internet and Community（新加坡国立大学可信互联网与社区中心）
MediaSpin数据集通过标注13种媒体偏见类型，研究新闻标题修改对语言框架和偏见的影响，展示跨国家的标题修改分析、变压器偏见分类及社交媒体行为分析。
2026-05-15 cs.CL
Incongruity Detection between Bangla News Headline and Body Content through Graph Neural Network
Chittagong University of Engineering and Technology（吉大港工程技术大学）；Brac University（布拉卡大学）；Pioneer Alpha（先锋阿尔法）
新闻标题与正文内容的不协调是吸引读者的一种常见的欺骗手段。有利可图的标题激起读者的兴趣，并鼓励他们访问特定的网站。这通常是通过添加不诚实的元素来实现的，使用的诱惑并不能准确地反映所传递的内容。因此，利用语言分析技术自动检测新闻标题和正文内容之间的不一致性已经得到了研究界的关注。然而，各种解决方案主要是为英语开发的，以解决这个问题，将低资源语言排除在外。孟加拉语在100种最广泛使用的语言中排名第七，这促使我们特别关注孟加拉语。此外，孟加拉语具有更复杂的句法结构和更少的自然语言处理资源，因此执行不一致检测和立场检测等NLP任务变得具有挑战性。为了解决这个问题，对于孟加拉语，我们提供了一个基于图的分层双编码器（BGHDE）模型，该模型有效地学习孟加拉语新闻标题和内容段落之间的内容相似性和矛盾。实验结果表明，本文提出的基于孟加拉图的神经网络模型在各种孟加拉语新闻数据集上均达到了90%以上的准确率。
2022-10-26 cs.AI cs.CL cs.LG
COSMMIC: Comment-Sensitive Multimodal Multilingual Indian Corpus for Summarization and Headline Generation
Department of Computer Science and Engineering, Indian Institute of Technology Patna, India（印度理工学院帕纳分校计算机科学与工程系）；Department of Metallurgical and Materials Engineering, National Institute of Technology Tiruchirappalli, India（印度理工学院 Tiruchirappalli 金属与材料工程系）；Department of Computer Science and Information Systems, BITS Pilani – Goa Campus, India（比斯·帕尼学院 Goa 分校计算机科学与信息系统系）；Department of Computer Science and Engineering, Indian Institute of Information Technology Vadodara, India（印度信息科技学院瓦达拉分校计算机科学与工程系）；Department of Computer Science and Engineering, B.M.S. College of Engineering, Bangalore, India（班加罗尔 B.M.S. 工程学院计算机科学与工程系）；Université de Toulouse, IRIT UMR 5505 CNRS, France（图卢兹大学 IRIT UMR 5505 CNRS 实验室）
本研究构建评论敏感的多模态多语言数据集COSMMIC，涵盖九种印度语言，整合文本、图像和用户评论，利用LLama3和GPT-4等模型探索最优摘要与标题生成配置，填补印度语言资源空白。
2025-06-18 cs.CL
"Why is this misleading?": Detecting News Headline Hallucinations with Explanations
Google Research（谷歌研究院）；Google（谷歌）
自动标题生成使用户能够及时理解正在发生的新闻事件，近年来已成为Web挖掘和自然语言处理的一个重要任务。随着对新闻标题生成需求的不断增长，我们认为，幻觉问题，即生成的标题不受原始新闻故事的支持，是在网络规模系统中部署此功能的关键挑战。同时，由于幻觉案例的不常见以及评分员需要仔细阅读才能达成正确的共识，很难获得用于训练模型的大数据集以通过人工管理来检测这种幻觉。在这项工作中，我们提出了一个名为ExHalder的新框架来解决标题幻觉检测的挑战。ExHalder将来自公共自然语言推理数据集的知识适应到新闻领域，并学习生成自然语言句子来解释幻觉检测结果。为了评估模型的性能，我们仔细收集了一个包含6000多个标签<article，headline>对的数据集。在这个数据集和另外六个公共数据集上进行的大量实验表明，ExHalder可以准确地识别幻觉标题，并通过人类可读的自然语言解释证明其预测是正确的。
2023-02-12 cs.AI cs.CL cs.IR
XL-HeadTags: Leveraging Multimodal Retrieval Augmentation for the Multilingual Generation of News Headlines and Tags
Ahsanullah University of Science & Technology（阿萨努拉科技大学）；University of Alberta（阿尔伯塔大学）；Université de Sherbrooke（谢布鲁克大学）；Salesforce Research（Salesforce研究院）；Nanyang Technological University（南洋理工大学）
本文提出XL-HeadTags方法，利用图像和标题等多模态辅助信息检索相关句子，结合指令微调，在多语言环境下同时生成新闻标题和实体标签，并构建了覆盖20种语言的数据集及配套评估工具。
2024-06-07 cs.AI cs.CL cs.CV
Do small language models generate realistic variable-quality fake news headlines?
Lakehead University（湖首大学）
本研究评估14款1.7B-14B参数量的小语言模型生成不同质量假新闻标题的能力，发现其合规率高、伦理阻力小，且现有检测器对生成标题的质量分类准确率仅35.2%-63.5%，标题与人类撰写内容相似度低。
2025-08-31 cs.CL cs.IR
Abstractive Summarization of Low resourced Nepali language using Multilingual Transformers
Tribhuvan University（特里布万大学）；Institute of Engineering, Pulchowk Campus（工程学院普尔乔克校区）
本研究针对低资源尼泊尔语抽象式摘要任务，构建新闻摘要数据集并微调mBART和mT5多语言Transformer模型，实验表明4位量化mBART结合LoRA在ROUGE和人工评估中表现最优。
2024-09-29 cs.AI cs.CL
An Evaluation Framework for Mapping News Headlines to Event Classes in a Knowledge Graph
St. John’s University（圣约翰大学）；IBM Research（IBM研究院）
本文构建新闻标题到 Wikidata 事件类别的基准与评估资源，并比较实体链接、NLI 零样本分类和大型生成式语言模型三类无监督方法。
2023-12-04 cs.AI cs.CL
