Building domain specific lexicon based on TikTok comment dataset
The University of Adelaide(阿德莱德大学)
在情感分析任务中,预测句子的情感倾向是一个重要分支。以往的研究多集中在英语的情感分析上,如基于句子的配价、唤醒、支配等分析句子的情感倾向。两种语言的情感倾向不同。例如,汉语和英语之间的句子顺序可能会呈现不同的情感。本文尝试了一种建立领域专用词典的方法。这样,该模型就可以对具有情感倾向的汉语词汇进行分类。该方法在文献[13]的基础上,通过中文TikTok评论和情感词典源(种子词)的词嵌入,训练超密集空间嵌入表。该模型的结果是一个特定领域的词汇,它代表了词的情感倾向。我收集了中国TikTok的评论作为训练数据。通过将训练结果与PCA方法进行比较,评价了该模型在中文情感分类中的性能,结果表明,该模型在中文情感分类中取得了较好的效果。源代码已经发布在github上:https://github.com/h2222/douyin_comment_dataset
2020-12-16 cs.AI cs.CL
K-MHaS: A Multi-label Hate Speech Detection Dataset in Korean Online News Comment
The University of Sydney(悉尼大学);The University of Western Australia(西澳大学);BigWave AI;Keimyung University(启明大学);National Information Society Agency(国家信息社会局)
由于在线内容的增长,在线仇恨言论检测已成为一个重要问题,但英语以外的语言资源极其有限。我们介绍了K-MHaS,这是一种新的用于仇恨言论检测的多标签数据集,可以有效地处理韩语模式。该数据集由来自新闻评论的109 k话语组成,并使用1到4个标签提供多标签分类,并处理主观性和交叉性。我们使用基于韩语BERT的语言模型,使用六种不同的指标,对K-MHaS进行强基线实验。带有子字符标记器的KR-BERT优于其他人,识别每个仇恨言论类中的分解字符。
2022-09-30 cs.AI cs.CL
Who is Addressed in this Comment? Automatically Classifying Meta-Comments in News Comments
University of Hamburg(汉堡大学);Hans-Bredow-Institute(汉斯·布雷多研究所)
用户评论已成为在线新闻的重要组成部分。然而,新闻编辑室经常被大量不同的评论所淹没,人工分析几乎不可行。识别那些涉及或提到新闻编辑室、个别记者或主持人的元评论,以及可能需要做出反应的元评论尤为重要。在本文中,我们提出了一个自动化的方法来识别和分类元评论。我们将基于手动提取特征的评论分类与端到端学习方法进行了比较。我们开发,优化和评估多个分类器的大型德国在线新闻编辑室明镜在线和“一百万个帖子”的DER标准,奥地利报纸语料库的评论数据集。两种优化的分类方法都取得了令人鼓舞的$F_{0.5}$值,在76%和91%之间。我们报告最重要的分类功能与定性分析的结果,并讨论我们的工作如何有助于使参与在线新闻更具建设性。
2018-10-02 cs.CL cs.CY
Knowledge Enhanced Sports Game Summarization
Soochow University(苏州大学);Fudan University(复旦大学);Beijing University of Posts and Telecommunications(北京邮电大学);iFLYTEK Research(科大讯飞研究院)
体育赛事摘要是指从体育赛事现场解说中生成体育新闻。然而,现有的数据集都是通过自动收集和清理过程构建的,导致了大量的噪音。另外,现有的研究忽视了现场解说与体育新闻之间的知识鸿沟,限制了体育赛事摘要的表现。本文介绍了K-SportsSum,一个新的数据集,它具有两个特点:(1)K-SportsSum从大量游戏中收集大量数据。它有7,854个评论-新闻对。为了提高质量,K-SportsSum采用人工清洗过程;(2)与现有数据集不同,为了缩小知识差距,K-SportsSum进一步提供了一个包含523支运动队和14,724名运动员信息的大规模知识语料库。此外,我们还引入了一个知识增强的摘要,利用现场评论和知识来生成体育新闻。在K-SportsSum和SportsSum数据集上的大量实验表明,我们的模型达到了新的最先进的性能。定性分析和人工研究进一步验证了该模型生成的体育新闻信息量更大。
2021-11-24 cs.AI cs.CL
From Toxicity in Online Comments to Incivility in American News: Proceed with Caution
University of Pennsylvania(宾夕法尼亚大学)
对网络、新闻和国会辩论中的不文明行为进行量化的能力,引起了政治学家的极大兴趣。用于检测英语在线不文明行为的计算工具现在相当容易获得,并且有可能得到更广泛的应用。我们测试拼图透视API的能力,以检测我们开发的语料库,包括在美国新闻文明的手动注释的不文明程度。我们证明,毒性模型,举例来说,透视,是不足以分析新闻中的不文明行为。我们进行了错误分析,指出需要开发方法来消除新闻中经常提到的词之间的虚假相关性,特别是身份描述符和不礼貌。如果没有这样的改进,在新闻上应用Perspective或类似的模型很可能会导致错误的结论,这些结论与人类对不文明行为的感知不一致。
2021-02-06 cs.CL
SportsSum2.0: Generating High-Quality Sports News from Live Text Commentary
Soochow University(苏州大学);Fudan University(复旦大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);iFLYTEK Research(讯飞研究院);Anhui Toycloud Technology(安徽乐客云科技)
体育比赛摘要旨在从现场文本评论中生成新闻文章。最近的一项最先进的工作SportsSum不仅构建了一个大型基准数据集,而且还提出了一个两步框架。尽管该方法做出了巨大的贡献,但仍存在三个主要问题:1)SportsSum数据集存在的噪声影响了摘要的性能; 2)忽略了新闻和评论之间的词汇重叠,导致伪标记算法质量不高; 3)直接拼接重写句子形成新闻限制了其实用性。在本文中,我们发布了一个新的基准数据集SportsSum2.0,以及修改后的摘要框架。特别是,为了获得一个干净的数据集,我们雇用人群工作人员手动清理原始数据集。此外,词汇重叠的程度被纳入到伪标签的生成。此外,我们引入了一个reranker-enhanced的摘要,以考虑到流畅性和表现力的总结新闻。大量的实验表明,我们的模型优于国家的最先进的基线。
2021-10-12 cs.CL
GOAL: Towards Benchmarking Few-Shot Sports Game Summarization
Soochow University(苏州大学);Waseda University(早稻田大学)
体育赛事摘要是基于实时评论生成体育新闻的一种技术。该任务已经引起了广泛的研究关注,但仍然是探索可能是由于缺乏相应的英文数据集。因此,在本文中,我们发布了GOAL,第一个英语体育比赛摘要数据集。具体而言,在GOAL中有103个评论-新闻对,其中评论和新闻的平均长度分别为2724.9和476.3个单词。此外,为了支持半监督环境中的研究,GOAL还提供了2,160个未标记的评论文档。基于我们的目标,我们建立和评估了几个基线,包括提取和抽象基线。实验结果表明,这项任务的挑战仍然存在。希望本文的工作能对体育比赛综述的研究起到一定的促进作用。该数据集已在https://github.com/krystalan/goal上发布。
2022-07-18 cs.AI cs.CL
SCCD: A Session-based Dataset for Chinese Cyberbullying Detection
Beijing University of Posts and Telecommunications(北京邮电大学)
针对中文网络欺凌检测数据集匮乏及缺乏细粒度标注的问题,本文提出了包含677个Weibo会话样本的SCCD数据集,并提供评论级细粒度标签,通过评估基线方法揭示了该任务的挑战。
2025-01-25 cs.CL
"Newspaper Eat" Means "Not Tasty": A Taxonomy and Benchmark for Coded Language in Real-World Chinese Online Reviews
The Pennsylvania State University(宾夕法尼亚州立大学);University of Washington(华盛顿大学)
本文提出CodedLang数据集,包含7744条中文Google地图评论,包含900条带有跨度标注的编码语言评论。通过七类分类法捕捉常见编码策略,如发音、拼写和跨语言替代。测试语言模型在编码语言检测、分类和评论评分预测中的表现,发现即使强模型也难以识别和理解编码语言。
2026-04-22 cs.CL cs.HC
BEEP! Korean Corpus of Online News Comments for Toxic Speech Detection
Seoul National University(首尔大学)
网络平台上的有毒言论是匿名外衣下无法避免的社会问题。仇恨语音检测已经积极地针对诸如英语、德语或意大利语等语言进行,其中已经发布了手动标记的语料库。在这项工作中,我们首先提出了9.4K手动标记的娱乐新闻评论,用于识别韩国有毒言论,从韩国广泛使用的在线新闻平台收集。这些评论都说明了社会偏见和仇恨言论,因为这两个方面是相互关联的。注释者间一致性Krippendorff的alpha得分分别为0.492和0.496。我们提供了使用CharCNN、BiLSTM和BERT的基准测试,其中BERT在所有任务上都获得了最高分。由于仇恨言论检测是一个更主观的问题,因此这些模型通常在偏见识别方面表现出更好的性能。此外,当BERT用偏见标签训练用于仇恨言论检测时,预测分数增加,这意味着偏见和仇恨是交织在一起的。我们将我们的数据集公开提供,并与语料库和基准进行公开竞争。
2020-05-26 cs.CL cs.CY
The Role of Handling Attributive Nouns in Improving Chinese-To-English Machine Translation
Carnegie Mellon University(卡内基梅隆大学);New York University(纽约大学);Northeastern University(东北大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心)
本文针对中文定语名词导致的中译英歧义问题,通过手动插入被省略的“的”构建数据集并微调 Hugging Face 模型,从而改进关键功能词处理并提升翻译质量。
2025-01-02 cs.AI cs.CL
An Enhanced Corpus for Arabic Newspapers Comments
ICOSI Laboratory, University of Khenchela(肯谢拉大学ICOSI实验室);LIRE Laboratory, University of Constantine 2(君士坦丁第二大学LIRE实验室);TechNE Laboratory, University of Poitiers(普瓦捷大学TechNE实验室)
在本文中,我们提出了我们的增强方法来创建一个专门的语料库阿尔及利亚阿拉伯语报纸评论。所开发的方法,以加强现有的方法,通过丰富的可用语料库和列入的注释步骤,通过以下的模型注释训练测试评估修订(物质)的方法。通过收集阿尔及利亚三家知名报纸网站的评论,建立了一个语料库。三个分类器,支持向量机,朴素贝叶斯,和k-最近邻,用于分类的评论成积极和消极的类。为了确定在所获得的结果中的词干的影响,在有和没有词干的情况下测试分类。获得的结果表明,词干并没有大大提高分类,由于阿尔及利亚的评论绑到阿尔及利亚阿拉伯语方言的性质。令人鼓舞的结果构成了我们的动机,以改善我们的方法,特别是在处理非阿拉伯语句子,特别是方言和法语的。
2021-02-08 cs.CL cs.IR cs.MA
Extending the Pre-Training of BLOOM for Improved Support of Traditional Chinese: Models, Methods and Results
MediaTek Research(联发科研究院);Academia Sinica(中央研究院)
本文提出BLOOM-zh,通过额外74亿token的预训练扩展BLOOM,增强繁体中文支持,在多数繁体中文基准上优于原模型且保持英文能力。
2023-06-23 cs.AI cs.CL
Context is Key(NMF): Modelling Topical Information Dynamics in Chinese Diaspora Media
Aarhus University(奥胡斯大学);Cornell University(康奈尔大学)
本文提出KeyNMF主题建模方法,结合复杂系统信息动态分析,构建研究中文媒体信息动态的流水线,并应用于2024年欧洲议会选举前的华人散居媒体数据,证明了方法有效性。
2024-10-16 cs.CL
LSICC: A Large Scale Informal Chinese Corpus
School of Data Science(数据科学学院);Fudan University(复旦大学);GSQ Tec.(GSQ科技公司)
基于深度学习的自然语言处理模型被证明是强大的,但需要大规模的数据集。由于现实世界的任务和现有的汉语语料库之间存在着巨大的差距,本文介绍了一个大规模的非正式汉语语料库。这个语料库包含了大约3700万篇书评和5万条网友对新闻的评论。我们对语料库中的非正式词语的使用频率进行了分析,并指出了我们的语料库与现有语料库的差异。语料库还可以用于训练基于深度学习的自然语言处理任务,例如中文分词、情感分析。
2018-11-26 cs.CL
A Practical Chinese Dependency Parser Based on A Large-scale Dataset
Baidu(百度)
依存句法分析是一个长期存在的自然语言处理任务,其输出对各种下游任务至关重要。近年来,基于神经网络的依存句法分析取得了显著的进展,取得了令人瞩目的成果。众所周知,基于神经网络的方法需要大量的标记训练数据,这是非常昂贵的,因为它需要专家的人工注释。因此,很少有面向工业的依赖解析器工具是公开可用的。在这份报告中,我们介绍了百度依赖解析器(DDParser),这是一个新的中文依赖解析器,在一个名为百度中文树库(DuCTB)的大规模手动标记数据集上训练。DuCTB由来自多个来源的大约一百万个注释句子组成,包括搜索日志,中文新闻专线,各种论坛话语和对话程序。DDParser是在基于图的偏仿射语法分析器的基础上进行扩展,以适应中文数据集的特点。我们在两个测试集上进行了实验:与训练集分布相同的标准测试集和从其他来源抽样的随机测试集,它们的标记依恋得分(LAS)分别为92.9%和86.9%。DDParser实现了最先进的结果,并在https://github.com/baidu/DDParser上发布。
2020-09-03 cs.AI cs.CL
Detecting Sexism in German Online Newspaper Comments with Open-Source Text Embeddings (Team GDA, GermEval2024 Shared Task 1: GerMS-Detect, Subtasks 1 and 2, Closed Track)
FH Aachen University of Applied Sciences(亚琛应用技术大学);ORDIX AG(ORDIX股份公司);Utrecht University(乌得勒支大学)
本文评估单语与多语开源文本嵌入,用于检测德语报纸评论中的性别歧视,并在GermEval 2024 GerMS-Detect两个子任务中取得第4和第2名。
2024-10-02 cs.CL
FFN: a Fine-grained Chinese-English Financial Domain Parallel Corpus
School of Economics and Finance(经济与金融学院);Shanghai International Studies University(上海外国语大学);School of Education(教育学院)
本文构建了细粒度中英金融新闻平行语料库FFN,并通过对比ChatGPT、ERNIE-bot和OpenNMT模型的翻译质量,揭示了LLM在金融翻译中的不足,旨在推动该领域的优化研究。
2024-06-27 cs.AI cs.CE cs.CL
An Empirical Study on Sentiment Classification of Chinese Review using Word Embedding
School of Information and Software Engineering(信息与软件工程学院);University of Electronic Science and Technology of China(电子科技大学)
本文提出了如何将词嵌入作为中文情感分类的特征。首先,建立了一个中文评论语料库,其中包含了来自酒店评论网站的100万条评论。然后将代表每个评论的词嵌入用作不同机器学习方法的输入用于情感分类,包括SVM,Logistic回归,卷积神经网络(CNN)和集成方法。这些方法得到更好的性能相比,使用朴素贝叶斯(NB)和最大熵(ME)的N-gram模型。最后,提出了一种组合机器学习方法,该方法在查准率、查全率和F1得分方面都有较好的表现。在选择最有用的方法来构建组合模型并在语料库上测试之后,最终的F1得分为0.920。
2015-11-05 cs.CL
Overview of the NLPCC 2015 Shared Task: Chinese Word Segmentation and POS Tagging for Micro-blog Texts
Fudan University(复旦大学)
本文综述了第四届CCF自然语言处理与中文计算会议(NLPCC 2015)的共同课题:微博文本的中文分词和词性标注。与目前流行的新闻专线数据集不同,该共享任务的数据集由相对非正式的微文本组成。共享任务包括两个子任务:(1)单个汉语分词和(2)联合汉语分词和词性标注。每个子任务有三个轨道,以区分具有不同资源的系统。我们首先介绍数据集和任务,然后描述参与系统的不同方法,报告测试结果,并对这些结果进行概述分析。在http://nlp.fudan.edu.cn/nlpcc2015上有一个在线系统可供公开登记和评估。
2015-06-30 cs.CL
CNsum:Automatic Summarization for Chinese News Text
本文针对中文新闻摘要生成问题,提出基于Transformer结构的中文新闻文本摘要模型CNsum,并在THUCNews等数据集上验证其ROUGE分数优于基线模型。
2025-03-07 cs.AI cs.CL
HOTVCOM: Generating Buzzworthy Comments for Videos
Fudan University(复旦大学);Arizona State University(亚利桑那州立大学);Southern University of Science and Technology(南方科技大学);Ant Group(蚂蚁集团)
本文提出最大中文视频热门评论数据集HotVCom及多模态融合框架ComHeat,通过整合视觉、听觉和文本数据生成具有影响力的话题性评论,在多个数据集上验证了其有效性。
2024-09-23 cs.AI cs.CV
Generalizing to the Future: Mitigating Entity Bias in Fake News Detection
University of Chinese Academy of Sciences(中国科学院大学);Beihang University(北京航空航天大学)
假新闻的广泛传播对个人和社会的威胁越来越大。假新闻检测的目的是在过去的新闻上训练一个模型,并检测未来的假新闻。现有的假新闻检测方法虽然做了大量的努力,但忽略了真实世界数据中的非预期实体偏差,严重影响了模型对未来数据的泛化能力。例如,2010-2017年包含实体“唐纳德特朗普”的新闻中有97%在我们的数据中是真实的,但这一比例在2018年下降到只有33%。这将导致在前一组上训练的模型很难推广到后者,因为它倾向于预测关于“唐纳德特朗普”的新闻片段是真实的,以降低训练损失。在本文中,我们提出了一个实体去偏框架(\textbf{ENDEF}),通过从因果角度减轻实体偏见,将假新闻检测模型推广到未来的数据。基于实体、新闻内容和新闻真实性之间的因果关系图,我们在训练过程中分别对每个原因(实体和内容)的贡献进行建模。在推理阶段,我们去除了实体的直接影响,以减轻实体偏见。在英文和中文数据集上的大量离线实验表明,该框架可以大大提高基本假新闻检测器的性能,在线测试验证了其在实践中的优越性。据我们所知,这是第一项明确提高假新闻检测模型对未来数据的泛化能力的工作。该代码已在https://github.com/ICTMCG/ENDEF-SIGIR2022上发布。
2022-04-20 cs.AI cs.CL cs.LG
Consensus Attention-based Neural Networks for Chinese Reading Comprehension
iFLYTEK Research(科大讯飞研究);Research Center for Social Computing and Information Retrieval,Harbin Institute of Technology(哈尔滨工业大学社会计算与信息检索研究中心);Harbin Institute of Technology(哈尔滨工业大学)
阅读理解是近年来自然语言处理研究的热点。一些研究机构已经发布了完形填空式阅读理解的数据,这些数据极大地促进了机器理解的研究。在这项工作中,我们首先提出了中文阅读理解数据集,其中包括人民日报新闻数据集和儿童童话(CFT)数据集。此外,我们提出了一个基于共识注意的神经网络架构来解决完形填空式的阅读理解问题,其目的是诱导对查询中的每个单词的共识注意。实验结果表明,所提出的神经网络显着优于国家的最先进的基线在几个公共数据集。此外,我们还建立了一个中文阅读理解任务的基线,希望这能加快未来研究的进程。
2018-03-15 cs.CL cs.NE
Automatic Article Commenting: the Task and Dataset
Department of Computer Science and Engineering, Shanghai Jiao Tong University(上海交通大学计算机科学与工程系);Tencent AI Lab(腾讯AI实验室)
在线文章的评论提供了扩展的视图并提高了用户参与度。自动发表评论因此成为在线论坛,智能聊天机器人等有价值的功能。本文提出了自动文章评论的新任务,并介绍了一个大规模的中文数据集,其中包含数百万条真实评论和一个人工注释的子集,该子集表征了评论的不同质量。为了消除评论质量的人为偏见,我们进一步开发了自动化指标,这些指标概括了一系列流行的基于参考的指标,并与人类评价的相关性大大提高。
2018-05-11 cs.CL
Transformer-Encoder-GRU (T-E-GRU) for Chinese Sentiment Analysis on Chinese Comment Text
Northwest University(西北大学)
中文情感分析由于其复杂性和不确定性一直是自然语言处理的挑战之一。Transformer在捕获语义特征方面取得了成功,但它使用位置编码来捕获序列特征,与递归模型相比有很大的缺点。本文将Transformer编码器和GRU相结合,提出了一种用于中文情感分析的T-E-GRU。我们在三个中文评论数据集上进行了实验。针对中文评论文本中标点符号混乱的现象,我们选择性地保留了部分具有断句能力的标点符号。实验结果表明,T-E-GRU的性能优于经典递归模型和带注意的递归模型。
2021-08-01 cs.AI cs.CL
Contrastive Analysis of Constituent Order Preferences Within Adverbial Roles in English and Chinese News: A Large-Language-Model-Driven Approach
School of Humanities, Beijing University of Posts and Telecommunications(北京邮电大学人文学院)
本文以LLM标注的可比英汉语新闻语料为基础,从状语角色功能块视角对比英汉语新闻语序偏好,揭示了两者在核心信息叙事顺序、SVO结构中功能块分布及共现时灵活性的差异,为英汉语信息结构对比研究提供新实证支持。
2025-08-08 cs.CL
NEJM-enzh: A Parallel Corpus for English-Chinese Translation in the Biomedical Domain
Baidu Research(百度研究院);Oregon State University(俄勒冈州立大学)
机器翻译需要大量的平行文本。虽然这样的数据集在新闻专线等领域很丰富,但在生物医学领域却不太容易获得。汉语和英语是世界上使用最广泛的两种语言,但据我们所知,在生物医学领域还没有一个平行的语料库。在这项研究中,我们开发了一个有效的管道来获取和处理一个英汉平行语料库,由大约10万个句子对和每边300万个标记组成,来自新英格兰医学杂志(NEJM)。我们发现,在域外数据上进行训练并使用少至4,000个NEJM句子对进行微调,可以将en $\to$ zh(zh $\to$ en)方向的翻译质量提高25.3(13.4)BLEU。在较大的域内数据集上,翻译质量继续以较慢的速度提高,在完整数据集上,en $\to$ zh(zh $\to$ en)方向的BLEU增加了33.0(24.3)。
2020-05-18 cs.CL cs.DL
A Hong Kong Sign Language Corpus Collected from Sign-interpreted TV News
The Hong Kong University of Science and Technology(香港科技大学);Microsoft Research Asia(微软亚洲研究院)
本文构建了TVB-HKSL-News香港手语数据集,包含16.07小时视频和6,515个gloss,并给出SLR词错误率34.08%与SLT BLEU-4 23.58的基线结果。
2024-05-02 cs.CL cs.CV
CNTLS: A Benchmark Dataset for Abstractive or Extractive Chinese Timeline Summarization
Zhongguancun Laboratory(中关村实验室)
本文提出CNTLS,首个中文时间线摘要数据集,含77个主题、2524篇文档,平均压缩60%天数,并评估多种抽取与生成式系统,提供基准支持研究。
2023-11-15 cs.AI cs.IR cs.LG
Making sense of electrical vehicle discussions using sentiment analysis on closely related news and user comments
UC Berkeley(加州大学伯克利分校)
我们使用了一个标记明智和文档明智的情感分析,使用无监督和监督模型应用于新闻和用户评论数据集。我们的标记方面的情感分析发现两组之间的情感存在统计学上的显著差异(两者都是非常大的N),我们的文档方面的监督情感分析发现情感没有显著差异。
2022-06-19 cs.AI cs.CL
Automatic Alignment of English-Chinese Bilingual Texts of CNS News
本文提出了一种结合词汇分析和统计分析的方法对中国新闻社的英汉双语新闻报道进行对齐。由于英汉两种语言在句法结构上的差异,在句子层次上进行匹配时,往往会出现多个句子同时匹配的情况。有鉴于此,目前的工作也试图通过允许更精细的匹配从两个文本之间的条款,如果可能的话,创建更短的对齐对。目前的方法是基于句子或分句长度的统计相关性,同时使用明显的锚点,如数字和地名经常出现在新闻报道作为词汇线索。
1996-08-27 cmp-lg cs.CL
CNewSum: A Large-scale Chinese News Summarization Dataset with Human-annotated Adequacy and Deducibility Level
ByteDance(字节跳动)
自动文本摘要旨在为输入文档生成简短但关键的摘要。近年来,抽取和抽象方法在英语数据集上取得了巨大的成功。然而,由于缺乏大规模的数据集,中文文本摘要的研究很少。在本文中,我们提出了一个大规模的中文新闻摘要数据集CNewSum,其中包括304,307个文档和人类撰写的新闻摘要。它有很长的文档和高度抽象的摘要,这可以鼓励文档级的理解和当前摘要模型的生成。CNewSum的另一个显着特征是它的测试集包含摘要的充分性和演绎性注释。充分性水平度量文档所覆盖的摘要信息的程度,演绎性表示模型生成摘要所需的推理能力。这些注释可以帮助研究人员分析和定位他们的模型性能瓶颈。我们研究了CNewSum上最近的方法,并发布了我们的数据集,为中文自动摘要研究提供了一个坚实的测试平台。
2021-10-21 cs.CL
CMNIE: An Information Extraction Benchmark for Chinese Military News
Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室)
CMNIE是面向中文军事新闻的联合信息抽取基准,含13,000实例,标注事件、参数、实体和关系,评估显示关系抽取和精确跨度匹配仍具挑战性。
2026-09-11 cs.CL
XREF: Entity Linking for Chinese News Comments with Supplementary Article Reference
Northeastern University(东北大学);ByteDance AI Lab(字节跳动人工智能实验室);Alibaba Group(阿里巴巴集团)
自动识别社交媒体帖子中提到的实体有助于快速消化热门话题和流行观点。尽管如此,由于有限的背景和不同的名称变化,这仍然是一项具有挑战性的任务。本文研究了中文新闻评论在提及跨度一定的情况下的实体链接问题。我们假设评论通常指的是相应新闻文章中的实体,以及涉及实体的主题。因此,我们提出了一个新的模型,XREF,利用注意力机制(1)查明相关的评论中的上下文,(2)检测支持实体的新闻文章。为了改进训练,我们做了两个贡献:(a)除了标准的交叉熵之外,我们还提出了一个监督的注意力损失,以及(b)我们开发了一个弱监督的训练方案来利用大规模的未标记语料库。在娱乐和产品领域的两个新的数据集收集和注释的实验。我们提出的方法在这两个数据集上都优于以前的方法。
2020-06-24 cs.CL
CN-NewsTTS Bench: a target-level automatic benchmark for raw-input Chinese news TTS pronunciation
NetEase Cloud Music(网易云音乐)
针对中文新闻TTS对密集书面形式(如分数、连字符型号等)发音不准的问题,提出CN-NewsTTS Bench v0.1基准,包含自动评估集和评分器,测试七个商业系统,最佳准确率0.879。
2026-06-24 cs.CL cs.SD eess.AS
Personalized Prediction of Offensive News Comments by Considering the Characteristics of Commenters
Kyushu University(九州大学)
当阅读社交网络服务和新闻网站上的新闻文章时,读者可以查看其他人对这些文章的评论。通过阅读这些评论,读者可以了解有关新闻的舆论,往往有助于把握新闻的全貌。然而,这些评论通常包含读者不喜欢阅读的攻击性语言。本研究旨在预测此类攻击性评论,以提高读者在阅读评论时的体验质量。该方法考虑到读者价值观的多样性,根据读者过去评价为“攻击性”的少量新闻评论的反馈,预测每个读者的攻击性新闻评论。此外,我们使用了一个机器学习模型,该模型考虑评论者的特征来进行预测,独立于新闻评论中的单词和主题。实验结果表明,该方法可以个性化预测,即使在预测中使用的读者的反馈数据量是有限的。特别是,所提出的方法,它考虑了评论者的特点,具有较低的错误检测攻击性评论的概率。
2022-12-26 cs.CL
LTCR: Long-Text Chinese Rumor Detection Dataset
Sun Yat-Sen University(中山大学)
针对长文本虚假新闻难检测的问题,本文构建了包含1729条真新闻、500条假新闻的中文长文本谣言检测数据集LTCR,并提出显著性感知虚假新闻检测模型,在该数据集上取得了最优检测性能。
2023-06-13 cs.CL
You talk what you read: Understanding News Comment Behavior by Dispositional and Situational Attribution
Beijing Jiaotong University(北京交通大学);University of International Business and Economics(对外经济贸易大学)
本文提出综合考虑用户新闻交互历史的倾向性因素与对应新闻的情境性因素,构建三部分编码器-解码器框架建模新闻评论生成过程,以理解用户关注点与观点,并在新闻摘要和观点预测中验证有效性。
2023-08-04 cs.CL
INS: An Interactive Chinese News Synthesis System
Peking University(北京大学)
如今,我们被越来越多的网络新闻所包围。如果我们想探讨一个热点新闻事件或话题,需要阅读数十或数百篇新闻文章。因此,为了方便读者,将一批与事件或主题相关的新闻文章自动合成为新的合成文章(或概述文章)至关重要。实现新闻合成的全自动化是一个很大的挑战,目前还没有成功的解决方案。本文提出了一种新的交互式新闻合成系统(INS),它可以自动生成新闻综述文章,也可以通过用户交互生成。更重要的是,INS可以作为编辑的工具,帮助他们完成工作。在我们的实验中,INS在主题表征和合成文章生成方面表现良好。一项用户研究也表明了INS工具的实用性和用户满意度。演示视频可在\url{https://youtu.be/7ItteKW3GEk}上获得。
2019-07-25 cs.CL cs.HC
Achieving Human Parity on Automatic Chinese to English News Translation
Microsoft AI & Research(微软人工智能与研究部)
近年来,机器翻译取得了飞速的发展。如今,数百万人在在线翻译系统和移动应用程序中使用它,以便跨越语言障碍进行交流。自然会产生这样的问题,即这种系统是否可以接近或实现与人类翻译的平等。在本文中,我们首先解决的问题,如何定义和准确衡量翻译中的人类平等。然后,我们描述了微软的机器翻译系统,并在广泛使用的WMT 2017新闻翻译任务中测量其翻译质量。我们发现,我们最新的神经机器翻译系统已经达到了最先进的水平,与专业的人工翻译相比,翻译质量与人类不相上下。我们还发现,它大大超过了众包非专业翻译的质量。
2018-06-29 cs.CL
Decoding Machine Translationese in English-Chinese News: LLMs vs. NMTs
School of Foreign Studies, Tongji University(同济大学外国语言学院);Language and Translation Technology Team, Ghent University(根特大学语言与翻译技术团队)
本研究构建大型数据集并采用五层特征集与卡方排序算法,分析英汉新闻中机器翻译体特征,发现原始中文与机器翻译输出可近乎完美区分,且LLMs与NMTs在词汇多样性等方面存在约70%准确率的可分类差异。
2025-06-27 cs.CL
The University of Edinburgh's Submissions to the WMT19 News Translation Task
University of Edinburgh(爱丁堡大学)
爱丁堡大学参加了WMT 19新闻翻译共享任务,涉及六种语言:英语到古吉拉特语,古吉拉特语到英语,英语到汉语,汉语到英语,德语到英语和英语到捷克语。对于所有翻译方向,我们创建或使用目标语言的单语数据的反向翻译作为附加的合成训练数据。对于英语-古吉拉特语,我们还探索了具有跨语言语言模型预训练的半监督MT,以及通过印地语的翻译旋转。对于中文翻译,我们研究了基于字符的分词与中文文本的子分词。对于德语到英语,我们研究了大量反向翻译的训练数据对翻译质量的影响,获得了一些额外的见解。对于英语到捷克语,我们比较了不同的预处理和标记化制度。
2019-07-12 cs.CL
ASR-Roundtrip Evaluation Can Mask Context- and Convention-Dependent Reading Errors in Chinese News TTS
研究发现ASR往返评估可掩盖中文新闻TTS的依赖上下文和惯例的朗读错误,经MiMo、CosyVoice等审计及Qwen3-ASR、Paraformer验证,该评估仅适用于筛选,无法作为独立基准。
2026-08-12 cs.CL
Read, Attend and Comment: A Deep Architecture for Automatic News Comment Generation
Beihang University(北京航空航天大学);Microsoft Corporation(微软公司)
新闻评论自动生成是自然语言生成技术的一个新的试验平台。本文提出了一种“阅读-参与-评论”的新闻评论生成过程,并利用阅读网络和生成网络对该过程进行了形式化描述。阅读网络对一篇新闻文章进行分析并从中提取一些重要的观点,然后生成网络通过关注提取的离散点和新闻标题来创建评论。我们优化的模型在一个端到端的方式,通过最大化的变化下限的真实目标,使用反向传播算法。两个数据集上的实验结果表明,我们的模型可以显着优于现有的方法在自动评估和人类判断。
2019-10-01 cs.CL cs.IR cs.LG
Unveiling the Potential of Sentiment: Can Large Language Models Predict Chinese Stock Price Movements?
International Digital Economy Academy (IDEA)(国际数字经济学院(IDEA));The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Data Science and Analytics Thrust, The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)数据科学与分析学域);Financial Technology Thrust, The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)金融科技学域)
本文通过标准化实验流程评估三种大型语言模型从中文新闻摘要中提取情感因子并构建量化交易策略的表现,以探究LLMs预测中国股票价格走势的潜力。
2024-05-04 cs.AI cs.CL q-fin.ST
Single-Pass, Adaptive Natural Language Filtering: Measuring Value in User Generated Comments on Large-Scale, Social Media News Forums
Northwestern University(西北大学)
在挖掘流行的新闻论坛上留下的众包评论中有大量的洞察力和社会发现潜力,如Reddit.com,Tumblr.com,Facebook.com和Hacker News。不幸的是,由于大量的参与及其不同质量的评论,从这些数据中提取价值并不总是显而易见的,也不总是及时的。通过设计高效、单通道和自适应的自然语言过滤器来快速删除垃圾邮件、噪音、模仿者、营销转移和脱离上下文的帖子,我们可以删除超过三分之一的条目,并返回与原始文章相关的概率更高的评论。这里提出的方法使用自适应的两步滤波过程。它首先利用线程中发布的原始文章作为起始语料库,通过匹配交叉单词和每个句子的术语比率平衡来解析评论,然后通过添加从高匹配评论中收获的新词来增加语料库,以随着时间的推移提高过滤准确性。
2017-01-12 cs.CL
The News Comment Gap and Algorithmic Agenda Setting in Online Forums
London School of Economics and Political Science(伦敦政治经济学院)
通过分析奥地利报纸Der Standard的120万条评论,研究揭示了记者与读者的“新闻评论鸿沟”,并提出FORUM指标评估评论排序算法对讨论的影响。
2024-08-23 cs.AI cs.CL cs.CY
CMNEE: A Large-Scale Document-Level Event Extraction Dataset based on Open-Source Chinese Military News
National University of Defense Technology(国防科技大学);Southeast University(东南大学);Tsinghua University(清华大学)
针对军事文本事件抽取的数据稀缺问题,提出大规模文档级中文军事新闻事件抽取数据集CMNEE,含17,000文档和29,223事件,实验表明该领域任务更具挑战性。
2024-04-18 cs.CL
Retain or Reframe? A Computational Framework for the Analysis of Framing in News Articles and Reader Comments
School of Computing and Information Systems, The University of Melbourne(计算与信息系统学院,墨尔本大学)
该研究提出首个跨新闻文章与读者评论的大规模框架构建分析计算框架,优化标签并实现框架重构与内容对齐,实验发现评论框架复用度跨媒体高度相关,同时发布了相关分类器与数据集。
2025-10-01 cs.CL
You Really Didn't Get That? Benchmarking Social Pragmatic Inference for Indirect and Playful Chinese Online Comments
George Mason University(乔治梅森大学);Virginia Tech(弗吉尼亚理工大学);University of Toronto(多伦多大学);City University of Hong Kong(香港城市大学);Duke Kunshan University(昆山杜克大学)
本文构建中文网络评论语用推理基准,评估8个LLMs在区分自然评论情境化含义任务中的表现,发现模型难准确判断语用机制,性能远低于人类。
2026-09-07 cs.AI cs.CL cs.HC
From Inline Notes to Collected Commentaries: Toward Context-Preserving Organization of Exegetical Knowledge in Classical Chinese Texts
The Hong Kong Polytechnic University(香港理工大学);Peking University(北京大学)
本文提出保留夹注上下文依赖的计算框架,将集注编纂化为NLP任务,在《山海经》案例中CoNLL F1超97%,为历史注疏知识大规模组织及下游任务奠定基础。
2026-08-03 cs.CL
Entity-Specific Sentiment Classification of Yahoo News Comments
Yahoo Labs(雅虎实验室);University of North Texas(北德克萨斯大学)
情感分类广泛用于产品评论和在线社交媒体,如论坛,Twitter和博客。然而,对新闻网站上用户评论的情感进行分类的问题尚未得到解决。新闻网站涵盖了广泛的领域,包括政治,体育,技术和娱乐,而其他在线社交网站,如论坛和评论网站,这是特定于一个特定的领域。与新闻站点相关联的用户可能对不同的主题(例如,政治、智能手机和体育)或不同的实体(例如,奥巴马、iPhone或谷歌)。对与各种实体相关联的用户的情感进行分类可以帮助获得他们个性的整体视图,这在诸如在线广告、内容个性化和政治竞选规划等应用中可能是有用的。在本文中,我们制定的问题,在雅虎新闻的新闻文章发表评论的实体特定的情感分类,并提出新的功能,是特定的新闻评论。实验结果表明,我们的模型优于最先进的基线。
2015-06-11 cs.CL cs.IR cs.SI
Let Silence Speak: Enhancing Fake News Detection with Generated Comments from Large Language Models
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对评论不足导致假新闻检测不完整的问题,提出利用大语言模型模拟用户生成多样化评论的GenFEND框架,实验证明其有效且生成评论优于真实评论。
2024-05-26 cs.CL cs.CY cs.SI