Introducing an Abusive Language Classification Framework for Telegram to Investigate the German Hater Community
Technical University of Munich(慕尼黑工业大学)
由于传统的社交媒体平台继续禁止行为者传播仇恨言论或其他形式的辱骂性语言(这一过程被称为去平台化),这些行为者迁移到不限制用户内容的替代平台。与德国仇恨者社区相关的一个流行平台是Telegram,到目前为止,对其进行的研究工作有限。本研究旨在开发一个广泛的框架,包括(i)德国电报消息的辱骂性语言分类模型和(ii)电报频道仇恨的分类模型。对于第一部分,我们使用现有的包含来自其他平台的帖子的辱骂性语言数据集来开发我们的分类模型。对于频道分类模型,我们开发了一种方法,该方法将从主题模型收集的特定于频道的内容信息与社交图相结合,以预测频道的仇恨度。此外,我们补充了这两种仇恨言论检测方法,并对德国Telegram上仇恨者社区的演变进行了深入研究。我们还提出了对仇恨言论研究社区的社交媒体平台进行可扩展网络分析的方法。作为本研究的额外输出,我们提供了一个带注释的辱骂性语言数据集,其中包含1,149条带注释的Telegram消息。
2021-11-24 cs.CL
Quantifying Community Characteristics of Maternal Mortality Using Social Media
Harvard University(哈佛大学);University of Pennsylvania(宾夕法尼亚大学);Cornell University(康奈尔大学);Stony Brook University(石溪大学)
虽然美国的大多数死亡率都有所下降,但孕产妇死亡率却有所上升,是经合组织国家中最高的。正在进行广泛的公共卫生研究,以更好地了解发病率相对较高或较低的社区的特点。在这项工作中,我们探讨的作用,社交媒体语言可以发挥洞察这样的社区特征。分析美国各县产生的与怀孕相关的推文,我们揭示了一组不同的潜在主题,包括晨吐,名人怀孕和堕胎权利。我们发现,在Twitter上提及这些主题的比率预测孕产妇死亡率的准确性高于标准的社会经济和风险变量,如收入,种族和获得医疗保健,即使在将分析减少到六个主题后,其可解释性和与已知风险因素的联系也是如此。然后,我们调查了社区语言的心理维度,发现使用不太信任,更强调,更消极的情感语言与更高的死亡率显着相关,而信任和负面影响也解释了孕产妇死亡率的种族差异的显着部分。我们讨论了这些见解的潜力,以告知在社区一级的可操作的健康干预措施。
2020-04-14 cs.CL cs.CY cs.SI
Usage-Modulated Sentiment Representations in Large Language Models
William & Mary(威廉与玛丽学院)
本研究证明大型语言模型中情感表示不仅包含共享极性方向,还受用法因素调制,残差结构可被擦除和引导,为情感控制提供新方法。
2026-10-06 cs.CL
Safeguarding Decentralized Social Media: LLM Agents for Automating Community Rule Compliance
University of Calabria(卡拉布里亚大学)
针对去中心化社交网络内容合规检查难规模化的问题,评估6款基于开源大语言模型的AI智能体,经5万余条Mastodon帖子及专家验证,其检测违规准确、适配多样社区,可用于半自动化内容审核。
2024-09-13 cs.CL cs.CY cs.HC
Characterizing English Variation across Social Media Communities with BERT
University of California, Berkeley(加州大学伯克利分校)
许多以前的工作特点的语言变化在互联网上的社会群体集中在这些群体使用的词汇类型。我们扩展了这种类型的研究,采用BERT来表征词义的变化,分析了474个Reddit社区两个月的英语评论。不同的意义集群的社区的特异性,结合社区的独特的词类型的特异性,被用来确定的情况下,一个社会群体的语言偏离规范。我们使用用户创建的词汇表来验证我们的指标,并借鉴社会语言学理论将语言变化与社区行为趋势联系起来。我们发现,具有高度独特语言的社区是中等规模的,他们的忠诚和高度参与的用户在密集的网络中互动。
2021-02-12 cs.CL cs.SI
Shallow Parsing Pipeline for Hindi-English Code-Mixed Social Media Text
International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术学院)
在这项研究中,印度语-英语代码混合的社会媒体文本(CSMT)的浅层解析的问题已经解决。我们已经注释了数据,开发了一个语言标识符,一个规范化,一个词性标注器和一个浅层解析器。据我们所知,我们是第一个尝试在CSMT上进行浅层解析的。开发的管道已提供给研究界,使更好的印地语英语CSMT的文本分析的目标。该管道可在http://bit.ly/csmt-parser-api上访问。
2016-04-11 cs.CL
ConceptCarve: Dynamic Realization of Evidence
Purdue University(普渡大学)
ConceptCarve利用传统检索器与LLM动态刻画搜索空间,在社交媒体社区中高效检索抽象概念证据,并生成可解释表示以分析跨社区差异。
2025-05-22 cs.CL
CommunityLM: Probing Partisan Worldviews from Language Models
MIT Center for Constructive Communication(麻省理工学院建设性沟通中心);MIT Media Lab(麻省理工学院媒体实验室)
随着美国政治态度在意识形态上的分歧,政治言论在语言上也出现了分歧。美国各政党之间日益扩大的两极分化,由于相互了解的侵蚀而加速。我们的目标是使这些社区更容易相互理解的框架,探讨社区特定的反应,相同的调查问题,使用社区语言模型CommunityLM。在我们的框架中,我们为Twitter上的每个社区确定了忠诚的党派成员,并对他们撰写的推文进行了微调。然后,我们评估了这两个群体的世界观,使用基于网络的探测其相应的LM,提示,引发公众人物和团体的意见,由美国国家选举研究(ANES)2020年探索性测试调查。我们比较了由LMs生成的响应ANES调查结果,并找到一个对齐的水平,大大超过了几个基线方法。我们的工作旨在表明,我们可以使用社区LM来查询任何群体的世界观,只要他们的社交媒体讨论或媒体饮食样本足够大。
2022-09-15 cs.AI cs.CL cs.SI
Community-based Behavioral Understanding of Crisis Activity Concerns using Social Media Data: A Study on the 2023 Canadian Wildfires in New York City
University of Oklahoma(俄克拉荷马大学);Howard University(霍华德大学)
本研究利用纽约市2023年6月加拿大野火烟雾事件期间的带地理标签Twitter数据,通过文本分类和社区推断模型,揭示不同性别、种族及收入群体在疏散、通勤等危机活动关注度上的差异,为应急沟通和响应提供参考。
2024-01-22 cs.CL cs.CY cs.SI
Community Needs and Assets: A Computational Analysis of Community Conversations
Golisano College of Computing and Information Sciences(戈利萨诺计算与信息科学学院);Rochester Institute of Technology(罗切斯特理工学院)
研究提出利用自然语言处理从社交媒体对话中识别、提取和分类社区需求与资产的任务,构建首个包含3,511个Reddit对话的标注数据集,并开发话语级分类模型,F1分数达94%,优于基线模型。
2024-03-20 cs.CL cs.CY cs.SI
People on Media: Jointly Identifying Credible News and Trustworthy Citizen Journalists in Online Communities
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
媒体似乎变得更有党派性,往往提供迎合特定群体利益的有偏见的新闻报道。因此,必须确定客观叙述某一事件的可信信息内容。像digg、reddit或newtrust这样的新闻社区提供推荐、评论、质量评级,以及对新闻作品的进一步见解。然而,在这些在线社区中,不同因素之间存在复杂的相互作用:报告的公平性和风格,语言的清晰性和客观性,主题观点(如政治观点),社区成员的专业知识和偏见等等。本文提出了一个模型,系统地分析了不同的用户,新闻和来源之间的新闻社区的互动。我们开发了一个概率图形模型,利用这种联合交互来识别1)高度可信的新闻文章,2)值得信赖的新闻来源,以及3)在社区中扮演“公民记者”角色的专家用户。我们的方法扩展了CRF模型,以纳入实值评级,因为一些社区具有非常细粒度的尺度,无法在不丢失信息的情况下轻松离散。据我们所知,这篇论文是第一篇对新闻界的可信度、信任度和专业知识进行全面分析的论文。
2017-05-09 cs.AI cs.CL cs.IR
The Open Language Archives Community: An infrastructure for distributed archiving of language resources
通过电子媒体记录和描述语言的新方法,加上通过万维网发布结果的新方法,提供了历史上前所未有的语言资源。与此同时,使用这些新技术的方法的扩散正在造成与资源发现和资源创造有关的严重问题。本文描述了开放语言档案社区(OLAC)为解决这些问题而内置的。它的技术和使用基础架构通过构建分布式资源的单个虚拟库来解决资源发现问题。它的治理基础设施通过提供一种机制来解决资源创建的问题,通过这种机制,语言资源社区可以就推荐的最佳实践表达共识。
2003-06-10 cs.CL cs.DL
On the rise of fear speech in online social media
Rutgers University(罗格斯大学)
最近,社交媒体平台受到严格控制,以防止网上仇恨言论的传播,这些言论通常含有大量有毒词语,并针对个人或社区。由于这种严重的缓和,正在使用更新和更微妙的技术。其中,最令人敬畏的是《论语》。恐惧演讲,顾名思义,试图煽动对目标社区的恐惧。虽然很微妙,但它可能非常有效,经常将社区推向身体冲突。因此,了解它们在社交媒体中的流行程度至关重要。本文介绍了一项大规模的研究,以了解从Gab.com收集的40万恐惧言论和超过70万仇恨言论帖子的流行情况。值得注意的是,发布大量恐惧言论的用户比发布大量仇恨言论的用户积累了更多的关注者,并在社交网络中占据了更多的中心位置。他们还可以通过回复、转发和提及,比仇恨言论用户更有效地接触到良性用户。这与一个事实有关,即与仇恨言论不同,恐惧言论几乎没有有毒内容,使其看起来似乎是合理的。此外,虽然恐惧言论主题大多将社区描绘为使用(假)论证链的犯罪者,但仇恨言论主题直接投掷多目标侮辱,从而指出为什么一般用户更容易上当恐惧言论。我们的发现甚至超越了其他平台(Twitter和Facebook),因此有必要使用复杂的审核政策和大众意识来对抗恐惧言论。
2023-03-18 cs.CL cs.CY cs.SI
ModelCitizens: Representing Community Voices in Online Safety
University of California, Los Angeles(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学);Google(谷歌);New York University(纽约大学)
针对毒性检测忽视社区视角的问题,构建了包含6.8K帖子、40K注释的MODELCITIZENS数据集,并微调LLaMA/Gemma模型,在分布内评估中比GPT-o4-mini高5.5%,强调社区知情建模对包容性审核的重要性。
2025-07-09 cs.AI cs.CL
Classifying Tweet Level Judgements of Rumours in Social Media
The University of Sheffield(谢菲尔德大学);The University of Melbourne(墨尔本大学)
社交媒体是谣言和相应社区反应的丰富来源。谣言反映了不同的特点,有些是共同的,有些是个人的。我们制定的问题分类推文级别判断的谣言作为一个监督学习任务。监督和无监督的领域自适应被认为是,其中推文从谣言分类的基础上,其他注释的谣言。我们展示了多任务学习如何帮助2011年英格兰骚乱的谣言取得良好的效果。
2015-09-10 cs.CL cs.LG cs.SI
Great New Design: How Do We Talk about Media Architecture in Social Media
Institute of Experimental Design and Media Cultures (IXDM) FHNW(瑞士应用科学与艺术大学实验设计与媒体文化研究所(IXDM))
在社交媒体中,我们通过图片,视频,短代码,链接,部分短语进行交流。它是一个丰富的、数字化记录的沟通渠道,依赖于多种媒体和形式。这些渠道被算法分类为话语的组织者,主要是为了引导注意力。在这项研究中,我们使用Twitter来研究建筑师,设计师,研究人员和政策制定者社区内讨论媒体建筑的方式。我们关注他们如何自发地分享他们对数字基础设施、网络场所和混合公共空间的参与意见。我们能对这些意见做些什么呢?我们建议在这里使用文本挖掘和机器学习技术,以确定重要的概念和模式,在这个多产的通信流。我们将讨论这些技术如何为实践和未来趋势的出现提供信息。
2019-10-31 cs.CL cs.IR
Understanding Opinions Towards Climate Change on Social Media
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学);Yale University(耶鲁大学)
本文通过分析2006至2019年间1360万条推文,构建时序图并利用Louvain算法和自然语言处理方法,研究COP事件对社交媒体上气候变化讨论社区结构和情感主题演变的影响,为提升公众气候意识提供依据。
2023-12-02 cs.CL cs.LG cs.SI
Understanding Lexical Biases when Identifying Gang-related Social Media Communications
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Northwestern University(西北大学)
针对帮派相关推文中的非标准语言与伦理数据难题,本文用芝加哥样本训练二元 logistic 分类器,证明 NLP 可识别需社区照护者,并揭示词汇偏差对模型性能和人群区分的影响。
2023-04-22 cs.AI cs.CL cs.LG
Correlating Twitter Language with Community-Level Health Outcomes
EPFL(洛桑联邦理工学院);SpinningBytes(SpinningBytes公司);Swiss Re(瑞士再保险公司);ZHAW(苏黎世应用科学大学)
我们研究社交媒体上的语言如何与动脉粥样硬化性心脏病(AHD),糖尿病和各种癌症等疾病联系在一起。我们提出的模型利用了最先进的句子嵌入,然后是回归模型和聚类,而不需要额外的标记数据。它允许从语言中预测社区水平的医疗结果,从而有可能将这些结果转化为个人水平。该方法适用于广泛的目标变量,并使我们能够发现已知的和潜在的新的相关性的医疗结果与生活方式方面和其他社会经济风险因素。
2019-06-24 cs.CL cs.LG cs.SI
PluRule: A Benchmark for Moderating Pluralistic Communities on Social Media
Observatory on Social Media, Indiana University, USA(社交媒体观察站,印第安纳大学,美国);Center Synergy of Systems, TUD Dresden University of Technology, Germany(系统协同中心,德累斯顿技术大学,德国)
研究探讨了AI模型在调节社交媒体上多元社区中的挑战,提出PluRule基准测试以检测13371条规则违规情况,发现即使使用最先进的视觉语言模型,也难以有效识别违规行为。
2026-05-16 cs.AI cs.CL cs.CY
Marriage Discourse on Chinese Social Media: An LLM-assisted Analysis
The HKU SPACE Community College(香港大学专业进修学院社区书院);The Education University of Hong Kong(香港教育大学)
本研究利用大语言模型分析中国社交媒体上婚姻相关帖子的情感和道德元素,发现自主和社区框架下的帖子多为消极,而神圣框架下的帖子则偏向积极,揭示了个人自主与社区义务对婚姻态度的影响。
2026-01-28 cs.CL econ.GN q-fin.EC
Reading Stockholm Riots 2013 in social media by text-mining
Stockholm University(斯德哥尔摩大学);Jagiellonian University(雅盖隆大学);CIOP – National Research Instutute(CIOP国家研究院)
2013年5月在斯德哥尔摩发生的骚乱是一个在世界媒体上引起反响的事件,因为它的暴力层面已经蔓延到瑞典首都。在这项研究中,我们通过文本挖掘和自然语言处理研究了社交媒体在创造媒体现象中的作用。我们的分析重点关注两个沟通渠道:Twitter和Poloniainfo.se(瑞典波兰社区论坛)。我们的初步结果显示,一些热门话题驱动的讨论主要涉及瑞典警察和瑞典政治通过计数字的使用。媒体干预的典型特征。我们已经建立了最流行的短语网络,按类别(地理,媒体机构等)聚类。情感分析显示出对警察的负面内涵。这个初步的探索性定量研究的目的是产生问题和假设,我们可以仔细遵循更深入的定性方法。
2013-10-04 cs.CL cs.SI physics.soc-ph