Automatic Normalization of Word Variations in Code-Mixed Social Media Text
Language Technologies Research Centre (LTRC)(语言技术研究中心);Kohli Center on Intelligent Systems (KCIS)(科利智能系统中心);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术学院)
针对语码混合社交媒体文本的拼写变体问题,提出利用词分布式表示无监督捕捉同上下文词汇变体的归一化方法,可提升词性标注与情感分析任务性能。
2018-04-03 cs.CL
Improving Named Entity Recognition for Chinese Social Media with Word Segmentation Representation Learning
Human Language Technology Center of Excellence(人类语言技术卓越中心);Center for Language and Speech Processing(语言与语音处理中心);Johns Hopkins University(约翰斯·霍普金斯大学)
命名实体识别和其他信息抽取任务经常使用语言特征,例如词性标签或组块。对于在文本中不容易识别词边界的语言,分词是为NER系统生成特征的关键第一步。虽然使用词边界标签作为特征是有帮助的,但是帮助识别这些边界的信号可以为NER系统提供更丰富的信息。新的最先进的分词系统使用神经模型来学习用于预测词边界的表示。我们发现,这些相同的表示,与NER系统联合训练,对中国社交媒体的NER产生了显着的改善。在我们的实验中,使用LSTM-CRF模型联合训练NER和分词比以前发表的结果有近5%的绝对改善。
2017-03-28 cs.CL
A Primer on Word Embeddings: AI Techniques for Text Analysis in Social Work
University of Michigan(密歇根大学);Wayne State University(韦恩州立大学);Tianjin University of Technology(天津理工大学)
本文向社会工作研究者介绍词嵌入技术,阐述其如何通过语义搜索、聚类和检索增强生成等方法增强文本分析工作流程,并指出需开发领域特定模型与符合伦理的最佳实践以推动研究与服务。
2024-11-11 cs.CL
Toward Responsible and Epistemically Grounded Multilingual LLMs for Computational Social Science and Humanities
Northwestern University in Qatar(卡塔尔西北大学)
本文重新概念化多语言推理大语言模型为解释学工具,提出一个基于理论框架来评估其在社会科学与人文学科研究中的文化对齐、跨语言稳定性和推理忠实性。
2026-05-30 cs.CL
Integrating Boundary Assembling into a DNN Framework for Named Entity Recognition in Chinese Social Media Text
Harvard Business School(哈佛商学院);AI Strike(AI Strike公司)
命名实体识别是自然语言处理中一项具有挑战性的任务,尤其是对于非正式和嘈杂的社交媒体文本。中文词边界也是实体边界,因此,中文文本的命名实体识别可以受益于由中文分词输出的词边界检测。然而,中文分词也有其自身的困难,因为它受到多种因素的影响,例如,分割标准、采用的算法等处理不当,可能会对后续的命名实体识别质量产生连锁故障。在本文中,我们将边界组装方法与最先进的深度神经网络模型相结合,并将更新后的单词边界信息纳入条件随机场模型,用于命名实体识别。我们的方法显示了2%的绝对改善比以前的国家的最先进的结果。
2020-02-27 cs.CL
No Word Embedding Model Is Perfect: Evaluating the Representation Accuracy for Social Bias in the Media
Leibniz University Hannover(汉诺威莱布尼茨大学);Universität Hamburg(汉堡大学)
新闻文章塑造并反映了整个政治领域的公众舆论。因此,分析它们的社会偏见可以提供有价值的见解,例如社会和媒体中普遍存在的刻板印象,这些刻板印象通常被在相应数据上训练的NLP模型所采用。最近的工作依赖于词嵌入偏差的措施,如WEAT。然而,嵌入的几个表示问题可能会损害测量的准确性,包括低资源设置和令牌频率差异。在这项工作中,我们研究了什么样的嵌入算法最适合准确地测量已知存在于美国在线新闻文章中的社会偏见类型。为了涵盖美国政治偏见的整个范围,我们收集了50万篇文章,并回顾了心理学文献中关于预期社会偏见的内容。然后,我们使用WEAT以及嵌入算法来量化社会偏见,这些算法可以解释上述问题。我们比较了用新闻文章的算法训练的模型如何代表预期的社会偏见。我们的研究结果表明,量化偏见的标准方法与心理学知识并不一致。虽然所提出的算法减少~差距,他们仍然不完全匹配的文献。
2022-11-07 cs.CL
A keyword-driven approach to science
São Carlos Institute of Physics, University of São Paulo(圣保罗大学圣卡洛斯物理研究所)
在很大程度上,单词可以被理解为对应于出现的模式或类别,以表示在给定的时间和空间中特别重要或有用的概念和结构。词的特点是既不完全通用,也不完全特定,在这个意义上,同一个词可以被实例化或与几个不同的上下文相关,这取决于特定的情况。事实上,单词被实例化和关联的方式代表了一个特别有趣的方面,可以大大有助于更好地理解它们被使用的上下文。科学词汇也不例外。在目前的工作中,我们的方法之间的关联的一组特别相关的话的意义上,不仅经常使用在几个领域,但也代表了目前与科学中的一些主要的长期挑战的概念。更具体地说,这里报告的研究考虑了“预测”,“模型”,“优化”,“复杂”,“熵”,“随机”,“确定性”,“模式”和“数据库”等词。为了补充分析,我们还获得了一个网络,代表采用的领域之间的关系。研究发现了许多有趣的结果:首先,研究人员观察到其中几个词在不同的领域有着明显不同的关联。生物学被发现与计算机科学相关,与数据库共享关联。此外,在大多数情况下,“复杂”、“模型”和“预测”这些词被观察到有几个很强的关联。
2021-07-19 cs.CL
Is this word borrowed? An automatic approach to quantify the likeliness of borrowing in social media
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Microsoft Research India(微软印度研究院)
语码混合或语码转换是在一次会话中两种或多种语言之间自然转换的现象。在一种语言中使用一个外来词;然而,并不一定意味着说话者是语码转换,因为语言经常从其他语言借用词汇。如果一个词是借来的,它就成为一种语言词汇的一部分;而在语码转换过程中,说话者意识到对话中涉及到外国词或短语。识别双语者使用的外来词是借用还是语码转换是多语理论的重要组成部分,也是多语社区语言和语音技术发展的必要前提。在本文中,我们提出了一系列新的计算方法来识别一个词的借来的喜欢,基于社交媒体信号。首先提出基于上下文的聚类方法从社交媒体数据中抽取一组候选词,然后根据用户在不同推文中对这些词的使用情况,提出三个新颖且相似的度量标准,对候选词进行评分和排序,以表明其借用的喜好。我们将这些排名与通过人类判断实验构建的真实排名进行比较。两个排名之间的斯皮尔曼等级相关性(所有三个指标变量接近0.62)是文献中报道的最具竞争力的现有基线值(0.26)的两倍多。其他一些引人注目的观察结果是,(i)从年轻参与者(年龄小于30岁)中得出的地面真实数据的相关性高于老年参与者,(ii)那些使用混合语言发推文的参与者最少,提供了最好的借用信号。
2017-03-15 cs.CL
All that is English may be Hindi: Enhancing language identification through automatic ranking of likeliness of word borrowing in social media
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Microsoft Research India(微软研究院印度分部)
本文提出基于社交媒体信号识别单词被借用可能性的计算方法,其预测表现优于基线两倍多,并发现88%的外来语标签应被替换为母语标签,揭示了自动语言识别系统的巨大改进空间。
2017-07-29 cs.CL
Surfacing contextual hate speech words within social media
National Tsinghua University(清华大学)
社交媒体平台最近出现了仇恨言论话语的增加,这导致了对改进检测方法的呼吁。其中大多数依赖于注释数据、关键字和分类技术。虽然这种方法提供了很好的覆盖面,但在处理网上极端主义社区产生的新术语时,这种方法可能不够,因为这些新术语是具有其他仇恨言论含义的单词的原始来源。这些暗语(既可以是创造的,也可以是被采用的)被设计成逃避自动检测,并且在常规话语中通常具有善意的含义。例如,“skypes”、“googles”和“yahoos”都是具有可用于仇恨言论的替代含义的单词的实例。这种重叠在依赖于收集仇恨言论特定数据和下游分类的关键词时带来了额外的挑战。在这项工作中,我们开发了一种社区发现方法,用于发现极端主义仇恨言论社区并从其成员那里收集数据。我们还开发了一个词嵌入模型,该模型学习单词的替代仇恨言论含义,并通过几个注释实验证明了我们的代码词的候选资格,旨在确定是否有可能在不知道其替代含义的情况下识别一个词用于仇恨言论。我们报告的注释者间的协议率K=0.871,K=0.676分别从我们的极端主义社区和关键字的方法,支持我们的说法,仇恨言论检测是一个上下文的任务,并不依赖于一个固定的关键字列表。我们的目标是通过提供高质量的仇恨言论数据集以及可以输入现有分类方法的学习代码来推进该领域,从而提高自动检测的准确性。
2017-11-28 cs.CL
LLM-Measure: Generating Valid, Consistent, and Reproducible Text-Based Measures for Social Science Research
Hong Kong University of Science and Technology(香港科技大学)
本文提出LLM-Measure方法,利用大语言模型内部隐藏状态学习概念向量并投影生成文本度量,经三项复制研究验证,该方法在社会科学研究中产生有效、一致且可复现的度量。
2024-09-19 cs.CL
Exploiting user-frequency information for mining regionalisms from Social Media texts
Universidad de Buenos Aires(布宜诺斯艾利斯大学);CONICET(阿根廷国家科学与技术研究理事会);Academia Argentina de Letras(阿根廷文学院)
检测区域主义(在某些区域使用的表达方式或词语)的任务传统上依赖于使用问卷和调查,也严重依赖于调查员的专业知识和直觉。社交媒体及其微博服务的涌入产生了前所未有的丰富内容,主要是用户生成的非正式文本,为语言学家扩展语言变异研究提供了新的机会。以前的工作自动检测区域主义主要依赖于词频。在这项工作中,我们提出了一种新的度量的基础上信息论,结合用户频率。我们在阿根廷西班牙语推文语料库上以两种方式测试了这一指标:通过手动注释检索到的术语的相关性,以及作为用户地理定位的特征选择方法。在任何一种情况下,我们的指标都优于其他仅基于词频的技术,这表明测量产生单词的用户数量是有用的。这个工具帮助词典编纂者发现了阿根廷西班牙语的几个未注册单词,以及分配给注册单词的不同含义。
2019-07-10 cs.CL
Random Forest-of-Thoughts: Uncertainty-aware Reasoning for Computational Social Science
Queensland University of Technology(昆士兰科技大学);Wuhan University of Technology(武汉理工大学);University of Southern Queensland(南昆士兰大学)
针对社会调查分析中需要探索和不确定性搜索的复杂推理问题,提出随机思维森林(RFoT)提示方法,通过生成多样化思维空间并随机选择子思维构建思维森林,增强LLM决策能力,实验证明其在两个社会调查分析任务上显著提升性能。
2025-02-26 cs.CL
Injecting Knowledge from Social Science Journals to Improve Indonesian Cultural Understanding by LLMs
Nanyang Technological University(南洋理工大学)
本研究通过构建IndoSoSci数据集,利用检索增强生成方法将印度尼西亚文化知识注入LLMs,提升其对印度尼西亚文化的理解能力,并在基准测试中取得显著性能提升。
2026-01-19 cs.CL
AI for social science and social science of AI: A Survey
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文综述AI与社会科学的交叉研究,将其划分为AI赋能社会科学和AI的社会科学两大方向,并提供统一框架与仿真平台梳理。
2024-01-22 cs.CL cs.CY
Enhancing Data Quality through Simple De-duplication: Navigating Responsible Computational Social Science Research
School of Computer Science, The University of Sheffield(谢菲尔德大学计算机科学学院)
本研究针对计算社会科学NLP领域的20个常用社交媒体数据集展开质量分析,发现数据重复引发标签不一致、数据泄露等问题并可能高估模型真实性能,进而提出数据集构建与使用的新规范和最佳实践。
2024-10-04 cs.CL
Tweets Sentiment Analysis via Word Embeddings and Machine Learning Techniques
社交媒体数据的情感分析包括态度、评估和情感,这些可以被认为是人类思考的一种方式。理解大量文件并将其分为正反两方面是一项非常困难的任务。Twitter、Facebook和Instagram等社交网络提供了一个平台,以收集有关人们情绪和意见的信息。考虑到人们每天在社交媒体上花费数小时并分享他们对各种不同主题的看法,这有助于我们更好地分析情绪。越来越多的公司正在使用社交媒体工具来提供各种服务并与客户互动。情感分析(SA)将给定推文的极性分类为正面推文和负面推文,以了解公众的情感。本文旨在使用特征选择模型word2vec和用于情感分类的机器学习算法随机森林对2019年选举的实时Twitter数据进行情感分析。Word2vec与随机森林相比,显著提高了情感分析的准确性。Word2vec通过考虑文本中单词的上下文语义来提高特征的质量,从而提高了机器学习和情感分析的准确性。
2020-07-05 cs.CL
Transformer Encoder for Social Science
Princeton University(普林斯顿大学);Boston University(波士顿大学)
高质量的文本数据已经成为社会科学家的重要数据来源。我们已经见证了预训练的深度神经网络模型的成功,例如BERT和RoBERTa,在最近的社会科学研究中。在本文中,我们提出了一个紧凑的预训练深度神经网络,Transformer Encoder for Social Science(TESS),旨在解决社会科学研究中的文本处理任务。使用两个验证测试,我们证明了TESS优于BERT和RoBERTa平均16.7%的训练样本的数量是有限的(<1,000训练实例)。结果显示TESS在社会科学文本处理任务上优于BERT和RoBERTa。最后,我们讨论了我们的模型的局限性和未来的研究提出了建议。
2022-08-17 cs.AI cs.CL
SlangSD: Building and Using a Sentiment Dictionary of Slang Words for Short-Text Sentiment Classification
Arizona State University(亚利桑那州立大学)
社交媒体中的情绪越来越被认为是客户细分,市场理解和解决其他社会经济问题的重要资源。然而,社交媒体中的情绪很难衡量,因为用户生成的内容通常很短,而且不正式。虽然许多传统的情感分析方法已经被提出,识别俚语情感词仍然没有解决。原因之一是俚语情感词在现有的词典或情感词典中不可用。为此,我们建议建立第一个俚语情感词典,以帮助对社交媒体内容进行情感分析。收集和标注一个完整的俚语列表的情感极性是费力和耗时的。我们提出了一种方法,利用网络资源,构建一个广泛的俚语情感词词典(SlangSD),易于维护和扩展。SlangSD可公开用于研究目的。我们经验表明,使用SlangSD,新建成的俚语情感词词典的情感分类的优势,并提供的例子证明其易用性与现有的情感系统。
2016-08-17 cs.CL
Incorporating Uncertain Segmentation Information into Chinese NER for Social Media Text
Tongji University(同济大学);Tencent(腾讯)
中文分词是中文命名实体识别(NER)系统提供词级信息的必要手段。然而,在处理社交媒体文本等口语数据时,分割错误传播是中文NER的一个挑战。在本文中,我们提出了一个模型(UIcwsNN),专门用于识别实体从中国的社交媒体文本,特别是利用模糊信息的分词。这种不确定信息包含了句子的所有潜在分割状态,为模型推断深层词级特征提供了通道。我们提出了一个三部曲(即,候选位置嵌入->位置选择性注意->自适应词卷积)来编码不确定的分词信息并获得适当的词级表示。在社交媒体语料库上的实验结果表明,该模型有效地消除了分割错误级联问题,与现有方法相比,性能提高了2%以上。
2020-06-15 cs.CL cs.LG
Tuiteamos o pongamos un tuit? Investigating the Social Constraints of Loanword Integration in Spanish Social Media
University of Michigan(密歇根大学);Georgia Institute of Technology(佐治亚理工学院);Google Research(谷歌研究院)
非英语语言的使用者经常从英语中借用外来词来表达新的或不寻常的概念。虽然这些外来词可以原封不动地借用,但说话者也可以整合这些词以适应其母语的限制,例如从英语“tweet”创建西班牙语“tuitear”。“语言学家通常认为外来词整合的过程更多地依赖于语言内部的限制,但社会语言学的限制,如说话人的背景,仍然只是定性的理解。我们调查的作用,社会背景和扬声器的背景在西班牙语使用的综合借词在社交媒体上。我们首先发现,报纸作者比社交媒体作者更频繁地使用外来词和本地词的整合形式,这表明整合与正式领域有关。在社交媒体中,我们发现说话者的背景和对正式的期望解释了外来词和本地词的整合,这样,使用更多西班牙语和向更广泛的受众写作的作者往往更频繁地使用整合的动词形式。本研究表明,外来词整合不仅反映了语言内部的限制,但也不同的会话和扬声器的社会期望。
2021-01-16 cs.CL
Word Embeddings Track Social Group Changes Across 70 Years in China
Institute for Artificial Intelligence, Peking University(人工智能研究院,北京大学);Yuanpei College, Peking University(元培学院,北京大学)
该研究通过分析中国媒体70年的词嵌入数据,揭示了社会群体在官方语言中的演变,强调了非西方视角在计算社会科学中的重要性。
2025-04-12 cs.CL cs.SI
New Product Development (NPD) through Social Media-based Analysis by Comparing Word2Vec and BERT Word Embeddings
University of Indonesia(印度尼西亚大学);CloudWalk Inc(云从科技公司)
本文比较Word2Vec与BERT词嵌入在有限数据下对推文情感和观点分类的效果,发现BERT结合Balanced Random Forest表现最佳,并通过词图分析为新产品开发提供改进反馈。
2023-04-17 cs.CL cs.LG
Social-Group-Agnostic Word Embedding Debiasing via the Stereotype Content Model
University of Southern California(南加州大学)
现有的词嵌入去偏置方法需要社会群体特定的词对(例如,“男人”-“女人”)的每个社会属性(例如,性别),这不能用于减轻对其他社会群体的偏见,使得这些方法不切实际或成本高昂,以将未充分研究的社会群体纳入去偏见。我们建议,刻板印象内容模型(SCM),在社会心理学中开发的理论框架,了解刻板印象的内容,结构刻板印象的内容沿两个心理维度-“温暖”和“能力”-可以帮助去偏见的努力,成为社会群体不可知论通过捕捉偏见和刻板印象之间的潜在联系。只使用成对的温暖术语(例如,“真的”-“假的”)和能力(例如,“聪明”-“愚蠢”),我们用既定的方法进行去偏置,并发现,在性别,种族和年龄上,基于SCM的去偏置执行与特定于组的去偏置相同的去偏置
2022-10-11 cs.AI cs.CL cs.LG
Why Are You More Engaged? Predicting Social Engagement from Word Use
IBM Research - Almaden(IBM阿尔马登研究院)
我们提出了一项研究,分析如何使用的话可以预测社会参与行为,如在Twitter上的回复和转发。我们计算心理语言学的类别分数从词的使用,并调查不同分数的人如何表现出不同的回复和转发Twitter上的行为。我们还发现心理语言学类别与这种社会参与行为具有显着的相关性。此外,我们已经建立了预测模型的答复和转推,从这种心理语言学类别为基础的功能。我们使用从Twitter收集的真实世界数据集进行的实验验证了这种预测可以以合理的准确度进行。
2014-02-26 cs.CL cs.CY cs.SI
Making "fetch" happen: The influence of social and linguistic context on nonstandard word growth and decline
Georgia Institute of Technology(佐治亚理工学院)
在网络社区里,新词层出不穷:今天的“哈哈”可能会被明天的“lol”所取代。“在线写作的变化通常被视为一个社会过程,创新通过言语社区中的个人网络传播。但与其他类型的创新不同,语言变化是由它所参与的系统塑造和约束的。为了研究语言变化中社会因素和结构因素之间的联系,我们对在线社区Reddit中的非标准词增长进行了大规模分析。我们发现,在许多语言环境中的传播是增长的标志:出现在更多语言环境中的单词增长得更快,生存时间更长。我们还发现,社会传播可能发挥不太重要的作用,在解释字的增长和下降比以前假设的。
2018-08-31 cs.CL cs.SI physics.soc-ph
Mixed Membership Word Embeddings for Computational Social Science
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
词嵌入通过揭示词之间隐藏的结构关系来提高NLP系统的性能。尽管在许多应用中取得了成功,但词嵌入在计算社会科学NLP任务中的应用很少,可能是因为它们依赖于大数据,并且缺乏可解释性。本文提出了一种基于概率模型的词嵌入方法,该方法可以在不需要大数据的情况下恢复可解释的嵌入。关键的洞察力是利用混合成员建模,其中全局表示是共享的,但各个实体(即字典单词)可以自由地使用这些表示,以独特的不同程度。我将展示如何结合使用最先进的词嵌入和主题模型训练技术来训练模型。实验结果表明,在预测语言建模的MRR高达63%的跳跃-gram的改进,并证明表示是有益的监督学习。我说明了模型的可解释性与计算社会科学的国情咨文和NIPS文章的案例研究。
2018-02-20 cs.AI cs.CL cs.LG
On Measuring Social Biases in Sentence Encoders
Johns Hopkins University(约翰斯·霍普金斯大学);New York University(纽约大学)
词嵌入关联测试表明,GloVe和word2vec词嵌入表现出基于性别、种族和其他社会结构的类似人类的内隐偏见(Caliskan等人,2017年)的报告。与此同时,学习可重用文本表示的研究已经开始探索高级文本,一些句子编码器看到了热情的采用。因此,我们扩展了词嵌入关联测试来测量句子编码器中的偏差。然后,我们测试了几个句子编码器,包括最先进的方法,如ELMo和BERT,在以前的工作中研究的社会偏见和两个重要的偏见,很难或不可能在单词水平上测试。我们观察到混合的结果,包括可疑的敏感性模式,这表明测试的假设可能并不普遍。最后,我们提出了未来工作的方向,衡量句子编码器的偏见。
2019-03-25 cs.CL cs.CY
Editorial introduction: The power of words and networks
弗洛伊德说:“语言最初是有魔力的,直到今天,语言仍然保留着它们古老的魔力。通过语言,行为得到转变,问题得到解决。我们使用语言的方式揭示了我们的意图、目标和价值观。新颖的文本分析工具有助于理解文字的神奇力量。如果与社交网络的研究相结合,即与社会单位之间关系的分析相结合,这种力量就会成倍增加。这份题为“结合社会网络分析和文本挖掘:从理论到实践”的国际信息管理杂志特刊,包括文本挖掘和社会网络分析之间联系的异质性和创新性研究。它旨在丰富这些领域的交叉工作,这些领域在理论,经验和方法基础方面仍然落后。这九篇文章被接受纳入这个特殊的问题,所有目前的方法和工具,有业务应用。在这篇社论的导言中对它们进行了总结。
2021-05-24 cs.CL cs.SI
Validating LLMs in social science: Epistemic threats and emerging norms
School of Information, University of Michigan(信息学院,密歇根大学);Center for the Study of Complex Systems, University of Michigan(复杂系统研究中心,密歇根大学)
研究探讨大语言模型对社会科学方法论的重塑,通过分析八本旗舰期刊论文语料库,发现其生成测量在实证分析中核心作用凸显,但验证实践存问题,进而概述补充策略以完善大语言模型在社会科学应用的规范标准。
2026-07-10 cs.CL cs.CY
Wordflow: Social Prompt Engineering for Large Language Models
Georgia Tech(佐治亚理工学院)
针对非专业人士难以开展提示工程的问题,研究提出社会化提示工程范式,并开发开源社会化文本编辑器Wordflow,支持普通用户协作设计、分享提示词及本地私密运行大语言模型,助力提升非专业用户与大语言模型的交互体验。
2024-01-25 cs.AI cs.CL cs.HC
Bridging Social Media and Search Engines: Dredge Words and the Detection of Unreliable Domains
该研究提出整合网页图与社交媒体语境的图神经网络系统,引入疏浚词概念,在网站可信度分类任务中取得最优效果并提升不可靠域名top-k识别性能,还发布了相关数据集。
2025-06-17 cs.AI cs.CL cs.CY
Embed2Detect: Temporally Clustered Embedded Words for Event Detection in Social Media
Birmingham City University(伯明翰城市大学)
社交媒体正在成为讨论世界各地正在发生的事情的主要媒介。因此,社交媒体平台生成的数据包含描述正在发生的事件的丰富信息。此外,与这些数据相关的及时性能够促进即时洞察。然而,考虑到社交媒体数据流中的动态性质和大量数据生产,手动过滤事件是不切实际的,因此,自动事件检测机制对社区来说是非常宝贵的。除了少数几个明显的例外,大多数以前的自动事件检测的研究只集中在统计和句法特征的数据,缺乏参与的潜在语义是重要的有效的信息检索从文本,因为他们代表的单词和它们的含义之间的连接。在本文中,我们提出了一种新的方法称为Embed 2Detect的社交媒体事件检测结合词嵌入和层次凝聚聚类的特点。词嵌入的采用使Embed 2Detect能够将强大的语义特征纳入事件检测,并克服了以前方法固有的主要限制。我们在最近两个代表体育和政治领域的真实社交媒体数据集上实验了我们的方法,并将结果与几种最先进的方法进行了比较。实验结果表明,Embed 2Detect能够有效地进行事件检测,其性能优于现有的事件检测方法。对于体育数据集,Embed 2Detect实现了比最佳基线高27%的F-测量,对于政治数据集,它增加了29%。
2021-05-25 cs.CL cs.IR
Debiasing Word Embeddings with Nonlinear Geometry
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Arizona State University(亚利桑那州立大学)
去偏置词嵌入在很大程度上局限于个人和独立的社会类别。然而,现实世界的语料库通常呈现多个可能相互关联或交叉的社会类别。例如,“头发编织”是刻板印象与非洲裔美国女性,但既不是非洲裔美国人也不是女性单独。因此,这项工作研究的偏见与多个社会类别:联合偏见引起的工会不同类别和交叉偏见,不重叠的偏见的组成类别。我们首先从经验上观察到,个体偏差非平凡地相交(即,在一维子空间上)。借鉴社会科学中的交叉理论和语言学理论,我们构建了一个交叉子空间,使用个人偏见的非线性几何来消除多个社会类别的偏见。实证评估证实了我们的方法的有效性。数据和实现代码可以从https://github.com/GitHubLuCheng/Implementation-of-JoSEC-COLING-22下载。
2022-08-29 cs.AI cs.CL
A Human Word Association based model for topic detection in social networks
Islamic Azad University(伊斯兰阿扎德大学)
本文提出一种基于人类词汇联想的社交网络话题检测框架,利用专门提取算法,在FA-CUP和波斯语Telegram数据集上显著提升检测性能。
2024-08-21 cs.AI cs.CL
When Words Divide: Diachronic Ideological Polarization in Political Discourse on Social Media
The Academic College of Tel-Aviv Yaffo(特拉维夫-雅法学术学院)
该研究通过构建时间对齐的Reddit社群特定词嵌入,量化政治概念的语义差异以分析意识形态极化,发现研究期间极化大幅加剧,其方法可捕捉语义框架中意识形态差异的演变。
2026-08-04 cs.CL cs.SI
SexWEs: Domain-Aware Word Embeddings via Cross-lingual Semantic Specialisation for Chinese Sexism Detection in Social Media
Queen Mary University of London(伦敦玛丽女王大学)
针对中文性别歧视检测数据稀缺问题,提出跨语言领域感知语义特化框架,利用英语语义资源改造中文预训练词向量以注入领域知识,生成的SexWEs在内外评估中均显著提升性能。
2023-03-30 cs.CL cs.SI
Rethinking LLM Bias Probing Using Lessons from the Social Sciences
Harvard University(哈佛大学);John A. Paulson School of Engineering and Applied Sciences, Harvard University(哈佛大学约翰·A·保尔森工程与应用科学学院)
针对LLM偏见探测缺乏选择标准、冲突协调系统和泛化推理框架的挑战,本文借鉴社会科学见解系统化偏见探测,并提出EcoLevels框架以确定探测方法、协调冲突发现并预测偏见泛化。
2025-02-28 cs.AI cs.CL cs.CY
Multi-task Prompt Words Learning for Social Media Content Generation
School of Advanced Technology, Xi’an Jiaotong-Liverpool University(西交利物浦大学先进技术学院)
针对AI在社交媒体内容创作应用空白的问题,提出融合多任务的多模态提示词生成框架,结合模板引导ChatGPT生成推文,并用其实现大规模评估,效果优于人工及其他提示技术。
2024-07-10 cs.CL cs.CV cs.MM
Assessing Social and Intersectional Biases in Contextualized Word Representations
Yale University(耶鲁大学)
机器学习中的社会偏见已经引起了人们的极大关注,工作范围从在众多应用程序中展示偏见,为不同的上下文策划公平的定义,到开发算法来减轻偏见。在自然语言处理中,性别偏见已经被证明存在于上下文无关的词嵌入中。最近,上下文单词表示在几个下游NLP任务中的表现优于词嵌入。这些单词表示取决于它们在句子中的上下文,也可以用于编码整个句子。在本文中,我们分析了在何种程度上的最先进的模型上下文单词表示,如BERT和GPT-2,编码偏见与性别,种族和交叉身份。为此,我们建议在上下文单词水平上评估偏见。这种新颖的方法捕捉上下文无关的词嵌入中的偏差缺失的上下文效应,但避免了混淆效应,低估了偏见在句子编码水平。我们证明了在语料库水平上的偏见的证据,发现不同的证据嵌入关联测试中的偏见,特别是显示,种族偏见是强烈编码的上下文单词模型,并观察到交叉少数民族的偏见影响加剧超越其组成少数民族的身份。此外,在上下文单词水平上评估偏见效应可以捕获在句子水平上无法捕获的偏见,这证实了我们新方法的必要性。
2019-11-04 cs.AI cs.CL cs.CY
Navigating the Risks of Using Large Language Models for Text Annotation in Social Science Research
Stony Brook University(石溪大学)
本文面向社会科学文本标注,提出将 LLM 用作主要编码决策者或助手的评估框架,系统检验其有效性、可靠性、可复现性与透明度风险,并给出实用指南。
2025-07-25 cs.CL cs.CY
Tweet2Vec: Character-Based Distributed Representations for Social Media
Carnegie Mellon University(卡内基梅隆大学)
来自社交媒体的文本提供了一系列挑战,可能导致传统的NLP方法失败。非正式语言、拼写错误、缩写和专用字符在这些帖子中都很常见,导致单词级方法的词汇量过大。我们提出了一个字符组成模型,tweet2vec,它发现整个推文的矢量空间表示通过学习复杂的,非本地的字符序列的依赖关系。所提出的模型在预测与帖子相关的用户注释的主题标签方面优于单词级基线,当输入包含许多词汇表外的单词或不寻常的字符序列时,效果明显更好。我们的tweet2vec编码器是公开的。
2016-05-17 cs.CL cs.LG
Causal Effects of Trigger Words in Social Media Discussions: A Large-Scale Case Study about UK Politics on Reddit
Cardiff University(卡迪夫大学);University of Birmingham(伯明翰大学)
本研究通过分析Reddit上的英国政治讨论,发现触发词与高参与度和负面情绪相关,揭示了社交媒体中极化现象的机制。
2026-03-03 cs.CL cs.CY cs.SI
Short text classification with machine learning in the social sciences: The case of climate change on Twitter
Stockholm University(斯德哥尔摩大学)
本文针对社会科学研究中小规模标注、类别低频的短文本分类难题,以气候变化相关Twitter推文分类为案例,对比多种文本分类器性能,发现传统机器学习方法效果媲美深度学习且资源需求更低。
2023-10-03 cs.CL cs.LG stat.ME
Look inside. Predicting stock prices by analysing an enterprise intranet social network and using word co-occurrence networks
这项研究调查了员工的沟通,提供了新的指标,可以帮助预测公司的股票价格。我们研究了一家大型意大利公司的内部网论坛,探索了大约8,000名员工的互动和语言使用。我们建立了一个网络连接的话包括在一般的话语。在这个网络中,我们关注代表公司品牌的节点的位置。我们发现,较低的情绪,公司品牌的较高介数中心性,更密集的词共现网络和更均匀分布的员工中心性得分(较低的群体介数中心性)都是较高股票价格的重要预测因素。我们的研究结果提供了新的指标,可以帮助学者,公司经理和专业投资者,并可以整合到现有的预测模型,以提高其准确性。最后,通过扩展词共现网络的应用领域,为词共现网络的研究做出了贡献。
2021-05-25 cs.CL cs.SI physics.soc-ph
ValNorm Quantifies Semantics to Reveal Consistent Valence Biases Across Languages and Over Centuries
Georgetown University(乔治城大学);University of Washington(华盛顿大学)
词嵌入从由词共现统计捕获的语言偏差中学习隐式偏差。通过扩展量化词嵌入中类人偏见的方法,我们引入了ValNorm,一种新的内在评价任务和方法来量化人类评价词集中的情感效价维度。我们将ValNorm应用于来自七种语言(中文,英语,德语,波兰语,葡萄牙语,西班牙语和土耳其语)和跨越200年的历史英语文本的静态词嵌入。ValNorm在量化非歧视性、非社会群体词集的效价方面实现了持续的高准确性。具体而言,ValNorm实现了皮尔逊相关性r=0.88的人类判断分数的效价为399个单词收集建立愉快的规范在英语中。相比之下,我们使用同一组词嵌入来衡量性别刻板印象,并发现社会偏见因语言而异。我们的研究结果表明,非歧视性,非社会群体词的配价协会代表了广泛共享的协会,在七种语言和超过200年。
2021-11-08 cs.AI cs.CL cs.CY
Causal Knowledge Extraction from Scholarly Papers in Social Sciences
Belk College of Business, University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校贝尔克商学院);Duke University(杜克大学);College of Computing and Informatics, University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校计算与信息学院)
今天学术文章的规模和范围压倒了寻求及时消化和综合知识的人类研究人员。在本文中,我们试图开发自然语言处理(NLP)模型,以加快从社会科学学术论文中提取关系的速度,从这些论文中识别假设,并提取因果实体。具体来说,我们开发模型来1)将商业和管理学术文献中的句子分类为假设(假设分类),2)将这些假设分类为因果关系或非因果关系(因果关系分类),如果它们是因果关系,3)从这些假设中提取因果实体(实体提取)。我们已经实现了高性能的所有三个任务使用不同的建模技术。我们的方法可以推广到广泛的社会科学的学术文件,以及其他类型的文本材料。
2020-06-16 cs.CL cs.DL cs.IR
A Pointillism Approach for Natural Language Processing of Social Media
University of New Mexico(新墨西哥大学);Rice University(莱斯大学);Harbin Engineering University(哈尔滨工程大学)
中文对以词为单位的自然语言处理提出了挑战,即使对于中文的正式使用,社交媒体也只会使中文的分词变得更加困难。在本文中,我们提出了一个点画法的方法来自然语言处理。点彩画方法的基本单位是字符的三元组,而不是具有单独含义的单词。当这些词以一种随着时间的推移而相互关联的方式出现在一起时,它们就具有了聚合的意义。我们的三种实验结果表明,当词和主题确实有模因的趋势,他们可以重建只有三元组。例如,对于在我们的数据中一天内至少出现99次的4个字符的习语,无约束精度(即,当结果与单词或短语的词典版本一样正确时,允许偏离词典的精度)为0.93。对于从Wiktionary收集的较长单词和短语,包括新词,无约束精度为0.87。我们认为这些结果是非常有前途的,因为它们表明,它是可行的机器重建复杂的成语,短语和新词具有良好的精度没有任何概念的话。因此,在社交媒体中,语言的丰富多彩和巴洛克式的使用在具有挑战性的语言(如中文)中是典型的,实际上可能是机器可以访问的。
2012-06-21 cs.CL cs.IR cs.SI
Prompt Refinement or Fine-tuning? Best Practices for using LLMs in Computational Social Science Tasks
IT University of Copenhagen(哥本哈根信息技术大学);Pioneer Center for AI(人工智能先锋中心)
本文通过在23项社会知识任务基准上评估现代大语言模型分类方法,提出三项最佳实践:选用更大词汇量和预训练语料库的模型、采用AI增强提示而非简单零样本,以及在任务数据上微调并视数据丰富度决定是否进行多数据集指令微调。
2024-08-02 cs.CL cs.CY physics.soc-ph
Cognitive network science for understanding online social cognitions: A brief review
University of Exeter(埃克塞特大学)
社交媒体正在将大量用户在时间线和情感内容方面的认知数字化。这些大数据为研究感知、个性和信息扩散等认知现象提供了前所未有的机会,但需要合适的可解释框架。由于社交媒体数据来自用户的头脑,因此这一挑战的有价值的候选者是认知网络,即为心理概念联想提供结构的认知模型。这项工作概述了认知网络科学如何通过在线媒体为理解认知开辟新的定量方法,例如:(i)重建用户如何使用机器学习无法获得的上下文知识在语义和情感上构建事件,(ii)通过社会话语中的知识结构研究概念突显/突出;(iii)通过帖子中的语言研究用户的个性特征,如开放性、好奇心和创造力;(iv)通过比较影响者和追随者的心态的多层网络,将认知/情感内容和社会动态联系起来。这些进步结合了认知、网络和计算机科学,以理解数字和现实世界环境中的认知机制,但在代表性、个体差异性和数据整合方面存在局限性。这些方面的讨论沿着操纵社会认知数据的伦理影响。在未来,通过网络和社交媒体阅读认知可以暴露被在线平台放大的认知偏见,并为政策制定、教育和市场提供有关大规模复杂认知趋势的相关信息。
2021-02-25 cs.CL cs.CY cs.SI
Prompt Selection Matters: Enhancing Text Annotations for Social Sciences with Large Language Models
Université Paris 1 Panthéon-Sorbonne(巴黎第一大学先贤祠-索邦大学);Université Paris-Saclay(巴黎萨克雷大学);Institut Jean Nicod(让·尼科德研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL-EHESS-CNRS(巴黎文理研究大学-法国高等社会科学研究院-法国国家科学研究中心)
本文研究提示选择对大型语言模型社会科学文本标注准确性的影响,发现不同提示性能差异显著,并提出自动提示优化方法以系统构建高质量提示,同时提供浏览器实现工具。
2025-03-10 cs.AI cs.CL cs.CY