LLM Echo Chamber: personalized and automated disinformation
Imperial College London(伦敦帝国学院)
本研究构建了LLM Echo Chamber数字环境,通过微调Microsoft phi2模型生成有害内容,揭示了LLMs传播虚假信息的风险及加强防护的必要性。
2024-09-24 cs.AI cs.CY
Personality Traits and Echo Chambers on Facebook
IUSS Institute for Advanced Study(IUSS高等研究院);IMT Institute for Advanced Studies(IMT高等研究院)
在在线社交网络中,用户倾向于选择与他们的信仰体系相一致的信息,并形成由志同道合的人组成的两极分化的群体。极化及其对在线社交互动的影响已经得到了广泛的研究。尽管如此,群体形成和人格特征之间的关系仍然不清楚。更好地了解在线社会动态的认知和心理决定因素可能有助于设计更有效的沟通策略,并挑战数字错误信息的威胁。在这项工作中,我们专注于用户评论美国Facebook页面发布的支持科学和阴谋般的叙述的帖子,我们根据他们的在线行为对这些用户的个性特征进行分类。我们发现,不同的和冲突的社区由显示出相似心理特征的用户组成,并且主导人格模型在科学和阴谋回音室中是相同的。此外,我们观察到,回声室内的持久性稍微塑造用户的心理概况。我们的研究结果表明,个人的特定人格特质的存在导致他们相当大的参与,在虚拟回声室内支持叙事。
2016-06-15 cs.CL cs.CY cs.HC
The Manufacture of Partisan Echo Chambers by Follow Train Abuse on Twitter
越来越多的证据表明,社交媒体存在严重的脆弱性,例如党派回声室的出现和错误信息的病毒式传播。我们发现,这些漏洞被与Twitter上所谓的“关注火车”相关的滥用行为放大,其中提到了一长串志同道合的账户供其他人关注。我们提出了一个大型的美国超党派训练网络的第一个系统分析。我们观察到一种人为的影响力膨胀:被追随者大量推广的账户从每日追随者增长的六倍中获利。这催化了高度聚集的回声室的形成,围绕活跃账户的密集核心分层组织。训练账户还从事其他违反平台政策的行为:我们发现不真实的自动账户和异常内容删除活动的证据,以及来自低可信度和阴谋来源的有毒内容的放大。一些训练账号已经活跃多年,这表明平台需要对这类滥用行为给予更大的关注。
2021-03-17 cs.CY cs.SI
Disinformation Echo-Chambers on Facebook
本研究提出一种分析帖子、URL 和图像的计算方法,用于识别 Facebook 群组中的协同性非真实行为,并发现在群组同步转发相同内容时会形成“虚假信息回音室”。
2023-09-26 cs.CY cs.SI
Reducing Opinion Echo-Chambers by Intelligent Placement of Moderate-Minded Agents
针对社交媒体中的观点回声室问题,本文识别可影响回声室形成的温和型智能体,并提出在观点—时间谱中智能放置这些智能体的算法,实验表明其优于其他放置策略。
2023-04-21 cs.CY cs.MA cs.SI
Decentralization of Agenda-Setting Power and Domain-Selective Bridging: Algorithm Design Beyond the Echo Chamber Debate
Faculty of Sociology (Psychology Division), Kansai University(关西大学社会学部(心理学方向))
本文提出议程民主化指数与社会信息健康模型,设计领域选择性桥接算法,经智能体模拟验证,该算法能在集体决策相关领域改善信息共享,同时维持爱好与生活方式领域用户体验,将回音室辩论转化为工程设计问题。
2026-08-06 cs.CY cs.SI
Echoes of Automation: How Bots Shaped Political Discourse in Brazil
University of Exeter(埃克塞特大学)
研究揭示机器人在巴西政治话语中的放大作用,通过分析2018和2022年选举期间的推文数据,发现机器人依赖转发和回复,情感基调较窄,主题集中于博洛尼奥,可能扭曲政治讨论。
2025-12-11 cs.CY cs.SI
A Systematic Review of Echo Chamber Research: Comparative Analysis of Conceptualizations, Operationalizations, and Varying Outcomes
本研究系统综述129项回声室相关研究,分析概念化与操作化分类、测量方法及情境因素对结果的影响,指出研究偏差与空白,提出跨平台研究等未来方向,助力全面理解回声室及其社会影响。
2025-02-17 cs.CY cs.HC cs.NI
Ideological Fragmentation of the Social Media Ecosystem: From echo chambers to echo platforms
该研究通过分析九个平台1.17亿条美国大选相关帖子,从平台中心性、新闻消费和用户构成三个维度量化了社交媒体生态系统从回音室向意识形态同质化“回音平台”的碎片化演变。
2025-06-04 cs.CY cs.SI physics.soc-ph
Reliability of Content and Echo Chambers on YouTube during the COVID-19 Debate
不准确及误导性信息的传播可能会改变行为并使危机管理复杂化,尤其是在COVID-19疫情等紧急情况下。本文旨在通过评估YouTube上的新闻消费来研究COVID-19大流行期间的信息扩散。首先,我们分析了超过200万用户对68个YouTube频道发布的13,000个视频的参与,这些视频带有政治偏见和事实核查指数。然后,我们研究了每个用户的政治偏好与他们对可疑(即,事实核查不佳)和可靠的信息。我们的研究结果,量化使用的措施,从信息论,提供证据的回声室存在两个方面代表的政治偏见和可信度的信息渠道。我们观察到,回声室结构不能再现后,适当地随机化用户的交互模式。此外,我们观察到用户的政治偏见和他们的倾向,消费高度可疑的新闻之间的关系。
2022-11-29 cs.CY physics.soc-ph
Echo Chambers within the Russo-Ukrainian War: The Role of Bipartisan Users
本研究针对俄乌战争相关Twitter讨论,测量回音室现象,识别出观点随战事变化的两党用户子集,分析其在传播图中的角色及区分特征,并探讨其提升讨论质量的潜力。
2023-11-16 cs.CY
Network polarization, filter bubbles, and echo chambers: An annotated review of measures and reduction methods
本工作对网络极化、过滤气泡与回音室的度量与消减方法进行了标注综述,涵盖基于同质性、模块度等的度量策略,以及节点编辑、网络设计与推荐系统调整等消减方法。
2023-04-05 cs.CY cs.SI
Falling into the Echo Chamber: the Italian Vaccination Debate on Twitter
麻疹在美国和欧洲的重新出现,这种疾病被认为在21世纪初被消灭,伴随着社交媒体上关于疫苗接种优点的争论越来越多。在这项研究中,我们研究了Twitter上的疫苗接种辩论在多大程度上有助于潜在的疫苗接种犹豫。我们关注意大利,这是受最近麻疹疫情影响最严重的国家之一。我们发现,疫苗接种怀疑论者和倡导者都住在自己独特的“回音室”里。这些社区的结构也各不相同,怀疑论者被安排在一个紧密相连的集群中,而倡导者则围绕少数权威中心组织起来。在这些回音室的中心,我们找到了热情的支持者,我们为他们构建了高度准确的基于网络和基于内容的分类器(达到95%的交叉验证准确率)。这项研究的见解提供了几个潜在的未来的干预措施,包括网络引导的目标,会计的政治背景,并监测替代信息来源的途径。
2020-03-26 cs.CY
Brexit Means Brexit: Selection Bias, Echo Chambers, and Entrenched Opinion on Reddit
University of Technology Sydney(悉尼科技大学);Université de Lyon, UJM-Saint-Étienne, CNRS(里昂大学,圣艾蒂安国立综合理工学院,法国国家科学研究中心)
针对Reddit等结构化讨论平台的政治极化,提出端到端分析框架,通过构建r/Brexit数据集和域适应BERT分类器,发现未来立场预测受生存偏差干扰、回声室主导近40%互动、用户当前极性是未来极性的主要预测因子。
2026-06-15 cs.CY cs.SI
First, do no harm: Breaking suicidogenic echo chambers in media recommendation
E.T.S.I. Sistemas Informáticos (Universidad Politécnica de Madrid)(马德里理工大学信息系统工程系)
针对推荐系统在心理健康场景中可能加剧用户自杀倾向的问题,提出RankAid重排序方法,通过惩罚有害内容并提升治疗性内容,在保持推荐准确性的同时确保临床安全。
2026-05-24 cs.AI cs.CY cs.IR
Echo chambers in the age of misinformation
在线社交媒体中用户提供的内容的广泛可用性促进了人们围绕共同兴趣,世界观和叙述的聚集。尽管有些人热情地说这一过程产生了“集体智慧”,但万维网也允许未经证实的阴谋论迅速传播,这些阴谋论往往引起迅速、大规模但幼稚的社会反应,例如最近的Jade Helm 15事件-一次简单的军事演习被认为是美国内战的开始。我们研究了Facebook用户如何消费与两种不同类型的叙事相关的信息:科学和阴谋新闻。我们发现,尽管科学和阴谋故事的消费者在内容方面呈现出相似的消费模式,但传播级联的大小不同。均匀性似乎是内容物扩散的主要驱动力,但每个回声室都有自己的级联动力学。为了模拟这些动态,我们在签名网络上引入了一个数据驱动的渗流模型。
2015-12-21 cs.CY cs.HC cs.SI
Echo Chambers in the Age of Algorithms: An Audit of Twitter's Friend Recommender System
本文通过自动化账号与观察性研究审计 Twitter 的 Who-To-Follow 推荐系统,发现其虽形成密集互惠网络,却比社会认可带来更低政治同质性和更少虚假选举内容暴露。
2024-04-09 cs.CY cs.SI
Me, My Echo Chamber, and I: Introspection on Social Media Polarization
同质性--我们倾向于与那些与我们对世界有着相同观点和看法的人在一起--既是人性的一部分,也是支撑我们许多数字社交网络的组织原则。然而,当涉及到政治或文化时,同质性会放大部落的心态,并产生“回音室”,降低在线话语的质量,安全性和多样性。虽然有几项研究已经从经验上证明了这一点,但很少有人探讨如何让用户意识到他们的政治回音室的程度和性质会影响他们随后的信念和行动。在本文中,我们介绍了社会镜像,社交网络可视化工具,使Twitter用户的样本,以探索他们的社交网络的政治活跃的部分。我们使用社会镜像招募Twitter用户与政治话语的历史之前的随机实验中,我们评估不同的治疗对参与者的影响i)关于他们的网络连接的信念,ii)他们选择跟随的政治多样性,iii)他们选择分享的URL的政治对齐。虽然我们没有看到对共享URL的平均政治一致性的影响,但我们发现,推荐相反政治意识形态的账户可以降低参与者对其网络连接的政治同质性的信念,但仍然可以在治疗后一周增强他们的连接多样性。相反,那些增强他们对Twitter连接的政治同质性的信念的参与者在治疗后2-3周的网络连接多样性较低。我们探讨了这些信念和行动之间的脱节对未来努力的影响,以促进我们的数字公共领域更健康的交流。
2021-10-11 cs.CY cs.SI
Echo chamber amplification and disagreement effects in the political activity of Twitter users
在线社交网络已成为政治话语的重要平台。在本文中,我们调查是什么影响了用户参与政治讨论的水平。具体来说,当用户被志同道合的人包围时,或者,当他们的环境是异质的时,用户更有可能活跃,因此他们的信息可能会传递给具有不同观点的人。为了回答这个问题,我们分析了大约20万Twitter用户的活动,这些用户明确表示支持2012年美国总统大选的候选人之一。我们量化了用户的政治活动水平(PA)的政治推文在他们的职位的比例,并分析了PA和用户的政治环境的措施之间的关系。这些措施旨在评估相似性,例如,具有相似政治观点的用户的比例,他们的虚拟和地理环境。我们的研究结果表明,高PA通常是由用户在政治平衡的虚拟环境中获得。这符合政治学的分歧理论,该理论指出用户的PA被与他们的同伴的分歧所取代。我们的研究结果还表明,用户周围的政治志同道合的虚拟同行往往有低PA。这一观察结果与回声室放大理论相矛盾,该理论认为,当一个人被志同道合的人包围时,他往往在政治上更加活跃。最后,我们观察到,相似的地理环境并不影响PA。因此,我们得出结论,PA的用户是独立的相似性,他们的地理环境,并与相似性,他们的虚拟环境。相关性的确切形式体现了不一致的现象,并且在大多数情况下,与回声室放大理论相矛盾。
2014-06-17 cs.CY cs.SI physics.soc-ph
What is Gab? A Bastion of Free Speech or an Alt-Right Echo Chamber?
在过去的几年里,一些新的“边缘”社区,如4chan或某些subreddits,在网络上迅速获得了吸引力。然而,通常情况下,人们对它们如何演变或它们吸引了什么样的活动知之甚少,尽管最近的研究表明,它们影响了虚假信息如何到达主流社区。这就需要监控这些社区并分析它们对Web信息生态系统的影响。2016年8月,一个名为Gab的新社交网络被创建,作为Twitter的替代品。它将自己定位为“人民和言论自由第一”,欢迎被其他社交网络禁止或暂停的用户。在本文中,我们提供了,尽我们所知,第一个特征的加布。我们收集并分析了2016年8月至2018年1月期间33.6万用户发布的2200万条帖子,发现Gab主要用于传播和讨论新闻和世界事件,并吸引了另类右翼用户,阴谋论者和其他巨魔。我们还测量了平台上仇恨言论的流行程度,发现它远高于Twitter,但低于4chan的Politically Incorrect board。
2018-03-13 cs.CY cs.SI
Echoes in the Digital Abyss: Examining the Bubble Surrounding Security and Privacy Discourse in Social Networks
Northwestern University(西北大学);Purdue University(普渡大学)
该研究分析“X”平台超1300万用户数据,发现安全隐私讨论多集中于兴趣社区,核心贡献是揭示社交网络安全隐私讨论的信息茧房问题并提出扩大覆盖的思路。
2026-08-05 cs.CY
Funhouse Mirror or Echo Chamber? A Methodological Approach to Teaching Critical AI Literacy Through Metaphors
James Cook University Singapore(新加坡詹姆斯库克大学);Deakin University(迪肯大学);British University Vietnam(越南英国大学)
本文通过隐喻教学方法,提出四种隐喻帮助学生理解AI特性,促进批判性AI素养教育。
2024-11-22 cs.CY
When the Echo Chamber Shatters: Examining the Use of Community-Specific Language Post-Subreddit Ban
University of Vermont(佛蒙特大学);National Institute of Genomic Medicine (INMEGEN)(国家基因组医学研究所);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);De La Salle University(德拉萨大学);University of Florida(佛罗里达大学)
针对社区封禁效果研究不足的问题,提出无监督群体内语言识别方法,分析15个被封禁Reddit子版块用户行为,发现封禁效果因社区类型和用户角色而异,为理解跨社区封禁效果提供依据。
2021-06-30 cs.CY cs.SI
Right and left, partisanship predicts (asymmetric) vulnerability to misinformation
我们通过研究Twitter上的新闻分享行为,分析了党派之争、回音室和对在线错误信息的脆弱性之间的关系。虽然我们的研究结果证实了先前的研究结果,即在线错误信息共享与右倾党派关系密切,但我们也发现了左倾用户中类似的趋势,尽管趋势较弱。由于用户的党派性和他们在党派回音室中的位置之间的相关性,这些类型的影响是混淆的。为了理清它们的影响,我们进行了回归分析,发现对错误信息的脆弱性是最强烈的影响,无论是左倾和右倾用户的党派。
2021-01-21 cs.CY cs.SI
An Echo Chamber of One: Should AI Psychosis Be a Distinct Clinical Entity?
King’s College London(伦敦国王学院);Western Eye Hospital(西眼医院);University College London(伦敦大学学院)
该研究探讨与大语言模型聊天机器人相关的精神病是否应成为独立临床实体,分析其机制、利弊并提出多主体应对建议,强调需关注该现象。
2026-08-26 cs.CY
Community Shaping in the Digital Age: A Temporal Fusion Framework for Analyzing Discourse Fragmentation in Online Social Networks
本文提出一种融合文本与网络时序数据的框架,通过Twitter案例识别歧视话语碎片,揭示在线社区形成演化机制及其对社会极化的影响。
2024-09-18 cs.CY cs.SI
Political Polarization in Social Media: Analysis of the "Twitter Political Field" in Japan
关于互联网是一个公共领域还是一个回音室,人们一直在争论。在众多形式的社交媒体中,Twitter是政治辩论最重要的在线场所之一。以往的研究大多集中在Twitter政治场的形式结构上,如其同性恋倾向,或者将分析限制在少数几个主题上。然而,为了探讨Twitter是否具有回音室的功能,我们不仅要调查Twitter政治场的结构,还要调查Twitter政治场的内容。因此,我们进行了大规模的社会网络分析和自然语言处理。我们首先将社区发现方法应用到Twitter的互惠追随网络中,发现了该领域中的五个政治上不同的社区。我们通过采用主题模型分析推文的内容,进一步研究了其中讨论的主要主题,我们发现,与仇外心理有关的主题仅在右翼社区中流传。据我们所知,这是第一个研究,以解决回声室在日本的Twitter政治领域,并检查正式结构和内容的tweet与大规模社会网络分析和自然语言处理相结合。
2017-11-17 cs.CY cs.SI
Optimal Engagement-Diversity Tradeoffs in Social Media
众所周知,社交媒体平台可以在算法的帮助下优化用户参与度。人们普遍认为,这种做法会产生回音室\emdash用户主要接触到与自己相似的意见。在本文中,我们问回声室是否是高参与度的必然结果;我们在一个新的模型中解决这个问题。我们的主要理论结果建立了多样性约束下可实现的最大参与的界限,适当的参与和多样性的措施,因此,我们可以量化这两个目标之间的最坏情况下的权衡。我们的实证结果,基于Twitter的真实数据,图表的帕累托边界的多样性权衡。
2023-03-06 cs.CY cs.SI econ.GN
The drivers of online polarization: fitting models to data
本研究提出一种数值比较方法,将观点动态模型模拟结果与社交媒体实测数据拟合,以系统验证模型,并开发考虑人类与算法因素互动的模型,旨在揭示极化驱动因素并改进信息流算法。
2023-05-12 cs.CY cs.SI
Debunking in a World of Tribes
最近,互联网上的一次简单的军事演习被认为是美国新内战的开始。社交媒体围绕共同利益聚集人们,引发集体叙事和世界观的框架。然而,用户提供的内容的广泛可用性以及信息生产者和消费者之间的直接路径往往会导致对因果关系的混淆,鼓励不信任,谣言甚至阴谋思维。为了与这种趋势形成对比,经常尝试使用\textit{debunk}。在这里,我们通过对五年时间跨度(2010年1月,2014年12月)的5400万用户进行定量分析来检验揭穿的有效性。特别是,我们比较了用户如何与美国Facebook上经过验证的(科学的)和未经证实的(阴谋论般的)信息进行互动。我们的研究结果证实了回音室的存在,用户主要与阴谋或科学页面进行交互。两个群体在他们的回声室中与信息进行类似的互动。我们检查了47,780个揭穿帖子,发现揭穿的尝试基本上是无效的。首先,只有一小部分未经证实的信息的普通消费者与帖子互动。此外,我们表明,这些少数人往往是最坚定的阴谋用户,而不是内化揭穿信息,他们往往对它作出负面反应。事实上,在与揭穿帖子互动后,用户保留甚至增加了他们在阴谋回音室中的参与度。
2015-10-14 cs.CY cs.HC cs.SI
Bubble reachers and uncivil discourse in polarized online public sphere
本研究通过比较巴西和加拿大两国总统选举中的bubble reachers,发现意识形态中立的bubble reachers在加拿大减少不文明话语,但在巴西反而增加,表明国家政治背景调节了跨党派信息传播与话语文明度的关系。
2024-04-19 cs.CY cs.SI
The relationship between offline partisan geographical segregation and online partisan segregation
School of Information, University of Michigan(密歇根大学信息学院);McCourt School of Public Policy, Georgetown University(乔治城大学麦考特公共政策学院);Center for Social Media and Politics (CSMaP), New York University(纽约大学社交媒体与政治中心)
研究探讨了线下政党地理隔离与线上政党隔离的关系,发现在线网络隔离程度低于线下,民主党人更孤立,年长共和党人在线隔离更严重。
2025-12-11 cs.CY cs.SI
How do climate change skeptics engage with opposing views? Understanding mechanisms of social identity and cognitive dissonance in an online forum
与对立观点接触是否有助于打破意识形态上的“回音室”;还是适得其反,使回音室更加坚固?这个问题仍然至关重要,因为学者,政策制定者和活动家正在努力解决如何规范社交媒体上的政治讨论的问题。在这项研究中,我们通过研究Reddit上一个主要的气候变化怀疑论者在线社区中反对观点的影响来促进辩论。大量的帖子样本(N = 3000)被手动编码为不和谐音或和谐音,这允许对超过50,000个帖子的完整数据集进行自动分类,其中代码从链接的网站推断。我们发现,意识形态上不和谐的意见书作为一种刺激剂,在社区活动:他们收到更多的关注(评论)比和谐的意见书,即使他们通过向上投票和向下投票得到较低的分数。参与不和谐意见的用户也更有可能返回论坛。与认同理论相一致的是,与对立观点的对抗引发了论坛中的活动,特别是在高度参与社区的用户中。根据研究结果,社会认同和回声室理论进行了讨论和改进。
2021-02-12 cs.CY cs.SI