arXivDaily arXiv每日学术速递 周一至周五更新
​通知:联邦节假日调休:哥伦布日 / 原住民日(Columbus Day / Indigenous Peoples' Day),今日(13日)无更新。
arXiv 2605.01017cs.CL

心理上有效,计算上不可见:LLM 生成引发社会比较的帖子但无法检测

Psychologically Potent, Computationally Invisible: LLMs Generate Social-Comparison-Eliciting Posts They Fail to Detect

Department of English Language Education(英语语言教育系);Analytics/Assessment Research Centre(分析/评估研究中心)

Hua Zhao, Jiapei Gu, Michelle Mingyue Gu

AI总结:

本研究通过构建小红书社会比较读者诱发基准(XHS-SCoRE),发现 LLM 在生成引发社会比较的帖子时存在生成-检测不匹配,即该信号在领域内可学习但无法通过提示分类稳健访问。

摘要:

我们引入了小红书社会比较读者诱发基准(XHS-SCoRE),这是一个基于读者视角的基准,用于检测纯文本小红书(RedNote)帖子是否从第一人称读者视角引发向上、向下或中性/无明确社会比较。该任务针对一种具有社会意义的关系性、行为上真实的信号,该信号不可简化为情感。在提示型 LLM 分类器和有监督的中文编码器中,我们发现了一致的生成-检测不匹配:该信号在领域内是文本可学习的,但无法通过基于提示的分类稳健访问。提示型 LLM 分类器表现出稳定的失败,特别是对引发比较的帖子进行中和以及模型特定的方向偏差。一项受控试点表明,即使基于提示的同一构念检测仍然脆弱,LLM 生成的小红书风格帖子也能改变感知地位和比较相关情感。XHS-SCoRE 为基于读者的比较检测提供了一个基准,并为研究社会意义的关系线索何时仅部分可见于基于提示的推理提供了一个诊断框架。

英文摘要:

We introduce Xiaohongshu Social Comparison Reader Elicitation (XHS-SCoRE), a reader-grounded benchmark for detecting whether text-only Xiaohongshu (RedNote) posts elicit Upward, Downward, or Neutral/no clear social comparison from a first-person reader perspective. The task targets a socially meaningful relational, behaviorally real signal not reducible to sentiment. Across prompted LLM classifiers and supervised Chinese encoders, we find a consistent generation-detection mismatch: the signal is textually learnable in-domain, but not robustly accessible to prompt-based classification. Prompted LLM classifiers show stable failures, especially neutralization of comparison-eliciting posts and model-specific directional skew. A controlled pilot shows that LLM-generated Xiaohongshu-style posts can shift perceived standing and comparison-related affect even when prompt-based detection of the same construct remains fragile. XHS-SCoRE contributes a benchmark for reader-grounded comparison detection and a diagnostic framework for studying when socially meaningful relational cues remain only partially visible to prompt-based inference.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑