GLUCOSE: GeneraLized and COntextualized Story Explanations
Verneek, Inc.(Verneek公司);QuillBot Inc.(QuillBot公司);Elemental Cognition(元素认知公司)
当人类阅读或倾听时,他们会做出隐含的常识性推断,从而构建他们对发生了什么以及为什么发生的理解。作为迈向能够构建类似心智模型的人工智能系统的一步,我们引入了GLUCOSE,这是一个大规模的隐含常识因果知识数据集,编码为关于世界的因果迷你理论,每个理论都基于叙事背景。为了构建GLUCOSE,我们利用认知心理学来确定因果解释的十个维度,重点是事件,状态,动机和情绪。每个GLUCOSE条目包括一个特定于故事的因果陈述,以及从该陈述中概括的推理规则。本文详细介绍了两个具体的贡献。首先,我们介绍了我们的平台,用于大规模有效地众包葡萄糖数据,该平台使用半结构化模板来引出因果解释。使用这个平台,我们总共收集了约67万条特定语句和一般规则,这些语句和规则捕捉了有关日常情况的隐含常识。其次,我们表明,现有的知识资源和预训练的语言模型不包括或容易预测葡萄糖的丰富的推理内容。然而,当最先进的神经模型在这些知识的基础上进行训练时,它们可以开始对与人类心理模型相匹配的看不见的故事进行常识性推断。
2020-10-29 cs.AI cs.CL
SimpleToM: Exposing the Gap between Explicit ToM Inference and Implicit ToM Application in LLMs
Allen Institute for AI(艾伦人工智能研究所);NVIDIA(英伟达);Stanford University(斯坦福大学)
SimpleToM通过多层级ToM推理和日常场景测试,揭示LLM在显式心理状态推理与隐式应用之间的能力差距。
2026-03-02 cs.AI cs.CL
Auditing Stealth Sycophancy in Mental-Health Dialogue: Structured Clinical-State Diagnostics and Clean Matched Benchmarks
Shenzhen MSU-BIT University(深圳MSU-BIT大学)
针对心理健康对话模型中隐式谄媚(表面共情但强化消极认知)的问题,提出基于动态情感签名图(DESG)的结构化离线审计框架,通过临床状态转移评估响应方向,并在干净匹配基准上实现最优有害风险检测。
2026-05-25 cs.AI cs.CL
MapSatisfyBench: Benchmarking Satisfaction-Aware Map Agents through Behavior-Grounded Implicit Decision Factors
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
提出MapSatisfyBench基准,通过恢复用户行为链中的隐含决策因素来评估地图智能体的满意度感知能力,实验表明现有智能体在显式任务完成上表现良好,但在满足隐含需求方面仍有局限。
2026-06-18 cs.AI
Learning Dynamic User Personas from Implicit Interaction Streams via Iterative Refinement
PayPal(贝宝)
针对现有个性化LLM依赖显式偏好监督的局限,提出IRIS框架,通过隐式交互流迭代优化用户画像,在Reddit AITA数据上的100位作者测试中,其决策预测准确率达61.0%,优于多种基线方法。
2026-07-30 cs.CL cs.LG
Is GPT Powerful Enough to Analyze the Emotions of Memes?
Clemson University(克莱姆森大学);The Westminster Schools(威斯敏斯特学校);South Windsor High School(南温莎高中);D.W. Daniel High School(D.W.丹尼尔高中)
本研究通过SemEval-2020 Task 8和Facebook仇恨迷因数据集评估GPT-3.5在迷因情感分类、幽默类型判定和隐式仇恨检测上的表现,揭示其在主观任务中的优势与语境理解、隐式含义解读及数据偏差等局限。
2023-11-01 cs.CL cs.MM
VibeLifeBench: Can Your Life Agent Be Proactive and Persistent in a Living World?
Xiaohongshu Dots Studio(小红书Dots工作室);Evolvent AI(Evolvent AI公司)
本文提出VibeLifeBench基准,评估7个前沿LLM智能体在200项长周期日常生活任务中的表现,发现其主动与持续性不足,将开源相关任务、环境与评估框架。
2026-08-18 cs.AI cs.CL
My Words Imply Your Opinion: Reader Agent-based Propagation Enhancement for Personalized Implicit Emotion Analysis
School of Computer and Information Technology, Shanxi University, China(山西大学计算机与信息学院);Institute of Automation, Chinese Academy of Science, China(中国科学院自动化研究所);Key Laboratory of Computational Intelligence and Chinese Information Processing of Ministry of Education, Shanxi University, China(教育部计算智能与中文信息处理重点实验室);Joint Laboratory of Tourism Big Data in Shanxi Province, China(山西省旅游大数据联合实验室)
针对个性化隐式情感分析忽视读者影响的问题,提出RAPPIE模型,利用大语言模型模拟读者反馈并构建角色感知多视图图学习,在两个新数据集上显著优于基线。
2025-05-22 cs.CL
Active Confusion Expression in Large Language Models: Leveraging World Models toward Better Social Reasoning
Zhejiang University(浙江大学);Northwest University(西北大学)
针对LLMs在社会推理中混淆客观现实与主观信念的问题,提出自适应世界模型增强推理机制,通过动态监控困惑指标并提供清晰世界状态描述进行干预,显著提升了准确率并降低了计算成本。
2025-10-11 cs.AI cs.CL
Where Norms and References Collide: Evaluating LLMs on Normative Reasoning
本文提出SNIC测试平台,评估大语言模型在基于规范的参照解析任务中的能力,发现现有模型在处理隐含或冲突规范时存在显著不足。
2026-02-03 cs.AI cs.CL cs.LG
ESG Classification by Implicit Rule Learning via GPT-4
MODULABS;Chung-ang University(中央大学);Konkuk University(建国大学);Seoul Women's University(首尔女子大学);Yonsei University(延世大学)
本文研究通过提示、思维链和动态上下文学习等策略引导GPT-4与未知ESG评估标准对齐,在韩语赛道任务中获第二名,揭示了语言模型在缺乏训练数据时处理金融任务的潜力。
2024-03-22 cs.CL
Large Language Models Assume People are More Rational than We Really are
Princeton University(普林斯顿大学);Boston University(波士顿大学);New York University(纽约大学)
通过对比LLM行为与大规模人类决策数据,发现GPT-4o等前沿模型在模拟和预测人类选择时假定人比实际更理性,更接近期望值理论,且其推断与人类对他人理性的预期高度相关。
2025-03-10 cs.AI cs.CL cs.CY
How To Do Things With Prompts
本文通过语料库分析2023至2025年ChatGPT提示词,发现用户指令趋向间接含蓄、礼貌标记减少,命题内容变化最大(14.9个百分点),表明用户视系统为隐含意义解析器,并反思人机语言演变。
2026-09-25 cs.CL
Supernova Event Dataset: Interpreting Large Language Models' Personality through Critical Event Analysis
Stanford University(斯坦福大学);Mila, Quebec AI Institute(魁北克AI研究院)
本文提出超新星事件数据集,通过让LLM提取和排序关键事件,并由裁判模型推断其个性,揭示不同模型的决策风格,提升可解释性。
2025-06-22 cs.AI cs.CL
CCSBench: Evaluating Compositional Controllability in LLMs for Scientific Document Summarization
National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学);Sea AI Lab(Sea AI实验室)
CCSBench是首个科学文档组合可控摘要基准,评估LLMs同时控制长度与实证焦点等多属性的能力,发现其在平衡隐性属性上存在显著局限。
2025-08-04 cs.CL
Naming, Describing, and Quantifying Visual Objects in Humans and LLMs
ILLC, University of Amsterdam(阿姆斯特丹大学ILLC研究所);University of Amsterdam(阿姆斯特丹大学)
本研究评估了VLLMs在名词、属性和量词三类任务上模仿人类标签分布的能力,发现部分模型能模仿名词和属性的分布,但均无法准确分配量词。
2024-06-04 cs.CL
Eliciting the Priors of Large Language Models using Iterated In-Context Learning
Princeton University(普林斯顿大学)
本文提出一种基于迭代学习的提示工作流,用于从大型语言模型中引出Bayesian先验分布,实验表明GPT-4的先验与人类定性一致,并能推测未来事件。
2024-06-04 cs.CL
AbstentionBench: Reasoning LLMs Fail on Unanswerable Questions
FAIR at Meta(Meta的FAIR)
本文提出 AbstentionBench 基准,跨 20 个数据集评估 20 个前沿 LLM 的弃权能力,发现推理微调平均使弃权表现下降 24%,系统提示也无法弥补其不确定性推理缺陷。
2025-06-10 cs.AI
REvolve: Reward Evolution with Large Language Models using Human Feedback
Centre for Applied Autonomous Sensor Systems (AASS)(应用自主传感器系统中心)
REvolve利用人类反馈引导大语言模型进化生成奖励函数,在自动驾驶、人形运动和灵巧操作中优于现有基线。
2025-05-23 cs.AI cs.NE
RealitySummary: Exploring On-Demand Mixed Reality Text Summarization and Question Answering using Large Language Models
University of Calgary(卡尔加里大学);University of Colorado Boulder(科罗拉多大学博尔德分校);Apple(苹果公司);University of Rochester(罗切斯特大学)
本研究开发了RealitySummary,一个集成大型语言模型与混合现实的阅读助手,通过三轮迭代研究验证了其始终开启的隐式辅助、长期时间历史、最小化上下文切换和空间可供性等优势,展示了LLM-MR界面超越传统屏幕交互的潜力。
2025-09-23 cs.AI cs.CL cs.HC
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
Wuhan University(武汉大学);The Chinese University of Hong Kong(香港中文大学);The Hong Kong University of Science and Technology(香港科学与技术大学)
STALE基准测试评估LLM代理在新证据出现时修订存储信念的能力,揭示了现有模型在处理隐含冲突和更新状态时的不足,提出三种探查框架并提出CUPMem原型以改进状态感知记忆。
2026-05-07 cs.CL
Exploring Large Language Models as a Source of Common-Sense Knowledge for Robots
Honda Research Institute Europe(欧洲本田研究院)
本文探讨大型语言模型作为机器人常识知识来源,发现其在选择性提取情境知识上效果有限,但大规模提取通用知识有潜力,可辅助构建机器人本体。
2023-10-19 cs.AI cs.RO
Do LLMs Hold Their Values? MANTA: A Multi-Turn Adversarial Benchmark for Animal Welfare Reasoning
SPAR;Compassion Aligned Machine Learning(同情对齐机器学习);NUS(新加坡大学);Mila(Mila研究所);ERA Cambridge(剑桥ERA)
提出 MANTA 基准,通过多轮对抗性对话评估大语言模型在动物福利推理中的价值观稳定性和道德敏感性,发现单轮基准无法捕捉的排名变化和物种-压力交互效应。
2026-09-09 cs.AI cs.CY cs.LG
How Prolific Sellers Self-Present: Dissecting the Communication Patterns of 1.6 Million Reverb Listings
Michigan State University(密歇根州立大学)
本研究基于自我展示与担保理论,分析160万条Reverb乐器商品列表,发现多产卖家更侧重产品客观功能、采用叙事风格,为相关理论提供启示。
2026-09-01 cs.CL
Unsupervised Discovery of Implicit Gender Bias
Carnegie Mellon University(卡内基梅隆大学)
尽管社会偏见在社会中普遍存在,但很难识别,主要是因为人类在这一领域的判断可能不可靠。我们采取一种无监督的方法来识别评论级别对女性的性别偏见,并提出了一个模型,可以使可能包含偏见的文本浮出水面。我们的主要挑战是迫使模型关注隐含偏见的迹象,而不是数据中的其他工件。因此,我们的方法包括通过倾向匹配和对抗学习来减少混淆的影响。我们的分析表明,针对女性政治家的偏见评论包含了各种各样的批评,而针对其他女性公众人物的评论则侧重于外表和性化。最终,我们的工作提供了一种方法来捕捉各个领域的微妙偏见,而不依赖于主观的人类判断。
2020-10-06 cs.CL
RoleRMBench & RoleRM: Towards Reward Modeling for Profile-Based Role Play in Dialogue Systems
Shanghai Jiao Tong University(上海交通大学);Fudan University(复旦大学);Saarland University(萨尔兰州大学);Tencent Youtu Lab(腾讯优图实验室)
RoleRMBench与RoleRM旨在通过连续隐式偏好训练提升角色扮演对话系统中奖励建模的准确性与连贯性。
2025-12-11 cs.CL