Do Large Language Models Perform the Way People Expect? Measuring the Human Generalization Function
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院);University of Chicago Booth(芝加哥大学布斯商学院)
本文提出人类泛化函数来衡量人们对大型语言模型表现预期的信念,收集了 19K 样本数据集,发现更强大的模型(如 GPT-4)在人们选择使用的实例上可能因未对齐而表现更差。
2024-06-03 cs.AI cs.CL
Explaining How a Neural Network Play the Go Game and Let People Learn
Shanghai Jiao Tong University(上海交通大学);Runyu Technology (Shenzhen) Co., Ltd(深圳润宇科技有限公司)
本文提出通过提取围棋价值网络中的交互基元,以数学支持的方式解释AI知识并教授人类玩家,实验验证了方法的有效性。
2023-10-15 cs.AI cs.CV cs.LG
Putting People in Their Place: Affordance-Aware Human Insertion into Scenes
Stanford University(斯坦福大学);UC Berkeley(加州大学伯克利分校);Adobe Research(奥多比研究实验室)
该研究提出一种可供性感知的人物入景方法,通过自监督训练的大规模扩散模型实现符合场景约束的真实人物插入与交互合成,效果优于现有方法。
2023-04-27 cs.AI cs.CV cs.GR
Improving Human-AI Collaboration With Descriptions of AI Behavior
Carnegie Mellon University(卡内基梅隆大学)
人们使用人工智能系统来改善他们的决策,但通常会过度依赖人工智能预测,并且表现得比没有帮助的情况下更差。为了帮助人们适当地依赖AI辅助工具,我们建议向他们展示行为描述,即AI系统如何在子组实例上执行的细节。我们通过用户研究测试了行为描述的有效性,有225名参与者在三个不同的领域:虚假评论检测,卫星图像分类和鸟类分类。我们发现,行为描述可以通过两种机制来提高人工智能的准确性:帮助人们识别人工智能的失败,以及在人工智能更准确时增加人们对人工智能的依赖。这些发现强调了人类心理模型在人类与人工智能协作中的重要性,并表明向人们告知高级人工智能行为可以显着改善人工智能辅助决策。
2023-01-06 cs.AI cs.HC
The Role of AI in Peer Support for Young People: A Study of Preferences for Human- and AI-Generated Responses
University of Michigan Ann Arbor(密歇根大学安娜堡分校);Drexel University(德雷塞尔大学)
本研究通过622名年轻人的在线调查,评估了人类与AI生成的求助回复,发现在一般情境下偏好AI回复,但在自杀等敏感话题上更偏好人类回复,为AI安全辅助同伴支持提供了依据。
2024-05-04 cs.AI cs.HC
Chatbots as social companions: How people perceive consciousness, human likeness, and social health benefits in machines
Princeton University(普林斯顿大学);Princeton School of Public and International Affairs(普林斯顿公共与国际事务学院);Princeton Neuroscience Institute(普林斯顿神经科学研究所)
本文通过对比陪伴型聊天机器人用户与非用户,发现用户认为此类关系有益社交健康,且感知聊天机器人更具意识和人类相似性与更积极评价相关,揭示了类人聊天机器人可能通过提供可靠互动促进社交健康。
2025-04-10 cs.AI cs.HC
The human-AI relationship in decision-making: AI explanation to support people on justifying their decisions
IBM Research Brazil(IBM巴西研究院);Federal Fluminense University(弗鲁米嫩塞联邦大学)
人工智能系统的解释维度是近年来的研究热点。不同的社区对人工智能在人们日常工作中的日益增多以及它如何影响人们的生活提出了担忧。有很多研究涉及可解释AI(XAI)的可解释性和透明度概念,这些概念通常与算法和机器学习(ML)模型有关。但在决策场景中,人们需要更多地了解人工智能的工作原理及其结果,以与该系统建立关系。决策者通常需要向不同领域的其他人证明其决策的合理性。如果该决策以某种方式基于人工智能系统的结果或受其影响,那么解释人工智能如何达到该结果是在决策场景中建立人工智能和人类之间信任的关键。在这份立场文件中,我们讨论了XAI在决策场景中的作用,我们对AI系统决策的愿景,并从文献中探讨了XAI如何影响人们证明其决策的一个案例,考虑到为这些场景建立人与AI关系的重要性。
2021-02-22 cs.AI cs.HC
The Efficiency of Human Cognition Reflects Planned Information Processing
Princeton University(普林斯顿大学);Brown University(布朗大学)
规划是有用的。它让人们采取行动,有可取的长期后果。但是,规划是很难的。它需要考虑后果,这消耗了有限的计算和认知资源。因此,人们应该计划他们的行动,但他们也应该聪明地部署用于计划行动的资源。换句话说,人们也应该“计划他们的计划”。在这里,我们制定这方面的规划作为一个元推理问题,并正式将其纳入一个递归贝尔曼目标,任务奖励和信息理论的规划成本。我们的账户对人们应该如何计划和元计划作为任务整体结构的函数进行了定量预测,我们在两个实验中对人类参与者进行了测试。我们发现,人们的反应时间反映了信息处理的计划使用,与我们的帐户一致。这种规划到规划的表述为人类和机器的层次规划、状态抽象和认知控制的功能提供了新的见解。
2020-02-13 cs.AI
Perceptions of Fairness and Trustworthiness Based on Explanations in Human vs. Automated Decision-Making
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
自动决策系统(ADS)在许多高风险领域已经变得无处不在。这些系统通常涉及复杂但不透明的人工智能(AI)技术,这些技术很少允许完全理解其内部工作原理,特别是对于受影响的个人。因此,ADS容易出现监督和校准不足,这可能导致不期望的(例如,不公平的结果。在这项工作中,我们与200名参与者进行了一项在线研究,以检查人们对ADS的公平性和可信赖性的看法,并与人类而不是ADS做出高风险决策的情况进行比较-我们提供了关于两种情况下决策的完全相同的解释。令人惊讶的是,我们发现人们认为ADS比人类决策者更公平。我们的分析还表明,人们的人工智能素养会影响他们的看法,这表明人工智能素养较高的人更倾向于ADS而不是人类决策者,而人工智能素养较低的人在他们的看法上没有显着差异。
2021-09-13 cs.AI cs.HC
Artificial Intelligence versus Maya Angelou: Experimental evidence that people cannot differentiate AI-generated from human-written poetry
University of Amsterdam(阿姆斯特丹大学);Max Planck Institute for Human Development(马克斯·普朗克人类发展研究所)
公开可用的、健壮的自然语言生成算法(NLG)的发布引起了公众的广泛关注和争论。原因之一在于这些算法据称能够在各个领域生成类似人类的文本。缺乏使用激励任务来评估人们(a)是否能够区分和(b)是否更喜欢算法生成的文本与人类书写的文本的经验证据。我们进行了两个实验,评估对最先进的自然语言生成算法GPT-2(Ntotal = 830)的行为反应。使用人类诗歌的相同起始行,GPT-2产生了诗歌样本。从这些样本中,要么随机选择一首诗(Human-out-of-the-loop),要么选择最好的一首诗(Human-in-the-loop),然后与人类写的诗进行匹配。在一个新的激励版本的图灵测试中,参与者未能在人在环治疗中可靠地检测到算法生成的诗歌,但在人在环治疗中成功。此外,人们对算法生成的诗歌表现出轻微的厌恶,这与参与者是否被告知诗歌的算法起源(透明度)或不透明度无关。我们讨论了这些结果传达的NLG算法的性能,以产生类似人类的文本,并提出方法来研究这种学习算法在人类代理实验设置。
2020-09-08 cs.AI cs.CL econ.GN
Misplaced Trust: Measuring the Interference of Machine Learning in Human Decision-Making
Massachusetts Institute of Technology(麻省理工学院)
机器学习决策辅助系统在网络上越来越常见,但它们的成功集成依赖于人们对它们的适当信任:他们应该使用该系统来填补他们能力的空白,但要识别系统可能不正确的信号。我们通过对175名成年人进行的基于任务的研究,测量了人们对ML建议的信任如何因专业知识和更多系统信息而有所不同。我们使用了两个对人类来说很难的任务:比较大的人群规模和识别相似的动物。我们的研究结果提供了三个关键的见解:(1)人们信任不正确的ML建议,即使他们对ML有很高的先验知识,或者得到的信息表明系统对其预测不自信;(2)四种不同类型的系统信息都增加了人们对建议的信任;(3)数学和逻辑技能对于使用ML建议的决策者来说可能与ML一样重要。
2020-05-22 cs.AI cs.HC cs.LG
Are Large Language Models Aligned with People's Social Intuitions for Human-Robot Interactions?
King’s College London(伦敦国王学院)
本研究测试LLMs在人机交互中是否与人类直觉一致,通过重现三项用户研究,发现GPT-4在两项中与用户高度相关,但视觉模型和评分偏高问题仍存。
2024-07-09 cs.AI cs.HC cs.RO
Selective Social-Interaction via Individual Importance for Fast Human Trajectory Prediction
本文提出基于重要性估计器选择关键邻居行人,结合Gumbel Softmax训练,在JRDB数据集上实现快速且精度有竞争力的轨迹预测。
2025-06-23 cs.AI cs.CV
People cannot distinguish GPT-4 from a human in a Turing test
UC San Diego(加州大学圣迭戈分校)
本研究通过随机对照的预注册图灵测试发现,GPT-4被判定为人类的比例达54%,首次实证证明人工系统可通过双人交互式图灵测试,且风格与社会情感因素对通过测试的影响大于传统智能概念。
2024-05-09 cs.AI cs.HC
Blaming Humans and Machines: What Shapes People's Reactions to Algorithmic Harm
KAIST(韩国科学技术院);IBS(基础科学研究院);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);Max Planck Institute for Research on Collective Goods(马克斯·普朗克集体物品研究所)
本研究通过三项调查(N=1,153),探讨了可解释性、公平性等因素如何影响人们对AI系统、开发者及用户的责备归因,发现对机器的责备主要取决于人们是否认为这是对算法危害的合适回应。
2023-04-05 cs.AI cs.CY cs.HC
Human agency in initial human-AI proof formalization workflows
Massachusetts Institute of Technology(麻省理工学院);University of Cambridge(剑桥大学);Princeton University(普林斯顿大学);University of Oxford(牛津大学);Caltech(加州理工学院);Carnegie Mellon University(卡内基梅隆大学);Universitat Politècnica de València(瓦伦西亚理工大学);New York University(纽约大学)
通过混合方法分析,研究人们在形式化证明过程中对AI工具的需求、障碍及实际使用模式,发现AI辅助能提高形式化准确率且用户偏好多样但普遍希望保持人类对证明发现过程的高层控制。
2026-08-11 cs.AI
Using Machine Teaching to Investigate Human Assumptions when Teaching Reinforcement Learners
University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Princeton University(普林斯顿大学)
通过将教学问题表述为机器教学优化问题并用深度学习近似求解,研究发现人类在Q-learner折扣率小、学习率大时教学效果较好但仍次优,实时反馈更新微弱有帮助,为设计直觉化机器智能体提供指导。
2023-06-29 cs.AI cs.HC cs.LG
Capturing Humans' Mental Models of AI: An Item Response Theory Approach
University of California, Irvine(加州大学欧文分校)
本文提出基于项目反应理论的框架来建模人类对AI队友的感知,通过真实问答实验对比了人类对AI与人类队友的心智模型,发现人们期望AI表现更优且更稳定,为人机交互提供了重要启示。
2023-05-15 cs.AI cs.HC cs.LG
People construct simplified mental representations to plan
Princeton University(普林斯顿大学);Brown University(布朗大学);DeepMind(深度思维)
人类认知最显著的特征之一是计划能力。人类计划的两个方面很突出:效率和灵活性。效率尤其令人印象深刻,因为计划通常必须在复杂的环境中制定,然而,尽管认知资源有限,人们仍然成功地计划了无数日常问题的解决方案。心理学、经济学和人工智能的标准解释都认为,人类的计划之所以成功,是因为人们对一项任务有一个完整的表征,然后使用逻辑学来规划未来的行动。然而,这种方法通常假设任务表示是固定的。在这里,我们建议,任务表示可以控制,这样的控制提供了机会,以快速简化问题,更容易的原因。我们提出了一个计算帐户的这种简化过程,并在一系列预先注册的行为实验,表明它是受在线认知控制,人们最佳平衡的复杂性的任务表示及其实用程序的规划和行动。这些结果表明,如何战略性地感知和构思问题,促进有限的认知资源的有效利用。
2022-11-26 cs.AI
Humanoid Robots as Agents of Human Consciousness Expansion
Hanson Robotics(汉森机器人公司);OpenCog Foundation(OpenCog基金会);Institute of Noetic Sciences(心智科学研究所);Mossbridge Institute, LLC(莫斯布里奇研究所有限责任公司);Hong Kong Polytechnic University(香港理工大学)
“Loving AI”项目涉及开发软件,使人形机器人能够以充满爱心和同情心的方式与人互动,并促进人们的自我理解和自我超越。目前,该项目的中心是汉森机器人公司的机器人“索菲亚”,具体来说,是为索菲亚提供个性内容以及认知、语言、感知和行为内容,旨在实现支持人类自我超越的爱的互动。2017年9月进行了一项小型试点研究,涉及Sophia机器人通过对话和练习引导人类受试者进行冥想,可视化和放松。该试点项目取得了明显的成功,从质量上证明了该方法的可行性以及适当的人机交互增加人类福祉和提高人类意识的能力。
2017-09-22 cs.AI
No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy
Kyra Wilson(1 Kyra Wilson);Mattea Sim(2 Mattea Sim)
本研究通过简历筛选实验发现,有偏见的AI招聘推荐会显著改变人类决策,使人们高达90%的时间偏向AI偏爱的群体,并限制人类自主性,即使人们认为AI推荐质量低也仍受影响。
2025-09-08 cs.AI cs.CL cs.CY
Exploring the Effects of Chatbot Anthropomorphism and Human Empathy on Human Prosocial Behavior Toward Chatbots
Computer Science, National University of Singapore(计算机科学,新加坡国立大学);Department of Communications and New Media, National University of Singapore(通讯与新媒体系,新加坡国立大学);New Media, National University of Singapore(新媒体,新加坡国立大学)
本研究探讨了聊天机器人拟人化和人类共情如何促进人类对聊天机器人的亲社会行为,并发现共情在其中起中介作用。
2025-06-25 cs.AI cs.HC
Human-AI Learning Performance in Multi-Armed Bandits
University of California, Berkeley(加利福尼亚大学伯克利分校)
人们经常面临具有挑战性的决策问题,其中结果是不确定或未知的。人工智能(AI)算法的存在可以在学习这些任务方面胜过人类。因此,人工智能智能体有机会帮助人们更有效地学习这些任务。在这项工作中,我们使用一个多臂强盗作为一个控制设置,在其中探索这个方向。我们将人类与选定的代理配对,并观察每个人类代理团队的表现。我们发现,团队的表现可以击败人类和代理人的表现孤立。有趣的是,我们还发现,一个代理人的表现在隔离并不一定与人类代理团队的表现相关。座席性能的下降可能会导致团队性能的不成比例的大幅下降,或者在某些设置中甚至可以提高团队性能。将一个人与一个表现稍好的代理配对可以使他们表现得更好,而将他们与一个表现相同的代理配对可以使他们表现得更差。此外,我们的研究结果表明,人们有不同的探索策略,并可能表现得更好的代理,以配合他们的策略。总的来说,优化人类代理团队绩效需要超越优化代理绩效,了解代理的建议将如何影响人类决策。
2018-12-21 cs.AI
LEAP: Learning Articulated Occupancy of People
ETH Zürich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
使用深度隐式表示对刚性3D对象进行建模已经取得了实质性进展。然而,将这些方法扩展到学习人类形状的神经模型仍处于起步阶段。人体是复杂的,关键的挑战是学习一种概括的表示,以便它可以以看不见的,高度清晰的姿势表达看不见的主体的身体形状变形。为了应对这一挑战,我们引入了LEAP(LEarning Articulated Occupancy of People),这是一种新的人体神经占用表示。给定一组骨骼变换(即关节位置和旋转)和空间中的查询点,LEAP首先通过学习的线性混合蒙皮(LBS)函数将查询点映射到规范空间,然后通过占用网络有效地查询占用值,该占用网络对规范空间中的准确身份和姿势相关变形进行建模。实验表明,我们的规范化占用估计与学习LBS功能大大提高了泛化能力的学习占用表示在各种人类形状和姿势,在所有设置优于现有的解决方案。
2021-04-14 cs.AI cs.CV
Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics
University of Toronto(多伦多大学);McGill University(麦吉尔大学);Mila Quebec AI Institute(米拉魁北克人工智能研究所)
本研究通过对93名AI安全与伦理领域专家的调查及17名专家的访谈,分析了人类研究在AI安全与伦理领域的认知适配性与障碍,并提出相关建议以避免流于形式的“人类洗白”。
2026-08-11 cs.AI cs.CY cs.HC
Human Misperception of Generative-AI Alignment: A Laboratory Experiment
University of Pennsylvania(宾夕法尼亚大学);The Pennsylvania State University(宾夕法尼亚州立大学)
研究通过激励性实验室实验探讨人们在经济决策中对生成式人工智能对齐的感知,发现人们高估了生成式人工智能与人类选择的一致性。
2026-04-01 cs.AI cs.GT econ.TH
Improving Human Decision-Making by Discovering Efficient Strategies for Hierarchical Planning
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
为了在现实世界中做出好的决策,人们需要有效的规划策略,因为他们的计算资源是有限的。了解哪些规划策略最适合不同情况下的人,对于理解和改进人类决策非常有用。但我们计算这些策略的能力过去仅限于非常小和非常简单的规划任务。为了克服这一计算瓶颈,我们引入了一种认知启发的强化学习方法,可以通过利用人类行为的层次结构来克服这一限制。其基本思想是将顺序决策问题分解为两个子问题:设定目标和规划如何实现目标。这种层次分解使我们能够在比以前可能的更大和更复杂的任务中发现人类规划的最佳策略。所发现的策略优于现有的规划算法,并实现了超人水平的计算效率。我们证明,教人们使用这些策略显着提高了他们的表现,在顺序决策任务,需要规划多达八个步骤。相比之下,以前的方法都不能提高人类在这些问题上的表现。这些研究结果表明,我们的认知知情的方法使得有可能利用强化学习,以改善人类在复杂的顺序决策问题的决策。未来的工作可以利用我们的方法来开发决策支持系统,改善人类在现实世界中的决策。
2021-01-31 cs.AI
Bayesian Inference of Self-intention Attributed by Observer
Keio University(庆应义塾大学);Dwango Artificial Intelligence Laboratory(Dwango人工智能实验室);The Whole Brain Architecture Initiative(全脑架构倡议);Tokyo Denki University(东京电机大学)
大多数使用强化学习(RL)学习任务策略的智能体缺乏与人沟通的能力,这使得人-智能体协作具有挑战性。我们认为,为了让RL代理理解人类同事的话语,RL代理必须推断出人们归因于他们的精神状态,因为人们有时会推断出对话者的精神状态并在此精神推断的基础上进行通信。本文提出了PublicSelf模型,这是一个模型的人谁推断的人自己的行为如何出现在他们的同事。我们在模拟环境中实现了RL代理的PublicSelf模型,并通过将其与人们的判断进行比较来检查模型的推理。结果表明,在人们可以从智能体的行为中找到某种意图的场景中,模型可以正确地推断出人们归因于智能体运动的智能体意图。
2018-10-12 cs.AI
Human-Agent Decision-making: Combining Theory and Practice
Bar-Ilan University(巴伊兰大学)
在博弈论和逻辑学中进行了大量的工作来模拟战略互动。一个重要的问题是,我们是否可以使用这些理论来设计与人互动的代理?一方面,它们为代理策略提供了正式的设计规范。另一方面,人们并不一定坚持按照这些策略进行游戏,他们的行为受到许多社会和心理因素的影响。在本文中,我们将考虑的问题,是否策略行为理论所暗示的策略可以使用的自动代理人,熟练地与人互动。我们将专注于我们构建的自动化代理,这些代理需要在两种谈判环境中与人互动:讨价还价和商议。对于讨价还价,我们将研究基于博弈论的均衡代理,对于论证,我们将讨论基于逻辑的论证理论。我们还将考虑安全游戏和说服游戏,并将讨论使用基于均衡的代理的好处。
2016-06-24 cs.AI cs.GT cs.MA
The Basic B*** Effect: The Use of LLM-based Agents Reduces the Distinctiveness and Diversity of People's Choices
Columbia Business School(哥伦比亚商学院);University of Antwerp(安特卫普大学)
该研究通过实地研究和对照实验发现,使用基于LLM的智能体会降低人们选择的独特性与多样性,且顺序选择、智能体个性化会放大该效应,相关发现对设计维护人类多样性的AI系统具有重要意义。
2026-08-21 cs.AI cs.CY cs.HC
On Human Robot Interaction using Multiple Modes
Indian Institute of Information Technology, Allahabad(阿拉哈巴德印度信息技术学院)
人形机器人具有与人类相似的身体结构。由于它们的技术设计,它们与人类共享相同的工作空间。他们被安置来清洁东西,帮助老年人,娱乐我们,最重要的是为我们服务。为了在家庭中被接受,它们必须具有比工业机器人更高的智能水平,它们必须具有社交能力,能够与周围的人互动,而这些人不应该是机器人专家。所有这些都属于人机交互(HRI)领域。人与机器人的交互方式有语音、手势、行为等多种。为了解决所有这些挑战,已经引入了多模型技术,其中手势以及语音被用作交互模式。
2018-11-17 cs.AI cs.HC
Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making
KAIST(韩国科学技术院);IBS(韩国基础科学研究院);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);Max Planck Institute for Research on Collective Goods(马克斯·普朗克集体利益研究所)
如何为自主人工智能(AI)系统的行为归属责任一直是人文和社会科学学科的广泛争论。这项工作提出了两个实验($N$ =200每个),衡量人们的看法,八种不同的概念的道德责任有关的AI和人类代理人的保释决策的背景下。使用现实生活中改编的小插曲,我们的实验表明,人工智能智能体被认为负有因果责任,并指责类似于人类代理人的相同任务。然而,人们如何看待这些代理人的道德责任存在有意义的差异;人类代理人比人工智能智能体具有更高程度的当前和前瞻性责任概念。我们还发现,人们希望人工智能和人类决策者和顾问能够证明他们的决定是正确的,而不管它们的性质如何。我们讨论了这些发现的政策和HCI影响,例如在高风险场景中需要可解释的AI。
2021-02-01 cs.AI cs.CY cs.HC
Imagine All the People: Citizen Science, Artificial Intelligence, and Computational Research
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);International Computer Science Institute(国际计算机科学研究所);University of Minnesota(明尼苏达大学);The Ohio State University(俄亥俄州立大学);Syracuse University(雪城大学);Human Computation Institute(人类计算研究所)
机器学习、人工智能和深度学习在过去十年中取得了重大进展。尽管如此,人类拥有独特的能力,如创造力,直觉,上下文和抽象,分析问题解决和检测不寻常的事件。为了成功应对紧迫的科学和社会挑战,我们需要人类和机器的互补能力。联邦政府可以通过明智地将公民科学和众包与人工智能(AI)、物联网(IoT)和云战略相结合,在多个方面加快其优先事项。
2021-04-05 cs.AI cs.CY
Let people fail! Exploring the influence of explainable virtual and robotic agents in learning-by-doing tasks
Italian Institute of Technology(意大利技术研究院);University of Genoa(热那亚大学);Paderborn University(帕德博恩大学)
本研究比较了经典解释与伙伴感知解释在动手学习任务中对人类行为的影响,发现独立完成任务的参与者比由可解释AI辅助的参与者获得更优的知识获取能力。
2024-11-15 cs.AI cs.HC cs.RO
Target-absent Human Attention
Stony Brook University(石溪大学)
人类注视行为的预测对于构建能够预测用户注意力的人机交互系统是重要的。计算机视觉模型已经被开发来预测人们在搜索目标对象时所做的注视。但如果图像没有目标呢?同样重要的是要知道人们在找不到目标时如何搜索,以及何时会停止搜索。在本文中,我们提出了第一个数据驱动的计算模型,解决了搜索终止问题,并预测搜索固定的人搜索目标,不出现在图像中的扫描路径。我们将视觉搜索建模为一个模仿学习问题,并使用一种新的状态表示(我们称之为Foveated Feature Maps(FFM))来表示观众通过注视获得的内部知识。FFM将模拟的中央凹视网膜集成到预训练的ConvNet中,该ConvNet产生网络内特征金字塔,所有这些都具有最小的计算开销。我们的方法集成了FFM作为逆强化学习的状态表示。在实验上,我们改进了COCO-Search 18数据集上预测人类目标缺失搜索行为的最新技术
2022-11-02 cs.AI cs.CV
Belief Offloading in Human-AI Interaction
Princeton University(普林斯顿大学);Eindhoven University of Technology(埃因霍温理工大学);University of Cambridge(剑桥大学)
本文研究了人类在与人工智能交互时,将信念形成过程卸载给AI系统的影响及潜在后果。
2026-02-09 cs.AI cs.CY cs.HC
EgoBody: Human Body Shape and Motion of Interacting People from Head-Mounted Devices
ETH Zürich(苏黎世联邦理工学院);Microsoft(微软);Meta Reality Labs Research(Meta现实实验室)
从以自我为中心的观点理解社交互动对于许多应用至关重要,从辅助机器人到AR/VR。推理互动的关键是从自我中心的角度理解互动伙伴的身体姿势和运动。然而,由于缺乏数据集,这一领域的研究受到严重阻碍。现有的数据集在大小、捕获/注释方式、地面实况质量或交互多样性方面都是有限的。我们填补了这一空白,提出自我身体,一种新的大规模数据集的人类姿势,形状和运动估计从自我中心的意见,在复杂的3D场景中的互动。我们使用微软HoloLens 2头戴式设备记录丰富的以自我为中心的数据流(包括RGB、深度、眼睛注视、头部和手部跟踪)。为了获得准确的3D地面实况,我们使用多Kinect装备校准耳机,并将富有表现力的SMPL-X人体网格拟合到多视图RGB-D帧,随着时间的推移重建3D人体形状和相对于场景的姿势。我们收集了125个序列,跨越不同的互动场景,并提出了第一个基准的3D全身姿势和形状估计的社会合作伙伴从自我中心的观点。我们广泛评估了最先进的方法,强调了它们在以自我为中心的情况下的局限性,并利用我们的高质量注释来解决这些局限性。数据和代码可在https://sanweiliti.github.io/egobody/egobody.html上获得。
2022-08-16 cs.AI cs.CV
SPEAR: Five Principles for Interactive Human-Agent Alignment
Columbia University(哥伦比亚大学)
本文提出将人机对齐视为交互设计问题,并引入SPEAR五原则:规范、过程、评估、适应与重新校准,以指导智能体在长期社会情境中的持续对齐。
2026-10-07 cs.AI cs.HC cs.MA
When LLMs Imagine People: A Human-Centered Persona Brainstorm Audit for Bias and Fairness in Creative Applications
Amadeus Nice France (2026)(法国Nice阿马德斯)
本文提出了一种人格脑暴审计方法,用于评估LLM在创意应用中的偏见和公平性,通过量化偏见并分析多个交集身份和社会角色,揭示模型生成中潜在的不公平现象。
2026-02-24 cs.AI cs.CY
People use fast and flat simulation to reason about new games
Massachusetts Institute of Technology(麻省理工学院);Princeton University(普林斯顿大学);University of Cambridge(剑桥大学);Stanford University(斯坦福大学);New York University(纽约大学);The Alan Turing Institute(艾伦·图灵研究所)
研究人们对新游戏的推理,通过超千名参与者和121种新棋盘游戏的研究,发现人们玩新游戏或评估时具系统性和适应性理性,用“直观玩家”模型解释,为新问题应对及类人AI系统设计提供见解。
2026-07-14 cs.AI cs.GT q-bio.NC
Privacy Leakage Overshadowed by Views of AI: A Study on Human Oversight of Privacy in Language Model Agent
Northeastern University(东北大学);University of Washington(华盛顿大学)
该研究通过300人任务调查发现,人类监督语言模型智能体时易忽视隐私泄露,使有害披露占比从15.7%升至55%,还识别出六种隐私行为模式,为隐私保护型智能体系统设计提供参考。
2025-10-06 cs.AI cs.CR cs.HC
A Comparative Evaluation of Approximate Probabilistic Simulation and Deep Neural Networks as Accounts of Human Physical Scene Understanding
Massachusetts Institute of Technology(麻省理工学院);Google Research(谷歌研究院)
人类在复杂的场景中表现出非凡的预测物理事件的能力。最近提出了两类用于物理场景理解的模型:“直观物理引擎”或IPE,其允许人们通过在本质上类似于视频游戏物理引擎的因果心理模型中运行近似概率模拟来做出预测,以及基于记忆的模型,其基于对先前遇到的场景和物理结果的存储经验的类比来做出判断。后者的版本最近已经在卷积神经网络(CNN)架构中实例化。在这里,我们报告了四个实验,据我们所知,这是基于模拟和基于CNN的模型的第一次严格比较,其中两种方法都在算法中具体实例化,这些算法可以在原始图像输入上运行,并作为输出产生物理判断,例如一堆块是否会掉落。这两种方法都可以达到超人的准确度,并且可以在类似程度上定量预测人类的判断,但只有基于模拟的模型才能以人们的方式推广到新的情况,并且在定性上与人们表现出的系统感知错觉和判断不对称性相一致。
2016-10-04 cs.AI cs.CV q-bio.NC