Human-Aware Belief Revision: A Cognitively Inspired Framework for Explanation-Guided Revision of Human Models
Washington University in St. Louis(圣路易斯华盛顿大学)
针对传统信念修正框架忽视人类寻求解释认知模式的问题,提出认知启发的Human-Aware Belief Revision框架,通过非最小化的解释引导方式修正人类模型,并经两项人类受试者研究验证其有效性,为开发人类感知AI系统提供指导。
2024-08-22 cs.AI
BCR-DRL: Behavior- and Context-aware Reward for Deep Reinforcement Learning in Human-AI Coordination
Deakin University(德肯大学);Monash University(莫纳什大学);The University of Sydney(悉尼大学)
针对人机协作中深度强化学习面临的奖励稀疏、人类行为不可预测问题,提出融合双内在奖励探索方案与上下文感知加权利用机制的BCR方法,在Overcooked环境中显著提升了累积奖励与样本效率。
2025-08-01 cs.AI cs.LG
A Mental-Model Centric Landscape of Human-AI Symbiosis
最近人们对开发能够与人类有效交互和合作的人工智能智能体产生了极大的兴趣。虽然这些作品中的每一个都试图解决人类与人工智能交互问题的核心问题,但它们往往依赖于短视的公式,掩盖了许多作品之间可能的相互关联和互补性。人类感知的AI框架是最近的一项努力,通过将它们与各种心智模型的关系投射到人类-AI交互中来为人类-AI交互提供统一的解释。不幸的是,目前对人类感知的人工智能的描述不足以解释人类-人工智能交互空间中的工作前景,因为它们专注于有限的设置。在本文中,我们的目标是通过引入一个非常通用的人类感知AI交互方案来纠正这个缺点,称为广义人类感知交互(GHAI),它涉及六种类型的(心理)模型。通过本文,我们将看到这个新框架如何使我们能够捕获在人类-人工智能交互空间中完成的各种工作,并识别这些工作所支持的基本行为模式。我们还将使用这个框架来确定当前文献中的潜在差距,并提出未来的研究方向,以解决这些缺点。
2022-02-18 cs.AI cs.HC
Hear You in Silence: Designing for Active Listening in Human Interaction with Conversational Agents Using Context-Aware Pacing
The University of Hong Kong Hong Kong, SAR China Columbia University New York United States;Renmin University of China Beijing China;City University of Hong Kong\ for Narrative Spaces Hong Kong, SAR China Guangdong University of Technology Guangzhou China;City University of Hong Kong\ for Narrative Spaces Hong Kong, SAR China;The University of Hong Kong;Columbia University;Renmin University of China;City University of Hong Kong\ for Narrative Spaces;Guangdong University of Technology
本文提出通过情境感知节奏策略提升对话代理的主动倾听能力,通过实验验证其在人际关系和职业支持场景中的有效性。
2026-02-05 cs.AI cs.HC
People-Centred Medical Image Analysis via Fairness-Aware Human-AI Cooperation
提出PecMan框架,联合建模子群依赖可靠性、决策分配和协作预测,通过门控与整合机制动态分配病例给自动模型或人类专家,无需测试时敏感属性,实现公平感知的人机协作分类。
2026-06-09 cs.AI cs.LG
Uncertainty-aware Human Mobility Modeling and Anomaly Detection
Carnegie Mellon University(卡内基梅隆大学);Novateur Research Solutions(Novateur研究解决方案)
本文提出USTAD模型,将GPS轨迹建模为停留点事件序列,结合偶然与认知不确定性进行无监督异常检测,在工业数据上AUCROC提升3%-15%。
2025-05-05 cs.AI cs.LG
Perception-Aware Attack: Creating Adversarial Music via Reverse-Engineering Human Perception
University of South Florida(南佛罗里达大学);University of Oklahoma(俄克拉荷马大学);American University(美利坚大学)
最近,对抗性机器学习攻击对实际音频信号分类系统构成了严重的安全威胁,包括语音识别、说话人识别和音乐版权检测。以前的研究主要集中在通过在原始信号上创建类似噪声的小扰动来确保攻击音频信号分类器的有效性。目前还不清楚攻击者是否能够创建除了攻击有效性之外还可以被人类很好地感知的音频信号扰动。这对于音乐信号尤其重要,因为它们是精心制作的,具有人类愉悦的音频特性。在这项工作中,我们制定了对抗攻击对音乐信号作为一个新的感知感知攻击框架,它集成了人类的学习到对抗攻击设计。具体来说,我们进行了一项人类研究,以量化人类对音乐信号变化的感知。我们邀请人类参与者根据原始和扰动的音乐信号对他们的感知偏差进行评级,并通过回归分析对人类感知过程进行逆向工程,以预测给定扰动信号的人类感知偏差。感知攻击,然后制定为一个优化问题,找到一个最佳的扰动信号,以最大限度地减少从回归人类感知模型的预测感知偏差。我们使用感知感知框架来设计一个针对YouTube版权检测器的现实对抗性音乐攻击。实验表明,感知感知攻击产生的对抗性音乐的感知质量明显优于以前的工作。
2022-07-26 cs.AI cs.CR cs.LG
Expectation-Aware Planning: A Unifying Framework for Synthesizing and Executing Self-Explaining Plans for Human-Aware Planning
Arizona State University(亚利桑那州立大学);IBM Research AI(IBM人工智能研究院)
在这项工作中,我们提出了一种新的规划形式主义,称为预期感知规划决策与人类在循环中的人的期望代理可能会有所不同,从代理自己的模型。我们展示了这种配方如何允许代理不仅利用现有的策略来处理模型差异,而且还可以表现出通过这些不同策略的组合产生的新行为。我们的提法也揭示了一个深刻的连接到现有的方法在认知规划。具体来说,我们将展示如何利用经典的规划编制的认知规划,以解决预期意识规划问题。据我们所知,拟议的配方是第一个完整的解决方案,决策存在分歧的用户的期望,是服从一个经典的规划汇编,同时成功地结合以前的作品解释和可解释性。我们经验性地展示了我们的方法如何提供比现有近似方法更好的计算优势,这些方法不必要地尝试在模型空间中搜索,同时也无法促进我们框架所支持的全部行为。
2019-11-11 cs.AI
MAMHOI: Factorizing Scene-Aware Human-Object Interaction through Affordances
College of Computing and Data Science(计算与数据科学学院);Nanyang Technological University(南洋理工大学)
针对人-物-场景配对数据稀缺的问题,提出MAMHOI方法,通过可供性介导分解场景感知HOI生成,实验显示其可减少物体-场景穿透,提升交互质量与物理可行性。
2026-10-09 cs.AI cs.CV
Enhancing LLM-Based Human-Robot Interaction with Nuances for Diversity Awareness
University of Genoa(热那亚大学)
本文提出一种基于LLM的多样性感知自主对话系统,通过知识库引导对话流程并利用精心设计的提示生成多样性感知语句,经实验验证能有效适应不同背景的个体。
2024-06-25 cs.AI cs.HC cs.RO
Balancing Explicability and Explanation in Human-Aware Planning
Arizona State University(亚利桑那州立大学)
人类感知规划要求智能体在其决策过程中意识到回路中人类的意图、能力和心理模型。这可能涉及生成对人类观察者可解释的计划以及在无法生成此类计划时提供解释的能力。这导致了“多模型规划”的概念,其目的是将人类期望的影响纳入规划者的审议过程-无论是以可解释的任务规划或解释的形式产生。在本文中,我们把这两个概念结合在一起,并展示了一个规划师如何可以占这些需求,并实现了权衡在计划生成过程本身通过模型空间搜索方法MEGA。这实际上提供了一个全面的角度来看,它意味着什么决策代理是“人类意识”,将现有的规划原则下的一个单一的计划生成过程的保护伞。我们将我们的讨论,特别是记住最近的工作,可解释的规划和解释生成,并说明这些概念的修改版本的两个众所周知的规划域,以及演示的机器人参与一个典型的搜索和侦察任务与外部主管。
2018-02-03 cs.AI
ManiCast: Collaborative Manipulation with Cost-Aware Human Forecasting
Cornell University(康奈尔大学)
提出ManiCast框架,通过学习成本感知的人类运动预测并输入模型预测控制规划器,解决近距离人机协作操作中关键过渡点预测误差高的问题,实现7自由度机械臂与人类的流畅实时交互。
2023-11-27 cs.AI cs.LG cs.RO
FAIRO: Fairness-aware Adaptation in Sequential-Decision Making for Human-in-the-Loop Systems
University of California, Irvine(加州大学尔湾分校)
针对人在回路序贯决策系统中人类偏好动态变化引发的公平性偏差问题,提出基于Options强化学习的FAIRO算法,支持公平性-效用权衡,在三类场景中平均提升公平性35.36%。
2023-11-06 cs.AI cs.CY cs.LG
Accelerating science with human-aware artificial intelligence
University of Chicago(芝加哥大学);Santa Fe Institute(圣达菲研究所)
提出通过建模人类专家知识分布构建human-aware AI,显著提升未来科学发现预测,并生成避开主流思路的“异类”假说。
2023-06-02 cs.AI cs.SI
When Humans Aren't Optimal: Robots that Collaborate with Risk-Aware Humans
Stanford University(斯坦福大学);American High School(美国高中);The Harker School(哈克学校)
为了安全有效地协作,机器人需要预测人类伙伴的行为。今天的一些机器人模仿人类,好像他们也是机器人,并假设用户总是最佳的。其他的机器人解释了人类的局限性,并放宽了这一假设,使人类是嘈杂的理性。当人类获得确定性奖励时,这两种模型都有意义:即,肯定获得$100 or $ 130。但在现实世界中,奖励很少是确定性的。相反,我们必须在风险和不确定性的情况下做出选择--在这些情况下,人类表现出对次优行为的认知偏见。例如,当人们在80%的情况下决定是否获得$100 with certainty or $ 130时,他们倾向于做出规避风险的选择--即使这会导致预期收益较低!在本文中,我们采用了一个著名的风险意识的人类模型,从行为经济学称为累积前景理论,并使机器人利用这个模型在人机交互(HRI)。在我们的用户研究中,我们提供了支持性证据,证明风险意识模型更准确地预测了次优的人类行为。我们发现,这种提高的建模精度导致更安全,更有效的人机协作。总的来说,我们扩展了现有的理性人类模型,使协作机器人可以在HRI期间预测和规划次优的人类行为。
2020-01-13 cs.AI cs.RO
A Skeleton-aware Graph Convolutional Network for Human-Object Interaction Detection
Northumbria University(诺森比亚大学);Durham University(杜伦大学)
检测人与物体的交互对于全面理解视觉场景至关重要。特别是,人与物体之间的空间联系是推理交互的重要线索。为此,我们提出了一个感知的图卷积网络的人机交互检测,命名为SGCN 4 HOI。我们的网络利用人类关键点和对象关键点之间的空间连接,通过图形卷积来捕获它们的细粒度结构交互。它融合了这样的几何特征与视觉特征和空间配置特征获得的人-物体对。此外,为了更好地保留对象的结构信息,促进人与对象的交互检测,我们提出了一种新的基于信标的对象关键点表示。SGCN 4 HOI的性能在公共基准V-COCO数据集上进行了评估。实验结果表明,该方法优于最先进的基于姿态的模型,并实现与其他模型的竞争性能。
2022-07-11 cs.AI cs.CV
Generation of Human-aware Navigation Maps using Graph Neural Networks
Aston University(阿斯顿大学);University of Extremadura(埃斯特雷马杜拉大学)
最大限度地减少机器人在社交场合中导航时造成的不适对它们被接受至关重要。本文提出了一种基于机器学习的框架,该框架引导现有的一维数据集以生成成本地图数据集,并提出了一种结合图神经网络和卷积神经网络层的模型,以实时生成用于人类感知导航的成本地图。所提出的框架进行评估,对原始的一维数据集和模拟导航任务。考虑到数据集的准确性和使用的导航指标,结果优于类似的最先进的方法。所提出的框架的应用不仅限于人类感知的导航,它可以应用到其他领域的地图生成是必要的。
2020-11-10 cs.AI cs.RO
GATOR: Graph-Aware Transformer with Motion-Disentangled Regression for Human Mesh Recovery from a 2D Pose
Peking University, Shenzhen Graduate School(北京大学深圳研究生院)
从二维姿态恢复三维人体网格在各种应用中起着重要的作用。然而,现有的方法难以同时捕捉骨架到网格演化过程中的多种关系,包括关节-关节、关节-顶点、顶点-顶点关系,从而导致结果不合理。为了解决这个问题,我们提出了一种新的解决方案,称为GATOR,它包含一个图形感知Transformer(GAT)的编码器和一个运动分解回归(MDR)的解码器来探索这些多重关系。具体来说,GAT将GCN和图形感知的自我注意力并行地结合起来,以捕获物理和隐藏的关节-关节关系。此外,MDR模型的关节顶点和顶点顶点的相互作用,探索关节和顶点的关系。基于顶点偏移场的聚类特性,MDR通过合成预测的基本运动来回归顶点。大量的实验表明,GATOR在两个具有挑战性的基准测试中达到了最先进的性能。
2023-03-10 cs.AI cs.CV cs.LG
Human-Modeling in Sequential Decision-Making: An Analysis through the Lens of Human-Aware AI
Sorbonne University(索邦大学);CNRS(法国国家科学研究中心);INSERM(法国国家健康与医学研究院);Washington University in St. Louis(圣路易斯华盛顿大学);Colorado State University(科罗拉多州立大学)
本研究回溯阐释了Human-Aware AI的构成,提出该范式以人类建模为核心并可提供交互分类维度,通过综述近三年顶会序列决策领域相关论文,识别了被忽视的研究问题,分析了其社科引用、用户研究情况及所用AI方法。
2024-07-15 cs.AI cs.RO
Human-Robot Red Teaming for Safety-Aware Reasoning
University of Michigan(密歇根大学);NASA Johnson Space Center(NASA约翰逊航天中心)
针对机器人安全任务执行研究不足的问题,提出人机红队演练范式,通过人机协作探索危险空间,实现安全感知推理,并在月球栖息地和家庭环境中验证了其可行性与信任促进效果。
2025-08-02 cs.AI cs.RO
Human-Aware Robot Behaviour in Self-Driving Labs
本文提出了一种基于AI的具身感知方法,通过预测人类意图实现自主驾驶实验室中机器人与人类的主动交互,提升实验室自动化流程的效率和协调性。
2026-03-11 cs.AI cs.HC cs.RO
DiffMesh: A Motion-aware Diffusion Framework for Human Mesh Recovery from Videos
Carnegie Mellon University(卡内基梅隆大学);North Carolina State University(北卡罗来纳州立大学);Center for Research in Computer Vision, University of Central Florida(中央佛罗里达大学计算机视觉研究中心);University of North Carolina at Charlotte(北卡罗来纳大学教堂山分校)
DiffMesh提出一种运动感知的类扩散框架,将人体运动融入扩散模型的正逆向过程,实现视频中准确平滑的人体网格恢复,并在多个数据集上验证了其有效性与实用性。
2025-08-18 cs.AI cs.CV cs.HC
Human operator cognitive availability aware Mixed-Initiative control
University of West Attica(西阿提卡大学);University of Birmingham(伯明翰大学)
本文提出了一种用于远程操作移动机器人的认知可用性感知混合主动控制器。控制器可以在不同的自主级别(LOA)之间进行动态切换,由人工智能或人类操作员发起。控制器利用最先进的计算机视觉方法和现成的网络摄像头来推断操作员的认知可用性并通知AI发起的LOA切换。这是一个质的进步,比以前的混合主动(MI)控制器。该控制器在灾难响应实验中进行评估,在该实验中,人类操作员必须与远程机器人进行探索任务。MI系统被证明是有效地协助运营商,表现出定量和定性的结果和工作量。此外,评估复杂的MI控制器的实验困难的一些见解。
2021-08-26 cs.AI cs.HC cs.MA
Human Motion Prediction Using Manifold-Aware Wasserstein GAN
Univ. Lille(里尔大学);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);CRIStAL(里尔信息、信号与自动化研究中心);IMT Lille Douai(里尔-杜埃国立高等矿业电信学院);Institut Mines-Télécom(法国国立矿业电信学院联盟);SCALab(里尔认知与情感科学实验室)
人体运动预测的目的是预测未来的人体姿势给定的先验序列。预测运动的不连续性和长期视野中的性能恶化仍然是当前文献中遇到的主要挑战。在这项工作中,我们解决这些问题,通过使用一个紧凑的流形值表示的人体运动。具体来说,我们建模的三维人体姿态的时间演变的轨迹,这使我们能够将人体运动映射到一个球面流形上的单点。为了学习这些非欧几里德表示,我们构建了一个流形感知的Wasserstein生成对抗模型,该模型通过不同的损失捕获人体运动的时间和空间依赖性。大量的实验表明,我们的方法在CMU MoCap和Human 3.6M数据集上的性能优于最先进的方法。我们的定性结果表明预测运动的平滑性。
2021-07-16 cs.AI cs.CV
HINT-Plan: Human Intention-Aware Robot Task Planning in Context-Rich Environments using Vision Language Models
University of Stuttgart(斯图加特大学);University of Luxembourg(卢森堡大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
HINT-Plan利用视觉语言模型预测人类意图并转化为目标状态,结合层次化场景图进行形式化任务规划,在仿真中实现69.71%成功率,显著优于基线,提升主动人机协作决策。
2026-09-17 cs.AI cs.RO
Widening the Pipeline in Human-Guided Reinforcement Learning with Explanation and Context-Aware Data Augmentation
Arizona State University(亚利桑那州立大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Stanford University(斯坦福大学)
人类解释(例如,在特征重要性方面)最近被用于扩展交互式机器学习中人与代理之间的通信信道。在这种情况下,人类训练师不仅提供基本事实,还提供某种形式的解释。然而,这种人类指导只在监督学习任务中进行了研究,目前还不清楚如何将这种类型的人类知识最好地融入深度强化学习。在本文中,我们提出了第一个研究使用人类视觉解释的人在回路强化学习(HRL)。我们专注于从反馈中学习的任务,其中人类训练员不仅为查询的状态-动作对提供二进制评价性“好”或“坏”反馈,而且还通过注释图像中的相关特征提供视觉解释。我们提出了EXPAND(解释增强反馈),以鼓励模型编码任务相关的功能,通过上下文感知的数据增强,只扰动人类显着信息中的不相关的功能。我们选择了五个任务,即Pixel-Taxi和四个Atari游戏,来评估这种方法的性能和样本效率。我们表明,我们的方法显着优于利用人类解释的方法,这些方法适用于监督学习,以及仅利用评估反馈的人在回路RL基线。
2021-10-26 cs.AI
Human-Aware Vision-and-Language Navigation: Bridging Simulation to Reality with Dynamic Human Interactions
Columbia University(哥伦比亚大学);University of Mannheim(曼海姆大学);Alibaba Group(阿里巴巴集团);Microsoft Research(微软研究院);Carnegie Mellon University(卡内基梅隆大学)
针对现有视觉语言导航依赖静态环境、适用性受限的问题,提出人类感知视觉语言导航框架,构建对应模拟器与数据集,提出两类智能体并完成评估,为具身AI及模拟到现实迁移研究提供基准。
2024-11-02 cs.AI cs.CV cs.RO
Seeing is Believing (and Predicting): Context-Aware Multi-Human Behavior Prediction with Vision Language Models
Institute of Architecture of Application Systems, University of Stuttgart, Germany(应用系统建筑研究所,斯图加特大学,德国);Bosch Research, Germany(博世研究,德国)
CAMP-VLM通过结合视觉语言模型与上下文特征,提升了多人类行为预测的准确性,其在预测精度上比基线模型高66.9%。
2025-12-17 cs.AI cs.CV
A Topology-Aware Graph Convolutional Network for Human Pose Similarity and Action Quality Assessment
Shenzhen TSAF Tech. Co. Ltd.(深圳TSAF科技有限公司)
本文提出拓扑感知图卷积网络框架GCN-PSN,通过将人体骨架建模为图并结合连体架构与对比回归目标学习姿态嵌入,有效提升了人体姿态相似性与动作质量评估的性能。
2025-11-03 cs.AI cs.CV
3DHumanGAN: 3D-Aware Human Image Generation with 3D Pose Mapping
Shanghai AI Laboratory(上海人工智能实验室);EPFL(洛桑联邦理工学院)
3DHumanGAN提出一种由3D姿态映射网络调制2D卷积主干的生成器,利用可渲染隐式函数结合3D人体先验,实现不同视角和姿态下外观一致的逼真全身人体图像生成。
2023-09-24 cs.AI cs.CV
Semantic-Aware Environment Perception for Mobile Human-Robot Interaction
Otto-von-Guericke-University Magdeburg(马格德堡奥托·冯·格里克大学)
当前的技术进步为将人机交互提升到以人为中心的合作的新水平提供了新的机会。在这种情况下,一个关键的问题是环境的语义理解,以使移动机器人更复杂的互动和促进与人类的沟通。假设是基于视觉的语义对象和人的注册,后者进一步分析潜在的交互伙伴。尽管取得了显著的研究成果,可靠和快速的语义信息注册仍然是一个具有挑战性的任务,移动机器人在现实世界中的场景。在本文中,我们提出了一个基于视觉的移动辅助机器人系统,使语义感知的环境感知没有额外的先验知识。我们部署我们的系统上的移动人形机器人,使我们能够测试我们的方法在现实世界中的应用。
2022-11-07 cs.AI cs.CV cs.RO
Self-Reflective Risk-Aware Artificial Cognitive Modeling for Robot Response to Human Behaviors
Colorado School of Mines(科罗拉多矿业学院);University of Tennessee(田纳西大学)
为了使协作机器人(“co-robots”)在人机协作中准确有效地响应人类行为,对人类行为的解释,对新情况的感知以及适当的决策都是co-robots的关键能力。为此,人类行为应该由合作机器人以与人类同行相同的方式进行解释。为了解决这个问题,一个新的可解释性指标的介绍,使机器人的行动是适当的当前人类的行为。此外,在现实世界的应用中,完全考虑机器人环境的所有潜在情况几乎是不可能的,这使得合作机器人难以在新的场景中适当和安全地采取行动。即使预训练模型在已知情况下高度准确,也是如此。为了与人类进行有效和安全的合作,我们引入了一个新的泛化指标,允许合作机器人自我反思和推理,当观察结果超出合作机器人的学习模型时。基于主题模型和两个新的指标,我们提出了一个新的自我反思的风险意识人工认知(SRAC)模型。协作机器人能够考虑行动风险并识别新情况,以便做出更好的决策。使用真实世界数据集和物理机器人的实验表明,我们的SRAC模型显着优于传统方法,并能够更好地响应人类活动的决策。
2016-05-16 cs.AI cs.RO
Modelling Human Values for Value-Aware Multi-Agent Systems
本文提出一个形式化框架,用于表示人类价值观,以支持多智能体系统中的价值感知推理。通过社会心理学研究,建立价值关系和重要性模型,实现行为评估和价值感知决策机制。
2026-06-28 cs.AI cs.MA
Learning Personalized Human-Aware Robot Navigation Using Virtual Reality Demonstrations from a User Study
University of Bonn(波恩大学);Fraunhofer FKIE(弗劳恩霍夫通信、信息处理与人机工程研究所)
对于最舒适的,人类感知的机器人导航,需要考虑用户的主观偏好。本文提出了一种新的强化学习框架,训练一个个性化的导航控制器,以及一个直观的虚拟现实演示界面。进行的用户研究提供的证据表明,我们的个性化方法显着优于经典方法,具有更舒适的人机体验。我们实现这些结果只使用一些演示轨迹从非专家用户,谁主要欣赏直观的演示设置。正如我们在实验中所示,学习的控制器可以很好地推广到演示数据中未涵盖的状态,同时仍然反映了导航过程中的用户偏好。最后,我们转移到一个真正的机器人导航控制器的性能没有损失。
2022-10-04 cs.AI cs.RO
SkeleGuide: Explicit Skeleton Reasoning for Context-Aware Human-in-Place Image Synthesis
Alibaba Group(阿里巴巴集团)
SkeleGuide通过显式骨骼推理提升上下文感知的人体图像合成质量,提供高保真且结构合理的生成结果。
2026-03-02 cs.AI cs.CV
Human2Any: Human-to-Robot Transfer via Constraint-Aware Compositional Planning
Georgia Institute of Technology(佐治亚理工学院);NVIDIA Corporation(英伟达公司)
提出Human2Any框架,从人类视频学习可重用的物体中心交互先验,结合机器人端可行性推理与运动规划,实现无需目标任务真实机器人数据的跨实体、场景和任务迁移。
2026-06-27 cs.AI cs.RO
Reliability-Aware LLM Alignment from Inconsistent Human Feedback
研究如何解决人类反馈强化学习中人类注释不一致问题,提出可靠性引导的偏好优化框架RGPO,通过估计注释者可靠性、推断潜在真实标签及动态调整训练目标,有效减少训练数据不一致性和噪声,性能优于现有基线。
2026-07-24 cs.AI
Unsupervised Geometry-Aware Representation for 3D Human Pose Estimation
CVLab, EPFL(洛桑联邦理工学院计算机视觉实验室)
现代3D人体姿态估计技术依赖于深度网络,这需要大量的训练数据。虽然弱监督方法需要较少的监督,但通过利用没有注释的2D姿势或多视图图像,它们仍然需要足够大的具有3D注释的样本集才能成功学习。在本文中,我们建议克服这个问题,学习几何感知身体表示从多视图图像没有注释。为此,我们使用编码器-解码器,该编码器-解码器预测来自一个视点的图像,给定来自另一个视点的图像。因为这种表示对3D几何体进行编码,所以在半监督设置中使用它可以更容易地从它学习到3D人体姿势的映射。正如我们的实验所证明的那样,我们的方法在给定相同数量的标记数据的情况下显着优于全监督方法,并且在使用仅1%的标记数据的情况下优于其他半监督方法。
2018-04-03 cs.AI cs.CV
A Human-in-the-loop Framework to Construct Context-aware Mathematical Notions of Outcome Fairness
University of Toronto(多伦多大学);ETH Zürich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
现有的数学公平概念无法解释决策的背景。我们认为,道德考虑的背景因素是一个固有的人类任务。因此,我们提出了一个框架来学习上下文感知的公平性的数学公式,引发人们的公平性评估。我们的公平概念家族对应于对机会平等(EOP)经济模型的新解释,它包括了大多数现有的公平概念作为特例。我们的人在回路的方法是设计来学习EOP家庭的适当参数,利用人类的反应,成对的问题,决策主体的情况和应得的,以及对他们的伤害/好处。我们通过在Amazon Mechanical Turk上进行一系列人类受试者实验,在假设的犯罪风险评估场景中说明了我们的框架。我们的工作迈出了重要的第一步,使利益相关者能够在制定机器学习的公平性方面发表意见。
2021-05-18 cs.AI cs.CY
HA-VLN 2.0: An Open Benchmark and Leaderboard for Human-Aware Navigation in Discrete and Continuous Environments with Dynamic Multi-Human Interactions
University of Science and Technology of China(中国科学技术大学)
提出HA-VLN 2.0统一基准,通过标准化任务、HAPS 2.0数据集与模拟器、16844条社会指令基准测试及真实机器人实验,证明显式社会建模提升导航鲁棒性并减少碰撞。
2026-08-19 cs.AI cs.CV cs.RO
HumAIN: Human-Aware Implicit Social Robot Navigation
Ewha Womans University(梨花女子大学);George Mason University(乔治梅森大学);University of Virginia(弗吉尼亚大学);Tufts University(塔夫茨大学);Semio(Semio公司);Hokkaido University(北海道大学)
研究提出HumAIN框架,通过知识蒸馏将隐式社交线索融入机器人导航规划。利用基于Transformer的教师模型学习强大表示,蒸馏到轻量级学生模型。实验表明该方法能有效提升轨迹预测指标,在资源受限平台实现类人导航意识。
2026-07-09 cs.AI cs.RO
DriveCritic: Towards Context-Aware, Human-Aligned Evaluation for Autonomous Driving with Vision-Language Models
University of Michigan(密歇根大学);NVIDIA(英伟达);Fudan University(复旦大学)
DriveCritic通过结合视觉-语言模型和情境意识,提升自动驾驶系统评估的准确性与人类对齐性。
2026-03-12 cs.AI cs.CV cs.RO
Link the World: Improving Open-domain Conversation with Dynamic Spatiotemporal-aware Knowledge
Baidu Inc.(百度公司)
让聊天机器人像人类一样在对话中感知世界是一个至关重要的挑战,世界可能包含动态知识和时空状态。最近的一些进展试图将对话系统链接到静态知识库或搜索引擎,但它们不包含对话所需的所有世界信息。相反,我们提出了一种新的方法来改善对话系统使用时空感知的动态知识。我们利用服务信息作为对话系统连接世界的一种方式。该系统根据对话上下文和时空状态主动构建请求,获取服务信息,然后生成感知世界的响应。为了实现这种方法,我们收集了DuSinc,这是一个开放领域的人与人对话数据集,参与者可以访问该服务以获取对话响应所需的信息。通过自动评估和人工评估,我们发现服务信息显著提高了对话系统的一致性、信息性、真实性和可理解性,使其表现得更像人类。与没有时空感知动态知识的预训练模型相比,整体会话级别得分提高了60.87%。收集数据集和方法将是开源的。
2022-09-05 cs.AI cs.CL