Human-in-the-Loop Interpretability Prior
Harvard University（哈佛大学）；Google Brain（谷歌大脑）
我们经常希望我们的模型是可解释的，也是准确的。以前的工作优化模型的可解释性依赖于易于量化的代理的可解释性，如稀疏性或所需的操作数量。在这项工作中，我们通过直接将人类纳入优化循环来优化可解释性。我们开发了一种算法，可以最大限度地减少用户研究的数量，以找到具有预测性和可解释性的模型，并在多个数据集上展示我们的方法。我们的人类受试者结果显示了不同数据集上不同的可解释性代理概念的趋势，这表明不同的代理在不同的任务中是首选的。
2018-10-30 cs.LG stat.ML
Overcoming Adversarial Attacks for Human-in-the-Loop Applications
CAE Inc.（CAE公司）；Air Force Research Laboratory（美国空军研究实验室）；Leidos Inc.（雷多斯公司）
针对人在回路评估工具因神经网络视觉解释图易遭对抗攻击而鲁棒性不足的问题，提出可引入人类视觉注意力模型提升人机图像分析系统的可解释性与鲁棒性，并指出当前核心挑战是实现对抗环境下HITL评估的鲁棒性。
2023-08-25 cs.CV cs.LG
Human-in-the-Loop Design Cycles -- A Process Framework that Integrates Design Sprints, Agile Processes, and Machine Learning with Humans
Yonsei University（延世大学）
对机器学习模型的后台性质的更透明的需求导致了最近机器学习中的人在环的兴起，即将人类集成到机器学习模型的训练和应用中的过程。目前的工作认为，这一过程的要求并不代表一个障碍，而是一个机会，以优化设计过程。因此，这项工作提出了一个新的过程框架，人在学习循环（HILL）设计周期-一个设计过程，集成了敏捷和设计思维过程的结构元素，并控制训练的机器学习模型的人在循环。HILL设计循环过程通过定量的心理测量工具来取代定性的用户测试，以获得设计感知。生成的用户反馈用于训练机器学习模型，并沿着四个设计维度（新颖性、能量、简单性、工具）指导后续设计周期。将四维用户反馈映射到用户故事和优先级，设计冲刺因此将用户反馈直接转化为实现过程。循环中的人是质量工程师，他仔细检查收集的用户反馈，以防止无效数据进入机器学习模型训练。
2020-02-29 cs.CY cs.HC cs.LG
Putting Humans in the Natural Language Processing Loop: A Survey
College of Computing, Georgia Institute of Technology（佐治亚理工学院计算学院）
我们如何设计能够从人类反馈中学习的自然语言处理（NLP）系统？越来越多的人在回路（HITL）NLP框架的研究机构不断整合人类反馈以改进模型本身。HITL NLP研究是新兴的，但五花八门-解决各种NLP问题，从不同的人那里收集不同的反馈，并应用不同的方法从收集的反馈中学习。我们对机器学习（ML）和人机交互（HCI）社区的HITL NLP工作进行了调查，突出了其短暂但鼓舞人心的历史，并彻底总结了最近的框架，重点是他们的任务，目标，人类交互和反馈学习方法。最后，我们讨论了在NLP开发循环中整合人类反馈的未来方向。
2021-03-06 cs.AI cs.CL cs.HC
DQN-TAMER: Human-in-the-Loop Reinforcement Learning with Intractable Feedback
The University of Tokyo（东京大学）；Preferred Networks, Inc.（Preferred Networks 公司）
探索问题一直是强化学习（RL）面临的最大挑战之一，也是RL在机器人领域应用的一大障碍。即使使用最先进的强化学习算法，构建一个学习良好的智能体也往往需要太多的试验，主要是因为很难将其行为与遥远的未来的奖励相匹配。对此的一个补救措施是训练一个代理，该代理具有来自人类观察者的实时反馈，该观察者立即对某些行为给予奖励。这项研究解决了一系列的挑战，引入这样一个人在环RL计划。这项工作的第一个贡献是我们用精确建模的人类观察者进行的实验：二进制，延迟，随机性，不可持续性和自然反应。我们还提出了一种名为DQN-TAMER的RL方法，它有效地利用了人类反馈和远程奖励。我们发现DQN-TAMER代理在迷宫和出租车模拟环境中的表现优于其基线。此外，我们展示了一个真实世界的人在环RL应用程序，其中相机自动识别用户的面部表情作为对代理的反馈，而代理探索迷宫。
2018-10-28 cs.HC cs.LG
Few-Shot Point Cloud Region Annotation with Human in the Loop
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一个点云注释框架，该框架采用人在回路学习来创建具有逐点注释的大型点云数据集。通过少样本学习范例微调联合任务的预训练模型，迭代传播来自人类注释者的稀疏标签，以生成网络的完整分割。我们表明，所提出的框架显着减少了注释点云所需的人工交互量，而不会牺牲注释的质量。我们的实验还表明，该框架在注释大型数据集时的适用性，注意到随着系统完成的完整注释数量的增加，人类交互减少。最后，我们展示了该框架的灵活性，以支持多个不同的注释相同的点云，使数据集的创建具有不同粒度的注释。
2019-06-11 cs.CV cs.LG
Leveraging Sub-Optimal Data for Human-in-the-Loop Reinforcement Learning
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）
本文提出次优数据预训练方法SDP，通过用环境最小奖励伪标记低质量数据来预训练奖励模型，从而减少人在回路强化学习对人类交互的需求，并在多种模拟机器人任务上显著提升性能。
2025-04-07 cs.AI cs.LG cs.RO
Rethinking Opinion Measurement Interfaces for Human-in-the-Loop Optimization
LMU Munich（慕尼黑大学）；University of Bayreuth（拜罗伊特大学）
本文针对人在回路优化的意见测量界面设计问题，通过360人参与的文本摘要与图像色彩增强任务研究，建议采用列表法优化顺序意见测量，平衡评分与偏好选择的局限并提供设计指导。
2026-10-14 cs.HC cs.LG
ActiveAED: A Human in the Loop Improves Annotation Error Detection
Center for Information and Language Processing (CIS), LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文提出人在回路的标注错误检测方法ActiveAED，通过反复向人类查询错误更正来提升检测精度，在八个数据集中的七个上超越现有最优方法，平均精度最高提升六个百分点。
2023-05-31 cs.CL cs.LG
adaPARL: Adaptive Privacy-Aware Reinforcement Learning for Sequential-Decision Making Human-in-the-Loop Systems
University of California Irvine（加州大学欧文分校）
与基于规则的方法相比，强化学习（RL）在各种应用中具有许多优点。随着在物联网设备中使用隐私敏感数据训练的RL的广泛使用，隐私问题越来越多，特别是对于人在回路系统。一方面，RL方法通过尝试适应人类的高度动态特性来增强用户体验。另一方面，经过训练的策略可能会泄露用户的私人信息。最近的注意力已经被吸引到设计隐私感知RL算法，同时保持可接受的系统效用。设计隐私感知RL的一个核心挑战，特别是对于人在环系统，是人类具有内在的可变性，他们的偏好和行为会进化。随着时间的推移，一个隐私泄漏缓解的效果对于同一个人或跨不同的人可能是不同的。因此，我们不能为隐私感知RL设计一个适合所有人的固定模型。为此，我们提出了adaPARL，这是一种用于隐私感知RL的自适应方法，特别是对于人在环物联网系统。adaPARL根据人类行为和偏好提供个性化的隐私-效用权衡。我们在两个物联网应用上验证了所提出的adaPARL，即（i）人在环灵巧家庭和（ii）人在环虚拟现实（VR）智能教室。在这两个应用程序上获得的结果验证了adaPARL的通用性及其提供个性化隐私-效用权衡的能力。平均而言，对于首次应用，adaPARL使效用比基线提高$57\%$，比随机化提高$43\%$。adaPARL还将隐私泄露平均减少了$23\%$。对于第二个应用程序，adaPARL在实用程序降低$15\%$之前将隐私泄漏降低到$44\%$。
2023-03-07 cs.AI cs.CR cs.LG
Human-in-the-Loop Large-Scale Predictive Maintenance of Workstations
Aalto University（阿尔托大学）；University of Manchester（曼彻斯特大学）
预测性维护（PdM）是基于系统状况的统计分析来安排维护操作的任务。我们提出了一个人在环PdM的方法，其中机器学习系统预测未来的问题，在工作站（计算机，笔记本电脑和服务器）。我们的系统与领域专家进行交互，以提高预测并获取他们的知识。在我们的方法中，领域专家不仅作为正确标签的提供者（如传统的主动学习），而且作为明确的决策规则反馈的来源。该系统是自动化的，并被设计为很容易扩展到新的领域，如维护几个组织的工作站。此外，我们还开发了一个模拟器，用于在受控环境中进行可重复的实验，并将系统部署在现实生活中的工作站PdM的大规模案例中，该工作站为数十家公司提供数千个工作站。
2022-06-23 cs.HC cs.LG
Agent-Agnostic Human-in-the-Loop Reinforcement Learning
Brown University（布朗大学）；AI Impacts；Stanford University（斯坦福大学）；University of Oxford（牛津大学）
为强化学习代理提供专家建议可以显著改善学习的各个方面。以前的工作已经开发出教学协议，使代理在复杂的环境中有效地学习，这些方法中的许多定制教师的指导代理与特定的表示或底层的学习计划，提供有效的，但专门的教学程序。在这项工作中，我们探讨协议程序，一个代理不可知的模式，人在回路强化学习。我们的目标是将人类教师的有益特性融入强化学习中，而不对代理的内部工作原理做出强烈的假设。我们将展示如何表示现有的方法，如动作修剪，奖励塑造，并在模拟训练作为我们的模式的特殊情况下，并进行初步的实验简单的域。
2017-01-15 cs.AI cs.LG
Towards the Safety of Human-in-the-Loop Robotics: Challenges and Opportunities for Safety Assurance of Robotic Co-Workers
University of Bristol（布里斯托大学）；Bristol Robotics Laboratory（布里斯托机器人实验室）；Avian Technologies Ltd（Avian Technologies有限公司）
在机器人从演示中学习的灵活制造环境中，人类-机器人合作团队的成功在很大程度上取决于机器人的正确和安全操作。如何实现这一目标是一个挑战，需要解决技术和以人为本的研究问题。在本文中，我们讨论了安全保证的最新技术水平，这一领域现有的和新兴的标准，以及在学习机器的背景下安全保证新方法的需求。然后，我们专注于机器人从演示示教学习，这些技术带来的挑战，安全保证，并指出机会，集成到算法的安全考虑“通过设计”。最后，从以人为本的角度来看，我们规定，为了实现高水平的安全性和最终的信任，机器人同事必须满足与之合作的人类的固有期望。我们的目标是激发对人在环机器人安全方面的讨论，并促进多学科合作，以解决所确定的研究挑战。
2014-06-04 cs.LG cs.RO
Lessons from a human-in-the-loop machine learning approach for identifying vacant, abandoned, and deteriorated properties in Savannah, Georgia
University of Michigan – Ann Arbor（密歇根大学安娜堡分校）；City of Savannah（萨凡纳市政府）；Georgia Institute of Technology（佐治亚理工学院）
本文提出人在回路机器学习模型 VADecide，用于识别佐治亚州萨凡纳的空置、废弃和失修房产，实验表明其预测准确率优于无人工输入的机器学习模型，并揭示了城市规划中该方法的优势与挑战。
2024-07-18 cs.LG physics.soc-ph
Uncertainty Comes for Free: Human-in-the-Loop Policies with Diffusion Models
本文提出一种利用扩散模型生成过程计算不确定性度量的方法，使机器人策略仅在必要时请求人类协助，减少持续监督需求，并支持高效数据收集以提升自主性能。
2025-10-09 cs.LG cs.RO
Human-like Cognitive Generalization for Large Models via Brain-in-the-loop Supervision
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；State Key Lab of Brain-Machine Intelligence, Zhejiang University（浙江大学脑机智能全国重点实验室）
本文提出利用少量脑信号进行脑在环监督学习，将人类概念结构迁移至DNN，从而提升大模型对抽象及未见概念的理解、少样本/零样本与分布外识别能力及表示可解释性。
2025-05-14 cs.AI cs.LG
From Explanation to Action: An End-to-End Human-in-the-loop Framework for Anomaly Reasoning and Management
Carnegie Mellon University（卡内基梅隆大学）；Capital One（第一资本金融公司）
本文提出ALARM端到端人在回路框架，支持从无监督异常检测、解释到通过设计新规则采取行动的完整挖掘周期，弥补了自主检测在现实高风险场景中难以落地的不足。
2023-04-06 cs.HC cs.LG
Human-in-the-Loop Hate Speech Classification in a Multilingual Context
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
公共辩论转向数字领域的同时，网上仇恨言论也在增加。虽然已经提出了许多有前途的仇恨言论分类方法，但研究通常只关注单一语言，通常是英语，并且没有解决三个关键问题：部署后性能，分类器维护和基础设施限制。在本文中，我们介绍了一种新的基于人在回路BERT的仇恨语音分类管道，并跟踪其从初始数据汇集和注释一直到部署后的发展。我们的分类器使用来自我们超过422 k示例的原始语料库的数据进行训练，专为瑞士固有的多语言环境而开发，其F1得分为80.5，比目前性能最好的基于BERT的多语言分类器在德语中的F1得分为5.8，在法语中的F1得分为3.6。我们在12个月内进行的系统评估进一步强调了持续的人工循环分类器维护的至关重要性，以确保部署后的强大仇恨言论分类。
2023-01-01 cs.CL cs.LG
Segmentation, Classification and Interpretation of Breast Cancer Medical Images using Human-in-the-Loop Machine Learning
University of Coruña（拉科鲁尼亚大学）；Complejo Hospitalario Universitario de A Coruña (CHUAC)（拉科鲁尼亚大学医院综合中心）
本文提出医生在回路方法，整合基因组数据与乳腺癌全切片成像，完成组织病理图像分割、基因组亚型分类和结果解释三项任务，发现该方法能提升分割与可解释性，但分类效果有限，表明人在回路策略在复杂医学领域并非总是有效。
2024-03-29 cs.CV cs.LG
PulseSatellite: A tool using human-AI feedback loops for satellite image analysis in humanitarian contexts
United Nations Global Pulse（联合国全球脉动）；Institute for Data Science, Durham University（杜伦大学数据科学研究所）；UNOSAT（联合国卫星项目）
对自然灾害和冲突的人道主义反应可得到卫星图像分析的协助。在人道主义方面，必须准确和及时地完成非常具体的卫星图像分析任务，以提供业务支持。我们提出了PulseSatellite，一个协作卫星图像分析工具，它利用神经网络模型，可以在飞行中重新训练，并适应特定的人道主义背景和地理。我们提出了两个案例研究，分别在绘制避难所和洪水，说明了PulseSatellite的能力。
2020-01-29 cs.CV cs.HC cs.LG
Learning Shaping Strategies in Human-in-the-loop Interactive Reinforcement Learning
Dalian University of Technology（大连理工大学）；Ocean University of China（中国海洋大学）
为强化学习代理提供信息丰富的人类知识可以显着改善学习的各个方面。先前的工作已经开发了不同类型的塑造方法，使代理在复杂的环境中有效地学习。然而，所有这些方法都在专门的成形过程中为代理人量身定制人类指导，从而在不同领域体现出各种特征和优势。在本文中，我们研究了不同的整形方法之间的相互作用，以获得更强大的学习性能。我们提出了一种自适应成形算法，它能够学习最合适的成形方法在一个在线的方式。在两个经典领域的结果验证了它的有效性，从模拟和真实的人类研究，揭示了人的因素在人-机器人协作学习中的作用和影响。
2018-11-10 cs.AI cs.HC cs.LG
Human-in-the-Loop Testing of AI Agents for Air Traffic Control with a Regulated Assessment Framework
NATS；University of Exeter（埃克塞特大学）；The Alan Turing Institute（艾伦·图灵研究所）
本文提出了一种基于监管认证模拟器的AI空中交通管制代理评估框架，通过人类参与评估提升AI性能测量的真实性和准确性。
2026-01-07 cs.HC cs.LG cs.MA
Convergence of a Human-in-the-Loop Policy-Gradient Algorithm With Eligibility Trace Under Reward, Policy, and Advantage Feedback
Brown University（布朗大学）
流畅的人-智能体通信对于人在回路强化学习的未来至关重要。一个智能体必须对来自其人类教练的反馈做出适当的反应，甚至在他们有重要的合作经验之前。因此，重要的是，学习代理很好地响应人类培训师可能提供的各种反馈方案。本文分析了CONVergent Actor-Critic by Humans（COACH）算法在三种不同反馈方式下的性能，即策略反馈、奖励反馈和优势反馈。对于这三种反馈类型，我们发现COACH可以表现得次优。我们提出了一个变种的教练，情节教练（电子教练），我们证明收敛的所有三种类型。我们将我们的COACH变体与其他两种并行学习算法进行比较：Q学习和TAMER。
2021-09-15 cs.AI cs.DS cs.HC
Human's Role in-the-Loop
Technion – Israel Institute of Technology（以色列理工学院）
数据集成最近面临着需要处理大量数据的挑战，这些数据来自各种来源，具有不同的准确性水平。这种具有挑战性的环境，通常被称为大数据，使得许多现有技术，特别是那些人力密集型的技术，过时了。大数据还产生了物联网、云计算和深度学习等技术进步，因此，提供了一个新的、令人兴奋的和具有挑战性的研究议程。鉴于数据的可用性和机器学习技术的改进，本博客讨论了人类和机器在匹配中实现认知任务时各自的角色，旨在确定人类和机器的传统角色是否会发生变化。我们相信，这样的调查将为以新的创新方式更好地利用人力和机器资源铺平道路。我们将讨论两种可能的变化模式，即人类退出和人类进入。当人类试图超越人类匹配器性能时，人类的目标是使用机器学习算法探索开箱即用的潜在匹配推理。追求开箱即用的思维，机器和深度学习可以参与匹配。人类在探索如何更好地参与人类在匹配循环分配人类匹配器与对称的角色，以算法匹配器在匹配过程中。
2022-04-27 cs.DB cs.HC cs.LG
Integrating Human-in-the-loop into Swarm Learning for Decentralized Fake News Detection
Prairie View A&M University（普雷里维尤农工大学）
社交媒体已成为产生和传播假新闻的有效平台，这些假新闻可能会误导人们，甚至扭曲舆论。然而，用于假新闻检测的集中式方法在用于训练模型的集中式数据汇集过程中不能有效地保护用户隐私。此外，它不能完全将用户反馈纳入学习检测模型的循环中，以进一步增强假新闻检测。为了克服这些挑战，本文提出了一种新的分散方法，基于人在回路的群学习（HBSL），将用户反馈集成到学习和推理的回路中，以分散的方式识别假新闻，而不会侵犯用户隐私。它由分布式节点组成，能够独立学习和检测本地数据上的假新闻。此外，在这些节点上训练的检测模型可以通过分散的模型合并来增强。实验结果表明，该方法在检测基准数据集上的假新闻方面优于最先进的分散式方法。
2022-01-04 cs.AI cs.LG cs.SI
Why Didn't You Listen to Me? Comparing User Control of Human-in-the-Loop Topic Models
Amazon Alexa（亚马逊Alexa）；University of Maryland（马里兰大学）；University of Washington（华盛顿大学）；Brigham Young University（杨百翰大学）
为了解决缺乏比较评估的人在回路主题建模（HLTM）系统，我们实现和评估三个对比HLTM建模方法，使用仿真实验。这些方法扩展了以前提出的框架，包括限制和知情的先验方法。在HLTM系统中，用户应该有控制感，因此我们提出了一个控制度量来衡量精化操作的结果是否符合用户的期望。知情的基于先验的方法提供了比约束更好的控制，但约束产生更高质量的主题。
2019-06-04 cs.CL cs.HC cs.IR
ERUDITE: Human-in-the-Loop IoT for an Adaptive Personalized Learning System
University of California Irvine（加州大学欧文分校）
本文提出ERUDITE人在回路IoT系统，利用可穿戴神经技术解码脑信号推断学习状态并提供个性化反馈，使15名参与者学习表现平均提高26%，并验证了边缘部署的可行性。
2023-11-20 cs.HC cs.LG eess.SP
Extended Reality for Enhanced Human-Robot Collaboration: a Human-in-the-Loop Approach
University of Victoria（维多利亚大学）
针对自动化制造灵活性不足的问题，提出融入人在回路原则、结合XR的自主机器学习机械臂实现框架，回顾相关现有方案并讨论挑战与未来方向。
2024-10-31 cs.HC cs.LG cs.RO
pAI/MSc: ML Theory Research with Humans on the Loop
Massachusetts Institute of Technology（麻省理工学院）；Perseus Labs（Perseus实验室）
pAI/MSc旨在通过人机协同减少将假设转化为文献支持的论文草稿所需的人力指导，专注于机器学习理论及相关量化领域。
2026-04-22 cs.AI cs.LG cs.MA
HEIDL: Learning Linguistic Expressions with Deep Learning and Human-in-the-Loop
University of Michigan - Ann Arbor（密歇根大学安娜堡分校）；IBM Research - Almaden（IBM阿尔马登研究中心）
虽然人类的角色在机器学习社区中越来越被认可，但当前的人在回路机器学习（HITL-ML）方法中的模型的表示和与模型的交互太低级并且远离人类的概念模型。我们展示了HEIDL，一个原型HITL-ML系统，通过高级的，可解释的语言表达形式的谓词表示文本的语义结构，暴露了机器学习的模型。在HEIDL中，人的角色从简单地评估模型预测提升到解释，甚至通过与规则谓词本身进行交互来直接更新模型逻辑。将交互的通用性提高到这样的语义水平需要人类和机器之间的新交互范例，从而提高文本分析模型开发过程的生产力。此外，通过让人类参与到这个过程中，人机共同创建的模型可以更好地推广到看不见的数据，因为领域专家能够通过自动算法从很少的标记数据中学习到的知识来灌输他们的专业知识。
2019-07-25 cs.AI cs.CL cs.HC
Enhancing Financial Fraud Detection with Human-in-the-Loop Feedback and Feedback Propagation
Vesta Corporation（维斯塔公司）
本文研究人在回路反馈对金融欺诈检测的影响，提出反馈传播方法扩展反馈，提升模型准确性，尤其对图技术效果显著，并增强鲁棒性与可解释性。
2024-11-07 cs.AI cs.CE cs.LG
Personalization of Hearing Aid Compression by Human-In-Loop Deep Reinforcement Learning
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Callier Center for Communication Disorders, University of Texas at Dallas（德克萨斯大学达拉斯分校卡利尔交流障碍中心）
助听器验配中使用的现有规定压缩策略是基于来自一组用户的增益平均值设计的，这对于特定用户来说不一定是最佳的。近一半的助听器用户更喜欢与通常规定的设置不同的设置。本文提出了一种人在回路深度强化学习方法，该方法可以个性化助听器压缩，以改善听觉感知。所开发的方法旨在学习特定用户的听力偏好，以便根据用户的反馈优化压缩。模拟和主题测试结果的报告，证明了开发的个性化压缩的有效性。
2020-07-01 cs.LG cs.SD eess.AS
User Ex Machina : Simulation as a Design Probe in Human-in-the-Loop Text Analytics
Tableau Research（Tableau研究院）
主题模型是一种被广泛应用的分析技术，用于对文档进行聚类和呈现文本语料库的主题元素。这些模型的优化仍然具有挑战性，并且通常需要一种“人在回路”的方法，即领域专家使用他们的知识来引导和调整。然而，这些模型的脆弱性，不完整性和不透明性意味着即使是微小的变化也可能导致结果模型中出现大的和潜在的不良变化。在本文中，我们进行了以人为中心的互动与主题模型的模拟为基础的分析，与主题模型的敏感性，以常见的用户操作类的目标。我们发现，用户交互的影响，不同的幅度，但往往产生负面影响的方式，用户难以评估的建模质量。我们建议将敏感性和“多元宇宙”分析纳入主题模型界面，以克服这些缺陷。
2021-01-06 cs.CL cs.HC cs.LG
FIND: Human-in-the-Loop Debugging Deep Text Classifiers
Imperial College London（帝国理工学院）
由于获得完美的训练数据集（即，相当大的、无偏的、并且很好地代表未见过的情况的数据集）是几乎不可能的，许多真实世界的文本分类器是在可用的、但不完美的数据集上训练的。因此，这些分类器可能具有不期望的特性。例如，它们可能对某些亚群有偏见，或者由于过度拟合而无法在野外有效工作。在本文中，我们提出了FIND-一个框架，它使人类能够通过禁用不相关的隐藏特征来调试深度学习文本分类器。实验表明，通过使用FIND，人类可以改进CNN文本分类器，这些文本分类器是在不同类型的不完美数据集（包括具有偏差的数据集和具有不同训练测试分布的数据集）下训练的。
2020-10-10 cs.CL cs.HC cs.LG
Human Motion Trajectory Prediction: A Survey
Robert Bosch GmbH（罗伯特·博世有限公司）；Bosch Center for Artificial Intelligence（博世人工智能中心）；Carnegie Mellon University（卡内基梅隆大学）；TU Delft（代尔夫特理工大学）
随着人类环境中智能自治系统的数量不断增加，这些系统感知、理解和预测人类行为的能力变得越来越重要。具体而言，预测动态代理的未来位置并考虑这些预测进行规划是自动驾驶车辆，服务机器人和先进监控系统的关键任务。本文综述了人体运动轨迹预测的研究进展。我们审查，分析和结构的工作从不同的社区大的选择，并提出了一个分类法，现有的方法进行分类的基础上的运动建模方法和上下文信息的使用水平。我们提供了现有数据集和性能指标的概述。我们讨论了限制的最先进的和轮廓的进一步研究的方向。
2019-12-17 cs.CV cs.LG cs.RO
Music Generation using Human-In-The-Loop Reinforcement Learning
University of Birmingham（伯明翰大学）
本文提出将人在回路的强化学习与音乐理论原则相结合，采用情景式表格 Q-learning 算法构建框架，通过迭代式人类反馈持续优化音乐曲目的实时生成质量。
2025-01-25 cs.AI cs.HC cs.LG
Explanation-Based Human Debugging of NLP Models: A Survey
Imperial College London（伦敦帝国学院）
机器学习模型是困难的，因为错误通常涉及训练数据和学习过程。对于一个不透明的深度学习模型来说，如果我们不知道模型实际上是如何工作的，这就变得更加困难了。在本调查中，我们回顾了利用解释使人类能够提供反馈和调试NLP模型的论文。我们把这个问题称为基于解释的人工调试（EBHD）。特别是，我们分类和讨论现有的工作沿EBHD的三个方面（错误的背景下，工作流程和实验设置），编译EBHD组件如何影响反馈提供者的调查结果，并突出开放的问题，可能是未来的研究方向。
2021-12-10 cs.AI cs.CL cs.HC
IAdet: Simplest human-in-the-loop object detection
Université Paris-Saclay（巴黎萨克雷大学）；ENS Paris-Saclay（巴黎萨克雷高等师范学校）；CNRS（法国国家科学研究中心）；Centre Borelli（博雷利中心）
本文提出智能标注（IA）策略并开源单类别目标检测工具 IAdet，通过辅助标注、背景模型训练和主动选择在 PASCAL VOC 上减少 25% 标注时间，同时免费获得训练模型。
2023-07-04 cs.AI cs.CV cs.HC
Human-in-the-Loop AI for Cheating Ring Detection
Duolingo, Inc.（多邻国公司）
针对在线考试中专业作弊服务形成的作弊团伙问题，提出一种遵循RAI标准的人在回路AI检测系统，通过定制设计原则与公平性评估方法，实现作弊者的有效检测与遏制。
2024-03-18 cs.AI cs.CY cs.HC
