Interactive Machine Learning: From Theory to Scale
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本论文提出交互式机器学习的新算法和理论框架，实现高效主动学习和上下文带算法，解决大规模应用中的计算效率与模型选择问题。
2025-12-30 cs.AI cs.LG stat.ML
RISE: Interactive Visual Diagnosis of Fairness in Machine Learning Models
University of Florida（佛罗里达大学）
RISE通过交互式可视化工具帮助诊断机器学习模型中的公平性问题，揭示准确率与公平性的权衡，支持更明智的模型选择。
2026-02-04 cs.LG
One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency
University of Bristol（布里斯托大学）
由于基于机器学习算法的预测系统在行业中的不断增长，因此需要其透明度。每当黑箱算法预测影响人类事务时，这些算法的内部工作应该被仔细检查，并向相关利益相关者解释其决策，包括系统工程师，系统操作员和案件被决定的个人。虽然有各种各样的可解释性和可解释性方法，但没有一种方法是万能药，可以满足所有不同的期望和有关各方可能要求的相互竞争的目标。在本文中，我们通过讨论交互式机器学习的承诺来解决这一挑战，该承诺使用对比解释的例子来提高黑盒系统的透明度--一种最先进的可解释机器学习方法。具体来说，我们展示了如何个性化的反事实的解释，通过互动调整他们的条件语句和提取额外的解释，要求后续“如果？“问题。我们在构建、部署和展示这种类型的系统方面的经验使我们能够列出所需的属性以及潜在的限制，这些属性可以用于指导交互式解释器的开发。在定制交互媒介的同时，用户界面包括各种通信渠道，可能会给人一种个性化的印象，我们认为，调整解释本身及其内容更重要。为此，除了明确告知被解释者其局限性和警告之外，还必须考虑解释的广度、范围、上下文、目的和目标等属性.
2020-01-27 cs.AI cs.LG stat.ML
Becoming the Expert - Interactive Multi-Class Machine Teaching
University College London（伦敦大学学院）
与机器相比，人类非常擅长将图像分类，特别是当他们拥有手头类别的先验知识时。如果没有这种先验信息，则需要以教学图像的形式进行监督。为了更快地学习类别，人们应该首先看到重要的和有代表性的图像，然后是不太重要的图像-或者根本不看。然而，图像的重要性是个人特定的，即一个教学图像是重要的学生，如果它改变了他们的整体能力，区分类。此外，学生不断学习，因此，虽然图像的重要性取决于他们目前的知识，它也随着时间的推移而变化。在这项工作中，我们提出了一个交互式的机器教学算法，使计算机教具有挑战性的视觉概念的人。我们的自适应算法选择，在线，标记图像从教学集应该显示给学生，因为他们学习。我们表明，概率模型的学生的能力和进步，根据他们的正确和不正确的答案，产生更好的“专家”的教学策略。我们使用真实的人类参与者在几个不同的和具有挑战性的现实世界的数据集呈现结果。
2015-04-28 cs.CV cs.LG stat.ML
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology（佐治亚理工学院）
机器教学（MT）是一个交互式的过程，其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统，但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架，并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分，即教学界面，机器学习者和知识库，和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明，机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
Interactive Machine Learning of Musical Gesture
Goldsmiths, University of London（伦敦大学金史密斯学院）
本章概述了交互式机器学习（IML）技术应用于音乐手势的分析和设计。我们通过捕获，分析和应用IML技术，以人体姿态与声音合成系统执行的目的的主要挑战和需求。我们讨论了如何使用不同的算法来完成不同的任务，包括与复杂的合成技术进行交互，并通过我们开发的交互范例中的强化学习（RL）探索交互的可能性，称为辅助交互式机器学习（AIML）。最后，我们描述了作者如何使用这些技术来发展四首乐曲，从而概述了IML对音乐实践的影响。
2020-11-26 cs.HC cs.LG
Interactive Learning from Multiple Noisy Labels
University of Regina（里贾纳大学）
交互式学习是一个过程，其中机器学习算法提供有意义的，精心选择的例子，而不是随机选择的例子，典型的标准监督学习。在本文中，我们提出了一种新的方法，从多个嘈杂的标签，我们利用注释者之间的分歧量化的容易性（或意义）的例子进行交互式学习。我们证明了这种方法在估计潜变量分类模型参数方面的实用性，并在一系列合成和基准数据集上进行了实验分析。此外，我们从理论上分析了感知器在这种交互式学习框架中的性能。
2016-07-24 cs.LG stat.ML
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University（中央华盛顿大学）
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域，他们是专为。所提出的迭代视觉逻辑分类器（IVLC）是一种可解释的机器学习算法，允许最终用户设计模型并以更高的置信度对数据进行分类，而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用，如医疗领域中的癌症数据，错误成本很高。在所提出的交互式无损多维可视化的帮助下，最终用户可以识别数据中的模式，并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统（SPCVis）支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性，使其能够自助执行数据分类，而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时，交互式模式发现变得具有挑战性。为了克服这个问题，本章提出了一个自动分类方法结合新的坐标顺序优化（COO）算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列，而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集，包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
Interactive Machine Learning: A State of the Art Review
ENIB（法国国家电子与计算机工程学院）；Addis Ababa University（亚的斯亚贝巴大学）；University of Miami（迈阿密大学）；IRL CROSSING（IRL CROSSING实验室）
机器学习已被证明在许多软件学科中是有用的，包括计算机视觉、语音和音频处理、自然语言处理、机器人学和一些其他领域。然而，由于其黑箱性质和显著的资源消耗，其适用性受到了极大的阻碍。性能的实现是以巨大的计算资源为代价的，并且通常会损害模型的鲁棒性和可信度。最近的研究已经确定缺乏交互性是这些机器学习问题的主要来源。因此，交互式机器学习（iML）由于其人在回路的模式和相对有效的资源利用率而获得了越来越多的研究人员的关注。因此，对交互式机器学习的最新回顾在减轻构建以人为中心的模型的努力方面起着至关重要的作用。在本文中，我们提供了一个全面的分析，国家的最先进的iML。我们分析突出的研究工作，择优导向和应用/任务导向的混合分类法。我们使用自下而上的聚类方法来生成一个分类的iML研究工作。在此基础上，分析了对抗性黑盒攻击及其相应的基于iML的防御系统、探索性机器学习、资源约束学习和iML性能评估等方面的研究成果。我们把这些研究工作进一步分为技术和部门两类。最后，研究机会，我们认为是鼓舞人心的未来工作在iML进行了彻底的讨论。
2022-07-13 cs.LG
Enumeration of Distinct Support Vectors for Interactive Decision Making
Hokkaido University（北海道大学）；Osaka University（大阪大学）；NTT Communication Science Laboratories（NTT通信科学实验室）
在常规预测任务中，机器学习算法输出全局优化其目标函数的单个最佳模型，该目标函数通常是准确性。因此，用户无法显式访问其他模型。与此相反，多模型枚举在非标准机器学习应用中吸引了越来越多的兴趣，其中其他标准，例如，可解释性或公平性比准确性更重要，且用户可能想要访问多于一个非最佳但合适模型。本文提出了一种支持向量机（SVM）的K-best模型枚举算法，给定数据集S和整数K>0，在对偶SVM问题中，按目标函数值降序枚举S上具有不同支持向量的K-best模型。基于对支持向量的格型结构的分析，我们的算法有效地找到了下一个最好的模型，具有较小的延迟。这在支持用户交互式检查他们对枚举模型的需求时很有用。通过在真实数据集上的实验，我们评估了我们的算法的效率和实用性。
2019-06-05 cs.LG stat.ML
explAIner: A Visual Analytics Framework for Interactive and Explainable Machine Learning
University of Konstanz（康斯坦茨大学）
我们提出了一个交互式和可解释的机器学习框架，使用户能够（1）理解机器学习模型;（2）使用不同的可解释AI方法诊断模型限制;以及（3）改进和优化模型。我们的框架将迭代XAI管道与八个全球监控和指导机制相结合，包括质量监控，来源跟踪，模型比较和信任建立。为了使框架可操作化，我们提出了explAIner，这是一个用于交互式和可解释的机器学习的可视化分析系统，它在常用的TensorBoard环境中实例化建议管道的所有阶段。我们与不同专业水平的九名参与者进行了用户研究，以检查他们对我们工作流程的看法，并收集建议以填补我们的系统和框架之间的差距。评估证实，我们紧密集成的系统导致了一个明智的机器学习过程，同时揭示了进一步扩展的机会。
2019-10-07 cs.AI cs.HC cs.LG
Geovisual Analytics and Interactive Machine Learning for Situational Awareness
University of Colorado Boulder（科罗拉多大学博尔德分校）；Purdue University（普渡大学）；School of Electrical and Computer Engineering, Purdue University（普渡大学电气与计算机工程学院）
第一反应社区传统上依赖于公众的呼吁，官方提供的地理信息和地图来协调实地行动。社交媒体平台的普遍存在为通过自愿地理信息近乎实时地感知情况（例如，正在发生的天气事件或危机）创造了机会。在这篇文章中，我们提供了社交媒体分析报告工具包（SMART）的设计过程和功能的概述，该工具包是普渡大学开发的一个可视化分析平台，用于为第一响应者提供实时态势感知。我们将其成功应用归功于其以用户为中心的设计，交互式（地理）可视化和交互式机器学习，让用户可以控制分析。
2019-10-11 cs.CY cs.HC cs.LG
DeepCAVE: An Interactive Analysis Tool for Automated Machine Learning
Leibniz University Hannover（汉诺威莱布尼茨大学）；University of Freiburg（弗赖堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
自动化机器学习（AutoML）比以往任何时候都更常用于支持用户确定有效的超参数、神经架构甚至完整的机器学习管道。然而，由于缺乏透明度，用户往往不信任优化过程及其结果，使得手动调优仍然很普遍。我们介绍DeepCAVE，这是一个交互式框架，可以轻松地分析和监控AutoML的最新优化过程。DeepCAVE旨在实现完全和可访问的透明度，在用户和AutoML之间建立了一座桥梁，并有助于建立信任。我们的框架的模块化和易于扩展的性质为用户提供自动生成的文本，表格和图形可视化。我们在异常值检测的示例用例中展示了DeepCAVE的价值，在该用例中，我们的框架可以轻松识别问题，比较多次运行并解释优化过程。该软件包可在GitHub https://github.com/automl/DeepCAVE上免费获得。
2022-07-11 cs.LG
Leveraging Explanations in Interactive Machine Learning: An Overview
University of Trento（特伦托大学）；Optum（欧唯特健康）；Technical University Darmstadt（达姆施塔特工业大学）；IBM Research（IBM研究院）
在AI和机器学习（ML）社区中，为了提高模型的透明度，并允许用户形成经过训练的ML模型的心理模型，简化已经获得了越来越多的兴趣。然而，解释可以超越这种单向交流，作为一种机制来引起用户控制，因为一旦用户理解，他们就可以提供反馈。本文的目标是提出一个研究的概述，解释与交互功能相结合，作为一种手段，从头开始学习新的模型，编辑和调试现有的。为此，我们绘制了一个最先进的概念图，根据其预期目的和它们如何构建交互，突出它们之间的相似性和差异性，对相关方法进行分组。我们还讨论了开放的研究问题，并概述了可能的发展方向，希望能促进对这一蓬勃发展的研究课题的进一步研究。
2022-10-09 cs.LG
A look under the hood of the Interactive Deep Learning Enterprise (No-IDLE)
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本文介绍DFKI的No-IDLE原型系统，提出交互式机器学习与多模态交互相结合的方法，旨在让非专家用户也能使用交互式深度学习技术。
2024-06-27 cs.AI cs.HC cs.LG
Teachable Reality: Prototyping Tangible Augmented Reality with Everyday Objects by Leveraging Interactive Machine Teaching
IIIT-Delhi（德里英迪拉甘地信息技术学院）；University of Calgary（卡尔加里大学）
本文介绍了可教现实，一个增强现实（AR）的原型工具，用于创建交互式的有形AR应用程序与任意的日常对象。Teachable Reality利用基于视觉的交互式机器教学（例如，Teachable Machine），它可以捕捉真实世界的交互，用于AR原型设计。它使用按需计算机视觉模型识别用户定义的有形和手势交互。在此基础上，用户可以轻松创建功能性AR原型，而无需编程，并通过一个用户操作创作界面实现。因此，我们的方法允许有形AR应用程序的灵活性，可定制性和通用性，可以解决当前基于标记的方法的局限性。我们探索设计空间并展示各种AR原型，其中包括有形和可变形的界面，上下文感知助手和身体驱动的AR应用程序。我们的用户研究和专家访谈的结果证实，我们的方法可以降低创建功能性AR原型的障碍，同时还可以实现灵活和通用的原型设计体验。
2023-02-21 cs.CV cs.HC cs.LG
dalex: Responsible Machine Learning with Interactive Explainability and Fairness in Python
Warsaw University of Technology（华沙理工大学）；Faculty of Mathematics and Information Science（数学与信息科学学院）；Samsung Research & Development Institute（三星研发研究院）
可用数据量的增加、计算能力的提高以及对更高性能的不断追求导致预测模型的复杂性不断增加。它们的黑箱性质导致不透明债务现象，增加了歧视的风险，缺乏可重复性，以及由于数据漂移而导致的性能下降。为了管理这些风险，良好的MLOps实践要求更好地验证模型性能和公平性，更高的可解释性和持续监控。更深层次的模型透明性的必要性不仅出现在科学和社会领域，也出现在关于人工智能的新兴法律法规中。为了促进负责任的机器学习模型的开发，我们展示了dalex，这是一个Python包，它实现了用于交互式模型探索的模型不可知接口。它采用了通过开发各种负责任的机器学习工具而精心制作的设计;因此，它旨在统一现有的解决方案。这个库的源代码和文档可以在https://python.drwhy.ai/的开放许可下获得。
2021-10-11 cs.HC cs.LG cs.SE
PREVIS -- A Combined Machine Learning and Visual Interpolation Approach for Interactive Reverse Engineering in Assembly Quality Control
Technische Universität Kaiserslautern（凯泽斯劳滕工业大学）
我们提出了PREVIS，一个可视化的分析工具，提高机器学习性能分析在工程应用中。所提供的工具链允许直接比较回归模型。此外，我们提供了一种方法来可视化回归误差对原始域中感兴趣的基本领域的影响，通过利用标准插值方法，零件几何形状。此外，我们允许通过视觉插值在位移场中实时预览用户驱动的参数变化。这使得能够进行快速和负责任的在线变更管理。我们证明了汽车发动机罩的事前优化的有效性。
2022-01-25 cs.HC cs.LG
Building Automated Survey Coders via Interactive Machine Learning
Istituto di Scienza e Tecnologie dell’Informazione Consiglio Nazionale delle Ricerche（意大利国家研究委员会信息科学与技术研究所）
通过机器学习训练的软件系统，可以自动对开放式答案进行分类（也称为现在已经成为现实。尽管如此，它们在调查编码行业的采用并没有像它可能的那样广泛。在阻碍更大规模采用该技术的因素中，包括手动编码足够数量的训练数据所涉及的工作，小型研究似乎无法证明这种努力的合理性，以及当全新的编码任务出现时需要重新重复该过程的事实。在本文中，我们将讨论一种方法来建立逐字分类，我们将称之为“互动学习”，并解决所有上述问题。我们将证明，对于相同的训练工作量，交互式学习比标准的“非交互式”学习提供更好的编码准确性。当我们愿意手动编码的数据量很小时，这一点尤其如此，这使得这种方法对于小规模研究也很有吸引力。交互式学习还有助于重用以前训练的分类器来处理新的（尽管相关的）编码任务。交互式学习还可以更好地集成到调查专家的日常工作流程中，并提供更好的整体用户体验。
2019-03-28 cs.IR cs.LG
Interactive Diabetes Risk Prediction Using Explainable Machine Learning: A Dash-Based Approach with SHAP, LIME, and Comorbidity Insights
University of Arkansas at Little Rock（阿肯色大学小石城分校）
本文提出一种基于Dash的交互式糖尿病风险预测工具，结合多种机器学习模型与SHAP、LIME可解释性方法及共病分析，实现个性化健康风险评估。
2025-05-08 cs.AI cs.LG
On Interactive Machine Learning and the Potential of Cognitive Feedback
U.S. Naval Research Laboratory（美国海军研究实验室）
为了提高生产力、能力和数据利用率，许多国防应用正在将最先进的机器学习和AI集成到其架构中。特别是对于国防应用，由于质量控制、问责制和复杂的主题专业知识不容易被人工智能自动化或复制，因此在循环中拥有人类分析师是非常重要的。然而，许多应用程序的过渡非常缓慢。这可能在很大程度上是由于缺乏信任，可用性和生产力，特别是在适应不可预见的类和任务上下文的变化时。交互式机器学习是一个新兴的领域，其中机器学习实现通过直观的人机界面进行训练、优化、评估和利用。在本文中，我们介绍了交互式机器学习，并解释其优势和局限性的背景下，国防应用。此外，我们解决了几个交互式机器学习的缺点，通过讨论如何认知反馈可以告知功能，数据和结果的最先进的状态。我们定义了三种技术，认知反馈可以采用：自我报告，隐式认知反馈，和建模的认知反馈。每种技术的优点和缺点进行了讨论。
2020-03-23 cs.AI cs.HC cs.LG
Machine Collaboration
Hosei University（法政大学）；New York University（纽约大学）
提出循环交互的监督学习集成框架MaC，通过基础机器间循环传递信息更新结构与参数，理论证明其能降低风险，并在119个真实数据集上表现优于多种先进方法。
2024-02-11 cs.LG econ.EM stat.ML
An Interactive Human-Machine Learning Interface for Collecting and Learning from Complex Annotations
University of Bristol（布里斯托尔大学）
本文提出一种用于二分类任务的交互式人机学习界面，允许标注者使用反事实示例补充传统二值标签，以提升标注灵活性和机器学习效果。
2024-03-28 cs.HC cs.LG
Safe Exploration for Interactive Machine Learning
ETH Zurich（苏黎世联邦理工学院）
在交互式机器学习（IML）中，我们迭代地做出决策并获得未知函数的噪声观测。虽然IML方法，例如，贝叶斯优化和主动学习在实际应用中取得了成功，但在实际系统中，它们必须能够避免不安全决策。为此，安全的IML算法必须仔细学习先验未知的约束，而不做出不安全的决策。现有的算法对这个问题的学习所有决策的安全性，以确保收敛。这是样本效率低下的，因为它探索了与原始IML目标无关的决策。在本文中，我们介绍了一个新颖的框架，可以使任何现有的不安全IML算法变得安全。我们的方法可以作为一个附加组件，将建议的决策作为输入，并利用高斯过程的规律性假设，以便有效地了解它们的安全性。因此，我们只在IML问题需要时才探索安全集。我们将我们的框架应用于安全贝叶斯优化和安全探索确定性马尔可夫决策过程（MDP），之前已经分别进行了分析。我们的方法优于其他算法经验。
2019-10-30 cs.AI cs.LG cs.RO
Visus: An Interactive System for Automatic Machine Learning Model Building and Curation
New York University（纽约大学）
虽然对机器学习（ML）应用的需求正在蓬勃发展，但缺乏能够构建此类模型的数据科学家。已经提出了自动机器学习（AutoML）方法，通过合成端到端ML数据处理管道来帮助解决这个问题。但是，这些都遵循尽力而为的方法，并且循环中的用户需要管理和优化派生的管道。由于领域专家通常很少或根本没有机器学习方面的专业知识，因此在整个模型构建过程中指导他们的易于使用的交互式界面是必要的。在本文中，我们介绍了Visus，一个旨在支持AutoML系统生成的ML数据处理管道的模型构建过程和管理的系统。我们描述了用于为我们的设计选择奠定基础的框架以及Visus支持的使用场景。最后，我们讨论了领域专家在用户测试会话中收到的反馈。
2019-07-05 cs.HC cs.LG
Emblaze: Illuminating Machine Learning Representations through Interactive Comparison of Embedding Spaces
Carnegie Mellon University（卡内基梅隆大学）
现代机器学习技术通常依赖于复杂的高维嵌入表示来捕获数据中的底层结构并提高性能。为了表征模型缺陷并选择理想的表示，模型构建者通常需要在多个嵌入空间中进行比较，这是一项具有挑战性的分析任务，现有工具很少支持。我们首先采访了不同领域的九位嵌入专家，以描述他们在分析嵌入空间时面临的各种挑战和使用的技术。根据这些观点，我们开发了一种名为Emblaze的新系统，该系统将嵌入空间比较集成在计算笔记本环境中。Emblaze使用动画，交互式散点图与新颖的星迹增强，使视觉比较。它还采用了新的邻域分析和聚类程序，以动态地建议空间之间有有趣变化的点组。通过与ML专家的一系列案例研究，我们展示了如何与Emblaze进行交互式比较，以帮助获得对嵌入空间结构的新见解。
2022-02-16 cs.HC cs.LG
Introducing explainable supervised machine learning into interactive feedback loops for statistical production system
European Central Bank（欧洲中央银行）；University of Southampton（南安普顿大学）；Solenix Deutschland GmbH（Solenix德国有限公司）
统计生产系统涵盖从数据收集、汇总和整合到数据质量保证和传播等任务的多个步骤。虽然数据质量保证是应用机器学习最有前途的领域之一，但缺乏经过策划和标记的训练数据往往是一个限制因素。中央证券数据库的统计制作系统在欧洲中央银行收集的数据与各国中央银行数据质量管理人员执行的数据质量保证之间建立了一个互动反馈回路。质量保证反馈循环基于一组基于规则的检查，用于引发异常，用户可以根据这些异常确认数据或纠正实际错误。在本文中，我们使用从这个反馈回路收到的信息，以优化异常提交给国家中央银行，从而提高质量的异常生成和用户认证这些异常的系统上消耗的时间。对于这种方法，我们利用可解释的监督机器学习来（a）识别例外的类型和（b）优先考虑哪些例外更有可能需要国家协调机构的干预或纠正。此外，我们提供了一个可解释的AI分类法，旨在识别项目期间出现的不同可解释的AI需求。
2022-02-18 cs.LG stat.AP stat.ML
RootPainter3D: Interactive-machine-learning enables rapid and accurate contouring for radiotherapy
University of Copenhagen（哥本哈根大学）；Rigshospitalet（哥本哈根大学医院）
危险器官轮廓仍然是放射治疗的瓶颈，许多深度学习方法在临床数据评估时无法达到预期的结果。我们研究了使用交互式机器学习方法进行器官风险轮廓绘制任务的准确性和节省的时间。我们比较的方法，Eclipse的轮廓软件，并找到强烈的协议与手动划定，骰子得分为0.95。使用校正注释创建的注释也花费更少的时间来创建，因为更多的图像被注释，从而与手动方法相比节省了大量时间，在描绘了923个图像之后，心脏平均花费2分2秒来描绘，而手动描绘时为7分1秒。我们的实验表明，具有正确注释的交互式机器学习为非计算机科学家提供了一种快速且可访问的方式，可以训练深度学习模型，以分割他们自己感兴趣的结构，作为常规临床工作流程的一部分。源代码可从\href{https://github.com/Abe404/RootPainter3D}{this HTTPS URL}获得。
2021-06-22 cs.CV cs.HC cs.LG
Evolving machine learning workflows through interactive AutoML
University of Córdoba（科尔多瓦大学）；Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（安达卢西亚数据科学与计算智能研究所）；University of Málaga（马拉加大学）
本文提出交互式 G3P 算法 \ourmethod，让用户动态修改 AutoML 工作流搜索语法；20 人实验表明，人机协作可获得更高准确率且调优更省时的工作流。
2024-02-28 cs.LG
Support Vector Machine-Based Burnout Risk Prediction with an Interactive Interface for Organizational Use
Universidade Católica de Pernambuco (UNICAP)（珀努布里克天主教大学）；Centro de Informática – Universidade Federal de Pernambuco (UFPE)（佩纳布里克联邦大学计算机中心）；Centro de Estudos e Sistemas Avançados do Recife (CESAR School)（里贝伦高级研究与系统中心）；Universidade de Pernambuco (UPE)（佩纳布里克大学）
本研究针对职业倦怠早期检测需求，基于HackerEarth员工倦怠数据集对比KNN、随机森林与SVM算法，发现SVM预测性能最优（R²=0.84），并开发Streamlit交互式界面供非技术用户使用，为组织数据驱动的心理健康策略提供支持。
2025-10-29 cs.LG
A Human-Centered Approach to Interactive Machine Learning
University of Alberta（阿尔伯塔大学）
交互式机器学习（IML）社区旨在通过开发自动决策系统来增强人类随着时间的推移进行学习和决策的能力。这种交互代表了多个智能系统--人类和机器之间的协作。缺乏对所涉及的人的适当考虑可能导致有问题的系统行为，以及公平性，问责制和透明度问题。这项工作提出了一个以人为本的思想方法，应用IML方法。本指南旨在供人工智能从业者使用，他们将人为因素纳入工作中。这些从业者负责相互作用的人类的健康，安全和福祉。对公众互动负责的义务意味着正直、诚实、公平地行事，并遵守适用的法律法规。有了这些价值观和原则，我们作为一个研究社区可以更好地实现增强人类能力的集体目标。本实用指南旨在支持IML系统的迭代设计、开发和传播过程中所需的许多负责任的决策。
2019-05-15 cs.CY cs.HC cs.LG
Sample-Efficient Model-based Actor-Critic for an Interactive Dialogue Task
University of Guelph（圭尔夫大学）；Vector Institute for Artificial Intelligence（矢量人工智能研究所）；University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）
依赖于机器学习的人机交互系统对于每天使用数字助理的数百万人的生活至关重要。然而，进一步的进展受到数据可用性和获取新样本的成本的限制。解决该问题的一种方法是通过提高当前方法的样本效率。作为解决途径，我们提出了一个基于基于模型的强化学习算法的交互式对话任务。我们建立在常用的演员-评论家的方法，增加了一个环境模型和规划，增强了学习代理学习的环境动态模型。我们的研究结果表明，在模拟的交互式任务，我们的算法需要70倍的样本少，相比常用的无模型算法的基线，并表现出2倍的性能渐近。此外，我们引入了一个新的贡献，计算软规划政策，并进一步更新的无模型的政策产生一个计算成本较低的无模型代理作为基于模型的。这种基于模型的架构作为一个基础，可以扩展到其他人机交互任务，允许在这个方向上进一步发展。
2020-04-28 cs.AI cs.LG stat.ML
HistomicsML2.0: Fast interactive machine learning for whole slide imaging data
Weisberg Division of Computer Science, Marshall University（马歇尔大学魏斯伯格计算机科学分部）；Kitware, Inc.（Kitware公司）；Emory University School of Medicine（埃默里大学医学院）；National Cancer Institute（美国国家癌症研究所）；Cairo University（开罗大学）；Northwestern University Feinberg School of Medicine（西北大学费恩伯格医学院）
从全载玻片图像中提取定量表型信息对于没有开发图像分析算法经验的研究人员来说是一个重大挑战。我们提出了新的软件，使快速学习的例子训练的机器学习分类器检测的组织学模式在整个载玻片成像数据集。HistomicsML2.0使用卷积网络，可轻松适应各种应用程序，提供基于Web的用户界面，并可作为软件容器来简化部署。
2020-01-30 cs.CV cs.LG eess.IV
A Machine of Few Words -- Interactive Speaker Recognition with Reinforcement Learning
Université de Lille（里尔大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Deepmind（深度思维）；Google Research（谷歌研究院）
说话人识别是语音处理领域中一个众所周知的研究课题。它有许多应用，用于个人设备的安全或扬声器适配。在本文中，我们提出了一个新的范例自动说话人识别，我们称之为交互式说话人识别（ISR）。在这个范例中，识别系统的目的是通过请求个性化的话语来逐步建立一个代表的发言者被发言的标准文本相关或文本无关的计划。为此，我们将说话人识别任务转换为一个顺序决策问题，并使用强化学习来解决。使用一个标准的数据集，我们表明，我们的方法取得了优异的性能，同时使用很少的语音信号量。该方法也可以作为一种发声选择机制，用于构建语音合成系统。
2020-08-07 cs.LG cs.SD eess.AS
User Modelling for Avoiding Overfitting in Interactive Knowledge Elicitation for Prediction
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）
在人在回路机器学习中，用户提供的信息超出了训练数据中的信息。许多算法和用户界面已被设计用于优化和促进这种人机交互;然而，很少有研究解决了设计可能导致的潜在缺陷。有效的交互通常需要向用户展示训练数据或其统计信息。然后，系统的设计是至关重要的，因为如果用户强化数据中的噪声模式，这可能导致数据的双重使用和过度拟合。我们提出了一个用户建模的方法，通过假设简单的理性行为，以纠正这个问题。我们表明，在一个用户的研究与48名参与者，该方法提高了预测性能的稀疏线性回归情感分析任务，其中分级的用户知识的特征相关性。我们相信，使用概率用户模型推断用户知识的关键思想在防止过拟合和改进交互式机器学习方面具有普遍适用性。
2018-03-09 cs.HC cs.LG stat.ML
Suggesting Code Edits in Interactive Machine Learning Notebooks Using Large Language Models
University of Waterloo（滑铁卢大学）
本文构建首个含48,398项Jupyter编辑的数据集，评估LLM预测代码修改，发现编辑高度局部但模型准确率低，凸显上下文的重要性。
2025-01-16 cs.CL cs.LG cs.SE
Symphony: Composing Interactive Interfaces for Machine Learning
Ulm University（乌尔姆大学）；Carnegie Mellon University（卡内基梅隆大学）；Apple（苹果公司）
机器学习（ML）的接口，关于模型或数据的信息和可视化，可以帮助从业者构建健壮和负责任的ML系统。尽管有这些好处，但最近对ML团队的研究和我们对从业者的采访（n=9）表明，ML接口在实践中的应用有限。虽然现有的ML接口对于特定任务是有效的，但它们的设计并不是为了让跨职能团队中的多个利益相关者重用、探索和共享。为了实现不同ML从业者之间的分析和通信，我们设计并实现了Symphony，这是一个框架，用于组成交互式ML界面，其中包含特定于任务的数据驱动组件，可以跨平台使用，例如计算笔记本和Web仪表板。我们通过与10个团队（n=31）的参与式设计会议开发了Symphony，并讨论了我们在Apple将Symphony部署到3个生产ML项目中的发现。Symphony帮助ML从业者发现以前未知的问题，如数据重复和模型中的盲点，同时使他们能够与其他利益相关者分享见解。
2022-02-18 cs.AI cs.HC cs.LG
Developing A Visual-Interactive Interface for Electronic Health Record Labeling: An Explainable Machine Learning Approach
Sriphat Medical Center, Faculty of Medicine, Chiang Mai University（清迈大学医学院诗里帕医院）
本文提出可视化交互标注工具 XLabel，利用可解释提升机 EBM 分类并展示解释热力图，辅助电子健康记录的 NCD 标注，实验证明其可减少操作、保持高准确率并具备强抗错误标注能力。
2023-06-02 cs.HC cs.LG stat.AP
Scalable Interactive Machine Learning for Future Command and Control
U.S. DEVCOM Army Research Laboratory（美国DEVCOM陆军研究实验室）；U.S. Mission Command Battle Lab（美国任务指挥作战实验室）
本文针对未来指挥与控制中决策时效性和复杂性问题，提出规模化交互式机器学习（SIML）框架，从人机交互算法、韧性团队构建和规模扩展三个方向推动人机协同决策。
2024-03-28 cs.AI cs.CL cs.HC
MLPROP -- an open interactive web interface for thermophysical property prediction with machine learning
Laboratory of Engineering Thermodynamics (LTD) RPTU Kaiserslautern（工程热力学实验室（LTD）鲁尔大学凯泽斯劳滕分校）
本研究推出开源交互式Web界面MLPROP，无需机器学习专业知识即可使用多款先进模型预测热物理性质并拟合参数，免费开放且支持集成到现有工作流，降低了相关方法的应用门槛。
2025-04-08 cs.CE cs.LG
Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy
University of Florida（佛罗里达大学）
混合主动系统允许用户交互式地提供反馈，以潜在地提高系统性能。人工反馈可以纠正模型错误并更新模型参数，以动态适应不断变化的数据。此外，许多用户希望能够有更高的控制水平，并修复他们所依赖的系统中的感知缺陷。然而，向自治系统提供反馈的能力如何影响用户信任，这在很大程度上是一个尚未探索的研究领域。我们的研究调查了提供反馈的行为如何影响用户对智能系统及其准确性的理解。我们提出了一个对照实验，使用一个模拟的目标检测系统与图像数据，研究交互式反馈收集对用户印象的影响。结果表明，提供人在回路反馈降低了参与者对系统的信任和他们对系统准确性的感知，无论系统准确性是否响应他们的反馈而提高。这些结果强调了在设计智能系统时考虑最终用户反馈对用户信任的影响的重要性。
2020-08-28 cs.AI cs.HC cs.LG
CAIPI in Practice: Towards Explainable Interactive Medical Image Classification
Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所IIS）；Nuremberg Institute of Technology Georg Simon Ohm（纽伦堡乔治·西蒙·欧姆技术学院）
如果医生不能向你解释他们的决定，你会相信他们吗？使用机器学习的医疗诊断在过去十年中变得非常重要。然而，在没有进一步增强的情况下，许多最先进的机器学习方法不适合于医学应用。最重要的原因是数据集质量不足和深度学习模型等机器学习算法的黑箱行为。因此，最终用户无法纠正模型的决定和相应的解释。后者对于医学领域机器学习的可信度至关重要。研究领域可解释的交互式机器学习寻找解决这两个缺点的方法。本文扩展了可解释和交互式CAIPI算法，并提供了一个接口，以简化人在回路的方法图像分类。该界面使最终用户能够（1）调查和（2）纠正模型的预测和解释，以及（3）影响数据集质量。在每次迭代仅使用单个反例的CAIPI优化之后，该模型在医疗MNIST上实现了$97.48\%$的准确度，在时尚MNIST上实现了$95.02\%$的准确度。这种准确性大约等于最先进的深度学习优化程序。此外，CAIPI减少了大约$80\%$的标记工作。
2022-05-31 cs.CV cs.LG eess.IV
The Grammar of Interactive Explanatory Model Analysis
Warsaw University of Technology（华沙理工大学）
针对单一模型解释方法易引发Rashomon效应的问题，论文提出交互式顺序化的IEMA流程及其形式化语法，并通过开源框架与用户研究验证其可提升决策表现和信心。
2022-05-04 cs.HC cs.LG stat.ML
But that's not why: Inference adjustment by interactive prototype revision
Heinrich Hertz Institute（海因里希·赫兹研究所）；Humboldt University（洪堡大学）
针对机器学习模型预测可能依赖不合理因素的问题，提出基于原型部件模型的交互式推理调整方案，让非专业用户可通过识别移除缺陷原型调整推理逻辑且不损失准确率。
2023-10-09 cs.LG
A Brief Guide to Designing and Evaluating Human-Centered Interactive Machine Learning
DeepMind（深度思维）
交互式机器学习（IML）是一个研究领域，探索如何在决策系统中利用人类和计算能力。IML代表了多个互补的人类和机器智能系统之间的协作，每个系统都有自己独特的能力和局限性。这种团队合作可能意味着两个系统同时或按顺序采取行动。IML领域的两个主要开放研究问题是：“我们应该如何设计能够随着时间的推移通过人机交互学习做出更好决策的系统？以及"我们应该如何评估这种系统的设计和部署？“对所涉及的人缺乏适当的考虑可能会导致系统行为问题，以及公平性、问责制和透明度问题。因此，我们这项工作的目标是提出一个以人为本的指南，以设计和评估IML系统，同时降低风险。本指南旨在供负责人类互动的健康、安全和福祉的机器学习从业者使用。对公众互动负责的义务意味着正直、诚实、公平地行事，并遵守适用的法律法规。牢记这些价值观和原则，我们作为机器学习研究社区可以更好地实现增强人类技能和能力的目标。因此，本实用指南旨在支持IML系统的迭代设计、开发和传播过程中所需的许多负责任的决策。
2022-04-20 cs.GL cs.HC cs.LG
Integrating Human Expertise in Continuous Spaces: A Novel Interactive Bayesian Optimization Framework with Preference Expected Improvement
Montanuniversität（莱奥本矿业大学）
针对现有IML难以处理连续空间且交互形式受限的问题，提出含PEI获取函数的IBO框架，支持用户塑造策略，并通过仿真与Franka Panda机器人验证人机协作效果。
2024-01-23 cs.AI cs.HC cs.LG
An Interactive Machine Learning Framework
University at Buffalo（布法罗大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
机器学习（ML）被认为是一种有效的工具，可以建立可靠的预测模型或从大量数据中提取有用的结构。然而，ML也因其难以解释和复杂的参数调整而受到批评。相反，可视化能够很好地组织和可视化编码数据中纠缠的信息，并引导观众进行更简单的感性推理和分析思维。但是大规模、高维的数据往往会导致许多可视化方法的失败。在本文中，我们通过ML算法与用户之间的交互来闭合ML和可视化之间的循环，因此机器智能和人类智能可以以互惠互利的方式相互合作和改进。特别地，我们提出了“透明提升树（TBT）"，它将梯度提升树学习过程中每一步的模型结构和预测统计信息可视化给用户，并将用户对树的反馈操作纳入学习过程。在TBT中，ML负责更新学习模型中的权重，并从大数据中过滤显示给用户的信息，而可视化则负责提供ML模型的可视化理解，以方便用户探索。它结合了机器学习在大数据统计方面的优势和人类在基于领域知识的决策方面的优势。我们为这种新的学习方法开发了一个用户友好的界面，并将其应用于从实际应用中收集的两个数据集。我们的研究表明，通过使用交互式可视化使ML透明可以显着改善ML算法的探索，产生ML模型的新见解，并集成机器和人类智能。
2016-10-18 cs.HC cs.LG
HQColon: A Hybrid Interactive Machine Learning Pipeline for High Quality Colon Labeling and Segmentation
University of Copenhagen（哥本哈根大学）；Copenhagen University Hospital（哥本哈根大学医院）
针对TotalSegmentator在结肠分割上的不足，提出首个全自动高分辨率结肠分割方法，结合区域生长与交互式机器学习构建数据集并训练nnU-Net，精度显著优于现有工具，并开源模型与代码。
2025-02-28 cs.CV cs.LG
SemPiper: Interactive Code Synthesis for Semantic Operators in Machine Learning Pipelines
BIFOLD & TU Berlin（BIFOLD 与柏林工业大学）
提出SemPipes编程模型，通过声明式语义算子和LLM合成专用实现，结合Python代码，实现可控、可优化的ML流水线开发。
2026-06-15 cs.DB cs.LG
The Open Vault Challenge -- Learning how to build calibration-free interactive systems by cracking the code of a vault
Université de Paris（巴黎大学）
这个演示采取了对IJCAI社区的挑战的形式。一个物理保险库，由一个4位数的代码保护，将被放置在演示区。作者将通过在基于触摸的界面上输入代码公开打开保险库，并根据要求多次打开。对IJCAI参与者的挑战将是破解密码，打开保险库，并收集其内容。该接口是基于以前的工作校准免费的交互式系统，使用户能够开始指示机器，而机器不知道如何解释用户的行动事先。人类的意图和行为同时被机器学习。一个在线演示和视频可供读者参加的挑战。演示当天还将展示一个使用语音命令的额外界面，展示我们处理连续输入信号的方法的可扩展性。
2019-06-06 cs.AI cs.CR cs.HC
WizMap: Scalable Interactive Visualization for Exploring Large Machine Learning Embeddings
Georgia Tech（佐治亚理工学院）；Apple（苹果公司）
针对机器学习嵌入难解释、维度高、规模大的问题，研究团队提出开源交互式可视化工具WizMap，结合多分辨率嵌入摘要方法与类地图交互，依托Web技术可在浏览器中支持百万级嵌入点探索。
2023-06-15 cs.CL cs.CV cs.HC
MLE-Dojo: Interactive Environments for Empowering LLM Agents in Machine Learning Engineering
Georgia Institute of Technology（佐治亚理工学院）；Stanford University（斯坦福大学）
本文提出 Gym 风格框架 MLE-Dojo，基于 200 多个 Kaggle 真实任务构建交互式 MLE 环境，支持 LLM 智能体的迭代训练、调试与评估。
2025-05-12 cs.LG
IDAT: A Multi-Modal Dataset and Toolkit for Building and Evaluating Interactive Task-Solving Agents
Massachusetts Institute of Technology（麻省理工学院）；University of Waterloo（滑铁卢大学）；Meta AI；AIRI（人工智能研究院）；École Polytechnique de Montréal（蒙特利尔理工学院）；Microsoft Research（微软研究院）
本文针对交互式具身任务求解智能体研发中数据集与评估平台不足的问题，推出IDAT资源，包含类Minecraft环境下的多模态数据集与采集工具，以及人在回路评估平台，为相关研究提供支撑。
2024-07-12 cs.AI cs.CL cs.LG
Proposing an Interactive Audit Pipeline for Visual Privacy Research
University of Oklahoma（俄克拉荷马大学）；Carnegie Mellon University（卡内基梅隆大学）
在理想的世界中，部署的机器学习模型将改善我们的社会。我们希望这些模式将提供公正和合乎道德的决定，使每个人受益。然而，情况并非总是如此;在数据准备过程中，在模型部署的整个步骤中都会出现问题。继续使用有偏见的数据集和流程将对社区造成不利损害，并增加以后解决问题的成本。在这项工作中，我们走查的决策过程中，研究人员应该考虑之前，期间和之后的系统部署，以了解更广泛的影响，他们的研究在社区。在本文中，我们讨论了机器学习管道中的公平性、隐私和所有权问题;我们断言需要一种负责任的人在回路中的方法，将问责制引入机器学习管道，最后，反思探索具有有害社会影响的研究议程的必要性。我们研究了视觉隐私研究，并吸取了可以广泛应用于人工智能的经验教训。我们的目标是系统地分析机器学习管道中的视觉隐私和偏见问题。我们希望提高利益相关者（例如，研究人员、建模人员、公司）的意识，因为这些问题在该管道的各个机器学习阶段中传播。
2021-11-24 cs.CY cs.LG
