Support Vector Machine-Based Burnout Risk Prediction with an Interactive Interface for Organizational Use
Universidade Católica de Pernambuco (UNICAP)（珀努布里克天主教大学）；Centro de Informática – Universidade Federal de Pernambuco (UFPE)（佩纳布里克联邦大学计算机中心）；Centro de Estudos e Sistemas Avançados do Recife (CESAR School)（里贝伦高级研究与系统中心）；Universidade de Pernambuco (UPE)（佩纳布里克大学）
本研究针对职业倦怠早期检测需求，基于HackerEarth员工倦怠数据集对比KNN、随机森林与SVM算法，发现SVM预测性能最优（R²=0.84），并开发Streamlit交互式界面供非技术用户使用，为组织数据驱动的心理健康策略提供支持。
2025-10-29 cs.LG
Machine Guides, Human Supervises: Interactive Learning with Global Explanations
KU Leuven（KU Leuven（天主教鲁汶大学））；University of Trento（特伦托大学）
我们介绍解释性引导学习（XGL），一种新的交互式学习策略，其中机器引导人类主管选择信息丰富的分类器的例子。通过全局解释来提供指导，该全局解释总结了分类器在实例空间的不同区域上的行为并暴露其缺陷。与其他解释性交互式学习策略相比，这些策略是机器发起的，依赖于本地解释，XGL被设计为对机器提供的解释超过分类器质量的情况具有鲁棒性。此外，XGL利用全局解释来打开人类发起的交互的黑盒子，使主管能够选择挑战学习模型的信息示例。通过与交互式机器教学相联系，我们从理论上证明了全局解释是指导主管的可行方法。我们的模拟表明，解释性引导学习避免了过度销售模型的质量，并在模型质量方面比机器和人类发起的交互式学习策略表现更好。
2020-09-21 cs.AI cs.LG stat.ML
Recent Research Advances on Interactive Machine Learning
Tsinghua University（清华大学）
交互式机器学习（IML）是一种将人与机器学习者紧密耦合的迭代学习过程，被研究人员和实践者广泛用于有效解决各种现实世界的应用问题。虽然近年来IML在可视化分析领域的扩散，但最近的大多数调查要么关注IML的特定领域，要么旨在总结IML过于通用的可视化领域。在本文中，我们系统地回顾了最近的文献中IML和分类到一个面向任务的分类我们建立。我们在调查的最后讨论了开放的挑战和研究机会，我们认为这对IML未来的工作是鼓舞人心的。
2018-11-12 cs.LG stat.ML
Interactive Machine Learning of Musical Gesture
Goldsmiths, University of London（伦敦大学金史密斯学院）
本章概述了交互式机器学习（IML）技术应用于音乐手势的分析和设计。我们通过捕获，分析和应用IML技术，以人体姿态与声音合成系统执行的目的的主要挑战和需求。我们讨论了如何使用不同的算法来完成不同的任务，包括与复杂的合成技术进行交互，并通过我们开发的交互范例中的强化学习（RL）探索交互的可能性，称为辅助交互式机器学习（AIML）。最后，我们描述了作者如何使用这些技术来发展四首乐曲，从而概述了IML对音乐实践的影响。
2020-11-26 cs.HC cs.LG
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University（中央华盛顿大学）
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域，他们是专为。所提出的迭代视觉逻辑分类器（IVLC）是一种可解释的机器学习算法，允许最终用户设计模型并以更高的置信度对数据进行分类，而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用，如医疗领域中的癌症数据，错误成本很高。在所提出的交互式无损多维可视化的帮助下，最终用户可以识别数据中的模式，并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统（SPCVis）支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性，使其能够自助执行数据分类，而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时，交互式模式发现变得具有挑战性。为了克服这个问题，本章提出了一个自动分类方法结合新的坐标顺序优化（COO）算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列，而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集，包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology（佐治亚理工学院）
机器教学（MT）是一个交互式的过程，其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统，但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架，并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分，即教学界面，机器学习者和知识库，和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明，机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
explAIner: A Visual Analytics Framework for Interactive and Explainable Machine Learning
University of Konstanz（康斯坦茨大学）
我们提出了一个交互式和可解释的机器学习框架，使用户能够（1）理解机器学习模型;（2）使用不同的可解释AI方法诊断模型限制;以及（3）改进和优化模型。我们的框架将迭代XAI管道与八个全球监控和指导机制相结合，包括质量监控，来源跟踪，模型比较和信任建立。为了使框架可操作化，我们提出了explAIner，这是一个用于交互式和可解释的机器学习的可视化分析系统，它在常用的TensorBoard环境中实例化建议管道的所有阶段。我们与不同专业水平的九名参与者进行了用户研究，以检查他们对我们工作流程的看法，并收集建议以填补我们的系统和框架之间的差距。评估证实，我们紧密集成的系统导致了一个明智的机器学习过程，同时揭示了进一步扩展的机会。
2019-10-07 cs.AI cs.HC cs.LG
Geovisual Analytics and Interactive Machine Learning for Situational Awareness
University of Colorado Boulder（科罗拉多大学博尔德分校）；Purdue University（普渡大学）；School of Electrical and Computer Engineering, Purdue University（普渡大学电气与计算机工程学院）
第一反应社区传统上依赖于公众的呼吁，官方提供的地理信息和地图来协调实地行动。社交媒体平台的普遍存在为通过自愿地理信息近乎实时地感知情况（例如，正在发生的天气事件或危机）创造了机会。在这篇文章中，我们提供了社交媒体分析报告工具包（SMART）的设计过程和功能的概述，该工具包是普渡大学开发的一个可视化分析平台，用于为第一响应者提供实时态势感知。我们将其成功应用归功于其以用户为中心的设计，交互式（地理）可视化和交互式机器学习，让用户可以控制分析。
2019-10-11 cs.CY cs.HC cs.LG
PREVIS -- A Combined Machine Learning and Visual Interpolation Approach for Interactive Reverse Engineering in Assembly Quality Control
Technische Universität Kaiserslautern（凯泽斯劳滕工业大学）
我们提出了PREVIS，一个可视化的分析工具，提高机器学习性能分析在工程应用中。所提供的工具链允许直接比较回归模型。此外，我们提供了一种方法来可视化回归误差对原始域中感兴趣的基本领域的影响，通过利用标准插值方法，零件几何形状。此外，我们允许通过视觉插值在位移场中实时预览用户驱动的参数变化。这使得能够进行快速和负责任的在线变更管理。我们证明了汽车发动机罩的事前优化的有效性。
2022-01-25 cs.HC cs.LG
Building Automated Survey Coders via Interactive Machine Learning
Istituto di Scienza e Tecnologie dell’Informazione Consiglio Nazionale delle Ricerche（意大利国家研究委员会信息科学与技术研究所）
通过机器学习训练的软件系统，可以自动对开放式答案进行分类（也称为现在已经成为现实。尽管如此，它们在调查编码行业的采用并没有像它可能的那样广泛。在阻碍更大规模采用该技术的因素中，包括手动编码足够数量的训练数据所涉及的工作，小型研究似乎无法证明这种努力的合理性，以及当全新的编码任务出现时需要重新重复该过程的事实。在本文中，我们将讨论一种方法来建立逐字分类，我们将称之为“互动学习”，并解决所有上述问题。我们将证明，对于相同的训练工作量，交互式学习比标准的“非交互式”学习提供更好的编码准确性。当我们愿意手动编码的数据量很小时，这一点尤其如此，这使得这种方法对于小规模研究也很有吸引力。交互式学习还有助于重用以前训练的分类器来处理新的（尽管相关的）编码任务。交互式学习还可以更好地集成到调查专家的日常工作流程中，并提供更好的整体用户体验。
2019-03-28 cs.IR cs.LG
Interactive Diabetes Risk Prediction Using Explainable Machine Learning: A Dash-Based Approach with SHAP, LIME, and Comorbidity Insights
University of Arkansas at Little Rock（阿肯色大学小石城分校）
本文提出一种基于Dash的交互式糖尿病风险预测工具，结合多种机器学习模型与SHAP、LIME可解释性方法及共病分析，实现个性化健康风险评估。
2025-05-08 cs.AI cs.LG
The What-If Tool: Interactive Probing of Machine Learning Models
Google Research（谷歌研究院）
开发和部署机器学习（ML）系统的一个关键挑战是了解它们在各种输入下的性能。为了应对这一挑战，我们创建了What-If Tool，这是一个开源应用程序，允许从业者以最少的编码来探测，可视化和分析ML系统。假设工具允许从业者在假设情况下测试性能，分析不同数据特征的重要性，并跨多个模型和输入数据子集可视化模型行为。它还允许从业者根据多个ML公平性指标来衡量系统。我们描述了该工具的设计，并报告了不同组织的实际使用情况。
2019-10-03 cs.LG stat.ML
But that's not why: Inference adjustment by interactive prototype revision
Heinrich Hertz Institute（海因里希·赫兹研究所）；Humboldt University（洪堡大学）
针对机器学习模型预测可能依赖不合理因素的问题，提出基于原型部件模型的交互式推理调整方案，让非专业用户可通过识别移除缺陷原型调整推理逻辑且不损失准确率。
2023-10-09 cs.LG
An Interactive Human-Machine Learning Interface for Collecting and Learning from Complex Annotations
University of Bristol（布里斯托尔大学）
本文提出一种用于二分类任务的交互式人机学习界面，允许标注者使用反事实示例补充传统二值标签，以提升标注灵活性和机器学习效果。
2024-03-28 cs.HC cs.LG
A look under the hood of the Interactive Deep Learning Enterprise (No-IDLE)
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本文介绍DFKI的No-IDLE原型系统，提出交互式机器学习与多模态交互相结合的方法，旨在让非专家用户也能使用交互式深度学习技术。
2024-06-27 cs.AI cs.HC cs.LG
Visus: An Interactive System for Automatic Machine Learning Model Building and Curation
New York University（纽约大学）
虽然对机器学习（ML）应用的需求正在蓬勃发展，但缺乏能够构建此类模型的数据科学家。已经提出了自动机器学习（AutoML）方法，通过合成端到端ML数据处理管道来帮助解决这个问题。但是，这些都遵循尽力而为的方法，并且循环中的用户需要管理和优化派生的管道。由于领域专家通常很少或根本没有机器学习方面的专业知识，因此在整个模型构建过程中指导他们的易于使用的交互式界面是必要的。在本文中，我们介绍了Visus，一个旨在支持AutoML系统生成的ML数据处理管道的模型构建过程和管理的系统。我们描述了用于为我们的设计选择奠定基础的框架以及Visus支持的使用场景。最后，我们讨论了领域专家在用户测试会话中收到的反馈。
2019-07-05 cs.HC cs.LG
Emblaze: Illuminating Machine Learning Representations through Interactive Comparison of Embedding Spaces
Carnegie Mellon University（卡内基梅隆大学）
现代机器学习技术通常依赖于复杂的高维嵌入表示来捕获数据中的底层结构并提高性能。为了表征模型缺陷并选择理想的表示，模型构建者通常需要在多个嵌入空间中进行比较，这是一项具有挑战性的分析任务，现有工具很少支持。我们首先采访了不同领域的九位嵌入专家，以描述他们在分析嵌入空间时面临的各种挑战和使用的技术。根据这些观点，我们开发了一种名为Emblaze的新系统，该系统将嵌入空间比较集成在计算笔记本环境中。Emblaze使用动画，交互式散点图与新颖的星迹增强，使视觉比较。它还采用了新的邻域分析和聚类程序，以动态地建议空间之间有有趣变化的点组。通过与ML专家的一系列案例研究，我们展示了如何与Emblaze进行交互式比较，以帮助获得对嵌入空间结构的新见解。
2022-02-16 cs.HC cs.LG
Teachable Reality: Prototyping Tangible Augmented Reality with Everyday Objects by Leveraging Interactive Machine Teaching
IIIT-Delhi（德里英迪拉甘地信息技术学院）；University of Calgary（卡尔加里大学）
本文介绍了可教现实，一个增强现实（AR）的原型工具，用于创建交互式的有形AR应用程序与任意的日常对象。Teachable Reality利用基于视觉的交互式机器教学（例如，Teachable Machine），它可以捕捉真实世界的交互，用于AR原型设计。它使用按需计算机视觉模型识别用户定义的有形和手势交互。在此基础上，用户可以轻松创建功能性AR原型，而无需编程，并通过一个用户操作创作界面实现。因此，我们的方法允许有形AR应用程序的灵活性，可定制性和通用性，可以解决当前基于标记的方法的局限性。我们探索设计空间并展示各种AR原型，其中包括有形和可变形的界面，上下文感知助手和身体驱动的AR应用程序。我们的用户研究和专家访谈的结果证实，我们的方法可以降低创建功能性AR原型的障碍，同时还可以实现灵活和通用的原型设计体验。
2023-02-21 cs.CV cs.HC cs.LG
Simple and Fast Algorithms for Interactive Machine Learning with Random Counter-examples
Watchung Hills Regional High School（沃昌山地区高中）
本文描述了在随机反例学习（LRC）模型中交互式学习非二元概念的简单有效的算法。在这里，学习发生在随机的反例中，学习者收到这些反例是为了响应他们正确的等价查询。在这种情况下，学习时间被定义为学习者识别目标概念所需的反例的数量。这种学习特别适合于在线排名、分类、聚类等，其中机器学习模型必须在它们被完全训练之前被使用。我们提供了两个简单的LRC算法，确定性和随机化，精确学习非二进制目标概念的任何概念类$H$。我们证明了这两种算法都有一个$\mathcal{O}(\log{}|H|)$渐近最优的平均学习时间。这解决了一个开放的问题上存在一个有效的LRC随机算法，同时简化和推广以前的结果。我们还证明了任意LRC算法的期望学习时间都可以由$\mathcal{O}(\frac{1}ε\log{\frac{|H|}δ})$定义，其中$ε$和$δ$分别是允许的学习误差和失败概率.这表明LRC交互式学习至少与非交互式的可能近似正确（PAC）学习一样有效。我们的模拟表明，在实践中，这些算法优于其理论界。
2019-12-29 cs.LG stat.ML
Interactive Machine Comprehension with Information Seeking Agents
Microsoft Research（微软研究院）；Nanyang Technological University（南洋理工大学）；Polytechnique Montréal（蒙特利尔理工学院）；Mila（米拉）
现有的机器阅读理解（MRC）模型不能有效地扩展到现实世界的应用，如网络级信息检索和问答（QA）。我们认为，这源于MRC数据集的性质：其中大多数是静态环境，其中支持文档和所有必要的信息都得到了充分的观察。在本文中，我们提出了一种简单的方法，重新构建现有的MRC数据集作为交互式的，部分可观察的环境。具体来说，我们“遮挡”了文档的大部分文本，并添加了上下文敏感的命令，以揭示模型中隐藏文本的“一瞥”。我们重新SQuAD和NewsQA作为一个初步的案例研究，然后展示如何互动语料库可以用来训练模型，寻求相关信息，通过顺序决策。我们相信，这种设置可以有助于将模型扩展到Web级QA场景。
2020-04-16 cs.CL cs.LG stat.ML
On Interactive Machine Learning and the Potential of Cognitive Feedback
U.S. Naval Research Laboratory（美国海军研究实验室）
为了提高生产力、能力和数据利用率，许多国防应用正在将最先进的机器学习和AI集成到其架构中。特别是对于国防应用，由于质量控制、问责制和复杂的主题专业知识不容易被人工智能自动化或复制，因此在循环中拥有人类分析师是非常重要的。然而，许多应用程序的过渡非常缓慢。这可能在很大程度上是由于缺乏信任，可用性和生产力，特别是在适应不可预见的类和任务上下文的变化时。交互式机器学习是一个新兴的领域，其中机器学习实现通过直观的人机界面进行训练、优化、评估和利用。在本文中，我们介绍了交互式机器学习，并解释其优势和局限性的背景下，国防应用。此外，我们解决了几个交互式机器学习的缺点，通过讨论如何认知反馈可以告知功能，数据和结果的最先进的状态。我们定义了三种技术，认知反馈可以采用：自我报告，隐式认知反馈，和建模的认知反馈。每种技术的优点和缺点进行了讨论。
2020-03-23 cs.AI cs.HC cs.LG
Towards Better Analysis of Machine Learning Models: A Visual Analytics Perspective
Tsinghua University（清华大学）
交互式模型分析是在交互式可视化的帮助下理解、诊断和精炼机器学习模型的过程，对于用户有效地解决现实世界的人工智能和数据采掘问题非常重要。大数据分析的巨大进步导致了各种各样的交互式模型分析任务。在本文中，我们提出了一个全面的分析和解释这一迅速发展的地区。具体来说，我们将相关工作分为三类：理解、诊断和细化。每个类别都以最近有影响力的工作为例。还探讨和讨论了未来可能的研究机会。
2017-02-04 cs.LG stat.ML
Interactive Machine Learning: From Theory to Scale
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本论文提出交互式机器学习的新算法和理论框架，实现高效主动学习和上下文带算法，解决大规模应用中的计算效率与模型选择问题。
2025-12-30 cs.AI cs.LG stat.ML
RootPainter3D: Interactive-machine-learning enables rapid and accurate contouring for radiotherapy
University of Copenhagen（哥本哈根大学）；Rigshospitalet（哥本哈根大学医院）
危险器官轮廓仍然是放射治疗的瓶颈，许多深度学习方法在临床数据评估时无法达到预期的结果。我们研究了使用交互式机器学习方法进行器官风险轮廓绘制任务的准确性和节省的时间。我们比较的方法，Eclipse的轮廓软件，并找到强烈的协议与手动划定，骰子得分为0.95。使用校正注释创建的注释也花费更少的时间来创建，因为更多的图像被注释，从而与手动方法相比节省了大量时间，在描绘了923个图像之后，心脏平均花费2分2秒来描绘，而手动描绘时为7分1秒。我们的实验表明，具有正确注释的交互式机器学习为非计算机科学家提供了一种快速且可访问的方式，可以训练深度学习模型，以分割他们自己感兴趣的结构，作为常规临床工作流程的一部分。源代码可从\href{https://github.com/Abe404/RootPainter3D}{this HTTPS URL}获得。
2021-06-22 cs.CV cs.HC cs.LG
A Human-Centered Approach to Interactive Machine Learning
University of Alberta（阿尔伯塔大学）
交互式机器学习（IML）社区旨在通过开发自动决策系统来增强人类随着时间的推移进行学习和决策的能力。这种交互代表了多个智能系统--人类和机器之间的协作。缺乏对所涉及的人的适当考虑可能导致有问题的系统行为，以及公平性，问责制和透明度问题。这项工作提出了一个以人为本的思想方法，应用IML方法。本指南旨在供人工智能从业者使用，他们将人为因素纳入工作中。这些从业者负责相互作用的人类的健康，安全和福祉。对公众互动负责的义务意味着正直、诚实、公平地行事，并遵守适用的法律法规。有了这些价值观和原则，我们作为一个研究社区可以更好地实现增强人类能力的集体目标。本实用指南旨在支持IML系统的迭代设计、开发和传播过程中所需的许多负责任的决策。
2019-05-15 cs.CY cs.HC cs.LG
Deep Interactive Segmentation of Medical Images: A Systematic Review and Taxonomy
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University Hospital Essen (AöR)（埃森大学医院）；German Cancer Research Center (DKFZ)（德国癌症研究中心）；Helmholtz Imaging（亥姆霍兹成像机构）
本文系统综述医学图像深度交互式分割方法，提出分类体系并分析121种方法的实践现状，指出缺乏跨方法比较等挑战及标准化基准需求。
2024-01-09 cs.AI cs.CV cs.HC
A Machine of Few Words -- Interactive Speaker Recognition with Reinforcement Learning
Université de Lille（里尔大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Deepmind（深度思维）；Google Research（谷歌研究院）
说话人识别是语音处理领域中一个众所周知的研究课题。它有许多应用，用于个人设备的安全或扬声器适配。在本文中，我们提出了一个新的范例自动说话人识别，我们称之为交互式说话人识别（ISR）。在这个范例中，识别系统的目的是通过请求个性化的话语来逐步建立一个代表的发言者被发言的标准文本相关或文本无关的计划。为此，我们将说话人识别任务转换为一个顺序决策问题，并使用强化学习来解决。使用一个标准的数据集，我们表明，我们的方法取得了优异的性能，同时使用很少的语音信号量。该方法也可以作为一种发声选择机制，用于构建语音合成系统。
2020-08-07 cs.LG cs.SD eess.AS
HistomicsML2.0: Fast interactive machine learning for whole slide imaging data
Weisberg Division of Computer Science, Marshall University（马歇尔大学魏斯伯格计算机科学分部）；Kitware, Inc.（Kitware公司）；Emory University School of Medicine（埃默里大学医学院）；National Cancer Institute（美国国家癌症研究所）；Cairo University（开罗大学）；Northwestern University Feinberg School of Medicine（西北大学费恩伯格医学院）
从全载玻片图像中提取定量表型信息对于没有开发图像分析算法经验的研究人员来说是一个重大挑战。我们提出了新的软件，使快速学习的例子训练的机器学习分类器检测的组织学模式在整个载玻片成像数据集。HistomicsML2.0使用卷积网络，可轻松适应各种应用程序，提供基于Web的用户界面，并可作为软件容器来简化部署。
2020-01-30 cs.CV cs.LG eess.IV
One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency
University of Bristol（布里斯托大学）
由于基于机器学习算法的预测系统在行业中的不断增长，因此需要其透明度。每当黑箱算法预测影响人类事务时，这些算法的内部工作应该被仔细检查，并向相关利益相关者解释其决策，包括系统工程师，系统操作员和案件被决定的个人。虽然有各种各样的可解释性和可解释性方法，但没有一种方法是万能药，可以满足所有不同的期望和有关各方可能要求的相互竞争的目标。在本文中，我们通过讨论交互式机器学习的承诺来解决这一挑战，该承诺使用对比解释的例子来提高黑盒系统的透明度--一种最先进的可解释机器学习方法。具体来说，我们展示了如何个性化的反事实的解释，通过互动调整他们的条件语句和提取额外的解释，要求后续“如果？“问题。我们在构建、部署和展示这种类型的系统方面的经验使我们能够列出所需的属性以及潜在的限制，这些属性可以用于指导交互式解释器的开发。在定制交互媒介的同时，用户界面包括各种通信渠道，可能会给人一种个性化的印象，我们认为，调整解释本身及其内容更重要。为此，除了明确告知被解释者其局限性和警告之外，还必须考虑解释的广度、范围、上下文、目的和目标等属性.
2020-01-27 cs.AI cs.LG stat.ML
Becoming the Expert - Interactive Multi-Class Machine Teaching
University College London（伦敦大学学院）
与机器相比，人类非常擅长将图像分类，特别是当他们拥有手头类别的先验知识时。如果没有这种先验信息，则需要以教学图像的形式进行监督。为了更快地学习类别，人们应该首先看到重要的和有代表性的图像，然后是不太重要的图像-或者根本不看。然而，图像的重要性是个人特定的，即一个教学图像是重要的学生，如果它改变了他们的整体能力，区分类。此外，学生不断学习，因此，虽然图像的重要性取决于他们目前的知识，它也随着时间的推移而变化。在这项工作中，我们提出了一个交互式的机器教学算法，使计算机教具有挑战性的视觉概念的人。我们的自适应算法选择，在线，标记图像从教学集应该显示给学生，因为他们学习。我们表明，概率模型的学生的能力和进步，根据他们的正确和不正确的答案，产生更好的“专家”的教学策略。我们使用真实的人类参与者在几个不同的和具有挑战性的现实世界的数据集呈现结果。
2015-04-28 cs.CV cs.LG stat.ML
MLPROP -- an open interactive web interface for thermophysical property prediction with machine learning
Laboratory of Engineering Thermodynamics (LTD) RPTU Kaiserslautern（工程热力学实验室（LTD）鲁尔大学凯泽斯劳滕分校）
本研究推出开源交互式Web界面MLPROP，无需机器学习专业知识即可使用多款先进模型预测热物理性质并拟合参数，免费开放且支持集成到现有工作流，降低了相关方法的应用门槛。
2025-04-08 cs.CE cs.LG
Suggesting Code Edits in Interactive Machine Learning Notebooks Using Large Language Models
University of Waterloo（滑铁卢大学）
本文构建首个含48,398项Jupyter编辑的数据集，评估LLM预测代码修改，发现编辑高度局部但模型准确率低，凸显上下文的重要性。
2025-01-16 cs.CL cs.LG cs.SE
Symphony: Composing Interactive Interfaces for Machine Learning
Ulm University（乌尔姆大学）；Carnegie Mellon University（卡内基梅隆大学）；Apple（苹果公司）
机器学习（ML）的接口，关于模型或数据的信息和可视化，可以帮助从业者构建健壮和负责任的ML系统。尽管有这些好处，但最近对ML团队的研究和我们对从业者的采访（n=9）表明，ML接口在实践中的应用有限。虽然现有的ML接口对于特定任务是有效的，但它们的设计并不是为了让跨职能团队中的多个利益相关者重用、探索和共享。为了实现不同ML从业者之间的分析和通信，我们设计并实现了Symphony，这是一个框架，用于组成交互式ML界面，其中包含特定于任务的数据驱动组件，可以跨平台使用，例如计算笔记本和Web仪表板。我们通过与10个团队（n=31）的参与式设计会议开发了Symphony，并讨论了我们在Apple将Symphony部署到3个生产ML项目中的发现。Symphony帮助ML从业者发现以前未知的问题，如数据重复和模型中的盲点，同时使他们能够与其他利益相关者分享见解。
2022-02-18 cs.AI cs.HC cs.LG
An Interactive Machine Learning Framework
University at Buffalo（布法罗大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
机器学习（ML）被认为是一种有效的工具，可以建立可靠的预测模型或从大量数据中提取有用的结构。然而，ML也因其难以解释和复杂的参数调整而受到批评。相反，可视化能够很好地组织和可视化编码数据中纠缠的信息，并引导观众进行更简单的感性推理和分析思维。但是大规模、高维的数据往往会导致许多可视化方法的失败。在本文中，我们通过ML算法与用户之间的交互来闭合ML和可视化之间的循环，因此机器智能和人类智能可以以互惠互利的方式相互合作和改进。特别地，我们提出了“透明提升树（TBT）"，它将梯度提升树学习过程中每一步的模型结构和预测统计信息可视化给用户，并将用户对树的反馈操作纳入学习过程。在TBT中，ML负责更新学习模型中的权重，并从大数据中过滤显示给用户的信息，而可视化则负责提供ML模型的可视化理解，以方便用户探索。它结合了机器学习在大数据统计方面的优势和人类在基于领域知识的决策方面的优势。我们为这种新的学习方法开发了一个用户友好的界面，并将其应用于从实际应用中收集的两个数据集。我们的研究表明，通过使用交互式可视化使ML透明可以显着改善ML算法的探索，产生ML模型的新见解，并集成机器和人类智能。
2016-10-18 cs.HC cs.LG
dalex: Responsible Machine Learning with Interactive Explainability and Fairness in Python
Warsaw University of Technology（华沙理工大学）；Faculty of Mathematics and Information Science（数学与信息科学学院）；Samsung Research & Development Institute（三星研发研究院）
可用数据量的增加、计算能力的提高以及对更高性能的不断追求导致预测模型的复杂性不断增加。它们的黑箱性质导致不透明债务现象，增加了歧视的风险，缺乏可重复性，以及由于数据漂移而导致的性能下降。为了管理这些风险，良好的MLOps实践要求更好地验证模型性能和公平性，更高的可解释性和持续监控。更深层次的模型透明性的必要性不仅出现在科学和社会领域，也出现在关于人工智能的新兴法律法规中。为了促进负责任的机器学习模型的开发，我们展示了dalex，这是一个Python包，它实现了用于交互式模型探索的模型不可知接口。它采用了通过开发各种负责任的机器学习工具而精心制作的设计;因此，它旨在统一现有的解决方案。这个库的源代码和文档可以在https://python.drwhy.ai/的开放许可下获得。
2021-10-11 cs.HC cs.LG cs.SE
Scalable Interactive Machine Learning for Future Command and Control
U.S. DEVCOM Army Research Laboratory（美国DEVCOM陆军研究实验室）；U.S. Mission Command Battle Lab（美国任务指挥作战实验室）
本文针对未来指挥与控制中决策时效性和复杂性问题，提出规模化交互式机器学习（SIML）框架，从人机交互算法、韧性团队构建和规模扩展三个方向推动人机协同决策。
2024-03-28 cs.AI cs.CL cs.HC
Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy
University of Florida（佛罗里达大学）
混合主动系统允许用户交互式地提供反馈，以潜在地提高系统性能。人工反馈可以纠正模型错误并更新模型参数，以动态适应不断变化的数据。此外，许多用户希望能够有更高的控制水平，并修复他们所依赖的系统中的感知缺陷。然而，向自治系统提供反馈的能力如何影响用户信任，这在很大程度上是一个尚未探索的研究领域。我们的研究调查了提供反馈的行为如何影响用户对智能系统及其准确性的理解。我们提出了一个对照实验，使用一个模拟的目标检测系统与图像数据，研究交互式反馈收集对用户印象的影响。结果表明，提供人在回路反馈降低了参与者对系统的信任和他们对系统准确性的感知，无论系统准确性是否响应他们的反馈而提高。这些结果强调了在设计智能系统时考虑最终用户反馈对用户信任的影响的重要性。
2020-08-28 cs.AI cs.HC cs.LG
CAIPI in Practice: Towards Explainable Interactive Medical Image Classification
Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所IIS）；Nuremberg Institute of Technology Georg Simon Ohm（纽伦堡乔治·西蒙·欧姆技术学院）
如果医生不能向你解释他们的决定，你会相信他们吗？使用机器学习的医疗诊断在过去十年中变得非常重要。然而，在没有进一步增强的情况下，许多最先进的机器学习方法不适合于医学应用。最重要的原因是数据集质量不足和深度学习模型等机器学习算法的黑箱行为。因此，最终用户无法纠正模型的决定和相应的解释。后者对于医学领域机器学习的可信度至关重要。研究领域可解释的交互式机器学习寻找解决这两个缺点的方法。本文扩展了可解释和交互式CAIPI算法，并提供了一个接口，以简化人在回路的方法图像分类。该界面使最终用户能够（1）调查和（2）纠正模型的预测和解释，以及（3）影响数据集质量。在每次迭代仅使用单个反例的CAIPI优化之后，该模型在医疗MNIST上实现了$97.48\%$的准确度，在时尚MNIST上实现了$95.02\%$的准确度。这种准确性大约等于最先进的深度学习优化程序。此外，CAIPI减少了大约$80\%$的标记工作。
2022-05-31 cs.CV cs.LG eess.IV
HQColon: A Hybrid Interactive Machine Learning Pipeline for High Quality Colon Labeling and Segmentation
University of Copenhagen（哥本哈根大学）；Copenhagen University Hospital（哥本哈根大学医院）
针对TotalSegmentator在结肠分割上的不足，提出首个全自动高分辨率结肠分割方法，结合区域生长与交互式机器学习构建数据集并训练nnU-Net，精度显著优于现有工具，并开源模型与代码。
2025-02-28 cs.CV cs.LG
Towards Validating Long-Term User Feedbacks in Interactive Recommendation Systems
KAIST（韩国科学技术院）；KAKAO Enterprise（Kakao企业）
本研究针对公开评论数据集是否适用于评估交互式推荐系统长期效果的问题，通过对比强化学习模型与贪婪奖励模型，发现贪婪模型表现更优，提出需谨慎验证数据集并设置贪婪基线以保障评估合理性。
2023-08-22 cs.IR cs.LG
Safe Exploration for Interactive Machine Learning
ETH Zurich（苏黎世联邦理工学院）
在交互式机器学习（IML）中，我们迭代地做出决策并获得未知函数的噪声观测。虽然IML方法，例如，贝叶斯优化和主动学习在实际应用中取得了成功，但在实际系统中，它们必须能够避免不安全决策。为此，安全的IML算法必须仔细学习先验未知的约束，而不做出不安全的决策。现有的算法对这个问题的学习所有决策的安全性，以确保收敛。这是样本效率低下的，因为它探索了与原始IML目标无关的决策。在本文中，我们介绍了一个新颖的框架，可以使任何现有的不安全IML算法变得安全。我们的方法可以作为一个附加组件，将建议的决策作为输入，并利用高斯过程的规律性假设，以便有效地了解它们的安全性。因此，我们只在IML问题需要时才探索安全集。我们将我们的框架应用于安全贝叶斯优化和安全探索确定性马尔可夫决策过程（MDP），之前已经分别进行了分析。我们的方法优于其他算法经验。
2019-10-30 cs.AI cs.LG cs.RO
SemPiper: Interactive Code Synthesis for Semantic Operators in Machine Learning Pipelines
BIFOLD & TU Berlin（BIFOLD 与柏林工业大学）
提出SemPipes编程模型，通过声明式语义算子和LLM合成专用实现，结合Python代码，实现可控、可优化的ML流水线开发。
2026-06-15 cs.DB cs.LG
A Brief Guide to Designing and Evaluating Human-Centered Interactive Machine Learning
DeepMind（深度思维）
交互式机器学习（IML）是一个研究领域，探索如何在决策系统中利用人类和计算能力。IML代表了多个互补的人类和机器智能系统之间的协作，每个系统都有自己独特的能力和局限性。这种团队合作可能意味着两个系统同时或按顺序采取行动。IML领域的两个主要开放研究问题是：“我们应该如何设计能够随着时间的推移通过人机交互学习做出更好决策的系统？以及"我们应该如何评估这种系统的设计和部署？“对所涉及的人缺乏适当的考虑可能会导致系统行为问题，以及公平性、问责制和透明度问题。因此，我们这项工作的目标是提出一个以人为本的指南，以设计和评估IML系统，同时降低风险。本指南旨在供负责人类互动的健康、安全和福祉的机器学习从业者使用。对公众互动负责的义务意味着正直、诚实、公平地行事，并遵守适用的法律法规。牢记这些价值观和原则，我们作为机器学习研究社区可以更好地实现增强人类技能和能力的目标。因此，本实用指南旨在支持IML系统的迭代设计、开发和传播过程中所需的许多负责任的决策。
2022-04-20 cs.GL cs.HC cs.LG
Interactive Learning from Multiple Noisy Labels
University of Regina（里贾纳大学）
交互式学习是一个过程，其中机器学习算法提供有意义的，精心选择的例子，而不是随机选择的例子，典型的标准监督学习。在本文中，我们提出了一种新的方法，从多个嘈杂的标签，我们利用注释者之间的分歧量化的容易性（或意义）的例子进行交互式学习。我们证明了这种方法在估计潜变量分类模型参数方面的实用性，并在一系列合成和基准数据集上进行了实验分析。此外，我们从理论上分析了感知器在这种交互式学习框架中的性能。
2016-07-24 cs.LG stat.ML
Integrating Human Expertise in Continuous Spaces: A Novel Interactive Bayesian Optimization Framework with Preference Expected Improvement
Montanuniversität（莱奥本矿业大学）
针对现有IML难以处理连续空间且交互形式受限的问题，提出含PEI获取函数的IBO框架，支持用户塑造策略，并通过仿真与Franka Panda机器人验证人机协作效果。
2024-01-23 cs.AI cs.HC cs.LG
Machine Collaboration
Hosei University（法政大学）；New York University（纽约大学）
提出循环交互的监督学习集成框架MaC，通过基础机器间循环传递信息更新结构与参数，理论证明其能降低风险，并在119个真实数据集上表现优于多种先进方法。
2024-02-11 cs.LG econ.EM stat.ML
Enumeration of Distinct Support Vectors for Interactive Decision Making
Hokkaido University（北海道大学）；Osaka University（大阪大学）；NTT Communication Science Laboratories（NTT通信科学实验室）
在常规预测任务中，机器学习算法输出全局优化其目标函数的单个最佳模型，该目标函数通常是准确性。因此，用户无法显式访问其他模型。与此相反，多模型枚举在非标准机器学习应用中吸引了越来越多的兴趣，其中其他标准，例如，可解释性或公平性比准确性更重要，且用户可能想要访问多于一个非最佳但合适模型。本文提出了一种支持向量机（SVM）的K-best模型枚举算法，给定数据集S和整数K>0，在对偶SVM问题中，按目标函数值降序枚举S上具有不同支持向量的K-best模型。基于对支持向量的格型结构的分析，我们的算法有效地找到了下一个最好的模型，具有较小的延迟。这在支持用户交互式检查他们对枚举模型的需求时很有用。通过在真实数据集上的实验，我们评估了我们的算法的效率和实用性。
2019-06-05 cs.LG stat.ML
Proposing an Interactive Audit Pipeline for Visual Privacy Research
University of Oklahoma（俄克拉荷马大学）；Carnegie Mellon University（卡内基梅隆大学）
在理想的世界中，部署的机器学习模型将改善我们的社会。我们希望这些模式将提供公正和合乎道德的决定，使每个人受益。然而，情况并非总是如此;在数据准备过程中，在模型部署的整个步骤中都会出现问题。继续使用有偏见的数据集和流程将对社区造成不利损害，并增加以后解决问题的成本。在这项工作中，我们走查的决策过程中，研究人员应该考虑之前，期间和之后的系统部署，以了解更广泛的影响，他们的研究在社区。在本文中，我们讨论了机器学习管道中的公平性、隐私和所有权问题;我们断言需要一种负责任的人在回路中的方法，将问责制引入机器学习管道，最后，反思探索具有有害社会影响的研究议程的必要性。我们研究了视觉隐私研究，并吸取了可以广泛应用于人工智能的经验教训。我们的目标是系统地分析机器学习管道中的视觉隐私和偏见问题。我们希望提高利益相关者（例如，研究人员、建模人员、公司）的意识，因为这些问题在该管道的各个机器学习阶段中传播。
2021-11-24 cs.CY cs.LG
An Interactive Visualization Tool for Understanding Active Learning
Simon Fraser University（西蒙菲莎大学）
尽管最近在人工智能和机器学习方面取得了进展，但许多最先进的方法缺乏可解释性和透明度。解释机器学习模型做出的预测并准确评估这些模型的能力至关重要。在本文中，我们提出了一个交互式可视化工具来阐明主动学习的训练过程。该工具使人们能够选择感兴趣的数据点样本，查看其预测值在不同查询阶段如何变化，从而更好地了解主动学习何时以及如何工作。此外，用户可以利用这个工具来比较不同的主动学习策略，同时检查为什么有些策略优于其他在某些情况下。通过一些初步的实验，我们证明了我们的可视化面板具有很大的潜力，可以用于各种主动学习实验，并帮助用户适当地评估他们的模型。
2021-11-09 cs.HC cs.LG
Introducing explainable supervised machine learning into interactive feedback loops for statistical production system
European Central Bank（欧洲中央银行）；University of Southampton（南安普顿大学）；Solenix Deutschland GmbH（Solenix德国有限公司）
统计生产系统涵盖从数据收集、汇总和整合到数据质量保证和传播等任务的多个步骤。虽然数据质量保证是应用机器学习最有前途的领域之一，但缺乏经过策划和标记的训练数据往往是一个限制因素。中央证券数据库的统计制作系统在欧洲中央银行收集的数据与各国中央银行数据质量管理人员执行的数据质量保证之间建立了一个互动反馈回路。质量保证反馈循环基于一组基于规则的检查，用于引发异常，用户可以根据这些异常确认数据或纠正实际错误。在本文中，我们使用从这个反馈回路收到的信息，以优化异常提交给国家中央银行，从而提高质量的异常生成和用户认证这些异常的系统上消耗的时间。对于这种方法，我们利用可解释的监督机器学习来（a）识别例外的类型和（b）优先考虑哪些例外更有可能需要国家协调机构的干预或纠正。此外，我们提供了一个可解释的AI分类法，旨在识别项目期间出现的不同可解释的AI需求。
2022-02-18 cs.LG stat.AP stat.ML
The Open Vault Challenge -- Learning how to build calibration-free interactive systems by cracking the code of a vault
Université de Paris（巴黎大学）
这个演示采取了对IJCAI社区的挑战的形式。一个物理保险库，由一个4位数的代码保护，将被放置在演示区。作者将通过在基于触摸的界面上输入代码公开打开保险库，并根据要求多次打开。对IJCAI参与者的挑战将是破解密码，打开保险库，并收集其内容。该接口是基于以前的工作校准免费的交互式系统，使用户能够开始指示机器，而机器不知道如何解释用户的行动事先。人类的意图和行为同时被机器学习。一个在线演示和视频可供读者参加的挑战。演示当天还将展示一个使用语音命令的额外界面，展示我们处理连续输入信号的方法的可扩展性。
2019-06-06 cs.AI cs.CR cs.HC
InFL-UX: A Toolkit for Web-Based Interactive Federated Learning
Saarland University（萨尔兰大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；ProOmea GmbH；University of Oldenburg（奥尔登堡大学）
本文提出基于浏览器的概念验证工具包 InFL-UX，通过简洁界面支持多设备用户上传数据、定义类别并协作训练分类模型，从而连接联邦学习与交互式机器学习。
2025-05-12 cs.HC cs.LG
WizMap: Scalable Interactive Visualization for Exploring Large Machine Learning Embeddings
Georgia Tech（佐治亚理工学院）；Apple（苹果公司）
针对机器学习嵌入难解释、维度高、规模大的问题，研究团队提出开源交互式可视化工具WizMap，结合多分辨率嵌入摘要方法与类地图交互，依托Web技术可在浏览器中支持百万级嵌入点探索。
2023-06-15 cs.CL cs.CV cs.HC
Machine Learning practices and infrastructures
Australian National University（澳大利亚国立大学）
本文通过实证研究Stack Exchange论坛问题，探讨交互式计算平台（如Jupyter Notebook和Google Colab）在机器学习实践中的使用，揭示其与ML实践者的基础设施关系，并指出共同演进可能使AI伦理关注的关键方面变得不可见。
2023-07-25 cs.CY cs.LG
