Classifier-Guided Visual Correction of Noisy Labels for Image Classification Tasks
Ulm University（乌尔姆大学）
训练数据在机器学习的现代应用中起着至关重要的作用。然而，收集标记的训练数据是耗时的。因此，标签通常外包给经验不足的用户，或完全自动化。这会引入错误，从而损害有价值的训练数据，并导致次优的训练结果。因此，我们提出了一种新的方法，使用预先训练的分类器的力量，在视觉上引导用户嘈杂的标签，并让他们交互检查错误的候选人，迭代地提高训练数据集。为了系统地调查训练数据，我们提出了一个分类的标签错误分为三种不同类型，标签采集过程中的潜在陷阱的分析的基础上。对于每一种类型，我们提出的方法来检测，原因，并解决错误的候选人，因为我们提出的措施和视觉指导技术，以支持机器学习用户。我们的方法已被用于在著名的机器学习基准数据集中发现错误，我们在用户评估期间测试了其可用性。虽然最初开发的图像，本文提出的技术是独立的分类算法，也可以扩展到许多其他类型的训练数据。
2020-04-06 cs.CV cs.HC cs.LG
Interactive Classification for Deep Learning Interpretation
Georgia Institute of Technology（佐治亚理工学院）
我们提出了一个交互式系统，使用户能够操纵图像，以探索深度学习图像分类器的鲁棒性和灵敏度。使用现代网络技术运行浏览器内推理，用户可以使用修复算法删除图像特征，并实时的获得新的分类，这使他们能够通过实验性地修改图像并观察模型的反应来提出各种“如果”的问题。我们的系统允许用户比较和对比人类和机器学习模型用于分类的图像区域，揭示了广泛的令人惊讶的结果，从壮观的失败（例如，“水瓶”图像在移除人时变成“音乐会”）到令人印象深刻的弹性（例如，即使没有手套或底座，“棒球运动员”图像也保持正确分类）。我们在2018年计算机视觉和模式识别（CVPR）会议上展示了我们的系统，供观众现场试用。我们的系统在https://github.com/poloclub/interactive-classification上开源。视频演示可在https://youtu.be/llub5GcOF6w上获得。
2019-04-10 cs.AI cs.CV cs.HC
AstronomicAL: An interactive dashboard for visualisation, integration and classification of data using Active Learning
University of Bristol（布里斯托大学）
AstronomicAL是一个人机交互式标签和培训仪表板，允许用户使用主动学习创建可靠的数据集和强大的分类器。这种技术优先处理提供高信息增益的数据，从而使用更少的数据来提高性能。该系统允许用户可视化和整合来自不同来源的数据，并处理不正确或缺失的标签和不平衡的班级规模。AstronomicAL使专家能够可视化特定领域的图和关键信息，这些信息与从各种数据源中提取的兴趣点的更广泛背景和细节有关，确保可靠的标签。此外，AstronomicAL还提供了探索训练过程各个方面的功能，包括自定义模型和查询策略。这使得该软件成为试验特定领域分类和更通用的机器学习策略的工具。我们说明了使用该系统与天文数据集，由于该领域的迫切需要，但是，天文学已被设计用于任何学科的数据集。最后，通过导出一个简单的配置文件，整个布局，模型和分配的标签可以与社区共享。这允许完全透明，并确保复制结果的过程毫不费力
2021-09-11 astro-ph.IM cs.HC cs.LG
Panda or not Panda? Understanding Adversarial Attacks with Interactive Visualization
University of Waterloo（滑铁卢大学）
针对图像分类中对抗攻击难以理解的问题，本研究推出多层次交互式可视化系统AdvEx，经评估证实其能有效帮助入门学习者理解AML机制并提供良好学习体验。
2024-10-05 cs.CV cs.HC
Distinguishing Engagement Facets: An Essential Component for AI-based Interactive Healthcare
New York University Abu Dhabi（纽约大学阿布扎比分校）
人机交互中的参与是参与交互的实体建立、维持和结束其感知连接的过程。在各种基于人工智能的交互式医疗保健模式中，监测患者的参与状态至关重要。这包括改变社会行为的医疗条件，如自闭症谱系障碍（ASD）或注意力缺陷/多动症（ADHD）。投入是一个多方面的结构，由行为、情感和心理组成。以往的研究忽视了敬业度的多面性，而集中于敬业度水平或二元敬业度标签的检测。在本文中，提出了一个系统来区分这些方面使用上下文和关系的功能。这可以促进进一步的细粒度分析。几个机器学习分类器，包括传统的和深度学习模型进行了比较。在具有基于神经网络的分类的22242个实例的平衡数据集上获得了0.74的F分数。建议的框架应作为进一步研究的参与方面识别的基线，其集成是社会辅助机器人应用。
2023-03-02 cs.AI cs.HC cs.RO
Positive-First Most Ambiguous: A Simple Active Learning Criterion for Interactive Retrieval of Rare Categories
INRIA, LIRMM, Université de Montpellier（法国国家信息与自动化研究所，蒙彼利埃大学计算机科学、机器人技术与微电子实验室）；Institut National de l’Audiovisuel（法国国家视听研究所）
本文提出PF-MA准则，用于在低预算和低延迟环境下有效检索罕见类别，通过优先选择边界样本和可能的正例，提升检索效率和用户满意度。
2026-04-08 cs.CV cs.HC cs.IR
RuleMatrix: Visualizing and Understanding Classifiers with Rules
Hong Kong University of Science and Technology（香港科技大学）；New York University（纽约大学）
随着越来越多地采用机器学习技术，对使机器学习系统更加透明和可解释的研究兴趣激增。已经开发了各种可视化来帮助模型开发人员理解、诊断和改进机器学习模型。然而，大量潜在但被忽视的用户是对机器学习知之甚少但被期望与机器学习系统一起工作的领域专家。在本文中，我们提出了一种交互式可视化技术，以帮助用户在机器学习的专业知识很少，了解，探索和验证预测模型。通过将模型视为一个黑盒，我们从其输入输出行为中提取出一个标准化的基于规则的知识表示。我们设计了RuleMatrix，一个基于矩阵的可视化规则，以帮助用户导航和验证规则和黑盒模型。我们通过两个用例和可用性研究来评估RuleMatrix的有效性。
2018-07-17 cs.AI cs.HC cs.LG
Interactive Learning for Identifying Relevant Tweets to Support Real-time Situational Awareness
Purdue University（普渡大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
各个领域的用户越来越多地利用实时的【形】社交媒体数据来获得快速的态势感知。然而，由于大量数据中的高噪声，有效地确定语义上相关的信息可能是困难的，并且由于每个终端用户针对不同事件改变相关性的定义而进一步复杂化。现有的大多数短文本相关性分类方法未能将用户的知识纳入分类过程。结合交互式用户反馈的现有方法集中在历史数据集上。因此，分类器不能针对特定事件或依赖于用户的需求进行实时的【形】交互式再训练。这限制了实时的【形】态势感知，因为分类错误的流数据无法立即纠正，从而也可能对重要的传入数据进行错误分类。我们提出了一种新的交互式学习框架，以改善分类过程中，用户迭代地纠正实时训练分类模型的即时预测改进的相关性的推文。我们计算评估我们的分类模型，以适应学习互动率。我们的研究结果表明，我们的方法优于最先进的机器学习模型。此外，我们将我们的框架与扩展的社交媒体分析和报告工具包（SMART）2.0系统集成，允许在为实时的【形】态势感知量身定制的可视化分析系统中使用我们的交互式学习框架。为了证明我们的框架的有效性，我们提供了领域专家的反馈，从第一响应者谁使用扩展SMART 2.0系统。
2019-10-07 cs.CL cs.HC cs.LG
RECAST: Enabling User Recourse and Interpretability of Toxicity Detection Models with Interactive Visualization
Georgia Institute of Technology（佐治亚理工学院）；Mailchimp
随着有毒语言在网上的广泛使用，平台越来越多地使用自动化系统，利用自然语言处理的进步来自动标记和删除有毒评论。然而，大多数自动化系统在检测和缓和有毒语言时，并不向用户提供反馈，更不用说为这些用户提供一个进行可操作更改的追索途径。我们提出了我们的工作，RECAST，一个交互式的，开源的网络工具，用于可视化这些模型的有毒预测，同时为标记的有毒语言提供替代建议。我们的工作还为用户在使用这些自动审核工具时提供了一条新的追索途径。RECAST突出了负责对毒性进行分类的文本，并允许用户交互式地用中性替代品替换潜在的有毒短语。我们通过两个大规模的用户评估来检查RECAST的效果，发现RECAST在帮助用户减少通过模型检测到的毒性方面非常有效。用户还对黑箱模型使用的潜在毒性标准有了更深入的了解，从而实现了透明度和追索权。此外，我们发现，当用户专注于优化这些模型的语言，而不是自己的判断（这是部署自动化模型的隐含动机和目标）时，与人类注释相比，这些模型不再是有效的毒性分类器。这开启了关于毒性检测模型如何工作以及应该如何工作的讨论，以及它们对在线话语未来的影响。
2021-02-10 cs.CL cs.HC cs.LG
Perceived System Predictability: Scale Development and Application
University of Stuttgart（斯图加特大学）；Hochschule der Medien（媒体学院）
研究聚焦于用户对交互式系统可预测性的感知，通过引入PSP概念，经专家评审等得出6项PSP量表并验证其结构，还进行相关研究，发现PSP和预测正确性反映不同方面，为设计可信交互系统提供基础。
2026-07-08 cs.HC
Developing A Visual-Interactive Interface for Electronic Health Record Labeling: An Explainable Machine Learning Approach
Sriphat Medical Center, Faculty of Medicine, Chiang Mai University（清迈大学医学院诗里帕医院）
本文提出可视化交互标注工具 XLabel，利用可解释提升机 EBM 分类并展示解释热力图，辅助电子健康记录的 NCD 标注，实验证明其可减少操作、保持高准确率并具备强抗错误标注能力。
2023-06-02 cs.HC cs.LG stat.AP
HapTable: An Interactive Tabletop Providing Online Haptic Feedback for Touch Gestures
Koc University（科奇大学）
我们提出HapTable;一种多模式交互桌面，允许用户通过自然触摸手势与数字图像和对象交互，并相应地接收视觉和触觉反馈。在我们的系统中，手的姿态是由红外摄像机和手势进行分类，使用支持向量机（SVM）分类器。为了显示一组丰富的静态和动态手势的触觉效果，我们有效地集成了机电和静电驱动技术的HapTable，这是一个表面电容式触摸屏的桌面表面。我们将四个压电贴片连接到桌面的边缘，以显示静态手势的振动触觉反馈。为此，通过激光多普勒测振仪在其表面上获得84个网格点的频率响应函数（FRFs）形式的台面振动响应。使用这些FRF，可以在表面上显示静态手势的局部振动触觉反馈。对于动态手势，我们利用静电驱动技术，通过施加电压到其导电层来调制手指皮肤和桌面表面之间的摩擦力。在这里，我们提出了两个这样的应用程序的例子，一个静态和动态手势，以及详细的用户研究。在第一个示例中，用户通过将手放在桌面上并感觉在其下方行进的振动触觉刺激来检测虚拟流动的方向，例如风或水的方向。在第二个示例中，用户旋转桌面上的虚拟旋钮以从菜单中选择项目，同时以摩擦触觉反馈的形式感觉旋钮的止动件和旋转阻力。
2021-03-30 cs.CV cs.GR cs.HC
Agile Deliberation: Concept Deliberation for Subjective Visual Classification
Google Research（谷歌研究院）；University of Washington（华盛顿大学）
本文提出敏捷协商框架，通过迭代协商提升视觉分类的主观概念理解，实验表明其在F1得分和认知效率上优于传统方法。
2026-04-04 cs.AI cs.CV cs.HC
