Towards Better Analysis of Machine Learning Models: A Visual Analytics Perspective
Tsinghua University（清华大学）
交互式模型分析是在交互式可视化的帮助下理解、诊断和精炼机器学习模型的过程，对于用户有效地解决现实世界的人工智能和数据采掘问题非常重要。大数据分析的巨大进步导致了各种各样的交互式模型分析任务。在本文中，我们提出了一个全面的分析和解释这一迅速发展的地区。具体来说，我们将相关工作分为三类：理解、诊断和细化。每个类别都以最近有影响力的工作为例。还探讨和讨论了未来可能的研究机会。
2017-02-04 cs.LG stat.ML
MultiSegVA: Using Visual Analytics to Segment Biologging Time Series on Multiple Scales
University of Konstanz（康斯坦茨大学）；Max Planck Institute of Animal Behavior（马克斯·普朗克动物行为研究所）
在多个时间尺度上分割动物的生物记录时间序列是一个重要步骤，需要复杂的技术，仔细的参数化和可能的跨领域的专业知识。然而，缺乏强烈支持这种多尺度分割的视觉交互工具。为了缩小这一差距，我们提出了我们的MultiSegVA平台，用于在多个时间尺度上交互式定义分割技术和参数。MultiSegVA主要为在多个尺度上分割未标记的时间序列提供量身定制的可视化交互方式和可视化分析范式。此外，为了灵活地组合多尺度分割，该平台提供了一种新的可视化查询语言，该语言连接了各种分割技术。为了说明我们的方法，我们提出了一套面向领域的分割技术与运动生态学家合作。我们展示了MultiSegVA在运动生态学的两个真实用例中的适用性和有用性，这些用例与环境感知分割后的行为分析和渐进聚类后的行为分析有关。运动生态学家的专家反馈显示了定制的视觉交互手段和视觉分析范式在分割多尺度数据方面的有效性，使他们能够进行语义上有意义的分析。第三个用例表明，MultiSegVA可推广到其他领域。
2020-09-02 cs.HC cs.LG
What User Behaviors Make the Differences During the Process of Visual Analytics?
本文通过收集用户在桌面与沉浸式可视化系统中执行Covid-19数据分析任务的行为数据，并采用时间序列分类方法，揭示了用户行为与可视化任务之间的强关联，为自动化理解可视化分析过程提供了新途径。
2023-12-04 cs.CV cs.HC cs.LG
Dimensionality Reduction Considered Harmful (Some of the Time)
本研究探讨了降维在视觉分析中的可靠性问题，提出新的评估指标和优化策略以提高分析的准确性。
2025-12-20 cs.HC cs.LG
Illuminating LLM Coding Agents: Visual Analytics for Deeper Understanding and Enhancement
Visa Research（Visa研究）
本文提出一个面向AIDE框架的可视化分析系统，从代码、过程和LLM三个层面比较编码智能体行为，帮助机器学习科学家更有效地调试和优化提示工程。
2025-08-18 cs.LG
Explaining Vulnerabilities to Adversarial Machine Learning through Visual Analytics
Arizona State University（亚利桑那州立大学）；University of Virginia（弗吉尼亚大学）
机器学习模型目前被部署在各种现实世界的应用程序中，其中模型预测用于做出有关医疗保健，银行贷款和许多其他关键任务的决策。随着人工智能技术的部署变得无处不在，对手已经开始开发操纵机器学习模型的方法以获得优势也就不足为奇了。虽然可视化分析社区已经开发了打开机器学习模型黑匣子的方法，但很少有工作专注于帮助用户了解他们在对抗攻击背景下的模型漏洞。在本文中，我们提出了一个可视化的分析框架，用于解释和探索对抗攻击的模型漏洞。我们的框架采用了多方面的可视化方案，旨在支持分析的数据投毒攻击的角度模型，数据实例，功能和本地结构。我们证明了我们的框架，通过两个案例研究二进制分类器和说明模型的漏洞，不同的攻击策略。
2019-10-03 cs.CR cs.HC cs.LG
FairSight: Visual Analytics for Fairness in Decision Making
University of Pittsburgh（匹兹堡大学）
与个人相关的数据驱动决策变得越来越普遍，但最近的研究提出了有关潜在歧视的问题。作为回应，研究人员已经努力提出并实施公平性措施和算法，但这些努力尚未转化为数据驱动决策的现实实践。因此，仍然迫切需要创建一个可行的工具，以促进公平决策。我们提出了FairSight，一个视觉分析系统，以满足这一需求，它的目的是通过确定所需的行动-理解，测量，诊断和减轻偏见-共同导致更公平的决策，以实现不同的公平性概念的排名决定。通过案例研究和用户研究，我们证明了系统中的视觉分析和诊断模块是有效的理解公平意识的决策管道，并获得更公平的结果。
2019-12-02 cs.CY cs.HC cs.LG
A Visual Analytics Design for Connecting Healthcare Team Communication to Patient Outcomes
University of California, Davis（加州大学戴维斯分校）
本文提出一个可视化分析系统，通过将EHR访问日志构建的时间沟通网络测度与患者生存结局关联以设计有效性指标，并提取访问延迟和频率分析沟通效率，经案例研究和专家评审验证。
2024-01-08 cs.HC cs.LG cs.SI
Approximated and User Steerable tSNE for Progressive Visual Analytics
Delft University of Technology（代尔夫特理工大学）；Leiden University Medical Center（莱顿大学医学中心）
渐进式可视化分析旨在通过可视化以及与中间结果的交互来改善现有分析技术的交互性。数据分析的一个关键方法是降维，例如，生成可以有效可视化和分析的2D嵌入。t分布随机邻域嵌入（tSNE）是一种非常适合于高维数据可视化的技术。tSNE可以创建有意义的中间结果，但初始化速度较慢，这限制了它在渐进式可视化分析中的应用。我们引入了一个可控的tSNE近似（A-tSNE），它权衡了速度和准确性，以实现交互式数据探索。我们提供实时可视化技术，包括基于密度的解决方案和用于检查近似程度的Magic Lens。有了这个反馈，用户可以决定在分析过程中的局部细化和操纵近似水平。我们展示了我们的技术与几个数据集，在现实世界的研究方案和高维流的实时分析，以说明其有效性的交互式数据分析。
2016-06-16 cs.CV cs.LG
Visual Analytics Using Tensor Unified Linear Comparative Analysis
Kobe University（神户大学）；RIKEN R-CCS（理化学研究所R-CCS）；Linköping University（林奈大学）；University of Arizona（亚利桑那大学）
本文提出张量分解方法 TULCA，通过整合判别分析与对比学习实现灵活的张量比较，并配套核心张量二维可视化及交互式可视化分析界面。
2025-07-26 cs.GR cs.HC cs.LG
City-level Geolocation of Tweets for Real-time Visual Analytics
University of Colorado（科罗拉多大学）；Purdue University（普渡大学）
实时的【形】推文可以提供有关不断变化的事件和情况的有用信息。带有地理标签的推文特别有用，因为它们表明了来源位置并提供了地理背景。然而，只有一小部分推文是地理标记的，限制了它们在态势感知方面的使用。在本文中，我们调整、改进和评估了一个用于城市级地理位置预测的最先进的深度学习模型，并将其与一个为实时的【形】态势感知量身定制的可视化分析系统相集成。我们提供了计算评估，以证明我们的地理位置预测模型在交互式系统中的优越性和实用性。
2019-10-05 cs.LG cs.SI
Learning Goal-Oriented Visual Dialog Agents: Imitating and Surpassing Analytic Experts
National Chiao Tung University（国立交通大学）
本文研究了面向目标的视觉对话任务中提问者的学习问题。以前的几个作品采用无模型强化学习。大多数人从有限的人类生成的数据集预训练模型。我们认为，使用有限的示范启动提问者是不够的，由于大的政策搜索空间。受最近提出的信息理论方法的启发，我们开发了两个分析专家，作为高质量的示范源模仿学习。然后，我们利用强化学习来改进模型，使其朝着目标导向的目标发展。关于GuessWhat的实验结果？！实验结果表明，该方法综合了模仿学习和强化学习的优点，达到了最先进的性能.
2019-07-24 cs.AI cs.LG
A Predictive Visual Analytics System for Studying Neurodegenerative Disease based on DTI Fiber Tracts
Zhejiang University of Technology（浙江工业大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
扩散张量成像（DTI）已被用于研究神经退行性疾病对神经通路的影响，这可能会导致这些疾病的更可靠和早期诊断，以及更好地了解它们如何影响大脑。我们介绍了一个智能可视化分析系统，用于研究患者群体的基础上，他们标记的DTI纤维束数据和相应的统计。该系统的AI增强界面引导用户通过有组织的整体分析空间，包括统计特征空间，物理空间和不同群体的患者空间。我们使用自定义的机器学习管道来帮助缩小这个庞大的分析空间，然后通过一系列链接的可视化实用地探索它。我们进行了几个案例研究，使用真实的数据从帕金森氏症进展标志物倡议的研究数据库。
2021-12-14 cs.CV cs.LG eess.IV
General Data Analytics with Applications to Visual Information Analysis: A Provable Backward-Compatible Semisimple Paradigm over T-Algebra
我们考虑一个新的向后兼容的一般数据分析的范例，最近报道的半单代数（称为t-代数）。我们研究了t-代数上的抽象代数框架，用复数的固定大小的多路数组表示t-代数的元素，用直积成分的集合表示t-代数上的代数结构.在t-代数上，许多算法都是使用这种新的半简单范式以简单的方式推广的。为了证明新范式的性能和向后兼容性，我们概括了一些典型的视觉模式分析算法。在公开数据集上的实验表明，广义算法与规范算法相比，具有更好的性能。
2021-05-02 cs.CV cs.LG cs.MM
