Interactive Decision Making for Autonomous Vehicles in Dense Traffic
Honda Research Institute USA(本田美国研究院)
密集的城市交通环境可能会产生准确的预测和动态模型不足以成功进行自动驾驶车辆运动规划的情况。我们调查如何一个自主智能体可以安全地与其他交通参与者进行谈判,使代理处理潜在的死锁。具体来说,我们考虑合并的地方,汽车之间的差距小于自我车辆的大小。我们提出了一个能够生成和响应交互行为的博弈论框架。我们的主要贡献是展示如何游戏树决策可以由自动驾驶汽车执行,包括近似和推理,使树搜索计算上容易处理。此外,为了测试我们的模型,我们开发了一个随机的基于规则的交通代理能够生成交互式的行为,可以作为一个基准,用于模拟交通参与者在拥挤的合并设置。
2019-09-27 cs.AI cs.RO
Digital Human Interactive Recommendation Decision-Making Based on Reinforcement Learning
AntGroup(蚂蚁集团);Damo Academy, Alibaba Group(阿里巴巴集团达摩院)
数字人推荐系统是为了帮助客户找到他们喜欢的产品而开发的,并在各种推荐环境中发挥着积极的作用。如何及时捕捉和学习客户的偏好动态,同时满足他们的确切要求,成为数字人类推荐领域的关键。为了充分利用数字人的特点和强化学习的灵活性,提高交互式推荐决策的效率,设计了一种基于强化学习(RL)的数字人交互式推荐代理框架。我们提出的框架通过最先进的RL算法,结合多模态嵌入和图嵌入,动态地通过数字人和客户之间的实时交互进行学习,以提高个性化的准确性,从而使数字人代理能够及时吸引客户的注意力。对真实业务数据的实验表明,我们的框架可以提供更好的个性化客户参与和更好的客户体验。
2022-11-04 cs.AI cs.IR cs.LG
Foundations of Reinforcement Learning and Interactive Decision Making
MIT(麻省理工学院)
本专著从统计视角统一阐述交互式决策,提出估计到决策原则与决策估计系数,将监督学习转化为决策算法,并分析问题复杂度,覆盖从多臂老虎机到强化学习的完整框架。
2026-09-28 cs.LG math.OC math.ST
Tight Guarantees for Interactive Decision Making with the Decision-Estimation Coefficient
Microsoft(微软)
强化学习和交互式决策的一个基本问题是理解什么样的建模假设可以保证样本有效学习,以及什么样的算法设计原则可以实现最佳样本复杂度。最近,Foster et al.(2021)引入了决策估计系数(Decision-Estimation Coefficient,DEC),这是一种统计复杂性的度量,它可以为包含强盗和具有函数逼近的强化学习的一般类问题的最佳样本复杂性提供上限和下限。在本文中,我们引入了一个新的变种的DEC,约束决策估计系数,并使用它来获得新的下界,提高了以前的工作在三个方面:-他们持有的期望,没有限制类的算法正在考虑。- 它们在全球范围内成立,并且不依赖于Foster等人(2021)使用的本地化概念。- 最有趣的是,他们允许DEC定义的参考模型是不适当的,建立不适当的参考模型起着根本性的作用。我们提供了具有相同数量的后悔的上限,从而关闭了Foster et al.(2021)中上限和下限之间的所有差距。我们的研究结果适用于遗憾框架和PAC框架,并利用几个新的分析和算法设计技术,我们预计将找到更广泛的用途。
2023-01-19 cs.LG math.OC math.ST
Multi$^2$: Hierarchical Multi-Agent Decision-Making with LLM-Based Agents in Interactive Environments
KAIST(韩国科学技术院)
提出Multi$^2$分层多智能体决策框架,通过高层智能体(System 1)使用监督微调生成子目标,低层智能体(System 2)使用离线到在线强化学习执行原子动作,以缓解目标漂移并实现长期稳定控制。
2026-07-22 cs.LG
Simple and Fast Algorithms for Interactive Machine Learning with Random Counter-examples
Watchung Hills Regional High School(沃昌山地区高中)
本文描述了在随机反例学习(LRC)模型中交互式学习非二元概念的简单有效的算法。在这里,学习发生在随机的反例中,学习者收到这些反例是为了响应他们正确的等价查询。在这种情况下,学习时间被定义为学习者识别目标概念所需的反例的数量。这种学习特别适合于在线排名、分类、聚类等,其中机器学习模型必须在它们被完全训练之前被使用。我们提供了两个简单的LRC算法,确定性和随机化,精确学习非二进制目标概念的任何概念类$H$。我们证明了这两种算法都有一个$\mathcal{O}(\log{}|H|)$渐近最优的平均学习时间。这解决了一个开放的问题上存在一个有效的LRC随机算法,同时简化和推广以前的结果。我们还证明了任意LRC算法的期望学习时间都可以由$\mathcal{O}(\frac{1}ε\log{\frac{|H|}δ})$定义,其中$ε$和$δ$分别是允许的学习误差和失败概率.这表明LRC交互式学习至少与非交互式的可能近似正确(PAC)学习一样有效。我们的模拟表明,在实践中,这些算法优于其理论界。
2019-12-29 cs.LG stat.ML
GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond
Northwestern University(西北大学);Peking University(北京大学);The Hong Kong University of Science and Technology(香港科技大学);Yale University(耶鲁大学)
本文提出广义eluder系数(GEC)来刻画强化学习中探索与利用的权衡,涵盖MDP、POMDP等场景,并设计了一种通用的后验采样算法,通过次线性遗憾上界证明了其样本高效性。
2023-06-30 cs.AI cs.LG math.OC
Probabilistic Prediction of Interactive Driving Behavior via Hierarchical Inverse Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校)
自动驾驶汽车(AVs)已经上路。为了安全有效地与其他道路参与者进行交互,自动驾驶汽车必须准确预测周围车辆的行为并相应地进行规划。这种预测应该是概率性的,以解决人类行为中的不确定性。这种预测也应该是互动的,因为在所有可能的轨迹的预测车辆的分布不仅取决于历史信息,但也对未来的计划,其他车辆与它互动。为了实现这种互动感知的预测,我们提出了一种概率预测方法的基础上分层逆强化学习(IRL)。首先,我们明确地考虑了人类驾驶员的分层自动生成过程,涉及离散和连续的驾驶决策。在此基础上,在所有未来轨迹的预测车辆的分布被制定为一个混合的分布划分的离散决策。然后,我们应用IRL分层学习分布从真正的人类示威。提供了一个案例研究的坡道合并驾驶方案。定量结果表明,所提出的方法可以准确地预测离散的驾驶决策,如屈服或通过以及连续的轨迹。
2018-09-09 cs.AI cs.LG cs.RO
Asymptotic Instance-Optimal Algorithms for Interactive Decision Making
Stanford University(斯坦福大学)
该研究针对通用有限决策交互式决策问题,提出首个基于主动假设检验的渐近实例最优算法,其渐近遗憾匹配实例精确复杂度,复现了经典老虎机问题结果并改进了强化学习的实例依赖上界。
2023-06-12 cs.LG
Decision Making for Autonomous Driving in Interactive Merge Scenarios via Learning-based Prediction
University of Surrey(萨里大学)
在与人类驾驶员共享的道路上行驶的自主智能体必须对交通参与者之间的微妙互动进行推理。这提出了一个高度挑战性的决策问题,因为人类行为受到多种因素的影响(例如,人类的意图和情感),很难建模。本文提出了一种自动驾驶的决策方法,专注于合并到移动交通中的复杂任务,其中不确定性来自其他驾驶员的行为和不完善的传感器测量。我们框架的问题作为一个部分可观察的马尔可夫决策过程(POMDP)和解决它的蒙特卡罗树搜索在线。POMDP的解决方案是执行高级别驾驶操作的策略,例如为接近的汽车让路,与前面的车辆保持安全距离或并入交通。我们的方法利用从数据中学习的模型来预测未来的交通状态,同时明确考虑周围代理之间的交互。根据这些预测,自动驾驶汽车可以预测其行为对环境的未来影响,并相应地优化其轨迹。我们在模拟中彻底测试了我们的方法,表明自动驾驶汽车可以根据不同情况调整其行为。我们还与其他方法进行比较,证明了所考虑的性能指标的改进。
2023-03-29 cs.AI cs.LG cs.RO
Language Decision Transformers with Exponential Tilt for Interactive Text Environments
ServiceNow Research(ServiceNow研究院);Quebec Artificial Intelligence Institute (Mila)(魁北克人工智能研究所(Mila));Polytechnique Montreal(蒙特利尔理工学院)
提出 Language Decision Transformers (LDTs) 框架,通过引入指数倾斜、新颖目标条件化和未来观测模型扩展决策 Transformers,在 Jericho 等挑战性文本游戏中实现最高分并首次解决离线 RL 问题。
2023-11-17 cs.AI cs.CL cs.LG
Instance-Optimality in Interactive Decision Making: Toward a Non-Asymptotic Theory
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
本文研究交互式决策的非渐近实例最优性,提出 AEC 复杂度度量与 AE² 算法,在老虎机和表格强化学习中获得多项式依赖的实例最优遗憾界,并给出匹配下界。
2023-04-24 cs.LG stat.ML
Interactive Machine Learning of Musical Gesture
Goldsmiths, University of London(伦敦大学金史密斯学院)
本章概述了交互式机器学习(IML)技术应用于音乐手势的分析和设计。我们通过捕获,分析和应用IML技术,以人体姿态与声音合成系统执行的目的的主要挑战和需求。我们讨论了如何使用不同的算法来完成不同的任务,包括与复杂的合成技术进行交互,并通过我们开发的交互范例中的强化学习(RL)探索交互的可能性,称为辅助交互式机器学习(AIML)。最后,我们描述了作者如何使用这些技术来发展四首乐曲,从而概述了IML对音乐实践的影响。
2020-11-26 cs.HC cs.LG
Assouad, Fano, and Le Cam with Interaction: A Unifying Lower Bound Framework and Characterization for Bandit Learnability
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research(微软研究院);New York University(纽约大学);National University of Singapore(新加坡国立大学)
该研究提出交互Fano方法与分数覆盖数,统一了统计估计与交互决策的下界框架,刻画了随机赌博机可学习性,弥合了凸模型类交互决策问题上下界的多项式因子内差距。
2024-12-06 cs.IT cs.LG math.IT
Graph Convolution-Based Deep Reinforcement Learning for Multi-Agent Decision-Making in Mixed Traffic Environments
Beijing Institute of Technology(北京理工大学);Delft University of Technology(代尔夫特理工大学);Nanyang Technological University(南洋理工大学)
智能交通系统中的互联自动驾驶车辆的安全、高效运行迫切需要一个高效、可靠的多智能体决策系统。目前的研究主要集中在深度强化学习(Deep Reinforcement Learning,DRL)方法。然而,在交互式交通场景中,由于缺乏交互信息,DRL方法难以表达不同车辆之间的相互影响,难以对动态交通环境进行建模,从而导致协同决策生成的准确性不高。为了解决这些困难,本研究提出了一个框架,使不同的图强化学习(GRL)方法的决策,并比较它们的性能在交互式驾驶场景。GRL方法将图神经网络(GNN)和DRL框架相结合,实现了自主车辆交互场景下更好的决策生成,其中GNN提取交互场景的特征,DRL框架生成协作行为。几个GRL方法进行了总结,并在建议的框架中实现。为了评价GRL方法的性能,构建了高速公路双匝道交互驾驶场景,并在SUMO平台上进行了仿真实验,对不同GRL方法的性能进行了评价。最后,从多个角度和维度对结果进行分析,比较不同GRL方法在智能交通场景中的特点。结果表明,GNN的实现能够很好地表征车辆之间的交互,GNN与DRL的结合能够提高换道行为生成的性能。我们工作的源代码可以在https://github.com/Jacklinkk/TorchGRL上找到。
2022-01-30 cs.AI cs.RO
Minimax Quantile Lower Bounds for Interactive Statistical Decision Making with Privacy
KTH Royal Institute of Technology(瑞典皇家理工学院)
针对期望准则忽略罕见但严重后果的问题,提出δ-显式最小最大分位数理论,导出高概率交互式Fano和Le Cam方法,并应用于带隐私约束的高斯均值估计和K臂高斯老虎机,得到显式下界。
2026-06-23 cs.IT cs.LG math.IT
NAIL: A General Interactive Fiction Agent
Microsoft Research(微软研究院);Apple(苹果公司)
交互式小说(IF)游戏是复杂的文本决策问题。本文介绍了NAIL,一个自主智能体的一般分析器为基础的IF游戏。NAIL赢得了2018年文本冒险AI竞赛,在那里它被评估了20个看不见的游戏。本文介绍了架构,发展和见解支撑NAIL的性能。
2019-02-14 cs.AI
Evaluating Scenario-based Decision-making for Interactive Autonomous Driving Using Rational Criteria: A Survey
James Watt School of Engineering, University of Glasgow(格拉斯哥大学詹姆斯·瓦特工程学院)
本文综述了深度强化学习在高速公路、匝道合流、环岛和无信号交叉口等典型场景中的自动驾驶决策应用,并提出DDTUI五项理性准则对现有算法进行系统评估,指出未来研究方向。
2025-01-03 cs.AI cs.RO cs.SY
Play to Grade: Testing Coding Games as Classifying Markov Decision Process
Stanford University(斯坦福大学)
当代的编程教育经常给学生提出开发具有用户交互和复杂动态系统的程序的任务,例如基于鼠标的游戏。虽然在教学上很有吸引力,但目前还没有提供反馈的自主方法。值得注意的是,交互式程序不可能通过传统的单元测试来评分。在本文中,我们正式提出的挑战,提供反馈的交互式程序作为一项任务的分类马尔可夫决策过程(MDP)。每个学生的程序完全指定了一个MDP,其中代理需要在合理的泛化下操作和决定,如果输入MDP的动态和奖励模型应该被分类为正确或损坏。我们证明,通过设计代理和自回归模型之间的合作目标,我们可以使用代理从输入MDP,允许分类器来确定成员的差分轨迹采样:发挥等级。我们的方法使一个自动反馈系统的交互式代码分配。我们发布了一个包含711,274名匿名学生提交的数据集,这些学生提交了一个带有手工编码错误标签的作业,以支持未来的研究。
2021-12-14 cs.AI cs.CY cs.LG
VLM Q-Learning: Aligning Vision-Language Models for Interactive Decision-Making
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Salesforce AI Research(Salesforce人工智能研究)
本文提出VLM Q-Learning方法,从离线到在线强化学习视角微调视觉-语言模型,使其在保留SFT稳定性的同时能从失败决策和低质量数据中自我改进,并在三个多模态智能体领域验证了有效性。
2025-05-06 cs.LG
A Machine of Few Words -- Interactive Speaker Recognition with Reinforcement Learning
Université de Lille(里尔大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Deepmind(深度思维);Google Research(谷歌研究院)
说话人识别是语音处理领域中一个众所周知的研究课题。它有许多应用,用于个人设备的安全或扬声器适配。在本文中,我们提出了一个新的范例自动说话人识别,我们称之为交互式说话人识别(ISR)。在这个范例中,识别系统的目的是通过请求个性化的话语来逐步建立一个代表的发言者被发言的标准文本相关或文本无关的计划。为此,我们将说话人识别任务转换为一个顺序决策问题,并使用强化学习来解决。使用一个标准的数据集,我们表明,我们的方法取得了优异的性能,同时使用很少的语音信号量。该方法也可以作为一种发声选择机制,用于构建语音合成系统。
2020-08-07 cs.LG cs.SD eess.AS
Machine Guides, Human Supervises: Interactive Learning with Global Explanations
KU Leuven(KU Leuven(天主教鲁汶大学));University of Trento(特伦托大学)
我们介绍解释性引导学习(XGL),一种新的交互式学习策略,其中机器引导人类主管选择信息丰富的分类器的例子。通过全局解释来提供指导,该全局解释总结了分类器在实例空间的不同区域上的行为并暴露其缺陷。与其他解释性交互式学习策略相比,这些策略是机器发起的,依赖于本地解释,XGL被设计为对机器提供的解释超过分类器质量的情况具有鲁棒性。此外,XGL利用全局解释来打开人类发起的交互的黑盒子,使主管能够选择挑战学习模型的信息示例。通过与交互式机器教学相联系,我们从理论上证明了全局解释是指导主管的可行方法。我们的模拟表明,解释性引导学习避免了过度销售模型的质量,并在模型质量方面比机器和人类发起的交互式学习策略表现更好。
2020-09-21 cs.AI cs.LG stat.ML
Interactive Example-based Explanations to Improve Health Professionals' Onboarding with AI for Human-AI Collaborative Decision Making
Singapore Management University(新加坡管理大学);Singapore General Hospital(新加坡综合医院)
提出交互式基于示例的解释方法,通过呈现最近邻样本协助健康专业人员入门AI,实验证明该方法能优化人员对AI的依赖并提高正确决策比例,降低错误决策比例。
2024-09-24 cs.AI cs.HC cs.LG
Interactive slice visualization for exploring machine learning models
Maynooth University(梅努斯大学)
机器学习模型使复杂算法适合任意大的数据集。这些算法是众所周知的高性能和低的可解释性。我们使用预测空间切片的交互式可视化来解决可解释性缺陷;实际上打开了机器学习算法的黑盒子,以询问,解释,验证和比较模型拟合。切片直接通过交互指定,或使用各种巡回算法,旨在访问高占用率的部分或区域,其中模型适合具有有趣的属性。这里介绍的方法在R包\pkg{condvis2}中实现。
2021-09-07 cs.LG stat.ML
One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency
University of Bristol(布里斯托大学)
由于基于机器学习算法的预测系统在行业中的不断增长,因此需要其透明度。每当黑箱算法预测影响人类事务时,这些算法的内部工作应该被仔细检查,并向相关利益相关者解释其决策,包括系统工程师,系统操作员和案件被决定的个人。虽然有各种各样的可解释性和可解释性方法,但没有一种方法是万能药,可以满足所有不同的期望和有关各方可能要求的相互竞争的目标。在本文中,我们通过讨论交互式机器学习的承诺来解决这一挑战,该承诺使用对比解释的例子来提高黑盒系统的透明度--一种最先进的可解释机器学习方法。具体来说,我们展示了如何个性化的反事实的解释,通过互动调整他们的条件语句和提取额外的解释,要求后续“如果?“问题。我们在构建、部署和展示这种类型的系统方面的经验使我们能够列出所需的属性以及潜在的限制,这些属性可以用于指导交互式解释器的开发。在定制交互媒介的同时,用户界面包括各种通信渠道,可能会给人一种个性化的印象,我们认为,调整解释本身及其内容更重要。为此,除了明确告知被解释者其局限性和警告之外,还必须考虑解释的广度、范围、上下文、目的和目标等属性.
2020-01-27 cs.AI cs.LG stat.ML
Recent Research Advances on Interactive Machine Learning
Tsinghua University(清华大学)
交互式机器学习(IML)是一种将人与机器学习者紧密耦合的迭代学习过程,被研究人员和实践者广泛用于有效解决各种现实世界的应用问题。虽然近年来IML在可视化分析领域的扩散,但最近的大多数调查要么关注IML的特定领域,要么旨在总结IML过于通用的可视化领域。在本文中,我们系统地回顾了最近的文献中IML和分类到一个面向任务的分类我们建立。我们在调查的最后讨论了开放的挑战和研究机会,我们认为这对IML未来的工作是鼓舞人心的。
2018-11-12 cs.LG stat.ML
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University(中央华盛顿大学)
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域,他们是专为。所提出的迭代视觉逻辑分类器(IVLC)是一种可解释的机器学习算法,允许最终用户设计模型并以更高的置信度对数据进行分类,而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用,如医疗领域中的癌症数据,错误成本很高。在所提出的交互式无损多维可视化的帮助下,最终用户可以识别数据中的模式,并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统(SPCVis)支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性,使其能够自助执行数据分类,而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时,交互式模式发现变得具有挑战性。为了克服这个问题,本章提出了一个自动分类方法结合新的坐标顺序优化(COO)算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列,而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集,包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
TimberTrek: Exploring and Curating Sparse Decision Trees with Interactive Visualization
Georgia Institute of Technology(佐治亚理工学院);Duke University(杜克大学)
鉴于成千上万个同样准确的机器学习(ML)模型,用户如何在其中进行选择?最近的ML技术使领域专家和数据科学家能够为稀疏决策树生成一个完整的罗生门集-一个几乎最优的可解释ML模型的巨大集合。为了帮助ML从业者从这个罗生门集合中识别具有理想属性的模型,我们开发了TimberTrek,这是第一个交互式可视化系统,它可以大规模总结数千棵稀疏决策树。两个使用场景强调了TimberTrek如何使用户能够轻松地探索、比较和策划与其领域知识和价值观相一致的模型。我们的开源工具直接在用户的计算笔记本和Web浏览器中运行,降低了创建更负责任的ML模型的障碍。TimberTrek可在以下公开演示链接中获得:https://poloclub.github.io/timbertrek。
2022-09-19 cs.AI cs.HC cs.LG
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology(佐治亚理工学院)
机器教学(MT)是一个交互式的过程,其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统,但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架,并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分,即教学界面,机器学习者和知识库,和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明,机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
Understanding the Effect of Out-of-distribution Examples and Interactive Explanations on Human-AI Decision Making
University of Chicago(芝加哥大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
尽管人工智能有望改善人类在社会关键领域的决策,但人类-人工智能团队如何在具有挑战性的预测任务(也称为互补性能)中可靠地超越人工智能和人类仍然是一个悬而未决的问题。我们探索两个方向,以了解在实现互补性能的差距。首先,我们认为典型的实验设置限制了人类-AI团队的潜力。为了解释由于分布偏移而导致的分布外AI性能低于分布内AI性能,我们设计了具有不同分布类型的实验,并研究了分布内和分布外示例的人类性能。其次,我们开发了新的界面来支持交互式解释,以便人类可以积极参与人工智能的帮助。使用虚拟试点研究和三个任务的大规模随机实验,我们证明了分布内和分布外之间的明显差异,并观察到交互式解释的混合结果:虽然交互式解释提高了人类对人工智能辅助有用性的感知,但它们可能会加强人类的偏见并导致有限的性能改善。总的来说,我们的工作指出了在人工智能辅助下提高人类绩效的关键挑战和未来方向。
2021-10-05 cs.AI cs.CY cs.HC
explAIner: A Visual Analytics Framework for Interactive and Explainable Machine Learning
University of Konstanz(康斯坦茨大学)
我们提出了一个交互式和可解释的机器学习框架,使用户能够(1)理解机器学习模型;(2)使用不同的可解释AI方法诊断模型限制;以及(3)改进和优化模型。我们的框架将迭代XAI管道与八个全球监控和指导机制相结合,包括质量监控,来源跟踪,模型比较和信任建立。为了使框架可操作化,我们提出了explAIner,这是一个用于交互式和可解释的机器学习的可视化分析系统,它在常用的TensorBoard环境中实例化建议管道的所有阶段。我们与不同专业水平的九名参与者进行了用户研究,以检查他们对我们工作流程的看法,并收集建议以填补我们的系统和框架之间的差距。评估证实,我们紧密集成的系统导致了一个明智的机器学习过程,同时揭示了进一步扩展的机会。
2019-10-07 cs.AI cs.HC cs.LG
Interactive Diabetes Risk Prediction Using Explainable Machine Learning: A Dash-Based Approach with SHAP, LIME, and Comorbidity Insights
University of Arkansas at Little Rock(阿肯色大学小石城分校)
本文提出一种基于Dash的交互式糖尿病风险预测工具,结合多种机器学习模型与SHAP、LIME可解释性方法及共病分析,实现个性化健康风险评估。
2025-05-08 cs.AI cs.LG
The What-If Tool: Interactive Probing of Machine Learning Models
Google Research(谷歌研究院)
开发和部署机器学习(ML)系统的一个关键挑战是了解它们在各种输入下的性能。为了应对这一挑战,我们创建了What-If Tool,这是一个开源应用程序,允许从业者以最少的编码来探测,可视化和分析ML系统。假设工具允许从业者在假设情况下测试性能,分析不同数据特征的重要性,并跨多个模型和输入数据子集可视化模型行为。它还允许从业者根据多个ML公平性指标来衡量系统。我们描述了该工具的设计,并报告了不同组织的实际使用情况。
2019-10-03 cs.LG stat.ML
A look under the hood of the Interactive Deep Learning Enterprise (No-IDLE)
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
本文介绍DFKI的No-IDLE原型系统,提出交互式机器学习与多模态交互相结合的方法,旨在让非专家用户也能使用交互式深度学习技术。
2024-06-27 cs.AI cs.HC cs.LG
Enumeration of Distinct Support Vectors for Interactive Decision Making
Hokkaido University(北海道大学);Osaka University(大阪大学);NTT Communication Science Laboratories(NTT通信科学实验室)
在常规预测任务中,机器学习算法输出全局优化其目标函数的单个最佳模型,该目标函数通常是准确性。因此,用户无法显式访问其他模型。与此相反,多模型枚举在非标准机器学习应用中吸引了越来越多的兴趣,其中其他标准,例如,可解释性或公平性比准确性更重要,且用户可能想要访问多于一个非最佳但合适模型。本文提出了一种支持向量机(SVM)的K-best模型枚举算法,给定数据集S和整数K>0,在对偶SVM问题中,按目标函数值降序枚举S上具有不同支持向量的K-best模型。基于对支持向量的格型结构的分析,我们的算法有效地找到了下一个最好的模型,具有较小的延迟。这在支持用户交互式检查他们对枚举模型的需求时很有用。通过在真实数据集上的实验,我们评估了我们的算法的效率和实用性。
2019-06-05 cs.LG stat.ML
Interactive Machine Comprehension with Information Seeking Agents
Microsoft Research(微软研究院);Nanyang Technological University(南洋理工大学);Polytechnique Montréal(蒙特利尔理工学院);Mila(米拉)
现有的机器阅读理解(MRC)模型不能有效地扩展到现实世界的应用,如网络级信息检索和问答(QA)。我们认为,这源于MRC数据集的性质:其中大多数是静态环境,其中支持文档和所有必要的信息都得到了充分的观察。在本文中,我们提出了一种简单的方法,重新构建现有的MRC数据集作为交互式的,部分可观察的环境。具体来说,我们“遮挡”了文档的大部分文本,并添加了上下文敏感的命令,以揭示模型中隐藏文本的“一瞥”。我们重新SQuAD和NewsQA作为一个初步的案例研究,然后展示如何互动语料库可以用来训练模型,寻求相关信息,通过顺序决策。我们相信,这种设置可以有助于将模型扩展到Web级QA场景。
2020-04-16 cs.CL cs.LG stat.ML
On Interactive Machine Learning and the Potential of Cognitive Feedback
U.S. Naval Research Laboratory(美国海军研究实验室)
为了提高生产力、能力和数据利用率,许多国防应用正在将最先进的机器学习和AI集成到其架构中。特别是对于国防应用,由于质量控制、问责制和复杂的主题专业知识不容易被人工智能自动化或复制,因此在循环中拥有人类分析师是非常重要的。然而,许多应用程序的过渡非常缓慢。这可能在很大程度上是由于缺乏信任,可用性和生产力,特别是在适应不可预见的类和任务上下文的变化时。交互式机器学习是一个新兴的领域,其中机器学习实现通过直观的人机界面进行训练、优化、评估和利用。在本文中,我们介绍了交互式机器学习,并解释其优势和局限性的背景下,国防应用。此外,我们解决了几个交互式机器学习的缺点,通过讨论如何认知反馈可以告知功能,数据和结果的最先进的状态。我们定义了三种技术,认知反馈可以采用:自我报告,隐式认知反馈,和建模的认知反馈。每种技术的优点和缺点进行了讨论。
2020-03-23 cs.AI cs.HC cs.LG
Towards Better Analysis of Machine Learning Models: A Visual Analytics Perspective
Tsinghua University(清华大学)
交互式模型分析是在交互式可视化的帮助下理解、诊断和精炼机器学习模型的过程,对于用户有效地解决现实世界的人工智能和数据采掘问题非常重要。大数据分析的巨大进步导致了各种各样的交互式模型分析任务。在本文中,我们提出了一个全面的分析和解释这一迅速发展的地区。具体来说,我们将相关工作分为三类:理解、诊断和细化。每个类别都以最近有影响力的工作为例。还探讨和讨论了未来可能的研究机会。
2017-02-04 cs.LG stat.ML
RISE: Interactive Visual Diagnosis of Fairness in Machine Learning Models
University of Florida(佛罗里达大学)
RISE通过交互式可视化工具帮助诊断机器学习模型中的公平性问题,揭示准确率与公平性的权衡,支持更明智的模型选择。
2026-02-04 cs.LG
Geovisual Analytics and Interactive Machine Learning for Situational Awareness
University of Colorado Boulder(科罗拉多大学博尔德分校);Purdue University(普渡大学);School of Electrical and Computer Engineering, Purdue University(普渡大学电气与计算机工程学院)
第一反应社区传统上依赖于公众的呼吁,官方提供的地理信息和地图来协调实地行动。社交媒体平台的普遍存在为通过自愿地理信息近乎实时地感知情况(例如,正在发生的天气事件或危机)创造了机会。在这篇文章中,我们提供了社交媒体分析报告工具包(SMART)的设计过程和功能的概述,该工具包是普渡大学开发的一个可视化分析平台,用于为第一响应者提供实时态势感知。我们将其成功应用归功于其以用户为中心的设计,交互式(地理)可视化和交互式机器学习,让用户可以控制分析。
2019-10-11 cs.CY cs.HC cs.LG
Becoming the Expert - Interactive Multi-Class Machine Teaching
University College London(伦敦大学学院)
与机器相比,人类非常擅长将图像分类,特别是当他们拥有手头类别的先验知识时。如果没有这种先验信息,则需要以教学图像的形式进行监督。为了更快地学习类别,人们应该首先看到重要的和有代表性的图像,然后是不太重要的图像-或者根本不看。然而,图像的重要性是个人特定的,即一个教学图像是重要的学生,如果它改变了他们的整体能力,区分类。此外,学生不断学习,因此,虽然图像的重要性取决于他们目前的知识,它也随着时间的推移而变化。在这项工作中,我们提出了一个交互式的机器教学算法,使计算机教具有挑战性的视觉概念的人。我们的自适应算法选择,在线,标记图像从教学集应该显示给学生,因为他们学习。我们表明,概率模型的学生的能力和进步,根据他们的正确和不正确的答案,产生更好的“专家”的教学策略。我们使用真实的人类参与者在几个不同的和具有挑战性的现实世界的数据集呈现结果。
2015-04-28 cs.CV cs.LG stat.ML
Symphony: Composing Interactive Interfaces for Machine Learning
Ulm University(乌尔姆大学);Carnegie Mellon University(卡内基梅隆大学);Apple(苹果公司)
机器学习(ML)的接口,关于模型或数据的信息和可视化,可以帮助从业者构建健壮和负责任的ML系统。尽管有这些好处,但最近对ML团队的研究和我们对从业者的采访(n=9)表明,ML接口在实践中的应用有限。虽然现有的ML接口对于特定任务是有效的,但它们的设计并不是为了让跨职能团队中的多个利益相关者重用、探索和共享。为了实现不同ML从业者之间的分析和通信,我们设计并实现了Symphony,这是一个框架,用于组成交互式ML界面,其中包含特定于任务的数据驱动组件,可以跨平台使用,例如计算笔记本和Web仪表板。我们通过与10个团队(n=31)的参与式设计会议开发了Symphony,并讨论了我们在Apple将Symphony部署到3个生产ML项目中的发现。Symphony帮助ML从业者发现以前未知的问题,如数据重复和模型中的盲点,同时使他们能够与其他利益相关者分享见解。
2022-02-18 cs.AI cs.HC cs.LG
Interactive Machine Learning: A State of the Art Review
ENIB(法国国家电子与计算机工程学院);Addis Ababa University(亚的斯亚贝巴大学);University of Miami(迈阿密大学);IRL CROSSING(IRL CROSSING实验室)
机器学习已被证明在许多软件学科中是有用的,包括计算机视觉、语音和音频处理、自然语言处理、机器人学和一些其他领域。然而,由于其黑箱性质和显著的资源消耗,其适用性受到了极大的阻碍。性能的实现是以巨大的计算资源为代价的,并且通常会损害模型的鲁棒性和可信度。最近的研究已经确定缺乏交互性是这些机器学习问题的主要来源。因此,交互式机器学习(iML)由于其人在回路的模式和相对有效的资源利用率而获得了越来越多的研究人员的关注。因此,对交互式机器学习的最新回顾在减轻构建以人为中心的模型的努力方面起着至关重要的作用。在本文中,我们提供了一个全面的分析,国家的最先进的iML。我们分析突出的研究工作,择优导向和应用/任务导向的混合分类法。我们使用自下而上的聚类方法来生成一个分类的iML研究工作。在此基础上,分析了对抗性黑盒攻击及其相应的基于iML的防御系统、探索性机器学习、资源约束学习和iML性能评估等方面的研究成果。我们把这些研究工作进一步分为技术和部门两类。最后,研究机会,我们认为是鼓舞人心的未来工作在iML进行了彻底的讨论。
2022-07-13 cs.LG
Teachable Reality: Prototyping Tangible Augmented Reality with Everyday Objects by Leveraging Interactive Machine Teaching
IIIT-Delhi(德里英迪拉甘地信息技术学院);University of Calgary(卡尔加里大学)
本文介绍了可教现实,一个增强现实(AR)的原型工具,用于创建交互式的有形AR应用程序与任意的日常对象。Teachable Reality利用基于视觉的交互式机器教学(例如,Teachable Machine),它可以捕捉真实世界的交互,用于AR原型设计。它使用按需计算机视觉模型识别用户定义的有形和手势交互。在此基础上,用户可以轻松创建功能性AR原型,而无需编程,并通过一个用户操作创作界面实现。因此,我们的方法允许有形AR应用程序的灵活性,可定制性和通用性,可以解决当前基于标记的方法的局限性。我们探索设计空间并展示各种AR原型,其中包括有形和可变形的界面,上下文感知助手和身体驱动的AR应用程序。我们的用户研究和专家访谈的结果证实,我们的方法可以降低创建功能性AR原型的障碍,同时还可以实现灵活和通用的原型设计体验。
2023-02-21 cs.CV cs.HC cs.LG
Augmenting Decision Making via Interactive What-If Analysis
Sigma Computing(西格玛计算);University of Maryland(马里兰大学);University of Amsterdam(阿姆斯特丹大学);University of Massachusetts(马萨诸塞大学)
业务数据分析的基本目标是使用数据改进业务决策。业务用户通常会做出决策以实现关键绩效指标(KPI),例如增加客户保留率或销售额,或降低成本。为了发现假设为驱动因素的数据属性与对应于感兴趣的KPI的数据属性之间的关系,业务用户目前需要执行冗长的探索性分析。这涉及考虑多种组合和场景,并相应地对数据执行切片、切割和变换,例如,分析一年中各季度的客户保留率,或建议跨客户阶层的最佳媒体渠道。然而,数据集日益复杂,加上人类的认知局限性,使得即使是简单的数据集,也很难进行多个假设。因此,在心理上进行这样的分析是很困难的。现有的商业工具要么提供部分解决方案,要么无法完全满足商业用户的需求。在这里,我们认为四个功能,使业务用户交互式学习和推理的数据属性集之间的关系,从而促进数据驱动的决策。我们在SystemD中实现了这些功能,SystemD是一个交互式可视化数据分析系统,使业务用户能够通过提出假设问题来实验数据。我们通过三个业务用例来评估该系统:营销组合建模、客户保留分析和交易完成分析,并报告来自多个业务用户的反馈。用户发现SystemD的功能非常有用,可以围绕他们感兴趣的KPI快速测试和验证他们的假设,解决他们未满足的分析需求。反馈还表明,可以增强用户体验设计,以进一步提高这些功能的可理解性。
2022-02-09 cs.DB cs.HC cs.LG
An Interactive Interpretability System for Breast Cancer Screening with Deep Learning
Vanderbilt University(范德堡大学);Carnegie Mellon University(卡内基梅隆大学)
深度学习方法,特别是卷积神经网络,已经成为医学图像计算任务中的强大工具。虽然这些复杂的模型提供了出色的性能,但它们的黑盒性质可能会阻碍高风险决策的实际应用。在本文中,我们提出了一个互动系统,利用国家的最先进的可解释性技术,以协助放射科医生与乳腺癌筛查。我们的系统将深度学习模型集成到放射科医生的工作流程中,并提供新颖的交互,以促进对模型决策过程的理解。此外,我们证明了我们的系统可以利用用户交互逐步提供更细粒度的可解释性报告,标签开销很小。由于所采用的可解释性技术的通用性,我们的系统是领域不可知的,可用于许多不同的医学图像计算任务,为我们如何利用视觉分析来转换最初的静态可解释性技术以增强人类决策并促进医学AI的采用提供了一个新的视角。
2022-09-30 cs.AI cs.CV cs.HC
Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy
University of Florida(佛罗里达大学)
混合主动系统允许用户交互式地提供反馈,以潜在地提高系统性能。人工反馈可以纠正模型错误并更新模型参数,以动态适应不断变化的数据。此外,许多用户希望能够有更高的控制水平,并修复他们所依赖的系统中的感知缺陷。然而,向自治系统提供反馈的能力如何影响用户信任,这在很大程度上是一个尚未探索的研究领域。我们的研究调查了提供反馈的行为如何影响用户对智能系统及其准确性的理解。我们提出了一个对照实验,使用一个模拟的目标检测系统与图像数据,研究交互式反馈收集对用户印象的影响。结果表明,提供人在回路反馈降低了参与者对系统的信任和他们对系统准确性的感知,无论系统准确性是否响应他们的反馈而提高。这些结果强调了在设计智能系统时考虑最终用户反馈对用户信任的影响的重要性。
2020-08-28 cs.AI cs.HC cs.LG
DeepCAVE: An Interactive Analysis Tool for Automated Machine Learning
Leibniz University Hannover(汉诺威莱布尼茨大学);University of Freiburg(弗赖堡大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
自动化机器学习(AutoML)比以往任何时候都更常用于支持用户确定有效的超参数、神经架构甚至完整的机器学习管道。然而,由于缺乏透明度,用户往往不信任优化过程及其结果,使得手动调优仍然很普遍。我们介绍DeepCAVE,这是一个交互式框架,可以轻松地分析和监控AutoML的最新优化过程。DeepCAVE旨在实现完全和可访问的透明度,在用户和AutoML之间建立了一座桥梁,并有助于建立信任。我们的框架的模块化和易于扩展的性质为用户提供自动生成的文本,表格和图形可视化。我们在异常值检测的示例用例中展示了DeepCAVE的价值,在该用例中,我们的框架可以轻松识别问题,比较多次运行并解释优化过程。该软件包可在GitHub https://github.com/automl/DeepCAVE上免费获得。
2022-07-11 cs.LG
PREVIS -- A Combined Machine Learning and Visual Interpolation Approach for Interactive Reverse Engineering in Assembly Quality Control
Technische Universität Kaiserslautern(凯泽斯劳滕工业大学)
我们提出了PREVIS,一个可视化的分析工具,提高机器学习性能分析在工程应用中。所提供的工具链允许直接比较回归模型。此外,我们提供了一种方法来可视化回归误差对原始域中感兴趣的基本领域的影响,通过利用标准插值方法,零件几何形状。此外,我们允许通过视觉插值在位移场中实时预览用户驱动的参数变化。这使得能够进行快速和负责任的在线变更管理。我们证明了汽车发动机罩的事前优化的有效性。
2022-01-25 cs.HC cs.LG
Building Automated Survey Coders via Interactive Machine Learning
Istituto di Scienza e Tecnologie dell’Informazione Consiglio Nazionale delle Ricerche(意大利国家研究委员会信息科学与技术研究所)
通过机器学习训练的软件系统,可以自动对开放式答案进行分类(也称为现在已经成为现实。尽管如此,它们在调查编码行业的采用并没有像它可能的那样广泛。在阻碍更大规模采用该技术的因素中,包括手动编码足够数量的训练数据所涉及的工作,小型研究似乎无法证明这种努力的合理性,以及当全新的编码任务出现时需要重新重复该过程的事实。在本文中,我们将讨论一种方法来建立逐字分类,我们将称之为“互动学习”,并解决所有上述问题。我们将证明,对于相同的训练工作量,交互式学习比标准的“非交互式”学习提供更好的编码准确性。当我们愿意手动编码的数据量很小时,这一点尤其如此,这使得这种方法对于小规模研究也很有吸引力。交互式学习还有助于重用以前训练的分类器来处理新的(尽管相关的)编码任务。交互式学习还可以更好地集成到调查专家的日常工作流程中,并提供更好的整体用户体验。
2019-03-28 cs.IR cs.LG
Leveraging Explanations in Interactive Machine Learning: An Overview
University of Trento(特伦托大学);Optum(欧唯特健康);Technical University Darmstadt(达姆施塔特工业大学);IBM Research(IBM研究院)
在AI和机器学习(ML)社区中,为了提高模型的透明度,并允许用户形成经过训练的ML模型的心理模型,简化已经获得了越来越多的兴趣。然而,解释可以超越这种单向交流,作为一种机制来引起用户控制,因为一旦用户理解,他们就可以提供反馈。本文的目标是提出一个研究的概述,解释与交互功能相结合,作为一种手段,从头开始学习新的模型,编辑和调试现有的。为此,我们绘制了一个最先进的概念图,根据其预期目的和它们如何构建交互,突出它们之间的相似性和差异性,对相关方法进行分组。我们还讨论了开放的研究问题,并概述了可能的发展方向,希望能促进对这一蓬勃发展的研究课题的进一步研究。
2022-10-09 cs.LG
dalex: Responsible Machine Learning with Interactive Explainability and Fairness in Python
Warsaw University of Technology(华沙理工大学);Faculty of Mathematics and Information Science(数学与信息科学学院);Samsung Research & Development Institute(三星研发研究院)
可用数据量的增加、计算能力的提高以及对更高性能的不断追求导致预测模型的复杂性不断增加。它们的黑箱性质导致不透明债务现象,增加了歧视的风险,缺乏可重复性,以及由于数据漂移而导致的性能下降。为了管理这些风险,良好的MLOps实践要求更好地验证模型性能和公平性,更高的可解释性和持续监控。更深层次的模型透明性的必要性不仅出现在科学和社会领域,也出现在关于人工智能的新兴法律法规中。为了促进负责任的机器学习模型的开发,我们展示了dalex,这是一个Python包,它实现了用于交互式模型探索的模型不可知接口。它采用了通过开发各种负责任的机器学习工具而精心制作的设计;因此,它旨在统一现有的解决方案。这个库的源代码和文档可以在https://python.drwhy.ai/的开放许可下获得。
2021-10-11 cs.HC cs.LG cs.SE
Scalable Interactive Machine Learning for Future Command and Control
U.S. DEVCOM Army Research Laboratory(美国DEVCOM陆军研究实验室);U.S. Mission Command Battle Lab(美国任务指挥作战实验室)
本文针对未来指挥与控制中决策时效性和复杂性问题,提出规模化交互式机器学习(SIML)框架,从人机交互算法、韧性团队构建和规模扩展三个方向推动人机协同决策。
2024-03-28 cs.AI cs.CL cs.HC
An Interactive Human-Machine Learning Interface for Collecting and Learning from Complex Annotations
University of Bristol(布里斯托尔大学)
本文提出一种用于二分类任务的交互式人机学习界面,允许标注者使用反事实示例补充传统二值标签,以提升标注灵活性和机器学习效果。
2024-03-28 cs.HC cs.LG