CogGen: A Learner-Centered Generative AI Architecture for Intelligent Tutoring with Programming Video
City University of Hong Kong（香港城市大学）；Stanford University（斯坦福大学）
CogGen是一种以学习者为中心的生成式AI架构，通过结合学生建模与认知学徒制框架的对话式辅导引擎，将编程视频转化为交互式自适应学习体验，消融研究证实了各组件必要性，为视频编程教育提供了可扩展方案。
2025-06-25 cs.AI
Parachute: Evaluating Interactive Human-LM Co-writing Systems
Pennsylvania State University（宾夕法尼亚州立大学）；Carnegie Mellon University（卡内基梅隆大学）
语言模型（LM）的发展已经引起了人们对使用LM来构建共同写作系统的极大兴趣，在该系统中，人类和LM交互地贡献于共享的写作工件。然而，缺乏研究评估在互动环境中的共同写作系统。我们提出了一个以人为中心的评价框架，降落伞，交互式合作写作系统。Parachute展示了交互评估的综合视图，其中每个评估方面都由分类的实用指标组成。此外，我们提出了降落伞的一个用例来演示如何使用降落伞评估和比较共同编写系统。
2023-03-25 cs.AI cs.CL cs.HC
What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps
University of Augsburg（奥格斯堡大学）
在医疗保健领域，人工智能系统在诊断、治疗和监测方面为临床医生和患者提供支持，但许多系统的可解释性差仍然是实际应用的挑战。克服这一障碍是可解释AI（XAI）的目标。然而，一种解释可能会被不同的人所理解，因此，并不能为每个人解决黑箱问题。以人为中心的AI领域通过使AI适应用户来解决这个问题。我们提出了一个以用户为中心的人物角色的概念来评估XAI，并使用它来调查终端用户的偏好，在移动健康压力监测应用程序的各种解释风格和内容。我们的在线调查结果显示，用户的人口统计数据和个性，以及解释类型，影响解释偏好，表明这些是XAI设计的基本特征。我们将结果归纳为三种典型的用户角色：权力型用户、休闲型用户和隐私型用户。我们的见解使交互式、以人为本的XAI更接近实际应用。
2022-10-07 cs.AI cs.HC
Towards Tool-Support for Interactive-Machine Learning Applications in the Android Ecosystem
Otto von Guericke University of Magdeburg（奥托·冯·格里克大学马格德堡）；Huawei Technologies, Munich Research Center（华为技术有限公司慕尼黑研究中心）；University of Augsburg（奥格斯堡大学）
消费者应用程序变得越来越智能，其中大多数必须在设备生态系统上运行。潜在的益处是例如实现跨设备交互和无缝的用户体验。机器学习模型对于当今高性能智能解决方案至关重要。然而，这些模型通常由人工智能工程师为一个特定的设备单独开发，并且没有考虑与其模型必须运行的设备生态系统相关的挑战和潜力。我们认为，人工智能工程师需要工具支持，以应对为下一代智能交互式消费应用程序实施、测试和部署机器学习模型的挑战。本文介绍了一系列调查的初步结果，包括与人工智能工程师的访谈和实验的互动机器学习用例与智能手表和智能手机。我们通过采访和实践经验确定了主题，并提出了一些功能，例如从传感器收集数据汇集，以及在目标设备上运行预处理代码的资源消耗的简单测试，这将作为AI工程师的工具支持。
2021-03-27 cs.AI cs.HC
Towards Automatic & Personalised Mobile Health Interventions: An Interactive Machine Learning Perspective
University of Trento（特伦托大学）；University of Konstanz（康斯坦茨大学）
机器学习（ML）是计算机科学和医疗保健领域发展最快的领域，为改善医疗诊断、疾病分析和预防提供了未来的好处。在本文中，我们介绍了交互式机器学习（iML）在远程医疗系统中的应用，使自动和个性化的干预，促进生活方式。我们首先提出了系统的高层次架构和组成的整体架构。然后，我们说明了交互式机器学习过程设计。预计预测模型将通过参与者的个人资料、活动表现和来自护理人员的反馈进行训练。最后，我们展示了系统实现过程中的一些初步结果，并讨论了未来的发展方向。我们预期建议的系统会以数码方式推行，并从行为设计上披索健康的生活方式和活动，从而防止使用者患上慢性疾病。
2018-03-03 cs.AI cs.CY cs.HC
Human-Centered Artificial Intelligence and Machine Learning
Georgia Institute of Technology（佐治亚理工学院）
人类越来越多地接触到人工智能和机器学习系统。以人为中心的人工智能是对AI和ML的一种观点，即算法必须在设计时意识到它们是由人类组成的更大系统的一部分。我们提出了一个论点，即以人为中心的人工智能可以分为两个方面：（1）从社会文化角度理解人类的人工智能系统，以及（2）帮助人类理解他们的人工智能系统。我们进一步认为，社会责任的问题，如公平，问责制，可解释性和透明度。
2019-01-31 cs.AI
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology（佐治亚理工学院）
机器教学（MT）是一个交互式的过程，其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统，但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架，并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分，即教学界面，机器学习者和知识库，和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明，机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
explAIner: A Visual Analytics Framework for Interactive and Explainable Machine Learning
University of Konstanz（康斯坦茨大学）
我们提出了一个交互式和可解释的机器学习框架，使用户能够（1）理解机器学习模型;（2）使用不同的可解释AI方法诊断模型限制;以及（3）改进和优化模型。我们的框架将迭代XAI管道与八个全球监控和指导机制相结合，包括质量监控，来源跟踪，模型比较和信任建立。为了使框架可操作化，我们提出了explAIner，这是一个用于交互式和可解释的机器学习的可视化分析系统，它在常用的TensorBoard环境中实例化建议管道的所有阶段。我们与不同专业水平的九名参与者进行了用户研究，以检查他们对我们工作流程的看法，并收集建议以填补我们的系统和框架之间的差距。评估证实，我们紧密集成的系统导致了一个明智的机器学习过程，同时揭示了进一步扩展的机会。
2019-10-07 cs.AI cs.HC cs.LG
OpenHEXAI: An Open-Source Framework for Human-Centered Evaluation of Explainable Machine Learning
UIUC（伊利诺伊大学厄巴纳-香槟分校）；Visa Research（Visa研究院）；Carnegie Mellon University（卡内基梅隆大学）；University of Chicago（芝加哥大学）；Harvard University（哈佛大学）
针对可解释AI方法以人为中心评估存在的实施复杂、可复现性差等难题，本文提出开源框架OpenHEXAI，提供数据集、工具、指标等全套支撑，并基于其完成四种主流事后解释方法的系统性基准测试。
2024-02-20 cs.AI cs.HC
A look under the hood of the Interactive Deep Learning Enterprise (No-IDLE)
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本文介绍DFKI的No-IDLE原型系统，提出交互式机器学习与多模态交互相结合的方法，旨在让非专家用户也能使用交互式深度学习技术。
2024-06-27 cs.AI cs.HC cs.LG
On Interactive Machine Learning and the Potential of Cognitive Feedback
U.S. Naval Research Laboratory（美国海军研究实验室）
为了提高生产力、能力和数据利用率，许多国防应用正在将最先进的机器学习和AI集成到其架构中。特别是对于国防应用，由于质量控制、问责制和复杂的主题专业知识不容易被人工智能自动化或复制，因此在循环中拥有人类分析师是非常重要的。然而，许多应用程序的过渡非常缓慢。这可能在很大程度上是由于缺乏信任，可用性和生产力，特别是在适应不可预见的类和任务上下文的变化时。交互式机器学习是一个新兴的领域，其中机器学习实现通过直观的人机界面进行训练、优化、评估和利用。在本文中，我们介绍了交互式机器学习，并解释其优势和局限性的背景下，国防应用。此外，我们解决了几个交互式机器学习的缺点，通过讨论如何认知反馈可以告知功能，数据和结果的最先进的状态。我们定义了三种技术，认知反馈可以采用：自我报告，隐式认知反馈，和建模的认知反馈。每种技术的优点和缺点进行了讨论。
2020-03-23 cs.AI cs.HC cs.LG
Learning Feature Hierarchies with Centered Deep Boltzmann Machines
Korea University（高丽大学）
深度玻尔兹曼机原则上是提取数据层次结构的强大模型。不幸的是，联合训练层的尝试（没有贪婪的逐层预训练）在很大程度上是不成功的。我们提出了一个修改的学习算法，最初重新中心的激活函数的输出为零。这种修改导致更好的条件海森，从而使学习更容易。我们在真实数据上测试了该算法，并证明了我们的建议，即中心深度玻尔兹曼机，学习了一个越来越抽象的表示层次和一个更好的数据生成模型。
2012-03-16 cs.AI cs.LG stat.ML
Computational Narrative Intelligence: A Human-Centered Goal for Artificial Intelligence
Georgia Institute of Technology（佐治亚理工学院）
叙事智能是对故事进行创作、讲述、理解和情感回应的能力。我们认为，灌输人工智能与计算叙事智能提供了一些有益于人类的应用。我们列出了实现计算叙事智能所需解决的一些机器学习挑战。最后，我们认为，计算叙事是一个实际的一步，机器文化，社会文化价值观的教学机器。
2016-02-21 cs.AI
Machine Guides, Human Supervises: Interactive Learning with Global Explanations
KU Leuven（KU Leuven（天主教鲁汶大学））；University of Trento（特伦托大学）
我们介绍解释性引导学习（XGL），一种新的交互式学习策略，其中机器引导人类主管选择信息丰富的分类器的例子。通过全局解释来提供指导，该全局解释总结了分类器在实例空间的不同区域上的行为并暴露其缺陷。与其他解释性交互式学习策略相比，这些策略是机器发起的，依赖于本地解释，XGL被设计为对机器提供的解释超过分类器质量的情况具有鲁棒性。此外，XGL利用全局解释来打开人类发起的交互的黑盒子，使主管能够选择挑战学习模型的信息示例。通过与交互式机器教学相联系，我们从理论上证明了全局解释是指导主管的可行方法。我们的模拟表明，解释性引导学习避免了过度销售模型的质量，并在模型质量方面比机器和人类发起的交互式学习策略表现更好。
2020-09-21 cs.AI cs.LG stat.ML
Symphony: Composing Interactive Interfaces for Machine Learning
Ulm University（乌尔姆大学）；Carnegie Mellon University（卡内基梅隆大学）；Apple（苹果公司）
机器学习（ML）的接口，关于模型或数据的信息和可视化，可以帮助从业者构建健壮和负责任的ML系统。尽管有这些好处，但最近对ML团队的研究和我们对从业者的采访（n=9）表明，ML接口在实践中的应用有限。虽然现有的ML接口对于特定任务是有效的，但它们的设计并不是为了让跨职能团队中的多个利益相关者重用、探索和共享。为了实现不同ML从业者之间的分析和通信，我们设计并实现了Symphony，这是一个框架，用于组成交互式ML界面，其中包含特定于任务的数据驱动组件，可以跨平台使用，例如计算笔记本和Web仪表板。我们通过与10个团队（n=31）的参与式设计会议开发了Symphony，并讨论了我们在Apple将Symphony部署到3个生产ML项目中的发现。Symphony帮助ML从业者发现以前未知的问题，如数据重复和模型中的盲点，同时使他们能够与其他利益相关者分享见解。
2022-02-18 cs.AI cs.HC cs.LG
Toward Machine-Guided, Human-Initiated Explanatory Interactive Learning
KU Leuven（鲁汶大学）；University of Trento（特伦托大学）
最近的工作已经证明了将局部解释与主动学习相结合来理解和监督黑盒模型的前景。在这里，我们表明，在特定条件下，这些算法可能会歪曲正在学习的模型的质量。原因是机器通过预测和解释查询实例的标签来说明它的信念：如果机器不知道自己的错误，它可能最终选择它人为表现良好的查询。我们通过引入解释性引导学习来解决这种叙事偏见，解释性引导学习是一种新颖的交互式学习策略，其中：i）监督者负责选择查询实例，而ii）机器使用全局解释来说明其整体行为，并指导监督者选择具有挑战性的，信息丰富的实例。这种策略保留了解释性互动的关键优势，同时避免了叙事偏见，并在样本复杂性方面优于主动学习。基于聚类的原型的初步实证评估突出了我们的方法的承诺。
2020-07-20 cs.AI
AutoDOViz: Human-Centered Automation for Decision Optimization
IBM Research（IBM研究院）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）
我们提出了AutoDOViz，一个交互式用户界面的自动决策优化（AutoDO）使用强化学习（RL）。决策优化（DO）通常由专门的DO研究人员实践，专家需要花很长时间通过试错来微调解决方案。AutoML管道搜索试图通过利用自动化来搜索和调整解决方案，使数据科学家更容易找到最好的机器学习管道。最近，这些进展已被应用到AutoDO领域，其目标类似于通过算法选择和参数调整找到最佳强化学习管道。然而，与ML问题相比，决策优化需要更复杂的问题规范。AutoDOViz旨在降低数据科学家在强化学习问题规范方面的准入门槛，利用AutoDO算法的优势进行RL管道搜索，最后，创建可视化和政策见解，以便在DO专家和领域专家之间交流问题制定和解决方案建议时促进典型的交互性。在本文中，我们报告了我们的调查结果，从半结构化的专家访谈DO从业者以及业务顾问，导致以人为本的自动化设计要求与RL的DO。我们与数据科学家一起评估了一个系统实现，发现在使用我们提出的解决方案后，他们对参与DO更加开放。AutoDOViz进一步增加了对RL代理模型的信任，并使自动化训练和评估过程更易于理解。如ML任务中的其他自动化所示，我们还得出结论，当界面促进人在回路时，用于DO的RL的自动化可以受益于用户，反之亦然。
2023-02-19 cs.AI cs.HC cs.LG
Soliciting Human-in-the-Loop User Feedback for Interactive Machine Learning Reduces User Trust and Impressions of Model Accuracy
University of Florida（佛罗里达大学）
混合主动系统允许用户交互式地提供反馈，以潜在地提高系统性能。人工反馈可以纠正模型错误并更新模型参数，以动态适应不断变化的数据。此外，许多用户希望能够有更高的控制水平，并修复他们所依赖的系统中的感知缺陷。然而，向自治系统提供反馈的能力如何影响用户信任，这在很大程度上是一个尚未探索的研究领域。我们的研究调查了提供反馈的行为如何影响用户对智能系统及其准确性的理解。我们提出了一个对照实验，使用一个模拟的目标检测系统与图像数据，研究交互式反馈收集对用户印象的影响。结果表明，提供人在回路反馈降低了参与者对系统的信任和他们对系统准确性的感知，无论系统准确性是否响应他们的反馈而提高。这些结果强调了在设计智能系统时考虑最终用户反馈对用户信任的影响的重要性。
2020-08-28 cs.AI cs.HC cs.LG
Self-service Data Classification Using Interactive Visualization and Interpretable Machine Learning
Central Washington University（中央华盛顿大学）
机器学习算法通常会产生被最终用户和开发人员视为复杂黑盒模型的模型。他们未能解释模型的领域，他们是专为。所提出的迭代视觉逻辑分类器（IVLC）是一种可解释的机器学习算法，允许最终用户设计模型并以更高的置信度对数据进行分类，而不必牺牲准确性。这种技术在处理敏感和关键数据时特别有用，如医疗领域中的癌症数据，错误成本很高。在所提出的交互式无损多维可视化的帮助下，最终用户可以识别数据中的模式，并根据该模式做出可解释的决策。这样的选项在黑盒机器学习方法中是不可能的。交互式移位配对坐标软件系统（SPCVis）支持可解释的IVLC算法。它是一个具有用户交互功能的无损多维数据可视化系统。交互式方法为最终用户提供了灵活性，使其能够自助执行数据分类，而不必依赖于机器学习专家。在处理具有数百个维度/特征的大型数据集时，交互式模式发现变得具有挑战性。为了克服这个问题，本章提出了一个自动分类方法结合新的坐标顺序优化（COO）算法和遗传算法。COO算法自动生成最能代表数据分离的坐标对序列，而遗传算法通过自动生成用于数据分类的区域来帮助优化所提出的IVLC算法。该方法的可行性的基准数据集，包括用于数据分类的交互式和自动化过程的实验。
2021-07-11 cs.AI cs.LG
Stop ordering machine learning algorithms by their explainability! A user-centered investigation of performance and explainability
TU Dortmund University（多特蒙德工业大学）
机器学习算法使现代智能系统中的高级决策成为可能。研究表明，它们的模型性能和可解释性之间存在权衡。具有更高性能的机器学习模型通常基于更复杂的算法，因此缺乏可解释性，反之亦然。然而，从最终用户的角度来看，几乎没有经验证据表明这种权衡。我们的目标是通过进行两个用户实验提供经验证据。使用两个不同的数据集，我们首先测量五种常见的机器学习算法的权衡。第二，我们解决的问题，最终用户的看法，可解释的人工智能增强，旨在提高高性能复杂模型的决策逻辑的理解。我们的研究结果偏离了广泛的折衷曲线的假设，并表明模型性能和可解释性之间的权衡在最终用户的感知中是渐进的。这与假设的固有模型可解释性形成鲜明对比。此外，我们发现权衡是情境性的，例如由于数据复杂性。我们的第二个实验的结果表明，虽然可解释的人工智能增强可以用来增加可解释性，解释的类型在最终用户的感知中起着至关重要的作用。
2022-06-20 cs.AI cs.HC cs.LG
XR Blocks: Accelerating Human-centered AI + XR Innovation
Google XR Labs（谷歌XR实验室）
针对AI与XR生态融合存在的开发高摩擦问题，提出跨平台模块化框架XR Blocks，提供即插即用的核心抽象组件，基于主流技术降低创作门槛，通过多类开源演示验证其加速AI+XR原型开发的效用。
2025-09-29 cs.AI cs.GR cs.HC
TagLab: A human-centric AI system for interactive semantic segmentation
Visual Computing Lab（视觉计算实验室）；ISTI-CNR（意大利国家研究委员会信息科学与技术研究所）
高度特定的语义类别和复杂形状的全自动语义分割可能无法满足科学家所要求的准确性标准。在这种情况下，以人为本的人工智能解决方案，能够帮助操作员，同时保持人类对复杂任务的控制，是一个很好的权衡，以加快图像标记，同时保持高精度水平。TagLab是一款开源的人工智能辅助软件，用于注释大型正射图像，它利用不同程度的自动化;它通过辅助工具从头开始加速图像注释，创建自定义的全自动语义分割模型，最后，允许快速编辑自动预测。由于正射图像分析适用于多个科学学科，TagLab设计了灵活的标记管道。我们报告我们的结果在两个不同的情况下，海洋生态和建筑遗产。
2021-12-23 cs.AI cs.CV cs.HC
Scalable Interactive Machine Learning for Future Command and Control
U.S. DEVCOM Army Research Laboratory（美国DEVCOM陆军研究实验室）；U.S. Mission Command Battle Lab（美国任务指挥作战实验室）
本文针对未来指挥与控制中决策时效性和复杂性问题，提出规模化交互式机器学习（SIML）框架，从人机交互算法、韧性团队构建和规模扩展三个方向推动人机协同决策。
2024-03-28 cs.AI cs.CL cs.HC
Human-Centered Human-AI Collaboration (HCHAC)
Zhejiang University（浙江大学）
本文从以人为中心的视角探讨人机协作（HAC）的本质与特征，提出HCHAC框架，并通过自动驾驶案例阐明人机协同交互，指明了未来提升系统有效性、可靠性与伦理整合的研究方向。
2025-05-28 cs.AI cs.CY cs.HC
Interactive Diabetes Risk Prediction Using Explainable Machine Learning: A Dash-Based Approach with SHAP, LIME, and Comorbidity Insights
University of Arkansas at Little Rock（阿肯色大学小石城分校）
本文提出一种基于Dash的交互式糖尿病风险预测工具，结合多种机器学习模型与SHAP、LIME可解释性方法及共病分析，实现个性化健康风险评估。
2025-05-08 cs.AI cs.LG
ICE: Enabling Non-Experts to Build Models Interactively for Large-Scale Lopsided Problems
Microsoft Research（微软研究院）
在处理网络规模的数据时，人类教师和学习机器之间的快速交互带来了许多好处和挑战。人类教师引导机器完成感兴趣的任务。学习机器利用大数据来寻找最大化其与教师交互的训练价值的示例。当教师被限制在标记由机器选择的例子时，这个问题是主动学习的一个实例。当教师可以向机器提供附加信息时（例如，关于应该使用什么样的示例或预测特征的建议），随着学习任务的进展，那么问题就变成了交互式学习的问题。为了适应高效交互式学习所需的双向通信通道，教师和机器需要一个支持交互语言的环境。机器可以访问、处理和总结的例子比老师一生所能看到的还要多。根据机器的输出，教师可以修改任务的定义或使其更精确。教师和机器都在不断学习，并从互动中受益。我们已经建立了一个平台，以（1）产生有价值的和可部署的模型，（2）支持对交互式学习问题的机器学习和用户界面挑战的研究。该平台依赖于一个专用的，低延迟的，分布式的，内存中的架构，使我们能够构建具有快速交互速度的网络规模的学习机器。本文的目的是描述这种架构，并展示它如何支持我们的研究工作。初步结果作为架构的说明，但不是本文的主要重点。
2014-09-16 cs.AI cs.IR
Integrating Human Expertise in Continuous Spaces: A Novel Interactive Bayesian Optimization Framework with Preference Expected Improvement
Montanuniversität（莱奥本矿业大学）
针对现有IML难以处理连续空间且交互形式受限的问题，提出含PEI获取函数的IBO框架，支持用户塑造策略，并通过仿真与Franka Panda机器人验证人机协作效果。
2024-01-23 cs.AI cs.HC cs.LG
Topological Interpretation of Interactive Computation
University of Camerino（卡梅里诺大学）；Stony Brook University（石溪大学）
我很高兴写这篇文章来纪念斯科特·A。斯莫尔卡65岁生日。我们重新审视Goldin，Smolka假设，即持久图灵机（PTM）可以捕获顺序交互计算的直观概念.我们提出了一个拓扑设置模型的抽象概念的环境。我们用它来定义一个拓扑图灵机（TTM）的概念，作为一个通用的模型，交互式计算和并发计算的可能模型。
2019-08-03 cs.AI cs.LO
Interactive Machine Learning: From Theory to Scale
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
本论文提出交互式机器学习的新算法和理论框架，实现高效主动学习和上下文带算法，解决大规模应用中的计算效率与模型选择问题。
2025-12-30 cs.AI cs.LG stat.ML
Towards Human-Centered Construction Robotics: A Reinforcement Learning-Driven Companion Robot for Contextually Assisting Carpentry Workers
Carnegie Mellon University（卡内基梅隆大学）；Computational Design Laboratory（计算设计实验室）；Robotics Institute（机器人研究所）
针对建筑机器人忽视人因复杂性的问题，本文提出以人为本的“工作伙伴漫游车”，通过情境化RL模块化框架在木工模板场景中实现安全、流畅的人机协作。
2024-09-14 cs.AI cs.HC cs.LG
The Open Vault Challenge -- Learning how to build calibration-free interactive systems by cracking the code of a vault
Université de Paris（巴黎大学）
这个演示采取了对IJCAI社区的挑战的形式。一个物理保险库，由一个4位数的代码保护，将被放置在演示区。作者将通过在基于触摸的界面上输入代码公开打开保险库，并根据要求多次打开。对IJCAI参与者的挑战将是破解密码，打开保险库，并收集其内容。该接口是基于以前的工作校准免费的交互式系统，使用户能够开始指示机器，而机器不知道如何解释用户的行动事先。人类的意图和行为同时被机器学习。一个在线演示和视频可供读者参加的挑战。演示当天还将展示一个使用语音命令的额外界面，展示我们处理连续输入信号的方法的可扩展性。
2019-06-06 cs.AI cs.CR cs.HC
One Explanation Does Not Fit All: The Promise of Interactive Explanations for Machine Learning Transparency
University of Bristol（布里斯托大学）
由于基于机器学习算法的预测系统在行业中的不断增长，因此需要其透明度。每当黑箱算法预测影响人类事务时，这些算法的内部工作应该被仔细检查，并向相关利益相关者解释其决策，包括系统工程师，系统操作员和案件被决定的个人。虽然有各种各样的可解释性和可解释性方法，但没有一种方法是万能药，可以满足所有不同的期望和有关各方可能要求的相互竞争的目标。在本文中，我们通过讨论交互式机器学习的承诺来解决这一挑战，该承诺使用对比解释的例子来提高黑盒系统的透明度--一种最先进的可解释机器学习方法。具体来说，我们展示了如何个性化的反事实的解释，通过互动调整他们的条件语句和提取额外的解释，要求后续“如果？“问题。我们在构建、部署和展示这种类型的系统方面的经验使我们能够列出所需的属性以及潜在的限制，这些属性可以用于指导交互式解释器的开发。在定制交互媒介的同时，用户界面包括各种通信渠道，可能会给人一种个性化的印象，我们认为，调整解释本身及其内容更重要。为此，除了明确告知被解释者其局限性和警告之外，还必须考虑解释的广度、范围、上下文、目的和目标等属性.
2020-01-27 cs.AI cs.LG stat.ML
An Interdisciplinary Approach to Human-Centered Machine Translation
University of Maryland（马里兰大学）；Bar-Ilan University（巴伊兰大学）；Microsoft（微软）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；Tilburg University（蒂尔堡大学）；Université Laval（拉瓦尔大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Johns Hopkins University（约翰·霍普金斯大学）；Haverford College（哈弗福德学院）；University of California, San Francisco（旧金山大学）；University of Washington（华盛顿大学）；Instituto Superior Técnico, Universidade of Lisboa（里斯本大学技术学院）；Tampere University（塔尔库大学）；Dublin City University & IU University（都柏林城市大学及IU大学）；National Research Council Canada（加拿大国家研究委员会）；Sorbonne-Université & CNRS（索邦大学及CNRS）
针对机器翻译系统开发与真实使用存在差距、非专业用户难评估翻译可靠性的问题，研究倡导以人为中心的机器翻译方法，结合翻译学与人机交互文献重构评估与设计语境，适配多元真实应用场景。
2025-06-16 cs.AI cs.CL
Human-centered In-building Embodied Delivery Benchmark
Polar Research General Services（极地研究综合服务机构）；Samsung R&D Institute China - Beijing（三星中国北京研发中心）；Peking University（北京大学）
本研究提出以人为中心的室内具身配送商业场景，构建包含多层建筑、自主人类角色与机器人的虚拟环境及13k条指令的配送数据集，并提出基于大型多模态模型的基线系统，为具身智能领域带来新视角。
2024-06-25 cs.AI cs.RO
Safe Exploration for Interactive Machine Learning
ETH Zurich（苏黎世联邦理工学院）
在交互式机器学习（IML）中，我们迭代地做出决策并获得未知函数的噪声观测。虽然IML方法，例如，贝叶斯优化和主动学习在实际应用中取得了成功，但在实际系统中，它们必须能够避免不安全决策。为此，安全的IML算法必须仔细学习先验未知的约束，而不做出不安全的决策。现有的算法对这个问题的学习所有决策的安全性，以确保收敛。这是样本效率低下的，因为它探索了与原始IML目标无关的决策。在本文中，我们介绍了一个新颖的框架，可以使任何现有的不安全IML算法变得安全。我们的方法可以作为一个附加组件，将建议的决策作为输入，并利用高斯过程的规律性假设，以便有效地了解它们的安全性。因此，我们只在IML问题需要时才探索安全集。我们将我们的框架应用于安全贝叶斯优化和安全探索确定性马尔可夫决策过程（MDP），之前已经分别进行了分析。我们的方法优于其他算法经验。
2019-10-30 cs.AI cs.LG cs.RO
