Iterative Machine Teaching
Georgia Institute of Technology(佐治亚理工学院);Indiana University(印第安纳大学)
在本文中,我们考虑机器教学问题,机器学习的逆问题。不同于传统的机器教学,将学习者视为批处理算法,我们研究了一种新的范式,其中学习者使用迭代算法,教师可以根据学习者的当前表现顺序和智能地提供示例。我们表明,在迭代的情况下,教学的复杂性是非常不同的批处理的情况下。我们的迭代机器教学不是为学习者构建最小训练集,而是专注于在学习者模型中实现快速收敛。根据教师从学习者模型中获得的信息水平,我们设计了教学算法,这些算法可以证明减少教学示例的数量,并且比没有教师的学习更快地收敛。我们还验证了我们的理论研究结果与广泛的实验上不同的数据分布和真实的图像数据集。
2017-11-17 cs.LG stat.ML
One-shot Machine Teaching: Cost Very Few Examples to Converge Faster
Jilin University(吉林大学);Centre for Frontier AI Research, A*STAR(新加坡科技研究局前沿人工智能研究中心)
人工智能是教机器像人类一样采取行动。为了实现智能教学,机器学习社区开始思考一个有前途的主题,称为机器教学,其中教师在给定目标模型和特定学习者的情况下设计最佳(通常是最小)教学集。然而,以前的作品通常需要大量的教学示例以及大量的迭代来引导学习者收敛,这是昂贵的。在本文中,我们考虑了一个更智能的教学范式命名为一次性机器教学,成本更少的例子,收敛速度更快。与典型教学不同的是,这种先进的教学范式建立了一个从教学集到模型参数的易处理映射。在理论上,我们证明了这个映射是满射的,从而保证了最优教学集的存在性。然后,基于教学集到参数的满射映射,提出了在适当设置下的最优教学集的设计策略,其中教学维和迭代教学维是两个流行的效率度量之一。大量的实验验证了我们的策略的有效性,并进一步证明了这种新的教学模式的智能。
2022-12-13 cs.AI cs.CV cs.LG
Teaching and Learning under Deductive Errors
Department of Informatics University of Bergen(卑尔根大学信息学院);University of Bergen(卑尔根大学);VRAIN - Universitat Politecnica de Valencia(瓦伦西亚理工大学VRAIN实验室);Universitat Politecnica de Valencia(瓦伦西亚理工大学);Leverhulme Centre for the Future of Intelligence - University of Cambridge(剑桥大学未来智能中心)
本文研究了在存在演绎错误的教学与学习框架,分析了机器教学中如何通过PAC设定生成近似正确的假设,并探讨了计算复杂性及实验验证。
2026-05-13 cs.LG
Research on Effectiveness Evaluation and Optimization of Baseball Teaching Method Based on Machine Learning
Shandong University (Weihai)(山东大学(威海));Xiamen University(厦门大学);California Baptist University(加州浸会大学)
本文利用多种机器学习模型对棒球训练成绩进行回归预测,发现K-Neighbors Regressor和Gradient Boosting Regressor表现最优,并识别出累计击球与跑垒次数为关键因素,据此提出训练优化建议。
2024-11-24 cs.LG
Teaching Key Machine Learning Principles Using Anti-learning Datasets
机器学习的大部分教学都集中在迭代爬山方法和使用局部知识来获得导致局部或全局最大值的信息。在本文中,我们提倡教学的替代方法,推广到最好的解决方案,包括一种方法称为反学习。通过使用简单的教学方法,学生可以更深入地理解对训练过程中排除的数据进行验证的重要性,并且每个问题都需要自己的方法来解决。我们还证明了使用足够的数据训练模型的要求,表明不同粒度的交叉验证可以产生非常不同的结果。
2020-11-16 cs.CY cs.LG
Human-AI Interaction Design in Machine Teaching
Georgia Institute of Technology(佐治亚理工学院)
机器教学(MT)是一个交互过程,其中人类和机器交互,目的是为指定任务训练机器学习模型(ML)。人类教师交流他们的任务专业知识,机器学生收集所需的数据和知识来生成ML模型。机器翻译系统的开发,以共同减少教学时间和学习者的出错率。机器翻译系统中人机交互的设计不仅影响教学效率,而且通过影响教学质量间接影响机器翻译的性能。在本文中,我们建立在我们以前的工作,我们提出了一个MT框架,有三个组成部分,即,教学界面、机器学习器和知识库,并重点讨论了实现教学界面所涉及的人机交互设计。我们概述了从ML任务开始开发MT系统时需要解决的设计决策。本文遵循苏格拉底的方法,需要一个好奇的学生和一个明智的老师之间的对话。
2022-06-10 cs.AI cs.HC cs.LG
Collaborative and Privacy-Preserving Machine Teaching via Consensus Optimization
Symantec Research Labs(赛门铁克研究实验室);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
在这项工作中,我们定义了一个协作和隐私保护的机器教学模式与多个分布式教师。我们专注于共识超级教学。它的目的是组织分布的教师共同选择一个紧凑的,而由教师托管的数据,使学习者更好地学习信息的训练子集。挑战来自三个方面。首先,最先进的基于池的超级教学方法应用了混合整数非线性规划(MINLP),它不能很好地扩展到非常大的数据集。第二,在协作阶段期间,期望将教师的数据访问限制为仅他们自己的数据,以减轻隐私泄露。最后,教学协作应该是有效的沟通,因为大的通信开销可能会导致教师之间的同步延迟。为了应对这些挑战,我们制定了一个共识和隐私保护的优化过程,以最大限度地减少教学风险的协作教学。我们从理论上论证了教师之间的合作对提高学习者的学习的必要性。此外,我们表明,所提出的方法享有自适应Lasso的Oracle属性类似的属性。实证研究表明,我们的教学方法可以提供更准确的教学结果与高速,而非协作MINLP为基础的超级教学变得昂贵的计算。
2019-05-07 cs.LG stat.ML
On a Combinatorial Problem Arising in Machine Teaching
University Of Bergen(卑尔根大学);Charles University(查理大学)
本文证明了一个关于机器教学中教学维度最坏情况的猜想,该猜想涉及一致性矩阵包含二进制表示时的情形,结果推广了超立方体边缘等周定理。
2024-02-09 cs.LG math.CO
A Framework for Interactive Knowledge-Aided Machine Teaching
Georgia Institute of Technology(佐治亚理工学院)
机器教学(MT)是一个交互式的过程,其中人类通过扮演教师的角色来训练机器学习模型。设计机器翻译系统的过程涉及可能影响人类教师效率和机器学习者性能的决策。以前的研究提出并评估了具体的MT系统,但有一个一般的框架设计它们的讨论有限。我们提出了一个设计机器翻译系统的框架,并详细介绍了一个系统的文本分类问题作为一个具体的例子。我们的框架侧重于三个组成部分,即教学界面,机器学习者和知识库,和他们的关系描述了每个组件如何可以使其他人受益。我们的初步实验表明,机器翻译系统可以减少人类的教学时间和机器学习的出错率。
2022-04-21 cs.AI cs.HC cs.LG
Representational Alignment Supports Effective Machine Teaching
New York University(纽约大学);University of Cambridge(剑桥大学);Max Planck Institute for Empirical Aesthetics(马克斯·普朗克经验美学研究所);Anthropic(Anthropic公司);Massachusetts Institute of Technology(麻省理工学院);University College London(伦敦大学学院);University of California, Berkeley(加州大学伯克利分校);Princeton University(普林斯顿大学)
本文提出受控实验设置GRADE,发现教师与学生的表征对齐能提升学习效果,并受班级规模和多样性调节,进而设计GRADE-Match优化师生匹配,强调机器教师应兼顾准确率与表征对齐。
2025-02-04 cs.LG
Towards Black-box Iterative Machine Teaching
Georgia Tech(佐治亚理工学院);University of Minnesota(明尼苏达大学);Ant Financial(蚂蚁金服(注:根据中文语境,此处“Ant Financial”通常译为“蚂蚁集团”或“蚂蚁金服”,但严格按原文机构名保留“Ant Financial”))
在本文中,我们作出了重要的一步,黑箱机器教学考虑跨空间机器教学,教师和学习者使用不同的特征表示和教师不能完全观察到学习者的模型。在这种情况下,我们研究教师如何仍然能够教学习者实现更快的收敛速度比传统的被动学习。我们提出了一个主动教师模型,可以主动查询学习者(即,使学习者参加考试)以估计学习者的状态,并可证明地引导学习者实现更快的收敛。给出了示教复杂度和查询复杂度的例子。在实验中,我们比较了主动教师和全知教师,验证了主动教师模型的有效性。
2018-06-05 cs.LG stat.ML
Machine Teaching: A New Paradigm for Building Machine Learning Systems
Microsoft Research(微软研究院)
当前构建机器学习系统的过程需要具有机器学习深入知识的从业者。这大大限制了可以创建的机器学习系统的数量,并导致对机器学习系统的需求与组织构建它们的能力之间的不匹配。我们认为,为了满足对机器学习系统不断增长的需求,我们必须大幅增加能够教授机器的个人数量。我们假设,我们可以通过使教学机器的过程变得简单,快速,最重要的是,普遍可访问来实现这一目标。虽然机器学习专注于创建新算法和提高“学习者”的准确性,但机器教学学科专注于“教师”的功效。作为一门学科,机器教学是一种范式转变,它遵循并扩展了软件工程和程序设计语言的原则。我们非常重视教师和教师与数据的交互,以及交互和可视化的技术和设计原则等关键组件。在本文中,我们提出了我们的立场,关于机械教学的学科和阐明基本的机械教学原则。我们还描述了如何通过将有关机器学习算法的知识与教学过程分离,我们可以加速创新并为机器学习模型提供数百万种新用途。
2017-08-11 cs.AI cs.HC cs.LG
Machine Teaching for Inverse Reinforcement Learning: Algorithms and Applications
University of Texas at Austin(德克萨斯大学奥斯汀分校)
逆强化学习(IRL)从演示中推断出奖励函数,从而允许策略改进和推广。然而,尽管最近的兴趣IRL,很少的工作已经做了了解的最低限度的演示需要教一个特定的顺序决策任务。我们形式化的问题,找到最大的信息演示IRL作为一个机器教学的问题,其目标是找到所需的演示指定奖励等价类的演示的最小数量。我们扩展以前的工作顺序决策任务的算法教学,通过减少集合覆盖问题,使一个有效的近似算法,用于确定一组最大信息量的演示。我们将我们提出的机器教学算法应用到两个新的应用程序:提供一个下限的查询数量需要学习的政策,使用主动IRL和开发一种新的IRL算法,可以更有效地学习信息演示比标准的IRL方法。
2019-08-16 cs.LG stat.ML
Manipulating Predictions over Discrete Inputs in Machine Teaching
INRIA(法国国家信息与自动化研究所);University of Sharjah(沙迦大学)
本文针对离散域机器学习教学研究有限的问题,将操纵学生模型预测的任务建模为组合优化问题,提出迭代搜索算法,在修正预测和恶意操纵场景下性能均优于传统基线。
2024-01-31 cs.AI cs.LG
Exploring Machine Teaching with Children
College of Information Studies, University of Maryland(马里兰大学信息学院)
迭代地构建和测试机器学习模型可以帮助孩子们通过机器学习和人工智能培养创造力、灵活性和舒适性。我们探索儿童如何使用机器教学界面与14名儿童(7-13岁)和成人共同设计师的团队。孩子们训练图像分类器,并测试彼此模型的鲁棒性。我们的研究阐明了儿童如何推理ML概念,为儿童设计机器教学体验提供了这些见解:(i)ML指标(例如置信度分数)应该在实验中可见;(ii)ML活动应该使儿童能够交换模型,以促进反思和模式识别;(iii)界面应该允许快速数据检查(例如图像与手势)。
2021-09-27 cs.CY cs.HC cs.LG
Reinforcement Teaching
University of Alberta(阿尔伯塔大学);Google Brain(谷歌大脑);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所(Amii))
本文提出统一的元学习框架Reinforcement Teaching,通过强化学习训练教学策略并引入parametric-behavior embedder和学习进展奖励,显著改进任意(含非可微)算法的学习过程,在强化与监督学习任务中优于现有方法。
2025-01-25 cs.LG
Black-box Generalization of Machine Teaching
Jilin University(吉林大学);The Hong Kong University of Science and Technology (HKUST)(香港科技大学)
本文提出一种黑盒教学假设,通过更紧的松弛项改进假设剪枝,从理论和实验上证明其能获得比传统主动学习策略更优的泛化误差界和标签复杂度界。
2023-09-20 cs.LG
Becoming the Expert - Interactive Multi-Class Machine Teaching
University College London(伦敦大学学院)
与机器相比,人类非常擅长将图像分类,特别是当他们拥有手头类别的先验知识时。如果没有这种先验信息,则需要以教学图像的形式进行监督。为了更快地学习类别,人们应该首先看到重要的和有代表性的图像,然后是不太重要的图像-或者根本不看。然而,图像的重要性是个人特定的,即一个教学图像是重要的学生,如果它改变了他们的整体能力,区分类。此外,学生不断学习,因此,虽然图像的重要性取决于他们目前的知识,它也随着时间的推移而变化。在这项工作中,我们提出了一个交互式的机器教学算法,使计算机教具有挑战性的视觉概念的人。我们的自适应算法选择,在线,标记图像从教学集应该显示给学生,因为他们学习。我们表明,概率模型的学生的能力和进步,根据他们的正确和不正确的答案,产生更好的“专家”的教学策略。我们使用真实的人类参与者在几个不同的和具有挑战性的现实世界的数据集呈现结果。
2015-04-28 cs.CV cs.LG stat.ML
Teaching Uncertainty Quantification in Machine Learning through Use Cases
German Research Center for Artificial Intelligence(德国人工智能研究中心)
机器学习中的不确定性通常不作为一般知识在机器学习课程中教授。在本文中,我们提出了一个关于机器学习中不确定性的短期课程,并通过选择用例来补充课程,旨在引发讨论,让学生在编程环境中使用不确定性的概念。我们的用例涵盖了输出不确定性的概念、贝叶斯神经网络和权重分布、不确定性的来源以及分布外检测。我们希望这套课程和用例能够激励社区将这些重要的概念纳入人工智能安全课程。
2021-08-19 cs.LG stat.ML
A Labelled Sample Compression Scheme of Size at Most Quadratic in the VC Dimension
本文对任意有限概念类构造了一个合适的稳定的标号样本压缩格式,其大小为$O(\VCD^2)$,其中$\VCD$表示Vapnik-Chervonenkis维数.该结构是基于一个众所周知的机器教学模型,称为递归教学维。这大大改善了目前最为人所知的样本压缩方案的大小的界限(由于Moran和Yehudayoff),这是指数在$\VCD$。长期存在的开放性问题是否最小尺寸的样本压缩方案是在$O(\VCD)$仍然没有得到解决,但我们的研究结果表明,机器教学的研究是一个很有前途的途径,这个开放性问题的研究。作为机器教学和样本压缩之间强有力联系的进一步证据,我们证明了Kirkpatrick等人提出的无冲突教学模型,可以用来定义稳定样本压缩方案的大小的非平凡下限。
2022-12-28 cs.LG
Analysis of a Design Pattern for Teaching with Features and Labels
Microsoft Research(微软研究院);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们研究的任务是教机器使用特征和标签对对象进行分类。我们介绍了错误驱动的特色教学设计模式使用的功能和标签,教师更喜欢介绍功能,只有当他们需要。我们分析了这种教学模式的潜在风险和好处,通过使用教学协议,说明性的例子,并通过提供使用线性学习算法,在交互式机器学习系统中最常用的学习者类型的最佳机器教师所需的努力的界限。我们的分析提供了对使用不同学习算法的潜在权衡以及特征化(创建新特征)和标记(为对象提供标签)所需的努力之间的更深入的理解。
2016-11-18 cs.AI cs.LG
Class Teaching for Inverse Reinforcement Learners
INESC-ID(INESC-ID(葡萄牙国家系统与计算机工程研究所));Instituto Superior Técnico(高等技术学院)
在本文中,我们提出了第一个机器教学算法的多个反向强化学习器。具体来说,我们的贡献是:(i)我们正式介绍了一个顺序任务教学的问题,一个异质组的学习者;(ii)我们确定的条件下,有可能进行这样的教学使用相同的演示,为所有的学习者;以及(iii)我们提出并评估了一个简单的算法,该算法计算一个演示(s)确保异构类中的所有代理学习与目标任务兼容的任务描述。我们的分析表明,与其他教学问题,教学一个单一的示范异构类可能是不可能的代理之间的差异增加。我们还展示了我们提出的机器教学方法对几种可能的替代方案的优势。
2019-11-29 cs.AI cs.LG
Intuitiveness in Active Teaching
Bielefeld University(比勒费尔德大学);Honda Research Institute Europe(本田欧洲研究院)
虽然机器学习在自动化系统中产生了惊人的结果,但它通常以大量数据需求为代价。这使得来自机器学习的许多成功算法不适合人机交互,其中机器必须从用户可以在合理的时间范围内提供的少量训练样本中学习。幸运的是,用户可以定制他们创建的训练数据,使其尽可能有用,严格限制其必要的大小-只要他们了解机器的要求和限制。当然,获取这些知识反过来可能是繁琐和昂贵的。这就提出了一个问题,即与机器学习算法交互有多容易。在这项工作中,我们通过分析某些算法的直观性来解决这个问题,当它们被用户主动教授时。在开发了一个理论框架的直观性作为属性的算法,我们引入了一个积极的教学范式,涉及一个原型的二维空间学习任务作为一种方法来判断人机交互的功效。最后,我们提出并讨论了一个大规模的用户研究的性能和教学策略的800名用户在我们的系统中与两个突出的机器学习算法进行交互的结果,直觉的作用作为一个重要因素影响人机交互提供了第一个证据。
2021-09-29 cs.HC cs.LG
SOLOIST: Building Task Bots at Scale with Transfer Learning and Machine Teaching
Microsoft Research(微软研究院)
我们提出了一种新的方法SOLOIST,它使用迁移学习和机器教学来大规模构建任务机器人。我们使用基于transformer的自回归语言模型来参数化经典模块化面向任务的对话系统,该模型将不同的对话模块归入单个神经模型。我们预训练,异构对话语料库,任务为基础的响应生成模型,它可以生成基于用户目标和现实世界的知识完成任务的对话响应。预先训练的模型可以通过机器教学有效地进行调整,以完成一些特定于任务的对话框,其中训练样本由人类教师与系统交互生成。实验表明,(i)SOLOIST创建新的国家的最先进的研究面向任务的对话基准,包括CamRest 676和MultiWOZ;(ii)在Few-Shot微调设置,SOLOIST显着优于现有的方法,和(iii)使用机器教学大大降低了微调的标签成本。预先训练的模型和代码可在https://aka.ms/soloist上获得。
2021-04-09 cs.AI cs.CL cs.LG
Using Machine Teaching to Investigate Human Assumptions when Teaching Reinforcement Learners
University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Princeton University(普林斯顿大学)
通过将教学问题表述为机器教学优化问题并用深度学习近似求解,研究发现人类在Q-learner折扣率小、学习率大时教学效果较好但仍次优,实时反馈更新微弱有帮助,为设计直觉化机器智能体提供指导。
2023-06-29 cs.AI cs.HC cs.LG
Agent Smith: Teaching Question Answering to Jill Watson
Georgia Institute of Technology(佐治亚理工学院)
构建人工智能智能体可能成本高昂。考虑一个问答代理,比如Jill Watson,它可以根据学生的教学大纲和其他课程材料,在在线课程的论坛上自动回答学生的问题。在一个新的在线课程的教学大纲上训练吉尔可能需要一百个小时或更多。机器教学-使用合成数据集对人工智能智能体进行交互式教学-可以减少训练时间,因为它结合了基于知识的AI,使用大型数据集的机器学习和交互式人在回路训练的优势。我们描述了代理史密斯,一个互动的机器教学代理,减少了训练一个新的在线类的吉尔所需的时间由一个数量级。
2022-04-06 cs.AI cs.HC cs.LG
Teaching Machine Comprehension with Compositional Explanations
Department of Computer Science, University of Southern California(南加州大学计算机科学系);Information Science Institute, University of Southern California(南加州大学信息科学研究所)
机器阅读理解(MRC)的发展在很大程度上依赖于以(问题,段落,答案)三元组形式收集大规模人类注释的示例。相比之下,人类通常只需要几个例子就能概括,依赖于更深层次的世界知识,语言复杂性和/或仅仅是卓越的演绎能力。在本文中,我们专注于“教”机器阅读理解,使用少量的半结构化解释,明确告知机器为什么答案跨度是正确的。我们从解释中提取结构化变量和规则,并组成神经模块教师,注释用于训练下游MRC模型的实例。我们使用可学习的神经模块和软逻辑来处理语言变化并克服稀疏覆盖;这些模块与MRC模型联合优化以提高最终性能。在SQuAD数据集上,我们提出的方法在26种解释的监督下获得了70.14%F1分数,与使用1,100个标记实例的普通监督学习相当,速度提高了12倍。
2020-10-13 cs.CL cs.LG
Multi-Modal, Multi-Environment Machine Teaching for Robust Reward Learning
研究自主智能体在多环境下奖励学习问题,提出分层机器教学算法,先选信息丰富环境,再查询低成本反馈,实验表明该方法比统一教学基线有更低遗憾值和更强泛化能力,凸显多环境多模态教学对稳健奖励学习的重要性。
2026-07-10 cs.AI cs.LG
Understanding the Power and Limitations of Teaching with Imperfect Knowledge
Max Planck Institute for Software Systems (MPI-SWS)(马克斯·普朗克软件系统研究所);ETH Zurich(苏黎世联邦理工学院);University of Chicago(芝加哥大学)
机器教学研究教师和学生/学习者之间的交互,其中教师为学习者选择训练样本以学习特定任务。典型的假设是,教师有完美的知识的任务-这种知识包括知道所需的学习目标,学习者使用的确切的任务表示,并知道参数捕捉学习者的学习动力。受机器教学在教育中的实际应用的启发,我们考虑教师的知识是有限的和嘈杂的设置,我们研究的关键研究问题是:当教师成功或失败,有效地教学习者使用其不完善的知识?我们回答这个问题,显示连接不完善的知识如何影响教师的解决方案,相应的机器教学问题时,构建最佳教学集。我们的研究结果具有重要意义,为现实世界的应用程序设计强大的教学算法。
2020-03-21 cs.AI cs.LG stat.ML
An Optimal Control Approach to Sequential Machine Teaching
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出了一种基于最优控制的序列机器教学方法,通过将问题转化为时间最优控制问题,解决了寻找最短训练序列以驱动学习算法达到目标模型的问题,并在案例研究中展示了该方法的优越性。
2018-10-16 cs.LG cs.SY eess.SY
Nonparametric Iterative Machine Teaching
Jilin University(吉林大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);A*STAR(新加坡科技研究局);Hong Kong University of Science and Technology(香港科技大学)
本文提出非参数迭代机器教学 NIMT,将教学建模为函数空间优化,并给出随机与贪心算法及 ITD 界,实验验证其理论结果。
2023-06-06 cs.AI cs.CV cs.LG
Teaching to Learn: Sequential Teaching of Agents with Inner States
University of Manchester(曼彻斯特大学)
在顺序机器教学中,教师的目标是为顺序学习者提供最佳的输入序列,以引导他们走向最佳模型。在本文中,我们扩展这种设置从当前的静态一个数据集分析的学习者改变他们的学习算法或潜在的状态,以提高学习过程中,并推广到新的数据集。我们引入了一个多智能体的制定,学习者的内部状态可能会改变与教学互动,影响学习成绩在未来的任务。为了教这样的学习者,我们提出了一个最优控制的方法,考虑到教学后的学习者的未来表现。这为具有内部状态的学习者建模和元学习算法的机器教学提供了工具。此外,我们区分了操作教学,这可以通过有效地隐藏数据,也用于灌输,从更一般的教育,旨在帮助学习者成为更好的泛化和学习新的数据集在没有老师。
2020-09-14 cs.LG cs.MA stat.ML
A Learning Algorithm based on High School Teaching Wisdom
St.Thomas College(圣托马斯学院)
提出了一种基于小学教与学的学习算法。该方法是不断评估学生,并给他们的例子,他们反复失败的培训,直到他们可以正确回答所有类型的问题。这种增量学习过程通过要求学生将他们的学习时间最佳地投入到失败的例子中来产生更好的学习曲线。当用于机器学习时,发现该算法在特征空间中具有最大方差的数据上训练机器,从而提高网络的泛化能力。该算法在数据采掘、模型评估和稀有对象发现等领域有着重要的应用。
2010-12-12 cs.AI cs.LG
Teachable Reality: Prototyping Tangible Augmented Reality with Everyday Objects by Leveraging Interactive Machine Teaching
IIIT-Delhi(德里英迪拉甘地信息技术学院);University of Calgary(卡尔加里大学)
本文介绍了可教现实,一个增强现实(AR)的原型工具,用于创建交互式的有形AR应用程序与任意的日常对象。Teachable Reality利用基于视觉的交互式机器教学(例如,Teachable Machine),它可以捕捉真实世界的交互,用于AR原型设计。它使用按需计算机视觉模型识别用户定义的有形和手势交互。在此基础上,用户可以轻松创建功能性AR原型,而无需编程,并通过一个用户操作创作界面实现。因此,我们的方法允许有形AR应用程序的灵活性,可定制性和通用性,可以解决当前基于标记的方法的局限性。我们探索设计空间并展示各种AR原型,其中包括有形和可变形的界面,上下文感知助手和身体驱动的AR应用程序。我们的用户研究和专家访谈的结果证实,我们的方法可以降低创建功能性AR原型的障碍,同时还可以实现灵活和通用的原型设计体验。
2023-02-21 cs.CV cs.HC cs.LG
Crowdsourcing the Perception of Machine Teaching
University of Maryland(马里兰大学)
可教接口可以使最终用户能够通过明确提供相关的训练样本来调整机器学习系统以适应其特质特征和环境。虽然有助于控制,但由于缺乏专门知识或误解,其效力可能受到阻碍。我们通过在Amazon Mechanical Turk中部署移动可教学测试平台,调查用户如何概念化、体验和反思他们在机器教学中的参与。使用基于绩效的支付方案,Mechanical Turk(N = 100)被要求实时训练、测试和重新训练一个强大的识别模型,并在其环境中拍摄一些快照。我们发现,参与者将多样性纳入他们的例子中,从人类如何识别独立于大小,视角,位置和照明的物体。他们的许多误解与推理的一致性和模型能力有关。由于测试中的变化和边缘情况有限,大多数人在第二次训练尝试时不会改变策略。
2020-02-05 cs.CV cs.HC cs.LG
Robust Federated Training via Collaborative Machine Teaching using Trusted Instances
Symantec Research Labs(赛门铁克研究实验室);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
联邦学习使用代理托管的本地数据执行分布式模型训练。它只共享模型参数更新,以便在服务器上进行迭代聚合。虽然它是隐私保护的设计,联邦学习是容易受到本地代理的噪音腐败,如在以前的研究对抗数据投毒威胁联邦学习系统。即使是一个噪声破坏的代理也会使模型训练产生偏差。在我们的工作中,我们提出了一个具有多个分布式教师的协作和隐私保护的机器教学范例,以提高联邦训练过程对本地数据损坏的鲁棒性。我们假设每个本地代理(教师)都有资源来验证一小部分可信实例,但这本身可能不足以进行学习。在建议的协作机器教学方法中,这些可信的实例指导分布式代理共同选择一个紧凑的,而信息丰富的训练子集,从他们自己托管的数据。同时,智能体学习将有限幅度的变化添加到所选择的数据实例中,以提高联邦训练模型的测试性能,尽管训练数据损坏。玩具和真实数据上的实验表明,我们的方法可以有效地识别训练集错误,并建议适当的修改标签。我们的算法是迈向可信的机器学习的一步。
2019-05-08 cs.AI cs.LG stat.ML
Machine Teaching of Active Sequential Learners
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所(HIIT));Aalto University(阿尔托大学)
机器教学解决了寻找最佳训练数据的问题,这些数据可以以最小的努力将学习算法引导到目标模型。在常规设置中,教师提供与真实数据分布一致的数据。然而,对于主动选择查询的顺序学习者,如多臂强盗和主动学习者,教师只能提供对学习者查询的响应,而不能设计完整的数据。在这种情况下,始终如一的教师在有限的视野中可能是次优的。我们制定这个顺序的教学问题,目前的技术在机器教学不解决,作为一个马尔可夫决策过程,与动态嵌套的学习者和教师的反应的行动模型。此外,我们解决的补充问题,从一个教师的计划学习:认识到教学意图的反应,学习者被赋予了一个模型的教师。我们在模拟实验和用户研究中使用多臂强盗学习者测试了该公式。结果表明,学习得到改善(i)计划教学和(ii)学习者有一个模型的教师。该方法提供的工具,考虑到战略(规划)的交互式智能系统,如推荐引擎的用户的行为,考虑他们作为有界最优的教师。
2019-11-01 cs.AI cs.HC cs.LG
Explainable Machine Learning with Prior Knowledge: An Overview
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);University of Bonn(波恩大学);TU Dortmund University(多特蒙德工业大学)
本调查概述了将先验知识集成到机器学习系统中以提高可解释性。机器学习模型的复杂性引发了研究,使它们更容易解释。然而,大多数可解释性方法不能提供超出给定数据的洞察力,需要有关上下文的额外信息。我们建议利用先验知识来提高机器学习模型的解释能力。在本文中,我们提出了一个分类,目前的研究分为三个主要类别,要么集成知识到机器学习管道,到可解释性方法或从解释中获得知识。为了对论文进行分类,我们建立在现有的知情机器学习分类法的基础上,并从可解释性的角度对其进行扩展。最后,我们提出了开放的挑战和研究方向。
2021-05-21 cs.LG
Can Bad Teaching Induce Forgetting? Unlearning in Deep Networks using an Incompetent Teacher
National University of Singapore(新加坡国立大学)
本文提出利用学生-教师框架中称职与不称职教师的选择性知识迁移实现深度网络反学习,并引入零重训遗忘(ZRF)指标,在多种深度网络和领域中验证了随机子集遗忘与类别遗忘的有效性和高效性。
2023-05-31 cs.LG
Machine learning as a model for cultural learning: Teaching an algorithm what it means to be fat
UCLA(加州大学洛杉矶分校)
当我们在文化环境中导航时,我们会学习文化偏见,比如关于性别,社会阶层,健康和体重的偏见。然而,公共文化究竟如何变成私人文化还不清楚。在本文中,我们提供了这样的文化学习的理论帐户。我们认为,神经词嵌入提供了一个简约的和认知上合理的模型表示从自然语言。使用神经词嵌入,我们从《纽约时报》的文章中提取了关于体重的文化图式。我们确定了几个文化图式,肥胖与性别,不道德,健康状况不佳,低社会经济阶层。这样的图式在公共文化中可能会被巧妙地但普遍地激活;因此,语言可以长期复制偏见。我们的发现强化了人们对机器学习也可以编码和复制有害的人类偏见的持续担忧。
2020-06-13 cs.CL cs.CY cs.LG
Teaching the Machine to Explain Itself using Domain Knowledge
Feedzai;Universidade Nova FCT(新里斯本大学科技学院)
机器学习(ML)越来越多地用于帮助人类做出更好、更快的决策。然而,非技术人员很难理解模型预测背后的原理,这阻碍了对算法决策系统的信任。关于人工智能可解释性的大量研究工作试图通过开发解释方法来赢回对人工智能系统的信任,但仍然没有重大突破。与此同时,流行的解释方法(例如,LIME和SHAP)产生的解释对于非数据科学家角色来说非常难以理解。为了解决这个问题,我们提出了JOEL,一个基于神经网络的框架,共同学习决策任务和相关的解释,传达领域知识。JOEL是为缺乏深度技术ML知识的人在回路领域专家量身定制的,提供了关于模型预测的高级见解,这些预测非常类似于专家自己的推理。此外,我们从一群经过认证的专家那里收集领域反馈,并使用它来改进模型(人类教学),从而促进无缝和更适合的解释。最后,我们诉诸传统的专家系统和领域分类之间的语义映射,自动注释引导训练集,克服了基于概念的人类注释的情况。我们在真实世界的欺诈检测数据集上实证验证了JOEL。我们证明了JOEL可以从bootstrap数据集中概括解释。此外,所获得的结果表明,人工教学可以进一步提高解释预测质量约$13.57\%$。
2020-11-27 cs.AI cs.LG
The Teaching Dimension of Kernel Perceptron
MPI-SWS(马克斯·普朗克软件系统研究所);University of Chicago(芝加哥大学)
本文研究了在线性设定条件下的数控机床示教问题,在线性设定条件下可以实现精确示教。然而,很少有人知道非线性学习者的教学。在这里,我们为不同特征映射家族的核化感知器建立了教学的样本复杂度,也就是教学维度。作为热身,我们表明,教学的复杂性是$Θ(d)$的精确教学的线性感知器在$\mathbb{R}^d$,和$Θ(d^k)$的内核感知器的阶为$k$的多项式内核。此外,在一定的光滑假设下的数据分布,我们建立了严格的约束的复杂性近似教学高斯核感知器。我们提供了一些典型的设置下的线性,多项式和高斯核感知器的最佳(近似)教学集的数值例子。
2021-02-24 cs.AI cs.LG
Toward a general, scaleable framework for Bayesian teaching with applications to topic models
机器,而不是人类,是世界上占主导地位的知识来源,但人类仍然是占主导地位的决策者。解释和传播机器积累的知识需要专业知识、时间,而且容易失败。如何最好地将积累的知识从计算机传达给人类的问题是机器学习更广泛应用的关键瓶颈。我们提出了一种基于人类教学的方法,其中问题被形式化为选择数据的一个小子集,该子集将以高概率引导人类用户进行正确的推理。这种方法虽然在简单的实验室实验中成功地模拟了人类学习,但由于制定通用和可扩展算法的挑战,未能实现更广泛的相关性。我们提出了通用的教学通过伪边缘采样和演示的算法教学主题模型。仿真结果表明,我们的基于采样的方法:有效地近似的概率,其中地面真理是可能通过枚举,结果的数据是显着不同的随机采样的预期,并加快学习,特别是对于少量的数据。应用到电影大纲数据说明了教学和随机抽样的教学分布和特定主题之间的差异,并展示了可扩展性和适用性的收益,以现实世界的问题。
2016-05-25 cs.AI cs.LG stat.ML
ICE-T: A Multi-Faceted Concept for Teaching Machine Learning
TU Dortmund University(多特蒙德大学);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究院)
针对ML教学常被当作黑箱的问题,本文提出ICE-T多面向概念,扩展教法原则,以促进对数据、算法和模型的理解。
2024-11-08 cs.AI cs.CY cs.LG
Explanatory machine learning for sequential human teaching
University of Bamberg(班贝格大学);Imperial College London(伦敦帝国学院)
本文研究顺序教学中课程顺序与机器学习解释对人类理解的影响,提出顺序教学影响框架,并通过人类试验证明按复杂度递增教学能提升理解、促进分治策略再发现及优化问题求解表现。
2023-03-26 cs.AI cs.LG
Machine Learning-Driven Student Performance Prediction for Enhancing Tiered Instruction
School of Information Science and Engineering, Shandong Normal University(山东师范大学信息科学与工程学院)
本研究提出将机器学习学生成绩预测与分层教学相结合,通过特征选择降低冗余,采用随机森林实现最优分类,并据此设定分层教学目标,实验验证了该框架能有效提升教学成效。
2025-02-05 cs.CY cs.LG
Teaching Machine Learning Fundamentals with LEGO Robotics
本文介绍了一个基于网页的机器学习平台和为期两天的课程,通过无编程的机器人活动向12至17岁学生教授机器学习概念,展示了平台在提升学生理解力和学习动机方面的有效性。
2026-04-05 cs.AI cs.CY cs.HC
Ultra Strong Machine Learning: LLM-Generated Explanations Do Not Yet Suffice for Teaching Humans Active Learning Strategy
Department of Computing, Imperial College London(帝国理工学院计算系)
本研究提出LENS框架,通过神经符号方法生成逻辑程序解释,发现LLM生成的解释在人类学习中效果有限,需结合人类认知约束实现超强机器学习。
2026-09-23 cs.AI cs.LG
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
KIT(卡尔斯鲁厄理工学院);IBM
所有工业机器学习(ML)项目的最终目标都是开发ML产品并快速投入生产。然而,机器学习产品的自动化和可操作化极具挑战性,因此许多机器学习工作未能实现他们的期望。机器学习操作(MLOps)的范例解决了这个问题。MLOps包括几个方面,例如最佳实践、概念集和开发文化。然而,MLOps仍然是一个模糊的术语,其对研究人员和专业人员的影响是模糊的。为了解决这一差距,我们进行混合方法的研究,包括文献综述,工具审查和专家访谈。作为这些调查的结果,我们提供了必要的原则,组件和角色,以及相关的架构和工作流的汇总概述。此外,我们提供了MLOps的定义,并强调了该领域的开放挑战。最后,这项工作为希望使用指定的一组技术自动化和操作其ML产品的ML研究人员和从业者提供了指导。
2022-05-14 cs.LG
Teaching Machines to Code: Neural Markup Generation with Visual Attention
我们提出了一个具有视觉注意力的神经传感器模型,该模型学习生成现实世界数学公式的LaTeX标记。应用序列建模和转导技术,已经非常成功的方式,如自然语言,图像,手写,语音和音频;我们构建了一个图像到标记模型,学习产生语法和语义正确的LaTeX标记代码超过150个单词长,并实现了89%的BLEU分数;改进了以前的最先进的Im 2Latex问题。我们还通过热图可视化演示了注意力如何帮助解释模型,并且尽管在没有任何限界框数据的情况下进行了训练,但仍然可以准确地定位(检测和定位)图像上的符号。
2018-06-15 cs.CL cs.CV cs.LG
Leveraging Explanations in Interactive Machine Learning: An Overview
University of Trento(特伦托大学);Optum(欧唯特健康);Technical University Darmstadt(达姆施塔特工业大学);IBM Research(IBM研究院)
在AI和机器学习(ML)社区中,为了提高模型的透明度,并允许用户形成经过训练的ML模型的心理模型,简化已经获得了越来越多的兴趣。然而,解释可以超越这种单向交流,作为一种机制来引起用户控制,因为一旦用户理解,他们就可以提供反馈。本文的目标是提出一个研究的概述,解释与交互功能相结合,作为一种手段,从头开始学习新的模型,编辑和调试现有的。为此,我们绘制了一个最先进的概念图,根据其预期目的和它们如何构建交互,突出它们之间的相似性和差异性,对相关方法进行分组。我们还讨论了开放的研究问题,并概述了可能的发展方向,希望能促进对这一蓬勃发展的研究课题的进一步研究。
2022-10-09 cs.LG
Value Cards: An Educational Toolkit for Teaching Social Impacts of Machine Learning through Deliberation
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
最近,越来越多的人呼吁计算机科学课程以补充现有的技术培训,主题涉及公平,问责制,透明度和道德。在本文中,我们提出了价值卡,一个教育工具包,告知学生和从业者的社会影响,不同的机器学习模型通过审议。本文介绍了我们的方法在大学水平的计算机科学课程的早期使用。通过课堂活动,我们报告了我们方法的初步有效性的经验数据。我们的研究结果表明,使用价值卡工具包可以提高学生的理解的技术定义和权衡的性能指标,并将其应用于现实世界的背景下,帮助他们认识到考虑不同的社会价值观的重要性,在开发部署的算法系统,并使他们能够沟通,谈判和综合不同的利益相关者的观点。我们的研究还表明了一些注意事项,我们需要考虑时,使用不同的变种价值卡工具包。最后,我们讨论了我们的方法的挑战以及未来的应用。
2023-01-10 cs.CY cs.LG
Teaching a Machine to Read Maps with Deep Reinforcement Learning
ETH Zurich(苏黎世联邦理工学院)
使用2D地图来导航复杂的3D环境的能力是相当了不起的,甚至对许多人来说是困难的。定位和导航也是机器人等领域的重要问题,最近已成为深度强化学习社区的焦点。在本文中,我们教一个强化学习代理阅读地图,以找到一个随机迷宫,它从来没有见过的最短的路。我们的系统结合了几种最先进的方法,如A3C,并结合了新的元素,如经常性的定位细胞。我们的智能体学习基于3D第一人称图像和近似方向角来定位自己。智能体可以很好地推广到更大的迷宫,这表明它学习了有用的定位和导航功能。
2017-11-20 cs.AI cs.LG cs.RO
Towards Identifying and Managing Sources of Uncertainty in AI and Machine Learning Models - An Overview
量化和管理数据驱动模型(如人工智能和机器学习方法提供的模型)时出现的不确定性至关重要。本白皮书简要介绍了识别和量化数据驱动组件的不确定性来源以及分析其影响的方法的最新技术水平。
2018-11-28 cs.LG stat.ML