Incremental Factorization Machines for Persistently Cold-starting Online Item Recommendation
The University of Tokyo（东京大学）
现实世界中的项目管理器通常遭受持续的冷启动问题，这是由动态变化的用户和项目引起的。为了克服这个问题，最近提出了几种上下文感知推荐技术。就可行性和性能而言，因子分解机（FM）作为传统矩阵分解技术的推广，是最有前途的方法之一。然而，由于在线算法适用于动态数据，静态FM仍然是不够的。因此，本文提出了增量FM（iFM），一个通用的在线分解框架，特别是扩展到一个在线项目推荐iFM。建议的框架可以是一个有前途的基线，为进一步发展的生产推荐系统。评估是在合成和真实世界的不稳定数据集上根据经验进行的。
2016-07-11 cs.IR cs.LG
DeepMachining: Online Prediction of Machining Errors of Lathe Machines
本文提出基于深度学习的车床加工误差在线预测系统DeepMachining，通过预训练加微调的流程适配不同加工任务，在多类工件、刀具场景下取得高预测精度，是相关方向首批工厂落地实验之一。
2024-03-28 cs.AI cs.LG
Addressing modern and practical challenges in machine learning: A survey of online federated and transfer learning
University of Essex（埃塞克斯大学）
在线联邦学习（OFL）和在线迁移学习（OTL）是克服现代机器学习挑战（如数据孤岛、流数据和数据安全）的两种协作范例。这项调查探讨了OFL和OTL的主要演变路线，以加强对在线联邦和迁移学习的理解。此外，在这项工作中，流行的数据集和在线联邦和迁移学习的前沿应用程序的实际方面突出。此外，这项调查提供了对未来潜在研究领域的深入了解，旨在为开发在线联合和迁移学习框架的专业人员提供资源。
2022-02-07 cs.LG
An Online Stochastic Kernel Machine for Robust Signal Classification
U.S. Naval Research Laboratory（美国海军研究实验室）
我们提出了一种新的变化的在线内核机，其中我们利用基于共识的优化机制，以指导决策函数的演变从再生核希尔伯特空间，有效地模拟所观察到的平稳过程。
2019-12-16 cs.LG eess.SP stat.ML
Online Machine Learning Techniques for Predicting Operator Performance
Technische Universität Berlin（柏林工业大学）
本论文探讨了一些在线机器学习算法。从理论的角度来看，它评估了他们的就业能力的一个特定的函数逼近问题的分析模型不足。此外，它讨论了applica- tion理论上合适的学习算法的函数逼近问题，通过一个有效的实现，利用各种计算和数学捷径。最后，本文通过严格的测试，根据各种评价标准对所实现的学习算法进行了评价。
2016-05-03 cs.LG
Online Learning for Neural Machine Translation Post-editing
Pattern Recognition and Human Language Technology Research Center（模式识别与人类语言技术研究中心）；Universitat Politècnica de València（瓦伦西亚理工大学）
神经机器翻译意味着该领域的一场革命。不过，对于要求高翻译质量的任务，必须对系统的产出进行事后编辑。后编辑为改进神经机器翻译系统提供了一个独特的机会，使用在线学习技术，并将后编辑的翻译视为新的、新鲜的训练数据。我们回顾了经典的学习方法，并提出了一个新的优化算法。我们彻底比较在线学习算法在编辑后的情况。结果表明，翻译质量和工作量减少显着改善。
2017-06-10 cs.CL cs.LG
Explainable Online Validation of Machine Learning Models for Practical Applications
University of Tübingen（图宾根大学）；Liebherr-Elektronik GmbH（利勃海尔电子有限公司）；Scheidt MessTechnik（沙伊特测量技术公司）
我们提出了一个重新制定的回归和分类，其目的是验证结果的机器学习算法。我们的重新制定简化了原来的问题，并验证了机器学习算法使用的训练数据的结果。由于机器学习算法的验证必须始终是可解释的，我们执行我们的实验与kNN算法以及与基于条件概率的算法，这是在这项工作中提出的。为了评估我们的方法，三个公开的数据集，三个分类和两个回归问题进行了评估。所提出的算法的基础上的条件概率也是在线的能力，只需要一小部分的内存相比，kNN算法。
2021-01-17 cs.AI cs.CV cs.LG
Solving the Online Assignment Problem with Machine Learned Advice
University of the Philippines Diliman（菲律宾大学迪利曼分校）
在线指派问题在运筹学和计算机科学中有着重要的地位，因此提高其解的质量一直是人们关注的焦点。由于输入信息的不完全，在线算法很难产生最优解。在线算法的解决方案的质量是使用竞争比来衡量的。没有一个在线确定性算法可以达到比（2n-1）更好的竞争比。结果表明，在线计算中的建议提高了在线问题的竞争比的下限。在线计算中的建议可以被解释为在线算法的附加信息，以补偿关于整个输入序列的信息的缺乏。在这项研究中，我们研究了如何引入机器学习的建议可以提高这个问题的竞争率。我们通过模拟预先预测整个输入的机器学习算法，为在线分配问题提供了一个在线算法。我们利用一个最佳的离线算法，以提供一个匹配的解决方案，从预测的输入。此外，我们研究了机器学习的预测误差如何影响在线算法的竞争比。我们利用基准数据集进行实证分析。我们表明，随着机器学习预测误差的增加，解决方案的质量下降。此外，误差的大小与输入的大小成正比。这个结果类似于在线分配问题的最佳确定性算法的竞争比，也依赖于参数n。
2022-08-08 cs.CC cs.LG
Metrical Task Systems with Online Machine Learned Advice
机器学习算法旨在根据现有数据对未来进行准确预测，而在线算法则试图在不了解未来的情况下限制某些性能指标（通常是竞争比）。Lykouris和Vassilvitskii证明，只要预测器是适当准确的，用机器学习的预测器增强在线算法可以证明降低竞争率。在这项工作中，我们将这个想法应用到在线计量任务系统的问题，这是由Borodin，Linial，和萨克斯作为一个通用的模型，动态系统处理任务，在网上的时尚。我们专注于特定类的统一任务系统的$n$任务，其中最好的确定性算法是$O(n)$竞争和最好的随机算法是$O(\log n)$竞争。通过给出一个在线算法对机器学习预言机的访问权限，并使其绝对预测误差以$η_0$为上界，我们构造了一个$Θ(\min(\sqrt{η_0}, \log n))$竞争算法，用于度量任务系统问题的一致情形.我们还给出了任意随机算法的竞争比的一个$Θ(\log η_0)$下界。
2021-09-29 cs.DS cs.LG
Online Compact Convexified Factorization Machine
Tsinghua University（清华大学）；South China University of Technology（华南理工大学）
因子分解机是一种监督学习方法，具有强大的特征工程能力。它在各种批量学习任务中产生最先进的性能，其中所有训练数据在训练之前可用。然而，在数据以流式方式顺序到达的现实应用中，使用批量学习算法重新训练的高成本在在线学习场景中提出了巨大的挑战。最初的挑战是，没有事先制定的FM可以满足在线凸优化（OCO）的要求-在线学习算法设计的最重要的框架。为了解决上述挑战，我们发明了一种新的凸化方案，从而实现了无缝满足OCO要求的紧凑型凸化FM（CCFM）。然而，对于在在线学习设置中学习紧凑凸变FM（CCFM），大多数现有算法遭受昂贵的投影操作。为了解决这一后续挑战，我们遵循在线条件梯度的一般无投影算法框架，并提出了一种在线紧凑凸因子分解机（OCCFM）算法，该算法通过有效的线性优化步骤避免了投影操作。在支持建议的OCCFM在其理论基础方面，我们证明了开发的算法实现了次线性遗憾界。为了评估OCCFM的经验性能，我们在6个真实世界的在线推荐和二进制分类任务的数据集上进行了广泛的实验。实验结果表明，OCCFM优于最先进的在线学习算法。
2018-02-05 cs.LG
AdaBoost-assisted Extreme Learning Machine for Efficient Online Sequential Classification
National Taiwan University（台湾大学）
在本文中，我们提出了一个AdaBoost辅助的极端学习机有效的在线顺序分类（AOS-ELM）。为了在在线顺序学习场景中获得更好的准确率，我们利用代价敏感算法AdaBoost，使弱分类器多样化，并加入遗忘机制，从而稳定训练过程中的性能。因此，AOS-ELM更好地适应顺序到达的数据相比，其他基于投票的方法。实验结果表明，AOS-ELM在MNIST数据集上的准确率达到94.41%，这是原始批处理学习算法AdaBoost-ELM的理论准确率界限。此外，通过遗忘机制，在线顺序学习过程中的准确率标准差降低到8.26倍。
2019-09-16 cs.LG stat.ML
Online Algorithms for Multi-shop Ski Rental with Machine Learned Advice
Binghamton University（宾汉姆顿大学）；State University of New York（纽约州立大学）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
我们研究了用机器学习（ML）建议增强在线算法的问题。特别是，我们认为\emph{multi-shop ski rental}（MSSR）的问题，这是一个推广的经典滑雪租赁问题。在MSSR，每个商店都有不同的价格购买和租用一对滑雪板，滑雪者必须决定何时何地购买。当使用单个或多个ML预测来做出决策时，我们获得了确定性和随机化在线算法，并且可以证明其性能得到了改善。这些在线算法不知道ML预测的质量或预测误差类型。这些在线算法的性能对于预测器的不良性能具有鲁棒性，但会随着更好的预测而提高。使用合成和真实世界数据跟踪的广泛实验验证了我们的理论观察结果，并显示出对纯粹依赖在线决策的算法更好的性能。
2020-10-23 cs.DS cs.LG
Standardized Evaluation of Machine Learning Methods for Evolving Data Streams
University of Tuebingen（图宾根大学）
由于数据流的不确定性和动态性，在线机器学习需要强大而灵活的解决方案。然而，在现实条件下评估在线机器学习方法是困难的。因此，现有的工作往往利用不同的分析和模拟，不一定产生有意义的和可靠的结果。事实上，在缺乏共同评价标准的情况下，在线学习方法在实践中或与类似工作相比将如何发挥作用往往仍不清楚。在本文中，我们提出了一个全面的高质量的机器学习在不断变化的数据流的属性。特别是，我们讨论了合理的性能指标和在线预测建模，在线特征选择和概念漂移检测的评价策略。作为第一批作品之一，我们还研究了在线学习方法的可解释性。建议的评估标准在一个名为float的新Python框架中提供。Float是完全模块化的，允许同时集成通用库，如scikit-multiflow或river，以及自定义代码。Float是开源的，可以在https://github.com/haugjo/float上访问。从这个意义上说，我们希望我们的工作将有助于在线机器学习方法的更标准化，可靠和现实的测试和比较。
2022-04-28 cs.LG stat.ML
Virtual Vector Machine for Bayesian Online Classification
Microsoft Research（微软研究院）；Purdue University（普渡大学）
在典型的在线学习场景中，要求学习器使用小的存储器缓冲器来处理大的数据流。这样的要求通常与学习者对预测准确性的主要追求相冲突。为了解决这个难题，我们引入了一种新的贝叶斯在线分类算法，称为虚拟向量机。虚拟向量机允许您平滑地权衡预测精度与内存大小。虚拟向量机通过在分类权重上的高斯分布加上恒定数量的虚拟数据点来总结包含在先前数据流中的信息。虚拟数据点被设计为添加关于分类权重的额外非高斯信息。为了保持虚拟点的数量不变，虚拟向量机将当前真实数据点添加到虚拟点集合中，将两个最相似的虚拟点合并为新的虚拟点，或者删除远离决策边界的虚拟点。在这个过程中丢失的信息被吸收到高斯分布中。由虚拟点提供的额外信息导致比以前的在线分类算法更高的预测准确性。
2012-05-09 cs.LG stat.ML
Machine Learning-Based Research on the Adaptability of Adolescents to Online Education
HZAU（华中农业大学）；University of Pennsylvania（宾夕法尼亚大学）
本文基于2014-2016年中国青少年在线教育调查数据，使用五种机器学习算法分析在线学习适应性，发现课程时长、家庭经济状况和年龄是主要影响因素，其中随机森林模型预测效果最佳。
2024-08-29 cs.DC cs.LG
Hierarchical Fallback Architecture for High Risk Online Machine Learning Inference
Trustly（特拉斯利公司）
本文提出一种分层回退架构，通过定义在线推理中的通用故障场景并详细说明应用方法，提升了金融领域高风险机器学习应用在极端压力下的鲁棒性，并给出工业界近实时交易欺诈风险评估的实际应用案例。
2025-01-29 cs.CE cs.LG cs.SE
The impacts of various parameters on learning process and machine learning based performance prediction in online coding competitions
各种参数影响学生在在线编码比赛中的表现。学生的行为，方法，情绪和问题的难度水平显着影响他们的表现在网上编码比赛。我们组织了两次编码比赛，以了解上述参数的影响。我们在每次编码比赛结束时都做了在线调查，它包含了与在线编码比赛期间学生的行为，方法和情绪有关的问题。学生根据提交的时间和状态进行评估。我们已经进行了详细的分析，以解决学生的方法，行为和情绪对学习过程中的在线编码比赛的影响。根据提交的时间和状态，提出了两个难度级别。在这项研究工作中，难度水平对基于机器学习的性能预测的影响。根据时间，编码解决方案提交有两个类别“少于15分钟”和“超过15分钟”。根据提交状态，有三个等级：“完全解决”、“部分解决”和“根本未提交”。为两个编码竞赛找到了在15分钟内提交解决方案的适当方法。针对上述分类问题训练和评估机器学习分类器。情绪，情绪和难度水平对学习过程的影响也进行了评估，通过比较两个编码比赛的机器学习模型的结果。
2022-09-26 cs.CY cs.HC cs.LG
Analysis of Online Toxicity Detection Using Machine Learning Approaches
Delhi Technological University（德里理工大学）
社交媒体和互联网已经成为人们传播和消费信息的一个组成部分。在一段时间内，社交媒体发生了巨大的变化，几乎一半的人口使用社交媒体表达他们的观点和意见。网络仇恨言论是当今社交媒体的弊端之一，需要加以控制。在本文中，我们将了解仇恨言论是如何起源的，以及它的后果是什么;机器学习算法解决在线仇恨言论问题的趋势。这项研究有助于提供一个系统的方法，以帮助研究人员确定一个新的研究方向，并阐明研究和模型的缺点，以及提供未来的方向，以推进该领域。
2021-04-23 cs.CL cs.CY cs.LG
Identifying At-Risk K-12 Students in Multimodal Online Environments: A Machine Learning Approach
TAL Education Group（好未来教育集团）
随着K-12在线学习平台的迅速崛起，开启了教育的新时代。至关重要的是要有一个辍学警告框架，以先发制人地确定K-12学生谁是在辍学的在线课程的风险。之前的研究人员专注于预测大规模开放式在线课程（MOOC）的辍学率，这些课程通常提供高等教育，即，顶尖院校的研究生课程。然而，很少有研究专注于为K-12在线课程的学生开发机器学习方法。在本文中，我们开发了一个机器学习框架，专门在K-12多模态在线环境中进行准确的风险学生识别。我们的方法考虑了K-12学生的在线和离线因素，旨在解决（1）多种模式的挑战，即，K-12在线环境涉及来自不同模态（诸如视频、语音等）的交互;（2）长度可变性，即，不同学习历史的学生;（3）时间敏感性，即，丢失可能性随时间变化;以及（4）数据不平衡，即，只有不到20%的K-12学生会选择退学。我们进行了广泛的离线和在线实验，以证明我们的方法的有效性。在我们的离线实验中，我们表明，与现实世界教育数据集上最先进的基线相比，我们的方法提高了辍学预测性能。在我们的在线实验中，我们在第三方K-12在线辅导平台上对我们的方法进行了两个月的测试，结果表明，超过70%的辍学学生被系统检测到。
2020-05-30 cs.CY cs.HC cs.LG
Online Adaptive Machine Learning Based Algorithm for Implied Volatility Surface Modeling
Northwestern University（西北大学）
在这项工作中，我们设计了一个基于机器学习的方法，在线自适应原始支持向量回归（SVR），隐含波动率表面（IVS）建模。该算法是在线原始核支持向量机的首次推导和实现。它具有增强功能，允许有效的在线自适应学习，通过嵌入本地适应度和预算维护的思想，在模式漂移时动态更新支持向量。对于算法加速，我们在现场可编程门阵列硬件中实现了其计算最密集的部分，在在线预测期间实现了CPU的132倍加速。使用E-mini S&P 500期权市场的日内报价数据，我们表明高斯核在调节支持向量的大小方面优于线性核，并且我们的经验IVS算法在模型复杂度和回归误差方面优于两种竞争的在线方法（我们的算法的平均绝对百分比误差高达13%）。在IVS网格的中心处获得最佳结果，因为其相邻支持向量的数量大于网格的边缘。敏感性分析也展示了如何超参数影响的错误率和模型的复杂性。
2018-06-07 cs.LG q-fin.CP stat.ML
Denoising Neural Machine Translation Training with Trusted Data and Online Data Selection
Google Research（谷歌研究院）
测量数据的领域相关性并识别或选择适合机器翻译（MT）的领域数据是一个研究得很好的主题，但去噪还没有。去噪涉及不同类型的数据质量，并试图减少数据噪声对MT训练，特别是神经MT（NMT）训练的负面影响。本文总结了域MT数据的测量和选择方法，并将其应用于去噪NMT训练。所提出的方法使用可信的数据和在线数据选择实现的去噪课程。该方法的内在和外在的评价表明，其显着的有效性NMT训练的数据与严重的噪音。
2018-08-31 cs.CL cs.LG stat.ML
Online and stochastic Douglas-Rachford splitting method for large scale machine learning
Fujitsu Research & Development Center（富士通研究开发中心）
本文提出在线和随机Douglas-Rachford分裂方法，用于大规模优化问题，证明其在在线和随机设置下的收敛性，并通过实验验证其有效性。
2016-12-21 cs.LG cs.NA math.NA
