Scikit-Multiflow: A Multi-output Streaming Framework
Télécom ParisTech(巴黎高等电信学院);Université Paris-Saclay(巴黎-萨克雷大学);École Polytechnique(巴黎综合理工学院);CNRS(法国国家科学研究中心);National University of Singapore(新加坡国立大学)
Scikit-multiflow是Python程序设计语言的多输出/多标签和流数据采掘框架。设想作为一个平台,鼓励流学习研究的民主化,它提供了流学习,流生成器和评估器的多种最先进的方法。scikit-multiflow建立在流行的开源框架之上,包括scikit-learn,MOA和MEKA。开发遵循FOSS原则,质量通过遵循PEP 8指导方针并使用持续集成和自动测试来加强。源代码可在https://github.com/scikit-multiflow/scikit-multiflow上公开获得。
2018-07-12 cs.LG stat.ML
Deep anytime-valid hypothesis testing
University of Amsterdam(阿姆斯特丹大学);Carnegie Mellon University(卡内基梅隆大学)
本文提出一个通用的深度任意时刻有效假设检验框架,通过抽象零假设定义和 testing-by-betting 博弈论方法,利用机器学习模型表示能力实现在线序贯检验,在控制第一类错误的同时自适应样本量,并在多个任务上取得与专用基线相当的实证效果。
2023-10-30 cs.LG stat.ML
Peeking with PEAK: Sequential, Nonparametric Composite Hypothesis Tests for Means of Multiple Data Streams
Cornell Tech(康奈尔理工学院)
提出基于赌博框架的非参数序贯检验方法PEAK,用于多数据流均值复合假设检验,在保证第一类错误控制的同时显著减少样本量并降低计算复杂度。
2024-06-02 cs.LG stat.ME stat.ML
Robust Imitation Learning for Automated Game Testing
Sony Interactive Entertainment Europe(索尼互动娱乐欧洲)
提出EVOLUTE架构,结合BC与EBM处理连续和离散动作,在游戏中实现高效自动化测试。
2024-01-09 cs.LG
Standardized Evaluation of Machine Learning Methods for Evolving Data Streams
University of Tuebingen(图宾根大学)
由于数据流的不确定性和动态性,在线机器学习需要强大而灵活的解决方案。然而,在现实条件下评估在线机器学习方法是困难的。因此,现有的工作往往利用不同的分析和模拟,不一定产生有意义的和可靠的结果。事实上,在缺乏共同评价标准的情况下,在线学习方法在实践中或与类似工作相比将如何发挥作用往往仍不清楚。在本文中,我们提出了一个全面的高质量的机器学习在不断变化的数据流的属性。特别是,我们讨论了合理的性能指标和在线预测建模,在线特征选择和概念漂移检测的评价策略。作为第一批作品之一,我们还研究了在线学习方法的可解释性。建议的评估标准在一个名为float的新Python框架中提供。Float是完全模块化的,允许同时集成通用库,如scikit-multiflow或river,以及自定义代码。Float是开源的,可以在https://github.com/haugjo/float上访问。从这个意义上说,我们希望我们的工作将有助于在线机器学习方法的更标准化,可靠和现实的测试和比较。
2022-04-28 cs.LG stat.ML
Active Hypothesis Testing for Correlated Combinatorial Anomaly Detection
School of Mathematical Sciences, Tongji University, Shanghai, P.R. China(同济大学数学科学学院)
ECC-AHT通过主动噪声抵消技术,在相关噪声环境下实现高效的组合异常检测
2026-01-24 cs.LG
Learning to Adapt to Online Streams with Distribution Shifts
The Pennsylvania State University(宾夕法尼亚州立大学);Google Research(谷歌研究院)
测试时自适应(Test-time adaptation,TTA)是一种通过在推理过程中利用未标记的测试数据来减少训练集和测试集之间的分布差距的技术。在这项工作中,我们将TTA扩展到一个更实际的场景,其中测试数据以在线流的形式出现,随着时间的推移会经历分布偏移。现有的方法面临着两个挑战:依赖于一个大的测试数据批次从同一个域和没有明确建模的连续分布演化过程。为了解决这两个挑战,我们提出了一种元学习方法,该方法可以在元训练期间教会网络适应分布变化的在线流。因此,训练后的模型可以在测试中对分布偏移进行连续自适应,而不管批量大小限制如何,正如它在训练期间所学习的那样。我们对TTA的基准数据集进行了广泛的实验,结合了广泛的在线分布转移设置。我们的研究结果表明,与最先进的方法相比,我们的方法得到了一致的改进,这表明了我们方法的有效性。此外,我们在视频分割任务中取得了优异的性能,突出了我们的方法在现实世界中的应用潜力。
2023-03-02 cs.LG
A Tale of Two Lexica Testing Computational Hypotheses with Deep Convolutional Neural Networks
Massachusetts General Hospital(麻省总医院)
Gow(2012)的双词汇模型表明,单词的主要目的是调解声学语音输入和其他形式的语言表征之间的映射。从功能成像,失语症和行为的结果的证据的动机,该模型认为存在两个平行的词形存储:背侧和腹侧处理流。在本文中,我们测试的假设,复杂的,但系统的映射之间的声音和发音的背流构成不同的计算压力的功能集比更任意的映射之间的声音和意义。为了验证这一假设,我们创建了两个深度卷积神经网络(CNN)。当背侧网络被训练来识别单个口语单词时,腹侧网络被训练来将它们映射到语义类别。然后,我们从每个网络的倒数第二个级别提取网络激活模式,并测试网络生成的功能如何支持与背侧和腹侧处理流相关的语言分类的泛化。我们的初步结果表明,两个模型都成功地学习了它们的任务。二次泛化测试表明,腹侧CNN优于背侧CNN的语义任务:具体性分类,而背侧CNN优于腹侧CNN的发音任务:分类的起始音素类和音节长度。这些结果是一致的假设,腹侧和背侧处理流的不同处理需求施加计算压力的发展多个词汇。
2021-04-13 cs.CL cs.LG
Testing the Quantitative Spacetime Hypothesis using Artificial Narrative Comprehension (I) : Bootstrapping Meaning from Episodic Narrative viewed as a Feature Landscape
提取重要的和有意义的部分的感官数据流,没有事先训练的问题,研究了符号序列,通过使用文本叙事作为测试用例。这是一个更大的研究的一部分,涉及从时空过程中提取概念,以及它们在混合符号学习“人工智能”中的知识表示。大多数文本分析方法都广泛使用人类进化的语言和语义感。在这项工作中,流解析没有语义的知识,只使用可测量的模式(大小和时间)内不断变化的符号流-作为一个事件的“事件”。这是干涉测量的一种形式。使用轻量级的程序,可以在几秒钟内运行在一个单一的CPU上,这项工作研究的有效性的语义时空假设,提取的概念作为过程不变量。然后,这种“语义预处理器”可以充当更复杂的长期基于图的学习技术的前端。结果表明,我们认为重要和有趣的感官体验不仅仅是基于更高的推理,而是基于简单的时空过程线索,这可能是认知过程在开始时如何引导的。
2020-09-23 cs.AI cs.LG
Anomaly Detection in Hierarchical Data Streams under Unknown Models
Cornell University(康奈尔大学);University of California, Davis(加利福尼亚大学戴维斯分校)
我们考虑的问题中检测大量的分层数据流中的几个目标。数据流被建模为具有未知和潜在重尾分布的随机过程。我们的目标是一个积极的推理策略,确定,顺序,收集样本的数据流,以尽量减少样本的复杂性下的可靠性约束。我们提出了一种主动推理策略,诱导有偏随机游走的树结构的层次结构的基础上的样本统计量的置信界。然后,我们根据搜索空间的大小(即,数据流的数量)和可靠性要求。结果发现应用在分层重击检测,嘈杂的群体测试,自适应采样的主动学习,分类和随机根查找。
2017-09-11 cs.LG
scikit-dyn2sel -- A Dynamic Selection Framework for Data Streams
Pontifícia Universidade Católica do Paraná (PUCPR)(巴拉那天主教大学);Université de Rouen Normandie(鲁昂诺曼底大学)
挖掘数据流本身就是一个挑战。它必须准备好处理大量数据和批量机器学习中不存在的问题,例如概念漂移。因此,应用批量设计的技术,如动态选择分类器(DCS)也提出了挑战。处理数据流的集合的动态特性给传统的DCS技术在此类分类器中的应用带来了障碍。scikit-dyn 2sel是一个开源Python库,专为流数据中的动态选择技术而定制。scikit-dyn 2sel的开发遵循代码质量和测试标准,包括PEP 8合规性和使用codecov.io和circleci.com的自动化高测试覆盖率。源代码、文档和示例可在GitHub上获得,网址为https://github.com/luccaportes/Scikit-DYN2SEL。
2020-08-17 cs.LG
Chain-Of-Thought Prompting Under Streaming Batch: A Case Study
Rice University(莱斯大学)
针对现有自动 CoT 方法假设测试数据预先可见的局限,本文通过案例研究探索流式设置下利用批处理数据构建与优化思维链提示的方法。
2023-06-01 cs.AI cs.CL cs.LG
Optimized Conformal Selection: Powerful Selective Inference After Data-Dependent Score Construction
McGill University(麦吉尔大学);Harvard University(哈佛大学)
针对保形推断中模型选择破坏数据可交换性的问题,提出OptCS框架,允许数据驱动优化模型后进行有效选择性推断,通过三种程序控制FDR,在模拟和实际应用中验证了有效性。
2026-10-22 cs.AI cs.LG stat.ME
Asynchronous Online Testing of Multiple Hypotheses
University of California, Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学)
我们考虑的问题,异步在线测试,旨在提供控制的错误发现率(FDR)在一个连续的数据流收集和测试,其中每个测试可能是一个顺序的测试,可以在任意时间开始和停止。这种设置越来越多地体现了科学和工业中的现实应用,大型组织的研究人员团队可以以分散的方式进行假设测试。时间和空间上的重叠也倾向于引起检验统计量之间的依赖性,这是对经典方法的挑战,经典方法要么假设(过于乐观地)检验统计量之间的独立性,要么假设(过于悲观地)任意依赖性。我们提出了一个通用的框架,通过一个统一的计算抽象,我们称之为“冲突集”,解决这两个问题。“我们展示了这个框架如何在一个更中间的、局部的依赖概念下产生具有正式FDR保证的算法。我们说明我们的算法在模拟中比较现有的在线FDR控制算法。
2020-08-21 cs.LG math.ST stat.ME
Nowcasting the Financial Time Series with Streaming Data Analytics under Apache Spark
Institute for Development and Research in Banking Technology(银行技术发展与研究所)
本文提出了使用Apache Spark的流分析功能以5分钟的间隔实时预测高频金融数据集。所提出的2阶段方法包括在第一阶段对混沌进行建模,然后在第二阶段使用滑动窗口方法用机器学习算法进行训练,即Lasso回归、岭回归、广义线性模型、梯度提升树和随机森林,这些算法在Apache Spark的MLLib中可用。为了测试所提出的方法的有效性,使用了3个不同的数据集,其中两个是股票市场,即国家证券交易所和孟买证券交易所,最后是一个比特币-INR转换数据集。为了评估所提出的方法,我们使用了对称平均绝对百分比误差,方向对称性和Theil U系数等指标。我们使用Diebold Mariano(DM)检验来检验每对模型的显著性。
2022-02-23 cs.CE cs.LG
The Query/Hit Model for Sequential Hypothesis Testing
National Yang Ming Chiao Tung University(国立阳明交通大学)
针对通信与隐私受限的流数据场景,本文提出Query/Hit序贯假设检验模型,刻画了误差指数,并设计了基于互信息神经估计的DSSA查询策略以高效选择查询,在合成与真实数据集上验证了其优于基线的检测性能。
2025-02-02 cs.IT cs.LG eess.SP
Pan-Private Uniformity Testing
Google New York(谷歌纽约);University of Pennsylvania(宾夕法尼亚大学)
集中式差分私有算法将原始数据映射到差分私有输出。相比之下,本地差异私有算法只能通过与数据持有者的公共交互来访问数据,并且这种交互必须是数据的差异私有函数。我们研究了泛隐私的中间模型。与本地私有算法不同,泛私有算法以明文方式接收数据。与集中私有算法不同,该算法每次接收一个元素的数据,并且在处理此流时必须维护差异私有内部状态。首先,我们证明了针对内部状态多重入侵的纯泛隐私等效于顺序交互的本地隐私。接下来,我们上下文泛隐私对一个单一的入侵,通过分析域$[k]$的一致性测试的样本复杂性。集中私有一致性测试具有样本复杂度$k$,而非交互式局部私有一致性测试具有样本复杂度$Θ(k)$ .我们证明了纯泛私有一致性检验的样本复杂度为$Θ(k^{2/3})$。通过一个新的$Ω(k)$下界的顺序交互设置,我们还分开泛私有顺序交互本地私有和多入侵泛私有一致性测试。
2020-07-17 cs.CR cs.DS cs.LG