On the Hyperparameter Loss Landscapes of Machine Learning Models: An Exploratory Study
School of Computer Science and Engineering, UESTC(电子科技大学计算机科学与工程学院);Department of Computer Science, University of Exeter(埃克塞特大学计算机科学系)
本研究构建并分析了1,500个超参数损失景观,发现不同模型、数据集和保真度下景观地形具有相似性,为理解超参数优化机制提供了新视角。
2024-05-24 cs.LG
MLPrE -- A tool for preprocessing and exploratory data analysis prior to machine learning model construction
The University of Texas MD Anderson Cancer Center(德克萨斯大学MD安德森癌症中心)
针对现有数据预处理工作流扩展性不足、难集成的问题,提出基于SparkDataFrames的可泛化轻量工具MLPrE,含69个处理阶段,支持多场景数据处理,可加速机器学习早期开发。
2025-10-29 cs.LG
Data Driven Exploratory Attacks on Black Box Classifiers in Adversarial Domains
University of Louisville(路易斯维尔大学)
虽然现代网络应用程序的目标是在文明水平上产生影响,但它们已经变得容易受到敌对活动的影响,下一次网络攻击可以采取任何形式,可以来自任何地方。攻击的规模和复杂性不断增加,促使人们需要一种数据驱动的解决方案,机器学习是许多网络安全系统的核心。机器学习在设计时并没有考虑到安全性,并且要求训练和测试数据遵循类似分布的平稳性的基本假设在对抗域中被违反。在本文中,对手的观点的分类为基础的系统,提出。基于形式化的对抗模型,提出了一个种子-探索-利用框架,用于模拟对分类器的数据驱动和逆向工程攻击的生成。在10个真实世界数据集上使用Google Cloud Prediction Platform进行的实验评估表明,分类器存在固有的脆弱性,并且在没有任何关于分类器类型,训练数据或应用领域的明确信息的情况下可以轻松进行规避。所提出的框架,算法和经验评估,作为一个白帽分析的漏洞,并旨在促进安全的机器学习框架的发展。
2017-03-23 cs.CR cs.LG stat.ML
An Exploratory Study into using Machine-Learning for Fast Step-by-step Emulation of Numerical Mechanical Thrombectomy Simulations for Ischemic Stroke
MSc Artificial Intelligence Master Thesis(人工智能硕士论文);Thijs Stessen;MSc. Thijs Kuipers(Thijs Kuipers);Dr. Simone Saitta(Simone Saitta)
本研究探索使用机器学习替代模型逐步加速机械取栓数值仿真,在简化抽吸过程中实现显著加速,但复杂几何下的长期稳定性不足。
2026-05-30 cs.CE cs.LG physics.comp-ph
Unsupervised Machine Learning for Exploratory Data Analysis of Exoplanet Transmission Spectra
University of Florida(佛罗里达大学)
凌日光谱学是一个强大的工具,解码太阳系外行星大气的化学成分。在本文中,我们专注于无监督技术分析光谱数据从过境系外行星。我们展示了i)清理和验证数据的方法,ii)基于汇总统计的初步探索性数据分析(位置和可变性的估计),iii)探索和量化数据中现有的相关性,iv)预处理数据并将其线性转换为其主成分,v)降维和流形学习,vi)聚类和异常检测,vii)数据的可视化和解释。为了说明所提出的无监督方法,我们使用一个众所周知的公共基准数据集的合成过境光谱。我们发现,有一个高度的相关性的光谱数据,这需要适当的低维表示。我们探索了一些不同的技术,这样的降维,并确定几个合适的选项,在汇总统计,主成分等方面,我们发现有趣的结构在主成分的基础上,即定义明确的分支对应于不同的化学制度的底层大气。我们证明,这些分支可以成功地恢复与K-均值聚类算法在完全无监督的方式。我们主张在前三个主成分方面对光谱数据进行三维表示,以揭示数据中的现有结构并快速表征行星的化学类别。
2022-01-07 astro-ph.EP cs.LG physics.data-an
Exploratory Grasping: Asymptotically Optimal Algorithms for Grasping Challenging Polyhedral Objects
UC Berkeley(加州大学伯克利分校)
最近有大量的工作是关于学习通用抓取策略的数据驱动算法。然而,这些策略可能始终无法抓取明显超出训练数据中的对象分布或具有非常少的高质量抓取的挑战性对象。出于这样的对象,我们提出了一个新的问题设置,探索性把握,有效地发现可靠的把握一个未知的多面体对象通过顺序把握,释放,和推翻。我们形式化的探索性抓取作为一个马尔可夫决策过程,研究探索性抓取的理论复杂性的背景下,强化学习,并提出了一个有效的土匪风格的算法,土匪在线快速抓取探索策略(BORGES),它利用问题的结构,有效地发现高性能的把握每个对象的稳定姿态。BORGES可用于补充任何通用抓取算法与任何抓取方式(平行颚,吸力,多指等),以学习政策的对象,他们表现出持续的失败。模拟实验表明,BORGES可以显着优于通用抓取管道和其他两个在线学习算法,并在1000和8000的时间步长内平均在46个具有挑战性的对象从Dex-Net对抗和EGAD!对象数据集。最初的物理实验表明,BORGES可以在现实世界中仅用200次抓取尝试就将抓取成功率提高45%。有关补充材料和视频,请访问https://tinyurl.com/exp-grasping。
2020-11-12 cs.AI cs.LG cs.RO
An Exploratory Study of Blood Glucose Estimation from Photoplethysmography Signals using Machine Learning
Indraprastha Institute of Information Technology, Delhi(德里印度信息技术学院)
本研究利用智能手表PPG信号和CGM血糖数据构建机器学习模型,探索无创血糖估计的可行性,初步结果显示存在预测信号但需更多数据验证。
2026-06-16 cs.LG
An Exploratory Study of Masked Face Recognition with Machine Learning Algorithms
Winston-Salem State University(温斯顿-塞勒姆州立大学)
本研究针对戴口罩导致传统人脸识别性能下降的问题,采用六种传统机器学习算法结合LBP特征提取,基于多类口罩佩戴状态的数据集开展评估,覆盖更多算法与识别场景。
2023-06-14 cs.CV cs.LG
An Exploratory Study of Single Channel Surface Electromyography for Hand Gesture Classification
研究探索单通道表面肌电图结合轻量级机器学习架构对手势分类的可行性,通过转换信号为综合特征表示、减少特征冗余等,评估三种分类器,结果表明结合相关技术和紧凑型神经网络能达90%准确率,凸显其在低功耗手势识别应用中的潜力。
2026-07-20 cs.LG
Toward Storage-Aware Learning with Compressed Data An Empirical Exploratory Study on JPEG
School of Integrated Technology, Yonsei University, Seoul, Korea(燕子大学整合技术学院);BK21 Graduate Program in Intelligent Semiconductor Technology, Yonsei University, Seoul, Korea(燕子大学智能半导体技术研究生项目);Department of Mobile Systems Engineering, Dankook University, Yongin, Korea(Dankook大学移动系统工程系)
本文通过实证研究探讨了压缩数据在存储感知学习中的应用,揭示了样本对压缩的敏感性差异,并提出了样本级自适应压缩策略。
2025-12-23 cs.AI cs.LG
Generative Adversarial Networks for Black-Box API Attacks with Limited Training Data
Intelligent Automation, Inc.(智能自动化公司)
由于基于机器学习的在线系统通过应用程序编程接口(API)提供给公共或付费用户,因此它们容易受到频繁的利用和攻击。本文研究了在实际情况下,当API调用有速率限制时的对抗性机器学习。对手通过以下方式发起探索性(推理)攻击:用输入数据样本查询在线机器学习系统(特别是分类器)的API,收集返回的标签以建立训练数据,并训练功能上等效且统计上接近目标分类器的对抗性分类器。有限的训练数据的探索性攻击被证明无法可靠地推断出一个真实的文本分类器API,可在线向公众提供的目标分类器。作为回报,构建基于深度学习的生成对抗网络(GAN)以从有限数量的真实训练数据样本生成合成训练数据,从而扩展训练数据并提高推断分类器的性能。探索性攻击通过基于从推断的分类器获得的置信度得分分别选择训练和测试数据样本,提供了发起因果攻击(旨在毒害训练过程)和逃避攻击(旨在欺骗分类器做出错误决策)的基础。这些具有小足迹的隐形攻击(使用少量API调用)使对抗机器学习在对手可用的训练数据有限的现实情况下变得实用。
2019-01-25 cs.CR cs.LG stat.ML
Who Wins the Race? (R Vs Python) - An Exploratory Study on Energy Consumption of Machine Learning Algorithms
Research in Intelligent Software \& Human Analytics (RISHA) Lab, Department of Computer Science \& Engineering Indian Institute of Technology Tirupati, India;Accenture Labs, India
针对机器学习(ML)能耗的环境影响研究空白,本文通过实证比较Python和R两种语言在5个回归和5个分类任务中的能耗及运行时性能,发现95%案例中能耗差异显著,语言选择对能效影响高达99.8%,旨在提升对ML语言能耗成本的认知。
2025-08-24 cs.LG cs.PF cs.PL
Unknown Examples & Machine Learning Model Generalization
在过去的几十年里,研究人员和ML从业者已经提出了越来越好的方法来构建,理解和提高ML模型的质量,但大多数情况下都假设训练数据与测试数据分布相同。然而,在许多现实世界的应用中,由于样本选择偏差,或者更一般地,由于协变量偏移,一些潜在的训练样本对于建模者是未知的,即,培训和部署阶段之间的分布偏移。训练分布和测试分布之间的差异导致ML模型的泛化性能较差,从而导致预测有偏差。我们提供了新的算法,估计这些未知的训练样本-未知的未知数的数量和属性。然后,在看到任何测试数据之前,可以使用该信息来校正训练集。其核心思想是将物种估计技术与数据驱动的方法相结合,用于估计未知未知的特征值。在各种ML模型和数据集上的实验表明,考虑未知示例可以产生更强大的ML模型,从而更好地泛化。
2019-10-11 cs.LG stat.ML
An Exploratory Study on Simulated Annealing for Feature Selection in Learning-to-Rank
University of Dhaka(达卡大学)
本文探索了模拟退火在学习排序特征选择中的应用,通过引入进度参数等新策略优化搜索空间遍历,并在五个基准数据集上验证了其优于局部束搜索的有效性。
2023-10-20 cs.AI cs.IR cs.LG
Exploring the Edges of Latent State Clusters for Goal-Conditioned Reinforcement Learning
Rutgers University(罗格斯大学)
针对无监督目标条件强化学习中的探索难题,提出簇边缘探索算法,通过潜在空间聚类并优先选择可达边界目标,在多个机器人环境中显著提升探索效率。
2024-11-03 cs.AI cs.LG cs.RO
Multi-Objective Genetic Programming Projection Pursuit for Exploratory Data Modeling
对于分类问题,特征提取是一个关键的过程,其目的是找到一个合适的数据表示,提高机器学习算法的性能。根据维数灾难定理,分类任务所需的样本数量随着维度(变量,特征)数量的增加而呈指数级增加。另一方面,收集、存储和处理数据的成本很高。此外,不相关和冗余的特征可能会阻碍分类器的性能。在探索性分析设置中,高维度阻止用户可视化地探索数据。特征提取是一个两步过程:特征构造和特征选择。特征构造是在原始特征的基础上创建新的特征,而特征选择是选择最佳特征的过程,如过滤器、包装器和嵌入方法。在这项工作中,我们专注于功能的建设方法,旨在减少数据的可视化任务的维数。人们提出了各种线性(如主成分分析(PCA)、多判别分析(MDA)、探索性投影寻踪)和非线性(如多维尺度(MDS)、流形学习、核PCA/LDA、进化构造性归纳)技术来进行降维。我们的算法是一个自适应的特征提取方法,其中包括进化的建设性归纳的特征建设和混合过滤器/包装方法的特征选择。
2010-10-10 cs.LG cs.NE
Exploratory Analysis of Cyberattack Patterns on E-Commerce Platforms Using Statistical Methods
York St John University(约克圣约翰大学)
本研究提出融合统计建模与集成学习的混合框架,基于VCDB数据分析电商平台网络攻击模式,发现节假日攻击更严重,且CatBoost模型在预测分类中表现最佳,为主动网络安全资源分配提供依据。
2025-11-04 cs.AI cs.CR cs.LG
Asia Cup 2025: A Structured T20 Match-Level Dataset and Exploratory Analysis for Cricket Analytics
Department of Applied Mathematics and Computer Science, University of Isfahan(伊斯法罕大学应用数学与计算机科学系);Institute of Mathematics and Computer Science, University of Sindh(信德大学数学与计算机科学学院)
本文提出一个结构化的T20板球赛事数据集,用于支持板球分析和预测建模的研究。
2025-12-17 cs.DB cs.LG stat.OT
Exploratory Landscape Analysis is Strongly Sensitive to the Sampling Strategy
Thales Research & Technology(泰雷兹研究与技术公司);CNRS(法国国家科学研究中心);École Polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎理工学院);Sorbonne Université(索邦大学)
探索性景观分析(ELA)支持监督学习方法自动算法选择和配置,通过提供一组功能,量化最相关的特征的优化问题。在黑盒优化中,没有明确的问题表示,特征值需要从少量的样本点近似。在实践中,均匀采样的随机点集和拉丁超立方体结构是常用的采样策略。在这项工作中,我们分析了采样方法和样本大小如何影响特征值近似的质量,以及这种质量如何影响标准分类任务的准确性。虽然,并不意外,增加样本点的数量提供了更强大的估计的特征值,我们惊讶地发现,不同的采样策略的特征值近似不收敛到相同的值。这意味着近似的特征值不能独立于底层采样策略来解释。正如我们的分类实验所示,这也意味着用于训练分类器的特征近似必须源于与用于实际分类任务的相同的采样策略。作为一个侧面的结果,我们表明,用Sobol序列近似的特征值训练的分类器比任何标准采样技术都具有更高的准确性。这可能表明ELA训练的机器学习模型的改进潜力。
2020-06-19 cs.LG cs.NE stat.ML
Suppressing unknown disturbances to dynamical systems using machine learning
University of Colorado at Boulder(科罗拉多大学博尔德分校);Trinity College(三一学院)
本文提出一种无模型方法,仅利用已知强迫函数下的历史观测数据,即可识别并抑制未知动力系统中的未知扰动,并在模拟混沌电路及数值示例中验证了其有效性。
2024-08-21 cs.LG cs.SY eess.SY
Exploratory Analysis of Federated Learning Methods with Differential Privacy on MIMIC-III
University Zurich(苏黎世大学);University Hospital of Zurich(苏黎世大学医院)
背景资料:联邦学习方法提供了在隐私敏感数据集上训练机器学习模型的可能性,这些数据集不能轻易共享。多项法规对医疗保健数据的存储和使用提出了严格的要求,导致数据处于孤岛中(即锁定在医疗保健设施中)。在这些数据集上应用联邦算法可以加速疾病诊断,药物开发以及改善患者护理。研究方法:我们提出了一个广泛的评估不同的联邦和差分隐私技术的影响时,培训模型的开源MIMIC-III数据集。我们分析了影响联邦模型性能的一组参数,即数据分布(同质和异构)、通信策略(通信回合与本地训练时期)、联邦策略(FedAvg与FedProx)。此外,我们评估和比较两个差分隐私(DP)技术在模型训练:基于随机梯度下降的差分隐私算法(DP-SGD),和稀疏向量差分隐私技术(DP-SVT)。结果如下:我们的实验表明,当使用FedAvg策略进行训练时,跨站点的极端数据分布(患者数量或站点之间的阳性标签比率不平衡)会导致模型性能恶化。使用FedProx并使用适当的超参数调优时,此问题得到解决。此外,结果表明,这两种差分隐私技术可以达到类似于那些没有DP训练的模型的模型性能,但在大量的可量化的隐私泄漏的代价。结论:我们经验评估的好处,两个联邦战略,并提出最佳策略的参数选择时,使用差分隐私技术。
2023-02-08 cs.LG stat.ML
Active Deep Learning Attacks under Strict Rate Limitations for Online API Calls
Intelligent Automation, Inc.(智能自动化公司)
机器学习已应用于广泛的应用程序,其中一些可作为免费(试用)或付费订阅的应用程序编程接口(API)在线提供。在本文中,我们以在线分类器API的后台攻击形式研究对抗性机器学习。我们从基于深度学习的探索(推理)攻击开始,其目的是构建一个分类器,该分类器可以提供与目标分类器相似的分类结果(标签)。为了最小化推断分类器和目标分类器返回的标签之间的差异,我们证明了基于深度学习的探索性攻击需要大量标记的训练数据样本。这些标签可以通过调用在线API来收集,但通常对允许的API调用数量有严格的速率限制。为了减轻有限训练数据的影响,我们开发了一种主动学习方法,首先基于少量API调用构建分类器,并使用该分类器选择样本以进一步收集其标签。然后,使用更多的训练数据样本构建新的分类器。这个更新过程可以重复多次。我们表明,这种主动学习方法可以建立一个对抗分类器与目标分类器的统计差异很小,只使用有限数量的训练数据样本。我们进一步考虑规避和使役(中毒)攻击的基础上推断的分类器,是由探索性攻击。规避攻击确定目标分类器可能错误分类的样本,而因果攻击提供错误的训练数据样本以降低重新训练的分类器的可靠性。这些攻击的成功表明,对抗性机器学习在训练数据有限的现实情况下成为一种可行的威胁。
2018-11-05 cs.CR cs.LG stat.ML
Quantifying Unknown Quantum Entanglement via a Hybrid Quantum-Classical Machine Learning Framework
Tsinghua University(清华大学);Yanqi Lake Beijing Institute of Mathematical Sciences and Applications(北京雁栖湖应用数学研究院)
本文提出混合量子-经典机器学习框架,通过训练最优局域测量生成关联数据,实现与基于矩方法相当的未知量子纠缠量化性能,表明近期量子设备上可行。
2022-04-25 cs.LG quant-ph
Application of Machine Learning in Stock Market Forecasting: A Case Study of Disney Stock
该研究以迪士尼股票为案例,基于750条记录和16项属性完成EDA、特征工程、数据准备与模型比较,并结合Fama French三因子模型,发现线性回归表现最佳。
2023-12-31 cs.LG q-fin.ST stat.AP
Identification of release sources in advection-diffusion system by machine learning combined with Green function inverse method
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
对流扩散输运源的识别通常基于针对可用状态变量数据记录求解复杂的不适定逆模型。然而,如果有几个源具有不同的位置和强度,数据记录代表混合物,而不是原始源的单独影响。重要的是,这些原始释放源的数量通常是未知的,这阻碍了经典的反模型分析的可靠性。为了解决这一挑战,我们在这里提出了一种新的混合方法来识别未知数量的释放源。我们的混合方法,称为HNMF,耦合无监督学习的基础上非负矩阵分解(NMF)和逆分析格林函数方法。HNMF协同执行记录的混合物的分解,找到未知源的数量,并使用对流扩散方程的格林函数来识别它们的特性。在本文中,我们介绍的方法,并证明它是能够识别的平流速度和介质的色散度以及未知的数量,位置和属性的各种集合的合成释放源具有不同的空间和时间的依赖性,仅基于记录的数据。HNMF可以直接应用于由偏微分抛物方程控制的任何问题,其中在多个位置测量未知数量的源的混合物。
2018-03-23 cs.LG stat.ML
iML: Executable, Problem-Grounded, and Broadly Exploratory Code-Driven AutoML
Faculty of Information Technology, VNU University of Engineering and Technology(信息科技学院,越南工程与技术大学)
提出iML多智能体框架,通过任务分析、数据剖析、结构化蓝图生成和模块化代码合成,实现可执行、问题驱动且广泛探索的代码驱动AutoML,在MLE-BENCH和iML-BENCH上显著优于基线。
2026-05-30 cs.LG cs.SE
Unknown Unknowns: Model Misspecification in Machine Learning for Physics
Universidad de Sevilla(塞维利亚大学);Flatiron Institute(弗拉蒂伦研究所);Institute for Advanced Study(高等研究院);University of Wisconsin–Madison(威斯康星大学麦迪逊分校);SLAC National Accelerator Laboratory(SLAC国家加速器实验室)
本文针对面向物理学的机器学习中的模型误设问题,探讨其挑战、检测与缓解策略,指出需通过互补诊断迭代优化模型,强调对未知未知的稳健性源于怀疑自身模型的态度。
2026-08-17 astro-ph.CO astro-ph.GA cs.LG
Open-Set Support Vector Machines
University of Campinas(坎皮纳斯大学);University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
通常,在处理现实世界的识别问题时,我们不需要,也不可能拥有在操作测试期间可能出现的整个可能类集合的知识。在这种情况下,我们需要考虑能够处理“未知”的鲁棒分类方法,并适当地拒绝属于训练期间从未见过的类别的样本。尽管如此,迄今为止现有的分类器大多是为封闭集情景开发的,即,分类设置,其中假设所有测试样本属于训练分类器的类别之一。然而,在开集场景中,测试样本可以不属于任何已知类,并且分类器必须通过将其分类为未知来正确拒绝它。在这项工作中,我们扩展了著名的支持向量机(SVM)分类器,并介绍了开集支持向量机(OSSVM),这是适合于识别开集设置。OSSVM平衡了经验风险和未知风险,并确保测试样本被分类为已知(已知类别之一)的特征空间区域始终有界,从而确保未知风险有限。在这项工作中,我们还强调了与开集场景相关的SVM分类器的属性,并提供了RBF SVM具有有界开空间风险的充分必要条件。
2022-02-21 cs.LG stat.ML
A False Sense of Security? Revisiting the State of Machine Learning-Based Industrial Intrusion Detection
RWTH Aachen University(亚琛工业大学);Fraunhofer FKIE(弗劳恩霍夫通信、信息处理与人机工程研究所)
基于异常的入侵检测通过对系统行为进行建模,并在出现异常时发出相应的警报,从而检测出对工业控制系统的新型或未知攻击。由于人工创建这些行为模型既繁琐又容易出错,因此研究重点集中在机器学习上,自动训练这些行为模型,检测率达到99%以上。然而,这些方法通常不仅在良性流量上训练,而且在攻击上训练,然后针对用于训练的相同类型的攻击进行评估。因此,它们在未知(未接受过训练)攻击上的实际真实表现仍不清楚。反过来,报告的基于机器学习的入侵检测近乎完美的检测率可能会产生虚假的安全感。为了评估这种情况并阐明基于机器学习的工业入侵检测的真正潜力,我们开发了一种评估方法,并从文献中检查了多种方法对未知攻击的性能(排除在训练之外)。我们的研究结果强调了检测未知攻击的无效性,对于某些类型的攻击,检测率下降到3.2%至14.7%之间。展望未来,我们提出了对基于机器学习的方法进行进一步研究的建议,以确保其检测未知攻击的能力的清晰度。
2022-05-18 cs.CR cs.LG
Deep-ELA: Deep Exploratory Landscape Analysis with Self-Supervised Pretrained Transformers for Single- and Multi-Objective Continuous Optimization Problems
Paderborn University(帕德博恩大学);TU Dresden(德累斯顿工业大学);ScaDS.AI Dresden/Leipzig(德累斯顿/莱比锡数据科学与人工智能中心);University of Twente(特文特大学)
针对ELA特征存在强相关性且难以用于多目标优化的问题,提出混合方法Deep-ELA,通过在数百万随机生成的优化问题上预训练四个Transformer学习景观深度表征,开箱即用或微调用于单/多目标连续优化问题的分析与算法行为理解。
2024-07-29 cs.LG
Foundations of Unknown-aware Machine Learning
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文针对开放世界中机器学习模型的分布偏移与未知类别问题,构建未知感知学习的算法与理论基础,提出多种离群点合成与OOD检测方法,并拓展至基础模型的安全可靠性优化,推动AI系统以低人力成本提升可靠性。
2025-05-20 cs.LG
Comparative Analysis of Quantum and Classical Support Vector Classifiers for Software Bug Prediction: An Exploratory Study
University of Saskatchewan(萨斯喀彻温大学);University of Prince Edward Island(爱德华王子岛大学)
本研究探讨了量子支持向量分类器(QSVC和PQSVC)在14个开源项目中检测有缺陷软件提交的应用,提出数据集划分、预测聚合和增量测试方法以克服量子特征映射挑战,证明了QML在缺陷预测中的有效性。
2025-01-08 cs.LG cs.SE
Towards Explainable Exploratory Landscape Analysis: Extreme Feature Selection for Classifying BBOB Functions
Thales Research & Technology(泰雷兹研究与技术公司);École Polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎理工学院);CNRS(法国国家科学研究中心);Sorbonne Université(索邦大学)
在机器学习(ML)的最新进展的推动下,优化算法的自动化设计目前正在动摇演化计算(EC)。在手工挑选的指导方针,选择一个最合适的启发式设计长期以来一直主导着该领域的研究活动,自动训练的启发式现在被认为优于人类派生的选择,即使是研究充分的优化任务。因此,基于ML的电子商务不再是未来的愿景,而是我们社会不可或缺的一部分。基于ML的逻辑学经常面临的一个关键批评是它们可能缺乏可解释性,这可能会阻碍未来的发展。这特别适用于监督学习技术,该技术基于探索性景观分析(ELA)来推断算法的性能。在这样的应用程序中,使用几十个问题特征来构建特定算法选择或配置任务的模型并不罕见。我们在这项工作中的目标是分析是否确实需要这么多功能。使用分类的BBOB测试功能作为测试床,我们表明,一个令人惊讶的小数目的功能-往往少于4-就足以达到98%的准确率。有趣的是,发现满足此阈值所需的特征数量随着问题维度的增加而减少。我们表明,分类精度转移到设置中,其中几个实例参与训练和测试。然而,在leave-one-instance-out设置中,分类精度显著下降,并且特征的变换不变性成为决定性的成功因素。
2021-02-01 cs.LG cs.NE
OpenCML: End-to-End Framework of Open-world Machine Learning to Learn Unknown Classes Incrementally
Computer Science and Engineering(计算机科学与工程);Jaypee University of Engineering and Technology(贾伊佩大学工程与技术);Computer Engineering(计算机工程);SVKM’S NMIMS STME
OpenCML通过开放世界机器学习框架实现增量学习未知类别的端到端方法,提升了持续学习的性能和准确性。
2025-11-23 cs.LG
CWD: A Machine Learning based Approach to Detect Unknown Cloud Workloads
Intel Corporation(英特尔公司);Intel Lab(英特尔实验室)
现代云数据中心的工作负载正变得越来越复杂。在过去几年中,云数据中心中运行的工作负载数量呈指数级增长,云服务提供商(CSP)一直在实时支持按需服务。随着云环境和云工作负载日益复杂,英特尔和AMD等硬件供应商越来越多地在其CPU平台中引入特定于云的工作负载加速功能。这些功能通常针对流行和常用的云工作负载。尽管如此,不常见的、客户特定的工作负载(未知工作负载),如果其特征与常见工作负载(已知工作负载)不同,可能无法实现底层平台的潜力。为了解决实现底层平台的全部潜力的问题,我们开发了一种基于机器学习的技术来表征、分析和预测在云环境中运行的工作负载。我们的技术的实验评估表明,良好的预测性能。我们还开发了以独立方式分析模型性能的技术。
2022-11-28 cs.DC cs.LG
VPI-Mlogs: A web-based machine learning solution for applications in petrophysics
Vietnam Petroleum Institute(越南石油研究院)
针对岩石物理学领域的机器学习应用需求,越南石油研究院推出基于Web的VPI-MLogs平台,集成数据处理、分析、可视化及模型执行功能,助力测井数据处理与专业知识落地。
2024-10-06 cs.LG
A survey on datasets for fairness-aware machine learning
Leibniz University Hannover(汉诺威莱布尼茨大学);Carnegie Mellon University(卡内基梅隆大学);Free University Berlin(柏林自由大学)
随着决策越来越依赖于机器学习(ML)和(大)数据,数据驱动的人工智能(AI)系统中的公平性问题越来越受到研究和行业的关注。已经提出了各种各样的公平性感知机器学习解决方案,其涉及数据、学习算法和/或模型输出中的公平性相关干预。然而,提出新方法的一个重要部分是在代表现实和多样化环境的基准数据集上进行经验评估。因此,在本文中,我们概述了用于公平感知机器学习的真实世界数据集。我们专注于表格数据作为公平感知机器学习最常见的数据表示。我们通过识别不同属性之间的关系来开始分析,特别是w.r.t.。保护属性和类属性,使用贝叶斯网络。为了更深入地了解数据集中的偏差,我们使用探索性分析来研究有趣的关系。
2022-01-21 cs.LG
Learning Models for Shared Control of Human-Machine Systems with Unknown Dynamics
Northwestern University(西北大学);Rehabilitation Institute of Chicago(芝加哥康复研究所)
我们提出了一种新的方法来共享控制的人机系统。我们的方法假设没有系统动力学的先验知识。相反,我们通过使用Koopman算子从观察中学习用户交互的动态和信息。使用学习的模型,我们定义了一个优化问题来计算给定任务的最优策略,并将用户输入与最优输入进行比较。我们证明了我们的方法与用户研究的有效性。当演示数据来自用户自己的交互、一组用户的交互和领域专家时,我们还通过比较我们方法的有效性来分析学习模型的个体性质。积极的结果包括统计上的显着改善任务指标比较时,我们的共享控制模式的用户控制模式。令人惊讶的结果包括一些发现,这些发现表明,基于用户自己的数据对模型进行个性化并不会影响学习有用的动态系统的能力。我们将在讨论中进一步探讨这种紧张关系,因为它与开发人在环系统有关。
2018-08-24 cs.LG cs.RO
Deep Learning based Uncertainty Decomposition for Real-time Control
Technical University of Munich(慕尼黑工业大学);Vanderbilt University(范德堡大学)
本文提出一种基于深度学习的训练数据缺失检测方法,将其作为认知不确定性代理,可与偶然不确定性估计结合并实现无采样实时推理,且在模拟四旋翼飞行器上验证了在线数据高效控制效果。
2023-07-12 cs.AI cs.LG cs.RO
Achieving Open Vocabulary Neural Machine Translation with Hybrid Word-Character Models
Stanford University(斯坦福大学)
几乎所有以前关于神经机器翻译(NMT)的工作都使用了非常有限的词汇表,也许还有一种后续的方法来修补未知的单词。本文提出了一种新的词-字解决方案,以实现开放的词汇NMT。我们构建了混合系统,主要在单词级别进行翻译,并为罕见单词咨询字符组件。我们的字符级递归神经网络计算源单词表示,并在需要时恢复未知的目标单词。这种混合方法的双重优势是,它比基于字符的方法更快、更容易进行训练;同时,它永远不会像基于单词的模型那样产生未知单词。在WMT'15英语到捷克语的翻译任务中,这种混合方法比已经处理未知单词的模型提供了+2.1-11.4 BLEU点的额外提升。我们最好的系统达到了20.7 BLEU分数的最新结果。我们证明,我们的字符模型可以成功地学习,不仅生成格式良好的单词捷克语,一个高度曲折的语言,一个非常复杂的词汇,但也建立正确的表示英语源单词。
2016-06-23 cs.CL cs.LG