Relaxations for inference in restricted Boltzmann machines
Stanford University(斯坦福大学)
我们提出了一种基于松弛的近似推理算法,采样近MAP配置的二进制成对马尔可夫随机场。我们在几个限制玻尔兹曼机上进行MAP推理任务的实验。我们还使用我们的底层采样器来估计限制玻尔兹曼机的对数配分函数,并与其他基于采样的方法进行比较。
2014-01-02 cs.LG stat.ML
From Models to Network Topologies: A Topology Inference Attack in Decentralized Federated Learning
Communication Systems Group, Department of Informatics, University of Zurich, CH--8050 Zürich, Switzerland(苏黎世大学信息学院通信系统组);Department of Information and Communications Engineering, University of Murcia, 30100--Murcia, Spain(穆尔西亚大学信息与通信工程系)
本研究揭示去中心化联邦学习(DFL)拓扑结构的隐私漏洞,提出仅基于模型行为的拓扑推理攻击,通过分类攻击策略、实验验证关键影响因素,证实该攻击可准确推断拓扑,为DFL隐私保护改进提供依据。
2025-08-25 cs.AI cs.LG
Featuring the topology with the unsupervised machine learning
The University of Tokyo(东京大学);Okinawa Institute of Science and Technology (OIST)(冲绳科学技术大学院大学)
线描图像一般由基本元素组成。表征图像的最基本的元素之一是拓扑;线段属于不同于闭合圆的类别,并且具有不同缠绕度的闭合圆是不等价的。我们使用无监督的机器学习来研究具有非平凡缠绕的图像。我们构建了一个自动编码器模型,结合了卷积和全连接神经网络。我们确认,从训练模型过滤的压缩数据保留超过90%的正确信息的拓扑结构,证明图像聚类的无监督学习功能的拓扑结构。
2019-08-01 cs.LG hep-th
ARTree: A Deep Autoregressive Model for Phylogenetic Inference
Peking University(北京大学)
提出基于图神经网络的深度自回归模型ARTree,通过分解树拓扑为叶节点添加序列并建模条件分布,实现无需启发式特征的系统发育推断,在真实数据基准上验证了有效性和效率。
2023-10-14 cs.LG q-bio.PE stat.ML
Sampling Bias Correction for Supervised Machine Learning: A Bayesian Inference Approach with Practical Applications
Local Maximum Labs(Local Maximum实验室)
给定一个有监督的机器学习问题,其中训练集受到已知的采样偏差的影响,如何训练模型来拟合原始数据集?我们通过贝叶斯推断框架,通过改变后验分布来解释抽样函数。然后,我们将此解决方案应用于二进制逻辑斯谛回归,并讨论了数据集可能会受到故意的样本偏差,如标签不平衡的情况。这种技术广泛适用于大数据的统计推断,从医学科学到图像识别再到营销。熟悉它将为从业者提供工具,以改进从数据收集到模型选择的推理管道。
2022-03-15 cs.LG stat.ML
Variational Autoencoder based Metamodeling for Multi-Objective Topology Optimization of Electrical Machines
Technical University Darmstadt(达姆施塔特工业大学);Robert Bosch GmbH(罗伯特·博世有限公司)
传统的电机静磁有限元分析方法计算量大、耗时长。由于每个机器拓扑结构都有一组不同的参数,设计优化通常是独立进行的。提出了一种利用变分自编码器将高维集成设计参数映射到低维潜空间中,同时预测不同参数电机拓扑关键性能指标(KPI)的新方法。在训练之后,经由潜在空间,解码器和多层神经网络将分别用作用于对新设计进行采样和预测相关联的KPI的元模型。这可以实现基于参数的并发多拓扑优化。
2022-04-07 cs.CE cs.LG
Causal Inference with the Instrumental Variable Approach and Bayesian Nonparametric Machine Learning
Arizona State University(亚利桑那州立大学);Medical College of Wisconsin(威斯康星医学院)
我们提供了一个新的灵活的推理框架与工具变量模型。而不是使用线性规格,函数表征的影响,文书和其他解释变量估计使用机器学习通过贝叶斯加性回归树(BART)。误差项及其分布推断使用狄利克雷过程混合物。仿真和实例表明,当真函数为线性时,损失很小。但是当存在非线性时,几乎不需要手动调谐就可以获得显著的改善。
2021-02-01 cs.LG stat.ML
Exact and Robust Conformal Inference Methods for Predictive Machine Learning With Dependent Data
我们将共形推理扩展到允许时间序列数据的一般设置。我们的建议是作为一个随机化的方法,并考虑到潜在的串行依赖,包括块结构的置换方案。因此,所提出的方法保留了准确的,无模型的有效性时,数据是独立同分布。或更一般地可交换的,类似于通常的共形推理方法。当交换失败,是常见的时间序列数据的情况下,所提出的方法是近似有效的一致性分数弱假设下。
2018-07-12 cs.LG stat.ML
Safeguarding Graph Neural Networks against Topology Inference Attacks
Stevens Institute of Technology(史蒂文斯理工学院);University of Connecticut(康涅狄格大学);East China Normal University(华东师范大学)
针对GNN拓扑隐私未被充分探索的问题,提出拓扑推理攻击(TIAs)揭示其脆弱性,进而设计双层优化的私有图重建(PGR)防御框架,有效减少拓扑泄漏且对模型准确性影响小。
2025-11-10 cs.CR cs.LG
Simplifying deflation for non-convex optimization with applications in Bayesian inference and topology optimization
Pumas-AI Inc.(Pumas-AI公司);The University of Sydney Business School(悉尼大学商学院);Department of Architecture, Massachusetts Institute of Technology(麻省理工学院建筑系(注:因要求机构粒度到大学级别,此处实际机构应为麻省理工学院))
非凸优化问题具有多个局部最优解。非凸优化问题在许多应用中很常见。最近提出的方法之一,有效地探索多个局部最优解,而无需随机重新初始化依赖于收缩的概念。本文讨论了放气在非凸优化和非线性系统求解中的不同使用方法。提出了一种简单、通用和新颖的放气约束,使放气与现有的非线性规划求解器或非线性系统求解器一起使用。提出的放气约束和最小距离约束之间的连接。此外,通货紧缩的限制和他们的局限性的变化进行了讨论。最后,一些应用所提出的方法在近似贝叶斯推理和拓扑优化领域。
2022-01-28 cs.LG math.OC stat.CO
From Latent Graph to Latent Topology Inference: Differentiable Cell Complex Module
Sapienza University of Rome(罗马第一大学);University of Oxford(牛津大学)
本文提出可微胞腔复形模块(DCM),通过潜在拓扑推断学习高阶胞腔复形,以端到端方式集成消息传递网络,在多类图数据集上表现优异,尤其在无输入图时提升显著。
2023-08-03 cs.AI cs.LG cs.NE
Topology Applied to Machine Learning: From Global to Local
通过使用的例子,我们解释了一种方式,其中应用拓扑学已经从2000年代初的持久同源性的诞生演变。拓扑学在数据上的首次应用强调了数据集的全局形状,例如自然图像中$3 \times 3$像素块的三圆模型,或者环辛烷分子的构型空间,它是一个球体,通过两个奇异圆连接着一个克莱因瓶。在这些全局形状的研究中,短的持续同源条被忽略为采样噪声。然而,最近,持久同源性已被用来解决有关数据的局部几何问题。例如,如何将局部几何矢量化以用于机器学习问题?持久同源性及其向量化方法,包括持久性景观和持久性图像,提供了将局部几何和全局拓扑结合到机器学习中的流行技术。我们的元假设是,对于许多机器学习任务来说,短条和长条一样重要。为了捍卫这一主张,我们调查的应用程序的持续同源形状识别,基于代理的建模,材料科学,考古学和生物学。此外,我们调查的工作连接持久的同源性空间的几何特征,包括曲率和分形维数,以及各种方法,已被用来将持久的同源性到机器学习。
2021-04-22 cs.LG math.AT
End-to-End Topology-Aware Machine Learning for Power System Reliability Assessment
Texas A&M University(德克萨斯农工大学)
传统的电力系统可靠性分析方法受到蒙特卡罗模拟法运行时间长和解析枚举法维数灾的影响。本文提出了一个端到端的机器学习直接预测的可靠性指标,例如,失载概率(LOLP)。通过将系统导纳矩阵编码到输入特征中,所提出的机器学习流水线可以考虑由于输电线路的定期维护而引起的特定拓扑变化的影响。两种模型(支持向量机和Boosting树)的训练和比较。还讨论了关于训练数据创建和预处理的细节。最后,在IEEE RTS-79系统上进行了实验。结果表明,所提出的端到端的机器学习管道的可靠性评估的适用性。
2022-05-30 cs.AI cs.LG physics.data-an
Identifying topology of leaky photonic lattices with machine learning
Nizhny Novgorod State University(下诺夫哥罗德国立大学);National University of Singapore(新加坡国立大学);RIKEN(理化学研究所);University of Michigan(密歇根大学);Australian National University(澳大利亚国立大学)
本研究提出一种仅靠体强度测量、无需相位恢复的机器学习方法,通过全连接神经网络基于泄漏二聚化波导阵列的输出强度判定拓扑相,可在有限测量数据下贴近真实实验条件实现准确分类。
2023-08-28 cs.LG physics.data-an physics.optics
AoiZora: Compiler-Agnostic, Placement-Aware Auto-Parallelization for Video Diffusion Transformers
Rice University(里士大学);Independent Researcher(独立研究者);Google(谷歌)
针对扩散变换器推理中的低延迟需求,提出AoiZora编译器,通过拓扑感知的物理布局优化自动并行策略,在TPU子片上实现高达1.42倍的加速。
2026-11-03 cs.DC cs.LG
Graph Attention Inference of Network Topology in Multi-Agent Systems
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
针对多智能体系统底层图结构难以识别的问题,提出利用注意力机制学习节点表示并依据注意力强度推断网络拓扑的数据驱动模型,在未知动力学下仍取得良好链路预测 F1 分数。
2024-10-26 cs.LG cs.MA
Inference of Regulatory Networks Through Temporally Sparse Data
Northeastern University(东北大学)
基因组学的一个主要目标是正确地捕获基因调控网络(GRNs)的复杂动力学行为。这包括推断基因之间的复杂相互作用,可用于广泛的基因组学分析,包括疾病的诊断或预后,以及寻找癌症等慢性疾病的有效治疗方法。布尔网络已经成为一类成功的模型,用于捕获GRN的行为。在大多数实际环境中,GRNs的推断应该通过有限的和时间稀疏的基因组数据来实现。GRNs中大量的基因导致了一个很大的可能拓扑候选空间,由于计算资源的限制,该拓扑候选空间通常不能被穷尽地搜索。本文提出了一种可扩展的和有效的拓扑推理的GRNs使用贝叶斯优化和基于核的方法。该方法不是对可能的拓扑进行穷举搜索,而是构造一个高斯过程(GP),该过程具有拓扑启发的核函数来考虑似然函数中的相关性。然后,使用GP模型的后验分布,贝叶斯优化有效地搜索具有最高似然值的拓扑结构,通过在探索和利用之间进行最佳平衡。所提出的方法的性能证明通过全面的数值实验,使用一个著名的哺乳动物细胞周期网络。
2022-07-21 cs.LG q-bio.MN stat.ME
TAGTorch: A PyTorch Library for Geometry, Topology, and Symmetry-Aware Machine Learning
Pacific Northwest National Laboratory(西北太平洋国家实验室);University of Texas at El Paso(德克萨斯大学埃尔帕索分校);University of Washington(华盛顿大学)
针对几何拓扑对称感知机器学习软件生态碎片化问题,推出基于PyTorch的开源库TAGTorch,统一相关工具并阐述其设计架构与未来开发重点。
2026-08-03 cs.LG
Large-scale kernelized GRANGER causality to infer topology of directed graphs with applications to brain networks
University of Rochester(罗切斯特大学);Ludwig Maximilian University(路德维希-马克西米利安大学)
具有协同演化和交互作用时间序列的网络过程的图拓扑推理是网络研究的关键。向量自回归模型(VAR)是有向图拓扑推断的常用方法,然而,在具有短时间序列的大型网络中,拓扑估计变得不适定。提出了一种新的非线性保持的有向网络拓扑推理方法,该方法解决了有向网络的不适定性问题。提出的大规模核化Granger因果关系(lsKGC)方法利用核函数将数据转换到低维特征空间,并在特征空间中求解自回归问题,然后在输入空间中寻找原像来推断拓扑。在具有非线性和线性依赖性以及已知地面实况的合成数据集上进行的广泛模拟表明,与现有方法相比,用于网络恢复的接收器操作特性的接收器操作特性曲线(AUC)下的面积有显着改善。此外,对来自功能性磁共振成像(fMRI)研究的真实数据集的测试表明,精神分裂症患者诊断任务的准确率为96.3%,这是仅使用大脑时间序列信息的文献中最高的。
2020-11-16 cs.CV cs.LG
Cycling Race Time Prediction: A Personalized Machine Learning Approach Using Route Topology and Training Load
BSc Computer Science (December 2025)(计算机科学学士(2025年12月))
本文提出一种基于路线拓扑和训练负荷的个性化机器学习方法,通过历史数据学习运动员性能模式,以预测骑行时间,实验表明结合体能指标能显著提高预测精度。
2026-01-07 cs.LG
Learning graph topology from metapopulation epidemic encoder-decoder
Faculty of Computer and Information Science, Ben-Gurion University of the Negev(本·古里安大学计算机与信息科学学院);Department of Life Sciences, Ben-Gurion University of the Negev(本·古里安大学生命科学系);The Goldman Sonnenfeldt School of Sustainability and Climate Change, Ben-Gurion University of the Negev(本·古里安大学可持续性与气候变化学院)
本文提出编码器-解码器模型,从时间序列数据中同时推断流行病参数和移动网络拓扑,提升疾病传播建模的准确性。
2026-03-02 cs.LG
Consistent machine learning for topology optimization with microstructure-dependent neural network material models
Delft University of Technology(代尔夫特理工大学);Princeton University(普林斯顿大学);Princeton Materials Institute (PMI), Princeton University(普林斯顿材料研究所(PMI),普林斯顿大学);Brown University(布朗大学)
针对含非线性的多尺度微结构结构拓扑优化难题,提出融合基于均匀化的拓扑优化与符合超弹性物理原理的一致性机器学习的框架,采用满足多凸性等物理约束的微结构依赖神经网络本构模型,提升有限变形下非均质超弹性结构设计优化效果。
2024-08-27 cond-mat.mtrl-sci cs.LG cs.NA
Network Topology Inference from Smooth Signals Under Partial Observability
School of Mathematics, Sichuan University(四川大学数学学院)
本文针对部分可观测节点下从平滑信号推断网络拓扑的问题,提出首个具有线性收敛保证的一阶算法框架,包含列稀疏正则化和低秩约束两种变体,在大规模网络上兼具理论保证与实用效率。
2025-07-07 cs.LG
Topology Optimization via Machine Learning and Deep Learning: A Review
Korea Advanced Institute of Science and Technology(韩国科学技术院);Narnia Labs(纳尼亚实验室)
本文综述基于机器学习(含深度学习)的拓扑优化研究,从TO与ML双视角分析其动机、方法、局限及未来方向。
2023-06-05 cs.LG
Automatic Inference of Cross-modal Connection Topologies for X-CNNs
University of Cambridge(剑桥大学)
本文介绍了一种从基本卷积网络(CNN)和训练数据学习交叉模态卷积神经网络(X-CNN)架构的方法,以降低设计成本并使交叉模态网络能够在稀疏数据环境中应用。提出了两种构建X-CNN的方法。基础方法通过使用在基础CNN上执行的测量和提供的数据,以数据驱动的方式学习拓扑。迭代方法通过组合学习过程执行拓扑的进一步优化,同时学习拓扑和训练网络。这些方法在手工设计的X-CNN及其基础变体的例子中进行了评估,显示出优越的性能,在某些情况下,获得了额外的9%的准确度。从进一步的考虑,我们得出结论,所提出的方法需要更少的时间比任何手动方法,同时也显着降低了设计的复杂性。这些方法的应用是完全自动化的,并在Xsertion库中实现。
2018-05-02 cs.LG cs.NE stat.ML
Self-Directed Online Machine Learning for Topology Optimization
University of Michigan(密歇根大学);Northeastern University(东北大学)
通过在给定域中最优地分配材料的拓扑优化需要非梯度优化器来解决高度复杂的问题。然而,由于涉及数百个或更多的设计变量,解决这样的问题将需要数百万的有限元法(FEM)计算,其计算成本是巨大的和不切实际的。在这里,我们报告了自导向在线学习优化(SOLO),它将深度神经网络(DNN)与FEM计算相结合。DNN学习并替换目标作为设计变量的函数。少量的训练数据是基于DNN的最优预测动态生成的。DNN适应新的训练数据,并在感兴趣的区域中给出更好的预测,直到收敛。DNN预测的最优值通过迭代证明收敛到真正的全局最优值。我们的算法进行了测试,四种类型的问题,包括顺应性最小化,流体结构优化,传热增强和桁架优化。与直接使用探试法相比,该算法的计算时间减少了2 ~ 5个数量级,并且在实验中优于所有最先进的算法。这种方法能够解决大型多维优化问题。
2022-01-26 cs.CE cs.LG stat.ML
Variational Inference In Pachinko Allocation Machines
University of Edinburgh(爱丁堡大学);The Alan Turing Institute(艾伦·图灵研究所);Google Brain(谷歌大脑)
Pachinko分配机(PAM)是一个深度主题模型,它允许通过主题上的有向无环图来表示主题之间丰富的相关结构。然而,由于模型的灵活性,近似推理非常困难。也许由于这个原因,文献中只探索了少量潜在的PAM架构。在本文中,我们提出了一个有效的和灵活的摊销变分推理方法PAM,使用深度推理网络参数化的近似后验分布的方式类似于变分自编码器。我们的推理方法产生更多的连贯性主题比国家的最先进的推理方法PAM,同时是一个数量级更快,这使得探索更广泛的PAM架构比以前研究。
2018-04-21 cs.CL cs.LG stat.ML
Membership Inference Attacks against Machine Learning Models
Cornell Tech(康奈尔理工大学);INRIA(法国国家信息与自动化研究所);Cornell(康奈尔大学)
我们定量地研究了机器学习模型如何泄漏关于它们所训练的个体数据记录的信息。我们专注于基本的成员推断攻击:给定一个数据记录和对模型的黑盒访问,确定该记录是否在模型的训练数据集中。为了对目标模型执行成员推理,我们对抗性地使用机器学习并训练我们自己的推理模型,以识别目标模型对它训练过的输入和没有训练过的输入的预测差异。我们在由商业“机器学习即服务”提供商(如Google和Amazon)训练的分类模型上实证评估我们的推理技术。使用现实的数据集和分类任务,包括从隐私的角度来看,其成员是敏感的出院数据集,我们表明,这些模型可能容易受到成员推断攻击。然后,我们调查影响这种泄漏的因素,并评估缓解策略。
2017-03-31 cs.CR cs.LG stat.ML
Graph Representation of the Magnetic Field Topology in High-Fidelity Plasma Simulations for Machine Learning Applications
University of Helsinki(赫尔辛基大学)
本文提出一种可扩展的三维磁场矢量拓扑数据分析和时空图表示流程,并在 Vlasiator 地球磁层模拟上进行了演示,旨在推动基于图的机器学习方法解决磁重联等开放科学问题。
2023-07-26 cs.LG physics.plasm-ph
Semi-Blind Inference of Topologies and Dynamical Processes over Graphs
Univ. of Minnesota(明尼苏达大学)
网络科学为社会学、生物学、神经科学和工程学等众多学科提供了有价值的见解。在这些应用领域中,一个具有重要实际意义的任务是从节点子集的噪声观测中推断网络结构。可用的拓扑推断方法通常假设网络上的过程在所有节点上都被观察到。然而,特定于应用的约束可能会阻止获取网络范围的观察。缓解现有方法的灵活性有限,这项工作提倡图形过程的结构模型,并开发新的算法,从部分节点的观察网络拓扑结构和过程的联合推理。结构方程模型(SEM)和结构向量自回归模型(SVARMs)在识别复杂图的有向拓扑结构方面具有很好的优点;虽然SEM捕获了节点之间的同期因果依赖关系,但SVARMs进一步考虑了时滞影响。本文开发的算法,推断有向图,“最好”适合的数据,估计网络过程中降低计算复杂性,利用卡尔曼平滑相关的工具之间的转换。为了进一步适应延迟敏感的应用,提出了一种在线联合推理方法,甚至跟踪时间演化的拓扑结构。此外,条件识别网络拓扑结构的部分观测指定。证明了当网络结构稀疏时,唯一识别所需的观测数显著减少。合成以及真实数据集的数值测试证实了新方法的有效性。
2018-05-16 cs.LG eess.SP stat.ML
Topology-enhanced machine learning model (Top-ML) for anticancer peptide prediction
Nanyang Technological University(南洋理工大学);Michigan State University(密歇根州立大学)
针对机器学习模型在抗癌肽预测中面临的肽特征化不足瓶颈,提出融合序列连接信息拓扑特征(向量、光谱描述符)的Top-ML模型,结合Extra-Trees分类器在两个基准数据集上实现优效/可比性能并提升可解释性,为抗癌肽识别提供新方法。
2025-04-15 cs.LG math.GN q-bio.BM
Flame: Simplifying Topology Extension in Federated Learning
Georgia Institute of Technology(佐治亚理工学院);KAIST(韩国科学技术院);Cisco Research(思科研究院)
本文提出开源系统Flame,通过拓扑抽象图(TAGs)解耦ML应用逻辑与部署细节,为分布式联邦学习提供灵活的拓扑配置和可扩展性,以支持新FL架构和方法的开发。
2024-01-17 cs.DC cs.LG
Evident: a Development Methodology and a Knowledge Base Topology for Data Mining, Machine Learning and General Knowledge Management
Philips North America(飞利浦北美);Google LLC(谷歌有限责任公司)
用于知识发现、预测和管理的软件已经开发了30多年。然而,在使用现有的项目开发和工件管理方法时,仍然存在未解决的痛点。从历史上看,一直缺乏适用的方法。此外,已经应用的方法,如敏捷,有几个限制,包括科学的不可证伪性,降低了它们的适用性。提出了一种基于逻辑推理哲学的开发方法学Evident和一种知识库拓扑结构EKB。从概念上缓解了数据采掘、机器学习和一般知识管理中的许多痛点。Evident可以扩展到加速哲学探索,科学发现,教育以及全球知识共享和保留。EKB提供了一种将信息存储为知识的解决方案,知识是数据之上的粒度级别。还讨论了计算机历史、软件工程、数据库、传感器、哲学以及项目与组织和军事管理方面的相关主题。
2022-11-09 cs.AI cs.DB cs.LG
A Brief Introduction to Causal Inference in Machine Learning
New York University(纽约大学);Genentech(基因泰克)
本文是纽约大学2024年春季机器学习因果推断课程的讲义,面向有ML基础但未接触因果推理的硕博生,旨在拓展其知识以纳入因果推理,该内容是分布外泛化的核心。
2024-05-14 cs.LG
Learning to Filter with Predictive State Inference Machines
Carnegie Mellon University(卡内基梅隆大学);Georgia Institute of Technology(佐治亚理工学院)
潜状态空间模型是动态系统建模的基础和广泛使用的工具。然而,它们很难从数据中学习,并且学习的模型通常在推理任务(如过滤和预测)上缺乏性能保证。在这项工作中,我们提出了预测状态推理机(PSIM),一个数据驱动的方法,认为推理过程中的一个动态系统作为一个组成的预测。关键思想是,PSIM不是首先学习潜在的状态空间模型,然后使用学习的模型进行推理,而是直接学习预测器,用于预测状态空间中的推理。我们在可实现和不可知的环境中为推理提供理论保证,并在各种模拟和真实世界的机器人基准测试中展示实际性能。
2016-05-30 cs.LG
Leveraging power grid topology in machine learning assisted optimal power flow
Invenia Labs(因文尼亚实验室)
机器学习辅助最优潮流(OPF)旨在通过将昂贵的(在线)优化委托给离线训练来降低这些非线性和非凸约束优化问题的计算复杂性。该领域的大多数工作通常采用全连接神经网络(FCNN)。然而,最近也研究了卷积(CNN)和图形(GNN)神经网络,以努力利用电网内的拓扑信息。虽然已经取得了可喜的成果,但在整个文献中缺乏这些架构之间的系统比较。因此,我们介绍了一个简明的框架,用于概括机器学习辅助OPF的方法,并评估各种FCNN,CNN和GNN模型在该领域的两种基本方法的性能:回归(预测最佳发电机设定点)和分类(预测活动约束集)。对于几个合成电网与互联的公用事业,我们表明,特征和目标变量之间的局部性是稀缺的,随后证明边际效用相比,FCNN的固定网格拓扑结构应用CNN和GNN架构。然而,对于可变拓扑(例如,建模传输线应急),GNN模型能够直接考虑拓扑信息的变化,并优于FCNN和CNN模型。
2022-04-26 cs.LG cs.SY eess.SP
Holistic risk assessment of inference attacks in machine learning
Donghua University(东华大学)
随着机器学习应用范围的不断扩大,随之而来的隐私和安全问题也越来越多。特别是针对机器学习模型的推理攻击,使得攻击者能够推断出目标模型的敏感信息,如训练数据、模型参数等。推理攻击可能导致严重的后果,包括侵犯个人隐私、损害机器学习模型所有者的知识产权。就目前而言,研究人员已经对几种类型的推理攻击进行了深入的研究和分析,尽管是孤立的,但仍然缺乏对针对机器学习模型的推理攻击的整体风险评估,例如它们在不同场景中的应用,影响这些攻击性能的共同因素以及攻击之间的关系。因此,本文进行了全面的风险评估不同的推理攻击对机器学习模型。本文重点研究了三种具有代表性的攻击:成员推断攻击、属性推理攻击和模型窃取攻击。并建立了威胁模型分类。使用AlexNet,ResNet18和Simple CNN三种模型架构的12个目标模型在CelebA,UTKFace,STL 10和FMNIST四个数据集上进行训练。
2022-12-15 cs.CR cs.LG
Robust Node Classification on Graphs: Jointly from Bayesian Label Transition and Topology-based Label Propagation
Indiana University-Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校)
使用图神经网络(GNN)的节点分类已经广泛应用于各种现实场景中。然而,近年来,令人信服的证据表明,基于GNN的节点分类的性能可能会因拓扑扰动而大幅恶化,例如随机连接或对抗攻击。已经提出了各种解决方案,例如拓扑去噪方法和机制设计方法,以开发鲁棒的基于GNN的节点分类器,但是这些工作都不能完全解决与拓扑扰动相关的问题。最近,贝叶斯标签转换模型被提出来解决这个问题,但其收敛速度慢,可能会导致性能较差。在这项工作中,我们提出了一个新的标签推理模型,即LInDT,它集成了贝叶斯标签转换和基于拓扑的标签传播,以提高GNN对拓扑扰动的鲁棒性。LInDT优于现有的标签转换方法,因为它通过利用基于邻域的标签传播来改善不确定节点的标签预测,从而更好地收敛标签推理。此外,LIndT采用非对称狄利克雷分布作为先验,这也有助于它改进标签推理。在五个图数据集上的大量实验表明,在三种拓扑扰动情况下,LInDT对基于GNN的节点分类的优越性。
2022-08-21 cs.LG
Directed Graph Topology Inference via Graph Filter Identification
NVIDIA;Dept. of Signal Theory and Comms.(信号理论与通信系);King Juan Carlos University(胡安卡洛斯国王大学);Dept. of Electrical and Computer Eng.(电气与计算机工程系);Rice University(里士满大学);University of Rochester(罗切斯特大学)
针对线性扩散动力学产生的节点观测,提出通过识别图卷积滤波器来推断有向图拓扑,利用输入协方差的谱多样性保证可辨识性,并设计交替优化算法。
2026-06-29 cs.LG cs.SI eess.SP
Topology meets Machine Learning: An Introduction using the Euler Characteristic Transform
Department of Computer Science, University of Fribourg, Switzerland(计算机科学系,弗里堡大学,瑞士)
本文介绍通过欧拉特征变换将拓扑概念应用于机器学习,提升点云、图和网格分析的模型效率,并展望未来拓扑在神经网络学习和分析中的应用。
2025-03-19 cs.LG math.AT
Topology-Informed Machine Learning for Efficient Prediction of Solid Oxide Fuel Cell Electrode Polarization
AGH University of Krakow(克拉科夫AGH科技大学)
本文提出基于计算拓扑持久性图像表示的人工神经网络方法,利用500组三维第一性原理模拟数据训练,可快速准确预测固体氧化物燃料电池电极极化曲线。
2024-10-04 cond-mat.mtrl-sci cs.LG
Analytics of Business Time Series Using Machine Learning and Bayesian Inference
Ivan Franko National University of Lviv(利沃夫伊万·弗兰科国立大学)
在调查中,我们考虑了销售时间序列预测的案例研究,使用时间趋势校正预测非平稳时间序列的深度学习方法,使用Q学习的动态价格和供应优化,比特币价格建模,COVID-19传播对股市的影响,以及在分析中使用社交网络信号。分析了机器学习和贝叶斯推理在预测分析中的应用。
2022-06-02 cs.LG
An Introduction to Bayesian and Frequentist Simulation-Based Inference with Machine Learning
介绍基于机器学习的模拟推理,概述贝叶斯和频率主义统计框架,阐述相关SBI方法用于参数估计及经验贝叶斯或展开任务,探讨推理结果验证及该方法局限性。
2026-08-24 astro-ph.CO astro-ph.GA cs.LG
Graph-Based Inference and Topology-Aware Multi-Agent Reinforcement Learning for Large-Scale Railway Network Management
ETH Zürich(苏黎世联邦理工学院);University of Oxford(牛津大学);The Pennsylvania State University(宾夕法尼亚州立大学);Technical University of Munich(慕尼黑工业大学)
针对大规模铁路网络管理,提出结合图推理与拓扑感知多智能体强化学习框架,实现零样本迁移,显著优于现有基线。
2026-09-25 cs.LG
Recurrent machines for likelihood-free inference
KTH Royal Institute of Technology(瑞典皇家理工学院);University of Liège(列日大学)
似然自由推理是关于一个不可微的随机模拟器,最好地再现真实的观察参数的估计。在缺乏似然函数的情况下,现有的大多数推理方法都是通过手工迭代的方法来优化模拟器参数,试图使模拟数据与观测数据更加相似。在这项工作中,我们探讨元学习是否可以用于无可能性的上下文中,从数据中自动学习一个迭代优化过程,将解决无可能性的推理问题。我们设计了一个经常性的推理机,学习一系列的参数更新,导致良好的参数估计,没有指定一些明确的概念之间的分歧模拟数据和真实的数据分布。我们展示了我们的方法在玩具模拟器,表现出良好的效果,无论是在性能和鲁棒性。
2019-01-02 cs.LG hep-ph physics.data-an
From Imperfect Signals to Trustworthy Structure: Confidence-Aware Inference from Heterogeneous and Reliability-Varying Utility Data
Department of Electrical, Computer and Energy Engineering, Arizona State University(电气、计算机与能源工程系,亚利桑那州立大学);Oncor Electric Delivery(Oncor电力输送公司)
针对异构且可靠性变化的公用事业数据,提出一种置信度感知推断框架,结合空间布局与信号动态并嵌入物理约束,实现可信的配电网拓扑重构,准确率超95%。
2025-08-07 cs.AI cs.LG
Machine Learning Methods for Gene Regulatory Network Inference
University of Missouri(密苏里大学)
本文综述了基于机器学习的基因调控网络(GRNs)推断方法,涵盖监督、无监督等技术及常用数据集与评估指标,强调深度学习的作用并探讨未来方向,以支持基因调控研究及新机器学习方法开发。
2025-04-17 cs.LG q-bio.MN
Topology-enhanced machine learning for speech signal processing
North Carolina State University(北卡罗来纳州立大学);Shenyang Normal University(沈阳师范大学)
本文提出拓扑特征捕获方法TopCap,增强神经网络在语音信号处理中的性能,在辅音分类上达到与神经网络相当的准确率,并提升鲁棒性、稳定性和可解释性。
2026-09-17 cs.LG math.ST stat.TH
White-box Inference Attacks against Centralized Machine Learning and Federated Learning
Donghua University(东华大学)
随着信息科学技术的发展,各行各业产生了海量的数据,机器学习被广泛应用于大数据的分析。但如果机器学习应用的客户隐私无法得到保障,则会对用户个人隐私信息和服务提供商造成安全威胁和损失。因此,机器学习的隐私保护问题受到广泛关注。对于集中式机器学习模型,我们评估了不同神经网络层、梯度、梯度范数和微调模型对先验知识下成员推理攻击性能的影响;对于联邦学习模型,我们讨论了攻击者在目标模型中的位置及其攻击模式。结果表明,集中式机器学习模型在各方面都表现出更严重的成员信息泄露,攻击者在中心参数服务器上作为参与者进行的攻击准确率明显高于本地推理攻击。
2022-12-15 cs.CR cs.LG
Topology optimization of periodic lattice structures for specified mechanical properties using machine learning considering member connectivity
Kyoto University(京都大学)
本文提出一种结合机器学习的周期性点阵结构拓扑优化方法,通过构件连通性过滤、特征选择和卷积扩展策略提升模型精度与适用规模,并在模拟退火中融入ML预测以显著降低计算成本。
2024-11-21 cs.LG math.OC
S3ML: A Secure Serving System for Machine Learning Inference
Peking University(北京大学);Ant Group(蚂蚁集团)
本文提出了一个面向机器学习推理的安全服务系统S3ML。S3ML在英特尔SGX安全区中运行机器学习模型,以保护用户隐私。S3ML设计了一个安全的密钥管理服务来构建灵活的隐私保护服务器集群,并提出了新的SGX感知的负载均衡和伸缩方法,以满足用户的服务水平目标。我们基于Kubernetes实现了S3ML,作为一个低开销,高可用性和可扩展的系统。我们证明了系统的性能和有效性的S3ML通过一系列广泛使用的模型上进行广泛的实验。
2020-10-13 cs.CR cs.LG
Machine learning Majorana topology using unsupervised and supervised learning
Condensed Matter Theory Center(凝聚态理论中心);Joint Quantum Institute, Department of Physics, University of Maryland, College Park, Maryland 20742, USA(联合量子研究所、物理系、马里兰大学 College Park 分校,马里兰州,20742, USA);Department of Physics(物理系);Astronomy, Center for Materials Theory, Rutgers University, Piscataway, NJ 08854, USA(天文学、材料理论中心、罗格斯大学 Piscataway 分校,新泽西州,08854, USA)
本文利用无监督学习与自动编码器结合的方法,探索无标签数据在识别马约拉纳拓扑中的有效性。
2026-10-07 cond-mat.dis-nn cond-mat.mes-hall cs.LG
On the (In)Feasibility of Attribute Inference Attacks on Machine Learning Models
Macquarie University(麦考瑞大学);University of New South Wales(新南威尔士大学);Data61-CSIRO(Data61-联邦科学与工业研究组织);BITS Pilani K.K.Birla Goa campus(戈亚校区比尔拉理工学院);Cyber & Electronic Warfare Division, Defence Science and Technology Group, Australia(澳大利亚国防科技集团网络与电子战分部)
随着低成本机器学习API的增加,高级机器学习模型可以在私有数据集上进行训练,并通过将其作为服务提供来货币化。然而,隐私研究人员已经证明,这些模型可能会通过成员推断攻击泄露有关训练数据集中记录的信息。在本文中,我们仔细研究了文献中报道的另一种推理攻击,称为属性推理,攻击者试图通过访问机器学习模型作为API来推断训练数据集中使用的部分已知记录的缺失属性。我们表明,即使一个分类模型屈服于成员推断攻击,它是不太可能容易受到属性推理攻击。我们证明,这是因为成员推断攻击无法区分一个成员附近的非成员。我们称攻击者区分两个(相似)向量的能力为强成员推理。我们发现,成员推断攻击不能推断成员在这个强设置,因此推断属性是不可行的。然而,在一个宽松的概念下的属性推断,称为近似属性推断,我们表明,它是可能的推断接近真实属性的属性。我们验证了我们的结果在三个公开的数据集,五个成员,和三个属性推断攻击文献报道。
2021-03-12 cs.CR cs.LG
Towards Battery-Free Machine Learning and Inference in Underwater Environments
Imperial College London(帝国理工学院);MIT(麻省理工学院)
本文的动机是一个简单的问题:我们能否设计和构建能够在水下环境中进行机器学习和推理的无电池设备?对这一问题的肯定回答将对新一代水下传感和监测应用于环境监测、科学探索和气候/天气预测产生重大影响。为了回答这个问题,我们探讨了在过去十年中在两个领域取得进步的可行性:无电池网络和低功耗机器学习。我们的探索表明,在水下环境中实现无电池推理确实是可能的。我们设计了一种设备,可以从水下声音中获取能量,为超低功耗微控制器和板载传感器供电,使用轻量级深度神经网络对感测到的测量值进行本地推理,并通过反向散射将推理结果传达给接收器。我们在模拟海洋生物声学应用中测试了我们的原型,展示了在没有电池的情况下识别水下动物声音的潜力。通过这种探索,我们强调了使水下无电池推理和机器学习无处不在的挑战和机遇。
2022-02-16 cs.LG eess.SP