An Unsupervised Adversarial Autoencoder for Cyber Attack Detection in Power Distribution Grids
West Virginia University（西弗吉尼亚大学）；Florida Polytechnic University（佛罗里达理工大学）
针对含DERs的不平衡配电网中FDIA检测难题，提出融合LSTM与GAN的无监督AAE模型，在IEEE 13/123节点系统上验证其性能优于其他无监督方法。
2024-03-31 cs.AI cs.CR cs.LG
Energy Disaggregation using Variational Autoencoders
École de Technologie Supérieure（高等技术学院）；Université du Québec（魁北克大学）；La Forge Research Laboratory - Ubisoft（育碧La Forge研究实验室）
非侵入式负载监控（NILM）是一种使用单个传感器测量建筑物总功耗的技术。使用能量分解方法，可以从总体测量中估计单个电器的消耗。最近的解聚算法显着提高了NILM系统的性能。然而，这些方法对不同房屋的推广能力以及多状态电器的分解仍然是主要的挑战。在本文中，我们解决这些问题，并提出了一个能量分解方法的基础上的变分自编码器框架。概率编码器使得该方法成为用于对与目标器具消耗的重构相关的信息进行编码的有效模型。特别是，所提出的模型准确地产生更复杂的负载配置文件，从而提高了多状态器具的功率信号重构。此外，其正则化的潜在空间提高了模型在不同房屋之间的泛化能力。所提出的模型相比，国家的最先进的NILM方法的UK-DALE和REFIT数据集，并产生竞争力的结果。与最先进的设备相比，所有设备的平均绝对误差平均降低了18%。F1分数增加了11%以上，表明在总体测量中目标设备的检测有所改进。
2021-07-19 cs.LG eess.SP
Disentangled Latent Spaces for Reduced Order Models using Deterministic Autoencoders
Institute for Fluid Dynamics and Ship Theory, Hamburg University of Technology（汉堡工业大学流体动力学与船舶理论研究所）；Institute of Mathematics, Hamburg University of Technology（汉堡工业大学数学研究所）
针对自编码器降阶模型可解释性不足的问题，提出两种非概率确定性自编码器解耦方法，在基准数据集上取得与β-VAE相当的效果，且超参数鲁棒性更强，还可识别活跃潜变量，并验证了其在飞机着水载荷降维中的工业应用价值。
2025-02-20 cs.LG
Latent Behavior Diffusion for Sequential Reaction Generation in Dyadic Setting
Chonnam National University（全南国立大学）
本文提出Latent Behavior Diffusion Model，通过上下文感知自编码器与潜在空间扩散条件生成器，非自回归地合成贴合说话者行为、多样且逼真的双人面部反应。
2025-05-12 cs.AI cs.LG
Hierarchical Residual Learning Based Vector Quantized Variational Autoencoder for Image Reconstruction and Generation
Monash University（莫纳什大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
我们提出了一种多层变分自编码器方法，我们称之为HR-VQVAE，它学习数据的分层离散表示。通过利用一种新的目标函数，在HR-VQVAE中的每一层通过矢量量化编码器从先前的层学习残差的离散表示。此外，每一层的表示都与前一层的表示分层链接。我们评估我们的方法的图像重建和生成的任务。实验结果表明，HR-VQVAE学习的离散表示使解码器能够重建高质量的图像，失真比基线方法，即VQVAE和VQVAE-2。HR-VQVAE还可以生成高质量和多样化的图像，这些图像的性能优于最先进的生成模型，从而进一步验证了学习表示的效率。HR-VQVAE的分层性质i）减少了解码搜索时间，使得该方法特别适用于高负载任务，以及ii）允许增加码本大小而不会引起码本崩溃问题。
2022-08-09 cs.CV cs.LG
A Frequentist Statistical Introduction to Variational Inference, Autoencoders, and Diffusion Models
Yen-Chi Chen（独立研究者）
本文从频率派统计学视角出发，以经典EM算法为基础阐释变分推断、变分自编码器和去噪扩散模型的理论，弥合经典统计推断与现代生成式AI间的学科认知壁垒。
2025-10-21 cs.LG stat.CO stat.ME
Improved Variational Autoencoders for Text Modeling using Dilated Convolutions
Carnegie Mellon University（卡内基梅隆大学）
最近关于文本的生成建模的工作已经发现，结合LSTM解码器的变分自动编码器（VAE）比更简单的LSTM语言模型表现更差（Bowman等人，2015年）。到目前为止，这个负面结果还不太清楚，但这归因于LSTM解码器忽略来自编码器的条件信息的倾向。在本文中，我们实验了一种新型的解码器VAE：一个扩大的CNN。通过改变解码器的膨胀架构，我们控制有效的上下文从以前生成的单词。在实验中，我们发现，有一个权衡的上下文容量的解码器和编码信息的使用量。我们证明，使用正确的解码器，VAE可以超越LSTM语言模型。我们在两个数据集上展示了困惑增益，代表了使用VAE进行文本生成建模的第一个积极的实验结果。此外，我们对VAE（使用我们的新解码架构）用于半监督和无监督标记任务进行了深入研究，证明了在几个强基线上的收益。
2017-06-18 cs.CL cs.LG cs.NE
Learning and Generating Diverse Residential Load Patterns Using GAN with Weakly-Supervised Training and Weight Selection
Department of Data Science and AI, Faculty of Information Technology and Monash Energy Institute, Monash University（数据科学与人工智能系，信息科技学院和莫纳什能源研究所，莫纳什大学）
针对住宅负荷数据稀缺问题，提出RLP-GAN弱监督GAN框架，结合过完备自编码器和权重选择生成多样负荷模式，在417户真实数据上优于现有模型，并发布百万级合成数据集。
2025-04-25 cs.AI cs.LG
Generating Synthetic Net Load Data with Physics-informed Diffusion Model
本文提出一种物理信息扩散模型，通过将物理模型嵌入去噪网络联合训练参数，用于生成合成净负荷数据。基于真实数据验证，该方法在所有定量指标上均优于现有生成模型，性能提升至少20%。
2024-06-04 cs.AI cs.LG
Online Residential Demand Response via Contextual Multi-Armed Bandits
Harvard University（哈佛大学）；Zhejiang University（浙江大学）
住宅负荷具有很大的潜力，以提高电力系统的效率和可靠性，通过需求响应（DR）计划。住宅DR的一个主要挑战是处理未知和不确定的客户行为。以往的研究多采用学习技术来预测用户的DR行为，而忽略了时变环境因素的影响，这可能导致预测不准确和负荷调整效率低下。在本文中，我们考虑住宅DR问题的负载服务实体（LSE）的目的是选择一个最佳的客户子集，以最大限度地提高预期的负载减少与财政预算。为了学习环境影响下的不确定客户行为，将住宅DR问题转化为一个上下文多臂强盗（MAB）问题，提出了基于Thompson抽样的在线学习选择（OLS）算法，该算法考虑了上下文信息，适用于复杂的DR环境.数值仿真结果验证了该算法的学习有效性。
2020-05-17 cs.LG cs.SY eess.SY
CLVAE: A Variational Autoencoder for Long-Term Customer Revenue Forecasting
Research Institute for Statistics and Information Science, University of Geneva（统计与信息科学研究所，日内瓦大学）；Institute of Management, University of Geneva（管理学院，日内瓦大学）
本文提出CLVAE模型，结合变分自编码器与传统客户流失-交易-支出模型，实现对长期客户收入的准确预测，兼顾结构稳定性与灵活性，提升预测效率和营销效果。
2026-04-24 cs.LG stat.AP stat.ML
Fairness in Machine Learning-based Hand Load Estimation: A Case Study on Load Carriage Tasks
University of Virginia（弗吉尼亚大学）；Virginia Polytechnic Institute and State University（弗吉尼亚理工大学）
本文针对基于机器学习的手部负荷预测中存在性别偏差的问题，提出一种基于变分自编码器特征解耦的公平预测模型，仅利用性别无关特征进行预测，在公平性和预测精度上均优于随机森林等传统方法。
2025-04-08 cs.LG
Variational Pretraining for Semi-supervised Text Classification
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；Carnegie Mellon University（卡内基梅隆大学）
我们介绍了VAMPIRE，一个轻量级的预训练框架，用于在数据和计算资源有限的情况下进行有效的文本分类。我们预训练一个unigram文档模型作为域内未标记数据的变分自编码器，并使用其内部状态作为下游分类器的特征。从经验上讲，我们显示了VAMPIRE对计算昂贵的上下文嵌入和低资源设置下的其他流行的半监督基线的相对强度。我们还发现，在有限的监督下工作时，对域内数据进行微调对于从上下文嵌入中获得良好的性能至关重要。我们在本文中附带了预训练代码，并在下游任务中使用VAMPIRE嵌入。
2019-06-05 cs.CL cs.LG
Unsupervised High Impedance Fault Detection Using Autoencoder and Principal Component Analysis
University of Southern California（南加州大学）；ABB Corporate Research United States（ABB美国公司研究院）
本文提出一种基于自编码器和主成分分析的无监督高阻抗故障检测框架，通过监测电流波形相关结构变化检测HIF，在4.16 kV系统真实数据上优于商用方法且保持高安全性。
2023-01-05 cs.LG cs.SY eess.SY
Evaluation of Prosumer Networks for Peak Load Management in Iran: A Distributed Contextual Stochastic Optimization Approach
Faculty of Electrical Engineering, KN Toosi of Technology（KN Toosi理工大学电气工程学院）
本文针对伊朗可再生能源产消者面临的峰值负荷问题，提出一种集成预测与优化的分布式情境随机优化框架，并通过共识信息共享机制和ADMM算法实现协调调度，有效降低峰值负荷与总成本。
2024-08-31 cs.LG cs.SY eess.SY
Conformal Load Prediction with Transductive Graph Autoencoders
City University of Hong Kong（香港城市大学）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
本文提出一种基于图神经网络和保形预测的边权重预测方法，结合误差重加权与保形分位数回归处理异方差性，在交通数据集上实现了优于基线的覆盖率和效率。
2024-06-12 cs.LG stat.ML
CktHGVAE: A Symmetric Design/State Heterogeneous Graph Variational Autoencoder for Transistor-level Analog/Mixed-signal Circuit Design and Analysis
Ritsumeikan University（立命馆大学）
该研究提出CktHGVAE异构图变分自编码器，可用于晶体管级模拟/混合信号CMOS电路设计分析，在状态预测、优化及拓扑迁移上表现良好，有望支撑电路设计自动化。
2026-10-14 cs.LG
A Robust Autoencoder Ensemble-Based Approach for Anomaly Detection in Text
Sorbonne Université（索邦大学）
针对文本异常检测研究不足、未区分独立与上下文异常的问题，提出TAC文本异常污染机制和RoSAE鲁棒自编码器集成方法，在8个数据集上表现优于现有方法且鲁棒性更强。
2024-09-18 cs.CL cs.LG
Physics-integrated generative modeling using attentive planar normalizing flow based variational autoencoder
University of Central Punjab（中央旁遮普大学）
本研究提出一种物理集成变分自编码器，利用平面归一化流学习后验分布，并在编码器中引入缩放点积注意力以增强对噪声的鲁棒性，实验表明其提升了重建质量与抗噪能力。
2024-04-18 cs.AI cs.LG stat.ML
on the effectiveness of generative adversarial network on anomaly detection
Gina Cody School of Engineering and Computer Science（吉娜·科迪工程与计算机科学学院）；Concordia University（康考迪亚大学）
识别异常是指检测不类似于训练数据分布的样本。许多生成模型已被用于发现异常，其中，基于生成对抗网络（GAN）的方法目前非常流行。GANs主要依靠这些模型的丰富上下文信息来识别实际的训练分布。根据这种类比，我们提出了一种基于GANs的新的无监督模型-自动编码器和GAN的组合。此外，引入了一种新的评分函数来定位异常，其中，异常的内部表示和生成器的视觉表示的线性组合加上自动编码器的编码表示一起来定义所提出的异常分数。该模型在SVHN、CIFAR 10和MNIST等基准数据集以及白血病图像的公共医学数据集上进行了进一步评估。在所有的实验中，我们的模型都优于现有的模型，同时稍微提高了推理时间。
2021-12-31 cs.CV cs.LG
Virtual Battery Parameter Identification using Transfer Learning based Stacked Autoencoder
Pacific Northwest National Laboratory（太平洋西北国家实验室）
最近的研究表明，聚合的动态柔性的合奏的可调负载可以模拟的形式，一个虚拟电池。现有的方法用于计算虚拟电池参数需要的第一原理模型的知识和参数值的集合中的负载。然而，在现实世界的应用中，唯一可用的信息可能是最终使用测量，例如功耗、室温、设备开/关状态等，而对各个负载模型和参数知之甚少。我们提出了一个基于迁移学习的深度网络框架，用于根据可用的最终使用测量值计算给定的灵活负载集合的虚拟电池状态。所提出的框架提取给定系综的一阶虚拟电池模型参数。我们说明了这种新的框架上的AC和WHs不同的合奏的有效性。
2018-10-10 cs.LG stat.ML
CATA++: A Collaborative Dual Attentive Autoencoder Method for Recommending Scientific Articles
University of Missouri（密苏里大学）
推荐系统今天已经成为任何商业网站的重要组成部分。协同过滤方法，特别是矩阵分解（MF）技术，被广泛应用于推荐系统。然而，自然的数据稀疏性问题限制了它们的性能，用户通常与系统中很少的项目进行交互。因此，最近提出了多个混合模型，通过在其学习过程中加入额外的上下文信息来优化MF性能。虽然这些模型提高了推荐质量，但有两个主要方面需要进一步改进：（1）多个模型只关注可用上下文信息的一部分而忽略其他部分;（2）学习侧上下文信息的特征空间需要进一步增强。在本文中，我们介绍了一个合作的双重注意自动编码器（CATA++）推荐科学文章。CATA++利用文章的内容，并通过两个并行的自动编码器学习其潜在空间。我们采用注意力机制来捕捉信息中最相关的部分，以便提出更相关的建议。在三个真实世界数据集上的广泛实验表明，与其他最先进的基于MF的模型相比，我们的双向学习策略显着提高了MF性能。我们的方法的源代码可在https://github.com/jianlin-cheng/CATA上获得。
2020-05-15 cs.IR cs.LG stat.ML
Periodic Neural Mapping for Unsteady Rotor-Blade Pressure and Aeroelastic Load Prediction
Cenaero（塞纳罗航空航天研究中心）；Safran Helicopter Engines（赛峰直升机发动机公司）
针对涡轮机械非定常气动载荷预测难题，提出周期傅里叶神经映射（p-FNM），嵌入时间周期性并独立预测压力场，在最大数据集上较基线显著提升压力场与广义气动力预测精度，展现降阶建模潜力。
2026-09-21 cs.LG physics.flu-dyn
Conditional deep generative models as surrogates for spatial field solution reconstruction with quantified uncertainty in Structural Health Monitoring applications
National Technical University of Athens（雅典国立技术大学）；School of Naval Architecture and Marine Engineering（船舶与海洋工程学院）
本文提出一种基于CNN的条件变分自编码器作为代理模型，用于结构健康监测中高维随机结构模拟的空间场重建，在保证重建精度的同时有效量化荷载不确定性。
2023-02-14 cs.AI cs.LG
Integrating the Expected Future in Load Forecasts with Contextually Enhanced Transformer Models
Intelligent Maintenance and Operations Systems (IMOS)（智能维护与运营系统）；École Polytechnique Fédérale de Lausanne (EPFL)（瑞士联邦理工学院洛桑分校）；Department of Mechanical and Process Engineering（机械与过程工程系）；Eidgenössische Technische Hochschule (ETH)（瑞士联邦理工学院（ETH））；Department of Civil and Environmental Engineering（土木与环境工程系）；Massachusetts Institute of Technology (MIT)（麻省理工学院）
本文提出一种结合预测与回归的任务，通过上下文增强的Transformer模型提升能源预测准确性，通过铁路和建筑能耗案例验证了方法的有效性，显著降低预测误差。
2025-02-21 cs.CY cs.LG
Deep Autoencoder based Energy Method for the Bending, Vibration, and Buckling Analysis of Kirchhoff Plates
Leibniz Universität Hannover（莱布尼茨汉诺威大学）；Tongji University（同济大学）；King Saud University（沙特国王大学）；Ton Duc Thang University（同奈大学）
本文提出了一种基于深度自编码器的能量法（DAEM），用于Kirchhoff板的弯曲、振动和屈曲分析。DAEM利用了DAEM的高阶连续性，并在一个框架中集成了深度自动编码器和最小总势能原理，从而产生了无监督的特征学习方法。DAEM是一种特定类型的前馈深度神经网络（DNN），也可以用作函数逼近器。DAEM具有强大的特征提取能力，可以更有效地识别整个能量系统背后的模式，如本文研究的场变量、固有频率和临界屈曲载荷因子。目标函数是最小化总势能。DAEM基于物理域内随机生成的点执行无监督学习，使得在所有点处的总势能最小化。在振动和屈曲分析中，基于瑞利原理构造了损失函数，提取了结构的基频和临界屈曲载荷。提出了一种适用于基本力学模型的双曲正切激活函数，它既满足连续性要求，又解决了弯曲分析中的梯度消失/爆炸问题。DAEM可以很容易地实现，我们采用了Pytorch库和LBFGS优化器。DAEM配置的综合研究进行了几个数值例子，各种几何形状，载荷条件和边界条件。
2020-10-09 cs.LG cs.NA math.NA
PMAA: A Progressive Multi-scale Attention Autoencoder Model for High-performance Cloud Removal from Multi-temporal Satellite Imagery
Qinghai University（青海大学）；Tsinghua University（清华大学）
本文提出渐进式多尺度注意力自编码器PMAA，通过多尺度注意力模块和局部交互模块联合建模全局与局部上下文，以极低参数量和计算复杂度超越CTGAN，实现高效轻量的多时相卫星影像去云。
2023-08-08 cs.CV cs.LG eess.IV
Conditional Neural Field based Reduced Order Model for Dynamic Ditching Load Prediction
Institute for Fluid Dynamics and Ship Theory, Hamburg University of Technology, Am Schwarzenberg-Campus 4, D-21073 Hamburg, Germany（流体动力学与船舶理论研究所，汉堡技术大学，Schwarzenberg Campus 4，德国汉堡，D-21073）；Institute of Mathematics, Hamburg University of Technology, Am Schwarzenberg-Campus 3, D-21073 Hamburg, Germany（数学研究所，汉堡技术大学，Schwarzenberg Campus 3，德国汉堡，D-21073）
本文提出一种基于条件神经场的降阶模型，用于预测飞机倾倒载荷，该模型在不依赖空间离散化的情况下，通过结合LSTM网络实现了高精度的时空预测，并在不同空间离散化条件下展示了良好的重建能力。
2026-05-05 cs.LG physics.flu-dyn
Contextual Quality-Diversity Evolutionary Reinforcement Learning for HVAC Control in Tropical Commercial Buildings
本文提出 CQD-ERL 控制器，用于热带商业建筑 HVAC 监督控制，在新加坡建筑降阶环境训练后，经年度回测与 ASHRAE Guideline 36 基线对比，实现更优控制性能。
2026-08-13 cs.AI cs.LG cs.NE
KPF-AE-LSTM: A Deep Probabilistic Model for Net-Load Forecasting in High Solar Scenarios
Quantum Energy Partners（量子能源伙伴公司）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；University of Vermont（佛蒙特大学）；Portland General Electric（波特兰通用电气公司）
随着配电网内电表后太阳能渗透率的预期上升，需要开发能够可靠预测净负荷的时间序列预测方法，准确量化其不确定性和可变性。本文提出了一种深度学习方法，用于在不同的太阳穿透水平下以15分钟的分辨率生成前一天净负荷的概率预测。我们提出的基于深度学习的架构通过卷积自动编码器（AE）从高维输入到低维潜在空间进行降维。从AE中提取的特征，然后利用通过内核嵌入的Perron-Frobenius（kPF）运算符的功能，以生成整个潜在空间的概率分布。最后，长短期记忆（LSTM）层用于从潜在空间分布合成预测净负荷的时间序列概率分布。与现有的基准模型相比，这些模型可以提供卓越的预测性能（根据几个指标），并保持卓越的训练效率。进行详细的分析，以评估在各种太阳穿透水平（高达50%），预测范围（例如，15分钟和24小时），和房屋的聚集水平，以及其对缺失测量的鲁棒性。
2022-03-05 cs.LG cs.SY eess.SP
Hybrid Autoencoder-Based Framework for Early Fault Detection in Wind Turbines
Department of Computer Science and Engineering, Alliance University（计算机科学与工程系，联盟大学）；College of Engineering and IT, University of Dubai（工程与信息技术学院，迪拜大学）；Shiv Nadar University（Shiv Nadar大学）
本文提出一种集成VAE、LSTM自编码器和Transformer的无监督深度学习框架，利用SCADA数据特征工程与自适应阈值实现风力涡轮机早期故障检测，在CARE数据集上达到AUC-ROC 0.947并提前48小时预警。
2025-10-16 cs.AI cs.LG
Deep Learning Approach to Anomaly Detection in Enterprise ETL Processes with Autoencoders
Cornell University（康奈尔大学）；The George Washington University（乔治华盛顿大学）；University of Southern California（南加州大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
针对企业级ETL数据流异常问题，提出基于深度自编码器的检测方法，通过重构误差和潜在空间正则化约束捕获潜在分布模式，在AUC、ACC等指标上表现优越，为企业数据处理提供可靠支持。
2025-11-01 cs.LG
Implicit Context-aware Learning and Discovery for Streaming Data Analytics
United Technologies Research Center（联合技术研究中心）
如果提供上下文线索作为输入以及与推理任务直接相关的基本特征，则可以进一步提高机器学习模型的性能。在离线学习中，可以检查历史训练数据以通过特征聚类或手工制作附加特征来描述上下文来识别上下文聚类。虽然离线训练享有基于已经定义的上下文特征学习可靠模型的特权，但流数据的在线训练可能更具挑战性-数据是随着时间的推移而流动的，并且数据生成过程中的底层上下文可能会发生变化。此外，当不知道可能的上下文的数量时，问题加剧。在这项研究中，我们提出了一个在线学习算法，涉及使用一个基于神经网络的自动编码器，以确定在训练过程中的上下文变化，然后比较当前推断的上下文知识库学习的背景下，作为培训的进展。结果表明，分类器训练受益于自动发现的上下文，这表明更快的学习收敛过程中的上下文变化相比，目前的方法。
2019-10-18 cs.LG stat.ML
A Generative Framework for Predictive Modeling of Multiple Chronic Conditions Using Graph Variational Autoencoder and Bandit-Optimized Graph Neural Network
Department of Mechanical Engineering, The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校机械工程系）；Department of Mechanical Engineering, Southern Methodist University（南方 Methodist 大学机械工程系）；Engineering Technology Department, Sam Houston State University（萨姆霍茨顿州立大学工程技术系）；UTHealth Houston, The University of Texas Health Science Center at Houston（德克萨斯大学健康科学中心休斯顿分校）
针对MCC缺乏现成图结构的问题，提出GVAE生成患者随机相似图、GNN结合拉普拉斯正则化并由上下文老虎机迭代选图的预测框架。
2025-06-10 cs.LG
An Attention-based ConvLSTM Autoencoder with Dynamic Thresholding for Unsupervised Anomaly Detection in Multivariate Time Series
Western University（韦仕敦大学）；National Research Council Canada（加拿大国家研究委员会）
由于智能制造中的复杂系统产生了大量的多变量时间序列数据，因此需要改进异常检测框架，以降低系统操作员的操作风险和监控负担。然而，构建这样的框架是具有挑战性的，因为足够大量的有缺陷的训练数据通常不可用，并且框架需要捕获跨不同时间步长的时间和上下文依赖性，同时对噪声是鲁棒的。本文提出了一种无监督的基于注意力的卷积长短期记忆（ConvLSTM）动态保持自编码器（ACLAE-DT）框架，用于多变量时间序列的异常检测和诊断。该框架首先对数据进行预处理和丰富，然后通过捕获时间序列对之间的相互关联来构建特征图像，以表征不同时间步长的系统状态。然后，构造的特征图像被馈送到基于注意力的ConvLSTM自动编码器，其目的是对构造的特征图像进行编码并捕获时间行为，然后对压缩的知识表示进行解码以重建输入的特征图像。然后计算重建误差，并进行基于几何的动态阈值机制，以检测和诊断异常。对实际制造数据进行的评估结果表明，在不同的实验设置下，所提出的方法的性能优势超过了最先进的方法。
2022-01-23 cs.LG cs.SE stat.ML
Contextual Discrepancy-Aware Contrastive Learning for Robust Medical Time Series Diagnosis in Small-Sample Scenarios
SANNO University（SANNO大学）
CoDAC通过上下文差异估计器和动态多视图对比框架，提升小样本场景下医学时间序列诊断的准确性和泛化能力。
2026-01-12 cs.LG
Contextual Learning for Anomaly Detection in Tabular Data
Amazon Web Services, Seattle, WA, USA（亚马逊网络服务，西雅图，WA，USA）
针对无监督表格异常检测中全局分布建模难以适配异质上下文的问题，本文提出上下文学习框架及配套条件Wasserstein自编码器模型，经8个基准数据集验证性能优于全局方法，为相关任务奠定新基础。
2025-11-18 cs.LG
Contextual HyperNetworks for Novel Feature Adaptation
Microsoft Research Cambridge（微软研究院剑桥分院）；University of Cambridge（剑桥大学）；University of Vienna（维也纳大学）；Eedi
虽然深度学习在许多应用中获得了最先进的结果，但神经网络架构的适应性以纳入新的输出特征仍然是一个挑战，因为神经网络通常被训练以产生固定的输出维度。这个问题在在线学习设置中特别严重，其中新的输出特征（诸如推荐系统中的项目）被连续地添加，而很少或没有相关联的观察。因此，期望用于使神经网络适应于时间和数据高效的新颖特征的方法。为了解决这个问题，我们提出了上下文超网络（CHN），一个辅助模型，它通过利用现有的数据以及与新功能相关联的任何观察和/或元数据来生成用于将基础模型扩展到新功能的参数。在预测时，CHN只需要通过神经网络进行一次前向传递，与重新训练和微调方法相比，速度明显加快。为了评估CHN的性能，我们使用CHN来增强部分变分自编码器（P-VAE），这是一种深度生成模型，可以在稀疏观测数据中估算缺失特征的值。我们表明，该系统获得了改进的少样本学习性能的新功能超过现有的插补和元学习基线的推荐系统，电子学习和医疗保健任务。
2021-04-12 cs.LG
LoaDiff: Conditional Generation of Electricity Consumption Time Series for Energy Analytics
EDF R&D（法国电力集团研发部）；Université Paris Cité（巴黎西岱大学）
LoaDiff是一种基于扩散的生成模型，用于生成亚小时级居民电耗曲线，支持静态和动态条件控制，在保真度、多样性和下游应用上表现优异。
2026-09-11 cs.AI cs.LG eess.SP
Contextual Chart Generation for Cyber Deception
CSIRO, Data61（联邦科学与工业研究组织 Data61）；UNSW Sydney（新南威尔士大学悉尼分校）；Cybersecurity CRC（网络安全合作研究中心）；Penten（Penten公司）
针对蜜罐文件中逼真图表生成难题，本文结合多任务Transformer与多头自动编码器生成图文和表格数据，并发布数据集、提出KSM指标，性能优于ChatGPT和GPT4。
2024-04-07 cs.AI cs.CR cs.LG
Beyond Accuracy: Measuring Representation Capacity of Embeddings to Preserve Structural and Contextual Information
Georgia State University（佐治亚州立大学）
本文提出一种结合外在评估、t-SNE 邻域分析和贝叶斯权重优化的嵌入表示能力度量方法，并在 3 个生物序列数据集上比较了 Spike2Vec、Spaced k-mers、PWM2Vec 和 AutoEncoder 四种嵌入方法。
2023-09-20 cs.LG
DailyMAE: Towards Pretraining Masked Autoencoders in One Day
University of Surrey（萨里大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出针对掩码图像建模自监督学习的高效训练方案，通过缓解数据加载瓶颈和渐进式训练等技术，在8块A100 GPU上仅用18小时完成ImageNet 1K上MAE-Base/16的800轮预训练，实现最高5.8倍加速，推动SSL研究更易开展。
2024-03-31 cs.CV cs.LG
The Impact of Temporal Granularity on Socio-Demographic Inference from Household Load Profiles
Center for Secure Energy Informatics（安全能源信息中心）；Salzburg University of Applied Sciences（萨尔茨堡应用科学大学）；Paris Lodron University of Salzburg（萨尔茨堡巴黎洛登大学）
本文通过分析15分钟到7天不同粒度负荷曲线对8个社会人口属性的预测影响，揭示了隐私-效用权衡中时间分辨率、特征提取和分类器选择的联合作用。
2026-06-02 cs.LG
GCA-BULF: A Bottom-Up Framework for Short-Term Load Forecasting Using Grouped Critical Appliances
University of Science and Technology of China（中国科学技术大学）
本文提出GCA-BULF框架，通过分组关键电器提升短时负荷预测精度，实验表明其在住宅和办公建筑负荷预测中优于传统自上而下和自下而上方法。
2026-04-04 cs.AI cs.LG eess.SP
Deep Context-Aware Novelty Detection
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学学院）
新颖性检测的一个常见假设是“正常”和“新颖”数据的分布都是静态的。然而，情况往往并非如此-例如，数据随着时间的推移而演变的场景或正常和新颖的定义取决于上下文信息的场景，都导致这些分布的变化。当试图在数据集上训练模型时，这可能会导致重大困难，其中一种情况下的正常数据的分布与另一种情况下的新数据的分布相似。在本文中，我们提出了一种上下文感知的方法来检测深度自动编码器的新颖性，以解决这些困难。我们创建了一个半监督网络架构，利用辅助标签来揭示上下文信息，并允许模型适应各种上下文，其中正常和新颖的定义发生变化。我们评估我们的方法在图像数据和现实世界的音频数据显示这些特征，并表明单独训练的模型的性能可以在一个单一的模型。
2020-12-06 cs.LG stat.ML
Representation Learning of Lab Values via Masked AutoEncoders
Massachusetts Institute of Technology (MIT)（麻省理工学院）；Université Paris-Saclay（巴黎-萨克雷大学）；University of Michigan（密歇根大学）；Northeastern University（东北大学）；Harvard Medical School（哈佛医学院）；Brigham and Women’s Hospital/Dana-Farber Cancer Institute（哈佛医学院-布里特医院/达纳-法伯癌症研究所）；Beth Israel Deaconess Medical Center（贝斯以色列医疗中心）
提出基于Transformer的掩码自编码器框架Lab-MAE，通过联合建模检查值与时间戳填补EHR缺失数据，在MIMIC-IV上多指标超越基线并提升临床预测公平性。
2025-06-26 cs.AI cs.LG
ParMAC: distributed optimisation of nested functions, with application to learning binary autoencoders
University of California, Merced（加州大学默塞德分校）
许多强大的机器学习模型都是基于多个处理层的组合，例如深度网络，这会产生非凸目标函数。一个通用的，最近的方法来优化这种“嵌套”功能是辅助坐标（MAC）的方法。MAC为每个数据点引入了一个辅助坐标，以便将嵌套模型解耦为独立的子模型。这将优化分解为在训练单层和更新坐标之间交替的步骤。它的优点是重用了现有的单层算法，引入了并行性，并且不需要使用链式规则梯度，因此它适用于不可微层。对于大规模的问题，或者为了更快的训练而需要分布计算时，数据集可能不适合单个机器。因此，限制机器之间的通信量是至关重要的，这样它就不会抹杀并行性的好处。我们描述了一种实现这一点的通用方法，ParMAC。ParMAC在具有环形拓扑的处理机集群上工作，并交替两个步骤直到收敛：一个步骤使用随机更新并行训练子模型，另一个步骤并行训练坐标。只有子模型参数，没有数据或坐标，在机器之间进行通信。ParMAC具有高并行性、低通信开销，并且便于数据混洗、负载均衡、容错和流数据处理。我们研究了ParMAC的收敛性，并提出了一个理论模型，其运行时间和并行加速比。我们开发ParMAC来学习二进制自动编码器，以实现快速，近似的图像检索。我们在分布式系统中的MPI中实现了它，并在128处理器集群中使用1亿个高维点的训练集展示了近乎完美的加速比。
2016-05-30 cs.DC cs.LG cs.NE
Deep Randomized Distributed Function Computation (DeepRDFC): Neural Distributed Channel Simulation
本文提出基于深度学习的RDFC方法，通过自编码器优化概率分布匹配，提升通信效率并满足强函数计算需求。
2026-03-11 cs.AI cs.IT cs.LG
Time Series Forecasting Using a Hybrid Deep Learning Method: A Bi-LSTM Embedding Denoising Auto Encoder Transformer
本文提出Bi-LSTM嵌入去噪自编码器模型BDM用于短期电动汽车充电负荷预测，在五个时间步中的四个上优于Transformer、CNN、RNN、LSTM和GRU等基准模型，提升了时间序列预测与决策能力。
2025-09-21 cs.AI cs.LG
