Performance Optimization and Comparative Analysis of Generative AI Models on Advanced Accelerators
University of California San Diego(加州大学圣地亚哥分校);San Diego Supercomputer Center(圣地亚哥超级计算机中心)
针对生成式人工智能模型部署难题,开展系统研究,通过新颖的混合精度训练后量化评估等方法,对多种模型在不同下游任务及跨异构平台进行性能优化与比较分析。
2026-07-08 cs.LG cs.PF
Reducing the Computational Cost of Deep Generative Models with Binary Neural Networks
University College London(伦敦大学学院)
深度生成模型提供了一套强大的工具来理解真实世界的数据。但随着这些模型的改进,它们的大小和复杂性也会增加,因此它们在内存和执行时间上的计算成本也会增加。在神经网络中使用二进制权重是一种有望降低这种成本的方法。然而,二进制神经网络是否可以用于生成模型是一个悬而未决的问题。在这项工作中,我们表明,第一次,我们可以成功地训练生成模型,利用二进制神经网络。这大大降低了模型的计算成本。我们开发了一类新的二进制权重归一化,并为这些二进制生成模型的架构设计提供了见解。我们证明了两个最先进的深度生成模型,ResNet VAE和Flow++模型,可以使用这些技术有效地二进制化。我们训练二进制模型,使其损失值接近常规模型的损失值,但大小要小90%-94%,并且还允许显著加快执行时间。
2021-05-03 cs.LG
Roundtrip: A Deep Generative Neural Density Estimator
Tsinghua University(清华大学);Stanford University(斯坦福大学)
密度估计是统计学和机器学习中的一个基本问题。在这项研究中,我们提出了Roundtrip作为基于深度生成模型的通用神经密度估计器。Roundtrip保留了生成对抗网络(GANs)的生成能力,但也提供了密度值的估计。与以前的神经密度估计器不同,它对从潜在空间到数据空间的转换提出了严格的条件,Roundtrip允许使用更一般的映射。在一系列实验中,Roundtrip在各种密度估计任务中实现了最先进的性能。
2020-09-04 cs.LG stat.ME stat.ML
LoGAN: Generating Logos with a Generative Adversarial Neural Network Conditioned on color
Maastricht University(马斯特里赫特大学)
对任何设计师来说,设计一个标志都是一个漫长、复杂和昂贵的过程。然而,生成算法的最新进展提供了可以提供可能解决方案的模型。逻各斯是多模态的,几乎没有范畴属性,也没有连续的潜空间。然而,有条件的生成对抗网络可以用来生成徽标,帮助设计师进行创作。我们建议Logan:改进的辅助分类器Wasserstein生成对抗神经网络(具有梯度惩罚),能够生成以十二种不同颜色为条件的徽标。在生成的768个实例(12个类,每个类64个徽标)中,当查看最突出的颜色时,模型的条件生成部分的总体精度和召回率分别为0.8和0.7。LoGAN的研究结果让人们初步了解了人工智能如何用于帮助设计师进行创作,并开辟了未来有前途的方向,例如包括更多描述性标签,这将提供一个更详尽和易于使用的系统。
2018-10-23 cs.AI cs.CV cs.LG
Cycle-consistent Generative Adversarial Networks for Neural Style Transfer using data from Chang'E-4
Iris Lunar Rover(虹膜月球车);Carnegie Mellon(卡内基梅隆大学)
生成对抗网络(GANs)在计算机视觉中有着巨大的应用。然而,在空间科学和行星探索方面,重大进展的大门是敞开的。我们介绍了处理嫦娥四号任务行星数据的工具,并提出了一个使用渲染图像的周期一致性进行神经风格转换的框架。这些实验是在Iris Lunar Rover的背景下进行的,Iris Lunar Rover是一种纳米漫游车,将于2021年部署在月球地形中,作为卡内基梅隆大学的旗舰,是美国第一个登上月球的无人漫游车。
2020-11-23 cs.CV
Exploring Behavior-Relevant and Disentangled Neural Dynamics with Generative Diffusion Models
Georgia Institute of Technology(佐治亚理工学院)
针对神经行为数据分析中解码模型缺乏行为编码细节的问题,提出BeNeDiff方法,通过行为感知潜变量模型识别解耦神经子空间,结合生成扩散模型合成行为视频解释潜因子动力学,在多会话数据集上验证了其高解耦性与重建质量。
2024-11-26 cs.CV cs.LG q-bio.NC
Generative AI in Depth: A Survey of Recent Advances, Model Variants, and Real-World Applications
Florida International University(佛罗里达国际大学);Manipal Institute of Technology(曼海姆技术学院);University of Southern California(南加州大学);Indian Statistical Institute(印度统计研究所);University of Wollongong(沃林根大学)
本综述提出一个分类体系,系统梳理GANs、VAEs和扩散模型及其变体的发展,总结提升生成质量、多样性和可控性的关键创新,并讨论伦理问题与未来研究方向。
2025-10-23 cs.AI cs.CV cs.LG
Survey on Visual Signal Coding and Processing with Generative Models: Technologies, Standards and Optimization
University of Science and Technology of China(中国科学技术大学);Yokohama National University(横滨国立大学);Bytedance Inc.(字节跳动公司);University of Bristol(布里斯托尔大学)
本文综述了生成模型在视觉信号编码与处理中的最新进展,涵盖模型基础、编码标准化、恢复、合成编辑及质量评估,并探讨快速优化,旨在为该领域提供全面参考。
2024-05-23 cs.CV eess.IV
Advancements in Generative AI: A Comprehensive Review of GANs, GPT, Autoencoders, Diffusion Model, and Transformers
Bowie State University(鲍伊州立大学);Morgan State University(摩根州立大学);University of the District of Columbia(哥伦比亚特区大学)
本文系统综述了以ChatGPT为代表的生成式AI进展,涵盖GAN、GPT、自编码器、扩散模型和Transformer等核心模型,分析其多样化任务能力、面临的挑战及未来前景。
2023-11-21 cs.AI cs.LG
Generative Modeling for Low Dimensional Speech Attributes with Neural Spline Flows
NVIDIA(英伟达)
尽管最近在文本到语音合成的生成建模方面取得了进展,但这些模型还没有像FastPitch和FastSpeech2这样的音高条件确定性模型那样具有相同的细粒度可调性。音高信息不仅是低维的,而且是不连续的,这使得在生成环境中建模特别困难。我们的工作探讨了几种技术来处理上述问题的规范化流模型的背景下。我们还发现这个问题非常适合神经样条流,这是一个高度表达的替代规范化流中更常见的仿射耦合机制。
2022-06-27 cs.LG cs.SD eess.AS
Visual Explanations for Convolutional Neural Networks via Latent Traversal of Generative Adversarial Networks
Northwestern University(西北大学)
人工智能,特别是深度神经网络缺乏可解释性,仍然是在实践中实现模型的瓶颈。诸如梯度加权类激活映射(Grad-CAM)之类的流行技术提供了图像中显著特征的粗略映射,这很少能讲述卷积神经网络(CNN)学习的全部内容。使用COVID-19胸部X射线,我们提出了一种方法,用于解释CNN通过利用生成对抗网络(GANs)学习到的内容。我们的GAN框架将肺部结构与COVID-19特征分开。使用该GAN,我们可以通过在GAN的潜在空间中进行插值来可视化胸部X射线照片中的一对COVID阴性肺到COVID阳性肺的过渡,这提供了CNN如何响应肺内的不同特征的细粒度可视化。
2021-11-02 cs.AI cs.CV cs.LG
3DShape2VecSet: A 3D Shape Representation for Neural Fields and Generative Diffusion Models
KAUST(阿卜杜拉国王科技大学);TU Munich(慕尼黑工业大学)
该研究提出3DShape2VecSet新型3D形状表示方法,基于向量组编码神经场并适配transformer,在形状编码与生成任务中性能提升,支持多种条件生成及点云补全等应用。
2023-05-01 cs.CV cs.GR
Generative and Discriminative Voxel Modeling with Convolutional Neural Networks
Heriot-Watt University(赫瑞-瓦特大学);Renishaw plc(雷尼绍公司)
在处理三维数据时,表示的选择是关键。我们探索基于体素的模型,并提出证据的可行性体素表示的应用程序,包括形状建模和对象分类。我们的主要贡献是用于训练基于体素的变分自编码器的方法,用于探索自动编码器学习的潜在空间的用户界面,以及用于对象分类的深度卷积神经网络架构。我们解决了基于体素的表示所特有的挑战,并在ModelNet基准上对我们的模型进行了经验评估,在该基准上,我们展示了对象分类的最新技术水平的51.5%的相对改进。
2016-08-16 cs.CV cs.HC cs.LG
Comparative Study on Generative Adversarial Networks
University of Waterloo(滑铁卢大学)
近年来,机器学习领域取得了巨大的进步。这些进步是通过学术和工业研究取得的。近年来,在计算机视觉和图像分类领域,大量的研究致力于生成模型的使用。这些生成模型已经通过一个名为生成对抗网络的新框架得到推广。此外,在过去两年中,对这一框架提出了许多修改版本。我们研究了Goodfellow等人提出的原始模型以及对原始模型的修改,并对这些模型进行了比较分析。
2018-01-12 cs.AI cs.LG
Insights from Generative Modeling for Neural Video Compression
University of California Irvine(加州大学欧文分校);DeepMind
本文以深度自回归和潜变量生成模型统一审视神经视频编解码器,提出改进的时间变换、结构化熵模型和可变比特率架构,实现高分辨率视频压缩的最优性能。
2023-07-09 cs.CV cs.LG eess.IV
ODE-free Neural Flow Matching for One-Step Generative Modeling
Baylor University(贝勒大学)
本文提出无微分方程的神经流匹配方法,通过直接学习传输映射实现一步生成,减少推断步骤,提升生成质量。
2026-04-07 cs.LG
Generative Modeling by Inclusive Neural Random Fields with Applications in Image Generation and Anomaly Detection
Tsinghua University(清华大学)
神经随机场(NRF),是指一类使用神经网络来实现随机场中的势函数的生成模型(也称为基于能源的模式)并不是新的,但由于进展缓慢而受到的关注较少。与生成对抗网络(GANs)等各种有向图模型不同,NRF为生成建模提供了一系列有趣的无向图模型。在本文中,我们提出了一种新的方法,包括NRF的方法,学习NRF连续数据(如图像),通过引入包括发散最小化辅助生成器和发展随机梯度采样在增广空间。基于新的方法,具体的包容性NRF模型的开发和深入评估两个重要的生成建模应用程序-图像生成和异常检测。所提出的模型在这两个应用程序中始终改善了最先进的结果。值得注意的是,除了卓越的样本生成之外,我们的包容性NRF方法的另一个好处是,与GANs不同,它可以直接为样本评估提供(非归一化)密度估计。这些贡献和成果,本文显着推进NRFs的学习和应用到一个新的水平,在理论和实证,这是从来没有得到过的。
2020-07-22 cs.LG stat.ML
Generative Adversarial Neural Cellular Automata
Technical University Darmstadt(达姆施塔特工业大学)
受细胞之间相互作用的启发,最近引入的神经元胞自动机概念在各种任务中显示出有希望的结果。到目前为止,这个概念主要用于为单个场景生成图像。由于每个场景都需要一个新的模型,这种类型的生成似乎与自然界中细胞的适应性相矛盾。为了解决这个矛盾,我们引入了一个概念,使用不同的初始环境作为输入,同时使用一个神经元细胞自动机产生多个输出。此外,我们还介绍了GANCA,这是一种将神经元自动机与生成对抗网络相结合的新型算法,可以通过对抗训练实现更好的泛化。实验表明,当使用不同的输入时,单个模型能够学习多个图像,并且与监督训练模型相比,对抗训练模型在分布外数据上有显着改善。
2021-07-19 cs.CV cs.NE
Algorithms that get old : the case of generative deep neural networks
CEREMADE(CEREMADE(巴黎多芬大学数学与决策研究中心));Université Paris Dauphine - PSL(巴黎多芬大学-PSL);CNRS(法国国家科学研究中心)
机器学习中使用的生成式深度神经网络,如变分自动编码器(VAE)和生成式对抗网络(GANs),每次被要求这样做时都会产生新对象,约束条件是新对象与作为输入的一些示例列表保持相似。然而,这种行为与人类艺术家的行为不同,人类艺术家会随着时间的推移改变他们的风格,很少回到最初的创作风格。我们调查的情况下,VAE是用来从一些经验数据集描述的概率测度的样本。基于最近的工作Radon-Sobolev统计距离,我们提出了一个数值范例,与生成算法结合使用,满足以下两个要求:创建的对象不重复和发展,以填补整个目标概率分布。
2022-09-29 cs.LG stat.ML
Image Inpainting via Generative Multi-column Convolutional Neural Networks
The Chinese University of Hong Kong(香港中文大学);YouTu Lab, Tencent(腾讯优图实验室)
在本文中,我们提出了一个生成式多列网络的图像修补。该网络在一个阶段内以并行方式合成不同的图像分量。为了更好地表征全局结构,我们设计了一个置信度驱动的重建损失,同时采用隐式多样化MRF正则化来增强局部细节。结合重建和MRF损失的多列网络将从上下文导出的局部和全局信息传播到目标修复区域。在具有挑战性的街景、人脸、自然物体和场景上进行的大量实验表明,即使没有以前常见的后处理,我们的方法也能产生视觉上令人信服的结果。
2018-10-20 cs.CV
ODE$^2$VAE: Deep generative second order ODEs with Bayesian neural networks
Aalto University(阿尔托大学)
提出了一种高维序列数据的隐二阶常微分方程变分自动编码器(ODE $^2$ VAE)。利用深度生成模型的进步,ODE $^2$ VAE可以同时学习高维轨迹的嵌入并推断任意复杂的连续时间潜在动态。我们的模型显式地将潜在空间分解为动量和位置分量,并解决了二阶常微分方程系统,这是在基于递归神经网络(RNN)的时间序列模型和最近提出的黑盒常微分方程技术。为了考虑不确定性,我们提出了由深度贝叶斯神经网络参数化的概率潜在ODE动力学。我们展示了我们的方法上的运动捕捉,图像旋转和弹跳球数据集。我们在长期运动预测和插补任务中实现了最先进的性能。
2019-10-24 cs.LG stat.ML
Neural Synthesis of Footsteps Sound Effects with Generative Adversarial Networks
Queen Mary University of London(伦敦玛丽女王大学)
脚步声是多媒体应用中最普遍的声音效果之一。有大量的研究了解的声学特性和发展的合成模型的脚步声效果。在本文中,我们提出了第一次尝试采用神经合成这项任务。我们实现了两种基于GAN的架构,并将结果与真实录音以及六种传统的声音合成方法进行了比较。我们的架构达到了与记录样本一样高的真实感分数,为手头的任务显示了令人鼓舞的结果。
2021-12-10 cs.AI cs.LG cs.SD
Neural Residual Diffusion Models for Deep Scalable Vision Generation
Tsinghua University(清华大学)
针对深度堆叠网络在视觉生成中的数值误差问题,提出Neural-RDM框架,引入门控残差参数,提升图像视频生成质量并支持大规模训练。
2024-07-21 cs.AI cs.CV
Generative Neural Video Compression via Video Diffusion Prior
School of Information and Communication Engineering, Communication University of China(信息与通信工程学院,通信大学);School of Computer Science, Peking University(计算机学院,北京大学)
GNVC-VD通过结合视频扩散先验和序列级去噪,实现了高效的生成神经视频压缩,显著减少了闪烁伪影并提升了感知质量。
2026-02-23 cs.CV
Watch your Up-Convolution: CNN Based Generative Deep Neural Networks are Failing to Reproduce Spectral Distributions
Fraunhofer ITWM(弗劳恩霍夫信息技术与工程研究所);University of Heidelberg(海德堡大学);University Mannheim(曼海姆大学);Offenburg University(奥芬堡应用技术大学)
生成卷积深度神经网络,例如流行的GAN架构,依赖于基于卷积的上采样方法来产生非标量输出,如图像或视频序列。在本文中,我们表明,常见的上采样方法,即称为上卷积或转置卷积,导致这种模型无法正确再现自然训练数据的光谱分布。这种效果与底层架构无关,我们证明它可以用来轻松检测生成的数据,如deepfakes,在公共基准测试中的准确率高达100%。为了克服当前生成模型的这一缺点,我们建议在训练优化目标中添加一个新的谱正则化项。我们表明,这种方法不仅可以训练频谱一致的GANs,避免高频错误。此外,我们表明,频谱的正确近似对生成网络的训练稳定性和输出质量有积极的影响。
2020-03-03 cs.CV eess.IV
VideoNeuMat: Neural Material Extraction from Generative Video Models
University of Manchester(曼彻斯特大学);NVIDIA(NVIDIA公司);University of California Santa Barbara(加州大学圣巴bara分校)
VideoNeuMat通过两阶段流程从视频扩散模型中提取可重用的神经材料,利用可控相机和光照轨迹生成材料样本视频,并通过大型重建模型重建紧凑的神经材料,实现超越合成训练数据的现实感和多样性。
2026-05-15 cs.CV cs.GR
Generative AI Model for Artistic Style Transfer Using Convolutional Neural Networks
本文提出一种基于卷积神经网络的生成式AI艺术风格迁移方法,通过分离并操控深度图像表示中的内容与风格,结合损失计算与优化,实现高质量、和谐且通用的风格迁移合成。
2023-10-30 cs.CV cs.HC
Scaling Sequence-to-Sequence Generative Neural Rendering
Meta AI
Kaleido通过统一的解码器-only rectified flow transformer实现了序列到序列生成神经渲染的扩展,能够在无显式3D表示的情况下生成多视角视图,并在多个视图设置中达到与场景优化方法相当的性能。
2026-02-02 cs.CV
Geometric Flow Models over Neural Network Weights
Technische Universität München(慕尼黑工业大学);University of Fribourg(弗里堡大学)
本文针对现有权重空间生成模型忽视神经网络权重对称性的问题,设计了三种基于流匹配和图神经网络的权重空间流模型,更全面地建模权重几何结构,在参数大幅减少的情况下取得竞争性能并具备良好泛化能力。
2025-03-27 cs.LG
Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization
Stanford University(斯坦福大学)
本研究通过将分数匹配和去噪分数匹配转化为凸优化,为基于两层神经网络的扩散模型建立了理论框架,证明了浅层网络训练可归结为单个凸程序,并在有限数据下精确刻画了预测分数函数与收敛性。
2024-05-22 cs.LG math.OC
An adaptive artificial neural network-based generative design method for layout designs
The Hong Kong University of Science and Technology(香港科技大学)
布局设计在各种领域中都会遇到。对于具有许多设计自由度的问题,设计方法的效率成为主要关注点。近年来,人工神经网络等机器学习方法越来越多地用于加快设计过程。许多这样的方法的主要问题是需要使用高维模拟生成的大量训练数据。与训练数据生成相关联的高计算成本大大降低了通过使用机器学习方法获得的效率。在这项工作中,一个自适应的人工神经网络为基础的创成设计方法的建议和发展。该方法采用生成对抗网络来生成设计候选,从而大大减少了设计变量的数量。为了加快目标函数的求解速度,构造了一个卷积神经网络作为函数求解的代理模型。采用遗传算法结合两个神经网络进行反设计。提出了一种新的自适应学习和优化策略,它允许有效地探索设计空间,以搜索最优解。因此,大大减少了所需的训练数据的数量。所提出的设计方法的性能证明两个热源布局设计问题。在这两个问题中,最优设计已经获得。与现有的几种方法相比,所提出的方法具有最好的性能,在准确性和效率。
2021-01-29 cs.LG
Stable Parallel Training of Wasserstein Conditional Generative Adversarial Neural Networks
Oak Ridge National Laboratory(橡树岭国家实验室)
我们提出了一个稳定的,并行的方法来训练Wasserstein条件生成对抗神经网络(W-CGANs)的约束下,一个固定的计算预算。与以前的分布式GANs训练技术不同,我们的方法避免了进程间通信,降低了模式坍塌的风险,并通过使用多个生成器来增强可扩展性,每个生成器都同时在单个数据标签上进行训练。Wasserstein度量的使用还通过稳定每个生成器的训练来降低骑自行车的风险。我们在CIFAR 10,CIFAR 100和ImageNet 1 k数据集上说明了该方法,这三个标准的基准图像数据集保持了每个数据集图像的原始分辨率。在有限的固定计算时间和计算资源内的可扩展性和最终精度方面评估性能。为了测量准确性,我们使用初始分数,Frechet初始距离和图像质量。与通过在深度卷积条件生成对抗神经网络(DC-CGAN)上执行并行方法获得的先前结果相比,初始分数和Frechet初始距离有所改善,以及通过GANs方法创建的新图像的图像质量有所改善。在OLCF超级计算机Summit上使用多达2,000个NVIDIA V100 GPU在两个数据集上实现弱缩放。
2022-07-25 cs.AI cs.CV cs.DC
MobileStyleGAN: A Lightweight Convolutional Neural Network for High-Fidelity Image Synthesis
近年来,生成对抗网络(GANs)的使用在生成图像建模中变得非常流行。虽然基于样式的GAN架构在高保真图像合成中产生最先进的结果,但在计算上,它们是高度复杂的。在我们的工作中,我们专注于基于风格的生成模型的性能优化。我们分析了StyleGAN 2中计算最困难的部分,并提出了对生成器网络的更改,以便在边缘设备中部署基于风格的生成网络。我们引入了MobileStyleGAN架构,它的参数比StyleGAN 2少3.5倍,计算复杂度比StyleGAN 2低9.5倍,同时提供相当的质量。
2021-09-09 cs.CV eess.IV
Applying generative neural networks for fast simulations of the ALICE (CERN) experiment
Institute of Nuclear Physics PAS(波兰科学院核物理研究所);AGH University of Krakow(克拉科夫AGH大学);University of Warsaw(华沙大学)
本论文研究生成式神经网络在CERN ALICE实验ZDC中子探测器快速模拟中的应用,评估了多种架构与生成框架,在Wasserstein指标上显著优于现有方法且生成时间仅5毫秒,并提供了开源代码与模型开发建议。
2024-07-10 cs.LG hep-ex physics.ins-det
Next3D: Generative Neural Texture Rasterization for 3D-Aware Head Avatars
Tsinghua University(清华大学);Ant Group(蚂蚁集团);Tencent AI Lab(腾讯人工智能实验室)
3D感知生成对抗网络(GANs)仅使用单视图2D图像的集合来合成高保真度和多视图一致的面部图像。为了对面部属性进行细粒度的控制,最近的努力采用了3D可变形面部模型(3DMM)来显式或隐式地描述生成辐射场中的变形。显式方法提供了细粒度的表达式控制,但不能处理由头发和附件引起的拓扑变化,而隐式方法可以建模不同的拓扑,但由于变形场不受约束,泛化能力有限。我们提出了一种新的3D GAN框架,用于从非结构化2D图像中生成高质量和3D一致的面部化身的无监督学习。为了实现变形精度和拓扑灵活性,我们提出了一种三维表示称为生成纹理光栅化三平面。该方法在参数化网格模板的基础上学习生成神经纹理,然后通过光栅化将其投影到三个正交特征平面上,形成一个用于体渲染绘制的三平面特征表示。通过这种方式,我们结合了细粒度的表达控制网格引导显式变形和隐式体积表示的灵活性。我们进一步提出了具体的模块,用于建模嘴内部,这是不考虑3DMM。我们的方法通过大量的实验展示了最先进的3D感知合成质量和动画能力。此外,作为3D先验,我们的动画3D表示提升了多个应用程序,包括一次性面部化身和3D感知风格化。
2023-03-13 cs.CV
From Noise to Nuance: Advances in Deep Generative Image Models
Georgia Institute of Technology(佐治亚理工学院);AppCubic(AppCubic公司);JTB Technology Corp.(JTB科技公司);Indiana University(印第安纳大学);Purdue University(普渡大学);The University of Texas at Dallas(德州大学达拉斯分校);University of Liverpool(利物浦大学);Emory University(埃默里大学);National Taiwan Normal University(台湾师范大学)
本文梳理2021年以来深度生成图像模型的架构与计算创新,分析扩散模型、视觉Transformer等技术的演进及应用,指出当前挑战并提出未来研究方向。
2024-12-12 cs.AI cs.CV
Generative latent neural models for automatic word alignment
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);LIMSI(法国信息与自动化研究所)
单词对齐识别平行句子对中的单词之间的翻译对应,并且例如用于学习双语词典、训练统计机器翻译系统或执行质量估计。变分自编码器最近已经被用于各种自然语言处理中,以无监督的方式学习对语言生成任务有用的潜在表示。在本文中,我们研究这些模型的任务字对齐,并提出和评估几个演变的香草变分自编码器。我们证明,这些技术可以产生竞争力的结果相比,吉萨++和强大的神经网络对齐系统的两种语言对。
2020-09-28 cs.CL cs.LG
Towards Reliable Neural Generative Modeling of Detectors
Istituto Nazionale di Fisica Nucleare(意大利国家核物理研究所);Università degli Studi di Firenze(佛罗伦萨大学);HSE University(高等经济大学)
大型强子对撞机和下一代对撞机实验未来数据的亮度不断增加,需要产生前所未有的模拟事件。这种大规模生产需要大量有价值的计算资源。这就需要使用新的方法来生成事件和模拟检测器响应。本文讨论了生成对抗网络(GANs)在LHCb实验事件模拟中的应用。我们强调了GANs应用中的主要陷阱,并详细研究了系统效应。所给出的结果是基于Geant4模拟的LHCb切伦科夫探测器。
2022-04-21 cs.LG hep-ex physics.ins-det
Neural Stochastic Differential Equations with Change Points: A Generative Adversarial Approach
J.P. Morgan AI Research(摩根大通人工智能研究院);University at Buffalo(布法罗大学)
针对存在分布偏移的时间序列,本文提出在GAN框架下联合学习多个神经SDE及其变点,并以交替优化和判别器前向输出实现检测。
2024-01-22 cs.LG stat.ML
Advanced Single Image Resolution Upsurging Using a Generative Adversarial Network
Bangladesh Open University(孟加拉开放大学);Dhaka International University(达卡国际大学)
图像的分辨率是评价图像质量的一个非常重要的标准。图像的较高分辨率总是优选的,因为较低分辨率的图像由于模糊质量而不适合。图像的更高分辨率对于各种领域都很重要,例如医学成像;天文学工作等,因为当它们的尺寸被放大时,较低分辨率的图像变得不清晰和模糊。近来,进行各种研究工作以从图像的较低分辨率生成图像的较高分辨率。在本文中,我们提出了一种在具有深度网络的残差密集块网络架构中使用残差从较低分辨率生成更高分辨率图像的技术。我们还比较了我们的方法与其他方法,证明我们的方法提供了更好的视觉质量的图像。
2020-05-30 cs.CV eess.IV
Rapid seismic domain transfer: Seismic velocity inversion and modeling using deep generative neural networks
Imperial College London(帝国理工学院);Open Energi Ltd.(Open Energi有限公司);Technical University of Denmark(丹麦技术大学);Euclidity SL(Euclidity SL公司);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究所);Expero Inc.(Expero公司)
传统的基于物理的方法来推断地下属性,如全波形反演或反射率反演是耗时和计算昂贵的。我们提出了一种深度学习技术,通过将问题视为域转移问题,消除了对这些计算复杂方法的需求。我们的解决方案基于深度卷积生成对抗网络,大大减少了计算时间。基于两种不同类型的合成数据的训练产生了一个神经网络,当应用于真实数据集时,该神经网络可以生成逼真的速度模型。该系统的泛化能力意味着它对训练和测试数据集中固有的速度误差和伪影具有鲁棒性。
2018-05-22 cs.CV physics.geo-ph
Advances in Diffusion-Based Generative Compression
Chan Zuckerberg Biohub(查纳·泽克拜尔生物枢纽);University of California Irvine(加州大学尔湾分校)
本文探讨了扩散模型在图像生成压缩中的应用,通过统一回顾和理论分析,提出了一种基于率-失真-感知理论的压缩方法,并指出了未来的研究方向。
2026-09-24 cs.IT cs.LG eess.IV
Scenario generation for market risk models using generative neural networks
Deutsche Rueckversicherung AG(德国再保险公司);Carl von Ossietzky Universität(卡尔·冯·奥西茨基大学)
本研究将GAN用作经济情景生成器的方法扩展至符合Solvency 2要求的完整内部市场风险模型,验证其结果与欧洲监管批准的模型相近,为市场风险建模提供数据驱动的替代方案。
2023-08-25 cs.LG q-fin.MF q-fin.RM
DecGAN: Decoupling Generative Adversarial Network detecting abnormal neural circuits for Alzheimer's disease
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);School of Biomedical Engineering, Shenzhen University(深圳大学生物医学工程学院);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
阿尔茨海默病(AD)的主要原因之一是某些神经回路的紊乱。现有的AD预测方法已经取得了很大的成功,然而,从大脑网络的角度检测异常神经回路仍然是一个很大的挑战。在这项工作中,提出了一种新的解耦生成对抗网络(DecGAN)来检测AD的异常神经电路。具体地说,设计了一个解耦模块,将脑网络分解为两部分:一部分由少量稀疏图组成,表示在很大程度上决定AD发展的神经回路;另一部分是补充图,其对AD的影响可以忽略不计。此外,对抗策略被用来引导解耦模块提取与AD更相关的特征。同时,通过将检测到的神经回路编码为超图数据,设计了一个与超边缘神经元算法相关联的分析模块来识别神经回路。更重要的是,提出了一种基于空间谱超图相似性的稀疏容量损失模型,以最小化神经元电路的内在拓扑分布,从而显著提高模型的精度和鲁棒性.实验结果表明,该模型能有效地检测出AD不同阶段的异常神经回路,有助于AD的病理研究和早期治疗。
2021-10-12 cs.AI cs.LG
Deep Generative Models for 3D Medical Image Synthesis
University of Basel(巴塞尔大学);Technical University Darmstadt(达姆施塔特工业大学)
本章系统综述了VAEs、GANs和DDMs三类深度生成模型在三维医学图像合成中的原理、优缺点、临床应用及评估指标,并指出当前挑战。
2024-10-23 cs.CV eess.IV
Variational Bayesian Framework for Advanced Image Generation with Domain-Related Variables
Tsinghua University(清华大学);BCAM-Basque Center for Applied Mathematics(BCAM-巴斯克应用数学中心)
针对无标注条件生成问题,提出统一的变分贝叶斯框架VBITN,在学习过程中引入潜在变量推断,有效实现了无监督图像翻译、语义编辑与混合域翻译。
2023-05-23 cs.AI cs.CV
Generative Neural Network based Spectrum Sharing using Linear Sum Assignment Problems
Big data Institute(大数据研究所);School of Computer Science(计算机学院);Shenzhen University(深圳大学);Benha University(本哈大学);Peng Cheng Laboratory(鹏城实验室)
频谱管理和资源分配(RA)问题在诸如无线通信和计算机网络的大量研究领域中是具有挑战性和关键性的。传统的方法求解此类问题通常需要耗费大量的时间和内存,尤其是对于大规模的问题。近年来,不同的机器学习方法被认为是解决组合优化问题的潜在技术,特别是深层神经网络的生成模型。在这项工作中,我们提出了一个资源分配深自动编码器网络,作为一个有前途的生成模型,使频谱共享的无线设备到设备(D2 D)通信通过解决线性和分配问题(LSAP)。具体来说,我们研究了三种不同的架构的条件变分自编码器(CVAE)的性能。提出的三种架构是卷积神经网络(CVAE-CNN)自动编码器、前馈神经网络(CVAE-FNN)自动编码器和混合(H-CVAE)自动编码器。仿真结果表明,该方法可以用来作为传统的RA技术,如匈牙利算法的替代,由于其能够找到不同大小的LASP的解决方案,具有高精度和非常快的执行时间。此外,仿真结果表明,所提出的混合自动编码器架构的准确性优于其他提出的架构和最先进的DNN技术。
2019-10-12 cs.LG cs.NI stat.ML
Entanglement Forging with generative neural network models
量子和经典计算技术的最佳使用对于解决单靠量子计算无法轻松解决的问题非常重要。这就是量子多体系统的基态问题的情况。我们在这里表明,概率生成模型可以与量子算法结合使用,以设计混合量子-经典变分ansätze,从而形成纠缠以降低量子资源开销。变分ansätze包括两个独立的量子寄存器上的参数化量子线路,以及一个经典的生成神经网络,可以通过学习整个系统的施密特分解来纠缠它们。所提出的方法是有效的,在所需的测量数量,以达到固定的精度上的预期值的观测。为了证明它的有效性,我们进行了数值实验的横向场伊辛模型在一维和二维,和费米子系统,如t-V哈密顿的无自旋费米子的晶格。
2022-05-02 quant-ph
Rényi entanglement entropy of spin chain with Generative Neural Networks
本文提出一种结合副本技巧与生成神经网络的方法来估计自旋系统的Rényi纠缠熵,并在一维量子Ising自旋链上验证了其有效性。
2024-06-10 cond-mat.dis-nn cond-mat.stat-mech hep-lat
Generative Adversarial Variational Quantum Kolmogorov-Arnold Network
QuantScape Inc.(QuantScape公司)
本文提出一种基于变分量子KAN的生成对抗网络,利用量子计算优势实现高效学习,以提升生成准确率。
2025-12-31 quant-ph
Identification of quantum generative circuits with parallel quantum neural network
School of Computer Science, Northwestern Polytechnical University(西北工业大学计算机学院);school of cybersecurity, Northwestern Polytechnical University(西北工业大学网络空间安全学院);School of Information, Central University of Finance and Economics(中央财经大学信息学院)
本文提出并行量子嵌入神经网络ParaQuanNet,通过分类生成量子数据实现量子生成电路的高效识别,准确率达99.5%,并展示了其在经典数据集上的良好性能。
2026-03-03 quant-ph
Towards a scalable discrete quantum generative adversarial neural network
我们介绍了一个完全量子生成的对抗网络,用于处理二进制数据。该架构结合了其他经典和量子机器学习模型中的几个功能,到目前为止还没有结合使用。特别是,我们将噪声重新上传的发电机,辅助量子比特的量子增强表现力,和发电机和量子电路之间的直接连接,避免了需要访问发电机的概率分布。我们表明,作为单独的组件,发电机和稳压器执行所需的。我们的经验表明,我们的模型的表达能力的合成数据,以及低能量状态的伊辛模型。我们的演示表明,该模型不仅能够再现离散的训练数据,而且还可能从它推广。
2022-09-28 quant-ph