Unsupervised Hierarchical Skill Discovery
University of the Witwatersrand(瓦特斯兰大学);Neural Discovery (MIND) Institute(神经发现(MIND)研究所)
提出一种基于语法的无监督方法,从无标签轨迹中分割技能并构建层次结构,在像素级环境(如Craftax和Minecraft)中优于现有基线,并能加速下游强化学习任务。
2026-05-28 cs.FL cs.LG
Hierarchically Structured Reinforcement Learning for Topically Coherent Visual Story Generation
Microsoft Research(微软研究院);University of Florida(佛罗里达大学);JD AI Research(京东人工智能研究院)
我们提出了一个层次结构的强化学习方法来解决规划的挑战,为视觉讲故事的任务产生连贯的多句故事。在我们的框架内,给定图像序列生成故事的任务被划分为两级分层解码器。高级解码器通过生成语义概念(即,主题)中的每一个图像序列。低级解码器使用语义组成网络为每个图像生成句子,该语义组成网络有效地基于以主题为条件的句子生成。这两个解码器使用强化学习进行端到端联合训练。我们评估我们的模型上的视觉讲故事(VIST)数据集。来自自动和人工评估的实证结果表明,与强平深度强化学习基线相比,所提出的分层结构强化训练实现了显著更好的性能。
2019-01-18 cs.AI cs.CV cs.LG
Hierarchical Imitation Learning with Vector Quantized Models
Aalto University(阿尔托大学);Finnish Center for Artificial Intelligence FCAI(芬兰人工智能中心FCAI)
本文提出一种分层模仿学习方法,利用强化学习识别专家轨迹中的子目标,并结合向量量化生成模型进行子目标层级规划,在复杂长时程决策任务中超越现有最优方法。
2023-05-29 cs.AI cs.LG
Self-Consistent Trajectory Autoencoder: Hierarchical Reinforcement Learning with Trajectory Embeddings
University of California, Berkeley(加利福尼亚大学伯克利分校);Google Brain(谷歌大脑)
在这项工作中,我们采取表示学习的角度分层强化学习,其中学习层次结构中的较低层的问题转化为学习自动生成模型的问题。我们证明了我们可以学习轨迹的连续潜在表示,这在解决时间扩展和多阶段问题中是有效的。我们提出的模型SeCTAR从变分自编码器中汲取灵感,并学习轨迹的潜在表示。这种方法的一个关键组成部分是学习一个潜在的条件政策和一个潜在的条件模型是一致的。给定相同的潜势,策略生成的轨迹应该与模型预测的轨迹相匹配。该模型通过预测闭环策略行为的结果,提供了一个内置的预测机制。我们提出了一种新的算法来执行分层RL与此模型,结合基于模型的规划学习的潜在空间与无监督的探索目标。我们表明,我们的模型是有效的推理在长期的视野与稀疏的奖励几个模拟任务,优于标准的强化学习方法和先验方法的层次推理,基于模型的规划和探索。
2018-06-07 cs.AI cs.LG stat.ML
Hierarchical Representation Learning for Markov Decision Processes
Dept. Information and Communication Technologies, Universitat Pompeu Fabra(庞培法布拉大学信息与通信技术系);Mila – Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所)
在本文中,我们提出了一种新的方法来学习马尔可夫决策过程的层次表示。我们的方法通过将状态空间划分为子集,并定义子任务来执行分区之间的转换。我们制定的状态空间划分的问题作为一个优化问题,可以解决使用梯度下降给定的一组采样轨迹,使我们的方法适用于高维问题与大的状态空间。我们经验验证的方法,通过显示,它可以成功地学习一个有用的层次表示在导航域。一旦学会,分层表示可以用于解决给定领域中的不同任务,从而跨任务概括知识。
2021-12-19 cs.AI cs.LG
Rethinking Decision Transformer via Hierarchical Reinforcement Learning
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
本文提出一种基于分层强化学习的通用序列建模框架,通过联合优化高层提示策略与低层动作策略来赋予决策Transformer轨迹拼接能力,并在多个基准上显著超越DT。
2023-11-01 cs.AI cs.LG
HONEST-CAV: Hierarchical Optimization of Network Signals and Trajectories for Connected and Automated Vehicles with Multi-Agent Reinforcement Learning
College of Engineering, Center for Environmental Research and Technology, University of California at Riverside(加州大学河滨分校工程学院、环境研究与技术中心);InfoTech Labs, Toyota Motor North America(丰田北美信息科技实验室)
HONEST-CAV通过多智能体强化学习和机器学习轨迹规划算法优化交通信号与车辆轨迹,提升交通效率和节能效果。
2026-02-21 cs.AI cs.LG cs.SY
Learning Goal Embeddings via Self-Play for Hierarchical Reinforcement Learning
New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
在分层强化学习中,一个主要的挑战是确定适当的低级策略。我们提出了一个无监督学习方案,该方案基于Sukhbaatar et al.(2018)的非对称自我游戏,可以自动学习环境中子目标的良好表示以及可以执行它们的低级策略。然后,高级策略可以通过生成一系列连续的子目标向量来指导较低的策略。我们使用Mazebase和Mujoco环境评估我们的模型,包括具有挑战性的AntGather任务。子目标嵌入的可视化揭示了环境中任务的逻辑分解。量化,我们的方法获得了令人信服的性能增益超过非层次的方法。
2018-11-22 cs.LG stat.ML
Graph-Assisted Stitching for Offline Hierarchical Reinforcement Learning
Department of Computer Science and Engineering, Sungkyunkwan University, Suwon, Republic of Korea(计算机科学与工程系,成均馆大学,苏旺,韩国);Department of Artificial Intelligence, Sungkyunkwan University, Suwon, Republic of Korea(人工智能系,成均馆大学,苏旺,韩国)
针对现有离线分层强化学习在长任务中效率低、轨迹间状态转移拼接能力弱的问题,提出图辅助拼接(GAS)框架,通过TDR空间嵌入和图搜索选择子目标序列,结合TE指标优化图质量,在多任务中显著优于现有方法。
2025-07-07 cs.AI cs.LG cs.RO
Hierarchical Policy-Gradient Reinforcement Learning for Multi-Agent Shepherding Control of Non-Cohesive Targets
Scuola Superiore Meridionale(南方高等学院);University of Naples Federico II(那不勒斯费德里科二世大学)
本文提出一种基于策略梯度的分散式强化学习框架,通过Proximal Policy Optimization整合目标选择与驱动,克服了传统DQN的离散动作限制,在无先验动力学知识下有效解决了非内聚目标的多智能体牧羊问题,并验证了其可扩展性。
2025-04-03 cs.AI cs.LG cs.MA
Generating Hierarchical Structures for Improved Time Series Classification Using Stochastic Splitting Functions
Kırıkkale University(克勒克卡莱大学)
本文提出一种基于随机分裂函数的层次分裂聚类方法,无需先验知识即可为多类时间序列数据生成层次结构,并在46个数据集上验证其能显著提升svm和rocket的分类性能。
2023-09-21 cs.LG
Generating Hierarchical Explanations on Text Classification Without Connecting Rules
University of Chinese Academy of Sciences(中国科学院大学)
深度NLP模型的不透明性推动了解释深度模型如何预测的方法的发展。最近,工作已经引入了分层归因,它产生了一个分层聚类的话,随着每个集群的属性得分。然而,现有的工作层次属性都遵循连接规则,限制了输入文本中的连续跨度的集群。我们认为,连接规则作为一个额外的先验可能会破坏忠实地反映模型决策过程的能力。为此,我们建议生成层次的解释没有连接规则,并引入一个框架,生成层次聚类。实验结果和进一步分析表明,该方法能够为反映模型预测过程提供高质量的解释。
2022-10-24 cs.CL cs.LG
Hierarchical Patch VAE-GAN: Generating Diverse Videos from a Single Sample
Tel Aviv University(特拉维夫大学)
我们认为,从一个单一的视频样本生成不同的和新颖的视频的任务。最近,提出了新的基于分层补丁GAN的方法来生成不同的图像,在训练时只给出一个样本。移动到视频,这些方法无法生成不同的样本,并且经常崩溃为生成类似于训练视频的样本。我们介绍了一种新的补丁为基础的变分自编码器(VAE),它允许一个更大的多样性的产生。使用这个工具,一个新的分层视频生成方案的构建:在粗尺度上,我们的补丁VAE,确保样本的高多样性。随后,在更精细的尺度上,patch-GAN渲染细节,从而生成高质量的视频。我们的实验表明,该方法产生不同的样本在图像域,更具有挑战性的视频域。
2020-10-22 cs.CV cs.LG
Generation Drawing/Grinding Trajectoy Based on Hierarchical CVAE
Saitama University(埼玉大学);University of Tsukuba(筑波大学)
在这项研究中,我们提出了一种方法来建模的局部和全局特征的绘图/磨削轨迹与分层变分自编码器(VAE)。通过在分层结构中组合两个单独训练的VAE模型,可以生成具有局部和全局特征的高再现性的轨迹。分层生成网络使得能够用相对少量的训练数据生成高阶轨迹。仿真和实验结果验证了该方法的泛化性能。此外,我们还证实,通过改变学习模型的组合,可以生成过去从未学习过的新轨迹。
2021-11-24 cs.LG cs.SY eess.SY
E2R: a Hierarchical-Learning inspired Novelty-Search method to generate diverse repertoires of grasping trajectories
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Institut des Systèmes Intelligents et de Robotique(智能与机器人系统研究所)
本研究提出受分层学习启发的E2R新颖性搜索方法,解耦抓取的趋近与抓握动作以平滑行为空间,可平台无关地生成多样化抓取轨迹库,性能优于现有方法且可部署于真实机器人。
2024-04-17 cs.LG cs.RO
DiffTraj: Generating GPS Trajectory with Diffusion Probabilistic Model
Southern University of Science and Technology(南方科技大学);City University of Hong Kong(香港城市大学);University of York(约克大学)
针对GPS轨迹隐私问题,提出时空扩散概率模型DiffTraj,通过反向去噪过程从白噪声重建轨迹,结合Traj-UNet准确估计噪声,生成高保真轨迹并支持下游任务。
2023-10-24 cs.LG
UniGen: Unified Modeling of Initial Agent States and Trajectories for Generating Autonomous Driving Scenarios
Waymo(威摩科技)
提出 UniGen 统一建模新智能体位置、初始状态与轨迹,并结合自回归注入生成低碰撞率逼真驾驶场景,在 Waymo Open Motion Dataset 上超越现有方法。
2024-05-06 cs.LG cs.RO
TVGL-CFM:Generating and Forecasting Time-Varying Trajectories of Dynamic Networks with Conditional Flow Matching
University of Strathclyde(斯特拉斯克莱德大学)
研究针对脑网络等随时间变化的复杂系统,提出TVGL-CFM模型,通过对数欧几里得图和条件流匹配,可生成和预测时变网络轨迹,在多数据集上表现优于原始信号基线,直接生成结构化精度轨迹更可靠。
2026-09-21 cs.LG
Generating Diverse and Consistent QA pairs from Contexts with Information-Maximizing Hierarchical Conditional VAEs
KAIST(韩国科学技术院);AITRICS;Maru Inc(42Maru公司)
问答(QA)中最关键的挑战之一是标记数据的稀缺性,因为使用人工注释获得目标文本域的问答(QA)对的成本很高。解决这个问题的另一种方法是使用从问题上下文或大量非结构化文本(例如维基百科)自动生成的QA对。在这项工作中,我们提出了一个分层的条件变分自编码器(HCVAE)生成QA对给定的非结构化文本作为上下文,同时最大限度地提高生成的QA对之间的互信息,以确保其一致性。我们在几个基准数据集上验证了我们的信息最大化分层条件变分自编码器(Info-HCVAE),方法是仅使用生成的QA对(基于QA的评估)或使用生成的和人类标记的对(半监督学习)进行训练,以评估QA模型(BERT基础)的性能。结果表明,我们的模型在两个任务的所有基线上都获得了令人印象深刻的性能增益,只使用了一小部分数据进行训练。
2020-06-15 cs.CL cs.LG
Align Your Structures: Generating Trajectories with Structure Pretraining for Molecular Dynamics
Stanford University(斯坦福大学);Lambda, Inc(Lambda公司)
本文提出利用结构预训练生成分子动力学轨迹的方法,通过扩散模型生成结构并结合插值模块保证时间一致性,有效解决分子动力学数据稀缺问题。
2026-04-05 cs.LG q-bio.QM
Generating Multi-Agent Trajectories using Programmatic Weak Supervision
Caltech(加州理工学院);Salesforce;STATS
我们研究了训练序列生成模型捕获协调的多智能体轨迹行为,如进攻篮球比赛的问题。在对这些设置进行建模时,设计分层模型通常是有益的,该模型可以使用中间变量来捕获长期协调。此外,这些中间变量应该以可解释和可操作的方式捕获有趣的高级行为语义。我们提出了一个层次化的框架,可以有效地学习这样的顺序生成模型。我们的方法的灵感来自最近的工作,利用编程产生的弱标签,我们扩展到时空制度。除了合成设置,我们展示了如何实例化我们的框架,以有效地模拟篮球运动员之间的复杂交互,并在很长一段时间内生成篮球游戏的真实多智能体轨迹。我们使用定量和定性评估来验证我们的方法,包括与专业体育分析师进行的用户研究比较。
2019-02-22 cs.LG stat.ML
Deep Generative Models for Vehicle Speed Trajectories
George Mason University(乔治梅森大学);Argonne National Laboratory(阿贡国家实验室)
生成真实的车辆速度轨迹是评估车辆燃油经济性和自动驾驶汽车预测控制的关键组成部分。传统的生成模型依赖于马尔可夫链方法,可以产生准确的合成轨迹,但受到维数灾难。它们不允许在生成过程中包含条件输入变量。在本文中,我们展示了如何扩展深度生成模型,以实现准确和可扩展的生成。提出的架构涉及循环和前馈层,并使用对抗技术进行训练。我们的模型表现良好,生成车辆轨迹使用来自芝加哥大都市区的GPS数据训练的模型。
2021-12-14 cs.LG stat.AP
Generating Individual Trajectories Using GPT-2 Trained from Scratch on Encoded Spatiotemporal Data
Kanazawa Gakuin University(金泽学院大学);National Institute of Informatics(国立信息学研究所)
本文提出将经纬度、时间间隔、环境因素与个体属性编码为特殊 token,并在 GPT-2 架构上从头训练,以自回归方式生成受天气、性别和年龄等条件影响的个体日常轨迹。
2023-08-14 cs.AI cs.LG
A Hierarchical Latent Variable Encoder-Decoder Model for Generating Dialogues
Université de Montréal(蒙特利尔大学);Maluuba Inc(Maluuba公司);McGill University(麦吉尔大学)
序列数据通常具有层次结构,在序列之间具有复杂的依赖关系,例如在对话中的话语之间发现的依赖关系。为了对这种生成过程进行建模,我们提出了一种基于神经网络的生成体系结构,其中潜在随机变量跨越可变数量的时间步长。我们将所提出的模型的对话响应生成的任务,并比较它与最近的神经网络架构。我们通过自动评估指标和人工评估来评估模型性能。实验表明,我们的模型改进了最近提出的模型,潜变量有利于生成长输出并保持上下文。
2016-06-14 cs.AI cs.CL cs.LG
Trajectory-User Linking via Hierarchical Spatio-Temporal Attention Networks
Ocean University of China(中国海洋大学);The University of Hong Kong(香港大学)
针对轨迹-用户关联中全局时空上下文建模不足的问题,本文提出AttnTUL,结合图神经网络与分层注意力机制联合编码局部转移及全局依赖,实验证明其优于现有基线。
2023-12-07 cs.AI cs.LG
Generating In-store Customer Journeys from Scratch with GPT Architectures
The Graduate University for Advanced Studies, SOKENDAI(综合研究大学院大学(SOKENDAI));National Institute of Informatics(情报学研究所)
本文提出一种基于GPT-2架构的方法,从零生成店内顾客轨迹和购买行为,并通过微调减少训练数据,实验证明优于LSTM和SVM模型。
2024-07-13 cs.AI cs.LG
Learning Fine Grained Place Embeddings with Spatial Hierarchy from Human Mobility Trajectories
Yahoo Japan Corporation(雅虎日本公司);Lyles School of Civil Engineering, Purdue University(普渡大学莱尔思工程学院)
从人类移动轨迹生成的地点嵌入已经成为了解地点功能的流行方法。具有高空间分辨率的位置嵌入对于许多应用是期望的,然而,由于数据稀疏性,特别是在人口较少的区域中,空间分辨率的降尺度会使嵌入的质量恶化。我们解决这个问题,提出了一种方法,产生细粒度的地方嵌入,利用空间层次信息,根据观察到的数据点的局部密度。我们的细粒度的地方嵌入的有效性进行比较,通过下一个地方的预测任务,使用来自日本3个城市的真实世界的轨迹数据的基线方法。此外,我们证明了我们的细粒度的地方嵌入土地利用分类应用程序的价值。我们相信,我们的技术,将空间层次信息可以补充和加强各种地方嵌入生成方法。
2020-02-06 cs.AI cs.LG
Hierarchical Diffusion Policy for Kinematics-Aware Multi-Task Robotic Manipulation
Dyson(戴森)
本研究提出分层扩散策略HDP,通过高层规划末端执行器位姿、低层结合运动学感知扩散模型生成轨迹,在仿真与真实机器人多任务操作中成功率显著优于现有方法。
2024-03-06 cs.AI cs.CV cs.LG
Stochastic Lifting for Generating Trajectories of Stochastic Physical Systems
Courant Institute of Mathematical Sciences, New York University, New York, NY 10012, USA(Courant数学科学研究所,纽约大学,纽约,NY 10012,USA)
提出随机提升方法,通过为每个状态转换附加独立高维随机标签并学习从当前状态和标签到下一状态的映射,以生成多样化的随机物理系统轨迹。
2026-05-28 cs.AI cs.LG cs.NA
What Happens Next? Anticipating Future Motion by Generating Point Trajectories
Visual Geometry Group, University of Oxford(牛津大学视觉几何组)
提出一种基于单张图像预测未来运动的方法,通过生成密集轨迹网格来捕捉场景动态和不确定性,相比现有方法更准确多样,并验证其在机器人等下游任务中的有效性。
2026-05-25 cs.AI cs.CV cs.LG
Generating Survival Interpretable Trajectories and Data
Higher School of Artificial Intelligence Technologies(高等人工智能技术学院);Peter the Great St.Petersburg Polytechnic University(彼得大帝圣彼得堡理工大学)
本文提出一种基于特定结构自编码器的生存轨迹与数据生成模型,通过Beran估计器预测事件时间、补充数据集,并生成可视为反事实解释的原型时间相关轨迹以指导特征改变,具有训练推理鲁棒性。
2024-02-19 cs.AI cs.LG stat.ML
SkillDiffuser: Interpretable Hierarchical Planning via Skill Abstractions in Diffusion-Based Task Execution
Shanghai AI Laboratory(上海人工智能实验室);University of California, Berkeley(加州大学伯克利分校);The University of Hong Kong(香港大学)
SkillDiffuser提出一种端到端分层规划框架,通过从视觉和语言中学习可解释技能表示并条件化扩散模型生成轨迹,在Meta-World和LOReL等基准上实现了最先进的长程多技能任务执行性能。
2024-03-28 cs.CV cs.LG cs.RO
Pre-training Contextual Location Embeddings in Personal Trajectories via Efficient Hierarchical Location Representations
SK Telecom(SK电讯);KAIST(韩国科学技术院)
针对现有位置嵌入预训练方法处理位置数量有限、成本高的问题,提出Geo-Tokenizer与分层自回归位置模型目标,以更少参数提升下游任务性能。
2023-10-02 cs.AI cs.LG
Modularity-Based Clustering for Network-Constrained Trajectories
Télécom ParisTech(巴黎电信学院);Université Paris I(巴黎第一大学)
我们提出了一种新的聚类方法的移动对象的轨迹,受到约束的底层道路网络。该方法建立了一个相似性图的基础上,这些轨迹,然后使用模块化优化层次图聚类重新组轨迹相似的配置文件。我们的实验研究表明,所提出的方法优于经典的层次聚类,并给出了一个简短的洞察可视化的聚类结果。
2012-10-05 cs.LG physics.data-an stat.ML
Long-Horizon Visual Planning with Goal-Conditioned Hierarchical Predictors
USC(南加州大学);UPenn(宾夕法尼亚大学);UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
预测和规划未来的能力是智能体在世界上行动的基础。为了达到一个遥远的目标,我们在多个时间尺度上预测轨迹,首先设计一个粗略的目标计划,然后逐渐填充细节。相比之下,目前用于视觉预测和规划的学习方法在长时间任务上失败,因为它们生成预测(1)不考虑目标信息,(2)以最好的时间分辨率,一次一步。在这项工作中,我们提出了一个框架,视觉预测和规划,是能够克服这两个限制。首先,我们制定的问题,预测到一个目标,并提出相应的类的潜在空间目标条件的预测(GCPs)。通过将搜索空间限制为仅到达目标的那些轨迹,GCP显著地提高了规划效率。此外,我们展示了如何GCPs可以自然地制定为分层模型,给定两个观测值,预测它们之间的观测值,并通过递归细分轨迹的每个部分生成完整的序列。这种分而治之的策略是有效的长期预测,并使我们能够设计一个有效的层次规划算法,优化轨迹在一个由粗到细的方式。我们表明,通过使用目标条件和层次预测,GCPs使我们能够解决视觉规划任务的时间比以前可能的要长得多。
2020-11-27 cs.AI cs.CV cs.LG
HAConvGNN: Hierarchical Attention Based Convolutional Graph Neural Network for Code Documentation Generation in Jupyter Notebooks
University of Waterloo(滑铁卢大学);IBM Research(IBM研究院);University of Michigan(密歇根大学);IBM Research Europe(IBM欧洲研究院);JD.COM Silicon Valley Research Center(京东硅谷研究中心)
MysterNotebook允许数据科学家在单元格中编写机器学习代码及其文档。在本文中,我们提出了一个新的任务的代码文档生成(CDG)的计算笔记本电脑。与之前专注于为单个代码片段生成文档的CDG任务相比,在计算笔记本中,标记单元中的一个文档通常对应于多个代码单元,并且这些代码单元具有固有的结构。我们提出了一个新的模型(HAConvGNN),它使用一个分层的注意力机制,以考虑相关的代码单元格和相关的代码令牌信息时,生成的文档。在一个新的语料库上进行测试,该语料库是从有据可查的Kaggle笔记本构建的,我们表明我们的模型优于其他基线模型。
2021-09-08 cs.LG cs.SE
Hierarchical Diffusion Models for Singing Voice Neural Vocoder
Sony Group Corporation(索尼集团公司)
深度生成模型的最新进展提高了语音域中神经声码器的质量。然而,由于音高、响度和发音方面的音乐表现形式多种多样,产生高质量的歌声仍然具有挑战性。在这项工作中,我们提出了一个层次扩散模型歌唱声神经声码器。所提出的方法由多个扩散模型在不同的采样率操作;在最低采样率的模型专注于生成准确的低频分量,如音调,和其他模型逐步生成波形在较高的采样率的基础上,在较低的采样率和声学特征。实验结果表明,所提出的方法产生高质量的歌唱声音多个歌手,性能优于国家的最先进的神经声码器具有类似的计算成本范围。
2022-10-18 cs.LG cs.SD eess.AS
Hierarchical Model-Based Imitation Learning for Planning in Autonomous Driving
Waymo(Waymo公司)
我们展示了基于模型的生成对抗模仿学习(MGAIL)在密集城市自动驾驶任务中的首次大规模应用。我们增加标准MGAIL使用层次模型,使泛化到任意目标路线,并使用模拟交互式代理的闭环评估框架来衡量性能。我们从在旧金山行驶超过10万英里的真实车辆收集的专家轨迹中训练训练策略,并展示了一种可操纵的策略,即使在zero-shot设置中也可以稳健地导航,推广到具有现实驾驶中从未发生过的新目标的合成场景。我们还证明了混合闭环MGAIL损失与开环行为克隆损失的重要性,并显示我们的最佳策略方法的专家的性能。我们评估我们的模仿模型在平均和具有挑战性的情况下,并显示它如何可以作为一个有用的计划成功的轨迹之前。
2022-10-18 cs.AI cs.LG cs.RO
Generative Adversarial Networks for Electronic Health Records: A Framework for Exploring and Evaluating Methods for Predicting Drug-Induced Laboratory Test Trajectories
Columbia University(哥伦比亚大学)
生成对抗网络(GANs)代表了一类将神经网络与博弈论相结合的有前途的生成网络。从生成逼真的图像和视频到辅助音乐创作,GANs正在改变许多艺术和科学领域。然而,它们在医疗保健方面的应用尚未完全实现,更具体地说,在生成电子健康记录(EHR)数据方面。在本文中,我们提出了一个框架,用于在连续实验室时间序列数据的背景下探索GANs的价值。我们设计了一个无监督的评估方法,衡量合成实验室测试时间序列的预测能力。此外,我们表明,在预测药物暴露对实验室测试数据的影响时,在训练GAN模型之前结合训练队列的表示学习是有益的。
2017-12-01 cs.LG stat.ML
Learning Hierarchical Procedural Memory for LLM Agents through Bayesian Selection and Contrastive Refinement
School of Engineering, Royal Melbourne Institute of Technology University(皇家墨尔本理工学院工程学院)
MACLA通过贝叶斯选择和对比细化方法,实现LLM代理的高效学习与持续改进,无需参数更新。
2025-12-22 cs.AI cs.LG
Generating Counterfactual Trajectories with Latent Diffusion Models for Concept Discovery
Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau(莱茵兰-普法尔茨州 Kaiserslautern-Landau 技术大学);German Research Center for Artificial Intelligence GmbH (DFKI)(德国人工智能研究中心 GmbH(DFKI))
本文提出CDCT三步框架,利用LDM生成反事实轨迹、VAE学习解耦概念并搜索相关概念,在皮肤病变分类器中发现偏差和生物标志物,且FID更优、资源效率提升12倍。
2025-01-06 cs.AI cs.LG
CardiacGen: A Hierarchical Deep Generative Model for Cardiac Signals
The Ohio State University(俄亥俄州立大学)
我们提出了CardiacGen,这是一个深度学习框架,用于生成合成但生理上合理的心脏信号,如ECG。基于心血管系统的生理功能,我们提出了一个模块化的分层生成模型,并施加明确的正则化约束,训练每个模块使用多目标损失函数。该模型包括2个模块,HRV模块专注于产生逼真的心率变异性特征,形态模块专注于为不同模态生成逼真的信号形态。我们的经验表明,除了具有逼真的生理特征外,来自CardiacGen的合成数据还可用于数据增强,以提高基于深度学习的分类器的性能。CardiacGen代码可在https://github.com/SENSE-Lab-OSU/cardiac_gen_model上获得。
2022-11-15 cs.AI cs.LG eess.SP
Hierarchical Graph-Convolutional Variational AutoEncoding for Generative Modelling of Human Motion
University College London(伦敦大学学院);University of Cambridge(剑桥大学)
人体运动模型通常集中在轨迹预测或动作分类,但很少两者兼而有之。人类运动的显著异质性和复杂的组合性使得每个任务都容易受到现实世界场景中常见的数据退化和分布变化的影响。一个充分表达的生成性行动模型在理论上可以在一个适用于这两项任务的统一框架内实现数据调节和分布弹性。在这里,我们提出了一种基于分层变分自编码器和深度图卷积神经网络的新架构,用于在多个时间尺度上生成整体动作模型。我们展示了这种分层图卷积变分自编码器(HG-VAE)能够生成连贯的动作,检测分布外的数据,并通过模型后验的梯度上升来估算缺失的数据。在H3.6M和最大的开源人体运动数据集AMASS上进行训练和评估后,我们发现HG-VAE可以比基线模型更好地促进下游判别学习。
2022-06-06 cs.AI cs.CV cs.LG
RareGraph-Synth: Knowledge-Guided Diffusion Models for Generating Privacy-Preserving Synthetic Patient Trajectories in Ultra-Rare Diseases
RareGen Youth Network(稀有基因青年网络)
RareGraph-Synth提出知识引导的连续时间扩散模型,融合800万边生物医学知识图谱,生成超罕见疾病合成EHR轨迹,在保真度上降低MMD达40%-60%,并将成员推断AUROC降至约0.53,兼顾数据效用与隐私保护。
2025-10-06 cs.AI cs.LG
G-Memory: Tracing Hierarchical Memory for Multi-Agent Systems
NUS(新加坡国立大学);Tongji University(同济大学);UCLA(加利福尼亚大学洛杉矶分校);A*STAR(新加坡科技研究局);NTU(南洋理工大学)
针对多智能体系统记忆机制简单、缺乏定制化的问题,提出三层图结构的G-Memory层级记忆系统,通过双向遍历检索跨试验知识与协作轨迹,在多个基准上显著提升了任务性能。
2025-06-16 cs.CL cs.LG cs.MA
Scalable Factorized Hierarchical Variational Autoencoder Training
Massachusetts Institute of Technology(麻省理工学院)
深度生成模型在无监督学习中取得了巨大的成功,能够捕捉潜在生成因子和观测之间的复杂非线性关系。其中,因子分解分层变分自动编码器(FHVAE)是一个基于变分推断的模型,制定了一个层次的生成过程的顺序数据。具体来说,FHVAE模型可以学习解纠缠和可解释的表示,这已经被证明对许多语音应用有用,例如说话人验证,鲁棒语音识别和语音转换。然而,正如我们将在本文中详细说明的那样,原始论文中提出的训练算法无法扩展到数千小时的数据集,这使得该模型在更大规模上的适用性较低。在确定了运行时间、内存和超参数优化方面的限制后,我们提出了一种分层采样训练算法来解决这三个问题。我们提出的方法在各种数据集上进行了全面评估,范围从3小时到1,000小时,涉及不同类型的生成因素,例如记录条件和噪音类型。此外,我们还提出了一种新的可视化方法,定性评估的性能方面的可解释性和解开。用我们提出的算法训练的模型在所有数据集上都表现出所需的特征。
2018-06-15 cs.CL cs.LG cs.SD
Predicting Open Source Software Sustainability with Deep Temporal Neural Hierarchical Architectures and Explainable AI
Dept. of Electrical & Computer Engineering University of Missouri(电气与计算机工程系 芝加哥大学)
本文提出基于深度时间神经层次架构和可解释AI的方法,用于预测开源软件的可持续性,通过多阶段分类流程实现生命周期阶段的高准确率分类。
2026-02-13 cs.AI cs.LG cs.SE
COLLAGE: Collaborative Human-Agent Interaction Generation using Hierarchical Latent Diffusion and Language Models
Purdue University(普渡大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室)
本文提出COLLAGE框架,结合大语言模型与分层VQ-VAE潜在扩散模型,通过LLM运动规划线索引导去噪过程,在CORE-4D和InterHuman数据集上实现了优于现有方法的协作式人-物体-人交互生成。
2024-09-30 cs.AI cs.CV cs.GR