Forty Shades of Blue: Quality-Diversity Alignment via Mode-Conditioned Reinforcement Learning
University of Washington(华盛顿大学);Stanford University(斯坦福大学)
提出MoDA算法,通过模式条件强化学习联合优化LLM生成质量与多样性,在多个基准上显著提升多样性并改善通用能力。
2026-09-15 cs.AI cs.CL cs.LG
Benchmarking Quality-Diversity Algorithms on Neuroevolution for Reinforcement Learning
Imperial College London(伦敦帝国理工学院)
我们为机器人控制的强化学习领域的深度神经进化提出了一个质量多样性基准套件。该套件包括任务、环境、行为描述符和适应性的定义。我们根据任务和由深度神经网络控制的代理的复杂性指定不同的基准。该基准使用标准的质量多样性指标,包括覆盖率,QD得分,最大适应度和存档配置文件指标来量化覆盖率和适应度之间的关系。我们还提出了如何量化的鲁棒性的解决方案,环境随机性,通过引入相同的指标的校正版本。我们相信,我们的基准是一个宝贵的工具,为社会比较和改善他们的调查结果。源代码可在线获取:https://github.com/adaptive-intelligent-robotics/QDax
2022-11-04 cs.AI cs.LG cs.NE
QDax: A Library for Quality-Diversity and Population-based Algorithms with Hardware Acceleration
InstaDeep(InstaDeep公司);Imperial College London(帝国理工学院)
QDax 是一个基于 Jax 的开源库,为质量-多样性、神经进化和强化学习算法提供模块化 API 与硬件加速支持,并通过丰富示例、完善文档和 95% 测试覆盖率简化研究实验。
2023-08-07 cs.AI cs.NE
Quality-Diversity Actor-Critic: Learning High-Performing and Diverse Behaviors via Value and Successor Features Critics
Imperial College London(帝国理工学院);Iconic AI
提出QDAC算法,通过价值函数与后继特征评论家学习高性能且多样化的行为,在连续控制任务中显著提升性能与多样性,并增强对扰动环境的适应能力。
2024-06-03 cs.AI cs.LG
Learning Hierarchical Skill Policies with Offline Quality-Diversity Reinforcement Learning
The University of Tokyo(东京大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
该研究提出QDOS算法,通过优势加权质量多样性预训练与双数据集复用策略,在分层技能学习框架下,于稀疏奖励任务中显著提升性能,优于强基线算法。
2026-08-21 cs.AI cs.LG cs.RO
Approximating Gradients for Differentiable Quality Diversity in Reinforcement Learning
University of Southern California(南加州大学);New York University(纽约大学)
考虑一下训练具有强大能力的代理人的问题。一种方法是生成代理策略的多样化集合。训练可以被视为一个质量多样性(QD)优化问题,在这里我们搜索一组在量化行为方面不同的性能策略。最近的工作表明,可微质量多样性(DQD)算法大大加快QD优化时,精确的梯度。然而,代理策略通常假设环境是不可区分的。为了将DQD算法应用于训练代理策略,我们必须近似性能和行为的梯度。我们提出了当前最先进的DQD算法的两个变体,它们通过强化学习(RL)中常见的近似方法计算梯度。我们评估我们的方法对四个模拟运动任务。一种变体在结合QD和RL方面实现了与当前最先进的结果相当的结果,而另一种变体在两个运动任务中执行重复。这些结果深入了解了当前DQD算法在必须近似梯度的领域中的局限性。源代码可在https://github.com/icaros-usc/dqd-rl上获得
2022-04-15 cs.AI cs.LG cs.NE
Automatic Calibration of Artificial Neural Networks for Zebrafish Collective Behaviours using a Quality Diversity Algorithm
Ochanomizu University(御茶水女子大学);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Univ Paris Diderot(巴黎狄德罗大学)
在过去的二十年里,已经提出了各种模型的鱼类集体运动。这些模型主要用于解释动物之间社会互动的生物学机制。他们考虑的是非常简单的均匀无界环境,目前还不清楚他们是否能准确地模拟集体轨迹。此外,当模型更准确时,它们对更大的群体或更复杂的环境的可扩展性问题仍然是开放的。本研究旨在学习如何利用真实世界的跟踪数据来模拟真实的斑马鱼集体运动。我们的目标是设计一个基于代理的模型,可以实现一个人工机器鱼,可以融入一个集体的真正的鱼。我们提出了一种新的方法,使用质量多样性算法,一类算法,强调探索纯优化。特别是,我们使用CVT-MAP-Elites,一个变种的国家的最先进的MAP-精英算法的高维搜索空间。结果表明,质量多样性算法不仅在宏观层面(即群体行为)优于经典的进化强化学习方法,而且还能够在微观层面(即个体行为)生成更逼真的仿生行为。
2019-07-22 cs.AI cs.NE q-bio.NC
Towards Algorithmic Transparency: A Diversity Perspective
University of Trento(特伦托大学);Open University of Cyprus(塞浦路斯开放大学);The University of Haifa(海法大学)
随着算法系统和流程在社会中的作用越来越大,偏见的风险也越来越大,这可能导致对个人和社会群体的歧视。近年来,关于算法偏见的研究呈爆炸式增长,突出了偏差的问题以及算法透明度(AT)方面的潜在解决方案。透明度对于促进公平管理以及算法的可解释性很重要;然而,多样性的概念及其与偏见和透明度的关系在很大程度上被排除在讨论之外。我们反思了多样性和偏见之间的关系,认为多样性推动了透明度的需求。使用透视镜头,这需要多样性作为一个给定的,我们提出了一个概念框架来表征的问题和解决方案的AT空间,以帮助其在算法系统中的应用。使用我们的框架描述了三个研究领域的示例案例。
2021-04-12 cs.AI cs.CY
Contextual Quality-Diversity Evolutionary Reinforcement Learning for HVAC Control in Tropical Commercial Buildings
本文提出 CQD-ERL 控制器,用于热带商业建筑 HVAC 监督控制,在新加坡建筑降阶环境训练后,经年度回测与 ASHRAE Guideline 36 基线对比,实现更优控制性能。
2026-08-13 cs.AI cs.LG cs.NE
How Diversely Can Language Models Solve Problems? Exploring the Algorithmic Diversity of Model-Generated Code
School of Computer Science and Engineering, Kyungpook National University(庆北国立大学计算机科学与工程学院);POSTECH(浦项科技大学);Department of Artificial Intelligence, Yonsei University(延世大学人工智能系)
本文提出一种基于代码聚类和相似性度量的系统评估方法,发现语言模型生成的代码算法多样性较低,并证明通过结合异构模型和将采样温度设置在1.0以上可有效提升代码多样性。
2025-03-07 cs.AI cs.CL cs.SE
Algorithmic Approaches to Opinion Selection for Online Deliberation: A Comparative Study
médialab, Sciences Po Paris, France(媒体实验室,巴黎社会科学高等研究院,法国)
本文提出了一种结合多样性和平衡代表性的算法,用于在线辩论中意见选择,以优化民主标准的权衡。
2026-02-17 cs.AI cs.CY cs.SI
Differentiable Quality Diversity
University of Southern California(南加州大学)
质量多样性(QD)是随机优化研究的一个不断发展的分支,它研究如何生成一个解决方案的档案,最大化给定的目标函数,但也不同的一组指定的测量功能。然而,即使这些函数是可微的,QD算法也将它们视为“黑盒”,忽略梯度信息。我们提出了可微质量多样性(DQD)问题,QD的一个特殊情况下,其中的目标和测量功能是一阶可微。然后,我们通过梯度树状图(MEGA),DQD算法,利用梯度信息,有效地探索联合范围的目标和测量功能的MAP-精英。在两个QD基准域和搜索StyleGAN的潜在空间中的结果表明,MEGA的性能显着优于最先进的QD算法,突出了DQD在梯度信息可用时有效质量多样性优化的承诺。源代码可在https://github.com/icaros-usc/dqd上获得。
2021-10-27 cs.AI
Preference-Conditioned Gradient Variations for Multi-Objective Quality-Diversity
Imperial College London, InstaDeep(帝国理工学院伦敦分校,InstaDeep);Imperial College London(帝国理工学院伦敦分校)
本文提出了一种基于偏好条件的策略梯度和拥挤机制的多目标质量多样性算法,通过高效发现目标空间中的优质区域并促进非支配前沿的均匀分布,从而在六个机器人运动任务中优于现有方法。
2026-02-02 cs.AI
Multi-Objective Quality Diversity Optimization
InstaDeep;Imperial College London(帝国理工学院)
在这项工作中,我们考虑多目标的质量多样性(QD)优化问题。QD算法已经被提出来搜索大量的不同的和高性能的解决方案,而不是一组局部最优。多样性的繁荣在许多工业和机器人应用中被证明是有用的。另一方面,大多数现实生活中的问题表现出几个潜在的拮抗剂的目标进行优化。因此,能够使用适当的技术优化多个目标,同时实现多样性对许多领域都很重要。在这里,我们提出了一个扩展的MAP-Elites算法在多目标设置:多目标MAP-Elites(MOME)。也就是说,它结合了从MAP-Elites网格算法继承的多样性与多目标优化的强度,通过用Pareto Front填充每个单元格。因此,它允许在描述符空间中提取不同的解决方案,同时探索目标之间的不同妥协。我们评估我们的方法在几个任务,从标准的优化问题,机器人模拟。我们的实验评估表明,MOME的能力,提供不同的解决方案,同时提供类似于标准的多目标算法的全球性能。
2022-05-31 cs.AI
Measuring What Matters Beyond Text: Evaluating Multimodal Summaries by Quality, Alignment, and Diversity
School of Computing, Macquarie University(麦考瑞大学计算学院)
本文提出MM-Eval框架,整合文本质量、跨模态对齐和视觉多样性评估,通过学习聚合模型优化多模态摘要的综合评价,揭示事实一致性对整体质量的关键作用。
2026-05-12 cs.AI
GoAnt: Quality-Diversity Multi-Agent Search for Alpha Factor Discovery in Market Microstructure Data
University of Minnesota(明尼苏达大学);Stony Brook University(石溪大学)
GoAnt提出一种质量-多样性多智能体搜索框架,通过不通信的探索者、利用者和连接者及共享心智地图,在固定预算下发现非冗余Alpha因子,在A股数据上显著提升产出和样本外质量。
2026-09-11 cs.AI
CuraWeb: Joint Optimization of Quality, Redundancy, and Diversity for Web-Scale Pretraining Data
Meituan(美团)
研究针对开放网络语料库预训练数据优化的局限性,提出质量、冗余性和多样性联合优化范式,结合双轨清理与混合去重,构建CuraWeb语料库,实验证明其在多基准测试中性能显著优于基线。
2026-07-28 cs.AI
Quality and Diversity Optimization: A Unifying Modular Framework
Imperial College London(帝国理工学院)
根据一个或多个目标找到最佳解决方案的函数优化在许多工程和研究领域中具有核心作用。最近,一个新的家庭的优化算法,称为质量多样性优化,已被介绍,并与经典算法进行了对比。质量多样性算法不是搜索单一的解决方案,而是搜索大量的多样化和高性能的解决方案。此集合的作用是尽可能涵盖可能多的解决方案类型,并包含每种类型的最佳解决方案。本文的贡献有三个方面。首先,我们提出了一个统一的框架的质量多样性优化算法,涵盖了这个家庭的两个主要算法(多维档案表型精英和新颖性搜索与本地竞争),并强调了大量的各种各样的变种,可以在这个家庭中进行调查。其次,我们提出了一个新的选择机制的质量多样性算法,优于本文测试的所有算法的算法。最后,我们提出了一个新的集合管理,克服了使用非结构化集合时观察到的侵蚀问题。这三个贡献的支持质量多样性算法在三个不同的实验方案进行了广泛的实验比较。
2017-05-12 cs.AI cs.NE
Evaluating the Diversity and Quality of LLM Generated Content
University of Pennsylvania(宾夕法尼亚大学);New York University(纽约大学);UC Berkeley(伯克利大学)
本文提出有效语义多样性测量框架,发现偏好微调模型在质量阈值下具有更高多样性,且小模型在固定预算内更高效生成独特内容。
2026-02-26 cs.AI cs.CL
Diversity Policy Gradient for Sample Efficient Quality-Diversity Optimization
InstaDeep;Imperial College London(帝国理工学院);Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心)
自然界的一个迷人的方面在于它能够产生大量多样的生物体,这些生物体在其生态位中都表现出色。相比之下,大多数AI算法专注于为给定问题找到一个有效的解决方案。除了性能之外,还以多样性为目标是处理探索-开发权衡的一种方便方法,这种权衡在学习中起着核心作用。当返回的集合包含所考虑问题的几个工作解决方案时,它还可以提高鲁棒性,使其非常适合机器人等实际应用。质量多样性(QD)方法是为此目的而设计的进化算法。本文提出了一种新的算法,QDPG,它结合了策略梯度算法和质量多样性的方法,以产生一个收集的多样性和高性能的神经策略在连续控制环境。这项工作的主要贡献是引入了多样性策略梯度(DPG),利用信息的时间步长水平,以样本效率的方式推动政策走向更多样性。具体来说,QDPG从MAP-Elites网格中选择神经控制器,并使用两个基于梯度的变异算子来提高质量和多样性。我们的研究结果表明,QDPG是显着更有效的样本比它的进化竞争对手。
2022-05-31 cs.AI cs.LG
Procedural Content Generation through Quality Diversity
University of Malta(马耳他大学);New York University(纽约大学)
质量多样性(QD)算法搜索一组好的解决方案,覆盖的空间定义的行为度量。这种同时关注质量和多样性与明确的指标集QD算法除了标准的单目标和多目标进化算法,以及从多样性保护方法,如小生境。这些属性为游戏中的人工智能开辟了新的途径,特别是对于程序内容生成。创建多个系统性变化的解决方案可以为创造性的人机交互和适应性提供新的方法。在过去的几年中,一些应用程序的QD程序的内容生成和玩游戏已经提出,我们讨论这些问题,并提出未来工作的挑战。
2019-07-09 cs.AI cs.NE
The Vendiscope: An Algorithmic Microscope For Data Collections
Lewis-Sigler Institute For Integrative Genomics(刘易斯-西格勒整合基因组学研究所);Princeton University(普林斯顿大学);Vertaix(维泰克斯公司)
本文针对复杂数据集合组成分析需求,提出首个算法显微镜Vendiscope,利用Vendi分数分配数据点权重以支持大规模高分辨率分析,在多领域验证其有效性,为数据驱动科学提供强大工具。
2025-02-15 cond-mat.mtrl-sci cs.AI cs.LG
Imitation from Diverse Behaviors: Wasserstein Quality Diversity Imitation Learning with Single-Step Archive Exploration
Agency for Science, Technology and Research(新加坡科技研究局);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出WQDIL方法,通过基于WAE的潜在对抗训练和带单步存档探索奖励的测度条件奖励函数,解决了从有限演示中学习多样且高性能行为的挑战,在MuJoCo连续控制任务上实现了超越专家的QD性能。
2025-04-04 cs.AI cs.LG
DUET: A Diversity-Quality Duet of Distillation Experts for Two-Step Video Generation
Alibaba Group(阿里巴巴集团)
该研究提出DUET模型,通过噪声级专家二重奏协调两步视频生成中质量与多样性的权衡,经改进的DUET+进一步提升质量并保留多样性优势,效果显著。
2026-08-11 cs.AI cs.CV
Note on Selection Bias in Observational Estimates of Algorithmic Progress
Parker Whitfill
本文指出 Ho 等人(2024)在估计语言模型算法进展时,因计算量选择内生于潜在算法质量,其观测估计可能受到选择偏差污染。
2025-08-18 cs.AI econ.GN q-fin.EC
Uncovering the Generative Landscape of Diffusion Models: A Spectral-Guided Quality-Diversity Diffusion Framework
Imperial College London(帝国理工学院);University of Coimbra(科英布拉大学)
该研究提出谱引导的质量-多样性扩散框架,将质量-多样性优化与扩散模型结合,通过h空间谱变异算子提升输出多样性,在文本到图像生成任务上的FID分数优于12个基线方法,实现了图像质量与多样性的良好平衡。
2026-10-14 cs.AI cs.LG
Optimizing Diversity and Quality through Base-Aligned Model Collaboration
University of Chicago(芝加哥大学);University of Southern California, Information Sciences Institute(南加州大学信息科学研究所);University of California, Davis(加州大学戴维斯分校)
提出基座对齐模型协作框架(BACo),在推理时通过令牌级路由策略动态结合基座LLM与其对齐版本,以单次前向传递同时提升生成多样性和质量。
2026-06-01 cs.AI cs.CL cs.LG
Dynamics of Algorithmic Content Amplification on TikTok
Max Planck Institute for Human Development(马克斯·普朗克人类发展研究所);University of Pennsylvania(宾夕法尼亚大学);Warsaw University of Technology(华沙理工大学)
本研究通过傀儡账户审计量化TikTok算法放大动态,发现兴趣一致内容在约200个视频内快速强化,且放大与内容多样性探索呈负相关。
2025-03-26 cs.AI cs.SI physics.soc-ph
Evolving Flying Machines in Minecraft Using Quality Diversity
Southwestern University(西南大学)
本文针对 EvoCraft 无法进化 Minecraft 飞行器的问题,结合基于适应度的进化与质量多样性算法 MAP-Elites,证明合适行为特征可显著提升飞行器发现的可靠性。
2023-04-19 cs.AI cs.NE
Quality-diversity in dissimilarity spaces
本研究将Magnitude理论框架应用于通用相异空间,构建质量-多样性算法,实例化的通用版Go-Explore算法展现出良好性能。
2026-09-07 cs.AI cs.NE math.OC
Understanding the Quality-Diversity Trade-off in Diffusion Language Models
University of Cambridge(剑桥大学)
针对扩散语言模型缺乏质量-多样性调控手段的问题,本文提出结合无分类器引导与随机截断,在序列到序列任务中操控并改善该权衡,从而提升模型性能。
2025-03-11 cs.AI cs.CL cs.LG
Empowering Quality Diversity in Dungeon Design with Interactive Constrained MAP-Elites
Malmö University(马尔默大学);New York University(纽约大学)
我们建议使用质量多样性算法的混合主动游戏内容生成。这个想法是作为进化地牢设计器的一个新功能实现的,进化地牢设计器是一个混合主动设计的系统,你通常会在电脑角色扮演游戏中找到这种类型的关卡。该功能使用MAP-Elites算法,这是一种照明算法,它将种群划分为多个单元,具体取决于它们沿多个行为维度的值。用户可以灵活地、动态地选择相关的变异维度,并将算法产生的建议融入到地图设计中。同时,人类执行的任何修改都会反馈到MAP-精英中,并用于生成进一步的建议。
2019-06-12 cs.AI cs.NE
Post-training Large Language Models for Diverse High-Quality Responses
Boston University(波士顿大学);University of Maryland, College Park(马里兰大学学院公园分校);University College London(伦敦大学学院);Boston University Broad Institute of MIT and Harvard(MIT和哈佛大学波士顿大学Broad研究所)
本文提出DQO方法,通过确定性点过程优化大型语言模型的质量和语义多样性,提升输出多样性而不影响性能。
2026-03-02 cs.AI cs.CL
Learning from the Best, Differently: A Diversity-Driven Rethinking on Data Selection
Tsinghua University(清华大学);Microsoft Research(微软研究院);The Hong Kong Polytechnic University(香港理工大学)
针对大语言模型预训练数据选择中评分法忽略多样性导致性能下降的问题,提出ODiS算法,通过PCA分解多维度评分为正交维度并各选高分数据,兼顾质量与多样性,实验验证其效果优于基线。
2025-10-21 cs.AI cs.CL
Vector Quantized-Elites: Unsupervised and Problem-Agnostic Quality-Diversity Optimization
Computational Intelligence Laboratory (CILab), Department of Mathematics, University of Patras(数学系计算智能实验室(CILab),帕特拉大学);Laboratory of Automation and Robotics (LAR) in the Department of Electrical & Computer Engineering, University of Patras(电气与计算机工程系自动化与机器人实验室(LAR),帕特拉大学)
VQ-Elites通过无监督学习构建结构化行为空间,实现灵活且任务无关的质量-多样性优化。
2025-11-19 cs.AI cs.LG cs.NE
FGM-HD: Boosting Generation Diversity of Fractal Generative Models through Hausdorff Dimension Induction
针对分形生成模型(FGM)自相似性导致生成多样性不足的问题,提出FGM-HD框架,通过可学习HD估计、动量调度损失与HD引导拒绝采样,在不损失图像质量的前提下将生成多样性提升39%。
2025-11-18 cs.AI cs.CV
Quality Diversity in the Amorphous Fortress (QD-AF): Evolving for Complexity in 0-Player Games
New York University(纽约大学)
本文提出QD-AF方法,利用质量多样性进化在非晶堡垒框架中生成多样化0玩家游戏环境,以涌现竞争与合作的多智能体生存动态,为学习算法提供训练与测试场所。
2023-12-04 cs.AI cs.MA
How Good is your Explanation? Algorithmic Stability Measures to Assess the Quality of Explanations for Deep Neural Networks
Brown University(布朗大学);Université de Toulouse(图卢兹大学);IRT Saint-Exupery(圣埃克苏佩里技术研究所)
已经提出了过多的方法来解释神经网络达到决策的深度,但相对而言,很少有人努力确保这些方法产生的解释是客观相关的。虽然已经制定了几个值得信赖的解释理想的属性,客观的措施一直很难得到。在这里,我们提出了两个新的措施来评估解释借用算法的稳定性领域:平均泛化MeGe和相对一致性ReCo。我们在不同的网络架构、常见的可解释性方法和几个图像数据集上进行了广泛的实验,以证明所提出的措施的好处。与我们的相比,流行的保真度措施不足以保证可信的解释。最后,我们发现,1-Lipschitz网络产生的解释比常见的神经网络具有更高的MeGe和ReCo,同时达到相似的准确性。这表明,1-Lipschitz网络是一个相关的方向,预测更可解释和更值得信赖。
2021-11-09 cs.AI cs.LG
Who Decides if AI is Fair? The Labels Problem in Algorithmic Auditing
The University of Chicago(芝加哥大学);EquiTech Futures
标记的“地面实况”数据集通常用于评估和审计在高风险环境中应用的人工智能算法。然而,这些数据集中的标签质量并不存在被广泛接受的基准。我们提供的经验证据表明,标签的质量可以显着扭曲在现实世界中的算法审计的结果。使用印度人工智能公司通常雇佣的数据注释器,我们表明,地面真实数据的保真度可能导致城市和农村人口之间ASR性能的虚假差异。经过严格的,虽然昂贵的,标签清洗过程,这些群体之间的差异消失。我们的研究结果强调了标签质量和数据注释成本之间的权衡如何在实践中使算法审计复杂化。他们还强调,需要制定共识驱动的,广泛接受的标签质量基准。
2021-11-16 cs.AI cs.CL cs.HC
Relevance-guided Unsupervised Discovery of Abilities with Quality-Diversity Algorithms
Imperial College London(帝国理工学院)
质量多样性算法提供了有效的机制来生成大量的多样化和高性能的解决方案,这已被证明是有助于解决下游任务。然而,这些算法中的大多数依赖于行为描述符来描述手工编码的多样性,因此需要关于所考虑的任务的先验知识。在这项工作中,我们引入了相关性指导的无监督发现能力;质量多样性算法,自主地找到适合手头任务的行为特征。特别是,我们的方法引入了一个自定义的多样性度量,导致更高的密度的解决方案附近的区域的学习行为描述符空间。我们评估我们的方法在一个模拟的机器人环境中,机器人自主发现其能力的基础上,其完整的传感器数据。我们评估了三个任务的算法:导航到随机目标,高速前进,并执行半卷。实验结果表明,我们的方法设法发现集合的解决方案,不仅是多样化的,但也很好地适应所考虑的下游任务。
2022-04-21 cs.AI cs.LG cs.NE
Theoretical Analysis of Quality Diversity Algorithms for a Classical Path Planning Problem
University of Passau(帕绍大学);The University of Adelaide(阿德莱德大学)
本文对Map-Elites质量多样性算法在全对最短路径问题上的行为进行理论分析,证明其能高效并行求解,并提出加速的父代选择技术。
2024-12-16 cs.AI cs.NE
Computing Diverse Sets of Solutions for Monotone Submodular Optimisation Problems
The University of Adelaide(阿德莱德大学)
子模函数允许模拟许多现实世界的优化问题。本文介绍了计算不同的高品质的解决方案,子模块优化问题的方法。我们首先提出多样化的贪婪采样方法,并分析它们的熵和所获得的解决方案的近似质量的多样性。之后,我们引入了一个进化的多样性优化方法,以进一步提高多样性的解决方案。我们进行了实验研究流行的次模块化的基准函数,表明相结合的方法实现高质量的解决方案的大的多样性。
2020-10-22 cs.AI cs.NE
SPARQ: Synthetic Problem Generation for Reasoning via Quality-Diversity Algorithms
针对现有LLM合成数据生成方法扩展性受限的问题,提出基于质量-多样性算法的SPARQ方法,仅用单模型以求解率为难度指标生成超2000万数学题对,微调后性能最高提升24%,还验证了数据质量、多样性对泛化的不同作用及缩放定律。
2025-06-17 cs.AI cs.LG
DEI: Diversity in Evolutionary Inference for Quality-Diversity Search
提出DEI框架,通过异构大语言模型作为变异算子进行分布式质量-多样性搜索,实验表明模型多样性比并行性更能提升搜索性能。
2026-05-26 cs.AI cs.LG
Learning to Walk Autonomously via Reset-Free Quality-Diversity
Imperial College London(帝国理工学院)
质量多样性(QD)算法可以发现由多样化和高性能技能组成的大型复杂行为库。然而,行为剧目的生成主要限于模拟环境,而不是现实世界的学习。这是因为现有的QD算法需要大量的评估以及情节重置,这需要人工的人类监督和干预。本文提出了无重置质量多样性优化(RF-QD)作为在开放式环境中机器人自主学习的一步。我们建立在动态感知质量多样性(DA-QD)的基础上,并引入了一种行为选择策略,该策略利用想象的曲目和环境信息的多样性来智能地选择可以作为自动重置的行为。我们通过学习在有障碍的训练区内行走的任务来证明这一点。我们的实验表明,我们可以学习完整的剧目的腿运动控制器自主没有手动复位高样本效率,尽管苛刻的安全约束。最后,使用消融不同的目标,我们表明,它是重要的RF-QD有不同类型的解决方案可用于行为选择政策的解决方案优化了一个特定的目标。视频和代码可在https://sites.google.com/view/rf-qd获得。
2022-04-07 cs.AI cs.LG cs.NE
Beyond Scale: The Diversity Coefficient as a Data Quality Metric for Variability in Natural Language Data
Department of Computer Science, Stanford University(计算机科学系,斯坦福大学)
本文提出多样性系数以形式化度量自然语言数据的变异性,并通过GPT-2和LLaMAv2的44个模型实验证明该系数能刻画下游评估性能,揭示数据多样性是超越规模的关键质量因素。
2025-07-02 cs.AI cs.CL cs.LG
QDEvo: A Multi-Objective Quality-Diversity Framework for Automated Heuristic Design
Hanoi University of Science and Technology(河内科学技术大学);George Mason University(乔治·梅森大学)
研究针对LLMs与进化计算集成用于自动启发式设计时的模式崩溃问题,提出多目标QDEvo框架,结合质量多样性优化与LLM驱动启发式搜索,通过实验证明该框架能发现高性能、高效且语义多样的启发式方法,优于现有方法。
2026-07-15 cs.AI cs.CL cs.NE
CreativeInstruct: Scalably Teaching LLMs to Balance Quality, Creativity, and Diversity
Columbia(哥伦比亚大学);UNC Chapel Hill(北卡罗来纳大学教堂山分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究提出CreativeInstruct指令调优方法,通过注入[StartCreativity]跨度平衡LLM的质量、创造性与多样性,其在叙事生成中表现更优,还能提升强化学习任务性能。
2026-08-10 cs.AI cs.CL
Unifying Human and Statistical Evaluation for Natural Language Generation
Stanford University(斯坦福大学)
我们如何衡量一个自然语言生成系统是否能产生高质量和多样化的输出?人工评估捕捉质量而不是多样性,因为它不会捕捉简单地从训练集中抄袭的模型。另一方面,统计评估(即,困惑)捕获多样性,但不是质量,因为偶尔发出低质量样本的模型将不足以受到惩罚。在本文中,我们提出了一个统一的框架,评估的多样性和质量的基础上,最佳的出错率预测一个句子是人类还是机器生成的。我们证明,这种出错率可以有效地估计结合人类和统计评估,使用的评价指标,我们称之为HUSE。在总结和闲聊对话中,我们表明(i)HUSE检测到欺骗纯人类评估的多样性缺陷,以及(ii)用于提高质量的退火等技术实际上由于多样性降低而降低了HUSE。
2019-04-04 cs.AI cs.CL stat.ML
ParaFusion: A Large-Scale LLM-Driven English Paraphrase Dataset Infused with High-Quality Lexical and Syntactic Diversity
School of Computing, Informatics Institute of Technology(信息学院技术学院计算机学院)
针对现有改写数据集缺乏多样性和含噪声等问题,提出基于大语言模型的ParaFusion数据集,显著提升词汇与句法多样性至少25%,并减少仇恨言论,为NLP应用提供高质量资源。
2024-04-18 cs.AI cs.CL cs.LG
Multi-Objective Quality-Diversity in Unstructured and Unbounded Spaces
Imperial College London(帝国理工学院)
本文提出MOUR-QD算法,解决MOQD在非结构化和无界特征空间中的应用限制,在机器人任务中表现优异,超越网格方法并开辟了无监督领域应用新机遇。
2025-03-28 cs.AI cs.LG cs.NE
DIVERGE: Diversity-Enhanced RAG for Open-Ended Information Seeking
Aarhus University(奥胡斯大学);Microsoft Research(微软研究院)
针对现有RAG系统忽略开放式信息检索中多样性需求的问题,提出Diverge框架,通过迭代反思引导的多样化视角探索和多样性感知检索支持,在保持质量的同时将多样性提升约2倍。
2026-06-08 cs.AI cs.CL cs.LG
Model-Based Quality-Diversity Search for Efficient Robot Learning
Technische Universität Darmstadt(达姆施塔特工业大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
尽管最近在机器人学习方面取得了进展,但对机器人进行编程以处理开放式对象操作任务仍然是一个挑战。最近,一种方法被用来自主地产生一个剧目的不同的技能是一个新颖的基础上的质量多样性(QD)算法。然而,与大多数进化算法一样,量子点算法存在样本效率低的问题,因此,将其应用于现实世界的场景具有挑战性。本文解决了这个问题,通过集成一个神经网络,预测的行为的扰动参数到一个新颖的QD算法。在提出的基于模型的质量多样性搜索(M-QD)中,网络被同时训练到指令集,并用于避免在新颖性搜索过程中执行没有希望的动作。此外,它还用于调整最终曲目的技能,以便将技能推广到不同的场景。我们的实验表明,增强QD算法与这样的前向模型提高了样本效率和性能的进化过程和技能适应。
2020-08-11 cs.AI cs.LG cs.NE
Dynamics-Aware Quality-Diversity for Efficient Learning of Skill Repertoires
Imperial College London(帝国理工学院)
质量多样性(QD)算法是一种功能强大的探索算法,允许机器人发现大量多样化和高性能技能。然而,QD算法是样本效率低的,需要数百万次评估。在本文中,我们提出了动态感知质量多样性(DA-QD),一个框架,以提高样本效率的QD算法,通过使用动力学模型。我们还展示了如何DA-QD,然后可以用于不断收购新的技能剧目。为此,我们根据使用QD执行技能发现时获得的经验,递增地训练深度动力学模型。然后,我们可以用想象的技能库在想象中进行QD探索。我们评估我们的方法对三个机器人实验。首先,我们的实验表明,DA-QD比现有的QD方法的样本效率高20倍。其次,我们展示了学习一个全新的技能剧目在想象力执行零样本学习。最后,我们展示了DA-QD是如何有用和有效地解决一个长期的地平线导航任务,并在现实世界中的损害适应。视频和源代码可在https://sites.google.com/view/da-qd上获得。
2021-09-16 cs.AI cs.LG cs.NE