Improving the Stability of the Knockoff Procedure: Multiple Simultaneous Knockoffs and Entropy Maximization
Stanford University（斯坦福大学）
最近，Model-X仿制过程已经成为一种具有统计保证的功能选择的强大方法。仿制品的优势在于，如果我们对特征X有一个好的模型，那么我们就可以识别显著特征，而不需要知道结果Y如何依赖于X。仿制品的一个重要缺点是它的不稳定性：运行两次程序可能会导致非常不同的选择特征，可能导致不同的结论。解决这种不稳定性对于获得可重现和稳健的结果至关重要。在这里，我们提出了一个概括的敲除过程，我们称之为同时多敲除。我们表明，多敲保证错误发现率（FDR）的控制，是更稳定和强大的标准（单一）敲相比。此外，我们提出了一种新的算法，基于熵最大化的高斯多重仿冒品的产生。我们在系统的实验中验证了改进的稳定性和多山寨的权力。我们还说明了多个敲除可以提高检测基因突变的准确性，这些基因突变与表型有因果关系。
2019-05-29 cs.LG stat.ML
SEMDICE: Off-policy State Entropy Maximization via Stationary Distribution Correction Estimation
UC Berkeley（加州大学伯克利分校）；Yonsei University（延世大学）
SEMDICE通过平稳分布校正估计，从非策略数据集中学习状态熵最大化策略，实现更高效的无监督强化学习预训练。
2025-12-10 cs.LG
A general Markov decision process formalism for action-state entropy-regularized reward maximization
Universitat Pompeu Fabra（庞培法布拉大学）
以前的工作分别讨论了不同形式的行动，状态和行动状态熵正则化，纯探索和空间占领。这些问题对于规则化、泛化、加速学习和以前所未有的水平提供强大的解决方案都变得非常重要。然而，这些问题的解决方案是繁忙的，从凸和非凸优化，无约束优化，约束优化。在这里，我们提供了一个一般的对偶函数形式主义，将约束优化问题转化为一个无约束的凸的任何混合行动和状态熵。纯作用熵和纯状态熵的情况被理解为混合的极限。
2023-02-02 cs.AI cs.LG
How to Explore with Belief: State Entropy Maximization in POMDPs
Politecnico di Milano（米兰理工大学）；Technion – Israel Institute of Technology（以色列理工学院）
本文研究了部分可观测环境下的状态熵最大化问题，提出了一种基于信念状态的高效策略梯度方法，并形式化分析了近似差距、优化景观与幻觉问题。
2024-06-04 cs.AI cs.LG
Pareto-frontier Entropy Search with Variational Lower Bound Maximization
Nagoya Institute of Technology（名古屋技术大学）
针对连续域多目标贝叶斯优化中无法获取完整帕累托前沿导致信息增益计算难的问题，提出用含过、欠截断的混合分布近似截断分布，通过变分下界最大化优化平衡系数以最小化近似误差，在多目标场景下效果显著。
2025-09-03 cs.LG stat.ML
Test-Time Adaptation to Distribution Shift by Confidence Maximization and Input Transformation
University of Freiburg（弗赖堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
深度神经网络通常在训练时数据分布下不太可能表现出较差的性能，例如受损坏影响的数据。以前的工作表明，测试时间适应数据移位，例如使用熵最小化，有效地提高了性能，这样的移位分布。本文重点介绍了完全测试时间适应设置，其中只需要从目标分布的未标记的数据。这允许适应任意的预训练网络。具体来说，我们提出了一种新的损失，提高了测试时的适应，解决过早收敛和不稳定的熵最小化。这是通过用非饱和代理替换熵并添加基于分批熵最大化的多样性正则化器来实现的，该正则化器防止收敛到平凡的塌陷解。此外，我们建议在网络中添加一个输入转换模块，可以部分撤销测试时间分布的变化。令人惊讶的是，这种预处理可以单独使用完全测试时自适应损失以端到端的方式学习，而无需任何目标域标签或源域数据。我们表明，我们的方法在提高公开可用的预训练图像分类器对ImageNet-C等具有挑战性的基准测试中常见腐败的鲁棒性方面优于以前的工作。
2021-06-28 cs.LG stat.ML
Exploratory Utility Maximization Problem with Tsallis Entropy
Southern University of Science and Technology（南方科技大学）
本文在强化学习框架下研究了完备市场中具有常相对风险厌恶的效用最大化问题，通过引入 Tsallis 熵正则化项促进探索，发现并解决了部分因过度探索导致的不适定问题，给出了半闭式解并验证了算法优势。
2025-02-03 cs.LG q-fin.MF
Quality-constrained Entropy Maximization Policy Optimization for LLM Diversity
Zuoyebang Education Technology（左叶bang教育科技）
提出QEMPO框架，通过理论推导的闭式解在保证输出质量的同时最大化熵以提升LLM多样性，实验证明其在不牺牲质量的情况下提升多样性。
2026-05-27 cs.CL cs.LG
D-TPT: Dimensional Entropy Maximization for Calibrating Test-Time Prompt Tuning in Vision-Language Models
本文提出维度熵最大化方法（D-TPT），通过正则化文本特征分布以抑制主导维度影响，改善视觉-语言模型测试时提示调优的校准性能，提升实际部署可靠性。
2025-10-17 cs.CV cs.LG
State Entropy Maximization with Random Encoders for Efficient Exploration
KAIST（韩国科学技术院）；UC Berkeley（加州大学伯克利分校）；University of Michigan（密歇根大学）；LG AI Research（LG人工智能研究院）
最近的探索方法已被证明是提高深度强化学习（RL）中样本效率的方法。然而，在高维观测空间中的有效探索仍然是一个挑战。本文提出了一种有效探索的随机编码器（RE 3），这是一种利用状态熵作为内在奖励的探索方法。为了估计高维观测环境中的状态熵，我们在卷积编码器的低维表示空间中利用k-最近邻熵估计器。特别是，我们发现状态熵可以通过利用随机初始化的编码器以稳定和计算效率高的方式进行估计，该编码器在整个训练过程中是固定的。我们的实验表明，RE 3显着提高了无模型和基于模型的RL方法在DeepMind Control Suite和MiniGrid基准测试中的运动和导航任务上的样本效率。我们还表明，RE 3允许在没有外部奖励的情况下学习不同的行为，有效地提高了下游任务的样本效率。源代码和视频可在https://sites.google.com/view/re3-rl上获得。
2021-06-21 cs.LG
EXaMCaP: Subset Selection with Entropy Gain Maximization for Probing Capability Gains of Large Chart Understanding Training Sets
Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China（中国科学院信息工程研究所）；School of Cyberspace Security, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学网络安全学院）；School of Computer and Artificial Intelligence, Jiangxi University of Finance and Economics（江西财经大学计算机与人工智能学院）
EXaMCaP通过熵增最大化选择子集，以高效探测大规模图表理解训练集的能力提升。
2026-02-04 cs.LG
Unsupervised Learning through Temporal Smoothing and Entropy Maximization
Albert-Ludwigs-Universität（阿尔伯特-路德维希大学）；Tomlab Software AB（Tomlab软件公司）
本文提出了一种从时间序列形式的未标记数据中进行机器学习的方法。所学习的映射被示出为提取缓慢演变的信息，这将是有用的控制应用，同时有效地过滤掉不需要的，高频噪声。该方法包括训练一个前馈人工神经网络与反向传播使用两个相反的目标。其中第一个是最小化网络中每个单元的时间步长之间激活的平方变化。这种“时间平滑”具有将在时间上接近发生的输入与在L2范数上接近的输出相关联的效果。第二个目标是最大化网络每层中激活的协方差矩阵的对数行列式。这一目标确保信息从每一层传递到下一层。第二个目标是对第一个目标的平衡，它本身会导致网络的所有输入权重都等于零。
2019-05-08 cs.CV cs.LG stat.ML
Improving Pre-trained Self-Supervised Embeddings Through Effective Entropy Maximization
UMass Amherst（马萨诸塞大学阿默斯特分校）；New York University（纽约大学）；Meta - FAIR（元公司FAIR研究院）
针对自监督嵌入熵最大化依赖高维熵估计的问题，本文提出基于易估计低维约束的E2MC附加准则，仅需少量epoch继续训练即可稳定提升下游性能。
2025-03-13 cs.CV cs.IT cs.LG
Theoretical Insights in Model Inversion Robustness and Conditional Entropy Maximization for Collaborative Inference Systems
Nanyang Technological University（南洋理工大学）；Pengcheng Laboratory（鹏城实验室）；Peking University（北京大学）
本文针对协同推理中中间特征隐私泄露问题，理论证明了输入条件熵为模型反演攻击下的重构误差提供下界，并提出条件熵最大化（CEM）算法，显著提升了基于混淆的防御机制的反演鲁棒性。
2025-04-03 cs.AI cs.LG stat.ML
APS: Active Pretraining with Successor Features
University of California, Berkeley（加州大学伯克利分校）
我们为强化学习引入了一个新的无监督预训练目标。在无监督的无奖励预训练阶段，代理最大化由策略引起的任务和状态之间的互信息。我们的主要贡献是这个棘手的数量的一个新的下界。我们表明，通过重新解释和结合变后继功能~ \citep{Hansen2020Fast}与非参数熵最大化~ \citep{liu2021behavior}，棘手的互信息可以有效地优化。提出的方法主动预训练与后继特征（APS）探索环境通过非参数熵最大化，和探索的数据可以有效地利用变化的后继特征学习行为。APS解决了现有的基于互信息最大化和基于熵最大化的无监督RL的局限性，并结合了两个世界的最佳。当在Atari 100 k数据效率基准上进行评估时，我们的方法显着优于之前将无监督预训练与特定任务微调相结合的方法。
2021-08-31 cs.LG
The Limits of Pure Exploration in POMDPs: When the Observation Entropy is Enough
Politecnico di Milano（米兰理工大学）；Technion（以色列理工学院）
针对部分可观测场景下状态熵最大化研究不足的问题，本文提出用观测熵最大化替代真实潜状态熵最大化的方法，给出近似上下界并设计正则化方案，为POMDP下的纯探索提供了可行方案与理论局限分析。
2024-06-18 cs.LG
BASiNETEntropy: an alignment-free method for classification of biological sequences through complex networks and entropy maximization
核酸和DNA结构的发现使我们对生命的理解有了长足的进步。下一代测序技术的发展导致了大规模的数据生成，计算方法对于分析和知识发现变得至关重要。特别是RNA，由于其在生物体中的功能多样性以及在许多生物过程中具有不同功能的不同类别的发现而受到广泛关注。因此，正确鉴定RNA序列对了解生物体的功能提供相关信息越来越重要。这项工作解决了这一问题，提出了一种新的方法，通过复杂的网络和熵最大化的生物序列的分类。最大熵原理被提出来识别关于RNA类的最具信息量的边缘，生成过滤的复杂网络。该方法进行了评估，从13种不同的RNA类的分类。将该方法与PLEK，CPC 2和BASiNET方法进行了比较，优于所有比较方法。BASiNEEntropy对所有RNA序列进行分类，结果具有高准确性和低标准差，显示出自信和鲁棒性。所提出的方法是在R语言的开源中实现的，可以在https://cran.r-project.org/web/packages/BASiNETEntropy上免费获得。
2022-03-24 cs.CE cs.IT cs.LG
Approximate information maximization for bandit games
Institut Pasteur（巴斯德研究所）；Université Paris Cité（巴黎西岱大学）；Epimethee（埃皮米修斯团队）；INRIA Paris（法国国家信息与自动化研究所巴黎分部）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）；Université Paris Saclay（巴黎萨克雷大学）；LMO（奥赛数学实验室）
本文基于熵最大化等物理原理提出新的多臂赌博机算法，通过物理近似解析熵表示预测动作信息增益并贪婪选择，在经典设置中表现优异且被证明在高斯奖励双臂问题中渐近最优，可适应复杂场景。
2024-11-29 cs.LG stat.ML
Normative Networks for Source Separation via Local Plasticity and Dendritic Computation
Gatsby Computational Neuroscience Unit, University College London, UK（Gatsby计算神经科学单元，伦敦大学学院，英国）；Department of Computer Science, University of Oxford, UK（计算机科学系，牛津大学，英国）；Brain Network Dynamics Unit, University of Oxford, UK（脑网络动力学单元，牛津大学，英国）；MRC Centre of Research Excellence in Restorative Neural Dynamics, UK（英国医学研究委员会修复神经动力学研究卓越中心）
本文提出了一种基于局部可塑性和树突计算的预测熵最大化方法，用于源分离，该方法在结构化源域上最大化正则化的二阶熵，实现了在增加的源相关性和观测噪声下的鲁棒性，并在生物合理算法和精确基线中表现优异。
2026-05-21 cs.LG eess.SP
Domain Randomization via Entropy Maximization
Politecnico di Torino（都灵理工大学）；Technische Universität Darmstadt（达姆施塔特工业大学）；Hessian Center for Artificial Intelligence (Hessian.AI)（黑森人工智能中心）；German Research Center for AI (DFKI)（德国人工智能研究中心）；University of Würzburg（维尔茨堡大学）
提出DORAEMON方法，通过约束优化在训练中自动最大化动力学参数分布的熵，无需真实数据即可获得高泛化策略，并成功实现机器人操作的零样本Sim2Real迁移。
2024-03-26 cs.LG cs.RO
Deep Out-of-Distribution Uncertainty Quantification via Weight Entropy Maximization
Manufacture Française des pneumatiques Michelin（法国米其林轮胎制造公司）；Centre Borelli（博雷利中心）；Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；ENS Paris-Saclay（巴黎萨克雷高等师范学校）
本文针对深度学习在分布外检测中缺乏预测和权重多样性的问题，提出基于最大熵原理和奇异值分解的新型权重参数化方法，在最小化经验风险的同时最大化权重熵，显著提升了不确定性量化性能，在包含三十余种方法的基准测试中稳居前三。
2025-01-31 cs.LG
Dynamic Network Reconfiguration for Entropy Maximization using Deep Reinforcement Learning
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）；University of Bologna（博洛尼亚大学）
网络理论中的一个关键问题是如何重新配置图以优化可量化的目标。鉴于网络系统的普遍性，这种工作在各种情况下都有广泛的实际应用，从药物和材料设计到电信。然而，可能的重新配置的大的决策空间使得这个问题在计算上是密集的。在本文中，我们投的问题，网络布线优化一个特定的结构属性为马尔可夫决策过程（MDP），其中决策者被赋予预算的修改，顺序执行。然后，我们提出了一种基于深度Q网络（DQN）算法和图神经网络（GNNs）的通用方法，可以有效地学习重新布线网络的策略。然后我们讨论网络安全案例研究，即，一个应用程序的计算机网络重新配置问题的入侵保护。在一个典型的场景中，攻击者可能有一个他们计划渗透的系统的（部分）地图;如果网络被有效地“扰乱”，他们将无法导航，因为他们的先验知识将变得过时。这可以被看作是一个熵最大化问题，其目标是增加网络的惊喜。事实上，熵可以作为衡量网络拓扑导航难度的代理指标。我们证明了所提出的方法的一般能力，以获得更好的熵增益比随机重新布线的合成和现实世界的图形，同时计算成本低廉，以及能够推广到更大的图形比那些在训练过程中看到的。攻击场景的模拟证实了学习的重布线策略的有效性。
2023-01-27 cs.AI cs.CR cs.LG
On the Convergence of Projected Alternating Maximization for Equitable and Optimal Transport
University of California, Davis（加利福尼亚大学戴维斯分校）
本文研究了公平最优输运（EOT）问题，该问题在公平分配、多代理最优输运等问题中有着广泛的应用。在离散分布的情况下，EOT问题可以转化为线性规划问题。由于这个LP对于一般的LP求解器来说太大了，Scetbon \etal \cite{scetbon2021equitable}建议通过添加熵正则化来扰动这个问题。他们提出了一种投影交替最大化算法（PAM）来解决熵正则化EOT的对偶。在本文中，我们提供了第一个PAM的收敛性分析。提出了一种新的舍入过程，以帮助构造原始EOT问题的原始解。我们还提出了一个变体的PAM通过将外推技术，可以数值上提高性能的PAM。本文的结果对一般最优化问题的块坐标（梯度）下降法有一定的指导意义。
2021-10-01 cs.LG math.OC
Kernel Dynamics under Path Entropy Maximization
Earth Innovation Hub（地球创新中心）
本文提出一个变分框架，将核函数视为路径熵最大化下的动态变量，探讨核函数的表示结构与信息几何分析，提出固定点条件、RG流及NTK演化的候选实例，并基于信息热力学假设推导核变化的下界。
2026-03-29 cs.AI cs.LG cs.RO
When Maximum Entropy Misleads Policy Optimization
本研究分析最大熵强化学习中鲁棒性与最优性的权衡，指出熵最大化虽提升探索与鲁棒性，但会误导策略优化导致需精确低熵策略的任务失败，并通过实验验证该效应，为平衡奖励设计与熵最大化提供参考。
2025-06-05 cs.AI cs.LG
Entropy Maximization and Meta Classification for Out-Of-Distribution Detection in Semantic Segmentation
University of Wuppertal（伍珀塔尔大学）
用于图像的语义分割的深度神经网络（DNN）通常被训练为在预定义的对象类的封闭集合上操作。这与DNN被设想部署到的“开放世界”设置形成对比。从功能安全的角度来看，检测所谓的“分发外”（OoD）样本的能力，即，DNN语义空间之外的对象，对于自动驾驶等许多应用至关重要。OoD检测的一种自然基线方法是对逐像素softmax熵进行阈值处理。我们提出了一个两步的程序，显着改善这种方法。首先，我们利用来自COCO数据集的样本作为OoD代理，并引入第二个训练目标来最大化这些样本的softmax熵。从预训练的语义分割网络开始，我们在不同的分布数据集上重新训练了一些DNN，并在完全不相交的OoD数据集上进行评估时，一致地观察到OoD检测性能的改善。其次，我们执行一个透明的后处理步骤，通过所谓的“Meta分类”来丢弃假阳性OoD样本。为此，我们将线性模型应用于从DNN的softmax概率中导出的一组手工度量。在我们的实验中，我们始终观察到OoD检测性能的明显额外增益，当将最佳基线与我们的结果进行比较时，检测错误的数量减少了52%。我们实现了这一改进牺牲只有轻微的原始分割性能。因此，我们的方法有助于更安全的DNN，具有更可靠的整体系统性能。
2021-07-27 cs.CV cs.LG
Cross-Domain Sentiment Classification with Contrastive Learning and Mutual Information Maximization
Peking University（北京大学）；UC Berkeley（加州大学伯克利分校）
对比学习（CL）作为一种强大的表示学习方法已经取得了成功。在这项工作中，我们提出CLIM：对比学习与互信息最大化，探索CL跨域情感分类的潜力。据我们所知，CLIM是第一个采用对比学习的跨领域自然语言处理（NLP）任务。由于缺乏标签的目标域，我们引入互信息最大化（MIM）除了CL利用的功能，最好地支持最终的预测。此外，MIM能够保持模型预测的相对均衡分布，并扩大目标域上类之间的裕度。更大的余量增加了我们模型的鲁棒性，并使同一个分类器在不同领域都是最佳的。因此，我们在亚马逊评论数据集和航空公司数据集上获得了新的最先进的结果，显示了我们提出的方法CLIM的有效性。
2020-11-12 cs.CL cs.LG
A Correlation Maximization Approach for Cross Domain Co-Embeddings
Twitter Cortex（推特认知技术部门）
虽然现代推荐系统可以利用用户的项目反馈中的结构，但大多数推荐系统在面对新用户时无能为力，因为新用户没有提供可供利用的结构。在本文中，我们介绍了隐式CE，推荐项目的新用户在他们的注册流程的算法。ImplicitCE的工作原理是将用户对辅助域项的隐式反馈转换为目标域项嵌入空间中的嵌入。ImplicitCE以端到端的方式学习这些嵌入空间和转换函数，并可以使用任何可微相似性函数共同嵌入用户和项目。为了训练ImplicitCE，我们探索了最大化模型预测和用户亲和力之间的相关性的方法，并引入了样本相关性更新，这是一种新颖且非常简单的训练策略。最后，我们证明了使用样本相关性更新训练的ImplicitCE在大规模Twitter数据集和DBLP数据集上的性能优于各种最先进的算法和损失函数。
2018-09-10 cs.IR cs.LG stat.ML
Variational Interaction Information Maximization for Cross-domain Disentanglement
KAIST（韩国科学技术院）
跨域解纠缠是将学习表示划分为域不变表示和域特定表示的问题，是域迁移成功或测量两个域之间语义距离的关键。基于信息论，我们将领域不变和领域特定表示的同时学习作为多个信息约束的联合目标，这不需要对抗性训练或梯度反转层。我们推导出一个易于处理的边界的目标，并提出了一个生成模型命名为交互信息自动编码器（IIAE）。我们的方法揭示了跨域解纠缠的理想表示及其与变分自动编码器（VAE）的联系。我们证明了我们的模型在图像到图像的翻译和跨域检索任务的有效性。我们进一步表明，我们的模型达到了最先进的性能在zero-shot草图为基础的图像检索任务，即使没有外部知识。我们的实现可在以下网址公开获取：https://github.com/gr8joo/IIAE
2020-12-08 cs.CV cs.LG
Segmentation with mixed supervision: Confidence maximization helps knowledge distillation
ÉTS Montréal（蒙特利尔高等技术学院）；Centre de recherche du Centre hospitalier de l’Université de Montréal (CRCHUM)（蒙特利尔大学医院研究中心（CRCHUM））
尽管在广泛的医学图像分割任务中取得了有希望的结果，但深度神经网络需要具有像素级注释的大型训练数据集。获取这些精选数据集是一个繁琐的过程，限制了场景的适用性。混合监管是缓解这一障碍的一个有吸引力的选择。在这项工作中，我们提出了一个双分支架构，其中上层分支（教师）接收强大的注释，而底部的（学生）是由有限的监督和指导的上层分支。结合标记像素上的标准交叉熵损失，我们的新公式集成了两个重要项：（i）在较少监督的图像上定义的香农熵损失，这鼓励底部分支中的自信学生预测;以及（ii）KL发散项，它将知识（即，预测）的强监督分支到少监督分支，并指导熵（学生信心）项，以避免平凡的解决方案。我们表明，熵和KL发散之间的协同作用产生了显着的性能改善。我们还讨论了香农熵最小化和标准伪掩模生成之间的一个有趣的联系，并认为前者应该优先于后者利用未标记像素的信息。我们通过一系列的定量和定性实验，使用两个公开的数据集评估所提出的配方的有效性。结果表明，我们的方法显着优于其他策略的语义分割的混合监督框架内，以及最近的半监督方法。我们的代码是公开的：https://github.com/by-liu/ConfKD。
2022-11-24 cs.CV cs.LG eess.IV
Entropy Message Passing
University of Niš（尼什大学）
提出了一种新的无圈因子图消息传递算法。所提出的“熵消息传递”（EMP）算法可以被看作是在熵半环上的和积消息传递，这已经出现在自动机理论中。EMP的主要用途是计算模型的熵。但是，EMP也可以用于计算出现在期望最大化和梯度下降算法中的表达式。
2010-11-08 cs.IT cs.LG math.IT
Striving for Simplicity and Performance in Off-Policy DRL: Output Normalization and Non-Uniform Sampling
New York University（纽约大学）；NYU Shanghai（上海纽约大学）；University of California San Diego（加州大学圣迭戈分校）
我们的目标是开发非政策DRL算法，不仅超过国家的最先进的性能，但也是简单和简约。对于标准的连续控制基准，软演员批评（SAC），采用熵最大化，目前提供了最先进的性能。我们首先证明了SAC中的熵项由于动作空间的有界性而解决了动作饱和问题，有了这个见解，我们提出了一个简化的算法，具有简单的归一化方案或反向梯度。我们表明，这两种方法都可以匹配SAC的样本效率的性能，而不需要熵最大化，然后我们提出了一个简单的非均匀采样方法选择过渡从重放缓冲区在训练过程中。大量的实验结果表明，我们提出的采样方案导致最先进的样本效率的挑战性连续控制任务。我们将所有的研究结果结合到一个简单的算法中，我们称之为强调最近经验的简化关闭策略，为此我们提供了强大的公共领域代码。
2020-12-05 cs.AI cs.LG stat.ML
Communication-Efficient Distributed Stochastic AUC Maximization with Deep Neural Networks
The University of Iowa（爱荷华大学）；Tencent AI Lab（腾讯AI实验室）
在本文中，我们研究了大规模AUC最大化的分布式算法，并将深度神经网络作为预测模型。尽管分布式学习技术在深度学习中得到了广泛的研究，但由于其与标准损失最小化问题（例如，交叉熵）。为了解决这一挑战，我们提出并分析了一个通信高效的分布式优化算法的基础上的{ \it非凸凹}重新制定的AUC最大化，其中的通信的原始变量和每个工人和参数服务器之间的对偶变量只发生在多个步骤的基于梯度的更新后，在每个工人。与现有算法的朴素并行版本相比，该算法在单个机器上计算随机梯度并将其平均以更新模型参数，我们的算法需要的通信轮数少得多，理论上仍然实现了线性加速。据我们所知，这是\textbf{first}的工作，它以通信高效的分布式方式解决了深度神经网络的AUC最大化的{ \it非凸凹最小-最大}问题，同时仍然保持理论上的线性加速特性。我们在几个基准数据集上的实验表明了我们的算法的有效性，也证实了我们的理论。
2020-10-08 cs.DC cs.LG math.OC
