Learning State Representations from Random Deep Action-conditional Predictions
University of Michigan（密歇根大学）；University of Oxford（牛津大学）
我们在这项工作中的主要贡献是一个经验发现，随机一般价值函数（GVF），即，深度动作条件预测--它们预测的观察特征以及预测所依赖的动作序列都是随机的--形成了强化学习（RL）问题的良好辅助任务。特别是，我们表明，随机深度动作条件预测在用作辅助任务时，会产生状态表示，其控制性能与Atari和DeepMind Lab任务中的值预测，像素控制和CURL等最先进的手工辅助任务具有竞争力。在另一组实验中，我们停止了从网络的RL部分到网络的状态表示学习部分的梯度，并且可能令人惊讶地显示，仅辅助任务就足以学习状态表示，足以超过端到端训练的演员-评论家基线。我们在https://github.com/Hwhitetooth/random_gvfs上开源了我们的代码。
2021-11-05 cs.AI cs.LG
Adapting Auxiliary Losses Using Gradient Similarity
Washington State University（华盛顿州立大学）；DeepMind（深度思维）；Google Research（谷歌研究院）
处理神经网络统计效率低下的一种方法是依赖于辅助损失来帮助构建有用的表示。然而，要知道辅助任务是否对主任务有帮助，以及它何时会开始受到伤害，这并不总是微不足道的。我们建议使用余弦相似度梯度的任务作为自适应的权重来检测时，辅助损失是有帮助的主要损失。我们证明了我们的方法可以保证收敛到主要任务的临界点，并证明了所提出的算法在几个领域的实际用途：ImageNet子集上的多任务监督学习，网格世界上的强化学习和Atari游戏上的强化学习。
2020-11-25 cs.LG stat.ML
Reinforcement Learning Based Dynamic Selection of Auxiliary Objectives with Preserving of the Best Found Solution
ITMO University（ITMO大学）
通过引入辅助目标可以提高单目标优化的效率。理想情况下，辅助目标应该有所帮助。然而，在实践中，目标在某些优化阶段可能是有效的，但在其他的阻碍。在本文中，我们提出了一个修改的EA+RL方法，动态选择优化的目标，使用强化学习。所提出的修改防止丢失最佳发现的解决方案。我们分析了所提出的修改，并将其与EA+RL方法和XdivK，广义OneMax和LeadingOnes问题的随机局部搜索进行了比较。所提出的修改优于EA+RL方法的所有问题的情况下。它在大多数问题实例上的表现也优于单一目标方法。我们还提供了详细的分析所考虑的算法的不同组成部分如何影响优化效率。此外，我们提出的XdivK问题的修改建议的理论分析。
2017-04-24 cs.LG cs.NE
A Geometric Perspective on Optimal Representations for Reinforcement Learning
Google Brain（谷歌大脑）；DeepMind（深度思考）；University of Alberta（阿尔伯塔大学）；University of Oxford（牛津大学）
基于价值函数空间的几何性质，提出了一种新的强化学习表示学习方法。我们利用这个角度来提供正式的证据，价值函数作为辅助任务的有用性。我们的配方考虑适应的代表性，以尽量减少（线性）近似的价值函数的所有固定的政策，为一个给定的环境。我们表明，这种优化减少到作出准确的预测，一类特殊的价值函数，我们称之为对抗性价值函数（AVF）。我们证明了使用价值函数作为辅助任务对应于我们的公式的预期误差松弛，AVF是一个自然的候选者，并确定了与原始价值函数的密切关系（Mahadevan，2005）。我们突出AVFs的特点和它们的有用性作为辅助任务在一系列的实验上的四个房间的域。
2019-06-26 cs.AI cs.LG stat.ML
Reinforcement Learning with Unsupervised Auxiliary Tasks
DeepMind
深度强化学习代理通过直接最大化累积奖励来实现最先进的结果。然而，环境包含更广泛的各种可能的训练信号。在本文中，我们引入了一个代理，也最大化许多其他伪奖励功能，同时通过强化学习。所有这些任务都有一个共同的表现，就像无监督学习一样，在没有外部奖励的情况下继续发展。我们还引入了一种新的机制，将这种表示集中在外部奖励上，以便学习能够快速适应实际任务的最相关方面。我们的代理显着优于以前的国家的最先进的雅达利，平均880\%的专家人类的表现，和一套具有挑战性的第一人称，三维\emph{Labyrinth}任务，导致平均加速学习10 $\times$和平均87\%的专家人类的表现在Labeldoth。
2016-11-16 cs.LG cs.NE
Self-Supervised Auxiliary Task Discovery for Stable Reinforcement Learning in Stock Trading
School of Mathematical and Statistical Sciences, Indian Institute of Technology Mandi（印度理工大学曼迪分校数学与统计科学学院）
本研究提出自监督框架自动发现辅助任务以支持股票交易的强化学习，通过广义价值函数和双网络结构优化，在四大股指上验证其较基线方法更具稳健性与交易性能。
2026-08-18 cs.LG q-fin.CP stat.ML
Bootstrapped Representations in Reinforcement Learning
University of Oxford（牛津大学）；Google DeepMind（谷歌DeepMind）
本文理论刻画了时序差分学习在强化学习中学习到的状态表示，发现其不同于蒙特卡洛和残差梯度方法，并据此设计新的辅助学习规则，在经典领域验证其有效性。
2023-06-16 cs.AI cs.LG stat.ML
Exploiting Contextual Structure to Generate Useful Auxiliary Tasks
Brown University（布朗大学）
本文提出多任务强化学习框架，利用时序逻辑抽象、大语言模型对象嵌入、反事实推理与离策略学习自动生成并同步学习辅助任务，在不增加环境交互的情况下提升经验复用与探索效用。
2024-04-04 cs.AI cs.LG cs.RO
Integrating Auxiliary Information in Self-supervised Learning
Carnegie Mellon University（卡内基梅隆大学）
本文提出整合辅助信息（例如，数据的附加属性，例如Instagram图像的主题标签）。我们首先观察到，辅助信息可能会为我们带来有关数据结构的有用信息：例如，具有相同主题标签的Instagram图像在语义上可能相似。因此，为了充分利用辅助信息中的结构信息，我们提出了根据辅助信息构建数据聚类。然后，我们介绍了聚类InfoNCE（Cl-InfoNCE）目标，该目标学习来自同一聚类的数据的增强变体的相似表示和来自不同聚类的数据的不同表示。我们的方法贡献如下：1）与传统的自监督表示相比，注入了语义信息的自监督表示使性能更接近监督表示; 2）所提出的Cl-InfoNCE也可以与无监督的构造聚类（例如，k-means聚类），并优于基于强聚类的自监督学习方法，如原型对比学习（PCL）方法; 3）我们表明，Cl-InfoNCE可能是一个更好的方法来利用数据聚类信息，通过比较它的基线方法-学习预测交叉熵损失的聚类分配。为了进行分析，我们将学习表示的良好性与统计关系联系起来：i）标签和聚类之间的互信息，以及ii）给定标签的聚类的条件熵。
2021-06-05 cs.LG
Return-Based Contrastive Representation Learning for Reinforcement Learning
University of Science and Technology of China（中国科学技术大学）；IIIS, Tsinghua University（清华大学信息科学技术学院）；Microsoft Research（微软研究院）
最近，已经提出了各种辅助任务来加速深度强化学习（RL）中的表示学习并提高样本效率。然而，现有的辅助任务没有考虑到RL问题的特点，是无监督的。通过利用RL中最重要的反馈信号返回，我们提出了一种新的辅助任务，该任务迫使学习的表示区分具有不同返回的状态-动作对。我们的辅助损失在理论上是合理的学习表示，捕捉一种新形式的状态-动作抽象的结构，在这种结构下，具有相似的回报分布的状态-动作对聚集在一起。在低数据状态下，我们的算法在Atari游戏和DeepMind Control套件中的复杂任务上的表现优于强大的基线，并且在与现有辅助任务相结合时实现了更好的性能。
2021-02-22 cs.LG
Graph-Based Neural Network Models with Multiple Self-Supervised Auxiliary Tasks
自监督学习目前正受到广泛关注，因为它允许神经网络从大量未标记的数据中学习鲁棒的表示。此外，多任务学习可以通过在相关任务上同时训练网络来进一步改进表示学习，从而显著提高性能。在本文中，我们提出了三个新的自我监督的辅助任务，训练基于图的神经网络模型在多任务的方式。由于图卷积网络是用于捕获结构化数据点之间的关系的最有前途的方法之一，因此我们使用它们作为构建块，以在标准半监督图分类任务上实现有竞争力的结果。
2020-12-04 cs.LG
Learning Weakly-Supervised Contrastive Representations
Carnegie Mellon University（卡内基梅隆大学）
我们认为，辅助信息提供的一种形式的有价值的信息是其隐含的数据聚类信息。例如，将主题标签视为辅助信息，我们可以假设Instagram图像在语义上与相同的主题标签更相似。有了这个直觉，我们提出了一个两阶段的弱监督对比学习方法。第一阶段是根据数据的辅助信息对数据进行聚类。第二阶段是学习相同集群内的相似表示和来自不同集群的数据的不同表示。我们的实证实验表明以下三个贡献。首先，与传统的自监督表示相比，注入冗余信息的表示使性能更接近于使用直接下游标签作为监督信号的监督表示。第二，我们的方法在大多数情况下表现最好，当我们的方法与其他基线表示学习方法，也利用辅助数据信息进行比较。第三，我们表明，我们的方法也适用于无监督的构造集群（例如，无辅助信息），从而产生强的无监督表示学习方法。
2022-02-18 cs.AI cs.LG
Molecular representation learning with language models and domain-relevant auxiliary tasks
BenevolentAI（本福伦特人工智能公司）
我们应用一个Transformer架构，特别是BERT，来学习灵活和高质量的分子表示药物发现问题。我们研究了使用不同的自我监督任务的组合进行预训练的影响，并提出了我们的结果，建立虚拟筛选和QSAR基准。我们证明：i）选择适当的自我监督任务进行预训练对随后的下游任务（如虚拟筛选）的性能有重大影响。ii）使用与化学领域相关性更高的辅助任务，例如学习预测计算的分子性质，增加了我们学习的表征的保真度。iii）最后，我们表明，通过我们的模型“MolBert”学习的分子表示在基准数据集上改进了现有技术。
2020-11-26 cs.AI cs.LG
Auxiliary Reward Generation with Transition Distance Representation Learning
Harbin Institute of Technology（哈尔滨工业大学）；Harbin Engineering University（哈尔滨工程大学）；CALT（中国运载火箭技术研究院）
针对强化学习中人工奖励设计费力且易受认知偏差影响的问题，提出基于转移距离表示学习的辅助奖励生成方法，无需人类知识即可在单任务和技能链接场景中自动生成辅助奖励，有效提升学习效率与收敛稳定性。
2024-02-12 cs.AI cs.LG
Sparse Binary Representation Learning for Knowledge Tracing
University of Applied Sciences（应用科学大学）；Karlsruhe University of Education（卡尔斯鲁厄教育大学）
针对现有知识追踪模型依赖人工定义知识概念、效果受限的问题，提出SBRKT模型，通过稀疏二元表示学习生成辅助知识概念，兼容经典与深度学习KT模型，在多数据集上提升基线性能。
2025-01-17 cs.LG
Understanding Representations Pretrained with Auxiliary Losses for Embodied Agent Planning
Stanford University（斯坦福大学）；Allen Institute for AI（艾伦人工智能研究所）
该研究探究在探索轨迹上额外自监督预训练能否优化通用视觉表征以支持具身规划，对比多种损失后发现探索轨迹上的模仿学习表现最优，且主流辅助损失经简单修改可提升对下游规划的支持。
2023-12-06 cs.CV cs.LG cs.RO
GREAT: Generalizable Representation Enhancement via Auxiliary Transformations for Zero-Shot Environmental Prediction
针对环境建模中未监测区域预测因数据有限和空间异质性导致的泛化问题，提出GREAT框架，通过多层变换函数增强特征并经双层训练优化，在零样本场景下显著提升预测性能，为相关环境应用提供实用方案。
2025-11-17 cs.LG
Representation Learning of Auxiliary Concepts for Improved Student Modeling and Exercise Recommendation
Karlsruhe University of Applied Sciences（卡尔斯鲁厄应用科学大学）；Karlsruhe University of Education（卡尔斯鲁厄教育大学）
本文提出学习练习的稀疏二值辅助概念表示，以弥补人工标注知识概念的不足，并证明其能同时提升学生建模预测性能和强化学习及规划式练习推荐策略下的学生学习效果。
2025-08-22 cs.AI cs.LG
AAG: Self-Supervised Representation Learning by Auxiliary Augmentation with GNT-Xent Loss
Shanghai Jiao Tong University（上海交通大学）；Haohua Technology Co., Ltd（浩华科技有限公司）
自监督表示学习是一个新兴的研究课题，它具有强大的学习能力与未标记的数据。作为一种主流的自监督学习方法，基于增强的对比学习在各种缺乏人工标注的计算机视觉任务中取得了巨大的成功。尽管目前的进展，现有的方法往往受到额外的内存或存储成本的限制，其性能仍然有很大的改进空间。在这里，我们提出了一种自监督的表示学习方法，即AAG，其特点是辅助增强策略和GNT-Xent损失。辅助增强能够通过增加图像的多样性来提高对比学习的性能。所提出的GNT-Xent损失能够实现稳定和快速的训练过程，并产生有竞争力的准确性。在CIFAR 10、CIFAR 100和SVHN上的实验结果证明了AAG方法的优越性。特别是，AAG在CIFAR 10上达到了94.5%的top-1准确率，批量为64，比Simplified在批量为1024时的最佳结果高出0.5%。
2020-10-20 cs.CV cs.LG
Representation-Aligned Auxiliary Supervision for Language Model Adaptation
KAIST AI（韩国科学技术院人工智能研究院）；Sentient Labs（Sentient实验室）；Princeton University（普林斯顿大学）；Rice University（莱斯大学）；University of Texas, Austin（德克萨斯大学奥斯汀分校）；University of Washington（华盛顿大学）
本研究提出表示对齐的辅助监督方法，利用环境派生任务提升语言模型在结构化领域（如国际象棋）的适配性能，显著改善最优动作预测和评论生成。
2026-10-27 cs.CL cs.LG
Spectral-Target Physical Latent Structuring for JEPA-Style World Models
Kaliber Labs（卡利伯实验室）
针对JEPA式世界模型的物理表示懒惰问题，提出训练时添加轻量傅里叶辅助头的方法，可提升动态环境等的规划成功率与数据效率，避免表示懒惰。
2026-09-17 cs.LG
Disentangled Latent Spaces Facilitate Data-Driven Auxiliary Learning
Bocconi University（博科尼大学）；Bocconi Institute for Data Science and Analytics（博科尼数据科学与分析研究所）；University of Verona（威尼斯大学）；HUMATICS - SYS-DAT Group（HUMATICS-SYS-DAT组）；University of Milano-Bicocca（米兰-比科卡大学）
本文提出 Detaux 框架，通过弱监督表示解耦与聚类自动发现辅助分类任务，将 STL 转化为 MTL，并在合成与真实数据上验证其有效性。
2025-07-25 cs.LG
Auxiliary task discovery through generate-and-test
University of Alberta（阿尔伯塔大学）；Huawei Technologies Canada, Ltd（华为技术加拿大有限公司）
本文提出一种基于生成与测试的辅助任务自动发现方法，通过持续生成并保留高实用性任务，显著提升强化学习的数据效率与性能。
2024-07-20 cs.AI cs.LG
Learning Deep Representation for Face Alignment with Auxiliary Attributes
The Chinese University of Hong Kong（香港中文大学）
在这项研究中，我们表明，地标检测或人脸对齐任务不是一个单一的和独立的问题。相反，它的鲁棒性可以大大提高辅助信息。具体来说，我们共同优化地标检测以及识别异质但微妙相关的面部属性，如性别，表情和外观属性。这是不平凡的，因为不同的属性推理任务具有不同的学习难度和收敛速度。为了解决这个问题，我们制定了一个新的任务约束的深度模型，它不仅学习任务间的相关性，而且还采用动态任务系数，以促进学习多个复杂任务时的优化收敛。广泛的评估表明，所提出的任务约束学习（i）优于现有的人脸对齐方法，特别是在处理具有严重遮挡和姿态变化的人脸方面，（ii）与基于级联深度模型的最先进方法相比，大大降低了模型复杂度。
2015-08-11 cs.CV cs.LG
Nonlinear ISA with Auxiliary Variables for Learning Speech Representations
Carnegie Mellon University（卡内基梅隆大学）
本文扩展了非线性独立分量分析（ICA）的最新工作，引入了一个理论框架，非线性独立子空间分析（ISA）的辅助变量的存在。所观察到的高维声学特征（如对数梅尔频谱图）可以被认为是在个体多变量信息源（如说话者特征）上的非线性变换的表面水平表现，在基于能量模型的假设下，我们使用非线性ISA理论提出了一种学习无监督语音表示的算法，该算法的子空间是独立的，并且与原始语音表示潜在地高度相关。非平稳多变量源。我们展示了如何与辅助变量的非线性ICA可以扩展到一个通用的可识别模型的子空间，同时也提供了这些高维子空间的可识别性的充分条件。我们提出的方法是通用的，可以与标准的无监督方法相结合，学习语音表示与子空间，理论上可以捕获独立的高阶语音信号。我们评估我们的算法的增益时，结合自回归预测解码（APC）模型的说话人验证和音素识别任务的实证结果。
2020-07-25 cs.LG cs.SD eess.AS
Proto-Value Networks: Scaling Representation Learning with Auxiliary Tasks
McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Mila – Québec AI Institute（米拉-魁北克人工智能研究所）；University of Oxford（牛津大学）；Google Research – Brain Team（谷歌研究院-大脑团队）
该研究基于后继测度提出新辅助任务族，结合离策略学习规则构建出原型价值网络，将原型价值函数拓展至深度强化学习，在街机学习环境上验证了其仅用线性近似和少量交互即可达到成熟算法性能的表征学习效果。
2023-04-25 cs.AI cs.LG stat.ML
Richer Representations for Neural Algorithmic Reasoning via Auxiliary Reconstruction
sei.ecnu.edu.cn（东华大学信息科学与工程学院）
提出辅助重建模块和自监督学习变体，增强编码器对输入状态信息的保留和特征间依赖的捕捉，从而提升神经算法推理性能。
2026-05-30 cs.AI cs.LG
Ares: Approximate Representations via Efficient Sparsification -- A Stateless Approach through Polynomial Homomorphism
University of Washington（华盛顿大学）
本文提出一种基于多项式同态的零状态压缩框架Ares，无需辅助数据即可实现高压缩比、可解释且可扩展的数据缩减，并支持压缩域直接代数运算，实验验证其保持重建精度。
2024-12-14 cs.LG
Improving Few-Shot Learning with Auxiliary Self-Supervised Pretext Tasks
University of Montreal（蒙特利尔大学）；Mila – Quebec Artificial Intelligence Institute（米拉——魁北克人工智能研究所）
最近的工作少样本学习\cite{tian2020rethinking}表明，学习表示的质量起着重要的作用，在Few-Shot分类性能。另一方面，自监督学习的目标是在不使用类别标签的情况下恢复数据的有用语义信息。在这项工作中，我们利用这两种模式的互补性，通过多任务框架，我们利用最近的自我监督的方法作为辅助任务。我们发现，将多个任务结合起来通常是有益的，同时解决它们可以有效地完成。我们的研究结果表明，自我监督的辅助任务是有效的数据依赖的正则化表示学习。我们的代码可在：\url{https://github.com/nathanielsimard/improving-fs-ssl} .
2021-01-24 cs.CV cs.LG
Mitigating Representation Gaps in Amortized Bayesian Inference with Auxiliary Supervision
TU Dortmund University（多特蒙德工业大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
本文提出利用辅助监督损失改善摊销贝叶斯推断的训练动态，缓解表示差距，加快收敛并提升性能，并在多个现实问题中验证了有效性。
2026-10-01 cs.LG stat.CO stat.ME
Auxiliary Cross-Modal Representation Learning with Triplet Loss Functions for Online Handwriting Recognition
Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML））
本文提出基于三元组损失的跨模态表示学习方法（CMR-IS），利用图像辅助任务提升时间序列分类性能，在在线手写识别中实现更高准确率与更好泛化。
2023-08-03 cs.CV cs.LG
DASS: A Solver-Adaptable Dynamic Auxiliary Search Strategy for Symbolic Regression
The Hong Kong Polytechnic University（香港理工大学）；Eastern Institute of Technology（宁波东方理工大学）；Shanghai Jiao Tong University（上海交通大学）
提出适用于求解器的DASS策略，通过构建优化高潜力辅助搜索子空间改进符号回归，可集成各类求解器，在LLM-SRBench上显著提升原求解器精度且运行时增加可控。
2026-11-03 cs.LG
An Analytical Theory of Auxiliary Learning
University of Turin（都灵大学）；Radboud University（拉德堡德大学）
本研究通过教师-学生框架和微分方程解析了辅助学习机制，推导出线性网络泛化误差闭式解及非线性情形的涨落-耗散理论，揭示任务相关性与噪声的作用。
2026-09-25 cs.LG
Factorized Latent Dynamics for Video JEPA: An Empirical Study of Auxiliary Objectives
Adhikari（阿迪卡里）
本研究探讨了视频JEPA中辅助目标的实证效果，通过对比不同辅助目标变体，发现潜在表示的因子化方法在提升某些能力的同时可能降低其他能力，FWM-HW-LD在混合数据集下提升了ImageNet-100和SSv2的性能。
2026-05-16 cs.CV cs.LG
Learning Representation for Multitask learning through Self Supervised Auxiliary learning
Dongguk University-Seoul（东国大学首尔校区）；NYU School of Medicine（纽约大学医学院）
针对多任务学习中共享编码器表示质量不足的问题，提出Dummy Gradient norm Regularization方法，通过减小损失函数对虚拟预测器的梯度范数提升表示通用性，实验证明其有效改善了多任务预测性能且易于集成。
2024-09-25 cs.LG stat.ML
Hierarchical Autoregressive Image Models with Auxiliary Decoders
DeepMind（深度思维）
图像的自回归生成模型往往偏向于捕捉局部结构，因此它们经常产生缺乏大尺度相干性的样本。为了解决这个问题，我们提出了两种方法来学习图像的离散表示，抽象掉局部细节。我们表明，这些表示条件下的自回归模型可以产生高保真度的图像重建，我们可以训练自回归先验这些表示，产生大规模的一致性样本。我们可以递归地应用学习过程，产生一个层次结构的渐进更抽象的图像表示。我们在ImageNet数据集上训练分层类条件自回归模型，并证明它们能够以128 $\times$ 128和256 $\times$ 256像素的分辨率生成逼真的图像。我们还进行了一项人类评估研究，将我们的模型与基于对抗和可能性的最先进的生成模型进行比较。
2019-10-08 cs.CV cs.LG stat.ML
On consistency of constrained spectral clustering under representation-aware stochastic block model
Indian Institute of Science（印度科学学院）
谱聚类由于其灵活性、计算效率和良好的理论性能保证而在实践中得到广泛应用。最近，谱聚类已被研究，以找到平衡的集群人口水平的限制。这些约束由辅助分类节点属性形式的附加信息指定。在本文中，我们考虑的情况下，这些属性可能是不可观察的，但表现为一个辅助图的潜在特征。出于这一动机，我们研究约束谱聚类的目的是找到平衡的集群在一个给定的\textit{similarity graph} $\mathcal{G}$，这样每个人都充分表示相对于一个辅助图$\mathcal{R}$（我们称之为表示图）。我们提出了一个个人层面的平衡约束，形式化这个想法。我们的工作导致一个有趣的随机块模型，不仅植物给定的分区在$\mathcal{G}$，但也植物的辅助信息编码的表示图$\mathcal{R}$。在这种情况下，我们开发了谱聚类的非归一化和归一化变体。这些算法使用$\mathcal{R}$在$\mathcal{G}$中找到近似满足所提出的约束的聚类。我们还建立了第一个统计一致性结果的约束谱聚类下的个人水平的限制，从上述变体的随机块模型采样的图形。我们的实验结果证实了我们的理论发现。
2022-03-03 cs.LG stat.ML
HydaLearn: Highly Dynamic Task Weighting for Multi-task Learning with Auxiliary Tasks
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Royal Military Academy（皇家军事学院）；Katholieke Universiteit Leuven（鲁汶大学）
多任务学习（MTL）可以通过与一个或多个相关的并行任务共享表示来提高任务的性能。通常，MTL网络在由单独的任务损失的恒定加权组合形成的复合损失函数上训练。在实践中，由于两个原因，恒定的损失权重导致较差的结果：（i）辅助任务的相关性可以在整个学习过程中逐渐漂移;（ii）对于基于小批量的优化，最佳任务权重从一个更新到下一个更新显著变化，这取决于小批量样本组成。我们引入HydaLearn，一种智能加权算法，将主任务增益连接到各个任务梯度，以便在小批量级别通知动态损失加权，解决i和ii。使用HydaLearn，我们报告了合成数据以及两个监督学习领域的性能提高。
2020-08-26 cs.LG stat.ML
Improving Small Footprint Few-shot Keyword Spotting with Supervision on Auxiliary Data
Qualcomm AI Research（高通人工智能研究院）；Qualcomm Korea YH（高通韩国YH）
提出利用易获取的无标注朗读语音构建LibriWord数据集并采用多任务学习，以监督方式增强小足迹少样本关键词识别模型的表征能力，显著提升基准性能。
2023-08-31 cs.LG cs.SD eess.AS
Self-Supervised GANs via Auxiliary Rotation Loss
University of California, Los Angeles（加州大学洛杉矶分校）；Google Brain（谷歌大脑）
条件GANs处于自然图像合成的最前沿。这种模型的主要缺点是需要标记数据。在这项工作中，我们利用了两种流行的无监督学习技术，对抗训练和自我监督，并朝着弥合有条件和无条件GANs之间的差距迈出了一步。特别是，我们允许网络在表示学习任务上进行合作，同时与经典的GAN游戏对抗。自我监督的作用是鼓励学习者学习有意义的特征表示，这些特征表示在训练过程中不会忘记。我们凭经验测试学习的图像表示的质量和合成图像的质量。在相同的条件下，自监督GAN达到了与最先进的条件对应物相似的性能。最后，我们证明了这种完全无监督学习的方法可以扩展到无条件ImageNet生成的FID为23.4。
2019-04-09 cs.CV cs.LG stat.ML
Auxiliary Network: Scalable and agile online learning for dynamic system with inconsistently available inputs
UiT The Arctic University of Norway（挪威北极大学）
流分类方法假设输入特征的数量是固定的并且总是被接收。但在许多现实场景中，需求是一些输入特征是可靠的，而另一些是不可靠或不一致的。在本文中，我们提出了一种新的基于深度学习的模型，称为辅助网络（Auxiliary Network，Auxiliary Net），它具有可扩展性和敏捷性。它采用分类器的加权集成来给出最终结果。该模型基于套期保值算法和在线梯度下降。它采用了一个模型，在一个在线设置中使用单遍学习的不同深度。神经网络是一种可扩展的神经网络模型的基础工作，用于动态复杂环境，需要ad hoc或不一致的输入数据。在公共数据集上显示了P2P-Net的有效性。
2020-08-26 cs.LG stat.ML
Towards efficient representation identification in supervised learning
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Microsoft Research（微软研究院）
针对监督学习中解耦变化因子需大量辅助信息的问题，本文提出在辅助信息不满足条件独立性时，理论上和实验上证明即使辅助信息维度远小于真实潜在表示维度，仍能实现解耦。
2024-12-23 cs.AI cs.LG stat.ML
Complementing Handcrafted Features with Raw Waveform Using a Light-weight Auxiliary Model
音频处理的一个新兴趋势是从原始波形中捕获低级别的语音表示。这些表示方法在诸如语音识别和语音分离等各种任务上显示出了有希望的结果。与手工制作的特征相比，通过反向传播学习语音特征在理论上为模型如何表示不同任务的数据提供了更大的灵活性。然而，从实证研究的结果表明，在某些任务，如语音欺骗检测，手工制作的功能比学习的功能更具竞争力。本文提出了一种辅助Rawnet模型，用从原始波形中学习到的特征来补充手工特征，而不是独立地评估手工特征和原始波形。该方法的一个主要优点是它可以以相对较低的计算成本提高精度。使用ASVspoof 2019数据集测试了所提出的辅助Rawnet模型，该数据集的结果表明，轻量级波形编码器可以潜在地提高基于手动特征的编码器的性能，以换取少量的额外计算工作。
2021-09-06 cs.CR cs.LG cs.SD
Using Self-Supervised Auxiliary Tasks to Improve Fine-Grained Facial Representation
Tarbiat Modares University（塔比亚特·莫达雷斯大学）
针对面部表情识别（FER）这一细粒度问题，提出混合多任务学习（HMTL）方法，通过拼图和带感知损失的修复两个自监督辅助任务增强监督学习，在AffectNet上无需额外预训练数据达到最优精度，还改进了头部姿态估计等任务。
2025-11-15 cs.AI cs.CV cs.LG
Intrinsically Motivated Self-supervised Learning in Reinforcement Learning
Peking University（北京大学）；Tsinghua University（清华大学）
在基于视觉的强化学习（RL）任务中，为了获得更多的语义表示并提高样本效率，通常采用代理自监督损失来分配辅助任务。然而，由于表示学习部分和决策部分被分离，自监督辅助任务中的丰富信息被忽视。为了充分利用辅助任务中的信息，我们提出了一个简单而有效的想法，采用自我监督损失作为内在奖励，称为强化学习中的内在激励自监督学习（IM-SSR）。我们正式表明，自我监督的损失可以分解为探索新的状态和鲁棒性的提高，从滋扰消除。IM-SSR可以毫不费力地插入任何具有自监督辅助目标的强化学习，几乎没有额外的成本。结合IM-SSR，以前的底层算法在DeepMind控制套件的各种基于视觉的机器人任务中，特别是在奖励信号稀疏时，在样本效率和泛化方面都取得了显着的改进。
2022-05-13 cs.AI cs.LG
MIRAGE: Multi-scale Lesion-Informed Representation with Auxiliary Guidance for MRI Contrast Enhancement
Netherlands Cancer Institute（荷兰癌症研究所）
研究从对比前乳腺MRI切片推断对比度增强的问题，提出MIRAGE方法，结合多种损失与监督形式，在多中心数据上评估，该方法在多个指标排名第一，显著提升病变定位，揭示了保真度与效用的权衡。
2026-07-22 cs.AI cs.LG eess.IV
Improving Continual Learning Performance and Efficiency with Auxiliary Classifiers
Warsaw University of Technology（华沙技术大学）；Computer Vision Center, Barcelona（巴塞罗那计算机视觉中心）；IDEAS Research Institute（IDEAS研究机构）；Institute of Artificial Intelligence and Robotics（人工智能与机器人研究所）；Xi’an Jiaotong University（西安交通大学）；Nankai University（南开大学）
本研究发现神经网络中间表示不易遗忘，提出利用辅助分类器（ACs）集成到持续学习方法中，在多种评估中平均提升10%准确率，并降低10-60%推理成本，实现高效可扩展的持续学习。
2025-05-29 cs.AI cs.LG
BERT-ASC: Auxiliary-Sentence Construction for Implicit Aspect Learning in Sentiment Analysis
Zhuiyi AI Lab（追义人工智能实验室）
本文提出BERT-ASC统一框架，通过构建辅助句子机制解决隐式方面分类与情感分析任务，在多个基准数据集上取得最先进性能。
2024-08-23 cs.AI cs.CL cs.LG
Why do Angular Margin Losses work well for Semi-Supervised Anomalous Sound Detection?
Fraunhofer FKIE（弗劳恩霍夫FKIE研究所）
该研究从理论与实验层面揭示角间隔损失在半监督异常声音检测中表现优异的原因，证明其可最小化紧致性损失、避免平凡解，并验证相关分类辅助任务能提升含噪场景下的检测性能。
2023-11-24 cs.LG cs.SD eess.AS
Practical Full Resolution Learned Lossless Image Compression
ETH Zürich（苏黎世联邦理工学院）
我们提出了第一个实用的学习无损图像压缩系统，L3 C，并表明它优于流行的工程编解码器，PNG，WebP和JPEG 2000。我们方法的核心是一个用于自适应熵编码的完全可并行化的分层概率模型，该模型针对压缩任务进行了端到端优化。与最近的自回归离散概率模型（如PixelCNN）相比，我们的方法i）与学习的辅助表示联合建模图像分布，而不是专门在RGB空间中建模图像分布，ii）只需要三次向前传递来预测所有像素概率，而不是每个像素一次。因此，与最快的PixelCNN变体（Multiscale-PixelCNN）相比，L3 C在采样时获得了超过两个数量级的加速。此外，我们发现学习辅助表示是至关重要的，并且显著优于预定义的辅助表示，例如RGB金字塔。
2020-03-06 cs.CV cs.LG eess.IV
Improving part-of-speech tagging via multi-task learning and character-level word representations
ABBYY（ABBYY公司）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）
在本文中，我们探讨了如何提高POS标记使用各种类型的辅助损失和不同的词表示。作为基线，我们使用了BiLSTM标签器，它能够在序列标签任务上实现最先进的结果。提出了一种基于前向神经网络的字符级词表示方法。这种表示在模型的速度和性能方面给了我们更好的结果。我们还应用了一种新的技术，用现有的词向量来预训练这种词表示。最后，我们为序列标签任务设计了一种新的辅助损失变体：对相邻标签的额外预测。这种损失迫使模型学习标签序列中的依赖关系，并加速训练过程。我们测试这些方法对英语和俄语。
2018-07-02 cs.AI cs.CL cs.LG
