arXiv 2403.070082024-03cs.LGcs.AIcs.CLstat.ME

AutoEval 的正确做法：使用合成数据进行模型评估

AutoEval Done Right: Using Synthetic Data for Model Evaluation

Department of Electrical Engineering and Computer Sciences, University of California, Berkeley, USA（电子工程与计算机科学系，加州大学伯克利分校）；Department of Systems Immunology, Weizmann Institute of Science, Rehovot, Israel（系统免疫学系，魏茨曼科学研究所）；Inria, Ecole Normale Supérieure, Paris, France（法国国家信息与自动化技术研究所，巴黎高等师范学院）

Pierre Boyeau, Anastasios N. Angelopoulos, Nir Yosef, Jitendra Malik, Michael I. Jordan

备注：: camera-ready paper version

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

AI总结：

本文提出高效且统计上无偏的算法，利用AI标记的合成数据减少模型评估所需的人工标注量，在GPT-4实验中有效样本量提升高达50%。

摘要：

使用人工标注的验证数据评估机器学习模型可能成本高昂且耗时。AI标记的合成数据可用于减少此目的所需的人工标注数量，这一过程称为自动评估。我们为此提出了高效且统计上无偏的算法，在保持无偏性的同时提高样本效率。这些算法在GPT-4实验中使有效人工标注样本量增加高达50%。

英文摘要：

The evaluation of machine learning models using human-labeled validation data can be expensive and time-consuming. AI-labeled synthetic data can be used to decrease the number of human annotations required for this purpose in a process called autoevaluation. We suggest efficient and statistically principled algorithms for this purpose that improve sample efficiency while remaining unbiased. These algorithms increase the effective human-labeled sample size by up to 50% on experiments with GPT-4.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

正确实现高斯过程的随机梯度下降

Stochastic Gradient Descent for Gaussian Processes Done Right

University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Cornell University（康奈尔大学）；University of Alberta（阿尔伯塔大学）

本文提出一种简单的随机对偶下降算法，正确利用优化与核方法洞见求解高斯过程回归中的大型线性系统，并在UCI回归、贝叶斯优化及分子结合亲和力预测中展现出竞争力。

2024-04-28cs.LGstat.ML

混合线性注意力的正确实现：用于超长上下文的高效蒸馏和有效架构

Hybrid Linear Attention Done Right: Efficient Distillation and Effective Architectures for Extremely Long Contexts

NLP Group, DCST, IAI, Tsinghua University（清华大学自然语言处理组、数据计算技术研究所、人工智能院）；ModelBest Inc., Beijing, China（ModelBest公司）

本文提出HALO流程和HypeNet架构，通过高效蒸馏将Transformer模型转换为RNN-注意力混合模型，实现超长上下文的高性能与高效率。

2026-01-29cs.AIcs.CLcs.LG

强化学习中正确实现的概率推断

Probabilistic Inference in Reinforcement Learning Done Right

Google DeepMind（谷歌DeepMind）

本文对强化学习中状态-动作最优性的后验概率进行严格贝叶斯处理，提出变分贝叶斯近似方法VAPOR，生成高效探索策略，并在实验中展现性能优势。

2023-11-22cs.AIcs.LG

随机抗双极搜索：为大语言模型反向学习的数据帕累托改进

Randomized Antipodal Search Done Right for Data Pareto Improvement of LLM Unlearning

Rice University（里士大学）；Rochester Institute of Technology（罗切斯特理工学院）；Stevens Institute of Technology（史蒂文斯理工学院）；Lambda

本文提出数据帕累托改进概念，通过随机抗双极搜索算法提升LLM反向学习的遗忘与保留平衡，实现高效高质量的反向学习解决方案。

2026-04-17cs.AIcs.LG

Commit to the Bit: Reactive Reinforcement Learning Done Right

Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）；University of Technology Nuremberg（纽伦堡技术大学）

针对确定性观测的有限环境，提出Committed Q-learning算法，在弱于$q_\star$-可实现性的rewire-鲁棒性假设下，证明其几乎必然收敛到最优反应策略。

2026-08-03cs.LG

在持续学习中正确实现弹性权重整合

Elastic Weight Consolidation Done Right for Continual Learning

School of Artificial Intelligence, Sun Yat-sen University, China（中山大学人工智能学院，中国）；Key Laboratory of Intelligent Assessment Technology for Sustainable Tourism, Ministry of Culture and Tourism, Sun Yat-sen University（文化旅游可持续发展智能评估技术重点实验室，文化部，中山大学）；Key Laboratory of Machine Intelligence and Advanced Computing, Ministry of Education, China（机器智能与高级计算重点实验室，教育部，中国）

本文分析了EWC中权重重要性估计的问题，提出Logits Reversal操作改进EWC，通过防止梯度消失和冗余保护提升持续学习性能。

2026-03-26cs.AIcs.CVcs.LG

更多相关论文收起更多论文

两级Softmax采样正确做法：纠正大小不平衡与离散度带来的偏差

Two-Level Softmax Sampling Done Right: Correcting Bias from Size Imbalance and Dispersion

Spotify；SJTU Paris Elite Institute of Technology（上海交通大学巴黎卓越工程师学院）

针对两级softmax采样因忽略簇大小不平衡和簇内离散度而产生的偏差，提出S-2LS和SD-2LS两种校正方法，在五个大规模数据集上验证了改进的采样性能，建议替代标准2LS。

2026-10-08cs.IRcs.LGstat.ML

用于互信息估计的对比预测编码

Contrastive Predictive Coding Done Right for Mutual Information Estimation

Department of EECS, MIT（麻省理工学院电子工程与计算机科学系）；Department of Computer Science, University of Rochester（罗切斯特大学计算机科学系）

InfoNCE目标，最初介绍了对比表示学习，已成为一个流行的选择互信息（MI）估计，尽管其间接连接到MI。在本文中，我们证明了为什么InfoNCE不应该被视为一个有效的MI估计，我们介绍了一个简单的修改，我们称之为InfoNCE锚，准确的MI估计。我们的修改引入了一个辅助锚类，使一致的密度比估计，并产生一个插件MI估计显着减少的偏见。除此之外，我们使用适当的评分规则来概括我们的框架，当采用日志评分时，该规则将InfoNCE锚恢复为特殊情况。这种表述将广泛的对比目标，包括NCE、InfoNCE和$f$ -发散变体统一在一个原则性框架下。经验上，我们发现，InfoNCE锚与日志得分实现最准确的MI估计，然而，在自我监督的表示学习实验中，我们发现，锚不提高下游任务的性能。这些研究结果证实，对比表示学习受益于准确的MI估计本身，但从结构化密度比的学习。

2025-10-29cs.ITcs.LGmath.IT

玻尔兹曼探索成功

Boltzmann Exploration Done Right

Università degli Studi di Milano（米兰大学）；INRIA Lille – Nord Europe（法国国家信息与自动化研究所里尔-北欧中心）；ICREA（加泰罗尼亚高等研究院）；Universitat Pompeu Fabra（庞培法布拉大学）

玻尔兹曼探索是一种经典的不确定性序贯决策策略，也是强化学习（RL）中最标准的工具之一。尽管它被广泛使用，但实际上对这种勘探方案的局限性或实际好处没有任何理论上的理解。它是否以一种有意义的方式推动了探索？它是否容易错误识别最佳行动或花费太多时间探索次优行动？什么是正确的调整学习率？在本文中，我们解决了这些问题中的几个随机多武装匪徒的经典设置。我们的主要结果之一是表明，任何单调学习率序列的玻尔兹曼探索策略将导致次优行为。作为一种补救措施，我们提供了一个简单的非单调时间表，保证接近最优的性能，虽然只有当事先获得的关键问题参数，通常是不可用的实际情况下（如时间范围$T$和次优差距$Δ$）。更重要的是，我们提出了一种新的变体，使用不同的学习率为不同的武器，并实现了分布依赖的遗憾界的顺序$\frac{K\log^2 T}Δ$和分布无关的界的顺序$\sqrt{KT}\log K$，而不需要这样的先验知识。为了证明我们的技术的灵活性，我们还提出了一个变体，即使奖励是重尾的，也能保证相同的性能界限。

2017-11-07cs.LGstat.ML

VAR RL Done Right: 解决视觉自回归生成中的异步策略冲突

VAR RL Done Right: Tackling Asynchronous Policy Conflicts in Visual Autoregressive Generation

Tsinghua University（清华大学）

本文提出了一种新的框架，通过显式管理异步策略冲突来增强组相对策略优化，从而提升视觉自回归生成模型的样本质量和目标对齐。

2026-01-05cs.CVcs.LG

逆向Q学习：在线模仿学习中的Q^π-可实现MDP

Inverse Q-Learning Done Right: Offline Imitation Learning in $Q^π$-Realizable MDPs

Universitat Pompeu Fabra（庞培法布拉大学）；EPFL（瑞士联邦理工学院）

本文提出SPOIL算法，通过线性Q^π-可实现MDP的结构性假设，在有限样本下实现与专家策略性能匹配，并在非线性情况下扩展，展示其在深度模仿学习中的优越性能。

2026-01-08cs.LG

正确实现的测试时训练

Test-Time Training Done Right

Massachusetts Institute of Technology（麻省理工学院）；Adobe Research（Adobe研究）

针对现有TTT方法GPU利用率低且难以处理长上下文的问题，提出大块测试时训练（LaCT），通过极大块更新提升硬件利用率与状态容量，支持复杂优化器集成，在多模态长序列任务上取得显著效果。

2025-05-29cs.CLcs.CVcs.LG

MoRight：正确地进行运动控制

MoRight: Motion Control Done Right

NVIDIA（英伟达）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）

MoRight通过解耦运动控制和相机视角，实现物理合理的场景动态生成，解决现有方法在运动控制和因果关系建模上的不足。

2026-04-08cs.AIcs.CVcs.GR

Dr. Kernel：为Triton内核生成正确强化学习

Dr. Kernel: Reinforcement Learning Done Right for Triton Kernel Generations

HKUST（香港科技大学）；TikTok；CUHK(SZ)（香港中文大学（深圳））；NTU（国立科技大学）

Dr. Kernel通过强化学习方法优化内核生成，其模型在Kernelbench测试中达到与Claude-4.5-Sonnet相当的性能，并在速度提升方面超越其他模型。

2026-02-06cs.AIcs.CLcs.LG

迈向正确的循环模型，第二部分：在不动点处重新思考

Towards Looped Models Done Right, Part II: Rethinking at Fixed Points

Institute of Foundation Models（基础模型研究院）；USC（南加州大学）；CMU（卡内基梅隆大学）

本文提出学习深度先验与正交注入，优化循环语言模型的不动点，实现更快的预填充、解码和RL训练，并在各规模下降低困惑度。

2026-10-06cs.LG

RANSAC评分正确做法

RANSAC Scoring Done Right

Marine Data Science, Institut für Informatik（海洋数据科学，信息学院）

提出一种新的RANSAC评分函数，通过共轭逆伽马先验边缘化内点尺度，无需用户提供阈值参数，计算复杂度为O(N log N)，在近7万图像对基准测试中优于现有方法。

2026-11-11cs.CVcs.LG

正确实现重要性加权离线学习

Importance-Weighted Offline Learning Done Right

Universitat Pompeu Fabra（庞培法布拉大学）；Politecnico di Milano（米兰理工大学）

针对随机上下文赌博机的离线策略优化，本文提出基于 implicit exploration 估计量的重要性加权方法，去除均匀覆盖假设并获得更强保证，还扩展至 PAC-Bayesian 无限策略类。

2023-09-27cs.LGstat.ML

Turtle Score --基于相似性的开发者分析器

Turtle Score -- Similarity Based Developer Analyzer

在日常生活中，IT公司的一项高要求任务是找到适合公司文化的合适候选人。这项研究旨在理解，分析并自动产生令人信服的结果，以找到完全适合公司的候选人。数据是检查和收集的每一个员工谁在IT领域的工作重点是他们的业绩衡量。这是基于各种不同的类别，带来了多功能性和广泛的焦点。对于这些数据，使用机器学习算法进行学习者分析，以获得学习者相似性和开发者相似性，以便招募具有相同工作模式的人。事实证明，当与一个性格相似的人一起工作时，一个特定的工人的效率和能力会更高。因此，这将成为招聘人员的有用工具，他们的目标是招聘高生产力的人。也就是说，所设计的模型将以高准确性和完美的推荐分数呈现最佳结果。

2022-05-10cs.LGstat.ML

用于非自回归审议的流对准-细化

Streaming Align-Refine for Non-autoregressive Deliberation

Google, Inc.（谷歌公司）

我们提出了一种流非自回归（non-AR）解码算法来审议流RNN-T模型的假设对齐。该算法不仅简化了贪心解码过程，而且能够在有限的正确上下文下产生每帧的解码结果，从而具有高效率和低延迟的优点。这些优点是通过将离线Align-Refine算法转换为流媒体兼容来实现的，具有新颖的Transformer解码器架构，该架构对文本和音频执行本地自关注，并且在每一层执行时间对齐的交叉关注。此外，我们执行我们的模型与最小字出错率（MWER）的标准，这还没有做在非AR解码文献的判别训练。在语音搜索数据集和Librispeech上的实验表明，在合理的正确上下文下，我们的流模型表现得和离线模型一样好，当第一遍模型容量较小时，区分性训练会导致WER进一步增益。

2022-04-15cs.CLcs.LGeess.AS

工作的正确工具：机器学习中的开源审计工具

The Right Tool for the Job: Open-Source Auditing Tools in Machine Learning

Complex Adaptive Systems Research（复杂自适应系统研究机构）

近年来，关于机器学习、人工智能伦理和算法审计公平性的讨论越来越多。许多实体制定了框架指导，以确定公平和问责的基线标准。然而，尽管有越来越多的讨论和多种框架，算法和数据审计在实践中仍然难以执行。许多开源审计工具都是可用的，但用户并不总是知道这些工具，它们有什么用，或者如何访问它们。模型审计和评估在机器学习中并不是经常强调的技能。主动采用这些工具也有法律上的原因，这些工具超出了对机器学习更公平的渴望。在我们高度联系的全球社会中，公众的看法和善意存在着积极的社会问题。更多地了解这些工具以及积极利用它们的原因可能有助于程序员、数据科学家、工程师、研究人员、人工智能和机器学习产品的用户和消费者。重要的是，每个人都要更好地了解输入和输出差异，它们是如何发生的，以及可以做些什么来促进机器和深度学习中的FATE（公平性，问责制，透明度和道德）。自由访问开源审计工具的能力消除了机器学习最基本级别的公平性评估障碍。本文旨在强调实际使用这些工具的迫切需要，并提供这样做的动机。本文强调的示例性工具是开源的，具有软件或代码库，可供全球任何人立即使用。

2022-06-20cs.AIcs.CYcs.LG