arXivDaily arXiv每日学术速递 周一至周五更新

期刊&会议

International Conference on Learning Representations · 会议 · Machine Learning

2026-04-24 至 2026-04-24 共收录 5
2604.21450 2026-04-24 cs.CV cs.AI cs.LG

VARestorer: One-Step VAR Distillation for Real-World Image Super-Resolution

VARestorer: 一种一步式VAR蒸馏用于现实世界图像超分辨率

Yixuan Zhu, Shilin Ma, Haolin Wang, Ao Li, Yanzhe Jing, Yansong Tang, Lei Chen, Jiwen Lu, Jie Zhou

机构 * Tsinghua University(清华大学)

AI总结 本文提出VARestorer,通过蒸馏预训练的文本到图像VAR模型,实现一步式图像超分辨率,解决迭代预测中的误差累积问题,提升效率与质量。

Comments Accepted in ICLR 2026. Code is available at https://github.com/EternalEvan/VARestorer

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.23912 2026-04-24 cs.LG cs.AI

Key and Value Weights Are Probably All You Need: On the Necessity of the Query, Key, Value weight Triplet in Self-Attention Transformers

查询、键、值权重可能已经足够:关于自注意力变换器中查询、键、值权重三元组必要性的探讨

Marko Karbevski, Antonij Mijoski

机构 * Institut de Recherche Mathématique Avancée (IRMA), Université de Strasbourg(先进数学研究院(IRMA),斯特拉斯堡大学)

AI总结 本文探讨了在仅编码器和仅解码器变换器中是否可以减少查询、键、值权重三元组。理论证明在弱假设下,其中一个权重可被身份矩阵替代,减少25%的注意力参数。实验表明,移除查询权重可提升性能,同时揭示了结构表达性边界。

Comments Detailed version of the long paper (poster) accepted at the ICLR 2026 workshop on Deep Generative Models: Theory, Principle, and Efficacy (DeLTa)

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.20064 2026-04-24 cs.LG

Not-a-Bandit: Provably No-Regret Drafter Selection in Speculative Decoding for LLMs

非老虎机:在推测解码中具有证明无遗憾的草案模型选择

Hongyi Liu, Jiaji Huang, Zhen Jia, Youngsuk Park, Yu-Xiang Wang

机构 * Rice University(里士大学) Amazon Web Services(亚马逊网络服务) University of California, San Diego(加州大学圣地亚哥分校)

AI总结 本文提出一种在推测解码中能证明无遗憾的草案模型选择算法,通过评估所有草案模型而非仅选定模型,显著提升性能,适用于多种解码方法,并在多个领域优于现有方法。

Comments ICLR'26

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.18091 2026-04-24 cs.CV cs.AI cs.LG

Accelerating Vision Transformers with Adaptive Patch Sizes

通过自适应补丁大小加速视觉变换器

Rohan Choudhury, JungEun Kim, Jinhyung Park, Eunho Yang, László A. Jeni, Kris M. Kitani

机构 * Carnegie Mellon University(卡内基梅隆大学) KAIST(韩国科学技术院) General Robotics(通用机器人)

AI总结 本文提出自适应补丁变换器APT,通过在图像内使用不同大小的补丁来减少输入token数量,从而加速ViT的推理和训练,提升吞吐量并保持性能。

Comments Accepted to ICLR 2026. Project page at https://rccchoudhury.github.io/apt/

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.12721 2026-04-24 cs.AI cs.CL cs.LG stat.ML

Strategic Scaling of Test-Time Compute: A Bandit Learning Approach

测试时计算的战略扩展:一种多臂学习方法

Bowen Zuo, Yinglun Zhu

机构 * University of California, Riverside(加州大学河滨分校)

AI总结 本文提出一种多臂学习方法,通过动态分配计算资源提升大语言模型性能,针对不同查询难度优化计算分配,实验表明在多个基准数据集上显著提升性能。

Comments To appear at ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏