arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of Pennsylvania(宾夕法尼亚大学)

2026-02-06 至 2026-02-06 共收录 2
2602.06022 2026-02-06 cs.LG cs.AI

Correctness-Optimized Residual Activation Lens (CORAL): Transferrable and Calibration-Aware Inference-Time Steering

正确性优化残差激活透镜(CORAL):可转移且校准感知的推理时间引导

Miranda Muqing Miao, Young-Min Cho, Lyle Ungar

机构 * Department of Computer and Information Science, University of Pennsylvania, Philadelphia, USA(计算机与信息科学系,宾夕法尼亚大学,费城,美国)

AI总结 CORAL通过正则化探针提取模型内部分布式信息,提升推理时多项选择问答的准确性与校准性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.21799 2026-02-06 math.OC cs.LG stat.ML

PolarGrad: A Class of Matrix-Gradient Optimizers from a Unifying Preconditioning Perspective

PolarGrad:从统一预条件化视角出发的一类矩阵-梯度优化器

Tim Tsz-Kit Lau, Qi Long, Weijie Su

机构 * University of Pennsylvania(宾夕法尼亚大学) Wharton(沃顿商学院)

AI总结 PolarGrad是一种基于矩阵梯度极分解的新型预条件优化方法,通过统一视角分析矩阵感知预条件方法,提升语言模型预训练和矩阵优化性能。

Comments Minor typos corrected

详情

展开后加载摘要…

URL PDF HTML 收藏