University of Edinburgh（爱丁堡大学）

Language Model Inversion through End-to-End Differentiation

通过端到端微分实现语言模型逆向

Kevin Yandoka Denamganaï, Kartic Subr

机构 * School of Informatics, University of Edinburgh, Edinburgh, UK（信息学院，爱丁堡大学，爱丁堡，英国） 纠错

AI总结 本研究提出通过端到端微分实现语言模型的逆向，利用梯度下降优化提示以生成目标输出，验证了方法在不同长度提示和目标上的有效性。

Comments 24 pages, 5 figures, under review

HyperAIRI: a plug-and-play algorithm for precise hyperspectral image reconstruction in radio interferometry

HyperAIRI: 一种用于射电干涉成像中高精度超光谱图像重建的即插即用算法

Chao Tang, Arwa Dabbech, Adrian Jackson, Yves Wiaux

机构 * University of Edinburgh, EPCC（爱丁堡大学, EPCC） ； Heriot-Watt University, Institute of Sensors, Signal（赫里奥特-瓦特大学, 传感器与信号研究所） 纠错

AI总结 HyperAIRI是一种基于学习的即插即用算法，用于高精度超光谱图像重建，通过结合幂律光谱模型和动态范围匹配的去噪器，实现高分辨率和高动态范围的射电干涉成像。

Comments 24 pages, 10 figures, accepted by ApJS

Provable Emergence of Deep Neural Collapse and Low-Rank Bias in $L^2$-Regularized Nonlinear Networks

可证明的深度神经塌陷与低秩偏差在$L^2$正则化非线性网络中的涌现

Emanuele Zangrando, Piero Deidda, Simone Brugiapaglia, Nicola Guglielmi, Francesco Tudisco

机构 * Gran Sasso Science Institute（格拉斯索科学研究所） ； Concordia University（康科迪亚大学） ； University of Edinburgh（爱丁堡大学） 纠错

AI总结 本文研究了$L^2$正则化非线性网络中深度神经塌陷与低秩偏差的理论联系，揭示了权重衰减对优化几何的影响。

Hardware Co-Design Scaling Laws via Roofline Modelling for On-Device LLMs

通过屋顶线建模为设备端大语言模型设计硬件协同缩放定律

Luoyang Sun, Jiwen Jiang, Yifeng Ding, Fengfa Li, Yan Song, Haifeng Zhang, Jian Ying, Lei Ren, Kun Zhan, Wei Chen, Yan Xie, Cheng Deng

机构 * AI Lab, The Yangtze River Delta Institution of Automation, Chinese Academy of Sciences（人工智能实验室，长江三角洲自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； University College London（伦敦大学学院） ； Institution of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； The University of Edinburgh（爱丁堡大学） 纠错

AI总结 本文提出通过屋顶线建模为设备端大语言模型设计硬件协同缩放定律，通过训练170个模型建立架构与训练损失的缩放关系，实现准确度与延迟的直接对应，降低架构选择时间并提升模型性能。

Signature-Kernel Based Evaluation Metrics for Robust Probabilistic and Tail-Event Forecasting

基于签名核的稳健概率和尾事件预测评估指标

Benjamin R. Redhead, Thomas L. Lee, Peng Gu, Víctor Elvira, Amos Storkey

机构 * School of Informatics, University of Edinburgh, Edinburgh, UK（信息学院，爱丁堡大学，爱丁堡，英国） ； School of Mathematics, University of Edinburgh, Edinburgh, UK（数学学院，爱丁堡大学，爱丁堡，英国） 纠错

AI总结 本文提出基于签名核的Sig-MMD和CSig-MMD两种评估指标，用于改进概率和尾事件预测的鲁棒性与准确性。

Comments Main Paper: 8 pages 3 figures Including Appendix and References: 19 pages 7 figures