Gauss-Newton Unlearning for the LLM Era
大语言模型时代的Gauss-Newton反学习
机构 * University of Toronto(多伦多大学) ; MIT(麻省理工学院) ; Vector Institute for Artificial Intelligence(人工智能向量研究所)
AI总结 K-FADE通过K-FAC近似实现大语言模型的高效反学习,减少遗忘集影响的同时保留保留集行为。
Comments 18 pages
高校专区
大语言模型时代的Gauss-Newton反学习
机构 * University of Toronto(多伦多大学) ; MIT(麻省理工学院) ; Vector Institute for Artificial Intelligence(人工智能向量研究所)
AI总结 K-FADE通过K-FAC近似实现大语言模型的高效反学习,减少遗忘集影响的同时保留保留集行为。
Comments 18 pages
ArtisanGS: 带有AI和人机协作的高斯点选择交互工具
机构 * NVIDIA ; NVIDIA Canada(NVIDIA 加拿大) ; University of Toronto Canada(多伦多大学 加拿大) ; NVIDIA France(NVIDIA 法国) ; University of Toronto(多伦多大学) ; Institute for Clarity in Documentation Dublin Ohio USA(文档清晰研究所 俄亥俄州 大致) ; Inria Paris-Rocquencourt(法国巴黎-罗克琴特研究所) ; Rajiv Gandhi University Doimukh Arunachal Pradesh India(拉吉夫·甘地大学 亚当穆克 阿鲁纳恰尔邦 印度) ; Tsinghua University Haidian Qu Beijing Shi China(清华大学 海淀区 北京市 中国) ; Palmer Research Laboratories San Antonio Texas USA(帕勒研究中心 肯塔基州 威斯康星州 美国)
AI总结 ArtisanGS通过交互式工具实现高斯点选择与分割,结合AI与人工干预,提供灵活的局部编辑功能,适用于真实场景中的可控编辑。
Comments 12 pages, includes supplementary material
秩序从混沌:从 glitchy 游戏视频中理解物理世界
机构 * Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·扎耶德人工智能大学) ; Peking University(北京大学) ; University of Toronto(多伦多大学) ; Sun Yat-sen University(孙中山大学)
AI总结 本文提出 PhysGame 数据集和 GameBench 基准,通过利用游戏视频中的 glitch 异常,提升物理推理能力,实验显示在多个基准上取得显著提升。
Comments Accepted by TMLR
方向收敛,梯度下降在漏损ReLU两层神经网络中的良性过拟合
机构 * Department of Statistical Sciences University of Toronto(统计科学系多伦多大学)
AI总结 本文研究了漏损ReLU两层神经网络中梯度下降在混合数据下的良性过拟合条件,并揭示了新的相变现象。
Comments 41 pages, Accepted at International Conference on Learning Representations 2026 (ICLR 2026)
当猜测泄露秘密:通过猜测解码的侧信道在大语言模型中
机构 * University of Toronto(多伦多大学)
AI总结 研究揭示了通过猜测解码在大语言模型中泄露用户信息的侧信道,并提出缓解措施。