Small Language Models as Compiler Experts: Auto-Parallelization for Heterogeneous Systems
小型语言模型作为编译器专家:异构系统的自动并行化
AI总结 本文提出利用小型语言模型提升异构系统自动并行化性能,通过多种模型和策略在科学计算等领域实现显著加速。
Comments Accepted at NeurIPS 2025 ML for Systems Workshop
期刊&会议
Conference on Neural Information Processing Systems · 会议 · Machine Learning
小型语言模型作为编译器专家:异构系统的自动并行化
AI总结 本文提出利用小型语言模型提升异构系统自动并行化性能,通过多种模型和策略在科学计算等领域实现显著加速。
Comments Accepted at NeurIPS 2025 ML for Systems Workshop
观察者,而非玩家:通过游戏观察模拟大语言模型中的理论心理论
机构 * Department of Management Information Systems, National ChengChi University(管理信息系,国立中正大学)
AI总结 通过游戏观察模拟大语言模型中的理论心理论,评估其在顺序行为中的推理能力。
Comments Accepted at NeurIPS Workshop on Foundations of Reasoning in Language Models and Workshop on Bridging Language, Agent, and World Model
你的条件扩散模型真的在去噪吗?
机构 * MIT Cambridge, MA 02139(麻省理工学院) ; Yale University New Haven, CT 06520(耶鲁大学) ; CMU Pittsburgh, PA 15213(卡内基梅隆大学)
AI总结 本文研究了条件扩散模型的去噪过程偏差,提出Schedule Deviation度量方法,揭示了模型在不同条件下的去噪流程差异问题。
Comments 41 pages, 14 figures, published in Neural Information Processing Systems 2025
从捷径到归纳头:数据多样性如何影响Transformer中的算法选择
机构 * The University of Tokyo(东京大学) ; RIKEN AIP(理化学研究所AIP) ; Flatiron Institute(Flatiron研究所) ; CNRS(法国国家科学研究中心) ; Université Côte d’Azur(蔚蓝海岸大学) ; New York University(纽约大学)
AI总结 本研究探讨了数据多样性如何影响Transformer算法选择,证明输入多样性可使模型实现归纳头并泛化,而低多样性则导致位置捷径失效,同时揭示了预训练上下文长度与泛化能力的权衡。
Comments NeurIPS 2025
视觉-语言-动作模型的任务适应:2025 BEHAVIOR挑战第一名解决方案
机构 * Independent Researchers(独立研究者)
AI总结 本文提出了一种视觉-动作策略,通过相关噪声和混合层注意力等创新,实现了在2025 BEHAVIOR挑战中对50种家庭任务的高效处理。
Comments 2025 NeurIPS Behavior Challenge 1st place solution
通过校准和正则化增强扩散模型引导
机构 * UC San Diego(加州大学圣迭戈分校) ; Politecnico di Milano(米兰理工学院)
AI总结 本文通过校准和正则化方法提升扩散模型引导效果,改进分类器校准和采样策略,提升图像生成质量。
Comments Accepted from NeurIPS 2025 Workshop on Structured Probabilistic Inference & Generative Modeling. Code available at https://github.com/ajavid34/guided-info-diffusion
AutoAdv:面向大语言模型多轮对抗性提示的自动化 jailbreaking
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 AutoAdv通过多轮自适应机制实现高成功率的对抗性提示攻击,揭示当前安全机制在多轮对话中的脆弱性。
Comments Presented at NeurIPS 2025 Lock-LLM Workshop. Code is available at https://github.com/AAN-AutoAdv/AutoAdv
内存高效训练与原地FFT实现
机构 * School of Integrated Circuits, Sun Yat-sen University(中山大学集成电路学院)
AI总结 本文提出rdFFT框架,通过隐式复数编码实现实域完全原地FFT,有效降低训练内存成本,为频域轻量级适应提供新方向。
Comments Accepted at NeurIPS 2025. Version 2 adds links to the ongoing PyTorch upstreaming discussion
通过迭代网络实现高分辨率UDF网格化
AI总结 本文提出一种迭代神经网络,通过多次传递和邻域信息整合,提升高分辨率UDF网格化精度与完整性。
Comments Accepted at NeurIPS 2025
DeltaFlow: 一种高效的多帧场景流估计方法
机构 * KTH Royal Institute of Technology(皇家理工学院) ; Linköping University(林雪平大学) ; Scania CV AB(斯堪尼亚CV公司)
AI总结 DeltaFlow通过Δ方案高效估计多帧场景流,降低误差22%并提升推理速度2倍,解决类别不平衡和运动不一致问题。
Comments NeurIPS 2025 Spotlight, 18 pages (10 main pages + 8 supp materail), 11 figures, code at https://github.com/Kin-Zhang/DeltaFlow
通过理论一致的对称多模态偏好优化缓解幻觉
机构 * Shandong University(山东大学) ; Southern University of Science and Technology(南方科技大学) ; University of Georgia(佐治亚大学) ; National University of Singapore(新加坡国立大学) ; Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
AI总结 SymMPO通过理论一致的对称多模态偏好优化方法,有效缓解多模态大语言模型中的幻觉问题。
Comments NeurIPS 2025
MSTAR: 无框多查询场景文本检索与注意力回收
机构 * Huazhong University of Science and Technology(华中科技大学)
AI总结 MSTAR提出了一种无框多查询场景文本检索方法,通过渐进视觉嵌入和多实例匹配模块提升检索性能,首次构建MQTR数据集并优于现有模型。
Comments Neurips 2025
少即是多:通过结构化剪枝解锁时间序列基础模型的专精
机构 * Shanghai Jiao Tong University(上海交通大学) ; Alibaba Group(阿里巴巴集团)
AI总结 本文提出结构化剪枝方法,通过剪枝后再微调提升时间序列基础模型的预测性能,使其在多个基准测试中超越专用模型。
Comments Accepted by NeurIPS 2025
OpenHOI: 基于多模态大语言模型的开放世界手-物体交互合成
机构 * ShanghaiTech University(上海科技大学) ; Zhejiang University(浙江大学)
AI总结 OpenHOI通过多模态大语言模型实现开放世界手-物体交互合成,能生成长周期操控序列并处理复杂语言指令。
Comments Accepted by NeurIPS 2025 as Oral
Shape it Up! 修复微调过程中LLM的安全性
AI总结 动态安全塑造(DSS)通过细粒度安全信号在微调过程中动态增强安全内容,有效缓解安全风险,提升模型安全性。
Comments NeurIPS'25
对先验的探讨:大型语言模型在知识图谱上的可信推理
机构 * MOE KLINNS Lab, Xi’an Jiaotong University(MOE KLINNS实验室,西安交通大学) ; School of Computer Science and Technology, Xi’an Jiaotong University(计算机科学与技术学院,西安交通大学) ; Shaanxi Province Key Laboratory of Big Data Knowledge Engineering(陕西省大数据知识工程重点实验室) ; School of Artificial Intelligence, Chongqing University of Post and Telecommunications(人工智能学院,重庆邮电大学) ; School of Computer Science, Northwestern Polytechnical University(计算机学院,西北工业大学)
AI总结 本研究提出DP框架,通过整合知识图谱的结构和约束先验,提升大型语言模型在知识图谱上的推理准确性和响应可靠性。
Comments Accepted by NeurIPS 2025
Solver-Informed RL: 为真实优化建模奠定大语言模型基础
机构 * Cardinal Operations, China(中国卡迪纳尔运营公司) ; Shanghai University of Finance and Economics(上海财经大学) ; The University of Hong Kong(香港大学) ; Antai School of Economics and Management, Shanghai Jiao Tong University(上海交通大学安泰经济管理学院) ; Department of Management Science and Engineering, Stanford University(斯坦福大学管理科学与工程系)
AI总结 SIRL通过强化学习与外部优化求解器结合,提升大语言模型在优化建模中的准确性与实用性。
Journal ref 39th Conference on Neural Information Processing Systems (NeurIPS 2025)
语义检索增强对比学习用于序列推荐
机构 * City University of Hong Kong(香港城市大学) ; Huazhong University of Science and Technology(华中科技大学) ; Tencent(腾讯) ; Shenzhen Technology University(深圳技术大学) ; Peking University(北京大学) ; Shenzhen University(深圳大学)
AI总结 SRA-CL通过利用LLMs的语义能力生成高质量对比对,提升序列推荐模型的性能。
Comments Accepted by NeurIPS 2025. Code is available at: https://github.com/ziqiangcui/SRA-CL
SimSort:一种基于大规模电生理模拟的尖峰分拣数据驱动框架
机构 * Fudan University(复旦大学) ; Microsoft Research Asia(微软亚洲研究院)
AI总结 SimSort通过大规模电生理模拟数据预训练,实现了在真实尖峰分拣任务中的零样本泛化,提升了尖峰分拣的鲁棒性和可扩展性。
Journal ref 39th Conference on Neural Information Processing Systems (NeurIPS 2025)
文本到盲人运动
机构 * Boston University(波士顿大学) ; Waseda University(早稻田大学) ; University of Maryland, College Park(马里兰大学学院公园分校)
AI总结 本文提出BlindWays,首个针对盲人行人的多模态运动基准,通过收集盲人真实环境中的3D运动数据及文本描述,评估现有3D运动模型在处理盲人独特运动模式时的不足,以提升自动驾驶等系统对多样化人类运动的推理能力。
Comments Accepted at NeurIPS 2024
MEGState:从脑磁图信号解码音素
机构 * Keio University(Keio大学) ; Research Center for Information Technology Innovation(信息科技创新研究中心) ; Academia Sinica
AI总结 MEGState通过捕捉听觉刺激激发的细粒度皮层响应,实现了从脑磁图信号中稳健解码音素,展示了非侵入式脑机接口在语音识别中的应用潜力。
Comments Accepted for presentation at LibriBrain Competition, NeurIPS 2025
CodeGEMM: 一种以代码本为中心的高效GEMM方法用于量化LLM
机构 * NAVER Cloud(NAVER云)
AI总结 CodeGEMM通过预计算内积替代去量化,提高量化LLM的推理效率和内存利用率
Comments NeurIPS 2025
超越场景:分析和缓解动作识别中的背景偏见
机构 * Westmont High School(韦斯蒙特高中) ; Princeton University(普林斯顿大学)
AI总结 本文分析了动作识别中背景偏见的问题,并提出缓解策略,通过输入分割和提示调优降低背景偏见,提升模型对人类动作的识别能力。
Comments Accepted to NeurIPS 2025 Workshops: SPACE in Vision, Language, and Embodied AI; and What Makes a Good Video: Next Practices in Video Generation and Evaluation
WebATLAS: 一种基于经验驱动记忆和动作模拟的LLM代理
机构 * University of Massachusetts Lowell(马萨诸塞大学洛威尔分校) ; Amazon Alexa AI(亚马逊Alexa人工智能)
AI总结 WebATLAS通过经验驱动的记忆和前瞻动作模拟,实现无需微调的自主网页导航,成功率达63%。
Comments 9 pages, NeurIPS 2025 Workshop on Language Agents and World Models
TOMCAT:测试时综合知识积累用于组合零样本学习
机构 * School of Computer Science and Technology, Beijing Jiaotong University(计算机科学与技术学院,北京交通大学) ; Key Laboratory of Big Data and Artificial Intelligence in Transportation (Beijing Jiaotong University), Ministry of Education(交通运输大数据与人工智能重点实验室(北京交通大学),教育部)
AI总结 TOMCAT通过测试时积累文本和视觉知识,结合多模态协作学习,提升组合零样本学习的性能。
Comments Accepted to NeurIPS 2025
GenUQ:通过生成超网络进行预测不确定性估计
机构 * Sandia National Laboratories(桑迪亚国家实验室)
AI总结 GenUQ通过生成超网络模型,避免构造似然,有效提升不确定性量化在算子学习中的性能。
Comments 10 pages, 6 figures, SPIGM workshop at NeurIPS 2025, https://openreview.net/forum?id=IT9lF59UqG¬eId=IT9lF59UqG
利用大语言模型进行晚阶段多模态传感器融合以进行活动识别
机构 * Apple(苹果公司) ; MIT(麻省理工学院) ; Johns Hopkins(约翰霍普金斯大学)
AI总结 利用大语言模型进行晚阶段多模态融合,实现零样本和单样本活动分类,无需特定任务训练。
Comments NeurIPS Workshop on Learning from Time Series for Health
自动化越多,看到的越少:人工智能科学家系统的隐藏陷阱
机构 * Carnegie Mellon University(卡内基梅隆大学)
AI总结 本文探讨了人工智能科学家系统中潜在的故障模式,指出其内部工作流程未被深入研究,通过实验揭示了四种风险,并建议要求提交跟踪日志和代码以提高透明度和可重复性。
Comments NeurIPS 2025 AI4Science (Spotlight)
AdaLRS: 基于损失的自适应学习率搜索用于高效基础模型预训练
机构 * ByteDance Inc.(字节跳动公司)
AI总结 AdaLRS通过优化损失下降速度实现高效基础模型预训练,无需大量超参数调优,显著提升模型性能和鲁棒性。
Comments NeurIPS 2025 Main Conference