语言大模型 / LLM

Learning from flowsheets: A generative transformer model for autocompletion of flowsheets

从流程图学习：用于流程图自动补全的生成式Transformer模型

Gabriel Vogel, Lukas Schulze Balhorn, Artur M. Schweidtmann

机构 * University of Freiburg（弗赖堡大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 受文本自动补全启发，提出基于SFILES 2.0字符串表示和Transformer语言模型的化工流程图自动补全方法，通过预训练和微调实现交互式流程图合成辅助。

Journal ref Computers and Chemical Engineering Volume 171, March 2023, 108162

Proxy Reconstruction Pre-training for Ramp Flow Prediction at Highway Interchanges

高速公路立交匝道流量预测的代理重建预训练

Yongchao Li, Jun Chen, Zhuoxuan Li, Chao Gao, Yang Li, Chu Zhang, Changyin Dong

机构 * Southeast University（东南大学） ； Institute of Telecommunications and Information Sciences, China（中国电信与信息科学研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 提出时空解耦自编码器（STDAE），通过跨模态重建预训练从主线数据恢复匝道流量，结合GWNet等模型提升预测精度，在真实数据集上超越13个基线。

Comments Accepted at Applied Soft Computing Journal

Journal ref Applied Soft Computing Journal 200 (2026) 115462

GENCO - A Unified Neural Solver Embedded in a Development Framework for Steady-State Grid Analysis

GENCO — 嵌入开发框架的稳态电网分析统一神经求解器

Alban Puech, Matteo Mazzonelli, Tamara R. Govindasamy, Mangaliso Mngomezulu, Héctor Maeso-García, Thomas Tolhurst, Javad Bayazi, Ali Moeini, Naomi Simumba, Celia Cintas, David Nelischer, Romeo Kienzler, Jonas Weiss, Anna Varbella, Florian Dörfler, Gabriela Hug, Martin Mevissen, Juan Bernabé-Moreno, François Mirallès, Hendrik F. Hamann, Etienne Vos, Thomas Brunschwiler

机构 * IBM Research（IBM研究院） ； Hydro-Québec Research Institute（魁北克水电研究院） ； ETH Zurich（苏黎世联邦理工学院） ； Stony Brook University（石溪大学） ； Brookhaven National Laboratory（布鲁克海文国家实验室） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI

AI总结 研究人员推出统一神经求解器GENCO及开源GridFM开发框架，其可处理电网PF、OPF、SE任务，在基准测试中提速显著且性能优于经典求解器，降低电网分析门槛。

ProteinZero: Self-Improving Protein Generation via Online Reinforcement Learning

ProteinZero：通过在线强化学习实现自我改进的蛋白质生成

Ziwen Wang, Jiajun Fan, Ruihan Guo, Thao Nguyen, Heng Ji, Ge Liu

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 ProteinZero通过在线强化学习实现蛋白质生成模型的自我改进，提升设计成功率与多样性。

Sensory Restoration via Brain-Computer Interfaces: A Scoping Review

通过脑机接口的感觉恢复：统一的2×2框架与融合路线图

Xuan-The Tran

机构 * School of Mechanical Engineering, Vietnam Maritime University（机械工程学院，越南海防大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI

AI总结 本文提出一个统一的2×2框架，按侵入性和信号方向分类脑机接口，并定义恢复、替代和增强范式，同时给出近中长期的融合路线图。

One Pipeline, Many Transformers: Pattern-Specific Imputation Specialists for Tabular Missing Data

TabImpute: 通用零样本填补表格数据

Jacob Feitelberg, Dwaipayan Saha, Kyuseong Choi, Zaid Ahmad, Anish Agarwal, Raaz Dwivedi

机构 * Industrial Engineering \& Operations Research, Columbia University, New York, USA ； Department of Statistics, Columbia University, New York, USA ； Operations Research \& Information Engineering, Cornell Tech, New York, USA 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 TabImpute通过预训练Transformer实现通用零样本表格数据填补，采用高效特征化和合成数据生成提升填补速度与准确性。

Directional Curvature from Armijo Backtracking: A Low-Cost Sharpness Probe and a Calibration-Free Learning-Rate Safeguard for Adam

基于阿米尔乔回溯的方向曲率：Adam的低成本锐度探测和无校准学习率保障

Ashmitha R, Jörg Frochte

机构 * Department of Artificial Intelligence and Data Science, Sri Ramakrishna Engineering College, Anna University（人工智能与数据科学系，斯里·拉玛克里希纳工程学院，安娜大学） ； Interdisciplinary Institute for Applied AI and Data Science Ruhr (AKIS), Department of Electrical Engineering and Computer Science, Bochum University of Applied Sciences（鲁尔应用人工智能与数据科学跨学科研究所（AKIS），电气工程与计算机科学系，波鸿应用科学大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究利用阿米尔乔回溯线搜索获取损失函数局部锐度信息，通过接受步长估算方向曲率，给出低成本在线稳定性边界读数，还能给出学习率上限保障Adam对大初始学习率的鲁棒性。

Comments 36 pages, 7 figures, 23 tables

mmWave Radar Aware Dual-Conditioned GAN for Speech Reconstruction of Signals With Low SNR

毫米波雷达感知的双条件GAN用于低信噪比信号的语音重建

Jash Karani, Adithya Chittem, Deepan Roy, Sandeep Joshi

机构 * BITS Pilani, India（印度比特学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出了一种雷达感知的双条件GAN，用于在低信噪比条件下实现毫米波信号的语音重建，通过多梅尔判别器和残差融合门提升生成器性能。

Comments Accepted at Interspeech 2026

Ablation-Corrected Evaluation of Attribution Maps in Echocardiographic Ejection-Fraction Models

解剖结构忠实但时间上盲目：超声心动图左心室射血分数估计的归因审核

Hyunkyung Han, Min Jung Kim

机构 * School of Integrated Medicine, Yonsei University（延世大学统合医学院） ； Department of Radiology, Research Institute of Radiologic Science, Yonsei University College of Medicine（延世大学医学院放射科学研究所放射科） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 研究超声心动图左心室射血分数估计模型的归因，微调VideoMAE Transformer和R(2+1)D CNN两个回归器，用多指标审核发现模型空间忠实但时间盲目，强调空间忠实不代表时间忠实，警示XAI验证并呼吁时间感知训练评估。

Comments 12 pages, 4 figures. v2: the chance level is now measured rather than computed, which corrects the ratios reported in v1. Adds a composition-matched ablation with an equal-area control, a reliability estimate for it, an ablation-derived score to report alongside overlap, seed repetition, and pediatric validation

Learning Representations from Incomplete EHR Data with Dual-Masked Autoencoding

从不完整电子健康记录数据中学习表示的双掩码自编码

Xiao Xiang, David Restrepo, Hyewon Jeong, Yugang Jia, Leo Anthony Celi

机构 * Massachusetts Institute of Technology（麻省理工学院） ； EPFL（苏黎世联邦理工学院） ； Harvard University（哈佛大学） ； Beth Israel Deaconess Medical Center（贝塞斯达医院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 AID-MAE通过双掩码技术直接从不完整EHR时间序列中学习表示，有效提升临床任务性能并实现患者群体的自然分层。

Comments MLHC 2026 camera-ready. Spotlight at NeurIPS TS4H 2025

Knowledge Graph-Enhanced Zero-Shot Topic Classification: A Multi-Strategy Comparative Study

知识图谱增强的零样本主题分类：多策略比较研究

Shahana Akter, Yatharth Vohra, Ankita Shukla, Souvika Sarkar

机构 * A2I Lab, School of Computing, Wichita State University（A2I实验室，计算学院，威斯康星州立大学） ； EIS Lab, College of Engineering, University of Nevada, Reno（EIS实验室，工程学院，内华达大学，里诺） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 提出零样本多标签主题分类框架，通过知识图谱增强文档表示，实验表明对小型模型有正面影响，对大型模型有负面影响。

Comments 12 pages, 1 figure, IEEE TDKE format. This paper proposes a KG-augmented zero-shot multi-label topic classification framework and evaluates multiple strategies

Human-Level Text-to-SQL via Reinforcement Learning on Verified Data, Without Pipeline Engineering

ReViSQL：实现人水平的文本到SQL

Yuxuan Zhu, Tengjun Jin, Yoojin Choi, Daniel Kang

机构 * UIUC（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 本文提出ReViSQL框架，通过高质量训练数据提升SQL推理能力，首次在BIRD基准上达到人水平准确率，且在不同模型规模下均表现优异。

Test-time Generalization for Physics through Neural Operator Splitting

通过神经算子分裂实现物理中的测试时泛化

Louis Serrano, Jiequn Han, Edouard Oyallon, Shirley Ho, Rudy Morel

机构 * Flatiron Institute, New York（Flatiron 机构，纽约） ； New York University（纽约大学） ； Princeton University（普林斯顿大学） ； Sorbonne Université, CNRS, ISIR, Paris（索邦大学，CNRS，ISIR，巴黎） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出通过神经算子分裂在测试时增强泛化能力，实现零样本泛化并恢复底层PDE参数。

Large Causal Models for Temporal Causal Discovery

大规模因果模型用于时间因果发现

Nikolaos Kougioulis, Nikolaos Gkorgkolis, MingXue Wang, Bora Caglayan, Dario Simionato, Andrea Tonon, Ioannis Tsamardinos

机构 * Institute of Applied & Computational Mathematics, FORTH（应用与计算数学研究所，希腊国家科研院） ； Computer Science Department, University of Crete（克里特大学计算机科学系） ； Huawei Ireland Research Centre（华为爱尔兰研究中心） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出大规模因果模型（LCMs），通过结合合成生成器与现实数据集，实现大规模时间因果发现，提升模型性能与泛化能力。

Comments Accepted at European Conference on Machine Learning and Knowledge Discovery in Databases (ECML PKDD) 2026. 33 pages (including Appendix), 11 Figures

HomoEnsNER: Does Language Alignment Outperform Architectural Complexity in Gujarati Named Entity Recognition?

HomoEnsNER：古吉拉特语命名实体识别中语言对齐是否优于架构复杂度？

Chandrakant K. Bhogayata

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 该研究针对古吉拉特语NER，提出同构集成模型HomoEnsNER，经实验证实其F1值优于基线及异构模型，表明语言对齐比架构复杂度更适合低资源印度语言NER。

Comments 20 pages

One Surrogate to Fool Them All: Universal, Transferable, and Targeted Adversarial Attacks with CLIP

用一个替代模型欺骗所有：基于CLIP的通用、可迁移且有针对性的对抗攻击

Binyan Xu, Xilin Dai, Di Tang, Kehuan Zhang

机构 * The Chinese University of Hong Kong（香港中文大学） ； Zhejiang University（浙江大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.LG

AI总结 本文提出基于CLIP的UnivIntruder攻击框架，仅用公开模型和数据集生成对抗扰动，在ImageNet、CIFAR-10及图像搜索引擎、视觉语言模型上实现高攻击成功率，凸显AI安全需重新评估。

Comments 22 pages, 15 figures, 18 tables. To appear in the Proceedings of The ACM Conference on Computer and Communications Security (CCS), 2025

MuScriptor: An Open Model for Multi-Instrument Music Transcription

MuScriptor：一种用于多乐器音乐转录的开放模型

Simon Rouard, Michael Krause, Axel Roebel, Carl-Johann Simon-Gabriel, Alexandre Défossez

专题命中 预训练与数据 ：post-training(abstract)；分类 cs.LG

AI总结 研究多乐器音乐转录问题，核心方法是分析合成数据预训练有效性，结合真实音乐音频微调与强化学习后训练，还引入乐器存在条件定制转录，主要贡献是发布MuScriptor开放模型用于多种音乐录音。

Comments ISMIR 2026 Camera Ready

CANDLE: CTC-based Arabic Noisy-character Deduplication using a Lightweight Encoder

CANDLE: 基于轻量级编码器的阿拉伯语字符级噪声去重

Faris Alasmary, Taif Nono, Orjuwan Zaafarani, Kholood Al Tabash, Ahmad Ghannam, Anas Salamah, Shouq Sadah, Lahouari Ghouti

机构 * Abjad Ltd.（阿布贾有限公司） ； SDAIA - NCAI（SDAIA-国家人工智能 institute） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 提出CANDLE系统，利用连接主义时间分类（CTC）对阿拉伯语文本中的字符重复进行去重，无需手工规则或词典，在三个基准上达到5.37%的句子错误率，并通过知识蒸馏实现3倍深度缩减。

Spectral Reach: Understanding Neural Scaling as Progress into the Spectral Tail

谱范围：理解神经缩放作为进入谱尾的进展

Konstantin Nikolaou, Jonas Scheunemann, Sven Krippendorf, Samuel Tovey, Christian Holm

机构 * Institute for Computational Physics, University of Stuttgart, Stuttgart, Germany（斯图加特大学计算物理研究所） ； Department of Applied Mathematics（应用数学系） ； Department of Physics, University of Cambridge, Cambridge, UK（剑桥大学物理系） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出“谱位置”度量，通过经验神经正切核的特征值分析神经缩放定律，发现大模型通过“谱范围”进入更深的谱尾从而降低损失，并指出特征学习是关键机制。

StoryScope: Investigating idiosyncrasies in AI fiction

StoryScope：探究人工智能小说中的个体差异

Jenna Russell, Rishanth Rajendhran, Chau Minh Pham, Mohit Iyyer, John Wieting

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；分类 cs.CL

AI总结 本文提出StoryScope方法，通过分析叙事层面的特征区分AI和人类生成的故事，发现AI故事在主题解释和情节结构上更单一，而人类故事更具道德模糊性和时间复杂性。

Bagpiper: Solving Open-Ended Audio Tasks via Rich Captions

Bagpiper: 通过丰富描述解决开放式音频任务

Jinchuan Tian, Haoran Wang, Bo-Hao Su, Chien-yu Huang, Qingzheng Wang, Jiatong Shi, William Chen, Xun Gong, Siddhant Arora, Chin-Jou Li, Masao Someki, Takashi Maekaku, Keita Goto, Yusuke Shinohara, Jin Sakuma, Chao-Han Huck Yang, Shinji Watanabe

机构 * Language Technologies Institute, Carnegie Mellon University（卡内基梅隆大学语言技术研究所） ； LY Corporation（LY公司） ； NVIDIA Research（NVIDIA研究） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.CL

AI总结 提出Bagpiper，一个8B参数音频基础模型，通过丰富描述（自然语言描述）实现音频理解和生成的统一，在MMAU和AIRBench上超越Qwen-2.5-Omni，生成质量优于CosyVoice3和TangoFlux。

Temporally Centered SIGReg Improves Multi-Task LeWorldModel Learning: From Analysis to Method

时间中心SIGReg改进多任务LeWorldModel学习：从分析到方法

Chang Liu, Fei Suo, Yanzhou Jin, Yusuke Iwasawa, Yutaka Matsuo, Yaonan Zhu

机构 * Graduate School of Engineering, The University of Tokyo（东京大学工程学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 该研究针对SIGReg在多任务LeWM中导致表示混叠的问题，提出将其应用于时间中心残差的改进方法，在LIBERO基准上显著提升了多任务世界模型的下游性能。

Towards Embodied Cognition in Robots via Spatially Grounded Synthetic Worlds

通过空间基础合成世界实现机器人的具身认知

Joel Currie, Gioele Migno, Enrico Piacenti, Maria Elena Giannaccini, Patric Bach, Davide De Tommaso, Agnieszka Wykowska

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 提出训练视觉语言模型执行视觉视角采择的概念框架，引入合成数据集用于空间推理任务监督学习，专注推断Z轴距离，数据集公开，为具身人工智能系统空间理解奠基。

Comments Accepted to: Intelligent Autonomous Systems (IAS) 2025 as Late Breaking Report

Knowledge-Guided Cross-Modal Fusion for Adult-to-Pediatric ECG Transfer via Label-Conditioned Contrastive Alignment

通过标签条件对比对齐实现成人到儿科心电图转换的知识引导跨模态融合

Xinran Liu, Yuwen Li, Hongxiang Gao, Heyang Xu, Jianqing Li, Zongmin Wang, Chengyu Liu

机构 * School of Instrument Science and Engineering, Southeast University（东南大学仪器科学与工程学院） ； Nanjing Medical University（南京医科大学） ； Zhengzhou University（郑州大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究针对成人与儿科心电图转换问题，提出知识引导的跨模态融合框架PEACE，通过标签条件对比对齐等方法，在有限监督下实现更好的儿科心电图解释，消融实验证明标签条件知识对齐是关键驱动因素。

Comments This article was accidentally submitted as a new arXiv paper instead of a replacement of arXiv:2605.00647. Please refer to arXiv:2605.00647 for the correct and updated version

Echoes Across Vietnam's Highlands, Delta, and Coast: A Multilingual Corpus for Cham, Khmer, and Tay-Nung

越南高地、三角洲和海岸的回声：占语、高棉语和岱侬语的多语言语料库

Anh Trac Duc Dinh, Khang Nhat Hoang Vo, Vinh Cong Doan, Tai Tien Ta, Khoa Duc Anh Lam

机构 * Faculty of Computer Science and Engineering, Ho Chi Minh City University of Technology (HCMUT), VNU-HCM（胡志明市理工大学计算机科学与工程学院（胡志明市国立大学所属）） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 针对越南占语、高棉语和岱侬语在自然语言处理中缺乏语料库的问题，引入CKTN语料库，指出现有多语言编码器不足，采用脚本感知适应方法，得到分割减少、分类性能强的编码器，揭示词汇重叠检索评估局限。

Aortic Valve Disease Screening from PPG via Physiology-Guided Self-Supervised Learning

通过生理引导的自监督学习检测PPG中的主动脉瓣疾病

Jiaze Wang, Qinghao Zhao, Zizheng Chen, Zhejun Sun, Deyun Zhang, Yuxi Zhou, Shenda Hong

机构 * Department of Computer Science, Tianjin University of Technology（天津理工大学计算机科学系） ； National Institute of Health Data Science, Peking University（北京大学国家健康数据科学研究院） ； Department of Cardiology, Peking University People’s Hospital（北京大学人民医院心内科） ； HeartVoice Medical Technology（心声医疗科技） ； DCST, BNRist, RIIT, Institute of Internet Industry, Tsinghua University（清华大学计算机科学与技术系、北京人工智能研究所、互联网产业研究所） ； Institute of Medical Technology, Peking University Health Science Center（北京大学健康科学中心医学技术研究所） ； Institute for Artificial Intelligence, Peking University（北京大学人工智能研究所） ； State Key Laboratory of Vascular Homeostasis and Remodeling, NHC Key Laboratory of Cardiovascular Molecular Biology and Regulatory Peptides, Peking University（北京大学血管稳态与重塑国家重点实验室、国家心血管分子生物学与调节肽重点实验室） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出基于生理引导的自监督学习方法，利用大量未标记PPG数据高效筛查主动脉狭窄和反流，实现优于传统监督学习的检测性能。

Comments 33 pages, 8 figures. Under review

KeySI: An Interaction Framework for Tuning Text Embeddings Based on Human Feedback

KeySI：基于人类反馈调整文本嵌入的交互框架

Yan Zhu, Y. Chen, Rebecca Faust

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 研究针对预训练语言模型调整难的问题，提出KeySI交互框架，通过基于关键词的概念规范实现特征级反馈，减少人工文档处理需求，经用户研究等评估，证明其能有效捕捉用户意图并改善嵌入对齐。

Comments Accepted to IEEE VIS 2026

Safe In-Context Reinforcement Learning

安全的上下文强化学习

Amir Moeini, Minjae Kwon, Alper Kamil Bozkurt, Yuichi Motai, Rohan Chandra, Lu Feng, Shangtong Zhang

机构 * University of Virginia（弗吉尼亚大学） ； Virginia Commonwealth University（弗吉尼亚 Commonwealth 大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 提出SCARED方法，在无参数更新的上下文强化学习适应过程中，通过精确惩罚对偶法在约束马尔可夫决策过程框架下保证安全，实现奖励最大化与成本约束。

Comments ICML 2026

LV-ROVER-MLT: Low-Resource Maltese OCR by Synthetic Fine-Tuning and Multi-Stream Arbitration

LV-ROVER：用于马耳他语段落OCR的多流Tesseract投票

Adam Darmanin

机构 * Independent Researcher（独立研究员） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 针对马耳他语OCR资源匮乏的问题，提出合成训练管道和5流Tesseract LV-ROVER集成，在422段落基准上将字符错误率从0.0234降至0.00700（降幅70%），其中集成识别贡献44%的改进。

Comments 10 pages, including 8 pages of main text and references plus appendices. Working paper. The held-out DocEng 2026 competition result is under organizer embargo and is not reported

Structure-Preserving Physics-Informed Neural Network for the Korteweg--de Vries (KdV) Equation

用于Korteweg - de Vries（KdV）方程的结构保持物理信息神经网络

Victory Obieke, Emmanuel Oguadimma

机构 * Oregon State University（俄勒冈州立大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 针对KdV方程，提出结构保持物理信息神经网络框架，将质量和能量守恒嵌入损失函数，采用正弦激活函数，经案例和消融研究表明该方法能有效再现KdV动力学行为，加速收敛，提高稳定性，无需多阶段预训练。

Comments 9 Pages, 11 figures