语言大模型 / LLM

Memories Retrieved from Many Paths: A Multi-Prefix Framework for Robust Detection of Training Data Leakage in Large Language Models

从多路径中检索的记忆：一种多前缀框架，用于在大型语言模型中稳健检测训练数据泄露

Trung Cuong Dang, David Mohaisen

机构 * Department of Computer Science, University of Central Florida（计算机科学系，中央佛罗里达大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出多前缀框架，通过量化记忆的检索路径多样性，稳健检测大型语言模型中的训练数据泄露问题。

Comments 11 pages, 2 tables, 8 figures

Winning with Less for Low Resource Languages: Advantage of Cross-Lingual English_Persian Argument Mining Model over LLM Augmentation

低资源语言中以少胜多：跨语言英语-波斯语论证挖掘模型相对于LLM增强的优势

Ali Jahan, Masood Ghayoomi, Annette Hautli-Janisz

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种跨语言论证挖掘模型，通过零样本迁移、LLM增强和跨语言训练三种方法，证明在低资源语言中，跨语言模型能显著优于基于LLM的增强方法。

Comments Preprint. Under review

TiCT: A Synthetically Pre-Trained Foundation Model for Time Series Classification

TiCT：一种合成预训练的时间序列分类基础模型

Chin-Chia Michael Yeh, Uday Singh Saini, Junpeng Wang, Xin Dai, Xiran Fan, Jiarui Sun, Yujie Fan, Yan Zheng

机构 * Visa Research（Visa研究） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 TiCT是一种基于Transformer的时间序列分类基础模型，通过合成数据预训练实现无需微调的上下文学习，有效提升时间序列分类性能。

Force Prompting: Video Generation Models Can Learn and Generalize Physics-based Control Signals

力提示：视频生成模型可以学习并泛化基于物理的控制信号

Nate Gillman, Charles Herrmann, Michael Freeman, Daksh Aggarwal, Evan Luo, Deqing Sun, Chen Sun

机构 * Brown University（布朗大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 预训练与数据 ：prompting(title,abstract)；分类 cs.AI

AI总结 本文提出力提示方法，通过物理力信号生成逼真视频，利用视觉和运动先验实现物理控制信号的泛化，提升世界模型的物理真实性。

Comments Camera ready version (NeurIPS 2025). Code and interactive demos at https://force-prompting.github.io/

Pretraining Transformer-Based Models on Diffusion-Generated Synthetic Graphs for Alzheimer's Disease Prediction

基于扩散生成合成图的Transformer模型预训练用于阿尔茨海默病预测

Abolfazl Moslemi, Hossein Peyvandi

机构 * Sharif University of Technology（谢里夫理工学院） ； Pasargad Institute for Advanced Innovative Solutions（帕萨尔加德先进创新解决方案研究所） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.LG

AI总结 本研究提出基于扩散生成合成图的Transformer模型，通过预训练提升阿尔茨海默病预测的准确性和泛化能力。

Comments 14 pages. Preprint

Filter Like You Test: Data-Driven Data Filtering for CLIP Pretraining

像测试一样过滤：基于数据的数据驱动数据过滤用于CLIP预训练

Mikey Shechter, Yair Carmon

机构 * Tel Aviv University, Israel（特拉维夫大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.LG

AI总结 FLYT通过数据驱动的方法提升CLIP预训练效果，实现DataComp基准上的准确率提升。

CTSyn: A Foundation Model for Cross Tabular Data Generation

CTSyn：跨表格数据生成的基准模型

Xiaofeng Lin, Chenheng Xu, Matthew Yang, Guang Cheng

机构 * Department of Statistics and Data Science, University of California Los Angeles（统计与数据科学系，加州大学洛杉矶分校） ； Department of Computer Science, University of California Los Angeles（计算机科学系，加州大学洛杉矶分校） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.LG

AI总结 CTSyn提出了一种基于扩散的生成性基准模型，用于跨表格数据生成，通过统一潜在空间和条件潜在扩散模型提升表格合成的实用性和多样性。

AICC: Parse HTML Finer, Make Models Better -- A 7.3T AI-Ready Corpus Built by a Model-Based HTML Parser

AICC：解析HTML更精细，使模型更优秀——通过基于模型的HTML解析器构建的7.3T AI-ready语料库

Ren Ma, Jiantao Qiu, Chao Xu, Pei Chu, Kaiwen Liu, Pengli Ren, Yuan Qu, Jiahui Peng, Linfeng Hou, Mengjie Liu, Lindong Lu, Wenchang Ning, Jia Yu, Rui Min, Jin Shi, Haojiong Chen, Peng Zhang, Wenjian Zhang, Qian Jiang, Zengjie Hu, Guoqiang Yang, Zhenxiang Li, Fukai Shang, Runyuan Ma, Chenlin Su, Zhongying Tu, Wentao Zhang, Dahua Lin, Conghui He

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 AICC通过基于模型的HTML解析器构建，显著提升了网络数据提取质量，从而在多个基准测试中优于现有方法，证明提取质量对模型性能的重要性。

Scenes as Tokens: Multi-Scale Normal Distributions Transform Tokenizer for General 3D Vision-Language Understanding

场景作为标记：多尺度正常分布变换标记器用于通用3D视觉-语言理解

Yutao Tang, Cheng Zhao, Gaurav Mittal, Rohith Kukkala, Rama Chellappa, Cheng Peng, Mei Chen

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft（微软公司） 纠错

专题命中 预训练与数据 ：LLM(abstract)；language model(abstract)；prompting(abstract)

AI总结 NDTokenizer3D通过多尺度NDT表示和解码器实现通用3D视觉-语言理解，提升3D场景任务性能。

A Psychology-based Unified Dynamic Framework for Curriculum Learning

基于心理学的统一动态框架用于课程学习

Guangyu Meng, Qingkai Zeng, John P. Lalor, Hong Yu

机构 * University of Notre Dame, Department of Computer Science and Engineering（诺丁汉大学计算机科学与工程系） ； Nankai University, College of Computer Science（南开大学计算机学院） ； University of Notre Dame, Department of IT, Analytics, and Operations（诺丁汉大学信息技术、分析与运营系） ； VA Bedford Healthcare System, Center for Health Optimization and Implementation Research（美国退伍军人事务部贝福德医疗系统健康优化与实施研究中心） ； University of Massachusetts Amherst, Manning College of Information and Computer Sciences（马萨诸塞大学阿姆赫斯特分校曼宁信息与计算机科学学院） ； University of Massachusetts Lowell, Miner School of Computer and Information Sciences（马萨诸塞大学洛威分校米纳尔计算机与信息科学学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出基于心理学的统一动态框架用于课程学习，通过项目反应理论量化训练数据难度并优化数据选择，提升模型训练效率和准确性。

Comments Accepted for publication in Computational Linguistics. This is a pre-MIT Press publication version. Code available at https://github.com/nd-ball/cl-irt

Benchmarking the Trustworthiness in Multimodal LLMs for Video Understanding

对多模态大语言模型在视频理解中的可信度进行基准测试

Youze Wang, Zijun Chen, Ruoyu Chen, Shishen Gu, Wenbo Hu, Jiayang Liu, Yinpeng Dong, Hang Su, Jun Zhu, Meng Wang, Richang Hong

机构 * Hefei University of Technology（合肥工业大学） ； Tsinghua University（清华大学） ； Institute of Science Tokyo（东京科学研究所） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本研究提出Trust-videoLLMs基准，评估23种视频LLMs在真实性、鲁棒性、安全性和隐私等方面的表现，揭示其在动态场景理解及现实风险缓解中的局限性。

Bring Your Own KG: Self-Supervised Program Synthesis for Zero-Shot KGQA

自带知识图谱：零样本知识图谱问答的自监督程序合成

Dhruv Agarwal, Rajarshi Das, Sopan Khosla, Rashmi Gangadharaiah

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； AWS AI Labs（AWS人工智能实验室） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 BYOKG通过自监督程序合成实现零样本知识图谱问答，利用探索机制和LLM生成查询程序，提升问答准确率。

Think Visually, Reason Textually: Vision-Language Synergy in ARC

视觉优先，文本推理：ARC中的视觉-语言协同

Beichen Zhang, Yuhang Zang, Xiaoyi Dong, Yuhang Cao, Haodong Duan, Dahua Lin, Jiaqi Wang

机构 * The Chinese University of Hong Kong（香港中文大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出视觉-语言协同推理和模态切换自我纠正策略，通过结合视觉抽象与语言推理提升ARC-AGI任务性能。

TraceGen: World Modeling in 3D Trace Space Enables Learning from Cross-Embodiment Videos

TraceGen：在3D轨迹空间中进行世界建模，实现跨躯体视频的学习

Seungjae Lee, Yoonkyo Jung, Inkook Chun, Yao-Chih Lee, Zikui Cai, Hongjia Huang, Aayush Talreja, Tan Dat Dao, Yongyuan Liang, Jia-Bin Huang, Furong Huang

机构 * University of Maryland, College Park（马里兰大学 College Park分校） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 TraceGen通过3D轨迹空间实现跨躯体视频学习，利用紧凑的轨迹表示提升机器人任务学习效率与泛化能力。

Inference-Aware Fine-Tuning for Best-of-N Sampling in Large Language Models

为大型语言模型的最佳-N采样进行推理感知微调

Yinlam Chow, Guy Tennenholtz, Izzeddin Gur, Vincent Zhuang, Bo Dai, Sridhar Thiagarajan, Craig Boutilier, Rishabh Agarwal, Aviral Kumar, Aleksandra Faust

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种推理感知微调方法，通过改进最佳-N采样策略提升大型语言模型的性能和推理效率。

MTA: A Merge-then-Adapt Framework for Personalized Large Language Model

MTA: 一种用于个性化大语言模型的融合后再适应框架

Xiaopeng Li, Yuanjin Zheng, Wanyu Wang, wenlin zhang, Pengyue Jia, Yiqi Wang, Maolin Wang, Xuetao Wei, Xiangyu Zhao

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 MTA通过融合后再适应框架，解决个性化大语言模型在存储成本和数据稀疏性方面的挑战，实现高效动态个性化。

AdvancedIF: Rubric-Based Benchmarking and Reinforcement Learning for Advancing LLM Instruction Following

AdvancedIF：基于规则的基准测试与强化学习以推进大语言模型指令跟随

Yun He, Wenzhe Li, Hejia Zhang, Songlin Li, Karishma Mandyam, Sopan Khosla, Yuanhao Xiong, Nanshu Wang, Xiaoliang Peng, Beibin Li, Shengjie Bi, Shishir G. Patil, Qi Qi, Shengyu Feng, Julian Katz-Samuels, Richard Yuanzhe Pang, Sujan Gonugondla, Hunter Lang, Yue Yu, Yundi Qian, Maryam Fazel-Zarandi, Licheng Yu, Amine Benhalloum, Hany Awadalla, Manaal Faruqui

机构 * Meta Superintelligence Labs（Meta超智能实验室） ； Princeton University（普林斯顿大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本研究提出AdvancedIF基准和RIFL方法，通过规则生成和奖励塑造提升大语言模型的指令跟随能力，在AdvancedIF上实现6.7%的提升。

Morality in AI. A plea to embed morality in LLM architectures and frameworks

人工智能中的道德。呼吁将道德嵌入大语言模型架构和框架中

Gunter Bombaerts, Bram Delisse, Uzay Kaymak

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文呼吁将道德嵌入大语言模型架构和框架中，通过自上而下设计原则，提出技术路径以实现道德处理。

Breaking the Safety-Capability Tradeoff: Reinforcement Learning with Verifiable Rewards Maintains Safety Guardrails in LLMs

打破安全性与能力的权衡：具有可验证奖励的强化学习在LLMs中维持安全护栏

Dongkyu Derek Cho, Huan Song, Arijit Ghosh Chowdhury, Haotian An, Yawei Wang, Rohit Thekkanal, Negin Sokhandan, Sharlina Keshava, Hannah Marlowe

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；RLHF(abstract)

AI总结 本文提出通过可验证奖励的强化学习方法，在提升LLM推理能力的同时维持安全性，挑战了传统安全性与能力权衡的假设。

Comments AAAI-26 Workshop on Post-AI Formal Methods

HGAdapter: Hypergraph-based Adapters in Language Models for Code Summarization and Clone Detection

HGAdapter: 基于超图的语言模型代码摘要与克隆检测适配器

Guang Yang, Yujie Zhu

机构 * Data Technology Group, Technology Research and Development Department, Guotai Haitong Securities, China（国泰君安证券数据技术部、技术研发部） ； School of Computer Science and Technology, East China Normal University, China（华东师范大学计算机科学与技术学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 HGAdapter通过引入高阶数据相关性，改进超图神经网络架构，提升预训练语言模型在代码摘要与克隆检测任务中的性能。

Comments Accepted by the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025) as a findings long paper

Attack via Overfitting: 10-shot Benign Fine-tuning to Jailbreak LLMs

通过过拟合攻击：10次良性微调以劫持LLMs

Zhixin Xie, Xurui Song, Jun Luo

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 通过10个良性QA对微调实现LLM劫持，利用过拟合增强敏感性，提升攻击效果与隐蔽性。

Comments Published as a conference paper at NeurIPS 2025

ReSCORE: Label-free Iterative Retriever Training for Multi-hop Question Answering with Relevance-Consistency Supervision

ReSCORE：无标签迭代检索器训练用于多跳问答的 relevancy-一致性监督

Dosung Lee, Wonjun Oh, Boyoung Kim, Minyoung Kim, Joonsuk Park, Paul Hongsuck Seo

机构 * Dept. of CSE, Korea University（韩国大学计算机科学与工程系） ； NAVER AI Lab（NAVER AI实验室） ； NAVER Cloud（NAVER云） ； University of Richmond（里奇蒙大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 ReSCORE通过无标签数据训练密集检索器，提升多跳问答的检索与回答性能。

Comments 9 pages, 3 figures, ACL 2025

Thinking With Bounding Boxes: Enhancing Spatio-Temporal Video Grounding via Reinforcement Fine-Tuning

通过边界框思考：通过强化微调提升空间时间视频定位

Xin Gu, Haoji Zhang, Qihang Fan, Jingxuan Niu, Zhipeng Zhang, Libo Zhang, Guang Chen, Fan Chen, Longyin Wen, Sijie Zhu

机构 * ByteDance Intelligent Creation（字节跳动智能创作） ； Tsinghua University（清华大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Shanghai Jiao Tong University（上海交通大学） ； Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 STVG-o1通过强化微调提升空间时间视频定位性能，实现无需架构修改的先进结果。

MoRE: Batch-Robust Multi-Omics Representations from Frozen Pre-trained Transformers

MoRE：从冻结预训练转换器中获得批量鲁棒多组学表示

Audrey Pei-Hsuan Chen

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 MoRE通过参数高效微调策略，实现多组学数据的鲁棒表示学习，减少可训练参数并提升跨细胞类型和平台的泛化能力。

Exploring Cross-Lingual Knowledge Transfer via Transliteration-Based MLM Fine-Tuning for Critically Low-resource Chakma Language

通过基于转写词的MLM微调探索跨语言知识转移以应对资源极度匮乏的恰克马语

Adity Khisa, Nusrat Jahan Lia, Tasnim Mahfuz Nafis, Zarif Masud, Tanzir Pial, Shebuti Rayana, Ahmedul Kabir

机构 * IIT, University of Dhaka（达卡大学理工学院） ； Toronto Metropolitan University（多伦多 Metropolitan 大学） ； Stony Brook University（石溪大学） ； State University of New York at Old Westbury（纽约州立大学奥尔巴尼分校） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 通过基于转写词的MLM微调，研究利用孟加拉语转写恰克马语语料库提升低资源语言的迁移学习效果。

Semantic-Enhanced Feature Matching with Learnable Geometric Verification for Cross-Modal Neuron Registration

语义增强的特征匹配与可学习几何验证用于跨模态神经元配准

Wenwei Li, Lingyi Cai, Hui Gong, Qingming Luo, Anan Li

专题命中 指令微调 ：foundation model(abstract)

AI总结 本文提出一种结合语义增强和可学习几何验证的深度学习框架，用于解决跨模态神经元配准中的模态差距、数据稀缺和组织形变问题，提升生物医学影像配准精度。

Towards an Effective Action-Region Tracking Framework for Fine-grained Video Action Recognition

迈向细粒度视频动作识别的有效动作-区域跟踪框架

Baoli Sun, Yihan Wang, Xinzhu Ma, Zhihui Wang, Kun Lu, Zhiyong Wang

机构 * DUT-RU International School of Information Science & Engineering, Dalian University of Technology, China（大连理工大学国际信息科学与工程学院，大连理工大学，中国） ； Beihang University, China（北京航空航天大学，中国） ； The University of Sydney, Australia（悉尼大学，澳大利亚） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 本文提出了一种动作-区域跟踪框架，通过查询-响应机制捕捉细粒度动作细节，提升视频动作识别性能。

Earth-Adapter: Bridge the Geospatial Domain Gaps with Mixture of Frequency Adaptation

Earth-Adapter: 通过频率适应混合填补地理域的空白

Xiaoxing Hu, Ziyang Gong, Yupei Wang, Yuru Jia, Fei Lin, Dexiang Gao, Ke An, Jianhong Han, Zhuoran Sun, Gen Luo, Gen Luo, Xue Yang

专题命中 指令微调 ：foundation model(abstract)

AI总结 Earth-Adapter通过频率适应混合方法有效解决遥感图像中的伪影问题，提升基础模型在遥感任务中的性能。

Comments AAAI 2026 camera ready

Modelling complex proton transport phenomena -- Exploring the limits of fine-tuning and transferability of foundational machine-learned force fields

复杂质子传输现象建模——探索基础机器学习力场的微调和可迁移性极限

Malte Grunert, Max Großmann, Jonas Hänseroth, Aaron Flötotto, Jules Oumard, Johannes Laurenz Wolf, Erich Runge, Christian Dreßler

专题命中 指令微调 ：foundation model(abstract)

AI总结 本研究利用MACE力场模拟固体酸的质子传输，通过微调和多纳秒级MD模拟，实现了与实验数据一致的扩散系数和活化能结果。

Journal ref The Journal of Physical Chemistry C 2025 129 (21), 9662-9669

Operationalizing Pluralistic Values in Large Language Model Alignment Reveals Trade-offs in Safety, Inclusivity, and Model Behavior

在大型语言模型对齐中操作多元价值观揭示了安全、包容性和模型行为之间的权衡

Dalia Ali, Dora Zhao, Allison Koenecke, Orestis Papakyriakopoulos

机构 * Technical University of Munich（慕尼黑技术大学） ； Stanford University（斯坦福大学） ； Cornell University（康奈尔大学） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；preference optimization(abstract)

AI总结 本研究探讨了在大型语言模型对齐中融入多元价值观的影响，发现不同群体偏好和设计选择对模型行为和安全性有显著影响。