语言大模型 / LLM

HeterCSI: Channel-Adaptive Heterogeneous CSI Pretraining Framework for Generalized Wireless Foundation Models

HeterCSI：面向通用无线基础模型的通道自适应异构CSI预训练框架

Chenyu Zhang, Xinchen Lyu, Chenshan Ren, Shuhan Liu, Qimei Cui, Xiaofeng Tao

机构 * National Engineering Research Center for Mobile Network Technologies, Beijing University of Posts and Telecommunications（中国移动网络技术国家工程研究中心，北京邮电大学） ； Department of Broadband Communication, Pengcheng Laboratory（宽带通信系，鹏城实验室） ； Key Laboratory of Ethnic Language Intelligent Analysis and Security Governance of MOE, Minzu University of China（民族语言智能分析与安全治理重点实验室，中央民族大学） ； China Telecom Corporation Limited Gansu Branch（中国电信集团甘肃分公司） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 HeterCSI通过解决CSI尺度异质性和场景多样性问题，提出一种通道自适应的异构CSI预训练框架，提升无线基础模型的泛化能力和效率。

Comments 13 pages, 8 figures

Large Language Models as Proxies for Theories of Human Linguistic Cognition

大语言模型作为人类语言认知理论的代理

Imry Ziv, Nur Lan, Emmanuel Chemla, Roni Katzir

机构 * Tel Aviv University（特拉维夫大学） ； École Normale Supérieure（高等师范学院） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文探讨了大语言模型作为人类语言认知理论代理的潜力，分析了其在解释语言模式获取和类型学验证中的作用，指出其帮助有限。

Detecting Training Data of Large Language Models via Expectation Maximization

通过期望最大化检测大型语言模型的训练数据

Gyuwan Kim, Yang Li, Evangelia Spiliopoulou, Jie Ma, William Yang Wang

机构 * University of California, Santa Barbara（加州大学圣巴巴拉分校） ； AWS AI Lab（AWS人工智能实验室） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出EM-MIA方法，通过期望最大化策略检测大型语言模型的训练数据，实验表明其在分布重叠明显时表现优异，揭示了当前方法的局限性。

Comments EACL 2026

Ethical AI prompt recommendations in large language models using collaborative filtering

在大型语言模型中使用协同过滤进行伦理AI提示推荐

Jordan Nelson, Almas Baimagambetov, Konstantinos Avgerinakis, Nikolaos Polatidis

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出利用协同过滤技术在大型语言模型中提升伦理提示推荐，通过合成数据集和用户互动减少偏见，解决伦理AI中的透明度和公平性问题。

Comments This paper has been accepted to by the International Journal of Parallel, Emergent & Distributed Systems (Taylor and Francis) and has an assigned DOI. We have already chose to make this open access using CC BY. The article is not yet available online on the publisher's website. The DOI is: doi.org/10.1080/17445760.2025.2573086

On the Emergence and Test-Time Use of Structural Information in Large Language Models

关于大型语言模型中结构信息的出现及其测试时使用

Michelle Chao Chen, Moritz Miller, Bernhard Schölkopf, Siyuan Guo

机构 * ETH Zurich（苏黎世联邦理工学院） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所） ； University of Cambridge（剑桥大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.LG

AI总结 本研究探讨了大型语言模型如何学习和利用结构信息，发现其在复杂推理任务中表现突出，但测试时组合生成能力仍受限。

An Ethically Grounded LLM-Based Approach to Insider Threat Synthesis and Detection

基于伦理的LLM方法用于内部威胁合成与检测

Haywood Gelman, John D. Hastings, David Kenley

机构 * Beacom College of Computer \& Cyber Sciences Dakota State University Madison, SD, USA ； College of Arts \& Sciences Dakota State University Madison, SD, USA 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于伦理的LLM方法，利用Claude Sonnet 3.7动态生成syslog消息以检测内部威胁，实验显示其在减少误报和提高检测准确性方面优于GPT-4o。

Comments 6 pages, 5 figures, 5 tables

Journal ref 2025 IEEE Cyber Awareness and Research Symposium (CARS'25)

Grounded Concreteness: Human-Like Concreteness Sensitivity in Vision-Language Models

grounded concreteness: 人类-like 的 concreteness 敏感性在 vision-language 模型中

Aryan Roy, Zekun Wang, Christopher J. MacLellan

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；large language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 本文研究了视觉语言模型在纯文本提示下对concreteness的敏感性，并发现其在更具体的输入上表现更优，具有更清晰的表示和更符合人类规范的判断。

LLM-Generated Samples for Android Malware Detection

基于大语言模型生成的Android恶意软件检测样本

Nik Rollinson, Nikolaos Polatidis

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究利用大语言模型生成Android恶意软件样本，通过微调GPT-4.1-mini提升检测性能，发现合成数据能有效补充有限数据集，但单独使用效果有限。

Comments 24 pages

EvolVE: Evolutionary Search for LLM-based Verilog Generation and Optimization

EvolVE: 基于LLM的Verilog生成与优化的进化搜索

Wei-Po Hsin, Ren-Hao Deng, Yao-Ting Hsieh, En-Ming Huang, Shih-Hao Hung

机构 * Department of Electrical Engineering（电气工程系） ； National Taiwan University（国立台湾大学） ； Department of Computer Science and Information Engineering（计算机科学与信息工程系） ； Institute of Information Science（信息科学研究所） 纠错

专题命中 预训练与数据 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 EvolVE通过进化搜索方法提升LLM在Verilog生成与优化中的性能，达到98.1%的准确率并优化行业级集成电路设计。

Comments 17 pages, 6 figures, 8 tables

UrduLM: A Resource-Efficient Monolingual Urdu Language Model

UrduLM: 一种资源高效的单语乌尔都语语言模型

Syed Muhammad Ali, Hammad Sajid, Zainab Haider, Ali Muhammad Asad, Haya Fatima, Abdul Samad

机构 * Department of Computer Science Habib University（计算机科学系 哈比大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 UrduLM是一种高效的单语乌尔都语语言模型，通过低资源预训练和定制分词器，在少样本条件下达到与多语言模型相当的性能，为乌尔都语NLP研究提供基准和框架。

Comments 12 pages

Grounding Synthetic Data Evaluations of Language Models in Unsupervised Document Corpora

在无监督文档语料中使语言模型的合成数据评估接地

Michael Majurski, Cynthia Matuszek

机构 * University of Maryland Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出了一种自动化方法，利用文档语料生成事实性合成数据评估，以提高语言模型在无监督文档中的评估效率和准确性。

Suppressing Final Layer Hidden State Jumps in Transformer Pretraining

抑制变换器预训练中的最终层隐藏状态跳跃

Keigo Shibata, Kazuki Yano, Ryosuke Takahashi, Jaesung Lee, Wataru Ikeda, Jun Suzuki

机构 * Tohoku University（东京东京大学） ； RIKEN（日本研究机构） ； NII LLMC（国家信息基础设施（NII）语言大模型中心） 纠错

专题命中 预训练与数据 ：pretraining(title)；language model(abstract)；分类 cs.CL

AI总结 本文提出JREG正则化器，通过抑制变换器预训练中的最终层隐藏状态跳跃，提升模型任务性能。

Comments Accepted to the Findings of EACL 2026

A Contrastive Pre-trained Foundation Model for Deciphering Imaging Noisomics across Modalities

一种用于跨模态解码成像噪声组学的对比预训练基础模型

Yuanjie Gu, Yiqun Wang, Chaohui Yu, Ang Xuan, Fan Wang, Zhi Lu, Biqin Dong

机构 * College of Biomedical Engineering, Yiwu Research Institute, Fudan University, Shanghai, China（复旦大学生物医学工程学院） ； Department of Psychological and Cognitive Sciences, Tsinghua University, Beijing, China（清华大学心理学与认知科学系） ； Shanghai Innovation Institute, Shanghai, China（上海创新研究院） ； DAMO Academy, Alibaba Group, Beijing, China（阿里云达摩院） ； Hupan Laboratory, Hangzhou, Zhejiang, China（华平实验室） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出CoP基础模型，通过对比学习解码成像噪声，实现无需大量数据的高性能噪声分析，提升跨模态成像诊断的精度与效率。

Prism: Towards Lowering User Cognitive Load in LLMs via Complex Intent Understanding

Prism：通过复杂意图理解降低用户认知负荷

Zenghua Liao, Jinzhi Liao, Xiang Zhao

机构 * National Key Laboratory of Big Data and Decision（大数据与决策国家级实验室） ； National University of Defense Technology（国防科技大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Prism通过复杂意图理解框架降低用户认知负荷，提升交互效率与用户满意度。

What Challenges Do Developers Face in AI Agent Systems? An Empirical Study on Stack Overflow & GitHub Issues

人工智能代理系统中开发者面临哪些挑战？对Stack Overflow和GitHub问题的实证研究

Ali Asgari, Annibale Panichella, Pouria Derakhshanfar, Mitchell Olsthoorn

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究通过分析Stack Overflow和GitHub问题，识别出人工智能代理系统开发中的五大主要挑战，包括环境管理、检索与记忆、协调控制、交互契约及运行时可靠性。

Comments v2: Adds GitHub Issues analysis; expands dataset and taxonomy; updates results and discussion. (15 pages, 5 figures)

MergeMix: Optimizing Mid-Training Data Mixtures via Learnable Model Merging

MergeMix: 通过可学习模型合并优化中训练数据混合

Jiapeng Wang, Changxin Tian, Kunlong Chen, Ziqi Liu, Jiaxin Mao, Wayne Xin Zhao, Zhiqiang Zhang, Jun Zhou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MergeMix通过可学习模型合并权重优化中训练数据混合，实现高效的数据混合优化，性能优于传统手动调优，且具有高一致性与强可转移性。

Surprisal and Metaphor Novelty Judgments: Moderate Correlations and Divergent Scaling Effects Revealed by Corpus-Based and Synthetic Datasets

惊奇与隐喻新颖性判断：基于语料库和合成数据集的中等相关性和差异性缩放效应

Omar Momen, Emilie Sitter, Berenike Herrmann, Sina Zarrieß

机构 * CRC 1646 – Linguistic Creativity in Communication Faculty of Linguistics and Literary Studies（语言创造力在交流中的创造性 CRC 1646 教育学院） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过语料库和合成数据集探讨惊奇与隐喻新颖性注释的相关性，发现中等相关性和差异性缩放效应，揭示了惊奇在衡量语言创造力方面的局限性。

Comments to be published at EACL 2026 main conference

"Rebuilding" Statistics in the Age of AI: A Town Hall Discussion on Culture, Infrastructure, and Training

在人工智能时代重建统计学：关于文化、基础设施和培训的圆桌讨论

David L. Donoho, Jian Kang, Xihong Lin, Bhramar Mukherjee, Dan Nettleton, Rebecca Nugent, Abel Rodriguez, Eric P. Xing, Tian Zheng, Hongtu Zhu

机构 * Department of Statistics, Stanford University（斯坦福大学统计学系） ； Department of Biostatistics, University of Michigan, Ann Arbor（密歇根大学安娜堡分校生物统计学系） ； Harvard T.H. Chan School of Public Health（哈佛大学T.H. Chan公共卫生学院） ； Department of Statistics, Harvard University（哈佛大学统计学系） ； Broad Institute（Broad研究所） ； Yale School of Public Health（耶鲁大学公共卫生学院） ； Department of Statistics and Data Science, Yale University（耶鲁大学统计学与数据科学系） ； Department of Statistics, Iowa State University（爱荷华州立大学统计学系） ； Department of Statistics and Data Science, Carnegie Mellon University（卡内基梅隆大学统计学与数据科学系） ； Baskin School of Engineering, University of California, Santa Cruz（加州大学圣克鲁兹分校Baskin工程学院） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） ； School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院） ； Department of Statistics, Columbia University（哥伦比亚大学统计学系） ； Department of Biostatistics, University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校生物统计学系） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文记录了2024年JSM圆桌讨论，探讨统计学在人工智能时代的发展，聚焦文化、基础设施和培训等关键问题。

Comments 35 pages, 3 figures,

On the Insecurity of Keystroke-Based AI Authorship Detection: Timing-Forgery Attacks Against Motor-Signal Verification

针对基于键盘敲击的AI作者身份检测的不安全性：对抗电机信号验证的定时伪造攻击

David Condrey

机构 * David Condrey 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.AI

AI总结 本文指出基于键盘敲击时间信号的AI作者身份检测存在安全漏洞，通过复制攻击和定时伪造攻击展示其99.8%的逃避率，并指出需将写作过程与语义内容绑定以增强安全性。

Comments 9 pages, 1 figure, 7 tables. Code available at anc/ folder

Scale-Aware Self-Supervised Learning for Segmentation of Small and Sparse Structures

面向小规模和稀疏结构分割的自监督学习

Jorge Quesada, Ghassan AlRegib

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出了一种面向小规模和稀疏结构分割的自监督学习方法，通过整合小窗口裁剪提升细粒度结构识别，实验证明在地震和神经成像领域均取得显著效果。

Quantizing Space and Time: Fusing Time Series and Images for Earth Observation

量化空间与时间：融合时间序列和图像用于地球观测

Gianfranco Basile, Johannes Jakubik, Benedikt Blumenstiel, Thomas Brunschwiler, Juan Bernabe Moreno

机构 * IBM Research Europe（IBM欧洲研究院） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出一种任务无关的多模态融合框架，通过时间序列和图像的统一表示空间提升地球观测任务的性能。

From Contrast to Commonality: Audio Commonality Captioning for Enhanced Audio-Text Cross-modal Understanding in Multimodal LLMs

从对比到共同性：用于增强多模态大语言模型中音频-文本跨模态理解的音频共同性描述

Yuhang Jia, Xu Zhang, Yujie Guo, Yang Chen, Shiwan Zhao

机构 * TMCC, College of Computer Science, Nankai University, Tianjin, China（TMCC，计算机科学学院，南开大学，天津，中国） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出音频共同性描述方法，旨在增强多模态大语言模型中音频与文本的跨模态理解，通过捕捉音频片段间的共享语义以改善模型的泛化能力与任务特定性能。

A System for Name and Address Parsing with Large Language Models

基于大语言模型的姓名和地址解析系统

Adeeba Tarannum, Muzakkiruddin Ahmed Mohammed, Mert Can Cakmak, Shames Al Mandalawi, John Talburt

机构 * Center for Entity Resolution and Information Quality (ERIQ) - University of Arkansas - Little Rock, Arkansas, Little Rock, USA（实体解析与信息质量中心（ERIQ）- 亚拉荷马州立大学-小岩城，阿肯色州，小岩城，美国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种基于提示和验证的框架，利用大语言模型实现无微调的姓名和地址解析，提供高准确率和可重复性的结构化数据提取方法。

Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models

潜在知识作为微调大语言模型事实获取的预测因子

Daniel B. Hier, Tayo Obafemi-Ajayi

机构 * Department of Neurology and Rehabilitation, University of Illinois at Chicago（神经学与康复医学系，伊利诺伊大学芝加哥分校） ； Engineering Program, Missouri State University（工程学院，密苏里州立大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)；分类 cs.CL

AI总结 研究通过微调大语言模型，发现潜在知识是预测事实获取速度和泛化能力的关键因素，同时揭示了训练强化对事实退化的影响。

ShapLoRA: Allocation of Low-rank Adaption on Large Language Models via Shapley Value Inspired Importance Estimation

ShapLoRA: 通过受Shapley值启发的重要性估计在大型语言模型上分配低秩适应

Yi Zhao, Qinghua Yao, Xinyuan song, Wei Zhu

机构 * Singapore Management University（新加坡国立管理学院） ； University of Pennsylvania（宾夕法尼亚大学） ； Emory University（埃默里大学） ； University of Hong Kong（香港大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 ShapLoRA通过受Shapley值启发的重要性估计方法，改进大型语言模型的低秩适应分配，提升模型性能。

Comments accepted by CPAL

Data-driven Clustering and Merging of Adapters for On-device Large Language Models

面向设备的大型语言模型适配器驱动聚类与合并

Ondrej Bohdal, Taha Ceritli, Mete Ozay, Jijoong Moon, Kyeng-Hun Lee, Hyeonmok Ko, Umberto Michieli

机构 * 1Samsung R\&D Institute UK, United Kingdom \ 2Samsung Research, South Korea 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出D2C方法，通过驱动聚类和合并适配器，提升设备上大型语言模型在多任务中的性能。

Comments Accepted at ICASSP 2026

Reconstructing Training Data from Adapter-based Federated Large Language Models

从基于适配器的联邦大语言模型中重建训练数据

Silong Chen, Yuchuan Luo, Guilin Deng, Yi Liu, Min Xu, Shaojing Fu, Xiaohua Jia

机构 * National University of Defense Technology（国防科技大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究提出UTR攻击，揭示基于适配器的FedLLMs中低秩适配器导致的隐私泄露问题，挑战轻量级适应提升安全性的假设。

Comments Yuchuan Luo and Yi Liu are co-corresponding authors. Accepted at The Web Conference (WWW) 2026

Artificial Entanglement in the Fine-Tuning of Large Language Models

大语言模型微调中的人工纠缠

Min Chen, Zihan Wang, Canyu Chen, Zeguan Wu, Manling Li, Junyu Liu

机构 * Department of Computer Science, University of Pittsburgh, Pittsburgh, PA 15260, USA（匹兹堡大学计算机科学系） ； Department of Computer Science, Northwestern University, Evanston, IL 60208, USA（西北大学计算机科学系） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过量子信息视角分析大语言模型微调中的人工纠缠，揭示LoRA和FFT在参数结构上的差异，但这种差异不影响注意力输出，提出低秩更新的有效性源于'无毛定理'特性。

Comments 41 pages, many figures

ShopSimulator: Evaluating and Exploring RL-Driven LLM Agent for Shopping Assistants

ShopSimulator: 评估和探索基于强化学习的LLM代理用于购物助手

Pei Wang, Yanan Wu, Xiaoshuai Song, Weixun Wang, Gengru Chen, Zhongwen Li, Kezhong Yan, Ken Deng, Qi Liu, Shuaibing Zhao, Shaopan Xiong, Xuepeng Liu, Xuefeng Chen, Wanxi Deng, Wenbo Su, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出ShopSimulator，一个大规模中文购物环境，用于评估和探索基于强化学习的LLM代理在购物助手中的性能和改进方法。

An LLM-Agent-Based Framework for Age of Information Optimization in Heterogeneous Random Access Networks

一种基于LLM代理的异构随机接入网络信息年龄优化框架

Fang Liu, Erchao Zhu, Jiedan Tan, Jingwen Tong, Taotao Wang, Shengli Zhang

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出Reflex-Core框架，通过LLM代理优化异构网络中的信息年龄，实现更高效的随机接入控制。