语言大模型 / LLM

GoldenRetriever: Non-Interactive Homomorphic Encrypted Retrieval for Privacy-Preserving RAG

GoldenRetriever：用于隐私保护RAG的非交互式同态加密检索

Yang Gao, Gang Quan, Scott Piersall, Qian Lou, Dongdong Wang, Liqiang Wang

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对现有隐私保护RAG检索方案延迟高、易泄露的问题，提出基于阈值选择的非交互式同态加密检索框架，通过CKKS同态计算与掩码极化方法实现高效安全的检索，性能优于排名式加密方法。

Comments 10 pages

AI systems and the reproduction of (standard) language ideologies in World Englishes

AI系统与世界英语中（标准）语言意识形态的再生产

Kingsley Ugwuanyi

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨AI系统如何再生产世界英语领域的（标准）语言意识形态，以“标准化悖论”为例分析争议，主张采用更具包容性的AI设计方法。

Comments 13 pages, 0 figure

Harnessing the Potential of Optimizing Data Mixtures via Bayesian Domain Reweighting

利用贝叶斯域重加权优化数据混合的潜力

Xiang Yuan, Kaiqing Lei, Zhenyu Jin, Jun Shu, Deyu Meng, Zongben Xu

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出贝叶斯域加权方法，引入Gamma先验从狄利克雷分布推断权重，实现稳定高效的域权重学习，以更少数据识别最优数据混合，适用于大规模应用。

A large-scale corpus of religious radio broadcast transcripts from webstream recordings in the United States

美国网络流录音的宗教广播文字转写大规模语料库

Samuel Bestvater, Athena Chapekis, Skyler Seets, Anna Lieb, Sono Shah, Aaron Smith

机构 * Pew Research Center（皮尤研究中心） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究构建了2025年7月美国宗教广播网络流录音的大规模文字转写语料库，可用于宗教传播、社会议题分析及语音处理等相关领域研究。

Comments Presented at IC2S2 2026

A scaling law of contextual persistence in human language

人类语言中上下文持久性的标度律

Elan Barenholtz

机构 * Florida Atlantic University（佛罗里达大西洋大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究人类语言中单词顺序排列的规律，用大语言模型测量上下文持久性函数P(d)，发现其在多个语料库中按1/d衰减，建立了人类语言中上下文持久性的标度律。

Comments 21 pages, 5 figures (plus 1 supplementary figure); Supplementary Information included

DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data Recipes

DecoupleMix：用于可扩展视觉语言模型数据配方的解耦比率搜索和凸分配

Jiahao Xie, Zhongbin Guo, Qianle Wang, Ruiqi Lu, Dongling Xiao, Wanxuan Sun, Cheng Yang

机构 * ByteDance（字节跳动） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 该研究针对视觉语言模型数据构建缺乏原则性标准的问题，提出DecoupleMix框架，将其解耦为类间比率搜索和类内凸分配两个子问题，实验证明该方法优于启发式基线，且最优比率可跨规模转移，提升了VLM竞争力。

LiteResearcher: A Scalable Agentic RL Training Framework for Deep Research Agent

LiteResearcher：一种用于深度研究代理的可扩展代理强化学习训练框架

Bince Qu, Wanli Li, Bo Pan, Jianyu Zhang, Zheng Liu, Pan Zhang, Wei Chen, Bo Zhang

机构 * Zhejiang University（浙江大学） ； Simplex AI ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 LiteResearcher通过构建轻量虚拟世界提升代理强化学习的可扩展性，使小规模搜索代理在GAIA和Xbench等基准上取得state-of-the-art结果。

Comments COLM 2026

A Factorial Study of Synthetic Data Generation for Low-Resource Machine Translation using Grammar Books

使用语法书进行低资源机器翻译合成数据生成的析因研究

Varun Ghat Ravikumar, Sina Ahmadi, Lena Jäger, Rico Sennrich

机构 * University of Zurich（苏黎世大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对濒危语言机器翻译缺平行数据问题，利用大语言模型从语法书提取内容生成合成语料库微调，经三种低资源语言验证，通过析因研究确定增益因素组合，证明可将静态语言文档用于机器翻译微调，为资源匮乏语言提供翻译工具路径。

Comments Accepted at CLiC-it 2026

IQ-JEPA: A Joint-Embedding Predictive Architecture with a Hermitian Vision Transformer for Sound Speed and Attenuation Estimation from Ultrasound IQ Data

IQ-JEPA：一种带有厄米特视觉变换器的联合嵌入预测架构，用于从超声 IQ 数据估计声速和衰减

Masashi Sode, Gianmarco Pinton

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 研究利用超声 IQ 数据估计声速和衰减的难题，提出 IQ-JEPA 架构，先无标签预训练编码器预测 IQ 区域潜在表示，再微调。实验表明该方法提高标签效率，自监督是主导因素，为定量超声基础模型迈出第一步。

K12-KGraph: A Curriculum-Aligned Knowledge Graph for Benchmarking and Training Educational LLMs

K12-KGraph：一种对齐课程的图谱用于基准测试和训练教育大语言模型

Hao Liang, Qihan Lin, Zhaoyang Han, Xiaochen Ma, Zhen Hao Wong, Meiyi Qiang, Linzhuang Sun, Wentao Zhang

机构 * Peking University（北京大学） ； Institute for Advanced Algorithms Research（先进算法研究所） ； OriginHub Technology（OriginHub技术） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出K12-KGraph，基于中小学教材构建的课程对齐知识图谱，用于构建多选基准测试K12-Bench和训练数据集K12-Train，验证课程结构监督在教育模型训练中的高效性。

Test-Input Generation for Tensor Programs: What Actually Finds Kernel Bugs

张量程序测试输入生成：什么真正发现内核错误

Dipankar Sarkar

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 通过GPU模拟器模糊测试，比较七种测试生成策略在26个操作上的效果，发现边界形状采样在错误召回率（78%）和假阳性率（0%）上表现最佳。

Comments 8 pages, 1 figure, LNCS format. Companion paper: arXiv:2606.20128

The Impact of Editorial Intervention on Detecting Native Language Traces

编辑干预对检测母语痕迹的影响

Ahmet Yavuz Uluslu, Mark Gales, Kate Knill, Gerold Schneider

机构 * University of Cambridge（剑桥大学） ； University of Zurich（苏黎世大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究了编辑干预对母语识别鲁棒性的影响，发现深层母语特征在轻微编辑中仍能保持，而流畅性编辑和改写会显著降低识别性能。

Comments KONVENS 2026

Operator-Aware Mixed-Precision Tolerance Calibration for Tensor Kernels

张量内核的算子感知混合精度容差校准

Dipankar Sarkar

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 研究张量内核正确性测试的容差校准问题，通过挖掘测试用例误差分布提出新容差，经实验，对特定错误变体校准容差提高了错误检测召回率，虽有少量误报增加，但整体提升了检测效果。

Comments 8 pages, 1 figure, LNCS format. Companion paper: arXiv:2606.20128 (P1)

Dr. Zero: Self-Evolving Search Agents without Training Data

零博士：无需训练数据的自我进化搜索智能体

Zhenrui Yue, Kartikeya Upasani, Xianjun Yang, Suyu Ge, Shaoliang Nie, Yuning Mao, Zhe Liu, Dong Wang

机构 * Meta Superintelligence Labs（Meta超级智能实验室） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究在高质量数据难获取时智能体自我进化问题，提出零博士框架，通过自我进化反馈循环和HRPO方法，使搜索智能体无需训练数据自我进化，在问答基准测试中表现出色，证明可仅通过自我进化实现强大智能搜索和推理。

Comments COLM 2026

When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models

当人工智能接受心理治疗：心理测量越狱揭示前沿模型中的内部冲突

Afshin Khadangi, Hanna Marxen, Amir Sartipi, Igor Tchappi, Gilbert Fridgen

机构 * SnT, University of Luxembourg（卢森堡大学SnT学院） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 研究前沿语言模型生成拟人化自我叙述机制，用PsAIch协议测试，发现其叙述受多种因素影响，确定了稳定的对齐冲突模式，为拟人化披露和安全评估提供依据。

Pretrained Event Classification Model for High Energy Physics Analysis

用于高能物理分析的预训练事件分类模型

Joshua Ho, Benjamin Ryan Roberts, Shuo Han, Haichen Wang

机构 * Department of Physics, University of California, Berkeley, CA 94720（加州大学伯克利分校物理系） ； Physics Division, Lawrence Berkeley National Laboratory, Berkeley CA 94720（伯克利国家实验室物理部） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本文提出基于图神经网络的预训练事件分类模型，通过1.2亿个模拟质子-质子碰撞事件学习通用表示，验证其在不同模拟框架下的泛化能力，并通过微调提升分类性能与效率。

Comments 13 pages, 2 figures

Journal ref JINST 21 (2026) P08006

Leveraging unlabelled data for generalizable neural population decoding

利用未标记数据进行可泛化的神经群体解码

Ximeng Mao, Nanda H. Krishna, Avery Hee-Woon Ryoo, Matthew G. Perich, Guillaume Lajoie

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 研究利用未标记数据进行可泛化神经群体解码的问题，提出MOJO训练框架，联合自监督学习与监督学习目标，在多数据集上评估，结果显示该框架能提升性能、产生更具可解释性表示且可推广到其他神经模态。

Tactile Modality Fusion for Vision-Language-Action Models

触觉模态融合用于视觉-语言-动作模型

Charlotte Morissette, Amin Abyaneh, Wei-Di Chang, Anas Houssaini, David Meger, Hsiu-Chin Lin, Jonathan Tremblay, Gregory Dudek

专题命中 预训练与数据 ：pretraining(abstract)；post-training(abstract)；分类 cs.LG

AI总结 本文提出TacFiLM，一种轻量级模态融合方法，将视觉-触觉信号整合到视觉-语言-动作（VLA）模型中。通过特征级线性调制（FiLM）对中间视觉特征进行条件化，提升接触丰富操作行为的性能。

Comments Accepted to the European Conference on Computer Vision (ECCV), 2026, 20 pages, 5 figures

The Universal Language of CSI:Unifying Wireless Sensing Across Devices and Environments

CSI的通用语言：统一跨设备和环境的无线传感

Jiayi Chen, Weiting Ou, Guangxu Zhu

机构 * Shenzhen Research Institute of Big Data（深圳大数据研究院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究旨在解决基于CSI的WiFi传感异构问题，提出基础模型框架，通过整理标准化数据集、引入模块化架构，将CSI视为有通用语法的语言，实现跨设备和环境统一无线传感，提升泛化能力，优于特定任务基线。

FARS: A Fully Automated Research System Deployed at Scale

FARS：一个大规模部署的全自动研究系统

Qiong Tang, Tianxiang Sun, Xiangkun Hu, Xiangyang Liu, Yiran Chen, Yunfan Shao, Bobo Li, Changze Lv, Cheng Xu, Chengsong Huang, Chunyang Li, Dizhan Xue, Hao Bai, Haodong Duan, Hengquan Guo, Hongyang He, Hongyi Chen, Hui Shen, Jiahao Yuan, Jiankai Sun, Jikang Cheng, Jinfeng Xu, Jingqi Tong, Jingye Chen, Jinxiu Liu, Jixuan Leng, Junchi Yu, Kaixun Jiang, Kun Xiang, Kunpeng Yao, Lang Feng, Liangqi Yuan, Longsen Gao, Meng Li, Qi Jia, Qiushi Sun, Shengyuan Ding, Shizhan Gong, Siru Zhong, Terry Jingchen Zhang, Tianle Gu, Tianyi Liang, Weijie Liu, Weikai Yang, Weizhi Fei, Xin Wang, Xinpeng Liu, Xuanwen Ding, Yihong Tang, Yuanli Wang, Yukun Jiang, Yuming Yang, Zhengbao He, Zhikai Chen, Zhikun Xu, Zhuang Li, Zihao Huang

机构 * Analemma ； National University of Singapore（新加坡国立大学） ； Fudan University（复旦大学） ； University College Dublin（都柏林大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； The Hong Kong University of Science and Technology（香港科技大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； ByteDance（字节跳动） ； ShanghaiTech University（上海科技大学） ； University of Warwick（华威大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Michigan, Ann Arbor（密歇根大学安娜堡分校） ； East China Normal University（华东师范大学） ； Stanford University（斯坦福大学） ； Tencent（腾讯） ； The University of Hong Kong（香港大学） ； Shanghai Innovation Institute（上海创新研究院） ； Nex-AGI Team（Nex-AGI团队） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出FARS系统，通过分阶段智能体协作自动生成研究项目，在67个AI/ML主题上产出166篇论文，经282份评审验证其可产出有价值成果，同时暴露实验范围窄、方法局限和诚信问题。

Private Seeds, Public LLMs: Realistic and Privacy-Preserving Synthetic Data Generation

隐私种子，公开大语言模型：现实且隐私保护的合成数据生成

Qian Ma, Sarah Rajtmajer

机构 * Information Sciences and Technology, The Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出RPSG方法，通过隐私种子和差分隐私机制生成高保真且隐私保护的合成数据，实验验证其在隐私与效用平衡上的优势。

Comments Published in Findings of the Association for Computational Linguistics: ACL 2026. Camera-ready version

Journal ref Findings of the Association for Computational Linguistics: ACL 2026, pages 189-210, Association for Computational Linguistics, 2026

Video Generation Models are General-Purpose Vision Learners

视频生成模型是通用视觉学习者

Letian Wang, Chuhan Zhang, Rishabh Kabra, Jasper Uijlings, Steven Waslander, Andrew Zisserman, Joao Carreira, Kaiming He, Misha Andriluka, Eduard Gabriel Bazavan, Andrei Zanfir, Cristian Sminchisescu

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 研究探讨计算机视觉中实现通用模型的催化剂，提出大规模文本到视频生成是预训练范式。介绍GenCeption模型，利用视频生成扩散主干定义感知模型。实验表明该模型在多任务中性能领先，有数据效率优势且具涌现行为，为通用视觉智能提供基础路径。

Comments ECCV 2026

Svarna: An Open Corpus Workbench for Modern Greek

Svarna：现代希腊语开放语料库工作台

Stergios Chatzikyriakidis

机构 * Department of Philosophy, Linguistics and Theory of Science (FLoV), University of Gothenburg（哥德堡大学哲学、语言学与理论科学系） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 介绍一个免费开源的现代希腊语网络语料库工作台Svarna，整合五个数据库共5.07亿词，提供索引、频率分析、搭配提取等功能，填补希腊语言技术空白。

Omni-Embed-Audio: Leveraging Multimodal LLMs for Robust Audio-Text Retrieval

Omni-Embed-Audio: 利用多模态大语言模型实现鲁棒的音频-文本检索

HaeJun Yoo, Yongseop Shin, Insung Lee, Myoung-Wan Koo, Du-Seong Chang

机构 * Sogang University（首尔大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 提出Omni-Embed-Audio（OEA）检索编码器，利用多模态大语言模型原生理解音频，并通过用户意图查询（UIQ）和硬负样本挖掘，在文本到音频检索中达到与M2D-CLAP相当的性能，同时在文本到文本检索和硬负样本判别上显著优于现有方法。

Comments Accepted at ACL 2026 Main Conference. Camera-ready version

Documents Are People and Words Are Items: A Psychometric Approach to Textual Data with Contextual Embeddings

文档是人，词语是项目：一种使用上下文嵌入的文本数据心理测量方法

Jinsong Chen

机构 * Faculty of Education, University of Hong Kong（香港大学教育学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种基于上下文嵌入的心理测量方法，用于分析文本数据，通过将文档视为个体和词语视为项目，揭示文本中的潜在知识维度。

Multi-Channel Spread-Spectrum Code Watermarking

多通道扩频码水印

Soohyeon Choi, Debin Gao, Yue Duan

机构 * Singapore Management University（新加坡国立管理大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型代码出处等需求，现有水印无法满足的问题。提出多通道扩频码水印方法，无需训练，有24位有效载荷及鲁棒性保证。在多种测试文件和攻击下，水印检测准确率高、误报率为零，能有效恢复标识符。

Comments 15 pages, 3 figures, 16 tables, 2 algorithms

Semantic Homogenization in Italian Popular Music: A Diachronic Analysis

意大利流行音乐中的语义同质化：历时分析

Lorenzo Canale, Stefano Scotta, Alberto Messina

机构 * Centro Ricerche, Innovazione Tecnologica e Sperimentazione（研究中心、技术创新与实验） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究意大利圣雷莫音乐节决赛歌曲歌词语义变化，开发灵活高效方法，结合多种分析及技术，发现语义渐趋统一，凸显自然语言处理工具价值。

Journal ref J Comput Soc Sc 9, 44 (2026)

ResearchStudio-Idea: An Evidence-Grounded Research-Ideation Skill Suite from ML Conference Outcomes

研究工作室-创意：基于机器学习会议成果的有证据支持的研究创意技能套件

Qihao Zhao, Yangyu Huang, Yalun Dai, Lingao Xiao, Jianjun Gao, Xin Zhang, Wenshan Wu, Scarlett Li, Yang He, Yan Lu, Yap Kim Hui

机构 * Nanyang Technological University（南洋理工大学） ； Microsoft Research（微软研究院） ； National University of Singapore（新加坡国立大学） ； CFAR, A*STAR（计算机辅助放射治疗中心，新加坡科技研究局） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究问题是提升研究创意，核心方法是构建包含多种技能的套件，主要贡献是揭示31个反复出现的创意子模式并整合为15个可复用模式，能将其转化为可追溯研究提案，经评估效果优于基线。

Comments Tech Report

GeoSelect: Spatial-Program Execution for Training-Free Referring Remote Sensing Image Segmentation

GeoSelect：用于无训练的指称遥感图像分割的空间程序执行

Yuhang Jiang, Guohui Deng, Miaozhong Xu, Chao Ruan, Jinling Zhao, Linsheng Huang

机构 * School of Internet, Anhui University（安徽大学互联网学院） ； National Engineering Research Center for Agro-Ecological Big Data Analysis & Application, Anhui University（安徽大学农业生态大数据分析与应用国家工程研究中心） ； State Key Laboratory of Information Engineering in Surveying, Mapping and Remote Sensing, Wuhan University（武汉大学测绘遥感信息工程国家重点实验室） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 研究无训练的指称遥感图像分割，提出GeoSelect方法，将指称重构成类型化空间程序执行，由语言模型合成程序，经检查器和执行器运行，贡献是提升分割指标且可检查中间过程。

Comments 20 pages, 10 figures, 9 tables

SimWorlds: A Multi-Agent System for Dynamic 3D Scene Creation

SimWorlds: 一个用于动态3D场景创建的多智能体系统

Chunjiang Liu, Xiaoyuan Wang, Haoyu Chen, Yizhou Zhao, Ming-Hsuan Yang, László A. Jeni

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Harvard University（哈佛大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出多智能体框架SimWorlds，通过规划-编码-审查流程和运行时状态检查工具，从文本生成动态4D场景，并引入基准4DBuildBench评估视觉保真度和物理一致性。

Comments 20 pages, 3 figures. Project page: https://dynsimworlds.github.io