语言大模型 / LLM

DuplexGen: Decoupling Content, Timing, and Acoustics for Synthetic Dialogue Speech

DuplexGen：为合成对话语音解耦内容、时序与声学

Pengcheng Wang, Sheng Li, Jiyi Li, Takahiro Shinozaki

机构 * Institute of Science Tokyo（科学东京大学） ； Hokkaido University（北海道大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 DuplexGen框架通过解耦对话的内容、时序与声学，生成更贴近真实对话的合成语音，构建了带多类标注的医患对话语料库，性能优于传统拼接式合成方法。

Euclid-Omni : A Unified Neuro-Symbolic Framework for Plane Geometry

Euclid-Omni：面向平面几何的统一神经符号框架

Zhaoyu Li, Hangrui Bi, Youyuan Zhang, Wenjie Ma, Zenan Li, Zhaolei Zhang, Xujie Si, Kaiyu Yang

机构 * Apodex ； University of Toronto（多伦多大学） ； UC Berkeley（加州大学伯克利分校） ； ETH Zürich（苏黎世联邦理工学院） ； Meta FAIR 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Euclid-Omni统一神经符号框架，结合形式几何系统与LLMs、VLMs，核心为符号几何求解器Euclidea，生成合成数据训练模型，在竞赛级几何问题上性能优异且成本更低。

Language-Specific Gaps in AI Safety Training Datasets

AI安全训练数据集中的语言特定缺口

Chialuka Prisca-Mary Onuoha, Bright Etornam Sunu, Rashidat Sikiru

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究审计多语言AI安全训练数据集的语言缺口，发现其与资源层级不完全相关，豪萨语翻译质量未达阈值，非洲语言缺乏特定危害类别覆盖，提出切片级审计方法及建议。

Trie Automata for Constrained Decoding over Large Finite Sets

用于大有限集上约束解码的Trie自动机

Xingzi Xu, Karim Bouyarmane

机构 * Amazon（亚马逊公司） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大型语言模型有限集约束解码的速度瓶颈，提出Trie自动机机制，通过预计算token掩码实现高效解码，在批量服务中吞吐量较XGrammar提升29倍，且编译与计算效率显著提升。

RangeFactory: Scalable Construction of Multi-Hop Cyber Ranges

RangeFactory：可扩展多跳网络靶场构建框架

Hanlin Jiang, Puyi Wang, Jiandong Jin, Shaofei Li, Zhan Shen, Pengli Wang, Ziming Wang, Yifeng Cai, Ning Jia, Yuxin Ren, Peng Jiang, Yao Guo, Ding Li

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 RangeFactory是自动化网络靶场编排框架，可规模化构建多跳靶场；其构建的RangeBench含1148个靶场实例，发现智能体存在持续入侵差距，还生成了攻击轨迹语料库。

Comments 16 pages, 2 figures

Security and Privacy Taxonomy Generation from Mobile App Reviews

从移动应用评论生成安全与隐私分类体系

Moghis Fereidouni, Vinaik Chhetri, Umar Farooq, A. B. Siddique

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 针对现有安全隐私分类体系手工构建、无法适配海量应用评论的问题，提出TaxoScale流程，筛选60万条相关评论构建语料库，其在多指标上优于基线且发现新分支。

TREAT: Evaluating Access to Formal Knowledge across Equivalent Mathematical Representations

TREAT：评估等价数学表示下的形式知识获取能力

Fateme Mazdarani, Carlos Toxtli

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究提出基准TREAT，测试大型语言模型从保等价数学变换中识别定理身份的能力，发现模型表现不佳且存在多种失败模式，凸显形式知识表示鲁棒性的重要性。

Comments Accepted at 28th International Symposium on Symbolic and Numeric Algorithms for Scientific Computing (SYNASC 2026)

Comparative Approaches to Agent Retrieval over Large Skill Libraries

基于大型技能库的智能体检索方法的比较研究

Indivara Kolluru, Nathan Sportsman

机构 * Praetorian 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究对比了混合排名器与类型化知识图谱在690个技能库的117个真实查询上的检索效果，发现添加结构无法提升强排名器的检索性能，明确了结构优化的适用条件。

Comments 9 pages, 6 figures

Mind the Gaps: Mixture-of-Minds for Human Simulation

关注差距：用于人类模拟的思维混合模型

Pranav Dahiya

机构 * Semilattice（半格） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Anacreon受众模拟模型，基于Gemma 4 12B构建思维混合模型，通过聚类个体、情感链等技术，在个体层面序数对齐达0.775，缩小了群体与个体模拟的差距。

How to Recognize New Words: A Comparison Between Context Biasing Methods and Speech LLMs

如何识别生词：上下文偏置方法与语音大语言模型的对比

Christian Huber, Alexander Waibel

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究对比了基于Whisper的上下文偏置方法与语音LLMs在识别ASR中生词的性能，发现前者可大幅降低偏置词错误率，后者在朗读语音上表现好但泛化性差，最终为方法选择提供了权衡依据。

MALT: Lightweight Curvature-Aware Muon via Diagonal Preconditioning

MALT：通过对角预条件化实现的轻量曲率感知Muon

Tongle Wu, Huanyu Dong, Ying Sun, Ziye Ma

机构 * School of Electrical Engineering and Computer Science, The Pennsylvania State University（宾夕法尼亚州立大学电气工程与计算机科学学院） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 针对Muon未考虑损失景观曲率几何的问题，提出轻量曲率感知优化方法MALT及MALTER，在GPT-2系列预训练上性能优于Muon且开销相近。

From Social Coding to Agentic Coding: Productivity and Relational Reconfiguration in Open-Source Communities

从社交编码到智能体编码：开源社区中的生产力与关系重构

Mengying Zhou, Yongjie Yin, Yang Chen

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究基于含1084名开发者的GitHub数据模拟发现，编码智能体（CA）可提升开源社区生产力，但采用率低且收益集中于活跃开发者，还会减少人类直接交互、降低公共知识实用性。

A Triple-Robustness Analysis of Retrieval-Augmented Generation for Multi-Hop Requirements Traceability

检索增强生成在多跳需求可追溯性中的三重鲁棒性分析

Meftun Akarsu, Burak Özdemir, Doğancan Büyükçolak, Recep Kaan Karaman

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文针对多跳需求可追溯性，开展三重鲁棒性分析，对比不同RAG架构、嵌入器等的表现，发现现有结论分歧的原因，提出需按该鲁棒性标准验证RAG架构主张。

Comments 6 pages, 3 figures, 4 tables

CeQe: Grounding Lexical Retrieval in Semantic Evidence

CeQe：在语义证据中实现词汇检索

Adam Kahirov, Umesh Deshpande, Swaminathan Sundararaman

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对BM25的语义词汇鸿沟问题，本文提出CE-QE方法，利用交叉编码器的语义检索结果扩展BM25查询，在多个BEIR数据集上显著提升检索性能且不修改底层索引。

Tokenizer-Agnostic Engram Module

与分词器无关的恩格拉姆模块（Tokenizer-Agnostic Engram Module）

Jia Peng Lim, Hai Leong Chieu

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究针对Deepseek Engram模块与分词器耦合的问题，通过替换哈希方式构建联合嵌入空间，实现了分词器无关性，同时保持了相当的性能。

Comments Preprint, 7 pages

GoldenRetriever: Non-Interactive Homomorphic Encrypted Retrieval for Privacy-Preserving RAG

GoldenRetriever：用于隐私保护RAG的非交互式同态加密检索

Yang Gao, Gang Quan, Scott Piersall, Qian Lou, Dongdong Wang, Liqiang Wang

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对现有隐私保护RAG检索方案延迟高、易泄露的问题，提出基于阈值选择的非交互式同态加密检索框架，通过CKKS同态计算与掩码极化方法实现高效安全的检索，性能优于排名式加密方法。

Comments 10 pages

AI systems and the reproduction of (standard) language ideologies in World Englishes

AI系统与世界英语中（标准）语言意识形态的再生产

Kingsley Ugwuanyi

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨AI系统如何再生产世界英语领域的（标准）语言意识形态，以“标准化悖论”为例分析争议，主张采用更具包容性的AI设计方法。

Comments 13 pages, 0 figure

Harnessing the Potential of Optimizing Data Mixtures via Bayesian Domain Reweighting

利用贝叶斯域重加权优化数据混合的潜力

Xiang Yuan, Kaiqing Lei, Zhenyu Jin, Jun Shu, Deyu Meng, Zongben Xu

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出贝叶斯域加权方法，引入Gamma先验从狄利克雷分布推断权重，实现稳定高效的域权重学习，以更少数据识别最优数据混合，适用于大规模应用。

A large-scale corpus of religious radio broadcast transcripts from webstream recordings in the United States

美国网络流录音的宗教广播文字转写大规模语料库

Samuel Bestvater, Athena Chapekis, Skyler Seets, Anna Lieb, Sono Shah, Aaron Smith

机构 * Pew Research Center（皮尤研究中心） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究构建了2025年7月美国宗教广播网络流录音的大规模文字转写语料库，可用于宗教传播、社会议题分析及语音处理等相关领域研究。

Comments Presented at IC2S2 2026

A scaling law of contextual persistence in human language

人类语言中上下文持久性的标度律

Elan Barenholtz

机构 * Florida Atlantic University（佛罗里达大西洋大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究人类语言中单词顺序排列的规律，用大语言模型测量上下文持久性函数P(d)，发现其在多个语料库中按1/d衰减，建立了人类语言中上下文持久性的标度律。

Comments 21 pages, 5 figures (plus 1 supplementary figure); Supplementary Information included

DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data Recipes

DecoupleMix：用于可扩展视觉语言模型数据配方的解耦比率搜索和凸分配

Jiahao Xie, Zhongbin Guo, Qianle Wang, Ruiqi Lu, Dongling Xiao, Wanxuan Sun, Cheng Yang

机构 * ByteDance（字节跳动） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 该研究针对视觉语言模型数据构建缺乏原则性标准的问题，提出DecoupleMix框架，将其解耦为类间比率搜索和类内凸分配两个子问题，实验证明该方法优于启发式基线，且最优比率可跨规模转移，提升了VLM竞争力。

A Factorial Study of Synthetic Data Generation for Low-Resource Machine Translation using Grammar Books

使用语法书进行低资源机器翻译合成数据生成的析因研究

Varun Ghat Ravikumar, Sina Ahmadi, Lena Jäger, Rico Sennrich

机构 * University of Zurich（苏黎世大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对濒危语言机器翻译缺平行数据问题，利用大语言模型从语法书提取内容生成合成语料库微调，经三种低资源语言验证，通过析因研究确定增益因素组合，证明可将静态语言文档用于机器翻译微调，为资源匮乏语言提供翻译工具路径。

Comments Accepted at CLiC-it 2026

IQ-JEPA: A Joint-Embedding Predictive Architecture with a Hermitian Vision Transformer for Sound Speed and Attenuation Estimation from Ultrasound IQ Data

IQ-JEPA：一种带有厄米特视觉变换器的联合嵌入预测架构，用于从超声 IQ 数据估计声速和衰减

Masashi Sode, Gianmarco Pinton

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 研究利用超声 IQ 数据估计声速和衰减的难题，提出 IQ-JEPA 架构，先无标签预训练编码器预测 IQ 区域潜在表示，再微调。实验表明该方法提高标签效率，自监督是主导因素，为定量超声基础模型迈出第一步。

Leveraging unlabelled data for generalizable neural population decoding

利用未标记数据进行可泛化的神经群体解码

Ximeng Mao, Nanda H. Krishna, Avery Hee-Woon Ryoo, Matthew G. Perich, Guillaume Lajoie

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 研究利用未标记数据进行可泛化神经群体解码的问题，提出MOJO训练框架，联合自监督学习与监督学习目标，在多数据集上评估，结果显示该框架能提升性能、产生更具可解释性表示且可推广到其他神经模态。

The Universal Language of CSI:Unifying Wireless Sensing Across Devices and Environments

CSI的通用语言：统一跨设备和环境的无线传感

Jiayi Chen, Weiting Ou, Guangxu Zhu

机构 * Shenzhen Research Institute of Big Data（深圳大数据研究院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究旨在解决基于CSI的WiFi传感异构问题，提出基础模型框架，通过整理标准化数据集、引入模块化架构，将CSI视为有通用语法的语言，实现跨设备和环境统一无线传感，提升泛化能力，优于特定任务基线。

Video Generation Models are General-Purpose Vision Learners

视频生成模型是通用视觉学习者

Letian Wang, Chuhan Zhang, Rishabh Kabra, Jasper Uijlings, Steven Waslander, Andrew Zisserman, Joao Carreira, Kaiming He, Misha Andriluka, Eduard Gabriel Bazavan, Andrei Zanfir, Cristian Sminchisescu

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI

AI总结 研究探讨计算机视觉中实现通用模型的催化剂，提出大规模文本到视频生成是预训练范式。介绍GenCeption模型，利用视频生成扩散主干定义感知模型。实验表明该模型在多任务中性能领先，有数据效率优势且具涌现行为，为通用视觉智能提供基础路径。

Comments ECCV 2026

Svarna: An Open Corpus Workbench for Modern Greek

Svarna：现代希腊语开放语料库工作台

Stergios Chatzikyriakidis

机构 * Department of Philosophy, Linguistics and Theory of Science (FLoV), University of Gothenburg（哥德堡大学哲学、语言学与理论科学系） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 介绍一个免费开源的现代希腊语网络语料库工作台Svarna，整合五个数据库共5.07亿词，提供索引、频率分析、搭配提取等功能，填补希腊语言技术空白。

Multi-Channel Spread-Spectrum Code Watermarking

多通道扩频码水印

Soohyeon Choi, Debin Gao, Yue Duan

机构 * Singapore Management University（新加坡国立管理大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型代码出处等需求，现有水印无法满足的问题。提出多通道扩频码水印方法，无需训练，有24位有效载荷及鲁棒性保证。在多种测试文件和攻击下，水印检测准确率高、误报率为零，能有效恢复标识符。

Comments 15 pages, 3 figures, 16 tables, 2 algorithms

Semantic Homogenization in Italian Popular Music: A Diachronic Analysis

意大利流行音乐中的语义同质化：历时分析

Lorenzo Canale, Stefano Scotta, Alberto Messina

机构 * Centro Ricerche, Innovazione Tecnologica e Sperimentazione（研究中心、技术创新与实验） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究意大利圣雷莫音乐节决赛歌曲歌词语义变化，开发灵活高效方法，结合多种分析及技术，发现语义渐趋统一，凸显自然语言处理工具价值。

Journal ref J Comput Soc Sc 9, 44 (2026)

ResearchStudio-Idea: An Evidence-Grounded Research-Ideation Skill Suite from ML Conference Outcomes

研究工作室-创意：基于机器学习会议成果的有证据支持的研究创意技能套件

Qihao Zhao, Yangyu Huang, Yalun Dai, Lingao Xiao, Jianjun Gao, Xin Zhang, Wenshan Wu, Scarlett Li, Yang He, Yan Lu, Yap Kim Hui

机构 * Nanyang Technological University（南洋理工大学） ； Microsoft Research（微软研究院） ； National University of Singapore（新加坡国立大学） ； CFAR, A*STAR（计算机辅助放射治疗中心，新加坡科技研究局） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究问题是提升研究创意，核心方法是构建包含多种技能的套件，主要贡献是揭示31个反复出现的创意子模式并整合为15个可复用模式，能将其转化为可追溯研究提案，经评估效果优于基线。

Comments Tech Report