语言大模型 / LLM

Establishing baselines for generative discovery of inorganic crystals

Nathan J. Szymanski, Christopher J. Bartel

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Radioactive Watermarks in Diffusion and Autoregressive Image Generative Models

Michel Meintz, Jan Dubiński, Franziska Boenisch, Adam Dziedzic

机构 * CISPA Helmholtz Center for Information Security（CISPA 欧洲信息安全中心） ； Warsaw University of Technology（华沙技术大学） ； NASK-National Research Institute（国家研究机构） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

Information Loss in LLMs' Multilingual Translation: The Role of Training Data, Language Proximity, and Language Family

Yumeng Lin, Xufeng Duan, David Haslett, Yige Chen, Zhenguang G. Cai

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Data Normalization Strategies for EEG Deep Learning

Dung Truong, Arnaud Delorme

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

Can Peter Pan Survive MT? A Stylometric Study of LLMs, NMTs, and HTs in Children's Literature Translation

Delu Kong, Lieve Macken

机构 * School of Foreign Studies, Tongji University（同济大学外国语言学院） ； Language and Translation Technology Team, Ghent University（根特大学语言与翻译技术团队） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments 19 pages, 8 figures, 4 tables. Accepted in 2nd Workshop on Creative-text Translation and Technology Co-located with MT Summit 2025. Official paper may later be accessed from ACL Anthology

Epistemic Artificial Intelligence is Essential for Machine Learning Models to Truly 'Know When They Do Not Know'

Shireen Kudukkil Manchingal, Andrew Bradley, Julian F. P. Kooij, Keivan Shariatmadar, Neil Yorke-Smith, Fabio Cuzzolin

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

ShifCon: Enhancing Non-Dominant Language Capabilities with a Shift-based Multilingual Contrastive Framework

Hengyuan Zhang, Chenming Shang, Sizhe Wang, Dongdong Zhang, Yiyao Yu, Feng Yao, Renliang Sun, Yujiu Yang, Furu Wei

机构 * Tsinghua University（清华大学） ； Microsoft（微软） ； University of Southern California（南加州大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted by ACL 2025

FuzzAug: Data Augmentation by Coverage-guided Fuzzing for Neural Test Generation

Yifeng He, Jicheng Wang, Yuyang Rong, Hao Chen

机构 * University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Comments new version

Cat and Mouse -- Can Fake Text Generation Outpace Detector Systems?

Andrea McGlinchey, Peter J Barclay

机构 * Lumerate, Canada（加拿大Lumerate公司） ； School of Engineering, Computing, and the Built Environment（工程、计算与环境学院） ； Edinburgh Napier University（爱丁堡纳皮尔大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments (Submitted for publication)

FineWeb2: One Pipeline to Scale Them All -- Adapting Pre-Training Data Processing to Every Language

Guilherme Penedo, Hynek Kydlíček, Vinko Sabolčec, Bettina Messmer, Negar Foroutan, Amir Hossein Kargaran, Colin Raffel, Martin Jaggi, Leandro Von Werra, Thomas Wolf

机构 * Hugging Face ； EPFL（瑞士联邦理工学院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

EAR: Erasing Concepts from Unified Autoregressive Models

Haipeng Fan, Shiyuan Zhang, Baohunesitu, Zihang Guo, Huaiwen Zhang

机构 * Inner Mongolia University（内蒙古大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 11 pages, 7 figures, 1 tables

SocialSim: Towards Socialized Simulation of Emotional Support Conversation

Zhuang Chen, Yaru Cao, Guanqun Bi, Jincenzi Wu, Jinfeng Zhou, Xiyao Xiao, Si Chen, Hongning Wang, Minlie Huang

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments AAAI 2025 Paper #32116 (Without Publication Edits)

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 39(2), 1274-1282, 2025

Mr. Snuffleupagus at SemEval-2025 Task 4: Unlearning Factual Knowledge from LLMs Using Adaptive RMU

Arjun Dosajh, Mihika Sanghi

机构 * IIIT Hyderabad（IIIT海得拉尔） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

Comments 7 pages, 2 figures, to be published in SemEval-2025

DIGMAPPER: A Modular System for Automated Geologic Map Digitization

Weiwei Duan, Michael P. Gerlek, Steven N. Minton, Craig A. Knoblock, Fandel Lin, Theresa Chen, Leeje Jang, Sofia Kirsanova, Zekun Li, Yijun Lin, Yao-Yi Chiang

机构 * Inferlink Corporation（Inferlink公司） ； USC Information Sciences Institute（USC信息科学研究所） ； University of Minnesota（明尼苏达大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

EVA02-AT: Egocentric Video-Language Understanding with Spatial-Temporal Rotary Positional Embeddings and Symmetric Optimization

Xiaoqi Wang, Yi Wang, Lap-Pui Chau

机构 * Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（电子与电气工程系，香港理工大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI

Synthetically generated text for supervised text analysis

Andrew Halterman

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Journal ref Polit. Anal. 33 (2025) 181-194

SPOT: Bridging Natural Language and Geospatial Search for Investigative Journalists

Lynn Khellaf, Ipek Baris Schlicht, Tilman Mirass, Julia Bayer, Tilman Wagner, Ruben Bouwmeester

机构 * Deutsche Welle Innovation（德国之声创新） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted to ACL 2025

LeMON: Learning to Learn Multi-Operator Networks

Jingmin Sun, Zecheng Zhang, Hayden Schaeffer

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Florida State University（佛罗里达州立大学） ； UCLA（加州大学洛杉矶分校） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

Beyond the Battlefield: Framing Analysis of Media Coverage in Conflict Reporting

Avneet Kaur, Arnav Arora

机构 * Independent Researcher（独立研究者） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Scheduled Interleaved Speech-Text Training for Speech-to-Speech Translation with LLMs

Hayato Futami, Emiru Tsunoo, Yosuke Kashiwagi, Yuki Ito, Hassan Shahmohammadi, Siddhant Arora, Shinji Watanabe

机构 * Sony Group CorporationJapan（索尼集团日本公司） ； Sony EuropeGermany（索尼欧洲德国分公司） ； Carnegie Mellon UniversityUSA（卡内基梅隆大学美国分校） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted to Interspeech2025

Building UD Cairo for Old English in the Classroom

Lauren Levine, Junghyun Min, Amir Zeldes

机构 * Georgetown University（乔治城大学） 纠错

专题命中 预训练与数据 ：LLM(abstract)；prompting(abstract)；分类 cs.CL

Comments 8 pages, 4 figures. SyntaxFest 2025

Teaching Physical Awareness to LLMs through Sounds

Weiguo Wang, Andy Nie, Wenrui Zhou, Yi Kai, Chengchen Hu

机构 * Peking University（北京大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Comments ICML 2025

Evaluating LLMs Robustness in Less Resourced Languages with Proxy Models

Maciej Chrabąszcz, Katarzyna Lorenc, Karolina Seweryn

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Question Answering under Temporal Conflict: Evaluating and Organizing Evolving Knowledge with LLMs

Atahan Özer, Çağatay Yıldız

机构 * University of Tübingen（图宾根大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Understanding and Mitigating Cross-lingual Privacy Leakage via Language-specific and Universal Privacy Neurons

Wenshuo Dong, Qingsong Yang, Shu Yang, Lijie Hu, Meng Ding, Wanyu Lin, Tianhang Zheng, Di Wang

机构 * King Abdullah University of Science and Technology（国王阿卜杜勒阿齐兹科学与技术大学） ； Provable Responsible AI and Data Analytics (PRADA) Lab（可证明负责任的人工智能与数据分析实验室） ； University of Copenhagen（哥本哈根大学） ； University of Science and Technology of China（中国科学技术大学） ； State University of New York at Buffalo（纽约州立大学布法罗分校） ； The Hong Kong Polytechnic University（香港理工大学） ； Zhejiang University（浙江大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Exploring Training and Inference Scaling Laws in Generative Retrieval

Hongru Cai, Yongqi Li, Ruifeng Yuan, Wenjie Wang, Zhen Zhang, Wenjie Li, Tat-Seng Chua

机构 * National University of Singapore（新加坡国立大学） ； The Hong Kong Polytechnic University（香港理工大学） ； University of Science and Technology of China（中国科学技术大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted to SIGIR 2025

Enhancing Character-Level Understanding in LLMs through Token Internal Structure Learning

Zhu Xu, Zhiqiang Zhao, Zihan Zhang, Yuchi Liu, Quanwei Shen, Fei Liu, Yu Kuang, Jian He, Conglin Liu

机构 * School of Computer Science and Technology, Chongqing University of Posts and Telecommunications（重庆邮电大学计算机科学与技术学院） ； Baidu AI Platform & Ecosystem（百度AI平台与生态系统） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments ACL 2025 Main

Synergizing Unsupervised Episode Detection with LLMs for Large-Scale News Events

Priyanka Kargupta, Yunyi Zhang, Yizhu Jiao, Siru Ouyang, Jiawei Han

机构 * Siebel School of Computing and Data Science（塞比尔计算与数据科学学院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments ACL 2025 Main Conference. Code available here: https://github.com/pkargupta/epimine

They want to pretend not to understand: The Limits of Current LLMs in Interpreting Implicit Content of Political Discourse

Walter Paci, Alessandro Panunzi, Sandro Pezzelle

机构 * University of Florence（佛罗伦萨大学） ； University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted to the ACL2025 Findings

Diversity Explains Inference Scaling Laws: Through a Case Study of Minimum Bayes Risk Decoding

Hidetaka Kamigaito, Hiroyuki Deguchi, Yusuke Sakai, Katsuhiko Hayashi, Taro Watanabe

机构 * Nara Institute of Science and Technology（奈良科学技术研究所） ； The University of Tokyo（东京大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Accepted to ACL 2025 Main