arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-02-18 至 2026-02-18 共收录 145 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 14 篇

2602.15378 2026-02-18 cs.CL 92%

Making Large Language Models Speak Tulu: Structured Prompting for an Extremely Low-Resource Language

让大语言模型开口说图鲁语:一种结构化提示方法用于极低资源语言

Prathamesh Devadiga, Paras Chopra

机构 * Lossfunk

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);prompting(title,abstract);LLM(abstract)

AI总结 本研究通过结构化提示方法,在极低资源语言图鲁语上实现基本对话能力,减少词汇污染并提高语法准确性。

Comments Accepted to EACL LoResLM Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15461 2026-02-18 cs.CV 89%

Emergent Morphing Attack Detection in Open Multi-modal Large Language Models

开放多模态大语言模型中的涌现形变攻击检测

Marija Ivanovska, Vitomir Štruc

机构 * Faculty of Electrical Engineering, University of Ljubljana(卢布尔雅那大学电气工程学院)

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);pretraining(abstract)

AI总结 本文提出利用开源多模态大语言模型进行零样本人脸形变攻击检测,通过实验表明其在无微调情况下具备优异的判别能力,性能超越传统基线23%。

Comments This manuscript is currently under review at Pattern Recognition Letters

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.16594 2026-02-18 cs.CL 87%

A Scoping Review of Synthetic Data Generation by Language Models in Biomedical Research and Application: Data Utility and Quality Perspectives

基于语言模型生成合成数据在生物医学研究与应用中的综述:数据效用和质量视角

Hanshu Rao, Weisi Liu, Haohan Wang, I-Chan Huang, Zhe He, Xiaolei Huang

专题命中 预训练与数据 :language model(title,abstract);LLM(abstract);large language model(abstract);prompting(abstract)

AI总结 本文综述了语言模型在生物医学领域生成合成数据的应用,分析了不同模态下的数据效用与质量挑战,指出需建立标准化评估框架以提升生物医学研究的应用效果。

Journal ref Journal of Healthcare Informatics Research (2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.19117 2026-02-18 cs.CL 85%

Stop saying LLM: Large Discourse Models (LDM) and Artificial Discursive Agent (ADA)?

不要再说大语言模型:大型话语模型(LDM)和人工话语代理(ADA)?

Amar Lakel

专题命中 预训练与数据 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出用大型话语模型和人工话语代理替代传统的大语言模型,通过认识论转变探讨话语代理在社会中的治理与共治作用。

Comments in French language

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.06601 2026-02-18 cs.LG cs.AI 84%

Deep Ignorance: Filtering Pretraining Data Builds Tamper-Resistant Safeguards into Open-Weight LLMs

深度无知:过滤预训练数据在开放权重大语言模型中构建抗篡改的安全保障

Kyle O'Brien, Stephen Casper, Quentin Anthony, Tomek Korbak, Robert Kirk, Xander Davies, Ishan Mishra, Geoffrey Irving, Yarin Gal, Stella Biderman

机构 * EleutherAI UK AI Security Institute(英国人工智能安全研究所) University of Oxford(牛津大学) OATML, University of Oxford(OATML,牛津大学)

专题命中 预训练与数据 :pretraining(title,abstract);post-training(abstract);分类 cs.AI、cs.LG

AI总结 本文提出通过过滤预训练数据中的双用途内容,增强开放权重大语言模型的抗篡改能力,实验显示其在对抗微调攻击上表现优异,且未影响其他能力。

Comments https://deepignorance.ai/

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.00168 2026-02-18 cs.CV 82%

SSL4EO-S12 v1.1: A Multimodal, Multiseasonal Dataset for Pretraining, Updated

SSL4EO-S12 v1.1:一种用于预训练的多模态、多季节数据集,更新版

Benedikt Blumenstiel, Nassim Ait Ali Braham, Conrad M Albrecht, Stefano Maurogiovanni, Paolo Fraccaro

机构 * IBM Research Europe(IBM欧洲研究中心) German Aerospace Center(德国航空航天中心) Julich Supercomputing Centre University of Iceland(朱利奇超级计算中心爱沙尼亚大学)

专题命中 预训练与数据 :pretraining(title,abstract);foundation model(abstract)

AI总结 SSL4EO-S12 v1.1通过增加多模态数据和改进数据结构,为预训练大规模基础模型提供了更高效、更全面的地球观测数据集。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.19919 2026-02-18 cs.CL 79%

Your AI Bosses Are Still Prejudiced: The Emergence of Stereotypes in LLM-Based Multi-Agent Systems

你的AI老板仍然有偏见:基于LLM的多智能体系统中刻板印象的出现

Jingyu Guo, Yingying Xu

专题命中 预训练与数据 :LLM(title,abstract);分类 cs.CL

AI总结 研究发现基于LLM的多智能体系统中会自发产生刻板印象,且这种现象在互动轮次和决策权力增加时更加显著。

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.02674 2026-02-18 cs.CL 79%

Examining Language Modeling Assumptions Using an Annotated Literary Dialect Corpus

利用标注的文学方言语料库检验语言模型假设

Craig Messner, Tom Lippincott

机构 * Center for Digital Humanities(数字人文中心) Johns Hopkins University(约翰霍普金斯大学)

专题命中 预训练与数据 :language model(title,abstract);分类 cs.CL

AI总结 本文通过标注的文学方言语料库,探讨了不同语言建模假设对正写法变化信息提取的影响,发现词标注方案对模型表现有显著影响。

Comments Accepted to NLP4DH@EMNLP2024

Journal ref Proceedings of the 4th International Conference on Natural Language Processing for Digital Humanities (2024)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15781 2026-02-18 hep-ex cs.LG hep-ph physics.data-an 77%

Neural Scaling Laws for Boosted Jet Tagging

提升喷注分类的神经扩展定律

Matthias Vigl, Nicole Hartman, Michael Kagan, Lukas Heinrich

机构 * Technical University of Munich(慕尼黑技术大学) SLAC National Accelerator Laboratory(斯坦福大学SLAC国家加速器实验室)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);foundation model(abstract);分类 cs.LG

AI总结 本文研究了提升喷注分类中的神经扩展定律,推导出计算最优的扩展定律,并展示了增加计算资源如何提高性能极限。

Comments 9 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.11409 2026-02-18 cs.LG cs.DL cs.HC 70%

Leveraging LLMs for Semi-Automatic Corpus Filtration in Systematic Literature Reviews

利用LLMs实现系统文献综述中的半自动语料筛选

Lucas Joos, Daniel A. Keim, Maximilian T. Fischer

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出利用多个大型语言模型实现系统文献综述中的半自动语料筛选,通过人类监督和交互式控制提高效率和准确性。

Journal ref Computers & Graphics, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.13147 2026-02-18 cs.CL 70%

What if Deception Cannot be Detected? A Cross-Linguistic Study on the Limits of Deception Detection from Text

如果欺骗无法被检测呢?一项跨语言研究:从文本中检测欺骗的局限性

Aswathy Velutharambath, Kai Sassenberg, Roman Klinger

机构 * Institut für Maschinelle Sprachverarbeitung, University of Stuttgart, Germany(机器语言处理研究所,斯图加特大学,德国) Fundamentals of Natural Language Processing, University of Bamberg, Germany(自然语言处理基础, Bamberg大学,德国) Leibniz Institute for Psychology, Trier, Germany(莱布尼茨心理学研究所,特里尔,德国)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文通过构建DeFaBel语料库,发现基于语言线索的欺骗检测效果有限,挑战了传统假设,呼吁重新审视NLP中欺骗的研究方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15766 2026-02-18 cs.SD 67%

TAC: Timestamped Audio Captioning

TAC:带时间戳的音频描述

Sonal Kumar, Prem Seetharaman, Ke Chen, Oriol Nieto, Jiaqi Su, Zhepei Wang, Rithesh Kumar, Dinesh Manocha, Nicholas J. Bryan, Zeyu Jin, Justin Salamon

机构 * University of Maryland, College Park, USA(美国马里兰大学 College Park 分校) Adobe Research, USA(Adobe 研究院) OpenAI, USA (work done while at Adobe)(OpenAI, USA)

专题命中 预训练与数据 :LLM(abstract);language model(abstract)

AI总结 TAC通过生成时间接地的音频描述提升复杂声音场景的理解,结合TAC-V实现音频-视觉语义桥梁,提升文本推理性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.04299 2026-02-18 econ.GN q-fin.EC 67%

Measuring economic outlook in the news

在新闻中衡量经济前景

Elliot Beck, Franziska Eckert, Linus Kühne, Helge Liebert, Rina Rosenblatt-Wisch

专题命中 预训练与数据 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种高效的方法,通过结合文档嵌入和合成数据,在新闻中衡量经济前景,提升了GDP预测准确性并捕捉情绪变化。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15397 2026-02-18 cs.RO cs.AI 57%

ActionCodec: What Makes for Good Action Tokenizers

ActionCodec:什么使好的动作分词器成为可能

Zibin Dong, Yicheng Liu, Shiduo Zhang, Baijun Ye, Yifu Yuan, Fei Ni, Jingjing Gong, Xipeng Qiu, Hang Zhao, Yinchuan Li, Jianye Hao

机构 * Tsinghua University(清华大学) Fudan University(复旦大学) Tianjin University(天津大学) Shanghai Innovation Institute(上海创新研究院)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI

AI总结 本文提出ActionCodec,通过信息论原则提升动作分词性能,实现无需机器人预训练的VLA模型新SOTA。

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 10 篇

2602.15449 2026-02-18 cs.CL cs.LG cs.SE 88%

TAROT: Test-driven and Capability-adaptive Curriculum Reinforcement Fine-tuning for Code Generation with Large Language Models

TAROT: 为基于大语言模型的代码生成设计的测试驱动和能力适应课程强化微调

Chansung Park, Juyong Jiang, Fan Wang, Sayak Paul, Jiasi Shen, Jing Tang, Jianguo Li

机构 * Electronics and Telecommunications Research Institute(电信研究所) The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) The Hong Kong University of Science and Technology(香港科技大学) Hugging Face Ant Group(蚂蚁集团)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.LG

AI总结 TAROT通过测试驱动和能力适应的课程强化微调方法,提升大语言模型生成代码的功能正确性和稳健性。

Comments The first three authors contributed equally to this work; listing order is random

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15785 2026-02-18 cs.AI 85%

This human study did not involve human subjects: Validating LLM simulations as behavioral evidence

这项人研究未涉及人类受试者:验证LLM模拟作为行为证据

Jessica Hullman, David Broska, Huaman Sun, Aaron Shaw

机构 * Northwestern University(西北大学)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文探讨了使用大型语言模型作为行为证据的有效性,对比了启发式方法与统计校准方法在社会科学实验中的应用及优劣。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15753 2026-02-18 cs.CL 85%

Under-resourced studies of under-resourced languages: lemmatization and POS-tagging with LLM annotators for historical Armenian, Georgian, Greek and Syriac

低资源语言的低资源研究:利用LLM标注者进行历史亚美尼亚、格鲁吉亚、希腊和叙利亚语的词形还原与词性标注

Chahan Vidal-Gorène, Bastien Kindt, Florian Cafiero

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);foundation model(abstract)

AI总结 本文研究了LLM在低资源语言词形还原和词性标注中的表现,发现其在少量样本设置中表现优异,尤其在缺乏数据时能有效辅助标注。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.13920 2026-02-18 eess.SY cs.SY 85%

LLMind 2.0: Distributed IoT Automation with Natural Language M2M Communication and Lightweight LLM Agents

LLMind 2.0:基于自然语言M2M通信和轻量级LLM代理的分布式物联网自动化

Yuyang Du, Qun Yang, Liujianfu Wang, Jingqi Lin, Hongwei Cui, Soung Chang Liew

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract)

AI总结 LLMind 2.0通过自然语言M2M通信和轻量级LLM代理实现分布式物联网自动化,提升系统可扩展性、可靠性和响应性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.22914 2026-02-18 cs.CV cs.LG 84%

cadrille: Multi-modal CAD Reconstruction with Reinforcement Learning

cadrille: 多模态CAD重建与强化学习

Maksim Kolodiazhnyi, Denis Tarasov, Dmitrii Zhemchuzhnikov, Alexander Nikulin, Ilya Zisman, Anna Vorontsova, Anton Konushin, Vladislav Kurenkov, Danila Rukhovich

机构 * Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学) AXXX ETH Zurich(苏黎世联邦理工学院) Innopolis University(因诺波利斯大学) Institute of Mechanics, Armenia(亚美尼亚力学研究所)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);SFT(abstract)

AI总结 cadrille通过强化学习实现多模态CAD重建,首次在CAD任务中应用RL微调,提升重建性能并设定新基准。

Comments ICLR 2026 (Oral)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15671 2026-02-18 cs.CR 82%

Revisiting Backdoor Threat in Federated Instruction Tuning from a Signal Aggregation Perspective

重新审视联邦指令微调中的后门威胁:从信号聚合角度出发

Haodong Zhao, Jinming Hu, Gongshen Liu

专题命中 指令微调 :instruction tuning(title,abstract);language model(abstract)

AI总结 本文从信号聚合角度重新审视联邦指令微调中的后门威胁,揭示低浓度污染数据在良性客户端数据集中的危害,并证明现有防御机制对这种威胁无效,需开发新的防御方法。

Comments Accepted by ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15350 2026-02-18 eess.SY cs.AI cs.SY 81%

Fine-Tuning LLMs to Generate Economical and Reliable Actions for the Power Grid

对LLM进行微调以生成经济且可靠的电网动作

Mohamad Chehade, Hao Zhu

机构 * Chandra Family Department of Electrical and Computer Engineering(电气与计算机工程系)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);preference optimization(abstract)

AI总结 本文提出一种多阶段适应管道,通过微调LLM生成经济且可靠的电网纠正切换计划,显著提高了电网运行效率和稳定性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.03262 2026-02-18 cs.SE cs.CL 77%

Is Vibe Coding Safe? Benchmarking Vulnerability of Agent-Generated Code in Real-World Tasks

Vibe 编程是否安全?在现实任务中对代理生成代码的漏洞基准测试

Songwen Zhao, Danqing Wang, Kexun Zhang, Jiaxuan Luo, Zhuo Li, Lei Li

机构 * Carnegie Mellon University Language Technologies Institute(卡内基梅隆大学语言技术研究所) Columbia University(哥伦比亚大学) Johns Hopkins University(约翰霍普金斯大学) HydroX AI

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文通过基准测试发现,Vibe 编程在现实任务中生成的代码安全性不足,尽管功能正确但存在安全漏洞,警示其在安全敏感领域应用的风险。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15124 2026-02-18 cs.CV 67%

Zero-shot HOI Detection with MLLM-based Detector-agnostic Interaction Recognition

基于多模态大语言模型的零样本人-物交互检测

Shiyu Xuan, Dongkai Wang, Zechao Li, Jinhui Tang

机构 * School of Computer Science and Engineering, Nanjing University of Science and Technology(南京理工大学计算机科学与工程学院) School of Computing and Artificial Intelligence, Southwestern University of Finance and Economics(西南财经大学计算机与人工智能学院) Nanjing Forestry University(南京林业大学)

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 本文提出基于多模态大语言模型的零样本人-物交互检测框架,通过解耦检测与识别任务,结合确定性生成方法和空间感知模块,实现高效准确的零样本交互识别。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15799 2026-02-18 cs.LG cs.AI 62%

The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety

对齐崩溃的几何学:当微调破坏安全性

Max Springer, Chung Peng Lee, Blossom Metevier, Jane Castleman, Bohdan Turbal, Hayoung Jung, Zeyu Shen, Aleksandra Korolova

专题命中 指令微调 :language model(abstract);分类 cs.AI、cs.LG

AI总结 研究揭示了微调过程中对齐脆弱性是梯度下降在曲面上的固有几何属性,提出四次方定律描述对齐损失随训练时间的增长,并呼吁发展曲率感知方法以提升安全性。

Comments 27 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏

3. 后训练与偏好优化 4 篇

2510.03269 2026-02-18 cs.LG cs.AI cs.CL 87%

General Exploratory Bonus for Optimistic Exploration in RLHF

在RLHF中引入乐观探索的通用探索奖金

Wendi Li, Changdae Oh, Sharon Li

机构 * Department of Computer Sciences University of Wisconsin-Madison(计算机科学系 威斯康星大学麦迪逊分校)

专题命中 后训练与偏好优化 :RLHF(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出GEB框架,通过理论分析和实验验证,解决了RLHF中乐观探索的偏差问题,提供了一种统一且有效的探索奖金方法。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15222 2026-02-18 cs.LG cs.AI 82%

Automatically Finding Reward Model Biases

自动发现奖励模型偏差

Atticus Wang, Iván Arcuschin, Arthur Conmy

机构 * Massachusetts Institute of Technology(麻省理工学院)

专题命中 后训练与偏好优化 :LLM(abstract);large language model(abstract);language model(abstract);post-training(abstract)

AI总结 本文提出了一种利用LLM自动发现奖励模型偏差的方法,揭示了已知和新型偏差,并展示了进化迭代优于传统搜索方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.16779 2026-02-18 cs.HC cs.LG 57%

Improving User Interface Generation Models from Designer Feedback

改进来自设计师反馈的用户界面生成模型

Jason Wu, Amanda Swearngin, Arun Krishna Vajjala, Alan Leung, Jeffrey Nichols, Titus Barik

机构 * Purdue University(普渡大学) Apple(苹果公司)

专题命中 后训练与偏好优化 :RLHF(abstract);分类 cs.LG

AI总结 本文提出了一种基于设计师反馈的改进方法,通过评论、草图和直接操作等交互方式提升UI生成模型的质量,实验表明其优于传统排名反馈方法。

Comments Version accepted to CHI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15567 2026-02-18 cs.RO 50%

Constraining Streaming Flow Models for Adapting Learned Robot Trajectory Distributions

约束流式流模型以适应学习的机器人轨迹分布

Jieting Long, Dechuan Liu, Weidong Cai, Ian Manchester, Weiming Zhi

机构 * School of Computer Science, The University of Sydney, Australia(计算机科学学院,悉尼大学,澳大利亚) School of Aerospace, Mechanical and Mechatronic Engineering, The University of Sydney, Australia(航空航天、机械与机电工程学院,悉尼大学,澳大利亚) Australian Center For Robotics, The University of Sydney, Australia(机器人研究中心,悉尼大学,澳大利亚) College of Connected Computing, Vanderbilt University, TN, USA(连接计算学院,范德比尔特大学,美国)

专题命中 后训练与偏好优化 :post-training(abstract)

AI总结 CASF通过约束感知流式流模型在实时中适应机器人轨迹,确保安全性和可行性,优于传统方法。

Comments 8 pages, 8 figure

详情

展开后加载摘要…

URL PDF HTML 收藏

4. 长上下文与记忆 10 篇

2602.15344 2026-02-18 cs.LG 88%

ER-MIA: Black-Box Adversarial Memory Injection Attacks on Long-Term Memory-Augmented Large Language Models

ER-MIA:针对长时记忆增强大语言模型的黑盒对抗性记忆注入攻击

Mitchell Piehl, Zhaohan Xi, Zuobin Xiong, Pan He, Muchao Ye

机构 * Department of Computer Science, The University of Iowa(爱荷华大学计算机科学系) School of Computing, State University of New York at Binghamton(纽约州立大学布法罗分校计算机学院) Department of Computer Science, University of Nevada, Las Vegas(内华达大学拉斯维加斯分校计算机科学系) Department of Computer Science(计算机科学系) Software Engineering, Auburn University(阿伯茨罕大学软件工程系)

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 ER-MIA针对长时记忆增强LLM的基于相似性的检索机制提出黑盒对抗性记忆注入攻击,揭示了系统层面的安全漏洞。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.15311 2026-02-18 cs.AI 83%

Aeon: High-Performance Neuro-Symbolic Memory Management for Long-Horizon LLM Agents

Aeon: 高性能神经符号记忆管理用于长时域大语言模型智能体

Mustafa Arslan

机构 * Independent Researcher(独立研究者)

专题命中 长上下文与记忆 :LLM(title);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 Aeon通过神经符号认知操作系统优化长时域大语言模型的记忆管理,实现高效内存压缩和加速,提升推理性能与稳定性。

Comments v3: Production hardening. Added INT8 quantization (5.6x dot product speedup, 3.1x compression), crash recovery via decoupled WAL (<1% overhead), unlimited text storage via sidecar blob arena with generational GC, and epoch-based reclamation for lock-free reads (P99 750ns under 16-thread contention). Revised for systems engineering clarity

详情

展开后加载摘要…

URL PDF HTML 收藏