语言大模型 / LLM

NorwAI's Large Language Models: Technical Report

NorwAI的大型语言模型：技术报告

Jon Atle Gulla, Peng Liu, Lemei Zhang

机构 * Norwegian Research Center for AI Innovation (NorwAI)（挪威人工智能创新研究中心） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL

AI总结 NorwAI开发了针对挪威语和其他斯堪的纳维亚语言的大型语言模型，通过预训练和微调策略提升性能与适应性，适用于交互和领域特定应用。

Observations and Remedies for Large Language Model Bias in Self-Consuming Performative Loop

大语言模型自我消耗表现性循环中的观测与对策

Yaxuan Wang, Zhongteng Cai, Yujia Bao, Xueru Zhang, Yang Liu

机构 * University of California, Santa Cruz（加州大学圣克ruz分校） ； The Ohio State University（俄亥俄州立大学） ； Center for Advanced AI, Accenture（Accenture高级人工智能中心） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出自我消耗表现性循环（SCPL）概念，通过实验发现表现性循环会增加偏好偏见并降低差异偏见，设计奖励拒绝采样策略以缓解偏见。

An LLM + ASP Workflow for Joint Entity-Relation Extraction

基于LLM与ASP的工作流联合实体-关系抽取

Trang Tran, Trung Hoang Le, Huiping Cao, Tran Cao Son

机构 * New Mexico State University（新墨西哥州立大学） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于LLM与ASP的工作流，利用其优势在有限数据下提升JERE任务性能，尤其在SciERC基准上表现突出。

Comments In Proceedings ICLP 2025, arXiv:2601.00047

Journal ref EPTCS 439, 2026, pp. 63-75

Pelican Soup Framework: A Theoretical Framework for Language Model Capabilities

Pelican Soup框架：语言模型能力的一种理论框架

Ting-Rui Chiang, Dani Yogatama

机构 * University of Southern California（南加州大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 Pelican Soup框架通过引入知识库和参考意义关联，探讨语言模型在预训练和上下文学习中的能力，并推导出相关理论界。

CounterVid: Counterfactual Video Generation for Mitigating Action and Temporal Hallucinations in Video-Language Models

CounterVid: 通过生成反事实视频缓解视频-语言模型中动作和时间幻觉

Tobia Poppi, Burak Uzkent, Amanmeet Garg, Lucas Porto, Garin Kessler, Yezhou Yang, Marcella Cornia, Lorenzo Baraldi, Rita Cucchiara, Florian Schiffers

机构 * University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学） ； University of Pisa（帕尔马大学） ； Amazon Prime Video（亚马逊Prime视频） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI

AI总结 CounterVid通过生成反事实视频缓解视频-语言模型中动作和时间幻觉问题，提出反事实视频生成框架和MixDPO方法，提升时间推理和动作识别性能。

MoIIE: Mixture of Intra- and Inter-Modality Experts for Large Vision Language Models

MoIIE：多模态专家的混合模型用于大视觉语言模型

Dianyi Wang, Siyuan Wang, Zejun Li, Yikun Wang, Yitong Li, Duyu Tang, Xiaoyu Shen, Xuanjing Huang, Zhongyu Wei

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institut（上海创新研究院） ； University of Southern California（南加州大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） ； Ningbo Key Laboratory of Spatial Intelligence and Digital Derivative, Institute of Digital Twin, EIT（宁波空间智能与数字衍生关键实验室，数字孪生研究院，EIT） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract)

AI总结 本文提出MoIIE模型，通过混合内模态和跨模态专家提升大视觉语言模型的效率和性能。

Attribute-Aware Controlled Product Generation with LLMs for E-commerce

基于属性意识的LLM电商产品生成控制

Virginia Negri, Víctor Martínez Gómez, Sergio A. Balanya, Subburam Rajaram

机构 * Amazon Spain（亚马逊西班牙分公司） ； Amazon Germany（亚马逊德国分公司） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于LLM的属性意识电商产品生成方法，通过三种策略生成高质量合成数据，提升电商数据集的准确率与实用性。

Comments AAAI'26 Workshop on Shaping Responsible Synthetic Data in the Era of Foundation Models (RSD)

Learnable Multipliers: Freeing the Scale of Language Model Matrix Layers

可学习的乘数：解放语言模型矩阵层的尺度

Maksim Velikanov, Ilyas Chahed, Jingwei Zuo, Dhia Eddine Rhaiem, Younes Belkada, Hakim Hacid

机构 * Falcon LLM Team（Falcon 语言模型团队） 纠错

专题命中 预训练与数据 ：language model(title)；pretraining(abstract)；分类 cs.LG

AI总结 本研究提出可学习乘数方法，通过引入可学习的行和列乘数来优化语言模型矩阵层的尺度，提升性能并减少计算开销。

Beyond the "Truth": Investigating Election Rumors on Truth Social During the 2024 Election

超越‘真相’：在2024年大选期间探究Truth Social上的选举谣言

Etienne Casanova, R. Michael Alvarez

机构 * California Institute of Technology（加利福尼亚理工学院） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文利用LLMs开发多阶段谣言检测代理，通过大规模数据集和自然环境实验，揭示谣言传播中的虚假真相效应及信念强化机制。

Per-sender neural network classifiers for email authorship validation

针对电子邮件作者身份验证的每发件人神经网络分类器

Rohit Dube

机构 * Independent Researcher（独立研究者） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于每发件人写作风格的神经网络分类器，用于验证电子邮件的作者身份，通过实验表明Char-CNN模型在不同情况下均能实现高准确率和F1分数。

Comments 12 pages, 6 figures, 8 tables, 41 references

Digital Homunculi and Institutional Design: Breaking Through the Experimentation Bottleneck

数字人偶与制度设计：突破实验瓶颈

Petr Specian

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出利用生成式AI驱动的数字人偶方法，通过模拟人类行为生成合成数据，以突破民主研究中的实验瓶颈，提升制度创新的效率与可行性。

Comments 28 pages

On the Holistic Approach for Detecting Human Image Forgery

对人类图像伪造的总体方法

Xiao Guo, Jie Zhu, Anil Jain, Xiaoming Liu

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 HuForDet通过双分支架构，结合异构专家和多模态大语言模型，实现了对人类图像伪造的全面检测，提升了对各类伪造的检测性能和鲁棒性。

Comments 6 figures, 5 tables

PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations

PROMISE: 过程奖励模型解锁生成推荐的测试时扩展定律

Chengcheng Guo, Kuo Cai, Yu Zhou, Qiang Luo, Ruiming Tang, Han Li, Kun Gai, Guorui Zhou

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 PROMISE通过整合密集逐步验证和PRM引导的束搜索策略，解决生成推荐中的语义漂移问题，提升推荐准确性并实现高效部署。

WESR: Scaling and Evaluating Word-level Event-Speech Recognition

WESR: 词级事件-语音识别的扩展与评估

Chenchen Yang, Kexin Huang, Liwei Fan, Qian Tu, Botian Jiang, Dong Zhang, Linqi Yin, Shimin Li, Zhaoye Fei, Qinyuan Cheng, Xipeng Qiu

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 WESR提出词级事件-语音识别的扩展与评估框架，通过细化分类和专家标注的评估集，实现对非语言事件的精确定位，提升语音识别与处理的准确性。

Comments 14 pages, 6 figures

Harnessing PDF Data for Improving Japanese Large Multimodal Models

利用PDF数据提升日语大规模多模态模型

Jeonghun Baek, Akiko Aizawa, Kiyoharu Aizawa

机构 * The University of Tokyo（东京大学） ； National Institute of Informatics（信息处理研究所） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过利用日本PDF数据提升日语大规模多模态模型的性能，采用自动化流程提取图像-文本对并构建指令数据，实验结果显示在Heron-Bench上性能提升达2.1%-13.8%。

Comments Accepted to ACL2025 Findings. Code: https://github.com/ku21fan/PDF-JLMM

Journal ref Findings of the Association for Computational Linguistics: ACL 2025

VERSE: Visual Embedding Reduction and Space Exploration. Clustering-Guided Insights for Training Data Enhancement in Visually-Rich Document Understanding

VERSE：视觉嵌入减少与空间探索。用于视觉丰富文档理解的训练数据增强的聚类引导洞察

Ignacio de Rodrigo, Alvaro J. Lopez-Lopez, Jaime Boal

机构 * Institute for Research in Technology, ICAI School of Engineering, Comillas Pontifical University（技术研究所、ICAI工程学院、科利马斯天主教大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 VERSE通过探索视觉嵌入空间，提升视觉丰富文档理解的训练数据增强效果，使本地模型性能达到或超越SaaS解决方案。

A Navigational Approach for Comprehensive RAG via Traversal over Proposition Graphs

一种通过命题图遍历实现全面RAG的导航方法

Maxime Delmas, Lei Xu, André Freitas

机构 * Idiap Research Institute（日内瓦研究所） ； École Polytechnique Fédérale de Lausanne（联邦理工学院洛桑分校） ； University of Manchester（曼彻斯特大学） ； CRUK Manchester Institute（CRUK曼彻斯特研究所） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 ToPG通过命题图遍历实现高效结构RAG系统，结合查询意识的图遍历与事实细粒度，提升复杂多跳查询和单跳事实检索的性能。

Comments 23 pages, 10 figures, 6 tables

A Semi-supervised Molecular Learning Framework for Activity Cliff Estimation

一种用于活动悬崖估计的半监督分子学习框架

Fang Wu

机构 * Stanford University（斯坦福大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 本文提出SemiMol框架，通过半监督学习解决活动悬崖问题，提升基于图的ML模型性能。

Journal ref Proceedings of the Thirty-Third International Joint Conference on Artificial Intelligence 2024

From Rays to Projections: Better Inputs for Feed-Forward View Synthesis

从射线到投影：更优质的输入用于前馈视图合成

Zirui Wu, Zeren Jiang, Martin R. Oswald, Jie Song

机构 * HKUST (GZ)（香港科技大学（广州）） ； University of Oxford（牛津大学） ； University of Amsterdam（阿姆斯特丹大学） ； HKUST（香港科技大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出投影条件化方法，通过稳定的2D输入提升视图合成的鲁棒性和一致性，优于传统射线条件化方法。

Comments Project Page: https://wuzirui.github.io/pvsm-web

Generative AI for Social Impact

生成式AI用于社会影响

Lingkai Kong, Cheol Woo Kim, Davin Choo, Milind Tambe

专题命中 预训练与数据 ：LLM(abstract)

AI总结 生成式AI通过LLM代理和扩散模型解决社会影响中的部署瓶颈，实现可扩展且人类对齐的资源优化系统。

Comments To appear in IEEE Intelligent Systems

Jailbreaking Safeguarded Text-to-Image Models via Large Language Models

通过大型语言模型对受保护的文本到图像模型进行劫持

Zhengyuan Jiang, Yuepeng Hu, Yuchen Yang, Yinzhi Cao, Neil Zhenqiang Gong

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种利用微调大型语言模型来劫持受安全防护的文本到图像模型的方法，有效绕过安全防护并优于现有攻击技术。

Comments Accepted by EACL 2026 Findings

Instruction Tuning with and without Context: Behavioral Shifts and Downstream Impact

带有和不带上下文的指令微调：行为变化和下游影响

Hyunji Lee, Seunghyun Yoon, Yunjae Won, Hanseok Oh, Geewook Kim, Trung Bui, Franck Dernoncourt, Elias Stengel-Eskin, Mohit Bansal, Minjoon Seo

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； Adobe Research（Adobe研究） ； KAIST AI（韩国科学技术院人工智能实验室） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； NAVER Cloud AI（NAVER云人工智能） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文研究了指令微调中带上下文与不带上下文对模型行为和下游性能的影响，发现上下文增强训练能提升模型基础性并减少幻觉，同时提出在实际部署中分离上下文模型以获得更稳健的性能。

ARREST: Adversarial Resilient Regulation Enhancing Safety and Truth in Large Language Models

ARREST: 对抗鲁棒调节提升大语言模型的安全性与真实性

Sharanya Dasgupta, Arkaprabha Basu, Sujoy Nath, Swagatam Das

机构 * Electronics and Communication Sciences Unit (ECSU), Indian Statistical Institute Kolkata, University of Surrey, and Indian Institute Of Technology Delhi（电子与通信科学单元（ECSU）、印度统计研究所科钦分校、萨里大学和印度理工学院德里） 纠错

专题命中 指令微调 ：large language model(title)；language model(title)；RLHF(abstract)；分类 cs.CL

AI总结 ARREST通过对抗鲁棒调节提升大语言模型的安全性与真实性，通过外部网络纠正表征不匹配并生成软拒绝。

Is This Collection Worth My LLM's Time? Automatically Measuring Information Potential in Text Corpora

这集合值得我的LLM投入时间吗？自动测量文本语料库中的信息潜力

Tristan Karch, Luca Engel, Philippe Schwaller, Frédéric Kaplan

机构 * EPFL（瑞士联邦理工学院） ； DHLab（数字人文实验室） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种自动化方法，通过生成多项选择题并测量LLM在有无原始材料时的表现差异，来评估文本语料库的信息潜力，以优化数据获取和整合决策。

POLYCHARTQA: Benchmarking Large Vision-Language Models with Multilingual Chart Question Answering

POLYCHARTQA: 通过多语言图表问答基准评估大视觉-语言模型

Yichen Xu, Liangyu Chen, Liang Zhang, Jianzhe Ma, Wenxuan Wang, Qin Jin

机构 * Renmin University of China（中国人民大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 PolyChartQA是首个大规模多语言图表问答基准，通过多语言图表生成和评估，揭示英语与其他语言在图表理解上的性能差距，并提供训练集提升多语言模型表现。

Comments Work in Progress

MoE Adapter for Large Audio Language Models: Sparsity, Disentanglement, and Gradient-Conflict-Free

用于大型音频语言模型的MoE适配器：稀疏性、解耦与梯度无冲突

Yishu Lei, Shuwei He, Jing Hu, Dan Zhang, Xianlong Luo, Danxiang Zhu, Shikun Feng, Rui Liu, Jingzhou He, Yu Sun, Hua Wu, Haifeng Wang

机构 * ERNIE Team, Baidu（百度ERNIE团队） ； College of Computer Science, Inner Mongolia University（内蒙古大学计算机学院） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 本文提出MoE-Adapter，通过稀疏混合专家架构解耦音频信息，缓解梯度冲突，提升音频语义和非语言任务的性能。

Comments 13 pages, 5 figures

CADmium: Fine-Tuning Code Language Models for Text-Driven Sequential CAD Design

CADmium：通过代码语言模型进行文本驱动的顺序CAD设计微调

Prashant Govindarajan, Davide Baldelli, Jay Pathak, Quentin Fournier, Sarath Chandar

机构 * Chandar Research Lab（昌德拉研究实验室） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； Polytechnique Montréal（蒙特利尔理工学院） ； Ansys（安世仿真） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 CADmium通过微调代码语言模型，利用大规模标注数据集实现文本驱动的CAD设计自动化，提升设计效率。

Comments Published in Transactions on Machine Learning Research (TMLR) 01/2026

Journal ref Transactions on Machine Learning Research (TMLR) 01/2026; https://openreview.net/forum?id=lExqWvQht8

Few-Shot LoRA Adaptation of a Flow-Matching Foundation Model for Cross-Spectral Object Detection

为跨光谱目标检测的流匹配基础模型进行少样本LoRA适应

Maxim Clouser, Kia Khezeli, John Kalantari

机构 * Yrikka Inc.（Yrikka公司） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI

AI总结 通过少样本LoRA适应流匹配基础模型，实现跨光谱目标检测的合成数据生成与提升

Donors and Recipients: On Asymmetric Transfer Across Tasks and Languages with Parameter-Efficient Fine-Tuning

捐赠者与接收者：在任务和语言之间进行非对称转移与参数高效微调

Kajetan Dymkiewicz, Ivan Vulic, Helen Yannakoudakis, Eilam Shapira, Roi Reichart, Anna Korhonen

机构 * University of Cambridge（剑桥大学） ； King’s College London（伦敦国王学院） ； Technion–Israel Institute of Technology（技术学院—以色列理工学院） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过LoRA微调分析了跨任务和语言的非对称转移现象，发现匹配任务的跨语言转移最有效，高资源语言和广泛任务作为高效接收者吸收收益，而专门任务和低资源语言则较为孤立。

LLMs for Explainable Business Decision-Making: A Reinforcement Learning Fine-Tuning Approach

用于可解释性商业决策的大型语言模型：一种强化学习微调方法

Xiang Cheng, Wen Wang, Anindya Ghose

机构 * Robert H. Smith School of Business, University of Maryland（大学管理学院） ； Leonard N. Stern School of Business, New York University（纽约大学商学院） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LEXMA方法，通过强化学习微调生成多受众适用的自然语言解释，提升商业决策的可解释性与实用性。