语言大模型 / LLM

Mitigating Social Bias in English and Urdu Language Models Using PRM-Guided Candidate Selection and Sequential Refinement

通过PRM引导的候选选择和顺序细化缓解英语和乌尔都语语言模型中的社会偏见

Muneeb Ur Raheem Khan

机构 * Lahore University of Management Sciences（拉瓦尔大学管理科学学院） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文通过PRM引导的候选选择和顺序细化方法，缓解英语和乌尔都语语言模型中的社会偏见，展示了在不同语言中偏见减少和公平性提升的效果。

Improving Topic Relevance Model by Mix-structured Summarization and LLM-based Data Augmentation

通过混合结构摘要与基于LLM的数据增强改进主题相关性模型

Yizhu Liu, Ran Tao, Shengyu Guo, Yifan Yang

机构 * Sichuan University（四川大学） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过混合结构摘要与基于LLM的数据增强方法，提升社交搜索中查询与文档的主题相关性建模性能。

FoundIR-v2: Optimizing Pre-Training Data Mixtures for Image Restoration Foundation Model

FoundIR-v2：优化图像修复基础模型的预训练数据混合

Xiang Chen, Jinshan Pan, Jiangxin Dong, Jian Yang, Jinhui Tang

机构 * Nanjing University of Science and Technology（南京理工大学） ； Nanjing Forestry University（南京林业大学） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 FoundIR-v2通过优化预训练数据混合比例，提升图像修复基础模型在多种任务中的泛化能力和性能。

Comments Project page: https://lowlevelcv.com/

Measuring Corruption from Text Data

从文本数据中测量腐败

Arieda Muço

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于词典和主成分分析的自动化腐败指数，通过巴西市政审计报告验证其有效性，并在透明度、成本和可重复性方面优于传统方法。

GRAVITY: A Framework for Personalized Text Generation via Profile-Grounded Synthetic Preferences

GRAVITY: 一种通过基于个人资料的合成偏好进行个性化文本生成的框架

Priyanka Dey, Daniele Rosa, Wenqing Zheng, Daniel Barcklow, Jieyu Zhao, Emilio Ferrara

机构 * University of Southern California（南加州大学） ； Capital One Research（Capital One研究） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 GRAVITY通过整合多种心理学和文化框架，生成基于个人资料的合成偏好数据，提升LLM个性化生成的效率和效果。

When can in-context learning generalize out of task distribution?

在什么情况下上下文学习可以泛化到任务分布之外？

Chase Goddard, Lindsay M. Smith, Vudtiwat Ngampruetikorn, David J. Schwab

机构 * Princeton University（普林斯顿大学） ； University of Sydney（悉尼大学） ； The Graduate Center, CUNY（纽约大学研究生中心） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究探讨了预训练分布中任务多样性的变化如何影响转换器模型在不同任务分布上的泛化能力，揭示了ICL从专门化到泛化出分布的相变机制。

Comments ICML 2025

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:19585-19599, 2025

ASSIST-3D: Adapted Scene Synthesis for Class-Agnostic 3D Instance Segmentation

ASSIST-3D: 为无类别3D实例分割适应的场景合成

Shengchao Zhou, Jiehong Lin, Jiahui Liu, Shizhen Zhao, Chirui Chang, Xiaojuan Qi

专题命中 预训练与数据 ：LLM(abstract)

AI总结 ASSIST-3D通过异构对象选择、场景布局生成和点云构建，提升无类别3D实例分割的泛化能力。

Comments Accepted by AAAI 2026

PlayerOne: Egocentric World Simulator

PlayerOne：第一人称真实世界模拟器

Yuanpeng Tu, Hao Luo, Xi Chen, Xiang Bai, Fan Wang, Hengshuang Zhao

机构 * HKU（香港大学） ； DAMO Academy, Alibaba Group（阿里云达摩院） ； Hupan Lab（华盘实验室） ； HUST（华中科技大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 PlayerOne通过第一人称真实世界模拟器实现了沉浸式探索，通过粗到细的训练流程和部分解耦运动注入方案，实现了对人类运动的精确控制和多样化场景的一致建模。

Comments Project page: https://playerone-hku.github.io/

Condor: A Code Discriminator Integrating General Semantics with Code Details

Condor：集通用语义与代码细节于一体的代码判别器

Qingyuan Liang, Zhao Zhang, Chen Liu, Zeyu Sun, Wenjie Zhang, Yizhou Chen, Zixiao Zhao, Qi Luo, Wentao Wang, Yanjie Jiang, Yingfei Xiong, Lu Zhang

专题命中 预训练与数据 ：LLM(abstract)

AI总结 Condor通过对比学习优化代码表示并利用中间数据增强判别能力，在CodeNanoFix等数据集上显著提升代码判别性能。

LLM4XCE: Large Language Models for Extremely Large-Scale Massive MIMO Channel Estimation

LLM4XCE：用于超大规模大规模MIMO信道估计的大型语言模型

Renbin Li, Shuangshuang Li, Peihao Dong

机构 * College of Electronic and Information Engineering, Nanjing University of Aeronautics and Astronautics（电子与信息工程学院，南京航空航天大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 LLM4XCE通过利用大型语言模型的语义建模能力，实现了超大规模大规模MIMO信道估计的高效准确估计。

Self Distillation Fine-Tuning of Protein Language Models Improves Versatility in Protein Design

蛋白质语言模型的自我蒸馏微调提升了蛋白质设计的通用性

Amin Tavakoli, Raswanth Murugan, Ozan Gokdemir, Arvind Ramanathan, Frances Arnold, Anima Anandkumar

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；SFT(abstract)；分类 cs.LG

AI总结 通过自我蒸馏微调提升蛋白质语言模型的通用性，生成更稳定和功能性的蛋白质序列。

TRepLiNa: Layer-wise CKA+REPINA Alignment Improves Low-Resource Machine Translation in Aya-23 8B

TRepLiNa：分层CKA+REPINA对齐改进Aya-23 8B低资源机器翻译

Toshiki Nakai, Ravi Kiran Chikkala, Lena Sophie Oberkircher, Nicholas Jennings, Natalia Skachkova, Tatiana Anikina, Jesujoba Oluwadara Alabi

机构 * Saarland University（萨尔兰大学） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 TRepLiNa通过结合CKA和REPINA实现分层对齐，提升低资源语言Aya-23 8B的机器翻译质量，尤其在数据稀缺情况下效果显著。

Comments It is work in progress

SAFT: Structure-Aware Fine-Tuning of LLMs for AMR-to-Text Generation

SAFT：面向AMR到文本生成的结构感知LLM微调

Rafiq Kamel, Filippo Guerranti, Simon Geisler, Stephan Günnemann

机构 * School of Computation, Information and Technology（计算、信息与技术学院） ； Technical University of Munich（慕尼黑技术大学） ； Munich Data Science Institute（慕尼黑数据科学研究所） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 SAFT通过将图拓扑注入预训练LLMs，提升AMR到文本生成的性能，实现3.5 BLEU提升。

Comments Accepted at the KDD2025 Workshop on Structured Knowledge for LLMs

World in a Frame: Understanding Culture Mixing as a New Challenge for Vision-Language Models

世界在框架中：将文化混合视为视觉语言模型的新挑战

Eunsu Kim, Junyeong Park, Na Min An, Junseong Kim, Hitesh Laxmichand Patel, Jiho Jin, Julia Kruk, Amit Agarwal, Srikant Panda, Fenal Ashokbhai Ilasariya, Hyunjung Shim, Alice Oh

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出CultureMix基准，研究文化混合对视觉语言模型的影响，发现模型在混合场景中表现不佳，通过监督微调提升模型鲁棒性。

Llama-based source code vulnerability detection: Prompt engineering vs Fine tuning

基于Llama的源代码漏洞检测：提示工程与微调

Dyna Soumhane Ouchebara, Stéphane Dupont

机构 * University of Mons（蒙斯大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本研究探讨了基于Llama模型的源代码漏洞检测方法，比较了提示工程与微调技术的效果，提出双微调方法并评估其性能。

Comments 20 pages, Accepted at ESORICS 2025

Guiding LLMs to Generate High-Fidelity and High-Quality Counterfactual Explanations for Text Classification

引导大语言模型生成高质量文本分类的反事实解释

Van Bach Nguyen, Christin Seifert, Jörg Schlötterer

机构 * University of Marburg（马尔堡大学） ； University of Mannheim（曼海姆大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出两种分类器引导方法，引导大语言模型生成高质量文本分类的反事实解释，无需微调并提升模型鲁棒性。

Journal ref The World Conference on eXplainable Artificial Intelligence 2025

Aligning Text to Image in Diffusion Models is Easier Than You Think

在扩散模型中将文本对齐到图像比你想象的更容易

Jaa-Yeon Lee, Byunghee Cha, Jeongsol Kim, Jong Chul Ye

机构 * Kim Jaechul Graduate School of AI, KAIST（金佳哲人工智能研究生院，韩国科学技术院） ； Department of Bio and Brain Engineering, KAIST（生物与脑工程系，韩国科学技术院） 纠错

专题命中 指令微调 ：preference optimization(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SoftREPA方法，通过对比学习提升文本与图像表示的对齐效果，减少计算开销，增强语义一致性。

Comments NeurIPS 2025

PROPS: Progressively Private Self-alignment of Large Language Models

PROPS: 大型语言模型的逐步隐私自对齐

Noel Teku, Fengwei Tian, Payel Bhattacharjee, Souradip Chakraborty, Amrit Singh Bedi, Ravi Tandon

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；RLHF(abstract)

AI总结 PROPS通过多阶段隐私保护对齐框架，在保护偏好标签隐私的同时提升LLM对齐效果，实现更高的胜率。

Comments Accepted in the Transactions on Machine Learning Research (TMLR), 2025

Journal ref Transactions on ML Research (TMLR) 2025

Advancing LLM-Based Security Automation with Customized Group Relative Policy Optimization for Zero-Touch Networks

通过定制化群体相对策略优化推进基于大语言模型的安全自动化以实现零接触网络

Xinye Cao, Yihan Lin, Guoshun Nan, Qinchuan Zhou, Yuhang Luo, Yurui Gao, Zeliang Zhang, Haolang Lu, Qimei Cui, Yanzhao Hou, Xiaofeng Tao, Tony Q. S. Quek

机构 * National Engineering Research Center for Mobile Network Technologies, Beijing University of Posts and Telecommunications（移动网络技术国家工程研究中心，北京邮电大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Singapore University of Technology and Design（新加坡科技设计大学） ； Department of Electronic Engineering, Kyung Hee University（韩国庆熙大学电子工程系） 纠错

专题命中 后训练与偏好优化 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SecLoop和SA-GRPO，通过定制化群体相对策略优化，解决6G零接触网络中的安全自动化挑战。

Comments Accepted by IEEE JSAC. This work has been submitted to the IEEE for possible publication

SmartC2Rust: Iterative, Feedback-Driven C-to-Rust Translation via Large Language Models for Safety and Equivalence

SmartC2Rust: 基于大语言模型的迭代反馈驱动C到Rust翻译用于安全性和等价性

Momoko Shiraishi, Yinzhi Cao, Takahiro Shinagawa

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 SmartC2Rust通过迭代反馈机制利用大语言模型实现C到Rust的翻译，提升内存安全性和语义等价性。

Journal ref ICSE '26: Proceedings of the 48th International Conference on Software Engineering, April 12-18, 2026, Rio de Janeiro, Brazil

Attention Sinks in Diffusion Language Models

扩散语言模型中的注意力汇

Maximo Eduardo Rulli, Simone Petruzzi, Edoardo Michielon, Fabrizio Silvestri, Simone Scardapane, Alessio Devoto

机构 * Sapienza University of Rome（罗马大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了扩散语言模型中的注意力汇现象，发现其注意力位置在生成过程中动态变化，且对掩码具有鲁棒性，揭示了与自回归模型的不同特性。

Episodic Memory Verbalization using Hierarchical Representations of Life-Long Robot Experience

基于长期机器人经验的分层表示的事件记忆语言化

Leonard Bärmann, Chad DeChant, Joana Plewnia, Fabian Peller-Konrad, Daniel Bauer, Tamim Asfour, Alex Waibel

机构 * Institute for Anthropomatics and Robotics, Karlsruhe Institute of Technology（人机学与机器人研究所，卡尔斯鲁厄理工学院） ； Computer Science Department, Columbia University（计算机科学系，哥伦比亚大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出了一种基于分层表示的机器人长期经验语言化方法，利用大规模预训练模型实现零样本学习，通过构建树状数据结构实现事件记忆的自然语言抽象，提升人机交互能力。

Comments Humanoids 2025. Code, data and demo videos at https://hierarchical-emv.github.io

O-Mem: Omni Memory System for Personalized, Long Horizon, Self-Evolving Agents

O-Mem：面向个性化、长时域、自演化代理的全方位记忆系统

Piaohong Wang, Motong Tian, Jiaxian Li, Yuan Liang, Yuqing Wang, Qianben Chen, Tiannan Wang, Zhicong Lu, Jiawei Ma, Yuchen Eleanor Jiang, Wangchunshu Zhou

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL

AI总结 O-Mem通过主动用户画像动态提取和更新用户特征，提升个性化代理在复杂环境中的长期交互能力，实现更连贯的响应并优于现有最先进方法。

PathMind: A Retrieve-Prioritize-Reason Framework for Knowledge Graph Reasoning with Large Language Models

PathMind: 一种基于大语言模型的知识图谱推理检索-优先-推理框架

Yu Liu, Xixun Lin, Yanmin Shang, Yangxi Li, Shi Wang, Yanan Cao

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；instruction tuning(abstract)

AI总结 PathMind通过检索-优先-推理框架，提升大语言模型在知识图谱推理中的准确性和可解释性，尤其在复杂推理任务中表现优异。

Comments AAAI 2026, Long Paper, Oral

GLACIA: Instance-Aware Positional Reasoning for Glacial Lake Segmentation via Multimodal Large Language Model

GLACIA：基于多模态大语言模型的冰湖分割实例感知位置推理

Lalit Maurya, Saurabh Kaushik, Beth Tellman

机构 * Portsmouth AI and Data Science Centre (PAIDS), School of Computing, University of Portsmouth（普森大学计算学院） ； Center for Sustainability and the Global Environment (SAGE), University of Wisconsin–Madison（威斯康星大学麦迪逊分校可持续性与全球环境中心） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 GLACIA通过多模态大语言模型实现冰湖分割的实例感知位置推理，提升分割精度与可解释性。

SCOPE: Language Models as One-Time Teacher for Hierarchical Planning in Text Environments

SCOPE：语言模型作为一次性教师用于文本环境中的分层规划

Haoye Lu, Pavan Seshadri, Kaheer Suleman

专题命中 推理与问题求解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；pretraining(abstract)

AI总结 SCOPE通过一次性利用LLM生成的子目标预训练轻量级模型，实现高效文本环境分层规划，比ADaPT方法在成功率和推理效率上更优。

CORE: A Conceptual Reasoning Layer for Large Language Models

CORE：大型语言模型的概念推理层

Vishwas Hegde, Vindhya Shigehalli

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 CORE通过引入概念优先的交互层，提升大型语言模型在多轮对话中的稳定性，利用持久的局部概念和通用认知运算符，减少提示token数量，实现更稳定的多轮交互。

Comments Independent system-level architectural proposal with accompanying proof-of-concept

Evolving Excellence: Automated Optimization of LLM-based Agents

精益求精：基于大语言模型的代理的自动化优化

Paul Brookes, Vardan Voskanyan, Rafail Giavrimis, Matthew Truscott, Mina Ilieva, Chrystalla Pavlou, Alexandru Staicu, Manal Adham, Will Evers- Hood, Jingzhi Gong, Kejia Zhang, Matvey Fedoseev, Vishal Sharma, Roman Bauer, Zheng Wang, Hema Nair, Wei Jie, Tianhua Xu, Aurora Constantin, Leslie Kanthan, Michail Basios

机构 * University of Leeds（利兹大学） ； City, University of London（伦敦城市大学） ； University of West London（西伦敦大学） ； University of Edinburgh（爱丁堡大学） ； University of Surrey（萨里大学） ； University of Warwick（沃里克大学） ； King's College London（伦敦国王学院） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ARTEMIS通过语义感知的进化算法，自动优化基于大语言模型的代理配置，显著提升多个任务的性能表现。

Assessing the Human-Likeness of LLM-Driven Digital Twins in Simulating Health Care System Trust

评估由大语言模型驱动的数字双胞胎在模拟医疗系统信任方面的类人程度

Yuzhou Wu, Mingyang Wu, Di Liu, Rong Yin, Kang Li

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究评估了由大语言模型驱动的数字双胞胎在模拟医疗系统信任方面的类人程度，发现其在主要人口统计学模式上表现良好，但对教育水平等细微差异的捕捉能力有限。

Comments 6 pages, 1 figure may be published in IISE Annual Conference & Expo 2026

LogICL: Distilling LLM Reasoning to Bridge the Semantic Gap in Cross-Domain Log Anomaly Detection

LogICL: 通过蒸馏大语言模型推理来弥合跨域日志异常检测中的语义鸿沟

Jingwei Ye, Zhi Wang, Chenbin Su, Jieshuai Yang, Jiayi Ding, Chunbo Liu, Ge Chu

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 LogICL通过蒸馏大语言模型推理，提升跨域日志异常检测的语义理解与泛化能力，实现更准确的检测与解释。