语言大模型 / LLM

Mitigating Social Bias in English and Urdu Language Models Using PRM-Guided Candidate Selection and Sequential Refinement

通过PRM引导的候选选择和顺序细化缓解英语和乌尔都语语言模型中的社会偏见

Muneeb Ur Raheem Khan

机构 * Lahore University of Management Sciences（拉瓦尔大学管理科学学院） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文通过PRM引导的候选选择和顺序细化方法，缓解英语和乌尔都语语言模型中的社会偏见，展示了在不同语言中偏见减少和公平性提升的效果。

Improving Topic Relevance Model by Mix-structured Summarization and LLM-based Data Augmentation

通过混合结构摘要与基于LLM的数据增强改进主题相关性模型

Yizhu Liu, Ran Tao, Shengyu Guo, Yifan Yang

机构 * Sichuan University（四川大学） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过混合结构摘要与基于LLM的数据增强方法，提升社交搜索中查询与文档的主题相关性建模性能。

FoundIR-v2: Optimizing Pre-Training Data Mixtures for Image Restoration Foundation Model

FoundIR-v2：优化图像修复基础模型的预训练数据混合

Xiang Chen, Jinshan Pan, Jiangxin Dong, Jian Yang, Jinhui Tang

机构 * Nanjing University of Science and Technology（南京理工大学） ； Nanjing Forestry University（南京林业大学） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 FoundIR-v2通过优化预训练数据混合比例，提升图像修复基础模型在多种任务中的泛化能力和性能。

Comments Project page: https://lowlevelcv.com/

Measuring Corruption from Text Data

从文本数据中测量腐败

Arieda Muço

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于词典和主成分分析的自动化腐败指数，通过巴西市政审计报告验证其有效性，并在透明度、成本和可重复性方面优于传统方法。

GRAVITY: A Framework for Personalized Text Generation via Profile-Grounded Synthetic Preferences

GRAVITY: 一种通过基于个人资料的合成偏好进行个性化文本生成的框架

Priyanka Dey, Daniele Rosa, Wenqing Zheng, Daniel Barcklow, Jieyu Zhao, Emilio Ferrara

机构 * University of Southern California（南加州大学） ； Capital One Research（Capital One研究） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 GRAVITY通过整合多种心理学和文化框架，生成基于个人资料的合成偏好数据，提升LLM个性化生成的效率和效果。

When can in-context learning generalize out of task distribution?

在什么情况下上下文学习可以泛化到任务分布之外？

Chase Goddard, Lindsay M. Smith, Vudtiwat Ngampruetikorn, David J. Schwab

机构 * Princeton University（普林斯顿大学） ； University of Sydney（悉尼大学） ； The Graduate Center, CUNY（纽约大学研究生中心） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究探讨了预训练分布中任务多样性的变化如何影响转换器模型在不同任务分布上的泛化能力，揭示了ICL从专门化到泛化出分布的相变机制。

Comments ICML 2025

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:19585-19599, 2025

ASSIST-3D: Adapted Scene Synthesis for Class-Agnostic 3D Instance Segmentation

ASSIST-3D: 为无类别3D实例分割适应的场景合成

Shengchao Zhou, Jiehong Lin, Jiahui Liu, Shizhen Zhao, Chirui Chang, Xiaojuan Qi

专题命中 预训练与数据 ：LLM(abstract)

AI总结 ASSIST-3D通过异构对象选择、场景布局生成和点云构建，提升无类别3D实例分割的泛化能力。

Comments Accepted by AAAI 2026

PlayerOne: Egocentric World Simulator

PlayerOne：第一人称真实世界模拟器

Yuanpeng Tu, Hao Luo, Xi Chen, Xiang Bai, Fan Wang, Hengshuang Zhao

机构 * HKU（香港大学） ； DAMO Academy, Alibaba Group（阿里云达摩院） ； Hupan Lab（华盘实验室） ； HUST（华中科技大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 PlayerOne通过第一人称真实世界模拟器实现了沉浸式探索，通过粗到细的训练流程和部分解耦运动注入方案，实现了对人类运动的精确控制和多样化场景的一致建模。

Comments Project page: https://playerone-hku.github.io/

Condor: A Code Discriminator Integrating General Semantics with Code Details

Condor：集通用语义与代码细节于一体的代码判别器

Qingyuan Liang, Zhao Zhang, Chen Liu, Zeyu Sun, Wenjie Zhang, Yizhou Chen, Zixiao Zhao, Qi Luo, Wentao Wang, Yanjie Jiang, Yingfei Xiong, Lu Zhang

专题命中 预训练与数据 ：LLM(abstract)

AI总结 Condor通过对比学习优化代码表示并利用中间数据增强判别能力，在CodeNanoFix等数据集上显著提升代码判别性能。