语言大模型 / LLM

Save the Good Prefix: Precise Error Penalization via Process-Supervised RL to Enhance LLM Reasoning

保存好的前缀：通过过程监督强化学习实现精确误差惩罚以增强大语言模型推理

Haolin Liu, Dian Yu, Sidi Lu, Yujun Zhou, Rui Liu, Zhenwen Liang, Haitao Mi, Chen-Yu Wei, Dong Yu

机构 * Tencent AI Lab（腾讯AI实验室） ； University of Virginia（弗吉尼亚大学） ； University of Notre Dame（圣母大学） ； University of Maryland（马里兰大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过过程监督强化学习实现精确误差惩罚，提升大语言模型推理能力。

Latent-Space Contrastive Reinforcement Learning for Stable and Efficient LLM Reasoning

潜在空间对比强化学习用于稳定高效的LLM推理

Lianlei Shan, Han Chen, Yixuan Wang, Zhenjie Liu, Wei Li

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； EvolutionLeap（进化跃迁） ； Tsinghua University（清华大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出深度潜在推理（DLR），通过潜在空间对比强化学习提升LLM在复杂推理任务中的稳定性与效率。

Comments 12 pages,

MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning

MathMixup: 通过难度可控的数据合成与课程学习提升LLM的数学推理能力

Xuchen Li, Jing Chen, Xuzhao Li, Hao Liang, Xiaohuan Zhou, Taifeng Wang, Wentao Zhang

机构 * CASIA（中国科学院自动化研究所） ； ZGCA（浙江大学） ； UCAS（中国科学技术大学） ； PKU（北京大学） ； ByteDance（字节跳动） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MathMixup通过难度可控的数据合成与课程学习策略，提升LLM的数学推理能力，实验显示其在多个基准测试中表现优于现有方法。

Comments Preprint, Under review

FLEx: Language Modeling with Few-shot Language Explanations

FLEx：基于少样本语言解释的语言建模

Adar Avsian, Christopher Richardson, Anirudh Sundar, Larry Heck

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Microsoft（微软） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 FLEx通过少量解释性示例改进语言模型，有效减少错误并优于链式推理方法。

DARC: Decoupled Asymmetric Reasoning Curriculum for LLM Evolution

DARC：解耦的非对称推理课程用于LLM进化

Shengda Fan, Xuyan Ye, Yankai Lin

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 DARC通过解耦的非对称推理课程框架，提升大型语言模型的自我进化能力，实现无需人工标注的性能提升。

Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants

推动扩散语言模型及其变体未来发展的十大开放挑战

Yunhe Wang, Kai Han, Huiling Zhen, Yuchuan Tian, Hanting Chen, Yongbing Huang, Yufei Cui, Yingte Shu, Shan Gao, Ismail Elezi, Roy Vaughan Miles, Songcen Xu, Feng Wen, Chao Xu, Sinan Zeng, Dacheng Tao

机构 * Huawei Noah’s Ark Lab（华为诺亚实验室） ； Peking University（北京大学） ； Huawei Technologies（华为技术有限公司） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出推动扩散语言模型及其变体发展的十大挑战，并提出以多尺度标记化、主动遮罩和潜在思考为核心的四支柱战略路线图，旨在突破因果瓶颈，实现复杂结构推理和多模态整合。

Simulated Ignorance Fails: A Systematic Study of LLM Behaviors on Forecasting Problems Before Model Knowledge Cutoff

模拟无知失败：在模型知识截止前的预测问题上的系统研究

Zehan Li, Yuxuan Wang, Ali El Lahib, Ying-Jieh Xia, Xinyu Pi

机构 * University of Chicago（芝加哥大学） ； University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了在模型知识截止前的预测问题中，模拟无知方法的局限性，发现其无法有效近似真实无知，且推理链推理和优化模型在抑制先前知识方面存在缺陷。

Simulated Annealing Enhances Theory-of-Mind Reasoning in Autoregressive Language Models

退火模拟增强语言模型的理论思维推理

Xucong Hu, Jian-Qiao Zhu

机构 * Department of Psychology and Behavioral Sciences, Zhejiang University（浙江大学心理学与行为科学系） ； Department of Psychology, The University of Hong Kong（香港大学心理学系） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 通过退火模拟提升自回归语言模型的理论思维推理能力，无需额外训练。

Improving Symbolic Translation of Language Models for Logical Reasoning

提升语言模型的符号翻译以增强逻辑推理

Ramya Keerthy Thatikonda, Jiuzhou Han, Wray Buntine, Ehsan Shareghi

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过微调和增量推理框架，提升小型语言模型在逻辑推理中的符号翻译能力，减少错误率并提高推理性能。

Comments The Third workshop of NeusymBridge @AAAI 2026 (Bridging Neurons and Symbols for NLP and Knowledge Graph Reasoning)

Are LLM Decisions Faithful to Verbal Confidence?

大型语言模型的决策是否忠实于其语言自信度？

Jiawei Wang, Yanfei Zhou, Siddartha Devic, Deqing Fu

机构 * University of Southern California（南加州大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究发现大型语言模型在高惩罚条件下缺乏战略决策能力，其语言自信度与实际决策不一致，影响AI系统的可信度。

Do Language Models Reason Across Languages?

语言模型是否能在不同语言之间进行推理？

Yan Meng, Wafaa Mohammed, Christof Monz

机构 * Language Technology Lab University of Amsterdam（语言技术实验室 阿姆斯特丹大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了语言模型在多语言环境下进行推理的能力，提出了一种三阶段提示方法，有效提升了两跳问答任务的准确性。

Logic-Parametric Neuro-Symbolic NLI: Controlling Logical Formalisms for Verifiable LLM Reasoning

逻辑参数化神经符号推理：通过可控逻辑形式实现可验证的大语言模型推理

Ali Farjami, Luca Redondi, Marco Valentino

机构 * University of Luxemburg（卢森堡大学） ； University of Sheffield（谢菲尔德大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出逻辑参数化框架，通过可控逻辑形式提升神经符号推理的鲁棒性与适应性，实验表明内部逻辑策略在不同领域具有更优表现。

Comments Work in progress

Advancing Language Models for Code-related Tasks

推动与代码相关的语言模型

Zhao Tian

机构 * School of Computer Software, Tianjin University（天津大学软件学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过改进代码数据质量、模型架构和推理能力，推动语言模型在软件开发中的实际应用。

Comments Accepted by ICSE 2026 (DS)

UltraLogic: Enhancing LLM Reasoning through Large-Scale Data Synthesis and Bipolar Float Reward

UltraLogic: 通过大规模数据合成和双极浮点奖励增强大语言模型推理

Yile Liu, Yixian Liu, Zongwei Li, Yufei Huang, Xinhua Feng, Zhichao Hu, Jinglu Hu, Jianfeng Yan, Fengzong Lian, Yuhong Liu

机构 * Hunyuan, Tencent（腾讯 Hunyuan） ； Waseda University（早稻田大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 UltraLogic通过大规模数据合成和双极浮点奖励机制，提升大语言模型的推理能力，强调任务多样性和难度匹配对训练效率的促进作用。

Comments 19 pages, 6 figures, 7 tables

Bridging the Plausibility-Validity Gap by Fine-Tuning a Reasoning-Enhanced LLM for Chemical Synthesis and Discovery

通过微调增强推理的LLM弥合合理性-有效性差距以用于化学合成与发现

Malikussaid, Hilal Hudan Nuha, Isman Kurniawan

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过微调增强推理的LLM，提升化学合成与发现的合理性-有效性，实现高准确率和透明高效的方法。

Comments 8 pages, 1 equation, 5 tables, to be published in IEEE MCSoC 2025, unabridged version exists as arXiv:2507.07328v1

Journal ref Proc. 2025 IEEE 18th Int. Symp. Embedded Multicore/Many-core SoCs (MCSoC), 2025, pp. 538-545

Alpha-R1: Alpha Screening with LLM Reasoning via Reinforcement Learning

Alpha-R1：通过强化学习实现基于LLM的Alpha筛选

Zuoyou Jiang, Li Zhao, Rui Sun, Ruohan Sun, Zhongjian Li, Jing Li, Daxin Jiang, Zuo Bai, Cheng Hua

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Alpha-R1通过强化学习实现基于LLM的上下文感知alpha筛选，提升非平稳市场中的投资策略性能。

Inferring Latent Market Forces: Evaluating LLM Detection of Gamma Exposure Patterns via Obfuscation Testing

推断潜在市场力量：通过混淆测试评估大语言模型检测伽马暴露模式的能力

Christopher Regan, Ying Xie

机构 * Department of Computer Science Kennesaw State University Marietta, GA, Cobb（计算机科学系 凯尼恩州立大学 马里埃塔, 乔治亚州, 理查兹） ； Department of Information Technology Professor of Information Technology Kennesaw State University Marietta, GA（信息科技系 信息科技教授 凯尼恩州立大学 马里埃塔, 乔治亚州） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过混淆测试验证大语言模型能否通过因果推理识别结构性市场模式，发现其在无偏提示下检测伽马暴露模式的准确率为71.5%，展示了LLMs在金融机制识别方面的潜力。

Comments 10 pages, 8 figures. Accepted at IEEE Big Data 2025. Extended journal version in preparation. ISBN: 979-8-3315-9447-3/25. Page numbers: 7226-7235

Journal ref 2025 IEEE International Conference on Big Data (Big Data)

Can LLMs Guide Their Own Exploration? Gradient-Guided Reinforcement Learning for LLM Reasoning

大语言模型能否引导自身探索？基于梯度引导的强化学习用于大语言模型推理

Zhenwen Liang, Sidi Lu, Wenhao Yu, Kishan Panaganti, Yujun Zhou, Haitao Mi, Dong Yu

机构 * Tencent AI Lab（腾讯AI实验室） ； University of Notre Dame（诺丁汉大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 G2RL通过利用模型自身的梯度几何特性，改进大语言模型的推理能力，优于传统探索方法。

Alleviating Choice Supportive Bias in LLM with Reasoning Dependency Generation

通过推理依赖生成缓解LLM中的选择支持性偏见

Nan Zhuang, Wenshuo Wang, Lekai Qian, Yuxiao Wang, Boyu Cao, Qi Liu

机构 * School of Future Technology, South China University of Technology（未来技术学院，华南理工大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过推理依赖生成缓解LLM中选择支持性偏见的方法，生成无偏推理数据并提升模型在决策任务中的表现。

MathBode: Measuring the Stability of LLM Reasoning using Frequency Response

MathBode: 通过频率响应测量大语言模型推理的稳定性

Charles L. Wang

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MathBode通过频率响应分析大语言模型推理的稳定性，揭示系统性低通行为和相位滞后，提供可重复的动态诊断方法。

Synthetic Error Injection Fails to Elicit Self-Correction In Language Models

合成错误注入无法在语言模型中引发自我修正

David X. Wu, Shreyas Kapur, Anant Sahai, Stuart Russell

机构 * ucb（伯克利大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究发现合成错误注入无法有效提升语言模型的自我修正能力，揭示了策略性强化学习在激发自我修正方面的独特优势。

Comments 13 pages, 12 figures

Cognitive bias in LLM reasoning compromises interpretation of clinical oncology notes

大语言模型的认知偏差影响临床肿瘤学笔记的解读

Matthew W. Kenaston, Umair Ayub, Mihir Parmar, Muhammad Umair Anjum, Syed Arsalan Ahmed Naqvi, Priya Kumar, Samarth Rawal, Aadel A. Chaudhuri, Yousef Zakharia, Elizabeth I. Heath, Tanios S. Bekaii-Saab, Cui Tao, Eliezer M. Van Allen, Ben Zhou, YooJung Choi, Chitta Baral, Irbaz Bin Riaz

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究揭示了大语言模型在肿瘤学笔记解读中因推理缺陷导致的临床安全隐患，并提出了一种可推广的推理错误分类框架。

Comments 24 pages, 6 figures, 1 supplementary figure, 3 tables

Beyond Generation: Multi-Hop Reasoning for Factual Accuracy in Vision-Language Models

超越生成：面向视觉语言模型事实准确性的多跳推理

Shamima Hossain

机构 * Department of Computer Science, Brac University（布鲁尔大学计算机科学系） ； bKash Limited（bKash公司） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于知识图谱的多跳推理框架，提升视觉语言模型在事实准确性上的表现，通过多步骤推理增强模型的逻辑推理能力。

Comments Accepted as poster at NewInML Workshop ICML, 2025

Eliciting Reasoning in Language Models with Cognitive Tools

通过认知工具激发语言模型的推理能力

Brown Ebouky, Andrea Bartezzaghi, Mattia Rigotti

机构 * IBM Research - Zurich（IBM瑞士研究中心） ； ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 推理与问题求解 ：language model(title)；LLM(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 通过引入认知工具，提升语言模型在数学推理任务上的性能，探索推理机制并补充训练后方法的作用。

Comments 25 pages, 2 figures

A Multimodal Recaptioning Framework to Account for Perceptual Diversity Across Languages in Vision-Language Modeling

Kyle Buettner, Jacob T. Emmerson, Adriana Kovashka

机构 * Intelligent Systems Program（智能系统项目） ； Department of Computer Science（计算机科学系） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

Comments Accepted at IJCNLP-AACL 2025 (Main)

Unlocking the Power of Multi-Agent LLM for Reasoning: From Lazy Agents to Deliberation

Zhiwei Zhang, Xiaomin Li, Yudi Lin, Hui Liu, Ramraj Chandradevan, Linlin Wu, Minhua Lin, Fali Wang, Xianfeng Tang, Qi He, Suhang Wang

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Harvard University（哈佛大学） ； Michigan State University（密歇根州立大学） ； University of Utah（犹他大学） ； Microsoft（微软公司） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

DEEPAMBIGQA: Ambiguous Multi-hop Questions for Benchmarking LLM Answer Completeness

Jiabao Ji, Min Li, Priyanshu Kumar, Shiyu Chang, Saloni Potdar

机构 * UCSB（UCSB大学） ； Apple（苹果公司） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments 25 pages

A Closer Look at Bias and Chain-of-Thought Faithfulness of Large (Vision) Language Models

Sriram Balasubramanian, Samyadeep Basu, Soheil Feizi

机构 * Department of Computer Science University of Maryland, College Park（计算机科学系马里兰大学 College Park） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

Comments Accepted in EMNLP 2025, 34 pages, 25 figures

Humains-Junior: A 3.8B Language Model Achieving GPT-4o-Level Factual Accuracy by Directed Exoskeleton Reasoning

Nissan Yaron, Dan Bystritsky, Ben-Etzion Yaron

机构 * Humains AI Research（Humains人工智能研究） ； Inpris Ltd（Inpris公司） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(abstract)；分类 cs.AI、cs.LG

Self-Evolving Curriculum for LLM Reasoning

Xiaoyin Chen, Jiarui Lu, Minsu Kim, Dinghuai Zhang, Jian Tang, Alexandre Piché, Nicolas Gontier, Yoshua Bengio, Ehsan Kamalloo

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG