语言大模型 / LLM

Beyond Chain-of-Thought: A Survey of Chain-of-X Paradigms for LLMs

Yu Xia, Rui Wang, Xu Liu, Mingyan Li, Tong Yu, Xiang Chen, Julian McAuley, Shuai Li

机构 * Shanghai Jiao Tong University（上海交通大学） ； UC San Diego（加州大学圣迭戈分校） ； Duke University（杜克大学） ； Adobe Research（奥多比研究院） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

Comments COLING 2025

Demystifying Long Chain-of-Thought Reasoning in LLMs

Edward Yeo, Yuxuan Tong, Morry Niu, Graham Neubig, Xiang Yue

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Tsinghua University（清华大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.LG

Comments Preprint, under review

SIMPLOT: Enhancing Chart Question Answering by Distilling Essentials

Wonjoong Kim, Sangwu Park, Yeonjun In, Seokwon Han, Chanyoung Park

机构 * KAIST（韩国科学技术院） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments Findings of NAACL 2025

Using Code Generation to Solve Open Instances of Combinatorial Design Problems

Christopher D. Rosin

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Top Ten Challenges Towards Agentic Neural Graph Databases

Jiaxin Bai, Zihao Wang, Yukun Zhou, Hang Yin, Weizhi Fei, Qi Hu, Zheye Deng, Jiayang Cheng, Tianshi Zheng, Hong Ting Tsang, Yisen Gao, Zhongwei Xie, Yufei Li, Lixin Fan, Binhang Yuan, Wei Wang, Lei Chen, Xiaofang Zhou, Yangqiu Song

机构 * Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程学系） ； Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系） ； AI Group, WeBank（微众银行AI团队） ； Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院） ； Wuhan University（武汉大学） ； Sichuan University（四川大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

Comments 12 Pages

Zero-Shot Verification-guided Chain of Thoughts

Jishnu Ray Chowdhury, Cornelia Caragea

机构 * University of Illinois at Chicago（伊利诺伊大学芝加哥分校） ； Bloomberg（彭博公司） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

A Reliable Common-Sense Reasoning Socialbot Built Using LLMs and Goal-Directed ASP

Yankai Zeng, Abhiramon Rajashekharan, Kinjal Basu, Huaduo Wang, Joaquín Arias, Gopal Gupta

机构 * University of Texas at Dallas（德克萨斯大学达拉斯分校） ； IBM Research（IBM研究院） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Journal ref Theory and Practice of Logic Programming 24 (2024) 606-627

GRASP: A Grid-Based Benchmark for Evaluating Commonsense Spatial Reasoning

Zhisheng Tang, Mayank Kejriwal

机构 * University of Southern California（南加州大学） ； Information Sciences Institute（信息科学研究所） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Reassessing the Role of Chain-of-Thought in Sentiment Analysis: Insights and Limitations

Kaiyuan Zheng, Qinghua Zhao, Lei Li

机构 * Beijing Normal University（北京师范大学） ； Hefei University（合肥大学） ； Beihang University（北京航空航天大学） ； University of Washington（华盛顿大学） ； University of Copenhagen（哥本哈根大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

Imagine while Reasoning in Space: Multimodal Visualization-of-Thought

Chengzu Li, Wenshan Wu, Huanyu Zhang, Yan Xia, Shaoguang Mao, Li Dong, Ivan Vulić, Furu Wei

机构 * Microsoft Research（微软研究院） ； University of Cambridge（剑桥大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

Comments 11 pages, 6 figures, 4 tables (27 pages, 10 figures, 16 tables including references and appendices)

A Multimodal Social Agent

Athina Bikaki, Ioannis A. Kakadiaris

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments 9 pages

A General Retrieval-Augmented Generation Framework for Multimodal Case-Based Reasoning Applications

Ofir Marom

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments 15 pages, 7 figures

Reasoning-Enhanced Self-Training for Long-Form Personalized Text Generation

Alireza Salemi, Cheng Li, Mingyang Zhang, Qiaozhu Mei, Weize Kong, Tao Chen, Zhuowan Li, Michael Bendersky, Hamed Zamani

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Google DeepMind（谷歌DeepMind） ； University of Michigan（密歇根大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

SketchFill: Sketch-Guided Code Generation for Imputing Derived Missing Values

Yunfan Zhang, Changlun Li, Yuyu Luo, Nan Tang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

Comments 19 pages, 6 figures

Interpretable Contrastive Monte Carlo Tree Search Reasoning

Zitian Gao, Boye Niu, Xuzheng He, Haotian Xu, Hongzhang Liu, Aiwei Liu, Xuming Hu, Lijie Wen

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Explore the Potential of LLMs in Misinformation Detection: An Empirical Study

Mengyang Chen, Lingwei Wei, Han Cao, Wei Zhou, Songlin Hu

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Quo Vadis, Anomaly Detection? LLMs and VLMs in the Spotlight

Xi Ding, Lei Wang

机构 * School of Computing Australian National University（澳大利亚国立大学计算学院） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments Research report

DART-Math: Difficulty-Aware Rejection Tuning for Mathematical Problem-Solving

Yuxuan Tong, Xiwen Zhang, Rui Wang, Ruidong Wu, Junxian He

机构 * Tsinghua University（清华大学） ； Helixon Research（Helixon研究院） ； HKUST（香港科技大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI

Comments NeurIPS 2024. Data and model checkpoints are available at https://github.com/hkust-nlp/dart-math

What Makes In-context Learning Effective for Mathematical Reasoning: A Theoretical Analysis

Jiayu Liu, Zhenya Huang, Chaokun Wang, Xunpeng Huang, Chengxiang Zhai, Enhong Chen

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

SmolTulu: Higher Learning Rate to Batch Size Ratios Can Lead to Better Reasoning in SLMs

Sultan Alrashed

机构 * Saudi Data & Artificial Intelligence Authority（沙特数据与人工智能局） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

Comments 10 pages, 4 figures, and 13 tables. For the SmolTulu-1.7b-instruct model, see: https://huggingface.co/SultanR/SmolTulu-1.7b-Instruct

Trust No AI: Prompt Injection Along The CIA Security Triad

Johann Rehberger

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments Based on research presented at Black Hat Europe 2024, Microsoft Bluehat 2024 and publications from embracethered.com

Understanding Hidden Computations in Chain-of-Thought Reasoning

Aryasomayajula Ram Bharadwaj

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

Logic Agent: Enhancing Validity with Logic Rule Invocation

Hanmeng Liu, Zhiyang Teng, Chaoli Zhang, Yue Zhang

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

Comments The experiment is subject to certain errors

PreAct: Prediction Enhances Agent's Planning Ability

Dayuan Fu, Jianzhao Huang, Siyuan Lu, Guanting Dong, Yejie Wang, Keqing He, Weiran Xu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Meituan（美团） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments Coling 2025

Negotiating with LLMS: Prompt Hacks, Skill Gaps, and Reasoning Deficits

Johannes Schneider, Steffi Haag, Leona Chandra Kruse

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning

Di Zhang, Jianbo Wu, Jingdi Lei, Tong Che, Jiatong Li, Tong Xie, Xiaoshui Huang, Shufei Zhang, Marco Pavone, Yuqiang Li, Wanli Ouyang, Dongzhan Zhou

机构 * Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Hong Kong Polytechnic University（香港理工大学） ； University of New South Wales（新南威尔士大学） ； Shanghai Jiao Tong University（上海交通大学） ； Stanford University（斯坦福大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；RLHF(abstract)；分类 cs.CL、cs.AI

Neurosymbolic Graph Enrichment for Grounded World Models

Stefano De Giorgis, Aldo Gangemi, Alessandro Russo

机构 * Institute for Cognitive Sciences and Technologies - National Research Council（国家研究委员会认知科学与技术研究所） ； Department of Philosophy - University of Bologna（博洛尼亚大学哲学系） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

SBI-RAG: Enhancing Math Word Problem Solving for Students through Schema-Based Instruction and Retrieval-Augmented Generation

Prakhar Dixit, Tim Oates

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments Accepted to the 4th MATH-AI Workshop at NeurIPS'24

Reasoning Robustness of LLMs to Adversarial Typographical Errors

Esther Gan, Yiran Zhao, Liying Cheng, Yancan Mao, Anirudh Goyal, Kenji Kawaguchi, Min-Yen Kan, Michael Shieh

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

Graph-DPEP: Decomposed Plug and Ensemble Play for Few-Shot Document Relation Extraction with Graph-of-Thoughts Reasoning

Tao Zhang, Ning Yan, Masood Mortazavi, Hoang H. Nguyen, Zhongfen Deng, Philip S. Yu

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI