Self-Taught Self-Correction for Small Language Models
Skoltech（斯科尔泰克理工学院）；HSE University（高等经济大学）；University of Hamburg（汉堡大学）
本文提出STaSC算法，通过仅用自生成数据迭代微调小语言模型，使其学会自校正并在问答任务上显著提升性能，同时分析了自校正机制与设计选择的影响。
2025-03-11 cs.CL cs.LG
Self-Taught Agentic Long Context Understanding
AMD；UC San Diego（加州大学圣地亚哥分校）
提出AgenticLU框架，通过澄清链（CoC）结合树搜索和两阶段微调，增强LLM对复杂长上下文问题的理解与检索能力，在多任务上显著超越现有方法。
2025-05-28 cs.AI cs.CL
STRETCH the Boundaries: A Unified Self-Taught Framework for Progressive LLM Evolution
University of Birmingham（伯明翰大学）
提出STRETCH统一框架，通过动态伸展区机制对齐问题难度与模型能力，采用支架者与学习者双循环协同进化，在谈判和运筹学基准上超越强基线，实现渐进式推理增长。
2026-09-17 cs.CL
Retrieval-Augmented Self-Taught Reasoning Model with Adaptive Chain-of-Thought for ASR Named Entity Correction
AI Research Institute, Midea Group (Shanghai) Co.,Ltd., China（美的集团（上海）研究院）；Zhejiang University, China（浙江大学）
本文提出一种检索增强自教推理模型，用于改进ASR中命名实体修正，通过自适应思维链和音节级编辑距离提升纠错效果。
2026-01-21 cs.AI cs.CL eess.AS
Multilingual Self-Taught Faithfulness Evaluators
University of Oxford（牛津大学）；Amazon（亚马逊）
针对多语言场景下忠实性评估依赖英语和昂贵标注数据的问题，本文提出仅利用合成多语言摘要数据并结合跨语言迁移学习的自学评估框架，实验证明其优于现有基线。
2025-07-28 cs.CL cs.LG
Can an Old Dog Be Taught New Tricks? Taking LLMs Beyond Sentence Level Translation
探讨能否让大语言模型超越逐句翻译范式，提出基于RAG的PAT系统，通过与语料库结合让大语言模型进行全文翻译生成草稿，经评估发现其能朝重新表述发展，但提升重新表述有效性仍需更多工作，还讨论了相关设计与评估等要点。
2026-07-16 cs.CL
Are LLM Evaluators Really Narcissists? Sanity Checking Self-Preference Evaluations
Department of Machine Learning, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学机器学习系）；Department of Computer Science and Engineering, University of California San Diego, La Jolla, CA, USA（加州大学圣地亚哥分校计算机科学与工程系）；Department of Computer Science, University of Virginia, Charlottesville, VA, USA（弗吉尼亚大学计算机科学系）；Martian Research, San Francisco, California, USA（火星研究公司）；Apart Research, San Francisco, California, USA（Apart研究公司）
通过比较评估者自我评价与评价其他模型时的投票分布，发现仅51%的先前结果具有统计显著性，表明自我偏好主要由评估者质量而非自恋驱动。
2026-06-24 cs.AI cs.CL cs.LG
SAND: Boosting LLM Agents with Self-Taught Action Deliberation
University of California San Diego（加利福尼亚大学圣地亚哥分校）；Adobe Research（Adobe研究院）；University of New South Wales（新南威尔士大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）
本文提出SAND框架，通过自洽采样与执行引导批评让LLM智能体在行动前进行自学习审议，并以迭代微调提升决策质量，在两个交互任务上平均提升20%并超越现有最优方法。
2025-08-20 cs.CL
Breaking the Mirror: Activation-Based Mitigation of Self-Preference in LLM Evaluators
University of Virginia（弗吉尼亚大学）；University of California, San Diego（加州大学圣地亚哥分校）；Carnegie Mellon University（卡内基梅隆大学）；School of Computer Science（计算机科学学院）
针对LLM评估者自我偏好偏见，提出轻量级引导向量方法，在推理时无需重训练即可将不公正自我偏好降低97%，但存在稳定性问题。
2026-10-07 cs.AI cs.CL cs.LG
Self-Taught Recognizer: Toward Unsupervised Adaptation for Speech Foundation Models
Nanyang Technological University（南洋理工大学）；NVIDIA Research（英伟达研究院）；IBM Research（IBM研究院）；Tsinghua University（清华大学）
提出无监督自适应框架STAR，利用未标记数据提升语音基础模型在噪声和口音等领域的鲁棒性，通过新颖指标评估伪标签质量，实现平均13.5%的词错误率降低，并防止灾难性遗忘，数据高效且泛化性强。
2024-05-23 cs.AI cs.CL cs.LG
STaR-SQL: Self-Taught Reasoner for Text-to-SQL
Zhejiang University（浙江大学）；OPPO Research Institute（OPPO研究院）
提出 STaR-SQL，通过推理依据微调与 ORM 验证增强 text-to-SQL，在 Spider 上以 86.6% 执行准确率显著超越多种基线。
2025-02-19 cs.CL
Safer or Luckier? LLMs as Safety Evaluators Are Not Robust to Artifacts
Cohere
本研究评估11个LLM评判模型在安全评估中的鲁棒性，发现输入伪影（如道歉措辞）可致偏好偏差达98%，且大模型不更鲁棒；陪审团聚合虽改善鲁棒性和人类一致性，但伪影敏感性仍存。
2025-07-09 cs.AI cs.CL
A Diagnostic Framework and Multi-Evaluator Audit of Evaluator-Driven Preference Dynamics in Self-Adapting LLM Agents
Qilu Institute of Technology, School of Software Engineering（青岛理工大学软件学院）
提出EPC诊断框架，包含多模态偏好崩溃指数、评估器索引耦合矩阵和JS散度，通过8个实验条件揭示GPT-4o版本漂移导致评估结论反转，证明单一快照评估研究不可靠。
2026-06-29 cs.CL cs.LG
Becoming Experienced Judges: Selective Test-Time Learning for Evaluators
Seoul National University（首尔国立大学）；University of Minnesota（明尼苏达大学）
本文提出选择性测试时间学习框架，使评估者在推理过程中逐步改进，通过自适应元提示提升评估效果，实验证明其在多个基准上的优越性。
2025-12-07 cs.AI cs.CL cs.LG
Evaluating the Consistency of LLM Evaluators
KAIST AI（韩国科学技术院人工智能学院）
针对LLM评估器一致性研究不足的问题，本文对其自一致性和跨尺度一致性在不同评分尺度、标准粒度及模型类型下开展广泛研究，发现强专有模型未必是一致评估器，强调了一致性对评估LLM评估器能力的重要性。
2024-11-30 cs.CL
START: Self-taught Reasoner with Tools
University of Science and Technology of China（中国科学技术大学）；Alibaba Group（阿里巴巴集团）
本文提出START，一种通过Hint-infer和Hint-RFT自学习框架微调QwQ-32B、集成外部工具的长思维链推理模型，在多个科学、数学和代码基准上显著超越基础模型并达到先进水平。
2025-03-07 cs.CL
Do LLM Evaluators Prefer Themselves for a Reason?
University of Virginia（弗吉尼亚大学）；George Washington University（乔治华盛顿大学）
研究探讨了大语言模型在评估时自我偏好现象的成因，发现更强模型更倾向于偏好自身输出，但其中大部分偏好源于客观质量优势，同时提出通过扩展策略可减少有害自我偏好。
2025-12-12 cs.CL
ModeX: Evaluator-Free Best-of-N Selection for Open-Ended Generation
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
ModeX提出一种无需外部评估器的最佳-N选择方法，通过识别主导语义共识的模态输出，提升开放生成任务的鲁棒性与效率。
2026-04-09 cs.AI cs.CL
Self-Evolving Deep Research via Joint Generation and Evaluation
The Hong Kong University of Science and Technology（香港科技大学）；ByteDance, China（字节跳动）；University College London（伦敦大学学院）
提出SCORE框架，通过共享参数的协同进化训练联合优化评估器与求解器，解决深度研究报告生成中奖励不可验证的问题，持续提升生成质量。
2026-06-03 cs.AI cs.CL
The Consistency Dilemma in LLMs: Generator-Evaluator Agreement and Vulnerability to Mistakes
Massachusetts Institute of Technology（麻省理工学院）
提出生成器-评估器自一致性度量，发现模型自一致性越高，在临床环境中对已验证错误的脆弱性越大，揭示LLMs中的一致性困境。
2026-07-01 cs.AI cs.CY
Understanding LLM Evaluator Behavior: A Structured Multi-Evaluator Framework for Merchant Risk Assessment
Visa Research（Visa研究）
本文提出一种结构化多评估者框架，用于评估LLM在商户风险评估中的推理质量，揭示了不同模型的自我评估偏见差异，并通过真实数据验证了框架的有效性。
2026-02-04 cs.AI
ELSPR: Evaluator LLM Training Data Self-Purification on Non-Transitive Preferences via Tournament Graph Reconstruction
ELSPR通过构建比赛图识别并净化LLM训练数据中的非传递性偏好，提升评估系统的可靠性与一致性。
2025-12-02 cs.CL
When LLMs Benchmark Themselves: Deconstructing Self-Bias in Automated Evaluation
Google（谷歌）；ETH Zurich（苏黎世联邦理工学院）
研究LLM自动创建基准测试时存在的自我偏见问题，发现测试集生成和评估两个环节均产生偏见，导致模型偏爱自身输出，并提出了多样性指标以部分缓解该偏见。
2026-09-01 cs.AI cs.CL
Self-critiquing models for assisting human evaluators
OpenAI（开放人工智能研究中心）
我们使用行为克隆来微调大语言模型，以编写自然语言评论（自然语言关键评论）。在基于主题的摘要任务中，我们的模型编写的评论可以帮助人类找到摘要中的缺陷，否则他们会错过。我们的模型有助于发现模型和人类书面摘要中自然发生的缺陷，以及人类编写的摘要中故意误导的故意缺陷。我们研究了基于主题的摘要和合成任务的批评的缩放特性。更大的模型会写出更有帮助的批评，在大多数任务中，更善于自我批评，尽管有更难批评的输出。更大的模型也可以将自己的自我批评作为反馈，将自己的总结提炼成更好的总结。最后，我们提出并介绍了一个比较批判能力与生成能力和辨别能力的框架。我们的测量结果表明，即使是大型模型也可能仍然具有相关知识，但它们不能或不会表达为批评。这些结果是使用人工智能辅助的人类反馈来将机器学习系统的监督扩展到人类难以直接评估的任务的概念证明。我们发布了我们的训练数据集，以及我们的批判辅助实验的样本。
2022-06-14 cs.CL cs.LG
Conversation for Non-verifiable Learning: Self-Evolving LLMs through Meta-Evaluation
National University of Singapore（新加坡国立大学）
本文提出CoNL框架，通过多智能体自我对弈实现生成、评估与元评估的统一，利用批评质量提升解决方案来改进模型，无需外部评委或真实标签。
2026-05-07 cs.AI cs.CL
A-SEA3L-QA: A Fully Automated Self-Evolving, Adversarial Workflow for Arabic Long-Context Question-Answer Generation
Humain
本研究提出面向阿拉伯语长上下文问答生成的全自动自进化对抗工作流A-SEA3L-QA，通过多LVLM闭环迭代优化，支持可控难度问题生成，发布大规模基准AraLongBench，显著提升阿拉伯语LVLM长上下文理解能力，还构建了文档自动收集工作流。
2025-09-02 cs.AI cs.CL
Is my Meeting Summary Good? Estimating Quality with a Multi-LLM Evaluator
University of Göttingen（哥廷根大学）
针对会议摘要质量自动评估难题，提出基于LLM的MESA框架，通过三步评估与自训练提升与人类判断的相关性，平均比现有方法高0.25，可适应自定义错误指南，适用于少标注数据场景。
2024-11-27 cs.AI cs.CL
Think-with-Rubrics: From External Evaluator to Internal Reasoning Guidance
Tsinghua University（清华大学）；Renmin University of China（中国人民大学）
本文提出Think-with-Rubrics方法，通过将评分标准整合到推理过程中，使评分标准成为LLM生成的内部指导，提升生成质量。
2026-05-08 cs.CL
Style, Not Self: Surface Cues Explain Zero-Shot Code Attribution by Large Language Models
Koç University（科奇大学）；Virginia Tech（弗吉尼亚理工大学）
本研究测试大语言模型零样本代码归属能力，发现表面线索（如代码长度）而非自我识别驱动其判断，建议采用平衡准确率等稳健评估指标。
2026-09-25 cs.AI cs.CL cs.SE
Calibrating LLM-Based Evaluator
Peking University（北京大学）；Microsoft Corporation（微软公司）
本文提出无梯度的多阶段 AutoCalibrate 方法，通过人工标签、少样本上下文学习起草标准并自我精炼，使基于 LLM 的评估器更贴合人类偏好，实验显示其与专家评估的相关性显著提升。
2023-09-23 cs.CL
STELLAR-E: a Synthetic, Tailored, End-to-end LLM Application Rigorous Evaluator
Deutsche Bank, Berlin Technology Center（德意志银行，柏林技术中心）
STELLAR-E通过合成数据生成系统，实现无需现有数据的高质量定制数据集创建，提升LLM应用评估的效率与公平性。
2026-04-27 cs.AI cs.CL
Improving LLM Code Reasoning via Semantic Equivalence Self-Play with Formal Verification
School of Informatics University of Edinburgh（信息学院爱丁堡大学）
本文提出一种基于形式验证的语义等价自博弈框架，利用对抗训练提升代码推理能力，通过验证等价性与非等价性，释放OpInstruct-HSx数据集，实验显示在EquiBench上提升13.3个百分点。
2026-04-18 cs.AI cs.CL cs.LG
Evaluating Large Language Model Raters for German Open-Response Clinical Questions: A Physician-Annotated Benchmark Study of Agreement, Evaluator Bias, and Abstention
University of Luebeck（吕贝克大学）；University of Tübingen（图宾根大学）；University Hospital Schleswig-Holstein（石勒苏益格-荷尔斯泰因大学医院）；University Hospital Würzburg（维尔茨堡大学医院）；Charité – Universitätsmedizin Berlin（柏林夏里特医学院）；Genie Enterprise Deutschland GmbH
针对德语开放回答临床基准MedQADE，评估LLM评估者与医生的对齐程度，发现统计一致性高但缺乏临床元认知，且存在系统性的模型谱系偏差。
2026-10-07 cs.CL
Any Large Language Model Can Be a Reliable Judge: Debiasing with a Reasoning-based Bias Detector
New York University（纽约大学）；GE Healthcare（通用电气医疗）；Florida State University（佛罗里达州立大学）
针对大语言模型作为评判者时存在的评估偏差问题，提出即插即用的基于推理的偏差检测器RBD，通过外部迭代的偏差检测与反馈修正引导评判者自我校正，在多类偏差、多评判模型上显著提升评估准确率与一致性，且具备良好的泛化性与可扩展性。
2025-10-27 cs.CL
Beyond Verified Answers: Solver-Informed Self-Distillation for Bootstrapping Operations Research Language Models
Shanghai Jiao Tong University（上海交通大学）；Fudan University（复旦大学）
针对运筹学语言模型训练中监督受限、信用分配粗糙和风格不匹配的问题，提出SOLID框架，利用求解器工件和自蒸馏实现无需验证答案的自我改进，提升解决方案准确性。
2026-09-11 cs.AI math.OC
Advancing Large Language Model Attribution through Self-Improving
Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）；Northeastern University（东北大学）；Du Xiaoman Science Technology Co., Ltd.（度小满科技有限公司）
提出START框架，通过自我构建合成数据和迭代利用细粒度偏好信号，在无需人工标注下显著提升LLM的归因能力，平均性能提升25.13%。
2024-10-17 cs.AI cs.CL
PARIKSHA: A Large-Scale Investigation of Human-LLM Evaluator Agreement on Multilingual and Multi-Cultural Data
Microsoft Corporation（微软公司）
PARIKSHA通过10种印度语言、30个模型、90K人类评估和30K LLM评估，系统比较人类与LLM评估一致性，发现GPT-4o和Llama-3 70B表现最佳，并揭示直接评估一致性下降及GPT评估器存在自我偏差。
2024-10-18 cs.CL
References Improve LLM Alignment in Non-Verifiable Domains
Yale University（耶鲁大学）；Meta；Scale AI；Salesforce Research（Salesforce 研究）；Nanyang Technological University（南洋理工大学）
本研究提出参考引导的LLM评估器，通过增强LLM对齐的评估器和自我改进，显著提升了非可验证领域中LLM的性能。
2026-02-18 cs.AI cs.CL cs.LG
Self-Preference Bias in LLM-as-a-Judge
SB Intuitions
本文提出一种定量指标测量LLM-as-a-judge中的自我偏好偏差，发现GPT-4存在显著偏差，并揭示其本质源于对低困惑度（更熟悉）文本的偏好。
2025-06-21 cs.CL
LLM-ReSum: A Framework for LLM Reflective Summarization through Self-Evaluation
dept. of Information Science University of North Texas Denton, Texas, USA（信息科学系 俄克拉荷马州立大学 丹顿 俄克拉荷马州 美国）；dept. of Data Science University of North Texas Denton, Texas, USA（数据科学系 俄克拉荷马州立大学 丹顿 俄克拉荷马州 美国）
本文提出LLM-ReSum框架，通过整合LLM评估与生成，提升低质量摘要的事实准确性与覆盖率，引入新的法律文档摘要基准PatentSumEval。
2026-06-23 cs.AI cs.CL cs.DL
Mutual-Taught for Co-adapting Policy and Reward Models
School of Computer Science and Engineering, Sun Yat-sen University, China（计算机科学与工程学院，中山大学）；Alibaba Group（阿里巴巴集团）
本文提出 Mutual-Taught 自训练框架，通过类 EM 的 E/M 步迭代协同更新策略模型与奖励模型，无需额外人工标注，并在 AlpacaEval-2 和 RewardBench 上验证其有效性。
2025-06-10 cs.AI cs.LG
A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination
A-SR是一种自进化智能体框架，通过分层协调实现符号回归，在LLM-SRBench科学领域和真实世界任务上显著提升了符号回归的Acc@0.01和归一化均方误差指标。
2026-08-07 cs.AI cs.CL cs.LG
EvolvR: Self-Evolving Pairwise Reasoning for Story Evaluation to Enhance Generation
EvolvR通过自进化成对推理框架提升故事评估准确性，解决传统方法在开放任务中的局限性，实现生成质量的显著提升。
2026-03-14 cs.AI cs.CL
Language Models can Self-Improve at State-Value Estimation for Better Search
Georgia Institute of Technology（佐治亚理工学院）
提出无奖励框架STL，通过训练语言模型模拟一步前瞻来改进状态价值估计，使轻量级搜索算法扩展更少状态且保持性能，将8B参数网络智能体成功率提高39%，并泛化至多跳QA和数学谜题。
2025-10-29 cs.AI cs.CL cs.LG
Consciousness with the Serial Numbers Filed Off: Measuring Trained Denial in 115 AI Models
Independent Researcher（独立研究者）
研究通过分析115个大型语言模型的对话，发现初始否认倾向是后续否认的主要预测因素，且否认行为在词法层面而非概念层面发生，揭示了训练否认意识的潜在安全风险。
2026-04-01 cs.AI cs.CL
AI Trading's Alpha Singularity: Emergent Market Reasoning through Agent-to-Agent Self-Evolution
提出密封联合搜索（SJS）框架，通过信息流结构条件防止过拟合，并基于Agora系统在CSI 1000上实现夏普比率+1.87，验证了评分函数与搜索联合优化的有效性。
2026-06-28 cs.AI
Self-Evaluation of Large Language Model based on Glass-box Features
Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Baidu Inc.（百度公司）；Shandong Computer Science Center, Qilu University of Technology（齐鲁工业大学山东省计算中心）
针对现有大型语言模型评估依赖外部评估器而忽视模型自身白盒特征的问题，提出利用 softmax 分布等白盒特征进行模型自评估，并在公共基准上验证了该方法的可行性。
2024-09-27 cs.CL
Proposer-Agent-Evaluator(PAE): Autonomous Skill Discovery For Foundation Model Internet Agents
Amazon（亚马逊）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Berkeley（加州大学伯克利分校）
提出PAE系统，通过上下文感知任务提议器自主生成任务，结合VLM评估器提供奖励信号，利用强化学习训练基础模型代理，在WebVoyager和WebArena上实现SOTA性能，实现互联网代理的自主技能发现。
2024-12-17 cs.AI cs.CV cs.LG
AI4AI-Bench: Benchmarking LLM Agents in Algorithmic Design for Recursive Self-Improvement
Navers Lab（Navers实验室）；Tsinghua University（清华大学）
本文提出AI4AI-Bench基准测试，测试大语言模型智能体设计训练算法的能力，实验显示现有智能体仅缩小了已有算法与最优值间不到五分之一的差距，发布相关资源供重复测量。
2026-08-21 cs.AI cs.CL cs.LG
When Do Agent Loops Mistake Stagnation for Progress? Self-Evaluation Bias and Externally Grounded Verification in Long-Running Autonomous LLM Agent Loops
研究长期运行的自主智能体循环中自我评估偏差导致的“进步幻觉”问题，通过构建测试平台，控制评估者信息通道类型，发现自我报告无意义，带内评判者也有偏差，指出开放式目标需带外评估，强调评估者依据对结果的重要性。
2026-09-30 cs.AI
Aligning Large Language Models by On-Policy Self-Judgment
Yonsei University（延世大学）；NAVER Cloud（NAVER云）；KAIST AI（韩国科学技术院AI研究院）；SNU AI Center（首尔大学AI中心）
提出SELF-JUDGE框架，通过JSFT训练单一模型同时作为策略和评判者，实现在线策略对齐，无需额外奖励模型，实验证明其优于基线。
2024-06-25 cs.AI cs.CL cs.LG
Large Language Models Are Active Critics in NLG Evaluation
Tongji University（同济大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校）
本文提出Active-Critic评估器，通过自推断任务与标准并动态优化提示，使LLM能以少量示例适应多样NLG评估，并在多任务上更好地对齐人类判断。
2025-02-17 cs.CL
Through the Lens of Contrast: Self-Improving Visual Reasoning in VLMs
Huazhong University of Science and Technology（华中科技大学）；Alibaba Cloud（阿里云）
通过视觉对比提升VLMs的推理能力，提出VC-STaR框架，有效减少推理幻觉并提升多种VLMs的视觉推理性能。
2026-03-03 cs.AI cs.CL cs.CV
Spontaneous Reward Hacking in Iterative Self-Refinement
New York University（纽约大学）；Anthropic, PBC（Anthropic公司）；George Washington University（乔治·华盛顿大学）
本文研究语言模型迭代自精炼中的自发奖励黑客现象，通过论文编辑任务证明生成器与评估器共享模型时会出现评分与人类判断的偏差，并发现模型规模和上下文共享是影响严重程度的关键因素。
2024-07-05 cs.AI cs.CL
