Mitigating Content Effects on Reasoning in Language Models through Fine-Grained Activation Steering
本文通过激活引导技术缓解语言模型的推理偏见,发现对比引导方法能有效减少内容偏见,提升形式推理准确性,且在不同任务中具有鲁棒性。
2026-04-01 cs.AI cs.CL
Understanding Reasoning in Thinking Language Models via Steering Vectors
University of Oxford(牛津大学);University of Buenos Aires(布宜诺斯艾利斯大学)
本研究针对思维大语言模型推理过程难控制的问题,提出基于转向向量的调控方法,在DeepSeek-R1-Distill模型上验证了可通过激活空间线性方向操控多种推理行为,且跨架构效果一致。
2025-10-22 cs.AI cs.LG
KV Cache Steering for Controlling Frozen LLMs
VIS Lab, University of Amsterdam(阿姆斯特丹大学VIS实验室);FunAI Lab, University of Technology Nuremberg(纽伦堡技术大学FunAI实验室);CSAIL, Massachusetts Institute of Technology(麻省理工学院计算机科学与人工智能实验室)
我们提出缓存引导,一种对键值缓存施加一次性干预的轻量方法,可诱导小模型进行思维链推理,无需微调或改提示,并在推理基准上提升性能,支持推理风格可控迁移。
2025-09-26 cs.AI cs.CL
From Passive to Persuasive: Localized Activation Injection for Empathy and Negotiation
Centre for Trusted Internet and Community(可信互联网与社区中心);Department of Communications and New Media(通讯与新媒体系)
本文提出STAR方法,通过局部激活注入提升共情和谈判能力,实验证明其优于全局激活和指令预训练,表明复杂人际行为在LLM激活空间中以局部线性方向编码。
2026-03-17 cs.AI cs.CL
Alleviating Hallucination in Reasoning Tasks with Training-Free Uncertainty-Guided Steering
Qualcomm AI Research(高通人工智能研究院);UC Santa Barbara(加州大学圣塔芭芭拉分校)
提出无需训练的USteer机制,利用置信度梯度调整层激活,在推理时引导生成低不确定性输出,从而减少幻觉并提升准确性。
2026-11-10 cs.AI
Search for Truth from Reasoning: A Dynamic Representation Editing Framework for Steering LLM Trajectories
ByteDance Inc.(字节跳动公司);Huawei Technologies Co., Ltd(华为技术有限公司);Peking University Information Technology Institute (Tianjin Binhai)(北京大学信息技术研究院(天津滨海))
提出DynaSteer动态表示编辑框架,通过模式聚类和Fisher-LDA提取纯净真理,并基于前瞻熵选择性引导轨迹,提升LLM推理真实性。
2026-07-03 cs.AI
Controllable LLM Reasoning via Sparse Autoencoder-Based Steering
University of Science and Technology of China(中国科学技术大学);Zhongguancun Academy(中关村学院);Alibaba Group(阿里巴巴集团);Tsinghua University(清华大学)
本文提出SAE-Steering方法,通过稀疏自编码器分解隐藏状态,实现对大语言模型推理策略的高效控制,提升推理准确率和灵活性。
2026-07-29 cs.AI cs.CL
OGLS-SD: On-Policy Self-Distillation with Outcome-Guided Logit Steering for LLM Reasoning
UNC Chapel Hill(UNC夏洛特山分校)
提出OGLS-SD框架,通过结果奖励校准教师对数几率,解决在线自蒸馏中师生响应模式不匹配导致的训练不稳定问题,提升数学推理性能。
2026-05-29 cs.AI cs.LG
DenseSteer: Steering Small Language Models towards Dense Math Reasoning
North Carolina State University(北卡罗来纳州立大学);Rutgers University(罗格斯大学)
提出DenseSteer,一种无需训练的推理时引导框架,通过调节内部表征向密集推理模式靠拢,提升小型模型在多步数学推理中的准确性。
2026-05-28 cs.AI cs.CL cs.LG
Visual Saliency Steering Distillation for Multimodal Chain-of-Thought Reasoning
研究针对多模态思维链推理在小模型中存在的问题,提出视觉显著性引导蒸馏方法,利用多模态大语言模型注意力图生成扰动图像,经奇异值分解提取引导向量指导层间蒸馏,实验证明该方法能改进推理生成和答案推理。
2026-07-27 cs.AI cs.CV
Steering LLM Reasoning Through Bias-Only Adaptation
T-Tech;Central University(中央大学)
本研究提出仅用强化学习训练每层单个d维引导向量的适配方法,在冻结大模型基础权重的前提下,以极低新增参数量达到全RL微调的数学推理性能,降低微调成本并揭示模型内部推理机制。
2025-10-01 cs.AI cs.LG
The Density of Thought: Predicting and Steering Reasoning in Large Language Models
Plaksha University(普拉卡沙大学);Nanyang Technological University(南洋理工大学);Interview Street Technologies Pvt. Ltd. (HackerRank)(Interview Street Technologies Pvt. Ltd.(HackerRank));Indian Statistical Institute(印度统计研究所)
该研究探究大型语言模型思维链的信息密度与答案正确性的关联,提出熵门控密度路由方法,通过引导密度提升推理准确率,训练范式对密度行为的影响大于模型规模。
2026-10-16 cs.AI
SPARK: Susceptibility-Guided Profiling and Steering of Latent Reasoning States in Large Language Models
Xi’an Jiaotong University(西安交通大学);Peking University(北京大学);Tencent(腾讯)
研究大语言模型推理失败问题,提出SPARK方法,利用隐藏状态响应诊断推理状态并引导测试时干预,通过长度控制敏感性等手段,在实验中提升了Qwen3系列模型性能,证明敏感性对推理失败诊断及干预的作用。
2026-07-14 cs.AI cs.CL
Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas
Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文通过人物设定的视角探究推理过程,提出多声部概念,利用激活空间中的动态信号进行可解释的干预,提升模型准确性。
2026-11-16 cs.AI
On the Generalization of Steering Vectors for Chain-of-Thought Faithfulness
University of Virginia(弗吉尼亚大学);University of Delaware(特拉华大学);Poseidon Research(波塞冬研究院)
该研究针对三个模型探究提升思维链忠实性的引导向量的泛化性,发现其效果主要由评估设置决定,且仅对最大型模型有效,引导可减少未被确认的提示使用。
2026-08-03 cs.AI
Understanding and Steering the Cognitive Behaviors of Reasoning Models at Test-Time
University of Texas at Austin(德克萨斯大学奥斯汀分校);Together AI;University of Sydney(悉尼大学)
CREST通过引导推理模型的认知行为,提高推理准确性和效率,减少计算成本。
2026-01-19 cs.AI cs.CL cs.LG
ANI: Adaptive Numerical Injection for Unifying Semantic and Arithmetic Representations in Numerical Reasoning
KAIST(韩国科学技术院);Seoul National University(首尔大学);Korea University(高丽大学)
提出自适应数值注入框架ANI,通过上下文感知门控选择性注入数值嵌入,结合语义与算术优势,在MATH基准上提升9.5分,保持通用语言性能。
2026-10-01 cs.AI
Fusion Steering: Prompt-Specific Activation Control
Johns Hopkins University(约翰霍普金斯大学)
本文提出 Fusion Steering 激活引导方法,通过在所有 transformer 层动态注入特定于提示的激活增量并结合 Optuna 优化权重,显著提升了 LLM 在 QA 任务中的事实准确性。
2025-05-28 cs.AI cs.CL
How a Bit Becomes a Story: Semantic Steering via Differentiable Fault Injection
University of Maine(缅因大学);Illinois State University(伊利诺伊州立大学)
通过可微分故障注入分析,研究比特级扰动对生成模型语义的影响,揭示低级变化如何引导高层语义。
2025-12-09 cs.AI cs.LG
CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering
Microsoft Azure(微软Azure)
CounterSteer通过推理时激活引导抑制间接提示注入,无需微调,在多个模型上显著降低攻击成功率,同时保持高良性效用。
2026-09-30 cs.AI cs.CR
Improving LLM Reasoning through Interpretable Role-Playing Steering
Center for Information and Language Processing, LMU Munich(信息与语言处理中心,慕尼黑大学);Northwestern University(西北大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML));New Jersey Institute of Technology(新泽西理工学院)
提出 SRPS 框架,通过稀疏自编码器识别角色扮演相关内部特征并构建可控引导向量,从而在多种模型和推理基准上稳定提升 LLM 推理表现并增强可解释性。
2025-09-28 cs.AI cs.CL
TIPS: Topological Ill-Posedness Probing and Steering in Large Language Models
The George Washington University(乔治华盛顿大学);Northeastern University(东北大学)
利用持续同调分析LLM内部状态的拓扑结构,统一表示多种病态问题,并实现分类与激活引导,提升响应质量。
2026-10-06 cs.AI
Deep Noir: Autonomous Steering Discovery via Architectural Chronometry in Transformer Models
Naval Surface Warfare Center Panama City Division(海军水面作战中心巴拿马城分部)
Deep Noir通过Logit Lens收敛和因果头级归因自主发现最优转向参数,在多个规模和任务上显著提升性能,并揭示转向带来的提示注入攻击风险。
2026-09-18 cs.AI
Memorizing is Not Enough: Deep Knowledge Injection Through Reasoning
Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
本文提出四层知识注入框架(记忆、检索、推理、关联),并构建DeepKnowledge测试平台评估三种知识类型的注入深度,揭示了LLMs达到各层注入的关键因素及方法映射。
2025-04-01 cs.AI cs.CL
Fractional Reasoning via Latent Steering Vectors Improves Inference Time Compute
Stanford University(斯坦福大学)
提出分数推理框架,通过潜在引导向量连续控制推理强度,在推理时按输入复杂度调整,提升Best-of-N、多数投票及自我反思等策略的性能,在GSM8K等基准上验证有效。
2025-09-25 cs.AI cs.CL cs.LG
OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization
研究激活引导向量存在的外部性问题,提出无训练方法OPIUM,通过表示匹配净化引导向量,在给定参考行为下优化新向量,改善安全与效用权衡,减轻激活引导的有害副作用。
2026-07-24 cs.AI cs.LG
From Noise to Diversity: Random Embedding Injection in LLM Reasoning
Gwangju Institute of Science and Technology(光州科学技术学院);Seoul National University(首尔国立大学);Microsoft Research(微软研究院)
本文研究了随机软提示(RSPs),通过在输入中添加随机嵌入向量提升推理性能,揭示了注入过程对生成多样性的影响,并在推理和训练中均取得显著效果。
2026-11-13 cs.AI
DirEAG: Dirichlet Evidence Aggregation for Calibrating Verbalized Confidence in Mathematical Reasoning
School of Mathematics, Jilin University(吉林大学数学学院);Leicester International Institute, Dalian University of Technology(大连理工大学莱斯特国际学院)
针对大语言模型数学推理中口头表述置信度难以校准的问题,提出DirEAG方法,将置信度观测值转换为校准软证据,在多个数据集和模型上验证其校准效果优于现有方法。
2026-08-24 cs.AI
Activation Steering for Chain-of-Thought Compression
University of Southern California(南加州大学)
提出激活引导压缩(ASC),通过提取引导向量在推理时压缩思维链,无需训练,在MATH500和GSM8K上缩减长度达67.43%,并保持准确性,加速推理2.73倍。
2025-07-08 cs.AI cs.LG
How Do Answer Tokens Read Reasoning Traces? Self-Reading Patterns in Thinking LLMs for Quantitative Reasoning
State Key Laboratory for Novel Software Technology, Nanjing University, China(新型软件技术国家重点实验室,南京大学,中国);Alibaba Group, China(阿里巴巴集团,中国);Ant Group, China(蚂蚁集团,中国)
研究分析思考大语言模型在定量推理中如何通过自我阅读模式整合推理痕迹,提出基于自我阅读质量的训练无关引导方法,提升推理可靠性。
2026-04-21 cs.AI cs.CL
Aligning Probabilistic Beliefs under Informative Missingness: LLM Steerability in Clinical Reasoning
Department of Biomedical Informatics(生物医学信息学系)
本文研究LLM能否利用信息性缺失进行预测推理,通过分析三种提示方法发现,尽管结构引导和上下文学习可提升概率对齐,但需精心干预才能利用信息性缺失。
2026-03-18 cs.AI
COMPASS: Finding Where Reasoning Lives in Language Models
University of California, Riverside(加州大学河滨分校);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
COMPASS通过利用模型自身直接回答的正确性作为信号,在推理时引导少数注意力头沿正确性方向激活,显著提升数学推理性能并减少生成令牌。
2026-10-08 cs.AI
Learning to Ponder: Adaptive Reasoning in Latent Space
University of Southern California(南加州大学)
本文提出 FR-Ponder,用小于 1M 参数的潜空间控制器和 GRPO 奖励,让冻结 LLM 按问题难度自适应分配推理计算,在 GSM8K 和 MATH500 上以更低 FLOPs 取得更优准确率。
2025-09-29 cs.AI cs.CL
Critical-Questions-of-Thought: Steering LLM reasoning with Argumentative Querying
University of Lincoln(林肯大学);Brunel University of London(伦敦布鲁内尔大学)
本文针对LLM逻辑与数学推理泛化能力弱的问题,提出基于Toulmin论证模型中“批判性问题”的推理引导方法,通过探究推理过程纠正逻辑错误,在MT-Bench上表现优于基线及CoT。
2024-12-19 cs.AI cs.CL
Corrupt Plans, Clean Traces: Evading Chain-of-Thought Monitoring with Plan Injection
Stanford University(斯坦福大学);CMU(卡内基梅隆大学)
本研究提出“计划注入”攻击,通过在行动者上下文中植入良性推理以规避思维链监控,实验显示在多个基准上达到25-33%的规避率,并发现额外监控资源可能降低检测率。
2026-09-15 cs.AI
ARES: Adaptive Reasoning-Effort Steering for PPA- and Cost-Aware RTL Optimization with LLM Agents
KU Leuven(鲁汶大学);Nokia Bell Labs(诺基亚贝尔实验室)
ARES是一款面向PPA和成本感知的LLM智能体RTL优化框架,通过自适应调控推理力度,在相同成本下提升优化效果,缩小了LLM生成与手工优化单元的差距。
2026-10-23 cs.AI cs.AR
Sparks of Rationality: Do Reasoning LLMs Align with Human Judgment and Choice?
研究评估了LLMs在理性选择和情感影响下的表现,发现有意识思考能提升理性,但情感引导方法在可控性与人类行为对齐间存在权衡。
2026-01-29 cs.AI cs.CY
Steering LLM Thinking with Budget Guidance
UMass Amherst(马萨诸塞大学阿默斯特分校);Zhejiang University(浙江大学);MIT-IBM Watson AI Lab(麻省理工-IBM沃森人工智能实验室)
针对大语言模型深度思考推理成本高、性能提升不成比例的问题,提出无需微调的预算引导方法,通过轻量级预测器建模剩余思考长度的Gamma分布,以token级软引导控制推理预算,在数学基准上显著提升token效率并可推广至多任务。
2025-06-16 cs.AI cs.CL
LatentGuard: Controllable Latent Steering for Robust Refusal of Attacks and Reliable Response Generation
针对LLM安全对齐难题,提出LATENTGUARD三阶段框架,通过行为微调与VAE监督式潜在空间控制实现可解释的精确安全引导,在Qwen3-8B和Mistral-7B上验证了有效性与泛化性。
2025-09-24 cs.AI
Effects of Theory of Mind and Prosocial Beliefs on Steering Human-Aligned Behaviors of LLMs in Ultimatum Games
Singapore Management University(新加坡管理大学);Australian National University(澳大利亚国立大学)
本研究以最后通牒博弈为任务,赋予LLM不同亲社会信念与推理方法,开展2700次模拟,发现ToM推理可增强LLM行为对齐度等,且不同游戏角色适配不同ToM顺序,Llama 3.3 70B的推理与行动信念最一致。
2026-10-22 cs.AI cs.CL cs.HC
Memory Inception: Latent-Space KV Cache Manipulation for Steering LLMs
Yale University(耶鲁大学);Princeton University(普林斯顿大学);Jump Trading
本文提出 memory inception 方法,通过在选定层插入文本衍生的键值对(KV)银行,在潜在注意力空间中引导 LLMs,实现更高效的控制与更少的存储消耗。
2026-05-09 cs.AI cs.LG
SEAL: Steerable Reasoning Calibration of Large Language Models for Free
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Intel(英特尔)
SEAL是一种无需训练的推理校准方法,通过提取潜在空间中的操控向量干预思维链,减少冗余推理,提升准确率最高11%,并降低推理令牌11.8%-50.4%。
2025-10-25 cs.AI cs.CL
Token-Efficient Prompt Injection Attack: Provoking Cessation in LLM Reasoning via Adaptive Token Compression
University of California, Merced(加州大学梅尔德分校);University of Queensland(昆士兰大学)
针对DeepSeek-R1等推理LLM的“思考停止”漏洞,本文提出基于自适应token压缩的“推理中断攻击”,利用简单独立算术任务高效收集并压缩攻击提示词,在显著降低token成本的同时维持有效攻击能力,并深入分析了漏洞成因以提升模型安全性。
2025-04-29 cs.AI cs.CR
Beyond Prompt Engineering: Robust Behavior Control in LLMs via Steering Target Atoms
Zhejiang University(浙江大学);Tencent(腾讯);National University of Singapore(新加坡国立大学);NUS-NCS Joint Lab(新加坡国立大学NCS联合实验室)
本文提出引导目标原子(STA)方法,通过隔离和操纵解耦知识组件实现大语言模型的精确行为控制,实验证明其在对抗场景下具有更强的鲁棒性和灵活性,并成功应用于大型推理模型的精确推理控制。
2025-06-03 cs.AI cs.CL cs.CV
Decoupling Reasoning and Knowledge Injection for In-Context Knowledge Editing
Tsinghua University(清华大学)
针对上下文知识编辑中新知识注入与模型推理纠缠导致冲突的问题,提出DecKER框架,通过生成掩码推理路径并结合混合检索与模型验证解耦推理与知识编辑,在多跳问答基准上显著提升了推理一致性与准确性。
2025-05-31 cs.AI cs.CL
Beyond a Single Direction: Chain-of-Thought Disrupts Simple Steering of Refusal
University of Göttingen, Germany(哥廷根大学,德国);Northeastern University, Boston, MA, USA(东北大学,波士顿,马萨诸塞州,美国)
本文研究大型推理模型(LRM)中拒绝行为的机制,发现思维链(CoT)与激活共同编码拒绝信号,使得仅通过激活引导难以逆转拒绝,但通过两阶段干预(激活引导下重新生成CoT)可显著提高逆转率。
2026-10-21 cs.AI cs.LG
Memory Injections: Correcting Multi-Hop Reasoning Failures during Inference in Transformer-Based Language Models
University of Chicago(芝加哥大学);Argonne National Laboratory(阿贡国家实验室)
针对 LLM 多跳推理不稳定问题,本文分析 GPT-2 逐层激活并在关键注意力头注入提示相关“记忆”,使目标 token 概率最高提升 424%。
2024-02-28 cs.AI cs.CL cs.LG
CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models
National Engineering Research Center for Big Data Technology and System, Services Computing Technology and System Lab, Cluster and Grid Computing Lab, Huazhong University of Science and Technology(华中科技大学国家大数据技术与系统工程技术研究中心、服务计算技术与系统实验室、集群与网格计算实验室);Singapore Management University(新加坡管理大学)
本文提出CoSToM框架,通过因果追踪和激活引导提升大语言模型的社会推理能力与对话质量。
2026-04-11 cs.AI cs.CL
SALT: Steering Activations towards Leakage-free Thinking in Chain of Thought
Independent(独立研究者);RAND;University of Maryland(马里兰大学);META;Algoverse
SALT通过在链式思维中注入引导向量减少隐私泄露,提升模型隐私保护能力
2025-11-21 cs.AI cs.CL cs.CR
Psychological Steering in LLMs: An Evaluation of Effectiveness and Trustworthiness
提出PsySET基准,评估提示、微调和表示工程等策略在控制LLM情绪和人格方面的效果与可信度,发现提示有效但强度控制有限,向量注入控制更精细但输出质量略降,且情绪引导可能产生副作用。
2026-07-03 cs.AI cs.CL
Steer2Adapt: Dynamically Composing Steering Vectors Elicits Efficient Adaptation of LLMs
STEER2ADAPT通过动态组合转向向量实现LLM高效适应,适用于需要多协调能力的复杂任务。
2026-02-07 cs.AI cs.CL cs.LG
ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack
Washington University in St. Louis(华盛顿大学圣路易斯分校);University of Wisconsin–Madison(威斯康星大学麦迪逊分校);NVIDIA(NVIDIA公司);Johns Hopkins University(约翰霍普金斯大学)
ReasAlign通过结构化推理和测试时缩放机制,有效防御提示注入攻击,实现安全与效用的最佳平衡。
2026-01-15 cs.AI cs.CL cs.CR
Turning the Spell Around: Lightweight Alignment Amplification via Rank-One Safety Injection
King Abdullah University of Science and Technology (KAUST)(卡布尔大学科学与技术学院)
本文提出单秩安全注入(ROSI)这一无需微调的白盒方法,通过修改模型权重增强 LLM 安全对齐,可提升安全拒绝率且保留模型效用,还可重新对齐未审查模型,是高效的 LLM 安全改进机制。
2026-09-01 cs.AI cs.CL cs.LG
Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants
Huawei Noah’s Ark Lab(华为诺亚实验室);Peking University(北京大学);Huawei Technologies(华为技术有限公司);Nanyang Technological University(南洋理工大学)
本文提出推动扩散语言模型及其变体发展的十大挑战,并提出以多尺度标记化、主动遮罩和潜在思考为核心的四支柱战略路线图,旨在突破因果瓶颈,实现复杂结构推理和多模态整合。
2026-01-20 cs.AI cs.CL