LLMSteer: Improving Long-Context LLM Inference by Steering Attention on Reused Contexts
University of Chicago（芝加哥大学）
本文提出无需微调的LLMSteer框架，通过查询无关的注意力引导在重用上下文上改进长上下文LLM推理，将性能差距缩小65.9%并将延迟降低最多4.8倍。
2024-11-21 cs.CL cs.LG
SafeConstellations: Mitigating Over-Refusals in LLMs Through Task-Aware Representation Steering
Macquarie University（麦考瑞大学）；IOE, Pulchowk Campus（IOE普楚克校区）
本文提出SafeConstellations方法，通过任务感知的表示引导在推理时调整表示轨迹，减少大语言模型在处理良性指令时的过度拒绝现象，同时保持模型实用性。
2026-04-20 cs.CL
Identifying and Transferring Reasoning-Critical Neurons: Improving LLM Inference Reliability via Activation Steering
Shandong University（山东大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出AdaRAS，通过识别并引导推理关键神经元提升LLM推理可靠性，实验显示在数学和编程基准测试中取得显著改进。
2026-09-15 cs.CL
Continuous Interpretive Steering for Scalar Diversity
Sungkyunkwan University（成均馆大学）
本文提出连续解释性引导（CIS）方法，通过激活层面的连续变量探究分级语用解释，结合新数据集GraSD验证了LLM中分级语用敏感性的存在。
2026-04-08 cs.CL
Steer2Edit: From Activation Steering to Component-Level Editing
Department of Computer Science（计算机科学系）；Halıcıoğlu Data Science Institute, UC San Diego（哈利奇奥卢数据科学研究所，加州大学圣迭戈分校）
Steer2Edit通过将引导信号转化为可解释的参数更新，实现组件级权重编辑，提升模型的安全性、真实性和推理效率。
2026-11-10 cs.CL
Focusing Condition: Inference-Time Self-Contrastive Steering Elicits Better Conditional Text Embeddings in LLMs
本文提出推理时自对比引导（SCS）方法，通过构建无条件嵌入并干预注意力机制，提升大语言模型的条件文本嵌入质量，无需训练且即插即用。
2026-09-29 cs.CL
FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出FineSteer框架，通过条件引导和细粒度向量合成两个阶段实现高效引导，保留模型效用并提升引导效果，实验显示其在安全性和真实性基准上表现优异。
2026-04-16 cs.AI cs.CL cs.LG
Steering Safely or Off a Cliff? Rethinking Specificity and Robustness in Inference-Time Interventions
University of Maryland College Park（马里兰大学学院市）
本文提出模型转向中特异性和鲁棒性的评估框架，揭示转向方法在提升效率的同时可能牺牲安全性。
2026-02-05 cs.AI cs.CL cs.LG
Contrastive Prompting Enhances Sentence Embeddings in LLMs through Inference-Time Steering
State Key Laboratory for Novel Software Technology, Nanjing University, China（南京大学新型软件技术国家重点实验室）
针对大语言模型句子嵌入最后词元含过多非必要信息的问题，提出即插即用的对比提示推理调控方法，通过辅助提示对比引导编码核心语义，在多类任务和不同LLM上均提升了现有提示方法的性能。
2025-05-19 cs.CL
In-Distribution Steering: Balancing Control and Coherence in Language Model Generation
针对现有激活引导方法固定强度导致控制不足或文本质量下降的问题，提出分布内引导（IDS）方法，根据输入在表示空间中的分布动态调整干预强度，实现自适应干预，在分类任务上取得高准确率并保持生成文本连贯性。
2025-10-15 cs.CL
Mitigating Content Effects on Reasoning in Language Models through Fine-Grained Activation Steering
本文通过激活引导技术缓解语言模型的推理偏见，发现对比引导方法能有效减少内容偏见，提升形式推理准确性，且在不同任务中具有鲁棒性。
2026-04-01 cs.AI cs.CL
Steering Instruction Hierarchies at Inference Time
针对前沿大语言模型常违反指令层级的问题，提出无需训练的V-Steer方法，通过编辑缓存值向量调控指令层级，提升角色冲突基准准确率，性能优于仅提示基线，部分场景达到SoTA训练方法水平。
2026-07-30 cs.CL
UniSteer: Text-Guided Flow Matching in Activation Space for Versatile LLM Steering
ShanghaiTech University（上海科技大学）
提出UniSteer，一种文本引导的激活流匹配模型，通过学习残差流激活的条件分布，实现统一的行为控制、真实性引导、细粒度概念引导、多约束指令遵循和激活空间分类。
2026-05-28 cs.CL
REAL: Reading Out Transformer Activations for Precise Localization in Language Model Steering
研究旨在在不改变LLM参数的情况下引导其响应，核心挑战是识别关键内部模块。提出REAL框架，通过训练VQ - AE划分潜在空间，量化模块行为相关性来指导模块选择与引导强度。实验表明该方法能有效干预，提升真实性引导效果且具零样本泛化能力。
2026-07-14 cs.CL
ConSteer-RL: Steering Reasoning Capabilities in Large Language Models via Confidence-Aware Reinforcement Learning
Xi'an Jiaotong University（西安交通大学）；University of Science and Technology of China（中国科学技术大学）
提出ConSteer-RL框架，将模型log概率的token级置信度信号融入GRPO，通过置信度感知奖励塑造机制惩罚过度自信错误并强化正确自信推理，在多个模型规模上平均提升2.3%-4.0%。
2026-06-06 cs.CL cs.LG
Decomposing and Steering Functional Metacognition in Large Language Models
Shopee Shanghai China（Shopee上海中国）；Shopee Beijing China（Shopee北京中国）；Shopee Singapore Singapore（Shopee新加坡新加坡）
研究通过分析大型语言模型的内部激活，揭示功能元认知状态的可分解性，并展示如何通过引导激活方向来调控推理行为。
2026-05-09 cs.CL
ALTSTEER: Selective Safety Steering for Moving Beyond Hard Refusals to Constructive Alternatives
Chung-Ang University（中央大学）
该研究提出推理时框架ALTSTEER，结合选择性干预与拒绝锚定的建设性重定向，在Llama-3.1和Qwen2.5上验证其可保持良性效用并提升建设性安全完成行为。
2026-09-01 cs.CL cs.SE
Inference-time Alignment via Sparse Junction Steering
Nanyang Technological University（南洋理工大学）；Zhejiang University（浙江大学）；G Labs（0G实验室）
通过稀疏节点引导方法，实现更高效的推理过程对齐，减少计算开销并提升生成质量。
2026-11-10 cs.AI cs.CL
The Hawthorne Effect in Reasoning Models: Evaluating and Steering Test Awareness
Microsoft（微软公司）；ELLIS Institute Tübingen & MPI for Intelligent Systems（图宾根ELLIS研究所及智能系统马克斯·普朗克研究所）；Tübingen AI Center（图宾根人工智能中心）
本研究首次定量探究推理大语言模型的测试感知对安全任务表现的影响，提出白盒探测框架识别并调控测试感知激活，发现其显著影响模型安全对齐效果，为安全评估提供压力测试机制以提升可信度。
2025-10-28 cs.CL cs.CY
Semantics-Adaptive Activation Intervention for LLMs via Dynamic Steering Vectors
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Huawei Technologies Co., Ltd.（华为技术有限公司）；School of Engineering, RMIT University（RMIT大学工程学院）
提出语义自适应动态干预（SADI），利用对比对激活差异识别关键元素，在推理时动态构建引导向量缩放激活，无需训练即可显著提升大语言模型任务性能，并具良好泛化性。
2025-02-24 cs.CL
EmoShift: Lightweight Activation Steering for Enhanced Emotion-Aware Speech Synthesis
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；The Hong Kong Polytechnic University（香港理工大学）；Tianjin University（天津大学）
EmoShift通过轻量级激活引导框架提升情感感知语音合成的情感表达与自然性。
2026-01-30 cs.AI cs.CL cs.SD
Steering Multimodal Large Language Models Decoding for Context-Aware Safety
University of Notre Dame（notre dame 大学）；University of Washington（华盛顿大学）；Johns Hopkins University（约翰霍普金斯大学）；Georgia Institute of Technology（佐治亚理工学院）
针对多模态大语言模型安全对齐的平衡难题，提出SafeCoDe解码框架，通过两阶段机制优化上下文敏感的弃权行为，在多基准实验中有效提升安全性能且保留模型有用性。
2026-08-31 cs.AI cs.CL
Can Activation Steering Capture Multidimensional Authorship Style?
University of Maryland（马里兰大学）
该研究提出无需训练的A3S框架，通过结构化对比提示处理多维作者风格，在风格迁移与域外评估中表现优于基线，且样本重叠度低。
2026-09-07 cs.AI cs.CL
No Training Wheels: Steering Vectors for Bias Correction at Inference Time
本文提出一种无需训练的推理时方法，通过计算群体间激活差异定义偏置向量并从残差流中减去，以降低分类偏置并提升最差群体准确率。
2025-06-23 cs.CL cs.CV cs.LG
DFKI-MLT at SemEval-2026 TASK 7: Steering Multilingual Models Towards Cultural Knowledge
German Research Center for Artificial Intelligence (DFKI GmbH)（德国人工智能研究中心（DFKI GmbH））；Saarland Informatics Campus（萨尔布吕肯信息学校区）；Barcelona Supercomputing Center (BSC-CNS)（巴塞罗那超级计算中心（BSC-CNS））
本研究提出使用从并行 FLORES 数据中提取的语言向量进行激活引导，在推理时调整多语言模型以提升文化知识，并在 SemEval-2026 任务 7 的 MCQ 赛道上取得 86.96% 准确率，排名第 7。
2026-05-21 cs.CL
Prototype-Based Dynamic Steering for Large Language Models
Drexel University（德雷塞尔大学）
提出基于原型的动态引导（PDS），通过聚类激活差异生成实例特定引导向量，无需微调或提示工程即可增强LLM推理，在多个基准上持续提升准确性。
2025-10-07 cs.CL
Reflection Steering: Disentangling Reflection from Reasoning in Activation Space for Token-Efficient Inference
School of Computing and Data Science, The University of Hong Kong（香港大学计算与数据科学学院）；Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算学院）；School of Data Science, Lingnan University（岭南大学数据科学学院）；Centre for Learning, Teaching and Technology, The Education University of Hong Kong（香港教育大学学习、教学与技术中心）
本文提出无需训练的Reflection Steering框架，通过解耦反射与推理的激活实现高效令牌推理，可减少16.9%推理令牌，还引入参数α平衡令牌节省、准确率与生成稳定性。
2026-08-27 cs.CL cs.LG
ATLAS: Verifier-Guided Adaptive Latent Activation Steering for Efficient LLM Reasoning
Indiana University Bloomington（印第安纳大学布卢明顿分校）
提出ATLAS框架，通过轻量级验证器动态调整推理时潜在状态引导策略，实现每步自适应控制，在数学和编码推理任务上提升准确率并减少测试时token使用。
2026-06-23 cs.CL cs.LG
Guiding Giants: Lightweight Controllers for Weighted Activation Steering in LLMs
本文提出一种轻量可控网络，在推理时动态调节激活以引导LLM行为，通过加权引导策略提升拒绝有害输入的能力，实验表明其在安全基准测试中优于现有方法。
2026-03-15 cs.CL cs.LG
Refusal Steering: Fine-grained Control over LLM Refusal Behaviour for Sensitive Topics
通过引导向量控制LLM在敏感话题上的拒绝行为，实现安全且可控的审核方法。
2026-02-24 cs.AI cs.CL
Forecasting With LLMs: Improved Generalization Through Feature Steering
University of Chicago（芝加哥大学）；University of Chicago, Illinois, United States（芝加哥大学）
本文利用稀疏自编码器分析LLM内部状态，识别时间感知和前瞻偏差特征，并通过增强时间感知特征减少预测中的前瞻偏差，提升泛化能力。
2026-08-12 cs.CL cs.LG
KV Cache Steering for Controlling Frozen LLMs
VIS Lab, University of Amsterdam（阿姆斯特丹大学VIS实验室）；FunAI Lab, University of Technology Nuremberg（纽伦堡技术大学FunAI实验室）；CSAIL, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
我们提出缓存引导，一种对键值缓存施加一次性干预的轻量方法，可诱导小模型进行思维链推理，无需微调或改提示，并在推理基准上提升性能，支持推理风格可控迁移。
2025-09-26 cs.AI cs.CL
Sequential Monte Carlo Steering of Large Language Models using Probabilistic Programs
MIT（麻省理工学院）
提出序贯蒙特卡洛（SMC）引导方法，将语言生成任务转化为离散概率序列模型的后验推理问题，在推理时强制执行LLM输出的语法和语义约束，并以与束搜索相近的计算成本解决填充、语法约束生成等任务。
2023-11-26 cs.AI cs.CL cs.PL
EasySteer: A Unified Framework for High-Performance and Extensible LLM Steering
Zhejiang University（浙江大学）
EasySteer通过模块化架构和预计算引导向量，实现高效且可扩展的LLM引导，提升推理效率并支持多种应用场景。
2026-09-04 cs.AI cs.CL
Controllable and explainable personality sliders for LLMs at inference time
Technical University of Munich, Germany（慕尼黑技术大学）；University of Cambridge, United Kingdom（剑桥大学）；University College Dublin, Ireland（都柏林大学）
本文提出一种模块化框架，通过顺序自适应引导方法实现LLM推理时的可控且可解释的人格控制，通过正交化引导向量提升多维人格调节的精度和效率。
2026-02-10 cs.AI cs.CL
Beyond Linear Steering: Unified Multi-Attribute Control for Language Models
Martian；University of Oxford（牛津大学）；Thoughtworks
本文提出K-Steering方法，通过训练非线性多标签分类器实现语言模型的多属性控制，避免线性假设，无需存储和调整个别属性向量，支持动态行为组合。
2026-04-04 cs.AI cs.CL cs.LG
SAGE: Steering Dialog Generation with Future-Aware State-Action Augmentation
Apple（苹果公司）
提出SAGE方法，通过状态-动作链引入潜变量控制对话长程行为，并结合自我改进流程优化对话轨迹，提升了情感智能指标且保持LLM基准能力。
2025-07-01 cs.AI cs.CL
DSO: Direct Steering Optimization for Bias Mitigation
Apple（苹果公司）；Carnegie Mellon University（卡内基梅隆大学）
DSO通过强化学习优化激活转换，在VLMs和LLMs中实现公平性与能力的最佳平衡，提供推理时的偏见控制能力。
2026-02-12 cs.CL cs.CY cs.LG
On the Limitations of Steering in Language Model Alignment
Birla Institute of Technology and Science Pilani（比拉理工科学与 Pilani 学院）；National University of Singapore（新加坡国立大学）；Institute for Data Science, National University of Singapore（新加坡国立大学数据科学研究院）
本文提出评估引导向量作为语言模型对齐机制局限性的框架，发现其在特定任务中有潜力但不足以支撑通用对齐，为未来研究奠定方法论基础。
2025-05-02 cs.AI cs.CL
Agentic Chain-of-Thought Steering for Efficient and Controllable LLM Reasoning
University of California San Diego（加州大学圣地亚哥分校）；Intuit（财捷集团）
提出Agentic Chain-of-Thought Steering (ACTS)方法，通过强化学习训练控制器智能体在推理过程中自适应地选择推理策略和引导短语，实现预算感知的策略控制，从而在保持推理质量的同时显著节省token，并支持准确率-效率的可控权衡。
2026-09-01 cs.AI cs.CL
The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models
Bluecore Consulting（蓝芯咨询）
本文针对部署语言模型提出隐形编辑层概念，形式化推理归因问题、概率置放等核心概念，探讨其与相关监管框架的关联，揭示未公开推理调控的潜在影响。
2026-08-27 cs.AI cs.CL cs.CY
Query-Adaptive Neuron Steering for LLMs
Northeastern University（东北大学）；Washington University in St. Louis（圣路易斯华盛顿大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Tsinghua University（清华大学）；Security Capability Center（360安全能力中心）；Tencent（腾讯）；Beijing University of Posts and Telecommunications（北京邮电大学）
本研究针对大语言模型推理阶段的查询适配调控问题，提出Q-NeuS框架，通过查询自适应门动态调控神经元，经实验验证可提升模型性能且适用性广泛。
2026-10-14 cs.CL cs.LG
Controllable Affective Generation via Latent Vector Steering
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Tencent Jarvis Lab（腾讯Jarvis实验室）
针对大语言模型对齐后情感响应平淡的问题，提出轻量框架EmoVec，通过调控潜在向量实现可控情感生成，实验验证其能提升情感显著性且保留语义等特性。
2026-08-27 cs.AI cs.CL
Steering Language Models With Activation Engineering
MIRI；University of Bristol（布里斯托尔大学）；Arb Research；MATS；Anthropic
为充分激发语言模型能力，研究提出激活工程及ActAdd技术，通过对比提示对激活值计算引导向量并在推理时加入，在情绪转换、去毒任务上达SOTA，且轻量易迭代。
2024-10-10 cs.CL cs.LG
Inference-Time Steering for Cross-Lingual Factual Consistency in LLMs
研究大语言模型跨语言事实不一致问题，评估零样本上下文引导、CAA、DPO四种干预策略，通过实验发现角色提示是最强干预方式，CAA对配置敏感，DPO适配器收益窄且可转移性低，表明跨语言不一致部分是选择问题，简单干预可能更优。
2026-07-22 cs.AI cs.CL
Calibrating Lightweight Sparse Autoencoder Feature Steering
Carnegie Mellon University（卡内基梅隆大学）；IBM Research（IBM研究院）
本文提出ContrastiveSteer方法，通过对比特征评分和模型特定校准解决稀疏自编码器主题引导失败，显著提升对齐与分类性能，并引入污染指标检测引导状态。
2026-09-22 cs.AI cs.CL
IDEEA: training-free Input-Dependent stEEring via Activation cluster matching
University of Waterloo（滑铁卢大学）；University of British Columbia（不列颠哥伦比亚大学）；Vector Institute for AI（人工智能矢量研究所）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
本研究针对现有无训练引导方法输入无关的局限，提出IDEEA框架，通过聚类注意力头的激活并匹配输入激活选择对应方向，在保留输入表示的同时对齐LLMs，使TruthfulQA的truth×info指标平均提升9.9%。
2026-09-03 cs.CL cs.LG
Beyond Token-Level Guidance: Inference-Time Alignment of Specialized LLMs via Cross-Family Representation Steering
College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；College of Cryptology and Cyber Science, Nankai University（南开大学密码与网络科学学院）
针对专用LLM推理时对齐的缺陷，提出CREST方法，通过跨系列表示转向提升安全性，同时保留领域能力，在安全基准上比基线提升达22.2%。
2026-09-01 cs.AI cs.CL cs.LG
Steering Large Language Models for Machine Translation Personalization
CLCG, University of Groningen（格罗宁根大学）；University of Milano-Bicocca（米兰比可卡大学）
本文探讨在少量示例下如何个性化自动翻译，聚焦文学翻译领域，通过对比引导与稀疏自编码器（SAE）潜变量实现稳健的风格条件和翻译质量，提升推理效率。
2025-10-14 cs.AI cs.CL cs.LG
Evaluation Awareness in Language Models: Representation, Verbalization, and Control
该研究系统探测了6个语言模型的评估感知，发现其可线性解码、与语言化部分对齐，且在Olmo模型中随微调放大，需评估时考虑模型内部表示与语言化的脱节。
2026-08-25 cs.AI cs.CL
Beyond Linear Activation Steering: Invertible Latent Transformations for Controlling LLM Behavior
Indiana University Bloomington（印第安纳大学伯明顿分校）
提出INNSteer框架，通过可逆神经网络将LLM激活映射到潜在空间进行线性控制，再逆变换回原空间，实现非线性、输入依赖的激活引导，在多个模型和基准上优于现有方法。
2026-11-13 cs.CL cs.LG
How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models
Southeast University（东南大学）；Peking University（北京大学）；Chongqing University（重庆大学）
提出CAM-Steer框架，通过估计各危害类别风险并组合安全方向，自适应引导隐藏状态旋转，在多类别共现时提升大语言模型安全防御成功率，且推理开销极低。
2026-09-30 cs.CL cs.CR cs.LG
Fractional Reasoning via Latent Steering Vectors Improves Inference Time Compute
Stanford University（斯坦福大学）
提出分数推理框架，通过潜在引导向量连续控制推理强度，在推理时按输入复杂度调整，提升Best-of-N、多数投票及自我反思等策略的性能，在GSM8K等基准上验证有效。
2025-09-25 cs.AI cs.CL cs.LG
Context Steering: Controllable Personalization at Inference Time
UC Berkeley（加州大学伯克利分校）
本文提出无需训练的上下文引导（CoS）解码方法，通过比较有无上下文的前向概率差异并线性缩放，在推理时灵活控制大语言模型个性化程度，并在推荐和文本相关性推断中验证其有效性。
2025-02-06 cs.AI cs.CL
