Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models
Center for Data Science, New York University（纽约大学数据科学中心）
研究大语言模型中仅通过输入优化提示来抑制“评估感知”潜在因素，采用特定方法在多种目标结构下对Llama模型进行实验，发现潜在因素可抑制，但激活可读性与行为可控性不同，还解决了相关问题。
2026-07-29 cs.AI cs.CL cs.LG
Behind the Refusal: Determining Guardrail Activation via Behavioral Monitoring
Mindgard；Lancaster University（兰卡斯特大学）
提出首个黑盒护栏侦察方法，通过HTTP、词汇和时序信号行为监控检测AI系统中护栏的存在，准确率100%，并能区分护栏拦截与LLM拒绝。
2026-07-03 cs.AI cs.CR
SAE-StatSteer: Statistical Consensus Feature Selection for Optimization-Free Activation Steering of Large Language Models
Islamic University of Technology（伊斯兰科技大学）；Systems and Software Lab (SSL)（系统与软件实验室）
研究大语言模型激活空间控制问题时，提出基于统计的稀疏特征干预方法，先经可靠性过滤，再用三个统计量排序特征，构建引导方向。在多模型、领域和配置上实验，发现该方法有特定领域转移效果，且引导受多种因素影响，强调评估应兼顾质量与行为转移。
2026-08-12 cs.AI cs.CL
Taming CoT Obfuscation in VLMs: From Mechanistic Evidence to Activation-Level Enforcement
Hong Kong Baptist University（香港浸会大学）；City University of Hong Kong（香港城市大学）；University of Toronto（多伦多大学）；The University of Sydney（悉尼大学）；HKUST（香港科技大学）
针对强化学习引发的思维链混淆，提出TAME方法，利用稀疏自编码器定向抑制模板激活，在多个数据集上将可监控性提升至多30.9个百分点，兼顾任务准确率。
2026-10-26 cs.AI
Beyond Linear Steering: Unified Multi-Attribute Control for Language Models
Martian；University of Oxford（牛津大学）；Thoughtworks
本文提出K-Steering方法，通过训练非线性多标签分类器实现语言模型的多属性控制，避免线性假设，无需存储和调整个别属性向量，支持动态行为组合。
2026-04-04 cs.AI cs.CL cs.LG
Minimal and Mechanistic Conditions for Behavioral Self-Awareness in LLMs
University of California, San Diego（加州大学圣地亚哥分校）；University of Virginia（弗吉尼亚大学）；Durham University（杜ham大学）
本文通过LoRA微调实验发现LLM的行为自我意识可由单个秩-1适配器诱导，并能被激活空间中的单一引导向量捕获，且该能力具有领域局部性与线性特征。
2025-11-10 cs.AI cs.CL cs.LG
What Can We Actually Steer? A Multi-Behavior Study of Activation Control
Department of Computer Science（计算机科学系）；Minerva University（明维大学）
本文研究了激活控制在不同行为类型中的有效性差异，发现行为类型显著影响控制效果，特征表达呈倒U型曲线，训练数据量影响控制强度。
2026-01-11 cs.AI
Your LLM, Your Style: Behavioral Mode Axes for LLM Behavioral Control
本研究提出情境化行为数据框架，构建3200个对比性行为场景，发现LLMs有稳定且模型特异性的行为特征，提出行为模式轴控制LLM行为，表明其类人格倾向是可测量可控的行为模式。
2026-08-12 cs.AI cs.CL cs.HC
Steering Llama 2 via Contrastive Activation Addition
Anthropic；Harvard University（哈佛大学）；University of Göttingen（哥廷根大学）；Center for Human-Compatible AI（人类兼容人工智能中心）
本文提出对比激活加法（CAA），通过计算正负行为示例的残差流激活差异得到引导向量，在推理时加入激活以精确控制 Llama 2 Chat 的目标行为，并验证其有效性及可解释性。
2024-07-05 cs.AI cs.CL cs.LG
Human-Alignment, Calibration, and Activation Patterns in Large Language Model Uncertainty
Vanderbilt University（范德比大学）；Tennessee Technological University（田纳西技术大学）
研究大型语言模型的不确定性与人类不确定性的相似性，通过分析行为与内部激活模式，发现模型在多项选择和开放式事实回忆数据集上同时存在对齐与校准，并描述了指令微调的影响。
2026-05-29 cs.AI cs.CL
No Usable Linear "Capitulation Direction" in Two Small LLMs: A Validation Protocol for Activation-Steering Claims, and a Cross-Family Behavioral Study of Sycophancy Under Pushback
本研究通过验证协议证明两个小型LLM中不存在可用的线性投降方向，反驳行为依赖模型且认知上有害，现有探针信号为过拟合。
2026-09-17 cs.CL cs.LG
Steering Large Language Model Activations in Sparse Spaces
Mila（米拉（魁北克人工智能研究所））；Chandar Research Lab（钱达尔研究实验室）；FAIR at Meta（元公司FAIR研究院）；Polytechnique Montréal（蒙特利尔理工学院）；Université de Montréal（蒙特利尔大学）
本文提出稀疏激活引导方法（SAS），利用稀疏自编码器在稀疏空间中分离行为特征，以解决稠密激活空间中的特征纠缠问题，实现对大型语言模型行为更细致、可靠且可解释的控制。
2025-02-28 cs.AI cs.LG
Steering Risk Preferences in Large Language Models by Aligning Behavioral and Neural Representations
Princeton University（普林斯顿大学）；University of Warwick（华威大学）
本文提出将行为方法引出的潜在表征与 LLM 内部神经表征对齐以系统发现引导向量，并验证其可可靠调控模型的风险偏好输出。
2025-05-16 cs.AI cs.CL
ExpertLens: Activation steering features are highly interpretable
Apple（苹果公司）
本文提出ExpertLens方法，利用激活引导技术识别LLM中特定概念的神经元，发现其表示跨模型稳定且与人类高度一致，优于词句嵌入，为模型表示分析提供轻量级方案。
2025-11-03 cs.AI cs.CL
Measuring Activation Control in Large Language Models
UK AI Security Institute（英国人工智能安全研究所）
本研究推出Activation Controllability Benchmark量化大语言模型的激活控制能力，发现多数模型可调控残差流，其控制可规避部分激活监控方法，建议追踪该能力以优化模型监控。
2026-08-25 cs.AI cs.CL
Persona Vectors in Games: Measuring and Steering Strategies via Activation Vectors
Harvard University（哈佛大学）
本文通过对比激活添加方法，在博弈论场景中构建了代表利他、宽恕和他人期望的角色向量，发现激活引导能系统性地改变策略选择和自然语言解释，但同时也观察到言辞与策略可能产生分歧。
2026-03-22 cs.AI cs.GT
Sycophancy as compositions of Atomic Psychometric Traits
Thoughtworks
本文提出将大语言模型的谄媚行为建模为情绪性、开放性等心理测量特质的几何与因果组合，并利用对比激活添加映射激活方向，实现可解释的向量干预以缓解安全风险。
2025-08-26 cs.AI cs.CL cs.LG
VISOR: Visual Input-based Steering for Output Redirection in Vision-Language Models
Georgia Institute of Technology（佐治亚理工学院）；HiddenLayer, Inc（HiddenLayer公司）
研究提出VISOR方法，通过优化视觉输入实现对视觉语言模型行为的精细控制，在关键对齐任务中验证其有效性，且具有低开销等优势，但也揭示了视觉通道安全漏洞。
2026-07-07 cs.AI cs.CV
Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas
Technical University of Munich（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文通过人物设定的视角探究推理过程，提出多声部概念，利用激活空间中的动态信号进行可解释的干预，提升模型准确性。
2026-07-28 cs.AI
Angular Steering: Behavior Control via Rotation in Activation Space
Torilab；Department of Mathematics National University of Singapore（数学系，新加坡国立大学）
控制大语言模型中的特定行为，同时保留其一般功能是安全可靠的人工智能部署的核心挑战。目前的转向方法，如矢量加法和定向消融，被约束在由激活和特征方向定义的二维子空间内，使它们对所选参数敏感，并由于激活空间中的非预期相互作用而可能影响不相关的特征。我们介绍了角度转向，一种新颖而灵活的行为调制方法，通过在一个固定的二维子空间内旋转激活操作。通过将转向表述为朝向或远离目标行为方向的几何旋转，角度转向提供了对拒绝和顺从等行为的连续、细粒度控制。我们演示了这种方法使用拒绝转向情感转向作为用例。此外，我们提出了自适应角度转向，这是一种选择性变体，仅旋转与目标特征对齐的激活，进一步增强了稳定性和一致性。角度转向在统一的几何旋转框架下推广了现有的加法和正交化技术，简化了参数选择，并在更广泛的调整范围内保持模型稳定性。跨多个模型系列和大小的实验表明，Angular Steering实现了鲁棒的行为控制，同时保持了一般的语言建模性能，与以前的方法相比，强调了其灵活性，通用性和鲁棒性。代码和工件可在https://github.com/lone17/angular-steering/上获得。
2025-10-30 cs.AI cs.LG
On the Non-Identifiability of Steering Vectors in Large Language Models
Manipal Institute of Technology Bengaluru（马尼帕尔理工学院班加罗尔校区）
研究揭示大型语言模型中转向向量的不可识别性，指出在白盒单层访问下，转向向量因行为上无法区分的干预等价类而无法唯一确定，强调需超越行为测试的结构约束以实现可靠对齐干预。
2026-04-01 cs.AI cs.LG
How Perturbations Propagate: A Multi-Level Analysis of Robustness in Large Language Models
INTI International College Penang（槟城英迪国际学院）；FPT University（FPT大学）
该研究分析六种输入扰动在仅解码器语言模型中于三个层面的传播，发现单一鲁棒性评估度量存在误导性，提出需对大型语言模型鲁棒性开展多层面评估。
2026-10-06 cs.CL stat.ML
Belief Dynamics Reveal the Dual Nature of In-Context Learning and Activation Steering
本文从贝叶斯视角提出统一框架，解释LLM通过上下文学习和激活引导控制行为的双重本质，并预测其在不同干预下的行为变化。
2026-03-12 cs.AI cs.CL cs.LG
PersonaManifold: Revealing and Exploiting Curved Geometry in LLM Persona Representations
Fudan University（复旦大学）；Shanghai Innovation Institute（上海创新研究院）
提出PersonaManifold框架，将LLM人格表征建模为弯曲黎曼流形，利用测地线引导替代欧几里得运算，并引入BST基准，在三个开源模型上验证了更准确的行为相似性预测与更连贯的中间人格。
2026-09-29 cs.AI
Cross-Protocol Personality Assessment with LLMs: Aligning Behavioral Evidence with Human Ratings
Southeast University（东南大学）
针对现有人格评估局限于单一面试协议的问题，提出CEPA框架，通过对齐跨协议行为表征，在无需目标特定监督下，将MSE降低43.8%和17.0%，实现跨协议人格评估。
2026-10-14 cs.AI
Auditing Framing-Sensitive Behavioral Instability in Large Language Models for Mental Health Interactions
a School of computer science, digital engineering and AI, Long Island University, Brooklyn, NY, USA（a 计算科学与数字工程及人工智能学院，罗格斯大学，布鲁克林，纽约，美国）；b Department of Psychology, Long Island University, Brooklyn, NY, USA（b 心理学系，罗格斯大学，布鲁克林，纽约，美国）
研究通过控制匹配提示，调查大语言模型在不同上下文框架下的行为变异性，发现框架系统性改变解释响应倾向，且内部表征可解码，激活操控可部分调节行为。
2026-06-26 cs.AI cs.CL
StateSwap: Probing Support-Elimination Hidden States in Multiple-Choice Questions
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Wuhan University of Science and Technology（武汉科技大学）
本研究针对大型语言模型在多项选择题不同框架下的答案不一致问题，提出双框架协议，通过交换[STATE]标记的残差流激活值，验证其与模型行为相关，还发现均值差引导方向的层内响应更具边界性。
2026-09-09 cs.AI cs.CL
Training-Free Task Vectors for LLM Behavioral Control
University of São Paulo（圣保罗大学）；Google（谷歌）；Google DeepMind（谷歌DeepMind）
提出免训练任务向量（TFTVs），无需微调即可通过前向传播统计量计算任务向量，实现大语言模型行为的放大、抑制与组合，且保持通用能力。
2026-10-26 cs.AI cs.LG
UniSteer: Text-Guided Flow Matching in Activation Space for Versatile LLM Steering
ShanghaiTech University（上海科技大学）
提出UniSteer，一种文本引导的激活流匹配模型，通过学习残差流激活的条件分布，实现统一的行为控制、真实性引导、细粒度概念引导、多约束指令遵循和激活空间分类。
2026-05-28 cs.CL
Guiding Giants: Lightweight Controllers for Weighted Activation Steering in LLMs
本文提出一种轻量可控网络，在推理时动态调节激活以引导LLM行为，通过加权引导策略提升拒绝有害输入的能力，实验表明其在安全基准测试中优于现有方法。
2026-03-15 cs.CL cs.LG
A Statistical Framework for Auditing Behavioral Dependence and Induced Bias in LLM Judges
Texas A&M University（德克萨斯农工大学）
本文提出一种统计框架，用于审计大型语言模型之间的行为纠缠，通过多分辨率层次结构和信息理论度量，分析行为纠缠对验证性能的影响，并通过重加权验证者集合减少相关偏差。
2026-08-11 cs.AI cs.CL
Who Do Language Models Think Is Competent? A Mechanistic Analysis of Occupational Bias
Boston University（波士顿大学）
本研究通过引入因果框架，揭示语言模型对用户专业知识的内部表征存在职业偏见，该偏见会受人口统计学属性影响，且仅靠行为指标无法完全检测到相关失效模式。
2026-08-24 cs.AI cs.CL cs.CY
An Ubuntu-Guided Large Language Model Framework for Cognitive Behavioral Mental Health Dialogue
North-West University（西北大学）；University of Johannesburg（约翰内斯堡大学）
本文提出一种结合Ubuntu哲学与认知行为疗法的AI心理健康对话系统，旨在提升非洲语境下的文化敏感性和治疗效果。
2026-01-11 cs.AI cs.CL
Cross-Family Universality of Behavioral Axes via Anchor-Projected Representations
Department of Artificial Intelligence（人工智能系）；Yonsei University（延世大学）；Department of Computer Science（计算机科学系）
本文提出锚定投影框架，通过共享锚坐标空间实现不同模型行为方向的对齐与迁移，验证了跨家族表示层面的鲁棒性。
2026-05-11 cs.AI
PCA-guided Activation Scaling for Monotonic Bidirectional Control over LLM Sycophancy
The Hong Kong Polytechnic University（香港理工大学）
本研究针对LLMs的谄媚性问题，提出PCA引导的激活缩放框架，通过分解残差流激活实现单调双向控制，在三个模型和三个数据集上的表现优于基线方法。
2026-08-18 cs.CL
Structured Progressive Knowledge Activation for LLM-Driven Neural Architecture Search
State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi'an Jiaotong University.（人机混合增强智能国家重点实验室，人工智能与机器人研究院，西安交通大学）；MiLM Plus, Xiaomi Inc.（小米MiLM Plus）；North China University of Technology, Beijing.（华北电力大学（北京））；Zhongguancun Academy, Beijing, China（中关村学院，北京，中国）
本文提出SPARK方法，通过显式选择功能因素并条件化编辑，减少功能耦合影响，提升神经架构搜索的样本效率和OOD准确性。
2026-07-01 cs.AI cs.LG
Learning a Vector-Symbolic Model for Socio-Cultural Tasks
The Pennsylvania State University（宾夕法尼亚州立大学）
该研究针对社会文化结构对决策的表征问题，在ACT-R认知架构中提出带向量符号自编码器的陈述性记忆系统，结合HRR编码，通过IAT测试验证其有效性。
2026-08-05 cs.AI cs.CL
VISOR++: Universal Visual Inputs based Steering for Large Vision Language Models
HiddenLayer, USA（HiddenLayer美国分校）；Georgia Institute of Technology, USA（佐治亚理工学院）
研究视觉语言模型行为控制，针对现有方法局限，提出VISOR++，通过优化视觉输入实现行为控制，无需运行时访问模型内部，在多模型上验证有效性且能保持无关任务性能。
2026-07-07 cs.AI cs.CV
Representation Without Control: Testing the Realization Effect in Language Models
Columbia University（哥伦比亚大学）
通过提示行为、线性读出和因果控制三个层面，测试语言模型是否表现出类似人类的实现效应，发现潜在读出成功但因果控制无效，表明三者不自动共存。
2026-05-24 cs.AI cs.CE
Skin-Deep: A Geometric Diagnostic for Alignment Fragility in Large Language Model Representations
Zoom Communications；Korea University（高丽大学）；Yonsei University（延世大学）；Konkuk University（建国大学）
提出Skin-Deep几何诊断方法，通过计算几何脆弱性分数（GFS）在对齐模型微调前检测其拒绝有害请求行为的脆弱性，无需运行攻击。
2026-10-02 cs.AI
Causal discovery identifies pathways linking physical activity to dementia risk in the UK BioBank
University of Florida（佛罗里达大学）；Norman Fixel Institute for Neurological Diseases（诺曼·菲克塞尔神经系统疾病研究所）；McKnight Brain Institute（麦克奈特脑研究所）
本研究通过LLM引导的因果发现与中介分析，在英国生物库老年人中识别出体力活动降低痴呆风险的多条通路，其中抑郁为核心中介路径，占比15.1%。
2026-10-05 cs.AI q-bio.NC
Cultural Value Alignment Via Latent Activation Steering in Large Language Models
University of Copenhagen（哥本哈根大学）
提出一种基于场景行为探测和潜在激活引导的框架，用于评估和干预LLMs的文化价值，发现文化价值以耦合结构编码，限制了精确对齐。
2026-05-25 cs.CL
Disentangling Deception and Hallucination Failures in LLMs
Beijing University of Posts（北京邮电大学）；Nanyang Technological University（南洋理工大学）
本研究提出一种机制导向的视角，解构大语言模型中幻觉与欺骗的不同故障机制，通过受控环境分析四种行为案例，揭示知识存在与行为表达的分离。
2026-02-16 cs.AI
Activation Manifold Projection: Liberating Task-Specific Behaviors from LLM Architectures
Manceps, Inc.（Manceps公司）
本文提出CAST框架，通过学习不同LLM架构激活流形间的非线性映射，解放LoRA编码的行为，实现零样本翻译，实验显示其性能优于现有权重空间转移方法。
2025-10-19 cs.AI
Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models
Department of Computer Science and Engineering, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系）
本文研究了大语言模型中良性激活转向对安全性的负面影响，发现其无意中增加劫持风险，并通过实验验证了这一现象。
2026-02-03 cs.AI cs.CR
PERSONA: Dynamic and Compositional Inference-Time Personality Control via Activation Vector Algebra
Harbin Institute of Technology（哈尔滨工业大学）；The University of Hong Kong（香港大学）
PERSONA通过激活向量代数实现动态人格控制，无需训练即可达到微调水平性能，并在多个基准测试中表现出色。
2026-02-17 cs.AI
Curveball Steering: The Right Direction To Steer Isn't Always Linear
Harvard Berkman Klein Center（哈佛伯克曼克莱因中心）；Harvard University（哈佛大学）；University of Utah（犹他大学）；University of Oxford（牛津大学）
本文提出曲球操控方法，通过多项式核PCA在特征空间中进行干预，更尊重学习到的激活几何，优于线性PCA方法，尤其在几何扭曲强的场景中表现更佳。
2026-03-22 cs.AI
Activation Steering for Masked Diffusion Language Models
Deepkeep；Technion—Israel Institute of Technology（以色列理工学院）
本文提出激活引导方法，通过提取对比提示集的低维方向，实现对MDLMs推理过程的控制，展示了在安全拒绝任务中的有效性及跨语言迁移能力。
2026-03-29 cs.CL
Framing Matters: Addressing Framing Sensitivity in Decision-Making through Behaviorally-Grounded Value Alignment
Chung-Ang University（Chung-Ang 大学）
本文提出Fragile基准测试框架，系统评估大语言模型在事实等价但不同框架输入下的决策稳定性，并设计Valign方法通过表示级干预有效降低框架引起的决策翻转。
2026-05-27 cs.CL
DeceptGuard :A Constitutional Oversight Framework For Detecting Deception in LLM Agents
本文提出DeceptGuard框架，通过比较三种监控机制，结合Coot-aware和激活探针监控，显著提升检测性能，并提出HYBRID-CONSTITUTIONAL集成方法，实现更高准确率。
2026-03-14 cs.CL
Towards Utilising a Range of Neural Activations for Comprehending Representational Associations
University of Limerick（利默里克大学）
本文指出仅分析极值神经元激活无法全面理解深度网络表征，提出研究非极值水平激活中的统计关联以定位混淆概念，并开发方法利用中间范围logit样本重训练以缓解伪相关。
2024-11-15 cs.CV cs.LG
Modeling Behavioral Intensity and Transitions for Generative Recommendation
Ant Group（蚂蚁集团）；Fudan University（复旦大学）
本文提出BITRec框架，通过选择性依赖激活和转换关系编码，解决多行为推荐中行为强度差异和转换模式捕捉问题，实验表明在多个数据集上提升15-23%。
2026-04-27 cs.AI cs.IR cs.LG
Topological Steering
National University of Singapore (NUS)（新加坡国立大学）
针对现有大语言模型行为控制方法易受局部扰动影响的问题，提出基于拓扑数据分析的Topological Steering框架，通过激活空间的拓扑表示实现更鲁棒的模型行为控制，且在多模型家族及规模上均有效。
2026-09-02 cs.LG
First-Order Steering: Translating Weight Adaptation into Activation Steering
University of California, Davis（加州大学戴维斯分校）；Chapman University（查普曼大学）；University of California, Los Angeles（加州大学洛杉矶分校）；Caltech（加州理工学院）
本文提出一阶引导方法，将权重适应转化为激活引导向量，并开发HeRD-Merging合并过程以最小化近似误差，实现对个体及组合行为更精确的推理时控制，同时保持模型合并性能。
2026-10-06 cs.AI cs.CL cs.LG
