Disentangling concept semantics via multilingual averaging in Sparse Autoencoders
针对LLM语义与句法、特定语言信息纠缠的问题，提出多语言平均稀疏自编码器概念激活的方法，分离概念语义，实验显示其比单语言更贴合本体类真实关系，助力机制解释。
2025-08-19 cs.AI cs.CL
Evaluating and Designing Sparse Autoencoders by Approximating Quasi-Orthogonality
Siebel School of Computing and Data Science University of Illinois Urbana-Champaign（计算与数据科学学院 耶鲁大学伊利诺伊分校）
本文通过理论近似准正交性，提出无需手动调参的top-AFA激活函数，用于训练稀疏自编码器，并在GPT2上验证其优于现有k-稀疏方法。
2025-08-08 cs.AI cs.LG
Sparse-Autoencoder-Guided Internal Representation Unlearning for Large Language Models
本文提出一种稀疏自编码器引导的内部激活干预遗忘方法，将目标实体激活对齐到未知实体，在不损害非目标知识的前提下实现大语言模型的真正遗忘并避免模型崩溃。
2025-09-19 cs.CL cs.LG
Calibrating Lightweight Sparse Autoencoder Feature Steering
Carnegie Mellon University（卡内基梅隆大学）；IBM Research（IBM研究院）
本文提出ContrastiveSteer方法，通过对比特征评分和模型特定校准解决稀疏自编码器主题引导失败，显著提升对齐与分类性能，并引入污染指标检测引导状态。
2026-09-22 cs.AI cs.CL
Evaluating Adversarial Robustness of Concept Representations in Sparse Autoencoders
University of California, Berkeley（加州大学伯克利分校）；Bosch Research（博世研究）；Harvard University（哈佛大学）
本研究评估了稀疏自编码器中概念表示的对抗鲁棒性，发现其易受微小输入扰动影响，可能不适合用于模型监控和监督。
2026-01-22 cs.AI cs.CL cs.LG
Mechanistic Knobs in LLMs: Retrieving and Steering High-Order Semantic Features via Sparse Autoencoders
Peking University（北京大学）
本文提出基于稀疏自编码器的框架，通过对比特征检索管道和生成验证，实现对高阶语言行为相关语义内部特征的引导，展示了在Big Five人格特质案例中的精准双向调控效果。
2026-10-14 cs.AI cs.CL
Measuring Monosemanticity in Sparse Autoencoders via Latent Activation Coherence
该研究针对可解释人工智能中评估稀疏自编码器单语义性的挑战，提出无标签的Tversky单语义性分数（TMS），通过激活集一致性衡量。在多种模型和设置下评估，结果显示TMS受编码器各向异性影响小，能揭示训练动态，还能体现概念删除有效性。
2026-07-21 cs.AI cs.CV cs.LG
Interpretable Steering of Large Language Models with Feature Guided Activation Additions
Raffles Science Institute（莱佛士科学学院）；Raffles Institution（莱佛士书院）；Nous Research（努斯研究机构）；Centre for Frontier AI Research (CFAR)（前沿人工智能研究中心）；Agency for Science Technology and Research (A*STAR)（新加坡科技研究局）
本文提出特征引导激活添加方法（FGAA），通过在稀疏自编码器潜空间中优化选择特征来构建精确干预向量，在保持输出连贯性的同时优于现有方法，揭示了干预规模与模型能力的权衡。
2025-04-02 cs.AI cs.CL cs.LG
Feature Hedging: Correlated Features Break Narrow Sparse Autoencoders
University College London（伦敦大学学院）；FAR AI（FAR人工智能）
本文发现稀疏自编码器在特征相关且宽度不足时会产生特征对冲，破坏单语义性，并据此提出改进的套娃SAE变体。
2025-09-26 cs.AI cs.CL cs.LG
Sparsing Law: Towards Large Language Models with Greater Activation Sparsity
Dept. of Comp. Sci. \& Tech., Institute for AI, Tsinghua University, Beijing, China；Huawei Noah’s Ark Lab, China
本文研究了仅解码器Transformer架构LLMs中激活稀疏性的定量缩放特性，提出PPL-$p\\%$稀疏性指标，发现ReLU比SiLU更高效、更深架构有潜在优势且激活模式对参数规模不敏感，为提升LLMs的效率和可解释性提供了经验定律。
2025-06-30 cs.CL cs.LG stat.ML
Semantic Optimal Transport for Sparse Autoencoder Feature Matching and Circuit Compression
University of Florida（佛罗里达大学）
提出基于最优传输的分布框架，通过激活加权分布和Wasserstein距离统一解决跨层特征匹配与电路压缩问题。
2026-05-27 cs.AI cs.LG
Probing Latent Colombian Identity Inferences in Qwen2.5-7B with Natural Language Autoencoders
Universidad Autónoma de Occidente（西自治大学）
研究Qwen2.5 - 7B - Instruct处理提示时是否表征哥伦比亚相关信息，用自然语言自动编码器转化残差流激活，通过含30个提示的数据集进行研究，将激活可解释性与西班牙语变体偏差评估相联系。
2026-07-27 cs.AI cs.CL
Layer-Wise Evolution of Representations in Fine-Tuned Transformers: Insights from Sparse AutoEncoders
本文通过激活相似性分析、稀疏自编码器训练和token级激活可视化，揭示了BERT微调中表征的逐层演化：早期层保留通用特征，中间层过渡，后期层专精于任务，为理解微调机制提供了关键见解。
2025-02-23 cs.AI cs.CL
SAFER: Probing Safety in Reward Models with Sparse Autoencoder
University of Science and Technology of China（中国科学技术大学）
SAFER通过稀疏自动编码器探索奖励模型的安全性，揭示可解释特征并改进安全性对齐。
2026-01-30 cs.AI cs.CL
Unveiling Language-Specific Features in Large Language Models via Sparse Autoencoders
University of Science and Technology of China（中国科学技术大学）；Sichuan University（四川大学）
本研究利用稀疏自编码器识别大型语言模型中的语言特定特征，通过新度量评估单语性，并证明消融这些特征可定向削弱单一语言能力，同时利用它们增强转向向量以控制生成语言。
2025-05-27 cs.CL
AbsTopK: Rethinking Sparse Autoencoders For Bidirectional Features
Department of Computer Science & Engineering, The Ohio State University（计算机科学与工程系，俄亥俄州立大学）
针对现有稀疏自编码器因非负约束无法表征双向语义的局限，本研究基于近端梯度法推导提出AbsTopK SAE，通过保留正负激活实现双向特征学习，在多模型多任务上性能超越传统SAE并对标有监督方法。
2025-10-02 cs.AI cs.CL cs.LG
Sparse Autoencoders, Again?
Fudan University（复旦大学）；Amazon Web Services（亚马逊云科技）
本文针对经典稀疏自编码器及变分自编码器在建模低维潜在结构时的不足，提出一种混合替代模型，并从理论和实验上证明其能更准确地恢复流形结构、生成更稀疏表示且不降低重构质量。
2025-06-06 cs.AI cs.LG
Learning a Generative Meta-Model of LLM Activations
本研究通过训练扩散模型学习大语言模型激活的分布，提出生成元模型以提升干预保真度和可解释性。
2026-02-06 cs.AI cs.CL cs.LG
Control Reinforcement Learning: Interpretable Token-Level Steering of LLMs via Sparse Autoencoder Features
University College London（伦敦大学学院）
CRL通过稀疏自编码器特征实现LLM的可解释性令牌级操控，提供动态干预探针与静态特征分析互补的机制可解释性工具。
2026-02-12 cs.AI cs.CL cs.LG
Are Single-Token Sparse Autoencoder Features Causally Necessary? Layer-Depth and SAE-Family Effects
Holistic AI（整体人工智能公司）；University College London（伦敦大学学院）
研究SAE特征因果作用在不同家族是否稳定，通过分析六个模型和三个SAE家族的390万个特征，发现单令牌特征聚类紧密且集中在早期层，跨家族因果有差异，其可解释性受训练方法影响，非仅激活函数或规模。
2026-09-01 cs.CL cs.LG
C$^{2}$R: Cross-sample Consistency Regularization Mitigates Feature Splitting and Absorption in Sparse Autoencoders
提出跨样本一致性正则化（C$^2$R），通过惩罚方向相似潜变量的共激活，缓解稀疏自编码器中的特征分裂与吸收问题，提升潜变量可解释性而不损失重构保真度。
2026-06-29 cs.AI cs.LG
Denoising Concept Vectors with Sparse Autoencoders for Improved Language Model Steering
New Jersey Institute of Technology（新泽西理工学院）；University of Georgia（佐治亚大学）；Wake Forest University（威克森林大学）
针对现有线性概念向量引导LLM时受数据集噪声影响鲁棒性不足的问题，提出SDCV方法，通过放大前k个判别性SAE潜变量激活分离信号与噪声，在6个概念上提升4-16%引导成功率且保持主题相关性。
2025-07-29 cs.AI cs.CL
SAE++: Cascaded Sparse Autoencoders Learn Multi-Level Visual Concepts in Multimodal LLMs
Rutgers University（罗格斯大学）；Microsoft Research（微软研究院）
提出级联稀疏自编码器（CSAEs），通过在第一级SAE解码器权重上训练第二级SAE来学习层次化视觉概念，避免嵌套或堆叠SAE的缺点，在多个MLLM和数据集上提升了概念层次一致性和干预效果。
2026-10-08 cs.AI cs.CV cs.LG
Are Sparse Autoencoders Useful? A Case Study in Sparse Probing
Massachusetts Institute of Technology（麻省理工学院）
本研究通过四种挑战性机制下的LLM激活探测任务，检验稀疏自编码器是否优于基线，发现其虽偶有优势但无法持续超越，且简单基线即可达到类似效果，凸显了当前SAEs的局限与严格评估的必要性。
2025-02-23 cs.AI cs.LG
Are LLM Uncertainty and Correctness Encoded by the Same Features? A Functional Dissociation via Sparse Autoencoders
University of California, Riverside（加州大学河滨分校）；Arizona State University（亚利桑那州立大学）
研究通过稀疏自编码器探讨语言模型的不确定性与正确性是否由同一内部机制驱动，发现三类功能不同的特征群体，揭示其在模型性能中的作用差异。
2026-04-21 cs.CL cs.LG
When Trees Are Not Enough: Learning Mixed-Topology Feature Graphs with Adaptive Graph Sparse Autoencoders
University of Arizona（亚利桑那大学）；Iowa State University（爱荷华州立大学）；Old Dominion University（欧道明大学）
提出自适应图稀疏自编码器（AG-SAE），通过竞争完整父集学习混合拓扑特征图，以结构损失引导训练并闭环优化字典，实现比树结构更可靠的特征组织与更强因果干预。
2026-09-30 cs.CL cs.LG
Sparse Autoencoders Learn Monosemantic Features in Vision-Language Models
Technical University of Munich（慕尼黑技术大学）；Helmholtz Munich（亥姆霍兹慕尼黑）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Munich Data Science Institute（慕尼黑数据科学研究所）；University of Tübingen（图宾根大学）；University of Copenhagen（哥本哈根大学）
本研究通过稀疏自编码器提升视觉-语言模型中神经元的单义性，展示其在增强模型可解释性和可控性方面的有效性。
2025-11-27 cs.AI cs.CV cs.LG
On the transferability of Sparse Autoencoders for interpreting compressed models
Department of Computer Science and Engineering（计算机科学与工程系）
本文研究稀疏自编码器在压缩模型上的可迁移性，发现原始模型训练的SAE可直接解释压缩模型，且剪枝原始SAE即可达到重新训练的效果，从而大幅降低训练成本。
2025-07-21 cs.AI cs.LG
Improving Robustness In Sparse Autoencoders via Masked Regularization
Lawrence Livermore National Laboratory, CA, USA（劳伦斯利弗莫尔国家实验室，加利福尼亚州，美国）
本文提出掩码正则化方法，通过在训练中随机替换token以打破共现模式，提升稀疏自编码器的鲁棒性，减少特征吸收，增强可探查性能并缩小OOD差距。
2026-04-07 cs.AI cs.LG
Steering Large Language Model Activations in Sparse Spaces
Mila（米拉（魁北克人工智能研究所））；Chandar Research Lab（钱达尔研究实验室）；FAIR at Meta（元公司FAIR研究院）；Polytechnique Montréal（蒙特利尔理工学院）；Université de Montréal（蒙特利尔大学）
本文提出稀疏激活引导方法（SAS），利用稀疏自编码器在稀疏空间中分离行为特征，以解决稠密激活空间中的特征纠缠问题，实现对大型语言模型行为更细致、可靠且可解释的控制。
2025-02-28 cs.AI cs.LG
Measuring Activation Control in Large Language Models
UK AI Security Institute（英国人工智能安全研究所）
本研究推出Activation Controllability Benchmark量化大语言模型的激活控制能力，发现多数模型可调控残差流，其控制可规避部分激活监控方法，建议追踪该能力以优化模型监控。
2026-08-25 cs.AI cs.CL
Dynamic Multimodal Activation Steering for Hallucination Mitigation in Large Vision-Language Models
East China Normal University（华东师范大学）
本文提出动态多模态激活引导方法，通过构建语义真实性引导向量数据库，实现幻觉缓解，提升模型性能。
2026-02-25 cs.AI cs.CV
I Have Covered All the Bases Here: Interpreting Reasoning Features in Large Language Models via Sparse Autoencoders
AIRI；MTUCI；Skoltech；Sber；HSE
本文通过稀疏自编码器识别并放大与不确定性、探索和反思相关的推理特征，提升LLM推理性能（+2.2%）并延长推理轨迹（+20.5%），为机制性理解推理提供初步证据。
2025-08-05 cs.CL
Thinking vs. NoThinking: Towards Interpreting Reasoning Mechanisms of Large Language Models via Sparse Autoencoders
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；The Hong Kong Polytechnic University（香港理工大学）
本研究基于稀疏自编码器分析DeepSeek-R1-Distill-Qwen-7B的推理机制，揭示思考与非思考模式的神经差异，为大语言模型推理可解释性提供新见解。
2026-08-11 cs.CL
Enhancing Cross-task Transfer of Large Language Models via Activation Steering
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学耿丽人工智能学院）；Department of Computer Science, National University of Singapore（新加坡国立大学计算机科学系）；Ant Group（蚂蚁集团）
本文提出CAST框架，通过分析LLM潜在空间中上下文示例激活模式的一致性，利用高资源任务样本的对比表示增强激活来引导模型内部状态，无需参数更新或输入扩展即可实现跨任务迁移，在跨领域和跨语言实验中优于基线并具有更低计算成本。
2025-07-17 cs.CL
Beyond Interpretability: When, Why, and How Sparse Autoencoders Enable Label-Free Visual Steering
Department of Computer Science, Rutgers University（罗格斯大学计算机科学系）；Department of Statistics, Rutgers University（罗格斯大学统计系）
本文提出无标签视觉稀疏引导方法VS2，通过训练稀疏自编码器并利用其重构误差和稀疏特征放大来引导冻结的视觉语言模型，在九个图像分类数据集上提升零样本准确率。
2026-05-26 cs.AI cs.CV cs.LG
SASFT: Sparse Autoencoder-guided Supervised Finetuning to Mitigate Unexpected Code-Switching in LLMs
Tongyi Lab, Alibaba Group Inc（通义实验室，阿里巴巴集团）
SASFT通过稀疏自编码器引导监督微调，有效减少大语言模型中的意外语言混合，同时保持多语言能力。
2026-02-28 cs.CL
Discovering Influential Factors in Variational Autoencoders
Xi'an Jiaotong University（西安交通大学）；Brunel University London（布鲁内尔大学伦敦分校）；State University of New York at Buffalo（纽约州立大学布法罗分校）
本文提出通过互信息指标在变分自编码器中识别影响因素，通过实验验证其在数据重建和分类任务中的有效性。
2025-12-09 cs.LG stat.ML
CRISP: Persistent Concept Unlearning via Sparse Autoencoders
Technion – Israel Institute of Technology（技术ion-以色列理工学院）；Boston University（波士顿大学）；University of Zagreb, FER（Zagreb大学，FER）；Kempner Institute, Harvard University（哈佛大学 Kempner研究所）
CRISP利用稀疏自编码器实现持久性概念卸载，通过自动识别多层显著SAE特征并抑制其激活，优于现有方法，在WMDP基准的安全关键卸载任务中有效移除有害知识并保持通用能力。
2026-04-26 cs.CL
School of Computing and Engineering, University of Missouri-Kansas City（密苏里大学堪萨斯城分校计算与工程学院）
We present a k-competitive learning approach for textual autoencoders named Second Chance Autoencoder (SCAT). SCAT selects the $k$ largest and smallest positive activations as the winner neurons, which gain the activation values of the loser neurons during the learning process, and thus focus on retrieving well-representative features for topics. Our experiments show that SCAT achieves outstanding performance in classification, topic modeling, and document visualization compared to LDA, K-Sparse, NVCTM, and KATE.
2020-09-08 cs.CL cs.LG
Theoretically informed selection of latent activation in autoencoder based recommender systems
Icahn School of Medicine at Mount Sinai（西奈山伊坎医学院）
本文通过理论分析确定自编码器编码器应具备的三个数学性质，证明ReLU和tanh无法同时满足，而sigmoid类激活函数更合适，为推荐系统超参数选择提供系统化方法。
2024-11-06 cs.LG
Rational Sparse Autoencoder
Lehigh University（里海大学）
提出有理稀疏自编码器（RSAE），用可训练有理函数替代固定编码器激活，通过两阶段流程（初始化+微调）在多种语言模型和基线激活族上提升重构与下游行为指标，不牺牲特征可解释性。
2026-06-17 cs.AI cs.LG
Beyond Activation Patterns: A Weight-Based Out-of-Context Explanation of Sparse Autoencoder Features
State Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University（通用人工智能国家重点实验室，智能科学与技术学院，北京大学）
该研究提出基于权重的解释框架，揭示稀疏自编码器特征在非情境下的功能效应，发现部分特征直接预测输出并参与注意力机制。
2026-01-30 cs.LG
ReSAE: Residualized Sparse Autoencoders for Multi-Layer Transformer Interventions
Georgia Institute of Technology（佐治亚理工学院）
针对多层稀疏自编码器（SAE）在Transformer中因层间耦合导致的冗余和交互问题，提出残差化稀疏自编码器（ReSAE），通过拟合层间仿射映射并训练SAE于残差上，减少解码器冗余并提升多层替换下的交叉熵恢复。
2026-05-27 cs.AI cs.LG
Scaling and evaluating sparse autoencoders
OpenAI
本文提出用k-稀疏自编码器直接控制稀疏性并改进死亡潜变量问题，发现了清晰的扩展规律，并在GPT-4激活上训练了1600万潜变量的大规模自编码器，同时引入多个特征质量评估指标。
2024-06-06 cs.AI cs.LG
Features that Make a Difference: Leveraging Gradients for Improved Dictionary Learning
Brigham Young University（杨百翰大学）
针对传统稀疏自编码器仅考虑激活值而忽略下游影响的问题，提出g-SAEs，通过在TopK激活函数中引入输入激活的梯度来改进架构，使重构更忠实于原始网络性能，并能更有效地引导模型。
2025-03-31 cs.AI cs.CL cs.LG
On the Relationship Between Activation Outliers and Feature Death in Sparse Autoencoders
Stanford University（斯坦福大学）；Columbia University（哥伦比亚大学）
本文通过理论分析和实验验证，揭示了稀疏自编码器中维度级激活异常值导致特征死亡的机制，并提出均值中心化预处理方法有效消除该问题。
2026-05-29 cs.LG
Improving Dictionary Learning with Gated Sparse Autoencoders
Google DeepMind（谷歌DeepMind）
本文提出门控稀疏自编码器，通过分离方向选择与幅度估计功能并仅对前者施加L1惩罚，解决了SAE的收缩偏差，在高达7B参数语言模型上以一半激活特征实现相当重构保真度。
2024-04-30 cs.AI cs.LG
Sparse Autoencoders for Interpretable Out-of-Distribution Detection
Purdue University（普渡大学）；EPFL（洛桑联邦理工学院）
研究如何可靠检测分布外样本，利用稀疏自编码器从神经网络中间激活中学习可解释特征，通过余弦相似度得出OOD分数，该方法在检测基准上性能领先且能提供可解释见解。
2026-07-15 cs.AI cs.LG
What Do Sparse Autoencoder Feature Discovery Scores Identify? From Activations to Interventions
St. Jude Children’s Research Hospital（圣犹大儿童研究医院）；Columbia University（哥伦比亚大学）
该研究以干预归因为目标，发现观测性特征发现证据无法识别该归因，推导了差距的梯度分解，经多组实验验证归因选择SAE特征更优，为SAE特征干预提供了原则性目标。
2026-10-14 cs.CL cs.LG stat.ML
On the Monitorability of Natural Language Autoencoders: Identification vs Discrimination
该研究针对自然语言自动编码器（NLA）的可监控性展开研究，将其训练与监督部署形式化为不同指称游戏，通过实验证实NLA的激活解释可识别对应激活却难区分真实与高匹配虚假描述的理论见解。
2026-10-14 cs.CL cs.LG
Investigating task-specific prompts and sparse autoencoders for activation monitoring
OpenAI
本文研究了语言模型激活监控方法，提出并改进了提示探测与基于稀疏自编码器的探测技术，发现在计算充足时提示探测数据效率与泛化更佳，计算受限时SAE探测优于原始激活探测。
2025-04-28 cs.LG
Double-Adversarial Activation Anomaly Detection: Adversarial Autoencoders are Anomaly Generators
Fraunhofer AISEC（弗劳恩霍夫应用与集成安全研究所）
提出DA3D方法，利用对抗自编码器仅从正常数据生成人工异常，将无监督异常检测转化为有监督任务，并以纯数据驱动方式超越现有最先进方法。
2024-01-14 cs.CR cs.LG
Improving Sparse Autoencoder with Dynamic Attention
College of Computer Science and Software Engineering, Shenzhen University, China（深圳大学计算机科学与软件工程学院）
本文提出基于交叉注意力架构的新型稀疏自编码器，利用sparsemax实现动态稀疏注意力机制，有效平衡稀疏性与重建性能，在top-n分类任务中取得高质量概念生成。
2026-04-16 cs.AI cs.LG
