TREEMENT: Interpretable Patient-Trial Matching via Personalized Dynamic Tree-Based Memory Network
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Relativity Inc.（Relativity公司）
针对现有患者-临床试验匹配模型泛化性差、可解释性不足的问题，提出基于个性化动态树记忆网络的TREEMENT模型，通过临床本体扩展患者表征、注意力束搜索实现细粒度对齐，在真实数据集上匹配性能优于基线且具备可解释性。
2023-07-19 cs.AI cs.LG
Row-wise Fusion Regularization: An Interpretable Personalized Federated Learning Framework in Large-Scale Scenarios
Department of Statistics, University of Science and Technology of China（统计系，中国科学技术大学）
针对多变量响应个性化联邦学习中的异构建模与结构共享问题，提出 SROF 正则化和 RowFed 算法，实现可解释的行级聚类、稀疏恢复、收敛保证及更优预测性能。
2025-10-19 cs.LG stat.ML
Interpretability Is Not Just a Tax: Sparsity and Diversity Yield Legible and Composable Reward Experts for Personalization
Saarland University（萨尔兰大学）；Independent Researcher（独立研究者）；Bielefeld University（比勒菲尔德大学）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Max Planck Institute for Informatics（马克斯·普朗克信息研究所）
提出稀疏混合专家奖励模型，通过稀疏路由和专家多样性训练，从二元偏好数据中学习可解释的专家模式，提升个性化偏好建模的测试时适应性和可解释性。
2026-10-30 cs.AI cs.CL cs.LG
DeepFaceLIFT: Interpretable Personalized Models for Automatic Estimation of Self-Reported Pain
Computer Science and Artificial Intelligence Laboratory, MIT（麻省理工学院计算机科学与人工智能实验室）；Department of Electrical Engineering and Computer Science, MIT（麻省理工学院电气工程与计算机科学系）；Media Lab, MIT（麻省理工学院媒体实验室）
先前关于从面部表情自动估计疼痛的研究主要集中在“一刀切”的度量（例如PSPI）。在这项工作中，我们专注于直接估计每个人的自我报告的视觉模拟量表（VAS）疼痛指标，因为这被认为是疼痛测量的黄金标准。VAS疼痛评分具有高度主观性和背景依赖性，其范围在不同的人之间可能存在显著差异。为了解决这些问题，我们提出了一种新的两阶段个性化模型，名为DeepFaceLIFT，用于自动估计VAS。该模型基于（1）神经网络和（2）高斯过程回归模型，并用于通过一组手工制作的个人特征和多任务学习来个性化自我报告疼痛的估计。我们在疼痛分析的基准数据集（UNBC-McMaster Shoulder Pain Expression Archive）上显示，所提出的个性化模型在很大程度上优于传统的非个性化模型：类内相关性从19\%的基线性能提高到35\%的个性化性能，同时还提供了模型\textquotesingle估计的置信度-与目标任务的现有模型相比。此外，DeepFaceLIFT自动发现每个人的疼痛相关面部区域，从而可以轻松解释与疼痛相关的面部线索。
2017-08-09 cs.AI cs.CV cs.LG
Patient2Vec: A Personalized Interpretable Deep Representation of the Longitudinal Electronic Health Record
University of Virginia（弗吉尼亚大学）
电子健康记录（EHR）系统的广泛实施促进了从真实临床环境中收集大规模健康数据。尽管EHR系统的采用率显著增加，但这些数据在很大程度上仍未被探索，但在理解疾病相关性和预测健康结果等任务中，这些数据为从患者健康历史中发现知识提供了丰富的数据源。然而，这些数据的异质性、稀疏性、噪声和偏差带来了许多复杂的挑战。这种复杂性使得很难将潜在的相关信息转化为机器学习算法。在本文中，我们提出了一个计算框架，Patient2Vec，学习纵向EHR数据的可解释的深度表示，为每个病人个性化。为了评估这种方法，我们将其应用于使用真实EHR数据预测未来住院情况，并将其预测性能与基线方法进行比较。Patient2Vec产生具有有意义结构的向量空间，并且其实现的AUC约为0.799，优于基线方法。最后，学习的特征重要性可以在个体和群体水平上进行可视化和解释，以提供临床见解。
2018-10-25 cs.AI cs.IR cs.LG
Physics-Informed Neural Koopman Machine for Interpretable Longitudinal Personalized Alzheimer's Disease Forecasting
Platform of Bioinformatics (PBI), University Lausanne Hospital (CHUV) and Faculty of Biology and Medicine (FBM), University of Lausanne (UNIL)（生物信息平台（PBI）、日内瓦大学医院（CHUV）和生物医学学院（FBM）、日内瓦大学（UNIL））；PBI, CHUV and FBM, UNIL（PBI、CHUV和FBM、UNIL）；Department of Biomedical Engineering, University of Basel（生物医学工程系、巴塞尔大学）；Roche Diagnostics International Ltd.（罗氏诊断国际有限公司）；F. Hoffmann - La Roche Ltd., Roche Information Solutions（F. Hoffmann-La Roche有限公司、罗氏信息解决方案）
本文提出神经Koopman机，通过整合多模态数据和生物学知识，实现阿尔茨海默病认知下降的可解释性预测。
2025-12-05 cs.AI cs.LG q-bio.NC
Learning How to Propagate Messages in Graph Neural Networks
Westlake University（西湖大学）；Zhejiang University（浙江大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
针对图神经网络传播策略无法适配不同节点的问题，提出可学习个性化可解释传播策略的通用框架，通过VEM框架求解参数，在多类图基准上性能优于现有最优方法。
2023-10-01 cs.LG
Personalized Cardiovascular Disease Risk Mitigation via Longitudinal Inverse Classification
University of Kansas（堪萨斯大学）；University of Iowa（爱荷华大学）
心血管疾病（CVD）是一种严重的疾病，影响全球数百万人，是美国的主要死亡原因。然而，近年来，个性化医疗领域取得了巨大的增长，个性化医疗是一个将患者置于医疗决策和治疗过程中心的医学领域。许多以CVD为重点的个性化医学创新都集中在遗传生物标志物上，这些生物标志物在遗传水平上提供了针对个人的CVD见解，但并不关注患者可以采取的减轻CVD发展风险的实际步骤。在这项工作中，我们提出了纵向逆分类，一个建议框架，提供个性化的生活方式建议，最大限度地减少CVD风险的预测概率。我们的框架考虑了历史CVD风险以及其他患者特征，以提供建议。我们的实验表明，早期采用我们的框架得出的建议产生显着的CVD风险降低。
2020-11-16 cs.CY cs.LG
Causal Rule Forest: Toward Interpretable and Precise Treatment Effect Estimation
National Sun Yat-sen University（台湾中山大学）
针对现有异质处理效应估计方法可解释性差的问题，提出因果规则森林（CRF），通过学习隐藏模式转化为可解释的多层布尔规则，提升其他可解释因果推断模型的预测精度与亚组识别能力。
2024-08-27 cs.AI cs.LG
Personalized Decision Supports based on Theory of Mind Modeling and Explainable Reinforcement Learning
University of Pittsburgh（匹兹堡大学）；Carnegie Mellon University（卡内基梅隆大学）
本研究提出结合心智理论建模与可解释强化学习的个性化决策支持系统，通过DRL提供建议、ToM预测用户行为以把握干预时机，并用反事实解释增强可解释性，在模拟团队决策众包实验中表现优于基线，且具备广泛应用潜力。
2023-12-13 cs.AI cs.HC cs.LG
A Meta-GNN approach to personalized seizure detection and classification
EPFL（洛桑联邦理工学院）
在本文中，我们提出了一个个性化的癫痫发作检测和分类框架，可以快速适应有限的癫痫发作样本中的特定患者。我们通过结合两种新的范式来实现这一点，这两种范式最近在各种现实世界的应用中取得了很大的成功：图神经网络（GNN）和元学习。我们训练基于元GNN的分类器，该分类器从一组训练患者中学习全局模型，使得该全局模型最终可以使用非常有限的样本来适应新的未见过的患者。我们将我们的方法应用于TUSZ数据集，这是最大的和公开可用的癫痫基准数据集之一。我们表明，我们的方法优于基线，在新的看不见的患者上仅迭代20次后，准确率达到82.7%，F1评分达到82.08%。
2023-03-20 cs.LG eess.SP
Interpretable time series neural representation for classification purposes
Sorbonne Université（索邦大学）；AgroParisTech（巴黎高科农业学院）
本文提出一种满足可解释性需求的无监督神经架构，用于生成一致、离散且可可视化的单变量时间序列表示，并在UCR数据集分类实验中平均优于其他可解释方法。
2023-10-25 cs.LG
Enhancing Personalized Recipe Recommendation Through Multi-Class Classification
Michigan State University（密歇根州立大学）
针对饮食偏好多样下的个性化食谱推荐难题，结合关联分析与考虑食谱食材多类归属的多分类技术，探索实现精准个性化推荐的方法与流程。
2024-09-16 cs.AI cs.IR cs.LG
Personalized Federated Hierarchical Gaussian Processes for Privacy-Preserving Modeling of Heterogeneous Distributed Systems
Arizona State University（亚利桑那州立大学）
提出个性化联邦分层高斯过程，通过共享全局组件与局部残差分解实现异构客户端隐私保护的概率建模，在故障分类和空气质量建模中取得高效结果。
2026-09-18 cs.LG
Model Learning with Personalized Interpretability Estimation (ML-PIE)
Chalmers University of Technology（查尔姆斯理工大学）；University of Trieste（的里雅斯特大学）；IMT Lucca（IMT卢卡研究院）
高风险应用程序需要AI生成的模型是可解释的。用于潜在可解释模型的合成的当前算法依赖于仅粗略地表示可解释性的目标或正则化项（例如，型号尺寸），并且不是为特定用户设计的。然而，可解释性本质上是主观的。在本文中，我们提出了一种方法，使用户能够根据她或他的喜好来操纵模型合成过程中，为用户量身定制的模型的合成。我们使用一个双目标的进化算法来合成模型，在准确性和用户特定的可解释性概念之间进行权衡。后者是由一个神经网络估计，该神经网络使用用户的反馈，这是使用基于不确定性的主动学习收集的进化的同时进行训练。为了最大限度地提高可用性，用户只需要告诉，给定两个模型的时间，哪一个是不太复杂。通过对两个涉及61名参与者的真实数据集的实验，我们发现我们的方法能够学习对不同用户的可解释性的估计。此外，用户往往更喜欢使用所提出的方法发现的模型，而不是使用非个性化的可解释性指数发现的模型。
2021-04-27 cs.LG cs.NE
ShapeWordNet: An Interpretable Shapelet Neural Network for Physiological Signal Classification
University of Science and Technology of China（中国科学技术大学）；Tsinghua University（清华大学）
生理信号是一种高维时间序列，在医疗保健领域具有重要的应用价值。然而，以前的工作，其分类未能获得有希望的结果，由于棘手的数据特性和严重的标签稀疏性问题。在本文中，我们试图解决这些挑战，提出了一个更有效的和可解释的计划，为生理信号分类任务。具体来说，我们利用时间序列的形状来提取突出的局部模式，并进行可解释的序列离散化，以提取整个序列的信息。通过这样做，长且连续的原始信号被压缩成短且离散的令牌序列，其中局部模式和全局上下文都被很好地保留。此外，为了解决标签稀疏问题，自适应地设计了多尺度变换策略来扩充数据，并相应地设计了跨尺度对比学习机制来指导模型训练.我们将我们的方法命名为ShapeWordNet，并在三个真实世界的数据集上进行了广泛的实验，以研究其有效性。比较结果表明，我们提出的方案显着优于四类尖端方法。可视化分析进一步证明了基于Shapard的序列离散化思想的良好可解释性。
2023-02-10 cs.LG
Learning Interpretable Differentiable Logic Networks for Time-Series Classification
Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系）
首次将兼具准确性、可解释性和计算效率的可微分逻辑网络（DLNs）应用于单变量时间序列分类，通过Catch22和TSFresh特征表示转换序列，整合训练配置到超参数搜索空间，在51个基准上验证其核心优势。
2026-10-06 cs.LG
Training Experimentally Robust and Interpretable Binarized Regression Models Using Mixed-Integer Programming
Monash University（莫纳什大学）
在本文中，我们探索基于模型的方法来训练强大的和可解释的二进制回归模型的多类分类任务使用混合编程（MIP）。我们的MIP模型通过使用加权目标来平衡预测余量和模型大小的优化：最小化错误分类的训练实例的总余量，最大化正确分类的训练实例的总余量，并最大化整体模型正则化。我们进行了两组实验来测试我们的MIP模型的分类精度在标准和损坏版本的多个分类数据集，分别。在第一组实验中，我们表明，我们的MIP模型优于一个等效的伪布尔优化（PBO）模型，并取得了竞争力的结果，逻辑回归（LR）和梯度下降（GD）在标准数据集的分类精度。在第二组实验中，我们表明我们的MIP模型优于其他模型（即，GD和LR）在大多数损坏数据集的分类准确性方面。最后，我们直观地展示了我们的MIP模型在MNIST数据集上的学习参数的可解释性。总体而言，我们展示了使用MIP训练鲁棒和可解释的二值化回归模型的有效性。
2022-03-19 cs.LG
(Sometimes) Less is More: Mitigating the Complexity of Rule-based Representation for Interpretable Classification
本文提出了一种基于逻辑神经网络的方法，通过可微的 $L_0$ 正则化近似来减少概念规则集的复杂性，同时保持其性能，并与随机二值化方法进行比较。
2025-09-26 cs.LG
Continuous Learning for Large-scale Personalized Domain Classification
University of Wisconsin, Madison（威斯康星大学麦迪逊分校）；Amazon Alexa AI（亚马逊Alexa人工智能）
领域分类是将口语话语映射到智能个人数字助理（IPDA）中的自然语言理解领域之一的任务。这是工业中主流IPDA的主要组成部分。除了官方域名，外部开发人员还创建了数千个第三方域名，以增强IPDA的功能。随着更多领域的快速发展，如何不断适应新领域的问题仍然具有挑战性。此外，现有的持续学习方法没有解决动态地结合个性化信息以获得更好的领域分类的问题。在本文中，我们提出了CoNDA，一个基于神经网络的领域分类方法，支持增量学习的新类。实证评估表明，CoNDA实现了高精度和优于基线的增量增加的新领域和现有领域的大幅度。
2019-05-02 cs.AI cs.LG stat.ML
Latent SHAP: Toward Practical Human-Interpretable Explanations
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；NEC Corporation（日本电气股份有限公司）
模型无关的特征属性算法（如SHAP和LIME）是解释复杂分类模型（如深度神经网络）决策的普遍技术。然而，由于复杂的分类模型在低级别（或编码）特征上训练时会产生卓越的性能，因此在许多情况下，这些算法生成的解释既不可解释也不可由人类使用。在最近的研究中提出的方法，支持人类可解释的解释是不切实际的，因为它们需要一个完全可逆的转换函数，映射模型的输入功能的人类可解释的功能。在这项工作中，我们介绍了潜在的SHAP，一个黑盒特征属性框架，提供人类可解释的解释，而不需要一个完全可逆的转换功能。我们使用（1）可逆转换函数可用的对照实验来证明潜在SHAP的有效性，这使得我们的方法能够进行强大的定量评估，以及（2）名人吸引力分类（使用CelebA数据集），其中可逆转换函数不可用，这使得我们的方法能够进行全面的定性评估。
2022-11-27 cs.LG
Nonparametric Additive Value Functions: Interpretable Reinforcement Learning with an Application to Surgical Recovery
Department of Biostatistics, Harvard University（哈佛大学生物统计学系）
提出非参数加性模型估计强化学习中的可解释价值函数，结合局部核回归与基扩展提取特征非线性贡献，应用于脊柱术后康复并验证其临床一致性。
2025-05-30 cs.LG stat.ML
AdaptStress: Online Adaptive Learning for Interpretable and Personalized Stress Prediction Using Multivariate and Sparse Physiological Signals
Engineering and Technology institute Groningen (ENTEG), University of Groningen（格罗宁根大学工程与技术学院（ENTEG））；Department of Human Movement Sciences, University Medical Center Groningen（格罗宁根大学医学中心人类运动科学系）
AdaptStress通过自适应学习和多变量生理信号预测压力，实现个性化和可解释的连续压力监测。
2026-02-19 cs.AI cs.LG
Navigating the Rashomon Effect: How Personalization Can Help Adjust Interpretable Machine Learning Models to Individual Users
University of Regensburg（雷根斯堡大学）；University of Ulm（乌尔姆大学）；TU Dresden（德累斯顿工业大学）
针对多种 GAM 性能相近但解释不同的 Rashomon 效应，本文提出基于 contextual bandits 的个性化配置方法，并通过108人在线实验验证其可在保持高可解释性的同时生成个体化模型。
2025-05-11 cs.HC cs.LG
On Bridging Generic and Personalized Federated Learning for Image Classification
The Ohio State University（俄亥俄州立大学）
联邦学习是有前途的，因为它有能力与多个客户端协作训练模型，而无需访问他们的数据，但当客户端的数据分布彼此不同时，它就很容易受到攻击。这种分歧进一步导致了一个困境：“我们应该优先考虑学习模型的通用性能（供将来在服务器上使用）还是其个性化性能（针对每个客户端）？“这两个看似相互竞争的目标使社区分裂，专注于其中一个或另一个，但在本文中，我们表明有可能同时实现这两个目标。具体来说，我们提出了一个新的联邦学习框架，明确地将模型的双重职责与两个预测任务相结合。一方面，我们引入了一个家庭的损失，是强大的不相同的类分布，使客户端训练一个通用的预测与一致的目标在他们之间。另一方面，我们制定个性化的预测作为一个轻量级的自适应模块，学习，以尽量减少每个客户端的经验风险的通用预测。有了这个双损失，双预测器框架，我们将其命名为联邦鲁棒解耦（Federated Robust Decoupling，Fed-RoD），学习模型可以同时实现最先进的通用和个性化性能，基本上桥接了这两个任务。
2022-07-11 cs.AI cs.LG
On the Effectiveness of Interpretable Feedforward Neural Network
McGill University（麦吉尔大学）
深度学习模型已经在许多分类任务中实现了最先进的性能。然而，他们中的大多数不能提供一个解释，他们的分类结果。可解释的机器学习模型通常是线性或分段线性的，并且产生较差的性能。非线性模型取得了更好的分类性能，但很难解释其分类结果。这可能已经改变了一个可解释的前馈神经网络（IFFNN）提出，实现高分类性能和可解释性的恶意软件检测。如果IFFNN能够以更灵活和更通用的形式执行其他分类任务，同时提供有意义的解释，它可能会引起应用机器学习社区的极大兴趣。在本文中，我们提出了一种方法来推广可解释的前馈神经网络的多类分类场景和任何类型的前馈神经网络，并评估其分类性能和可解释性的内在可解释的数据集。我们得出结论，发现广义IFFNN实现了类似的分类性能，他们的正常前馈神经网络同行，并提供有意义的解释。因此，这种神经网络结构具有很大的实际用途。
2021-11-03 cs.AI cs.LG
Incremental user embedding modeling for personalized text classification
Amazon Alexa（亚马逊 Alexa）
个人用户简档和交互历史记录在现实世界的应用程序中（如聊天机器人、社交媒体、零售和教育）提供定制体验方面发挥着重要作用。由于历史数据的不断增长，利用用户个性化信息的自适应用户表示学习变得越来越具有挑战性。在这项工作中，我们提出了一个增量式的用户嵌入建模方法，其中嵌入用户的最近的交互历史动态地集成到积累的历史向量通过一个Transformer编码器。这种建模范式允许我们以连续的方式创建通用的用户表示，并减轻了数据管理的挑战。通过将其应用于基于Reddit数据集的个性化多类分类任务，我们证明了这种方法的有效性，并通过适当的评论历史编码和任务建模，在两个实验设置下，相对于基线系统，预测准确率分别提高了9%和30%。
2022-02-13 cs.CL cs.LG eess.AS
Personalized Tucker Decomposition: Modeling Commonality and Peculiarity on Tensor Data
Arizona State University（亚利桑那州立大学）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
本文提出个性化Tucker分解（perTucker），通过将张量数据分解为共享全局成分与个性化局部成分，并引入模式正交性假设和保证收敛的近端梯度正则化块坐标下降算法，有效建模跨数据集异质性，在异常检测、客户分类和聚类任务中验证了其有效性。
2023-09-07 cs.LG stat.ME
Interpretable Sequence Classification via Discrete Optimization
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）
序列分类是在给定观测序列的情况下预测类别标签的任务。在医疗监控或入侵检测等许多应用中，早期分类对于及时干预至关重要。在这项工作中，我们学习序列分类器，有利于早期分类从不断变化的观察轨迹。虽然许多最先进的序列分类器是神经网络，特别是LSTM，但我们的分类器采用有限状态自动机的形式，并通过离散优化进行学习。我们的基于自动机的分类器是可解释的-支持解释，反事实推理和人在环修改-并且具有很强的经验性能。在一套目标识别和行为分类数据集上的实验表明，我们学习的基于自动机的分类器具有与基于LSTM的分类器相当的测试性能，并且具有可解释的额外优势。
2020-10-06 cs.AI cs.LG
Rationally Inattentive Utility Maximization for Interpretable Deep Image Classification
Cornell University（康奈尔大学）
用于图像分类的深度卷积神经网络（CNN）是否可以通过具有信息获取成本的效用最大化来解释？我们证明了深度CNN的行为（在必要和充分条件方面）与理性疏忽效用最大化者（一种在经济学中广泛用于人类决策的生成模型）等同。我们的声明是基于对来自5种流行架构的200个深度CNN的广泛实验。我们的可解释模型的参数通过凸可行性算法有效地计算。作为应用，我们证明了我们基于经济学的可解释模型可以预测使用任意参数训练的深度CNN的分类性能，准确率超过94%。这消除了重新训练用于图像分类的深度CNN的需要。我们的方法的理论基础在于微观经济学中的贝叶斯揭示偏好研究。我们所有的结果都在GitHub上，完全可复制。
2021-07-31 cs.LG econ.TH
Personalized Diagnostic Tool for Thyroid Cancer Classification using Multi-view Ultrasound
Shenzhen University（深圳大学）；Shanghai Jiaotong University（上海交通大学）；Ruijin Hospital（瑞金医院）
在过去的几十年里，甲状腺癌的发病率在全球范围内一直在增加。准确和早期诊断可以及时治疗，并有助于避免过度诊断。在临床上，结节通常是从横向和纵向视图使用甲状腺超声评估。然而，甲状腺和病变的外观在个体之间可能会有很大差异。从这两个角度识别关键诊断信息需要专业知识。此外，找到整合多视图信息的最佳方式也依赖于临床医生的经验，并为准确诊断增加了进一步的难度。为了解决这些问题，我们提出了一种个性化的诊断工具，可以为不同的患者定制其决策过程。它包括一个多视图分类模块的特征提取和一个个性化的加权分配网络，为不同的意见，产生最佳的权重。它还配备了自监督视图感知对比度损失，以进一步提高模型对不同患者群体的鲁棒性。实验结果表明，该框架能更好地利用多视图信息，性能优于同类方法。
2022-07-01 cs.AI cs.CV cs.LG
PETGEN: Personalized Text Generation Attack on Deep Sequence Embedding-based Classification Models
Georgia Institute of Technology（佐治亚理工学院）
恶意用户接下来应该写什么来欺骗检测模型？识别恶意用户对于确保互联网平台的安全性和完整性至关重要。已经创建了几个基于深度学习的检测模型。然而，恶意用户可以通过操纵他们的行为来逃避深度检测模型，使这些模型几乎没有用处。这种深度检测模型对对抗攻击的脆弱性是未知的。在这里，我们创建了一个新的对抗攻击模型，针对基于深度用户序列嵌入的分类模型，使用用户帖子的序列来生成用户嵌入并检测恶意用户。在攻击中，对手生成新的帖子来欺骗分类器。我们提出了一种新的端到端个性化文本生成攻击模型，称为PEGEN，同时降低了检测模型的效率，并生成具有几个关键理想属性的帖子。具体而言，PETGEN生成的帖子是个性化的用户的写作风格，具有关于给定的目标上下文的知识，知道用户的历史帖子的目标上下文，并封装用户的最近的主题兴趣。我们在两个真实世界的数据集（Yelp和Wikipedia，都有恶意用户的真实数据）上进行了广泛的实验，以表明PEGEN显著降低了流行的基于深度用户序列嵌入的分类模型的性能。PEGEN在白盒和黑盒分类器设置中的文本质量和攻击效率方面优于五个攻击基线。总的来说，这项工作铺平了道路，下一代的对手意识的序列分类模型。
2021-10-19 cs.LG cs.SI
FedABC: Targeting Fair Competition in Personalized Federated Learning
JD Explore Academy（京东探索研究院）
联邦学习的目标是协作训练模型，而无需访问客户的本地私有数据。对于不同的客户端，数据可能是非IID的，从而导致性能低下。最近，个性化联邦学习（PFL）通过在局部优化中强制正则化或改进服务器上的模型聚合方案，在处理非IID数据方面取得了巨大成功。然而，大多数的PFL方法没有考虑到不公平的竞争问题所造成的不平衡的数据分布和缺乏积极的样本，在每个客户端的某些类。为了解决这个问题，我们提出了一个新的和通用的PFL框架，称为联邦平均通过二进制分类，称为FedABC。特别是，我们在每个客户端采用“one-vs-all”的训练策略，通过为每个类构建个性化的二进制分类问题来减轻类间的不公平竞争。这可能会加剧类不平衡的挑战，因此设计了一种新的个性化的二进制分类损失，结合了欠采样和硬样本挖掘策略。在两个流行的数据集上进行了大量的实验，结果表明，我们的FedABC可以显着优于现有的同行。
2023-02-15 cs.CR cs.LG
Implicit Mixture of Interpretable Experts for Global and Local Interpretability
Australian National University（澳大利亚国立大学）
我们研究了使用可解释专家混合物（MoIE）在MNIST 10上构建可解释图像分类器的可行性。MoIE使用黑盒路由器将每个输入分配给许多固有的可解释专家中的一个，从而深入了解为什么做出特定的分类决策。我们发现，经过天真训练的MoIE将学会“作弊”，黑盒路由器将自行解决分类问题，每个专家只需学习一个特定类别的常量函数。我们建议通过引入可解释路由器和训练黑盒路由器的决策来匹配可解释路由器来解决这个问题。此外，我们提出了一种新的隐式参数化方案，使我们能够建立任意数量的专家的混合物，使我们能够研究分类性能，本地和全球的可解释性如何随着专家数量的增加而变化。我们的新模型被称为隐式混合可解释专家（IMoIE），可以在MNIST 10上匹配最先进的分类精度，同时提供局部可解释性，并且可以提供全局可解释性，尽管以降低分类精度为代价。
2022-12-01 cs.CV cs.LG
Predict then Propagate: Graph Neural Networks meet Personalized PageRank
Technical University of Munich（慕尼黑工业大学）
用于图上半监督分类的神经消息传递算法最近取得了巨大的成功。然而，为了对节点进行分类，这些方法仅考虑几个传播步骤之外的节点，并且该利用的邻域的大小难以扩展。本文利用图卷积网络（GCN）与PageRank的关系，推导出一种基于个性化PageRank的改进传播方案。我们利用这个传播过程来构建一个简单的模型，个性化的神经预测传播（PPNP），及其快速近似，APPNP。我们的模型的训练时间与以前的模型相当或更快，其参数数量与以前的模型相当或更少。它利用一个大的、可调整的邻域进行分类，可以很容易地与任何神经网络结合。我们表明，该模型优于最近提出的几种方法的半监督分类在最彻底的研究迄今为止GCN类模型。我们的实现可在线获得。
2022-04-05 cs.LG stat.ML
Interpretable Visualizations of Data Spaces for Classification Problems
本文提出一种混合监督-非监督技术，用于可视化分类问题的决策边界，通过化学神经毒性的案例展示其可解释性与分析能力。
2026-03-13 cs.LG stat.ML
FedLog: Personalized Federated Classification with Less Communication and More Flexibility
University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）
针对联邦表示学习共享模型参数导致通信开销巨大的问题，提出FedLog方法，通过共享编码最小充分统计量的数据摘要和贝叶斯推断进行全局聚合，并扩展差分隐私框架，实现了高精度与低通信开销。
2024-10-12 cs.DC cs.LG stat.ML
BYOC: Personalized Few-Shot Classification with Co-Authored Class Descriptions
University of California Berkeley（加州大学伯克利分校）；Bardeen, Inc.（巴丁公司）
本文提出BYOC方法，通过用户与大型语言模型交互共同撰写类别描述进行少样本文本分类，无需大量标注数据，实验表明其性能接近大训练集模型，且个性化分类器准确率达90%。
2023-10-09 cs.CL cs.LG
Adaptive Discovery of Interpretable Audio Attributes with Multimodal LLMs for Low-Resource Classification
Kyoto University（京都大学）
本文提出利用多模态大语言模型自适应发现可解释音频属性，提升低资源音频分类的效率和准确性。
2026-03-07 cs.LG cs.SD
DeepCoDA: personalized interpretability for compositional health data
Deakin University（迪肯大学）
可解释性允许领域专家直接评估模型的相关性和可靠性，这是一种提供保证并建立信任的实践。在医疗环境中，可解释的模型应该涉及相关的生物机制，而不受数据预处理等技术因素的影响。我们将个性化可解释性定义为样本特定特征属性的度量，并将其视为精确健康模型证明其结论的最低要求。一些健康数据，特别是高通量测序实验产生的数据，存在细微差别，影响了精确的健康模型及其解释。这些数据是组合的，这意味着每个特征都有条件地依赖于所有其他特征。我们提出了深度组成数据分析（DeepCoDA）框架，将精确的健康建模扩展到高维组成数据，并通过患者特定的权重提供个性化的可解释性。我们的架构在25个真实世界的数据集上保持了最先进的性能，同时为组合数据生成个性化和完全一致的解释。
2020-06-16 cs.AI cs.LG stat.ML
Multi-Label Network Classification via Weighted Personalized Factorizations
University of Hildesheim（希尔德斯海姆大学）
多标签网络分类是一个众所周知的任务，被用于各种各样的基于Web和非基于Web的域。它可以被形式化为一个多关系学习任务，用于根据网络中的关系预测节点标签。在稀疏网络中，当只有隐式反馈信息可用时，例如在预测社交网络中的用户兴趣时，该预测任务可能非常具有挑战性。目前的方法依赖于通过利用网络结构来学习每个节点的潜在表示，然而，隐式反馈关系是自然稀疏的，并且仅包含正的观察到的反馈，这意味着这些方法将把所有观察到的关系视为同等重要。这在现实世界的场景中不一定是这种情况，因为隐式关系可能具有反映这些关系的强度的语义权重。如果这些权重可以近似，则可以训练模型以区分强关系和弱关系。提出了一种基于贝叶斯个性化排序损失的加权个性化两阶段多关系矩阵分解网络分类模型，该模型利用基本传递节点相似度函数对隐式反馈关系进行加权.实验表明，该模型显着优于国家的最先进的模型在三个不同的现实世界的基于Web的数据集和基于生物学的数据集。
2019-02-25 cs.IR cs.LG cs.SI
Multivariable times series classification through an interpretable representation
University of Granada（格拉纳达大学）
多变量时间序列分类是一项重要性日益增加的任务，由于在各个领域（经济，卫生，能源，交通，作物等）的新问题的扩散。其中大量的信息源是可用的。传统上在单变量环境中工作的方法的直接外推不能经常应用于多变量问题中以获得最佳结果。这主要是由于这些方法无法捕捉符合多元时间序列的不同变量之间的关系。迄今为止发布的多元提案提供了有竞争力的结果，但很难解释。在本文中，我们提出了一种时间序列分类方法，考虑到一个多变量时间序列的不同变量之间的关系，通过一组描述性的功能，考虑到时间序列的替代表示。我们采用传统的分类算法，获得可解释的和有竞争力的结果。
2020-09-08 cs.LG stat.ML
Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification
Massachusetts Institute of Technology（麻省理工学院）
本文提出三种技术缓解概念瓶颈模型中的偏见，以提升图像分类的公平性和可解释性。
2026-03-06 cs.CV cs.LG
Interpretable Alzheimer's Disease Classification Via a Contrastive Diffusion Autoencoder
University College London（伦敦大学学院）
本研究提出基于对比扩散自编码器的方法，通过图像与潜在空间训练样本的相似性对阿尔茨海默病进行分类，在2D MRI数据上达到黑盒模型相当准确率并提供可解释性。
2023-10-25 cs.CV cs.LG
Interpretable Two-level Boolean Rule Learning for Classification
Massachusetts Institute of Technology（麻省理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
作为对可解释的机器学习研究的贡献，我们开发了一种新的优化框架，用于学习精确和稀疏的两级布尔规则。我们考虑合取范式（AND-of-OR）和析取范式（OR-of-AND）中的规则。提出了一个原则性的目标函数，贸易分类的准确性和可解释性，其中我们使用汉明损失来表征准确性和稀疏性来表征可解释性。我们提出了有效的程序来优化这些目标的基础上线性规划（LP）松弛，块坐标下降，交替最小化。实验表明，我们的新算法提供了很好的准确性和可解释性之间的权衡。
2016-06-18 cs.LG stat.ML
Learning Qualitatively Diverse and Interpretable Rules for Classification
Harvard University（哈佛大学）
人们越来越有兴趣开发精确的模型，也可以解释给人类。不幸的是，如果某些数据集存在多个不同但准确的模型，当前的机器学习方法不太可能找到它们：标准技术可能会恢复一个组合它们的复杂模型。在这项工作中，我们介绍了一种方法来识别一个数据集的不同但准确的模型的最大集合。我们的经验表明，在数据支持多个准确的分类器的情况下，我们倾向于恢复更简单，更可解释的分类器，而不是更复杂的。
2018-07-19 cs.LG stat.ML
Personalized Interpretation on Federated Learning: A Virtual Concepts approach
University of Technology Sydney（悉尼科技大学）
本文提出一种虚拟概念方法，将联邦学习中客户端的非IID数据解释为可学习或可预定义的概念向量混合，从而在提升个性化解释性的同时增强训练鲁棒性，并在基准数据集上验证了有效性。
2024-06-28 cs.DC cs.LG
Neuro-symbolic Models for Interpretable Time Series Classification using Temporal Logic Description
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research（IBM研究院）
现有的时间序列分类模型大多缺乏可解释性，难以检验。可解释的机器学习模型可以帮助发现数据中的模式，并为领域专家提供易于理解的见解。在这项研究中，我们提出了神经符号时间序列分类（NSTSC），一个神经符号模型，利用信号时序逻辑（STL）和神经网络（NN）完成TSC任务，使用多视图数据表示，并表示该模型作为一个人类可读的，可解释的公式。在NSTSC中，每个神经元都链接到一个符号表达式，即，STL（sub）公式。因此，NSTSC的输出可以解释为类似于自然语言的STL公式，描述隐藏在数据中的时间和逻辑关系。我们提出了一个基于NSTSC的分类器，采用决策树的方法来学习公式结构，完成多类TSC任务。所提出的wSTL平滑激活函数允许以端到端的方式学习模型。我们在来自小鼠的真实伤口愈合数据集和来自UCR时间序列库的基准数据集上测试NSTSC，证明NSTSC实现了与最先进模型相当的性能。此外，NSTSC可以生成与领域知识相匹配的可解释公式。
2022-09-15 cs.AI cs.LG
A Comparison of Personalized and Generalized Approaches to Emotion Recognition Using Consumer Wearable Devices: Machine Learning Study
Information and Computer Sciences（信息与计算机科学学院）
本研究基于WESAD数据集构建卷积编码器，对比个性化与两类通用化模型的三类情绪分类性能，发现个性化模型准确率远超通用模型，证明其可行性与高性能，呼吁加强相关研究。
2023-08-28 cs.CY cs.HC cs.LG
iCapsNets: Towards Interpretable Capsule Networks for Text Classification
Texas A&M University（德克萨斯农工大学）
许多文本分类应用要求模型具有令人满意的性能以及良好的可解释性。传统的机器学习方法很容易解释，但准确率很低。深度学习模型的发展显著提高了性能。然而，深度学习模型通常很难解释。在这项工作中，我们提出了可解释的胶囊网络（iCapsNets）来弥合这一差距。iCapsNets使用胶囊来建模语义，并探索新的方法来提高可解释性。iCapsNets的设计符合人类的直觉，使其能够产生人类可理解的解释结果。值得注意的是，iCapsNets可以在本地和全球进行解释。在局部可解释性方面，iCapsNets提供了一种简单而有效的方法来解释每个数据样本的预测。另一方面，iCapsNets探索了一种新的方法来解释模型的一般行为，实现了全局可解释性。实验研究表明，我们的iCapsNets产生有意义的本地和全球的解释结果，而不会遭受显着的性能损失相比，不可解释的方法。
2020-05-16 cs.CL cs.LG
Don't PANIC: Prototypical Additive Neural Network for Interpretable Classification of Alzheimer's Disease
Technical University Munich（慕尼黑工业大学）；Ludwig Maximilians University（慕尼黑大学）
阿尔茨海默病（AD）病因复杂，需要综合神经解剖学、遗传学和脑脊液生物标志物等信息进行准确诊断。因此，最近的深度学习方法结合了图像和表格信息，以提高诊断性能。然而，这种神经网络的黑盒性质仍然是临床应用的障碍，其中理解异构模型的决策是不可或缺的。我们提出了PANIC，一个原型添加剂神经网络可解释的AD分类，集成了三维图像和表格数据。它是可解释的设计，因此，避免了事后的解释，试图近似网络的决定的需要。我们的研究结果表明，PANIC在AD分类中实现了最先进的性能，同时直接提供局部和全局解释。最后，我们表明，PANIC提取AD的生物意义的签名，并满足一组值得信赖的机器学习的理想desiderata。我们的实现可以在https://github.com/ai-med/PANIC上获得。
2023-03-14 cs.CV cs.LG
Personalized Class Incremental Context-Aware Food Classification for Food Intake Monitoring Systems
Concordia University（康考迪亚大学）；Department of Health, Kinesiology, and Applied Physiology（健康、运动机能与应用生理学系）
本文提出一种个性化类别增量食物分类模型，结合个人饮食习惯、改进版DSN和综合监测系统，在FOOD101-Personal与VFN-Personal上同时提升新旧类别的分类准确率。
2025-03-09 cs.CE cs.CV cs.LG
Low-dimensional Interpretable Kernels with Conic Discriminant Functions for Classification
Eskişehir Teknik Üniversitesi（埃斯基谢希尔技术大学）；Erasmus University Rotterdam（鹿特丹伊拉斯姆斯大学）
核通常被开发和用作隐式映射函数，由于其高维特征空间表示，显示出令人印象深刻的预测能力。在这项研究中，我们逐步构建了一系列简单的特征映射，导致可解释的低维内核的集合。在每一步中，我们都保留了原始特征，并确保输入数据的维数增加非常低，这样得到的判别函数仍然是可解释的，并且可以快速训练。尽管我们坚持可解释性，我们获得高精度的结果，即使没有深入的超参数调整。将我们的结果与基准数据集上的几个知名内核进行比较表明，所提出的内核在预测精度方面具有竞争力，而训练时间显着低于最先进的内核实现。
2020-07-17 cs.LG stat.ML
Interpretable CNNs for Object Classification
Shanghai Jiao Tong University（上海交通大学）；University of California, Los Angeles（加州大学洛杉矶分校）
本文提出了一种在深度卷积神经网络（CNN）中学习可解释卷积滤波器进行对象分类的通用方法，其中每个可解释滤波器对特定对象部分的特征进行编码。我们的方法不需要额外的注释对象的部分或纹理的监督。相反，我们使用与传统CNN相同的训练数据。我们的方法在学习过程中自动为高conv层中的每个可解释过滤器分配特定类别的对象部分。在CNN的conv层中的这种显式知识表示帮助人们澄清在CNN中编码的逻辑，即，回答CNN从输入图像中提取什么模式并用于预测。我们已经使用具有各种结构的不同基准CNN测试了我们的方法，以证明我们方法的广泛适用性。实验表明，我们的可解释的过滤器是更有意义的语义比传统的过滤器。
2020-03-12 cs.CV cs.LG stat.ML
