What's in an Earth Embedding? An Explainability Analysis of Location Encoders
University of Colorado Boulder（科罗拉多大学博尔德分校）；Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
通过稀疏自编码器、自然语言概念和视觉特征分解地理隐式神经表示的位置嵌入，揭示其编码的可解释地理结构。
2026-06-25 cs.LG
MoE-Enhanced Explainable Deep Manifold Transformation for Complex Data Embedding and Visualization
Centre for Artificial Intelligence and Robotics (CAIR), HKISI-CAS and Westlake University（人工智能与机器人中心（CAIR），HKISI-CAS和西湖大学）；Westlake University（西湖大学）；School of Information and Electrical Engineering, Hangzhou City University（信息与电气工程学院，杭州市大学）；Academy of Edge Intelligence Hangzhou City University（边缘智能学院，杭州市大学）；CAIR, HKISI-CAS（人工智能与机器人中心（CAIR），HKISI-CAS）；State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS), CASIA（多模态人工智能系统国家重点实验室（MAIS），CASIA）；School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)（人工智能学院，中国科学院大学（UCAS））；Ant Group（蚂蚁集团）
针对降维中精度与可解释性的权衡难题，提出MoE增强的DMT-ME方法，结合几何感知双曲映射器与MoE模型，实验验证其在降维精度与可解释性上均表现优异。
2026-08-18 cs.AI cs.LG
Balancing Explainability-Accuracy of Complex Models
The University of Oslo（奥斯陆大学）
针对复杂机器学习模型可解释性与准确率权衡的难题，提出基于相关性影响的新方法，在确保高准确率的同时显著提升可解释性，并提供了计算复杂度上界。
2023-05-23 cs.AI cs.LG
Exploring the Trade-off Between Model Performance and Explanation Plausibility of Text Classifiers Using Human Rationales
Fundação Getulio Vargas（热图利奥·瓦加斯基金会）；Universidade Estadual de Campinas (UNICAMP)（坎皮纳斯州立大学）
本研究提出将人类理由融入文本分类模型的方法，通过新型对比损失与多目标优化探索性能与解释合理性的权衡，在不大幅降低模型性能的前提下显著提升解释质量。
2024-04-03 cs.AI cs.CL cs.LG
Explainable Graph Spectral Clustering For GloVe-like Text Embeddings
Institute of Computer Science of Polish Academy of Sciences（波兰科学院计算机科学研究所）
本文提出了一种针对GloVe-like文本嵌入的可解释图谱聚类方法，旨在提升文本聚类结果的可解释性。
2025-12-22 cs.AI cs.LG
Automatic Concept Embedding Model (ACEM): No train-time concepts, No issue!
University of Cambridge（剑桥大学）
针对概念嵌入模型（CEM）需要大量概念标注训练数据导致成本高昂的问题，提出自动概念嵌入模型（ACEM），通过自动学习概念标注来克服可解释性与性能的权衡。
2023-09-07 cs.LG
A Human-Centered Validation of the Explainability-Performance Coefficient
Universidad Autónoma de Madrid（马德里自治大学）
本研究提出模型无关的EPC分数，量化解释质量，经多模态实证及人类解释验证，可揭示网络激活等依赖关系，与人类判断高度一致。
2026-08-03 cs.AI cs.CV cs.LG
An Empirical Study of Accuracy, Fairness, Explainability, Distributional Robustness, and Adversarial Robustness
IBM Research – T. J. Watson Research Center（IBM研究院–托马斯·J·沃森研究中心）；DataArt（数据艺术公司）；IBM Research – Africa（IBM研究院–非洲分院）
为了确保对人工智能模型的信任，越来越明显的是，模型的评估必须超越传统的性能指标，如准确性，扩展到其他维度，如公平性，可解释性，对抗性鲁棒性和分布偏移。我们描述了一项实证研究，以评估多个模型类型的各种指标，沿着这些方面的几个数据集。我们的研究结果表明，没有一种特定的模型类型在所有维度上都表现良好，并展示了在选择多个维度评估的模型时所涉及的权衡。
2021-09-29 cs.CY cs.LG
Explainable Deep Modeling of Tabular Data using TableGraphNet
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；University of South Carolina（南卡罗来纳大学）
绝大多数关于可解释性的研究都集中在后可解释性方面，而不是可解释性建模。也就是说，一个解释模型来解释一个复杂的黑箱模型建立的唯一目的是实现最高的性能可能。在某种程度上，这种趋势可能是由一种误解驱动的，即在可解释性和准确性之间存在权衡。此外，基于博弈论的Shapely值的后续工作也有助于新一波的后可解释性研究，以更好地近似各种机器学习模型，包括深度学习模型。我们提出了一个新的架构，固有地产生可解释的预测的形式添加剂的功能属性。我们的方法为数据集中的每个记录学习一个图形表示。然后，从图中导出以属性为中心的特征，并将其馈送到贡献深度集模型中以产生最终预测。我们表明，我们的可解释模型达到了与黑盒模型相同的性能水平。最后，我们提供了一种增强的模型训练方法，该方法利用了缺失属性，并在不损失准确性的情况下产生高水平的一致性（如Shapely值所需）。
2020-02-12 cs.AI cs.LG
Explainability Is in the Mind of the Beholder: Establishing the Foundations of Explainable Artificial Intelligence
University of Bristol（布里斯托大学）；RMIT University（皇家墨尔本理工大学）
可解释的人工智能和可解释的机器学习是越来越重要的研究领域。然而，基本概念仍然有些难以捉摸，缺乏普遍商定的定义。虽然最近来自社会科学的灵感使工作重新关注人类接受者的需求和期望，但该领域仍然缺乏具体的概念化。我们采取措施，通过审查人类可解释性的哲学和社会基础来应对这一挑战，然后我们将其转化为技术领域。特别是，我们仔细检查的概念，算法的黑盒子和频谱的解释过程和被解释者的背景知识确定的理解。这种方法使我们能够将可解释性定义为（逻辑）推理，适用于在背景知识下解释的透明见解（可能是黑盒，预测系统），并置于特定的上下文中-这是一个在选定的一组被解释者中产生理解的过程。然后，我们采用这种概念化，重新审视评估可解释性的策略，以及透明度和预测能力之间备受争议的权衡，包括其对事前和事后技术的影响，以及由可解释性建立的公平性和问责制。我们还讨论了机器学习工作流程中可能需要可解释性的组件，这些组件基于以人为中心的可解释性的一系列想法，特别关注被解释者，对比陈述和解释过程。我们的讨论调和和补充了当前的研究，以帮助更好地解决开放性问题-而不是试图解决任何个别问题-从而为可解释的人工智能和可解释的机器学习的基础讨论和未来进展奠定了坚实的基础。
2022-09-09 cs.AI cs.LG stat.ML
Rule-Guided Compositional Representation Learning on Knowledge Graphs
Beihang University（北京航空航天大学）；Tsinghua University（清华大学）；Qingdao University（青岛大学）
知识图谱上的表示学习是将知识图谱的实体和关系嵌入到低维连续向量空间中。早期的KG嵌入方法只关注以三元组编码的结构化信息，由于KG的结构稀疏性，这将导致性能有限。最近的一些尝试考虑路径信息，以扩大结构的知识库，但缺乏可解释性的过程中获得的路径表示。本文提出了一种新的基于规则和路径的联合嵌入方案（RPJE），该方案充分利用了逻辑规则的可解释性和精确性、KG嵌入的推广性以及路径的补充语义结构。具体地说，首先从KG中挖掘出Horn子句形式的不同长度（规则体中关系的个数）的逻辑规则，并对其进行精心编码，用于表示学习。然后，长度为2的规则被用来准确地组合路径，而长度为1的规则被显式地用来创建关系之间的语义关联和约束关系嵌入。此外，在优化过程中还考虑了规则的置信度，以保证规则应用于表示学习的有效性。大量的实验结果表明，RPJE优于其他国家的最先进的基线上KG完成任务，这也证明了利用逻辑规则以及路径，以提高表示学习的准确性和可解释性的优势。
2019-12-28 cs.AI cs.CL cs.LG
Exploiting Latent Linearity in LLMs Improves Explainable Molecular Representation Learning
Department of Computing, The Hong Kong Polytechnic University（计算系，香港理工大学）
MoleX通过利用大语言模型中的潜在线性性，提升分子表示学习的可解释性和性能
2026-01-31 cs.AI cs.LG
Multidimensional Knowledge Graph Embeddings for International Trade Flow Analysis
University of Bayreuth（拜罗伊特大学）
针对传统回归难以建模高维、强非线性贸易数据的问题，本文构建多维经济贸易知识图谱 KonecoKG，并通过 AmpliGraph 生成嵌入以预测国际贸易关系。
2024-10-19 cs.AI cs.IR cs.LG
Understand Functionality and Dimensionality of Vector Embeddings: the Distributional Hypothesis, the Pairwise Inner Product Loss and Its Bias-Variance Trade-off
Stanford University（斯坦福大学）
向量嵌入是许多深度学习模型的基础构建块，特别是在自然语言处理中。在本文中，我们提出了一个理论框架来理解向量嵌入的维数的影响。我们观察到，分布假设，统计语义的一个主导原则，需要一个自然的酉不变性的向量嵌入。受酉不变观测的启发，我们提出了成对内积（PIP）损失，这是一种关于两个嵌入之间相似性的酉不变度量。我们证明了PIP损失捕获嵌入之间的功能差异，并且PIP损失与向量嵌入的两个基本属性（即相似性和组合性）密切相关。通过将嵌入训练过程制定为具有噪声的矩阵分解，我们揭示了在维度选择过程中信号频谱和噪声功率之间的基本偏差-方差权衡。这种偏差-方差权衡揭示了许多尚未得到彻底解释的经验观察，例如最佳维度的存在。此外，我们发现了两个新的结果向量嵌入，即对过参数化的鲁棒性和前向稳定性。PIP损失的偏差-方差权衡明确回答了向量嵌入的维度选择的基本开放问题。
2018-05-21 cs.LG stat.ML
Unlocking the Black Box: A Five-Dimensional Framework for Evaluating Explainable AI in Credit Risk
Independent Researcher（独立研究者）
本文针对金融信用风险中黑箱模型与监管可解释性要求的矛盾，提出包含固有可解释性、全局解释、局部解释、一致性和复杂性的五维评估框架，并验证了SHAP和LIME可使高性能复杂模型达到合规可解释水平。
2025-11-07 cs.LG
Beyond the Graph: An Adaptive Meta-Learner Fuses Explainability, Weather, and Dynamics for Robust Bus ETA Prediction
针对公交ETA预测中非线性动态与天气干扰问题，提出自适应混合框架HYB(nm)，融合五种模型并经元学习器动态加权，在加尔各答超4000次行程数据上实现高鲁棒性与先进准确性，并提供可扩展的HYB(k)架构。
2026-09-29 cs.LG
MEIM: Multi-partition Embedding Interaction Beyond Block Term Format for Efficient and Expressive Link Prediction
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）
知识图嵌入的目的是预测知识图谱中实体之间缺失的关系。基于张量分解的模型，如ComplEx，在效率和表达能力之间提供了良好的权衡，这是至关重要的，因为现实世界的知识图谱的大小。最近的多分区嵌入相互作用（MEI）模型通过使用块项张量格式包含这些模型，并提供了一个系统的解决方案的权衡。然而，MEI有几个缺点，其中一些来自其包含的基于张量分解的模型。在本文中，我们解决这些缺点，并介绍了多分区嵌入相互作用改进的超越块项格式（MEIM）模型，独立的核心张量的合奏效果和软正交的最大秩映射，除了多分区嵌入。MEIM提高了表现力，同时仍然非常高效，帮助它超越强大的基线，并使用相当小的嵌入大小在困难的链接预测基准上实现最先进的结果。源代码发布于https://github.com/tranhungnghiep/MEIM-KGE。
2022-10-04 cs.AI cs.LG
Wasserstein-Fisher-Rao Embedding: Logical Query Embeddings with Local Comparison and Global Transport
HKUST（香港科技大学）；Tsinghua University（清华大学）；NVIDIA（英伟达）
本文提出Wasserstein-Fisher-Rao嵌入（WFRE），利用非平衡最优传输理论平衡局部比较与全局传输，实现知识图谱复杂查询的高效嵌入，并在标准及层次数据集上超越现有方法。
2023-05-06 cs.AI cs.DB cs.LG
Benchmarking Image Embeddings for E-Commerce: Evaluating Off-the Shelf Foundation Models, Fine-Tuning Strategies and Practical Trade-offs
Adevinta（阿德温塔公司）
本文系统评测了电子商务场景下多种基础模型图像嵌入在分类与检索任务中的表现，发现全量微调稳健但top-tuning能以更低计算成本达到相近性能，并为嵌入选择与微调策略提供了实用指南。
2025-04-10 cs.AI cs.CE cs.CV
Pseudo Label NCF for Sparse OHC Recommendation: Dual Representation Learning and the Separability Accuracy Trade off
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本文研究了在极端交互稀疏性下的推荐问题，通过引入伪标签目标提升排名性能，并发现可分离性与准确性之间的权衡。
2026-03-30 cs.AI cs.IR cs.LG
Genetic Programming for Explainable Manifold Learning
Centre for Data Science and Artificial Intelligence（数据科学与人工智能中心）；School of Engineering and Computer Science（工程与计算机科学学院）；Victoria University of Wellington（威灵顿维多利亚大学）
本文提出GP-EMaL方法，通过直接惩罚树复杂性在保持高流形质量的同时显著提升可解释性，使用更简单更小的树结构匹配现有方法性能。
2025-04-08 cs.LG cs.NE
JEFL: Joint Embedding of Formal Proof Libraries
University of Innsbruck（因斯布鲁克大学）；University of Warsaw（华沙大学）
在不同的交互式证明助手库中使用的逻辑基础的异质性使得在它们之间发现相似的数学概念变得困难。在本文中，我们比较了以前提出的算法，我们的无监督嵌入方法，可以帮助我们检索类似的概念，跨库匹配的概念。我们的方法是基于Word2Vec的快速文本实现，在此之上添加了一个树遍历模块，以适应我们的数据导出管道的表示格式的算法。我们比较的可解释性，可定制性和在线服务的方法，并认为神经嵌入方法有更多的潜力被集成到一个互动的证明助手。
2021-07-21 cs.CL cs.LG cs.LO
On the Dimensionality of Word Embedding
Stanford University（斯坦福大学）；Microsoft Corp.（微软公司）
本文对词嵌入及其维数进行了理论上的理解。基于词嵌入的酉不变性，本文提出了一种新的度量词嵌入相似性的度量方法-成对内积损失。使用矩阵扰动理论的技术，我们揭示了一个基本的偏差方差权衡词嵌入的维度选择。这种偏差-方差权衡揭示了许多以前无法解释的经验观察，例如最佳维度的存在。此外，新的见解和发现，如何时以及如何词嵌入是强大的过度拟合，揭示。通过优化PIP损失的偏差-方差权衡，我们可以明确地回答词嵌入的维度选择的公开问题。
2018-12-11 cs.CL cs.LG stat.ML
Explainable Artificial Intelligence (XAI) for 6G: Improving Trust between Human and Machine
Alan Turing Institute（艾伦·图灵研究所）；Cranfield University（克兰菲尔德大学）
随着第五代（5G）移动网络带来全球社会效益，第六代（6 G）的设计阶段已经开始。6 G需要实现更高水平的自主性，改善人机界面，并在更多样化的环境中实现深度连接。提高可解释性以实现信任的需求对于6 G至关重要，因为它管理着从任务关键型服务（例如自动驾驶）到安全关键型任务（例如远程手术）的广泛范围。随着我们从传统的基于模型的优化迁移到深度学习，我们对优化模块的信任度下降了。这种信任的丧失意味着我们无法理解以下因素的影响：1）不良/偏见/恶意数据，2）神经网络设计对决策的影响;我们也无法向工程师或公众解释网络的行为。在这篇综述中，我们概述了6 G可解释人工智能（XAI）的核心概念，包括：公共和法律动机，可解释性的定义，性能与可解释性的权衡，提高可解释性的方法，以及将XAI纳入未来无线系统的框架。我们的评论是基于PHY和MAC层优化的案例研究，并为社区提供了一个重要的研究领域。
2019-11-19 cs.LG cs.NI eess.SP
DiConStruct: Causal Concept-based Explanations through Black-Box Distillation
Feedzai；Instituto de Telecomunicações, ELLIS Unit Lisbon, Instituto Superior Técnico, ULisboa, Portugal（葡萄牙里斯本大学高等技术学院，里斯本ELLIS单元，电信研究所）
针对现有局部概念可解释性方法无法生成因果解释、需权衡可解释性与预测性能的问题，提出基于黑盒蒸馏的因果概念解释方法DiConStruct，可在高效生成含概念因果关系的解释的同时，以更高保真度逼近黑盒模型预测。
2024-01-26 cs.AI cs.HC cs.LG
Neural Networks beyond explainability: Selective inference for sequence motifs
Université de Lyon（里昂大学）；Université Lyon 1（里昂第一大学）；CNRS（法国国家科学研究中心）；VetAgro Sup（国立兽医、农学与食品学院）；École Centrale de Lyon（里昂中央理工学院）
在过去的十年里，神经网络已经成功地从生物序列中进行预测，特别是在调控基因组学的背景下。与深度学习的其他领域一样，已经设计了一些工具来提取特征，例如可以解释训练网络所做预测的序列基序。在这里，我们打算超越可解释的机器学习，并引入SEISM，这是一种选择性推理程序，用于测试这些提取的特征与预测表型之间的关联。特别是，我们讨论了如何训练一层卷积网络在形式上等同于选择最大化某个关联得分的基序。我们适应现有的采样为基础的选择性推理程序，通过量化这个选择在一个无限的集合到一个大的，但有限的网格。最后，我们表明，在一个特定的参数选择下的采样是足够的特征复合零假设通常用于选择性推理的结果，远远超出了我们的特定框架。我们说明了我们的方法在校准，功率和速度方面的行为，并讨论了它的功率/速度权衡与一个更简单的数据分割策略。SEISM为调控基因组学中使用的神经网络的更简单分析以及全基因组关联研究（GWAS）的更强大方法铺平了道路。
2022-12-23 cs.LG q-bio.GN stat.ML
Tensor Train Neighborhood Preserving Embedding
Purdue University（普渡大学）；Tufts University（塔夫茨大学）
本文提出了一种张量训练邻域保持嵌入算法（TTNPE），将多维张量数据嵌入到低维张量子空间中。提出了解决TTNPE优化问题的新方法。对于这种嵌入，我们评估新的权衡增益之间的分类，计算和降维（存储）的监督学习。结果表明，与最先进的张量嵌入方法相比，TTNPE在MNIST手写数字和Weizmann人脸数据集的分类，计算和降维方面取得了优异的折衷。
2018-03-10 cs.IT cs.LG math.IT
Compatibility-aware Heterogeneous Visual Search
AWS/Amazon AI（亚马逊网络服务/亚马逊人工智能）；Georgia Institute of Technology（佐治亚理工学院）
我们解决了资源限制下的视觉搜索问题。现有系统使用相同的嵌入模型来计算查询和图库图像的表示（嵌入）。这样的系统本质上面临着一个很难的准确性-效率权衡：嵌入模型需要足够大以确保高准确性，但又足够小以在资源受限的平台上实现查询嵌入计算。如果图库嵌入是从大型模型中生成的，而查询嵌入是使用紧凑模型提取的，则可以减轻这种权衡。构建这样一个系统的关键是确保查询和图库模型之间的表示兼容性。在本文中，我们解决了两种形式的兼容性：一种是通过修改计算嵌入的每个模型的参数来实现的。另一种是通过修改计算嵌入的架构，导致兼容性感知神经架构搜索（CMP-NAS）。我们在具有挑战性的时尚图像（DeepFashion 2）和人脸图像（IJB-C）检索任务上测试了CMP-NAS。与使用最大嵌入模型（paragon）的普通（同质）视觉搜索相比，CMP-NAS实现了80倍和23倍的成本降低，同时在DeepFashion 2和IJB-C上分别将准确率保持在paragon的0.3%和1.6%以内。
2021-05-13 cs.AI cs.CV cs.LG
Contrastive Token-level Explanations for Graph-based Rumour Detection
Singapore University of Technology and Design（新加坡科技设计大学）
本文提出 CT-LRP 框架，通过词元级对比解释增强基于 GNN 的谣言检测可解释性，并在多个公开数据集上验证其能生成高保真解释。
2025-02-05 cs.AI cs.CL cs.LG
Generating Human Understandable Explanations for Node Embeddings
Northeastern University（东北大学）
本文提出 XM 框架，通过最小化解释矩阵核范数，使节点嵌入各维度可用度、PageRank 等图特征解释，并在真实图上保持性能且提升可解释性。
2024-06-11 cs.LG cs.SI
Attention-Informed Surrogates for Navigating Power-Performance Trade-offs in HPC
Texas State University（德克萨斯州立大学）；Oak Ridge National Laboratory（奥本海默国家实验室）
本文提出了一种基于注意力机制的替代方案辅助多目标贝叶斯优化框架，用于优化HPC调度中的性能与功耗权衡。
2026-01-21 cs.LG
Operationalizing Automated Essay Scoring: A Human-Aware Approach
Brigthlands Institute for a Smart Society（智能社会研究院）
本文比较了机器学习与大型语言模型在自动化作文评分中的表现，发现ML模型准确性高但可解释性差，LLMs解释丰富但准确性较低，两者在偏差和边缘分数鲁棒性上均有不足。
2025-10-17 cs.CL cs.CY cs.LG
The trade-offs of model size in large recommendation models : A 10000 $\times$ compressed criteo-tb DLRM model (100 GB parameters to mere 10MB)
Rice University（莱斯大学）；ThirdAI Corp.（ThirdAI公司）
嵌入式表主导了工业规模的推荐模型大小，使用高达TB的内存。一个流行的、最大的关于推荐数据的公开可用的机器学习MLPerf基准测试是一个深度学习推荐模型（DLRM），它是在TB级点击数据上训练的。它包含100 GB的嵌入式内存（25+十亿个参数）。DLRM由于其庞大的规模和相关的数据量，在训练、部署推理方面面临困难，并且由于大型嵌入表而面临内存瓶颈。本文分析和广泛评估了一个通用的参数共享设置（PSS）压缩DLRM模型。我们展示了理论上的可学习的内存要求实现$(1 \pm ε)$近似的嵌入表。我们的界限表明，指数较少的参数足以达到良好的精度。为此，我们展示了一个PSS DLRM达到10000 $\times$压缩criteo-tb，而不损失质量。然而，这种压缩是有警告的。它需要多4.5 $\times$次迭代才能达到相同的饱和质量。本文认为，这种权衡需要更多的调查，因为它可能是非常有利的。利用压缩模型的小尺寸，我们在训练延迟方面显示了4.3 $\times$的改进，从而导致类似的总体训练时间。因此，在小型DLRM模型的系统优势与较慢收敛之间的权衡中，我们表明规模倾向于拥有较小的DLRM模型，从而导致更快的推理，更容易的部署和类似的训练时间。
2022-07-21 cs.IR cs.LG
Personalised novel and explainable matrix factorisation
Free University of Bolzano（博尔扎诺自由大学）
推荐系统向个人提供个性化建议，以帮助他们进行决策和探索任务。在理想的情况下，这些建议，除了是准确的，还应该是新颖的和可解释的。然而，到目前为止，大多数平台都无法提供这两种新颖的建议，这些建议可以促进用户的探索，同时提供解释，使他们的推理对他们更加透明。例如，一个众所周知的推荐算法，如矩阵分解（MF），只优化准确性标准，而忽略其他质量标准，如可解释性或新颖性，推荐项目。在本文中，据我们所知，我们提出了一个新的模型，表示为NEMF，允许权衡MF性能的标准的新颖性和可解释性，而只有最低限度地损害准确性。此外，我们建议一个新的可解释性指标的基础上nDCG，区分一个更可解释的项目从一个不太可解释的项目。最初的用户研究表明，用户如何感知这些“用户”风格的解释和我们广泛的实验结果表明，我们达到了高精度推荐也新颖和可解释的项目的不同属性。
2019-07-25 cs.HC cs.IR cs.LG
Aligning Human Knowledge with Visual Concepts Towards Explainable Medical Image Classification
Rutgers University（罗格斯大学）
本研究提出Explicd框架，融合领域知识建立诊断标准，通过视觉-语言模型对齐视觉概念与文本标准，实现可解释的医学图像分类，并在五个基准上提升性能。
2024-09-19 cs.CV cs.LG
Alternating Bi-Objective Optimization for Explainable Neuro-Fuzzy Systems
University of Birmingham（伯明翰大学）；Bilkent University（比尔肯特大学）；University of Turku（图尔库大学）
本文提出X-ANFIS方法，通过交替双目标梯度优化提升神经模糊系统的可解释性，在UCI回归数据集上验证了其在保持预测精度的同时实现目标区分性。
2026-02-22 cs.LG cs.NE
Unsupervised Framework for Evaluating and Explaining Structural Node Embeddings of Graphs
Toronto Metropolitan University（多伦多都会大学）；SGH Warsaw School of Economics（华沙经济学院）；Patagona Technologies（帕塔戈纳科技公司）；Simons Institute for the Theory of Computing（西蒙斯计算理论研究所）
本文提出一种无监督框架，用于对图的结构化节点嵌入进行排序和解释，通过评估嵌入对预定义节点特征的学习效果及维度对应关系，提升黑盒算法的可解释性。
2023-06-19 cs.LG cs.SI
Key Information Retrieval to Classify the Unstructured Data Content of Preferential Trade Agreements
University of Connecticut（康涅狄格大学）；North Dakota State University（北达科他州立大学）
针对优惠贸易协定长文本中冗余与无关信息影响分类的问题，本文提出先用嵌入技术压缩文本、再用BERT进行分类训练的方法，显著提升准确率并降低计算复杂度。
2024-01-23 cs.CL cs.IR cs.LG
Towards Fair and Explainable AI using a Human-Centered AI Approach
Stony Brook University（石溪大学）
针对机器学习中公平、可解释性等以人为中心的指标难以通过全自动方法优化的问题，本研究采用以人为中心的AI思路，提出5个涵盖分类系统、词嵌入等场景的项目，通过可视化工具、人在回路等方式增强AI的公平性与可解释性。
2023-06-12 cs.CY cs.HC cs.LG
Newton-LESS: Sparsification without Trade-offs for the Sketched Newton Update
University of California, Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；ICSI（国际计算机科学研究所）
在二阶优化中，一个潜在的瓶颈可能是在每次迭代时计算优化函数的黑塞矩阵。随机草图已成为一种强大的技术，用于构建估计的海森，可用于执行近似牛顿步骤。这涉及乘以随机草图绘制矩阵，这引入了草图绘制的计算成本与优化算法的收敛速度之间的折衷。一个理论上理想的，但实际上太昂贵的选择是使用一个密集的高斯草图矩阵，它产生无偏估计的确切牛顿步骤，并提供强大的问题无关的收敛保证。我们表明，高斯草图矩阵可以大大稀疏，显着降低计算成本的草图，而不会影响其收敛性能。这种方法被称为Newton-LESS，基于最近引入的草图技术：LESS分数稀疏（LESS）嵌入。我们证明了牛顿-LESS享有几乎相同的问题独立的局部收敛速度高斯嵌入，不只是常数的因素，但甚至下降到低阶的条款，为一大类的优化任务。特别是，这导致一个新的国家的最先进的收敛结果的迭代最小二乘求解器。最后，我们扩展LESS嵌入，包括均匀稀疏的随机符号矩阵，可以有效地实现，并在数值实验中表现良好。
2021-07-15 cs.DS cs.LG math.OC
