We provide rigorous proofs that the Integrated Gradients (IG) attribution method for deep networks satisfies completeness and symmetry-preserving properties. We also study the uniqueness of IG as a path method preserving symmetry.
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Defence Industry Secrecy Examination and Certification Center(国防工业保密审查认证中心)
Department of Computational Sciences, Canadian University Dubai(加拿大迪拜大学计算科学系);Abu Dhabi School of Management(阿布扎赫管理学院);Department of Mathematics, Dr. B.R. Ambedkar National Institute of Technology(Dr. B.R. Ambedkar国家理工学院数学系)
Causal Integrated Gradients: Scalable Feature Attribution Along Causal Paths
KU Leuven(KU Leuven(天主教鲁汶大学));Laboratory of Multi-omics Integrative Bioinformatics(多组学整合生物信息学实验室);KU Leuven Institute for Single Cell Omics (LISCO)(KU Leuven单细胞组学研究所(LISCO));Department of Electrical Engineering, KU Leuven(KU Leuven电气工程系);Department of Development and Regeneration, KU Leuven(KU Leuven发育与再生系)
A Stochastic Path-Integrated Differential EstimatoR Expectation Maximization Algorithm
Institut de Mathématiques de Toulouse(图卢兹数学研究所);Université de Toulouse(图卢兹大学);CNRS(法国国家科学研究中心);Centre de Mathématiques Appliquées(应用数学中心);Ecole Polytechnique(巴黎综合理工学院);HSE University(高等经济大学);The Chinese University of Hong Kong(香港中文大学)
Improving Integrated Gradient-based Transferable Adversarial Examples by Refining the Integration Path
Xi’an Jiaotong University(西安交通大学);Information Engineering University(信息工程大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Zhejiang Lab(之江实验室)
本文针对基于积分梯度的对抗攻击迁移性不足问题,提出通过细化积分路径的多重性、单调性和多样性构建 MuMoDIG 攻击,在 CNN 和 ViT 模型上显著超越现有方法。
Transferable Adversarial Attack based on Integrated Gradients
Nanyang Technological University(南洋理工大学)
深度神经网络对对抗性样本的脆弱性引起了社区的极大关注。三种方法,优化标准目标函数,利用注意力地图和平滑决策表面,通常用于制作对抗性示例。通过将这三种方法紧密结合,本文提出了一种新的简单算法TAIG(Transferable Attack based on Integrated Concentrants),该算法能够发现高可转移性的对抗性黑盒攻击样本。与以往的方法使用多个计算项或与其他方法相结合,TAIG集成了三种方法到一个单一的术语。两个版本的TAIG计算其积分梯度的直线路径和随机分段线性路径进行了研究。这两个版本都提供了很强的可移植性,并且可以与以前的方法无缝地协同工作。实验结果表明,TAIG优于国家的最先进的方法。该代码将在https://github.com/yihuang2016/TAIG上提供
Laser Scan Path Design for Controlled Microstructure in Additive Manufacturing with Integrated Reduced-Order Phase-Field Modeling and Deep Reinforcement Learning
Computational Science Program, The University of Texas at El Paso(德克萨斯理工大学计算科学计划);Department of Aerospace and Mechanical Engineering, The University of Texas at El Paso(德克萨斯理工大学航空航天与机械工程系);School of Manufacturing Systems and Networks, Arizona State University(亚利桑那州立大学制造系统与网络学院)