Joint Item Recommendation and Attribute Inference: An Adaptive Graph Convolutional Network Approach
Hefei University of Technology(合肥工业大学)
在许多推荐系统中,用户和项目与属性相关联,用户对项目表示偏好。属性信息描述了用户(项目)的特征,具有广泛的应用,如用户分析,项目注释和功能增强的推荐。由于注释用户(项目)属性是一项劳动密集型任务,因此属性值通常不完整,并且有许多属性值缺失。因此,项目推荐和属性推理成为这些平台的两个主要任务。长期以来,研究者们一致认为用户(物品)属性和偏好行为是高度相关的。一些研究人员提出利用一种数据来完成剩余的任务,并显示出提高性能的效果。然而,这些模型要么忽略了用户(项目)属性的不完整性,要么考虑了两个任务的相关性与简单的模型,导致这两个任务的次优性能。为此,在本文中,我们定义了这两个任务的属性用户项二分图,并提出了一个自适应图卷积网络(AGCN)的联合项目推荐和属性推理的方法。AGCN的关键思想是迭代地执行两个部分:1)使用先前学习的近似属性值来学习图嵌入参数,以促进两个任务; 2)将近似的更新属性值发送回属性图,以进行更好的图嵌入学习。因此,AGCN可以自适应地调整图嵌入学习参数,通过结合给定的属性和估计的属性值,以提供弱监督的信息,以改善这两个任务。在三个真实世界数据集上的大量实验结果清楚地表明了所提出的模型的有效性。
2020-05-25 cs.IR cs.LG
MGCN: Semi-supervised Classification in Multi-layer Graphs with Graph Convolutional Networks
Sharif University of Technology(谢里夫理工大学)
图嵌入是实现节点分类、链接预测等图分析任务的重要方法。图嵌入的目标是找到保留图信息的图节点的低维表示。最近的方法,如图卷积网络(GCN),试图考虑节点属性(如果可用),除了节点关系和学习节点嵌入的无监督和半监督的任务图。另一方面,多层图分析最近受到关注。然而,现有的多层图嵌入方法不能包含所有可用的信息(如节点属性)。此外,他们中的大多数考虑节点或边的类型,他们不处理层内和层间的边缘不同。在本文中,我们提出了一种称为MGCN的方法,利用GCN的多层图。MGCN使用层内和层间关系和节点属性嵌入多层图的节点。我们在半监督节点分类任务上评估我们的方法。实验结果表明,该方法的优越性,其他多层和单层的竞争对手,也显示了积极的效果,使用跨层的边缘。
2019-08-24 cs.LG stat.ML
Certifiable Robustness and Robust Training for Graph Convolutional Networks
Technical University of Munich(慕尼黑工业大学)
最近的工作表明,图神经网络(GNN)对于图结构和节点属性的对抗攻击是高度不鲁棒的,使得它们的结果不可靠。我们提出了第一种方法的可证明的(非)鲁棒性的图卷积网络的节点属性的扰动。我们考虑的情况下,二进制节点属性(如袋的话)和扰动是L_0有界的。如果一个节点已经用我们的方法进行了认证,那么在给定的攻击模型下,它保证在任何可能的扰动下都是鲁棒的。同样,我们可以证明非鲁棒性。最后,我们提出了一个强大的半监督训练过程,将标记和未标记的节点联合起来。正如我们的实验评估所示,我们的方法显着提高了GNN的鲁棒性,对预测精度的影响很小。
2019-06-28 cs.CR cs.LG stat.ML
Attributed Multi-order Graph Convolutional Network for Heterogeneous Graphs
Fuzhou University(福州大学);University of Vienna(维也纳大学)
本文提出AMOGCN模型,通过自适应聚合多阶邻接矩阵自动学习包含多跳邻居的元路径,并利用节点属性同质性监督融合过程,最终在异构图半监督分类中取得优于现有方法的性能。
2023-04-18 cs.AI cs.LG
Learning Asymmetric Embedding for Attributed Networks via Convolutional Neural Network
RMIT University(皇家墨尔本理工大学);Ahvaz Branch, Islamic Azad University(伊斯兰阿扎德大学阿瓦士分校)
近年来,网络嵌入由于其在链接预测、节点分类和节点聚类等网络计算任务中的优势而受到越来越多的关注。网络嵌入的目标是在低维向量空间中表示网络节点,同时保留尽可能多的原始网络信息,包括结构,关系和语义信息。然而,有向网络的非对称性带来了许多挑战,如如何在嵌入过程中最好地保持边缘方向。本文提出了一种基于卷积图神经网络的深度非对称属性网络嵌入模型AAGCN。其主要思想是最大限度地保持有向属性网络的非对称邻近性和非对称相似性。AAGCN引入了两种邻域特征聚合方案,分别将节点的特征与其内外邻居的特征聚合。然后,它为每个节点学习两个嵌入向量,一个源嵌入向量和一个目标嵌入向量。最终的表示是连接源和目标嵌入向量的结果。我们测试的性能AAGCN在三个现实世界的网络重建,链接预测,节点分类和可视化任务。实验结果表明,AAGCN对国家的最先进的嵌入方法的优越性。
2022-02-13 cs.LG cs.SI
Deep Shading: Convolutional Neural Networks for Screen-Space Shading
Max-Planck-Institut für Informatik(马克斯·普朗克计算机科学研究所);University College London(伦敦大学学院)
在计算机视觉中,卷积神经网络(CNN)最近在几个逆问题中实现了新的性能水平,其中RGB像素外观被映射到位置,法线或反射率等属性。在计算机图形学中,屏幕空间着色最近提高了交互式图像合成中的视觉质量,其中虚拟3D场景的位置,法线或反射率等每像素属性被转换为RGB像素外观,从而实现环境遮挡,间接光,散射,景深,运动模糊或抗锯齿等效果。在本文中,我们考虑对角问题:使用CNN从给定的每像素属性合成外观。由此产生的Deep Shading以具有竞争力的质量和速度模拟各种屏幕空间效果,而不是由人类专家编程,而是从示例图像中学习。
2016-08-03 cs.GR cs.LG
Edge Attention-based Multi-Relational Graph Convolutional Networks
图卷积网络(GCN)是卷积神经网络(CNN)的推广,可以处理任意结构的图。二进制邻接矩阵通常用于训练GCN。最近,注意力机制允许网络学习邻域的动态和自适应聚合。我们提出了一个新的GCN模型的图,其边缘的特点是在多个视图或精确的多个关系。例如,在化学图论中,化合物结构通常由氢耗尽的分子图表示,其中节点对应于原子,边对应于化学键。多个属性对于表征化学键可能很重要,例如原子对(键连接的原子类型),芳香性以及键是否在环中。不同的属性导致相同分子的不同图形表示。在化学和机器学习领域,人们越来越感兴趣的是从分子图中直接学习化合物的分子性质,而不是从化学家预先定义的指纹中。所提出的GCN模型,我们称之为基于边缘注意力的多关系GCN(EAGCN),在图卷积中联合学习注意力权重和节点特征。对于每个键属性,使用实值注意矩阵来代替二进制邻接矩阵。通过为边缘注意力设计字典,并通过查找字典形成每个分子的注意力矩阵,EAGCN利用不同分子中键之间的对应关系。化合物性质的预测是基于聚合的节点特征,这是独立的变化的分子(图)的大小。我们证明了EAGCN对多个化学数据集的有效性:Tox21,HIV,Freesolv和亲脂性,并解释了由此产生的注意力权重。
2018-05-20 cs.LG stat.ML
Knowledge Graph Convolutional Networks for Recommender Systems
Shanghai Jiao Tong University(上海交通大学);The Hong Kong Polytechnic University(香港理工大学);Microsoft Research Asia(微软亚洲研究院)
为了解决基于协同过滤的推荐系统的稀疏性和冷启动问题,研究人员和工程师通常收集用户和项目的属性,并设计精细的算法来利用这些额外的信息。一般情况下,属性不是孤立的,而是相互联系的,这就形成了一个知识图谱(KG)。在本文中,我们提出了知识图谱卷积网络(KGCN),一个端到端的框架,有效地捕捉项目间的相关性,挖掘其相关属性的KG。为了自动发现KG的高阶结构信息和语义信息,我们从KG中每个实体的邻居中采样作为它们的感受野,然后在计算给定实体的表示时将邻居信息与偏差相结合。感受野可以扩展到多跳远,以模拟高阶邻近信息并捕获用户的潜在远距离兴趣。此外,我们以小批量的方式实现了所提出的KGCN,这使得我们的模型能够在大型数据集和KG上运行。我们将所提出的模型应用于电影,书籍和音乐推荐的三个数据集,实验结果表明,我们的方法优于强推荐基线。
2019-03-18 cs.IR cs.LG stat.ML
Bayesian Image Classification with Deep Convolutional Gaussian Processes
在决策系统中,重要的是要有分类器,校准的不确定性,优化目标,可用于自动模型选择和培训。高斯过程(GP)提供了不确定性估计和边际似然目标,但它们的弱归纳偏差导致精度较差。这限制了它们在某些任务(例如图像分类)中的适用性。我们提出了一个对平移不敏感的卷积核,它放松了以前卷积GP施加的平移不变性约束。我们展示了如何使用边际似然来学习不敏感的程度。我们还将GP图像到图像的卷积映射重新表述为多输出GP,从而产生深度卷积GP。我们的实验表明,我们的新内核提高了单层和深层模型的性能。我们还证明了我们的完全贝叶斯方法在不确定性和边际似然估计方面优于基于丢弃的贝叶斯深度学习方法。
2020-03-04 cs.LG stat.ML
Rethinking Convolutional Networks for Attribute-Aware Sequential Recommendation
Information Systems and Machine Learning Lab (ISMLL), University of Hildesheim, Germany(希尔德斯海姆大学信息系统与机器学习实验室);VWFS Data Analytics Research Center (VWFS DARC), University of Hildesheim, Germany(希尔德斯海姆大学VWFS数据分析研究中心);Volkswagen Financial Services AG, Germany(德国大众金融服务有限公司)
本文提出ConvRec,通过卷积层生成紧凑且表达力强的序列表示,以提升序列推荐效果,实验表明其优于现有方法。
2026-05-07 cs.IR cs.LG
Wearable-based Fair and Accurate Pain Assessment Using Multi-Attribute Fairness Loss in Convolutional Neural Networks
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);University of Massachusetts Chan Medical School(马萨诸塞大学陈医学院);National Institute on Aging(美国国家老龄化研究所)
针对AI疼痛评估中的群体偏见问题,提出融合多属性公平性损失的CNN模型,在NIH All-Of-US数据集上兼顾准确率与公平性。
2025-02-16 cs.AI cs.LG eess.SP
Fusion Graph Convolutional Networks
Indian Institute of Technology Madras(马德拉斯印度理工学院);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Ohio State University(俄亥俄州立大学)
属性图中的半监督节点分类,即,具有节点特征的图,涉及学习在给定部分标记的图的情况下对未标记的节点进行分类。标签预测是通过对节点及其邻域特征进行联合建模来进行的。在这种属性图上进行节点分类的最新模型使用可微递归函数,该函数能够聚合和过滤来自多跳的邻域信息。在这项工作中,我们分析了这些模型的表示能力,以调节信息从多个跳独立。从我们的分析中,我们得出结论,这些模型,尽管是强大的,有有限的表示能力,有效地捕捉多跳邻域信息。此外,我们还提出了一个数学动机,但简单的扩展现有的图卷积网络(GCN),提高了表示能力。我们广泛地评估了所提出的模型,F-GCN八个流行的数据集从不同的领域。F-GCN在六个数据集上的表现优于最先进的半监督学习模型,同时在其他两个数据集上极具竞争力。
2018-09-21 cs.LG cs.SI stat.ML
Predicting Deep Zero-Shot Convolutional Neural Networks using Textual Descriptions
University of Toronto(多伦多大学)
视觉类别的零样本学习的主要挑战之一是收集伴随图像的语义属性。最近的研究表明,从文本描述(如维基百科文章)中学习可以避免显式定义这些属性的问题。我们提出了一个新的模型,可以分类看不见的类别,从他们的文本描述。具体来说,我们使用文本特征来预测深度卷积神经网络(CNN)中卷积层和全连接层的输出权重。我们利用CNN的架构并学习不同层的特征,而不仅仅是学习两种模态的嵌入空间,这与现有方法一样常见。所提出的模型还允许我们为每个视觉类别自动生成一个伪属性列表,该列表由来自维基百科文章的单词组成。我们训练我们的模型端到端使用加州理工大学-加州大学圣地亚哥分校的鸟和花的数据集,并评估ROC和精度召回曲线。我们的实证结果表明,该模型显着优于以前的方法。
2015-09-25 cs.CV cs.LG cs.NE
A Comprehensive guide to Bayesian Convolutional Neural Network with Variational Inference
MindGarage(思维车库);Technical University Kaiserslautern(凯泽斯劳滕工业大学);NeuralSpace(神经空间);Imperial College London(帝国理工学院);Luleå University of Technology(吕勒奥理工大学)
人工神经网络是连接主义系统,它通过对示例的学习来执行给定的任务,而不需要关于任务的先验知识。这是通过为每个节点中的权重找到最佳点估计来完成的。通常,使用点估计作为权重的网络在大数据集上表现良好,但它们无法表达数据很少或没有数据的区域的不确定性,导致过度自信的决策。本文提出了一种基于变分推理的贝叶斯卷积神经网络(BayesCNN),它引入了权值的概率分布。此外,提出的贝叶斯CNN架构适用于图像分类,图像超分辨率和生成对抗网络等任务。将结果与MNIST、CIFAR-10和CIFAR-100数据集上的基于点估计的体系结构进行比较,用于图像分类任务,用于图像超分辨率任务的BSD 300数据集和用于生成对抗网络任务的CIFAR 10数据集。BayesCNN是基于Bayes by Backprop的,它导出了真实后验的变分近似。因此,我们引入了应用两个卷积运算的想法,一个用于均值,一个用于方差。我们所提出的方法不仅实现了性能等同于频率论推理在相同的架构,但也纳入了测量的不确定性和正规化。它进一步消除了在模型中使用dropout。此外,我们预测了模型预测基于认知和任意不确定性的确定性,并通过经验展示了不确定性如何降低,从而使网络做出的决策随着训练精度的提高而变得更加确定。最后,我们提出了修剪贝叶斯架构,使其更具计算性和时间效率的方法。
2019-01-08 cs.LG stat.ML
Learning Convolutional Neural Networks for Graphs
NEC Labs Europe(NEC欧洲实验室)
许多重要的问题可以被定义为从图形数据中学习。我们提出了一个学习任意图的卷积神经网络的框架。这些图可以是无向的、有向的,并且具有离散和连续的节点和边属性。类似于对输入的局部连接区域进行操作的基于图像的卷积网络,我们提出了一种从图中提取局部连接区域的通用方法。使用已建立的基准数据集,我们证明了学习的特征表示与最先进的图形内核具有竞争力,并且它们的计算效率很高。
2016-06-08 cs.AI cs.LG stat.ML
Convolutional Neural Networks Analyzed via Convolutional Sparse Coding
Technion -– Israel Institute of Technology(以色列理工学院)
卷积神经网络(CNN)已经导致了许多跨越各个领域的最先进的结果。然而,对于CNN的核心算法--前向传递,目前还缺乏清晰而深刻的理论理解。同时,在稀疏近似的广泛领域中,卷积稀疏编码(CSC)近年来获得了越来越多的关注。最近对该模型进行了理论研究,将其建立为通常实践的基于补丁的处理的可靠且稳定的替代方案。在这里,我们提出了一种新的多层模型,ML-CSC,其中信号被假定为出现从级联的CSC层。这被证明与CNN紧密相连,以至于CNN的前向传递实际上是服务于ML-CSC模型的阈值追踪。这种连接为CNN带来了一个新的视角,因为我们能够将这种架构的理论主张归因于整个网络中表示的唯一性及其稳定估计,所有这些都在简单的局部稀疏条件下得到保证。最后,识别上述追踪方案中的弱点,我们提出了一种替代前向通的方案,该方案连接到去卷积、递归和残差网络,并且具有更好的理论保证。
2016-10-10 cs.LG stat.ML
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs
在许多真实世界的网络数据集中,如共同作者,共同引用,电子邮件通信等,关系是复杂的,超越了两两。超图提供了一种灵活而自然的建模工具来建模这种复杂的关系。在许多现实世界的网络中,这种复杂关系的明显存在自然激发了超图学习的问题。一种流行的学习范例是基于超图的半监督学习(SSL),其目标是为超图中最初未标记的顶点分配标签。基于图卷积网络(GCN)在基于图的SSL中的有效性,提出了一种基于属性超图的SSL GCN--HyperGCN.此外,我们展示了如何HyperGCN可以作为一个基于学习的方法组合优化NP难超图问题。我们证明了HyperGCN的有效性,通过详细的实验在现实世界的超图。
2019-05-22 cs.LG stat.ML
Graph Attribute Aggregation Network with Progressive Margin Folding
Peking University(北京大学);Temple University(天普大学)
图卷积神经网络(GCNN)由于其在图结构推理方面的巨大潜力而引起了越来越多的研究关注。然而,还没有足够的努力致力于不同卷积图层之间的聚合方法。在本文中,我们介绍了一个图属性聚合网络(GAAN)的架构。与传统的池化操作不同,提出了一种基于图变换的聚合策略-渐进边折叠(PMF),用于集成图特征。通过区分内部元素和边缘元素,我们提供了一种迭代实现折叠的方法。并设计了渐进折叠过程中局部结构的保持机制。此外,一个超图为基础的表示被引入到不同的层之间传递的聚合信息。我们应用于公共分子数据集的实验表明,所提出的GAAN优于现有的GCNN模型,具有显着的有效性。
2019-05-14 cs.LG stat.ML
Multi-task convolutional neural network for image aesthetic assessment
University of Leuven (KU Leuven)(鲁汶大学)
本文提出一种多任务卷积神经网络,通过联合学习美学属性与整体评分提升图像美学评估性能,在多个基准上达到接近人类水平且参数更少、计算更高效。
2024-01-15 cs.CV cs.LG
Group Invariance, Stability to Deformations, and Complexity of Deep Convolutional Representations
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立理工学院)
深度卷积架构的成功通常部分归功于它们学习自然信号的多尺度和不变表示的能力。然而,对这些属性以及它们如何影响学习保证的精确研究仍然缺失。在本文中,我们考虑信号的深度卷积表示;我们研究它们对平移和更一般的变换群的不变性,它们对反同态作用的稳定性,以及它们保存信号信息的能力。通过引入基于卷积核网络的多层核并通过研究核映射引起的几何形状来进行这种分析。然后,我们描述了相应的再生核希尔伯特空间(RKHS),表明它包含一个大类的卷积神经网络具有齐次激活函数。这种分析使我们能够将数据表示与学习分开,并提供模型复杂性的规范度量,即RKHS范数,它控制任何学习模型的稳定性和泛化。除了在构建的RKHS模型,我们的稳定性分析也适用于卷积网络与一般的激活,如整流线性单元,我们讨论了它与最近的泛化界的基础上谱范数的关系。
2018-10-10 cs.LG stat.ML
Bi-GCN: Binary Graph Convolutional Network
Beihang University(北京航空航天大学);Hebei University of Technology(河北工业大学)
图神经网络(GNN)在图表示学习方面取得了巨大的成功。不幸的是,目前的GNN通常依赖于将整个属性图加载到网络中进行处理。这种隐式假设可能不满足有限的内存资源,特别是当属性图很大时。本文首先提出了一种二进制图卷积网络(Bi-GCN),它将网络参数和输入节点特征二进制化。此外,为了加速,将原矩阵乘法修改为二进制运算。理论分析表明,在引文网络上,Bi-GCN可以将网络参数和输入数据的内存消耗平均降低约30倍,推理速度平均提高约47倍。同时,我们还设计了一种新的基于梯度近似的反向传播算法来训练我们的Bi-GCN。大量的实验表明,我们的Bi-GCN可以提供一个相当的性能相比,全精度基线。此外,我们的二值化方法可以很容易地应用到其他GNN,这已经在实验中得到了验证。
2021-04-08 cs.LG
Binary Graph Convolutional Network with Capacity Exploration
Beihang University(北京航空航天大学);Hebei University of Technology(河北工业大学)
目前图神经网络(GNN)的成功通常依赖于加载整个属性图进行处理,这可能不满足于有限的内存资源,特别是当属性图很大时。提出了一种二进制图卷积网络(Binary Graph Convolutional Network,Bi-GCN),它将网络参数和输入节点属性二进制化,并利用二进制运算代替浮点矩阵乘法来实现网络的压缩和加速。同时,我们还提出了一种新的基于梯度近似的反向传播方法来正确训练我们的Bi-GCN。理论分析表明,在三个引文网络上,我们的Bi-GCN可以将网络参数和输入数据的内存消耗平均降低约31倍,并将推理速度平均提高约51倍,Cora、PubMed和CiteSeer。此外,我们还介绍了一种通用方法,将我们的二值化方法推广到其他GNN变体,并实现类似的效率。虽然所提出的Bi-GCN和Bi-GNN简单而有效,但这些压缩网络也可能具有潜在的容量问题,即,它们可能没有足够的存储容量来学习用于特定任务的适当表示。为了解决这个容量问题,提出了熵覆盖假设来预测Bi-GNN隐藏层宽度的下限。大量的实验表明,我们的Bi-GCN和Bi-GNN可以在七个节点的分类数据集上提供与相应的全精度基线相当的性能,并验证了我们的熵覆盖假设在解决容量问题方面的有效性。
2022-10-24 cs.LG
A Bayesian Convolutional Neural Network for Robust Galaxy Ellipticity Regression
Université de Lorraine(洛林大学);CentraleSupélec(巴黎中央理工-高等电力学院);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Université de Paris(巴黎大学);Astroparticule et Cosmologie(天体粒子与宇宙学实验室)
宇宙剪切估计是大型星系巡天的一个重要科学目标。它指的是由于沿着视线的弱引力透镜作用而导致的遥远星系图像的相干失真。它可以作为宇宙中物质分布的示踪剂。宇宙切变局部值的无偏估计可以通过贝叶斯分析获得,该分析依赖于对星系椭圆率(形状)后验分布的稳健估计。这不是一个简单的问题,因为图像可能会被强烈的背景噪声破坏。对于当前和未来的调查,星系形状确定的另一个中心问题是统计上占主导地位的重叠(混合)对象的处理。本文提出了一种基于Monte-Carlo Dropout的贝叶斯卷积神经网络来可靠地估计星系的椭圆率和相应的测量不确定度。我们表明,虽然卷积网络可以被训练来正确估计校准良好的任意不确定性-由于图像中存在噪声而导致的不确定性-但当暴露于以前看不见的数据(即这里,混合场景)时,它无法生成值得信赖的椭圆度分布。通过引入贝叶斯神经网络,我们展示了如何可靠地估计后验预测分布的椭圆度以及鲁棒估计的认识不确定性。实验还表明,认知的不确定性可以检测不一致的预测,由于未知的混合场景。
2021-04-20 cs.LG
Gated Fusion Enhanced Multi-Scale Hierarchical Graph Convolutional Network for Stock Movement Prediction
College of Software, Northeastern University(东北大学软件学院);Neusoft Corporation(新soft公司)
针对股票走势预测中属性内模式与多尺度特征偏颇问题,提出 MS-HGFN 模型,通过层次化 GNN 模块和自上而下的门控融合机制全面捕捉时空依赖关系,在中美股市数据集上预测准确率最高提升 1.4%。
2025-11-03 cs.LG
Towards a Spectrum of Graph Convolutional Networks
NEC Labs Europe(NEC欧洲实验室)
我们提出了我们正在进行的工作,了解图卷积网络(GCN)的局限性,以及我们的工作概括的图卷积表示更复杂的节点属性依赖关系。基于GCN的分析与相应的计算图的帮助下,我们提出了一个推广现有的GCN的聚合操作是(a)由局部邻域图的结构特性和(b)不限于加权平均。我们表明,所提出的方法是严格更具表现力,而只需要一个适度的增加参数和计算的数量。我们还表明,当应用于规则网格图时,所提出的泛化与标准卷积层相同。
2018-05-04 cs.AI cs.CV cs.LG
Clinical Information Extraction via Convolutional Neural Network
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
我们报告了一个临床信息抽取工具的实现,该工具利用深度神经网络从原始临床笔记和病理报告中注释事件跨度及其属性。我们的方法使用上下文单词和他们的词性标签和形状信息作为特征。然后,我们雇用时间(1D)卷积神经网络来学习隐藏的特征表示。最后,我们使用多层感知器(MLP)来预测事件跨度。实证评估表明,我们的方法显着优于基线。
2016-03-30 cs.CL cs.LG cs.NE
Uncertainty Estimations by Softplus normalization in Bayesian Convolutional Neural Networks with Variational Inference
TU Kaiserslautern(凯泽斯劳滕工业大学);MindGarage;Imperial College London(帝国理工学院);NeuralSpace;Luleå University of Technology(吕勒奥理工大学)
我们介绍了一种新的不确定性估计贝叶斯卷积神经网络与变分推理的分类任务。通过在最后一层对Softplus函数的输出进行归一化,我们以连贯的方式估计任意和认知的不确定性。权重的后验概率分布由Bayes by Backprop推断。首先,我们展示了这种可靠的变分推理方法可以作为各种网络架构的基本构造。在监督学习设置(MNIST,CIFAR-10,CIFAR-100)的多个数据集上,这种变分推理方法在相同的体系结构中实现了与频率论推理相当的性能,而两个必要的,不确定性和正则化的度量自然地结合在一起。其次,我们研究了我们提出的任意性和认知不确定性的度量是如何推导出来的,并在上述数据集上进行了验证。
2019-05-14 cs.CV cs.LG cs.NE
Inferring Convolutional Neural Networks' accuracies from their architectural characterizations
Rhodes College(罗德学院);The University of Iowa(爱荷华大学);Fermi National Accelerator Laboratory (FNAL)(费米国家加速器实验室(FNAL));Oak Ridge National Laboratory(橡树岭国家实验室);Universidad Técnica Federico Santa María(费德里科·圣玛丽亚技术大学)
卷积神经网络(CNN)在分析包括粒子成像探测器在内的许多领域的科学数据方面表现出了强大的前景。然而,选择适当的网络架构(深度、内核形状、激活函数等)的挑战是复杂的。对于具体的应用和不同的数据集仍然知之甚少。在本文中,我们研究了CNN的架构和它的性能之间的关系,提出了一个系统的语言,是有用的不同的CNN的架构之间的比较训练时间之前。我们通过不同的属性来表征CNN的体系结构,并证明这些属性可以预测两个特定的基于计算机视觉的物理问题-事件顶点发现和费米国家加速器实验室的MINERvA实验中的强子多重性分类中的网络性能。在此过程中,我们从优化的网络架构中提取了几个架构属性用于物理问题,这些属性是称为深度学习多节点进化神经网络(MENNDL)的模型选择算法的输出。我们使用机器学习模型来预测网络在训练之前是否可以表现得比某个阈值精度更好。这些模型的性能比随机猜测好16-20%。此外,我们发现普通最小二乘模型在大量网络的准确性回归中的决定系数为0.966。
2020-01-10 cs.CV cs.LG hep-ex
Generative Graph Convolutional Network for Growing Graphs
Walmart Labs(沃尔玛实验室)
对生长图的生成过程建模在社交网络和推荐系统中有着广泛的应用,其中冷启动问题导致新节点从现有图中分离出来。尽管在学习图表示和图生成的新兴文献,其中大多数不能处理孤立的新节点没有非平凡的修改。挑战的出现是由于这样一个事实,即学习生成表示的观察图中的节点在很大程度上依赖于拓扑特征,而对于新的节点,只有节点属性可用。在这里,我们提出了一个统一的生成图卷积网络,学习所有节点的节点表示自适应生成模型框架,通过采样从观察到的图形数据构建的图形生成序列。我们优化的变分下界,由一个图重建项和自适应Kullback-Leibler发散正则化项。我们证明了我们的方法在几个基准引文网络数据集上的优越性能。
2019-03-06 cs.LG cs.SI stat.ML
Deep convolutional neural network for shape optimization using level-set approach
The University of British Columbia(英属哥伦比亚大学);University of Toronto(多伦多大学)
本文提出了一种通过深度卷积神经网络(CNN)进行形状优化应用的降阶建模方法。CNN提供形状与其相关联的属性之间的非线性映射,同时将这些属性的等方差保存到形状平移。为了通过CNN适用的笛卡尔结构网格隐式地表示复杂形状,采用水平集方法。基于CNN的降阶模型(ROM)是以完全数据驱动的方式构建的,因此非常适合非侵入式应用。我们展示了我们的ROM为基础的形状优化框架上的梯度为基础的三维形状最优化问题,以尽量减少诱导阻力的机翼在低保真位流。基于ROM的最优气动系数与通过势流求解器获得的气动系数之间具有良好的一致性。优化形状的预测行为与理论预测一致。我们还以物理上可解释的方式提出了深度CNN模型的学习机制。与基于全阶模型的在线优化应用相比,基于CNN-ROM的形状优化算法具有显著的计算效率。该算法有望开发一个易于处理的DL-ROM驱动的框架形状优化和自适应变形结构。
2022-02-15 cs.LG math.OC
Large Scale Product Categorization using Structured and Unstructured Attributes
WalmartLabs(沃尔玛实验室)
电子商务中使用文本数据进行产品分类是一个非常具有挑战性的极端分类问题,需要对数千个类别和数百万个产品进行分类。尽管多类文本分类在学术界和工业界都是一个研究得很好的问题,但大多数方法要么将产品内容视为一堆文本,要么只考虑一些产品属性用于建模目的。考虑到在流行的电子商务平台上销售的产品种类繁多,考虑到产品拥有自己独特的基于类别的属性集,很难将所有可用的产品属性作为建模练习的一部分。在本文中,我们比较层次模型,平面模型,并表明在特定情况下,平面模型表现更好。我们探索了两个基于深度学习的模型,这些模型从每个产品的非结构化数据中提取特征,然后将它们组合起来创建产品签名。我们还提出了一个新的想法,即以非结构化的方式将结构化属性及其值与卷积过滤器一起使用,这样,按产品类别对属性和不同属性进行排序不再成为建模挑战。这种方法对于错误的产品属性名称和值的存在也更健壮,并且可以优雅地概括为使用封闭列表和开放列表属性。
2019-03-01 cs.IR cs.LG stat.ML
Variational Graph Convolutional Neural Networks
Department of Electrical and Computer Engineering, Aarhus University(电气与计算机工程系,奥胡斯大学);Faculty of Information Technology and Communication Sciences, Tampere University(信息科技与通信科学学院,塔尔基大学)
本文提出空间与时空图卷积网络的变分版本,通过估计输出和逐层注意力的不确定性提升可解释性与精度,并在社交交易分析和骨架动作识别任务中验证其有效性。
2025-07-02 cs.LG
Rubik's Cube Operator: A Plug And Play Permutation Module for Better Arranging High Dimensional Industrial Data in Deep Convolutional Processes
卷积神经网络(CNN)从空间、时间和系统动力学的角度集成了分布式工业系统的数据记录,已被广泛应用于基于张量输入的工业数据处理。然而,与图像不同,基于工业数据的张量中的信息不一定是空间有序的。因此,直接应用CNN无效。为了解决这个问题,我们提出了一个即插即用模块,即Rubik's Cube Operator(RCO),在CNN处理之前,自适应地将基于工业数据的张量的数据组织排列为最优或次优的属性顺序,这些属性可以通过基于梯度的优化器与后续CNN一起更新。建议的RCO维护K个二进制和右随机置换矩阵,以置换基于张量的输入工业数据的K个轴的属性。提出了一种新的学习方法,利用Gumbel-Softmax对置换矩阵的元素进行重新参数化,并在任务特定的损失中加入软正则化损失,以保证置换数据的特征多样性。我们通过考虑两个代表性的学习任务,通过CNN处理工业数据,风力发电预测(WPP)和风速预测(WSP)从可再生能源领域验证了所提出的RCO的有效性。基于不同风电场采集的4个数据集进行了计算实验,结果表明,该RCO能显著提高基于CNN网络的性能。
2022-03-24 cs.LG
Attribute Aware Pooling for Pedestrian Attribute Recognition
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);University of Sydney(悉尼大学)
本文通过设计一种新的属性感知池化算法,将深度卷积神经网络(CNN)的优势扩展到行人属性识别问题。现有的普通CNN不能直接应用于处理多属性数据,因为较大的标签空间以及属性的纠缠和相关性。我们通过充分利用不同属性之间的相关性来解决这些阻碍CNN多属性分类发展的挑战。采用多分支结构对不同区域的属性进行融合。除了基于每个分支本身的预测之外,每个分支的上下文信息也用于决策。属性感知池的开发,以集成这两种信息。因此,模糊的或与其他属性纠缠在一起的属性可以通过利用上下文信息来准确地识别。基准数据集上的实验表明,所提出的池化方法适当地探索和利用行人属性识别的属性之间的相关性。
2019-07-27 cs.CV cs.LG eess.IV
Indirect Adversarial Attacks via Poisoning Neighbors for Graph Convolutional Networks
LINE Corporation(LINE公司)
图卷积神经网络通过学习相邻节点的聚合,在节点分类任务中取得了很好的性能。然而,最近的研究报告说,这种图卷积节点分类器可以被图上的对抗性扰动所欺骗。滥用图卷积,节点的分类结果可能会受到毒害其邻居的影响。给定一个属性图和一个节点分类器,我们如何评估对这种间接对抗攻击的鲁棒性?我们能否产生强大的对抗性扰动,不仅对一跳邻居有效,而且对距离目标更远的邻居有效?在本文中,我们证明了节点分类器可以欺骗高置信度中毒只是一个节点,甚至两跳或更远的目标。为了实现攻击,我们提出了一种新的方法,搜索更小的扰动,只是一个单一的节点远离目标。在我们的实验中,我们提出的方法显示了99%的攻击成功率在两个数据集从目标的两跳。我们还证明了m层图卷积神经网络有机会被我们在m-hop邻居内的间接攻击欺骗。提出的攻击可以用作未来防御尝试的基准,以开发具有对手鲁棒性的图卷积神经网络。
2020-02-19 cs.CR cs.LG stat.ML
Graph-based Visual-Semantic Entanglement Network for Zero-shot Image Recognition
South China University of Technology(华南理工大学);University of Southampton(南安普顿大学);University of Lincoln(林肯大学)
零样本学习使用语义属性来连接看不见的对象的搜索空间。近年来,虽然深度卷积网络为机器学习任务带来了强大的视觉建模能力,但其视觉特征具有严重的模式惯性,缺乏对语义关系的表示,从而导致严重的偏见和歧义。针对这一问题,本文提出了基于图的视觉-语义纠缠网络(Graph based Visual-Semantic Entanglement Network,简称VSN)对视觉特征进行图建模,并通过知识图谱将其映射到语义属性上。该方法利用卷积神经网络(CNN)和图卷积网络(GCN)建立一个多路径纠缠网络,将CNN的视觉特征输入到GCN中对隐含的语义关系进行建模,GCN再将图建模后的信息反馈给CNN特征; 2.以属性词向量作为GCN图语义建模的目标,形成图建模的自洽回归,指导GCN学习更多个性化的属性关系; 3.它融合并补充了由图建模细化的分层视觉语义特征到视觉嵌入中。我们的方法通过促进视觉特征的语义链接建模,在多个具有代表性的CNOL数据集:AwA 2,CUB和SUN上优于最先进的方法。
2021-06-12 cs.CV cs.LG eess.IV
Calibration and Uncertainty Quantification of Bayesian Convolutional Neural Networks for Geophysical Applications
Earth Science Analytics(地球科学分析公司)
深度神经网络在地球科学中提供了许多潜在的应用,例如,人们可以说它们是预测地震数据集中断层的最先进方法。在定量储层表征工作流程中,通常合并预测的不确定性,因此此类地下模型应在其预测中提供校准的概率和相关的不确定性。研究表明,流行的基于深度学习的模型经常被错误校准,并且由于其确定性,无法解释其预测的不确定性。我们比较了三种不同的方法来获得概率模型的基础上卷积神经网络在贝叶斯形式主义,即深度集成,混凝土辍学,和随机加权平均高斯(SWAG)。这些方法始终适用于故障检测案例研究,其中Deep Ensembles使用独立训练的模型来提供故障概率,Concrete Dropout代表了对流行的Dropout技术的扩展,以近似贝叶斯神经网络,最后,我们应用SWAG,这是一种基于小批量随机梯度下降的贝叶斯推理等价性的最新方法。我们提供定量结果的模型校准和不确定性表示,以及定性结果的合成和真实的地震数据集。我们的研究结果表明,近似贝叶斯方法,混凝土辍学和SWAG,都提供了良好的校准的预测和不确定性属性在较低的计算成本相比,基线深度包围的方法。由此产生的不确定性也提供了进一步提高模型性能以及增强模型可解释性的可能性。
2021-05-25 cs.CV cs.LG physics.geo-ph
Multi-Agent Reinforcement Learning with Graph Convolutional Neural Networks for optimal Bidding Strategies of Generation Units in Electricity Markets
ETH Zurich(苏黎世联邦理工学院);EPFL(洛桑联邦理工学院)
在电力市场环境下,寻找发电机组的最优报价策略将获得更高的利润。然而,由于系统的不确定性,这是一个具有挑战性的问题,这是由于未知的其他发电机组的策略。分布式优化,其中每个实体或代理单独决定其出价,已成为最先进的,但它不能克服系统的不确定性的挑战。深度强化学习是在不确定环境中学习最优策略的一种很有前途的方法。然而,它是不能够在学习过程中集成的空间系统拓扑结构的信息。提出了一种基于深度强化学习(DRL)和图卷积神经网络(GCN)的分布式学习算法。事实上,所提出的框架可以帮助代理人更新他们的决策,从环境中获得反馈,以便它可以克服的不确定性的挑战。在该算法中,节点之间的状态和连接是GCN的输入,它可以使代理知道系统的结构。这些关于系统拓扑结构的信息有助于代理人改进他们的投标策略并增加利润。我们评估所提出的算法在IEEE 30节点系统在不同的情况下。此外,为了研究所提出的方法的泛化能力,我们测试IEEE 39节点系统的训练模型。仿真结果表明,该算法比DRL算法具有更强的泛化能力,在改变系统拓扑结构时,可以获得更高的收益。
2022-08-11 cs.AI cs.LG cs.MA
Modularity Optimization as a Training Criterion for Graph Neural Networks
Tokyo Institute of Technology(东京工业大学)
图卷积是一种最近的可扩展方法,用于通过聚合多层上的本地节点信息来对属性图执行深度特征学习。这些层只考虑前向模型中节点邻居的属性信息,而不将全局网络结构的知识纳入学习任务中。特别是,模块化功能提供了一个方便的信息来源的社区结构的网络。在这项工作中,我们研究了在图卷积模型中加入网络的社区结构保护目标对学习表示质量的影响。我们以两种方式合并目标,通过输出层成本函数中的显式正则化项以及通过辅助层计算的额外损失项。我们报告了社区结构保留项在图卷积架构中的效果。两个属性bibilographic网络的实验评估表明,社区保护的目标,提高了半监督节点分类精度在稀疏标签制度。
2022-06-30 cs.LG cs.SI
Data Augmentation for Graph Convolutional Network on Semi-Supervised Classification
Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心);University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
数据增强旨在从原始数据中生成新的合成特征,这些特征可以识别数据的更好表示,并提高下游任务的性能和可推广性。然而,基于图的模型的数据增强仍然是一个具有挑战性的问题,因为图数据比传统数据更复杂,它由两个具有不同属性的特征组成:图拓扑和节点属性。在本文中,我们研究了图卷积网络(GCN)的图数据增强问题的背景下,改进的半监督节点分类的节点嵌入。具体来说,我们进行基于余弦相似性的交叉操作的原始功能,以创建新的图形功能,包括新的节点属性和新的图形拓扑结构,我们结合它们作为新的成对输入特定的GCN。然后,我们提出了一个注意力整合模型来加权和这些GCN编码的隐藏节点嵌入到最终的节点嵌入。我们还在训练时对这些隐藏节点嵌入进行视差约束,以确保从不同的特征中捕获非冗余信息。在五个真实数据集上的实验结果表明,该方法比原始GCN模型提高了分类精度(+2.5% - +84.2%)。
2021-06-16 cs.LG cs.SI
Denoising and Regularization via Exploiting the Structural Bias of Convolutional Generators
Technical University of Munich(慕尼黑工业大学);University of Southern California(南加州大学)
卷积神经网络(CNN)已经成为图像生成、恢复和复原的非常成功的工具。这一成功的一个主要因素是卷积网络对自然图像施加了很强的先验假设。一个令人惊讶的实验强调了这种对自然图像的建筑偏见,即人们可以在不使用任何训练数据的情况下从自然图像中去除噪声和损坏,通过简单地拟合(通过梯度下降)随机初始化,过度参数化的卷积生成器到损坏的图像。虽然这个过度参数化的网络可以完美地拟合损坏的图像,但令人惊讶的是,经过几次梯度下降迭代后,它生成了一个几乎未损坏的图像。这种有趣的现象使最先进的基于CNN的去噪和正则化的其他逆问题。在本文中,我们将这种效应归因于卷积网络的特定架构选择,即具有固定插值滤波器的卷积。然后,我们正式描述了将两层卷积生成器拟合到噪声信号的动态特性,并证明了早期停止的梯度下降去噪/正则化。我们的证明依赖于表明卷积生成器拟合图像的结构化部分的速度明显快于损坏的部分。
2020-02-23 cs.CV cs.IT cs.LG
Forecasting large-scale circulation regimes using deformable convolutional neural networks and global spatiotemporal climate data
Aarhus University(奥胡斯大学);Danske Commodities A/S(丹麦商品公司)
将大气状态分为有限数量的大尺度环流体系是研究遥相关、恶劣天气事件的可预测性和气候变化的流行方法。在这里,我们研究了一种基于变形卷积神经网络(deCNN)和迁移学习的监督机器学习方法,以预测未来1至15天的北大西洋-欧洲冬季天气状况。我们应用来自机器学习文献的最先进的解释技术,将特定的感兴趣区域或与任何给定的天气集群预测或政权过渡相关的潜在遥相关属性化。我们表现出优越的预测性能相对于几个经典的气象基准,以及逻辑回归和随机森林。由于其更宽的视野,我们还观察到deCNN在超过5-6天的提前期内实现了比常规卷积神经网络更好的性能。最后,我们发现迁移学习是至关重要的,类似于以前的数据驱动的大气预测研究。
2022-04-29 cs.LG
Label-Wise Graph Convolutional Network for Heterophilic Graphs
The Pennsylvania State University(宾夕法尼亚州立大学)
图神经网络(GNN)在为各种应用建模图方面取得了卓越的性能。然而,大多数现有的GNN假设图在节点标签中表现出强同质性,即,在图中连接具有相似标签的节点。他们未能推广到heterophilic图,其中链接的节点可能有不同的标签和属性。因此,在本文中,我们研究了一个新的框架,表现良好的图与同质或异质。更具体地说,我们提出了一个标签明智的消息传递机制,以避免聚合不同的节点表示所造成的负面影响,并保留异嗜上下文的表示学习。我们进一步提出了一个双层优化方法来自动选择具有同质/异质性的图的模型。理论分析和大量的实验表明,我们提出的框架的有效性,对同性和异性图的节点分类。
2023-02-16 cs.LG
Deep Convolutional Neural Networks for Pairwise Causality
TCS Research(TCS研究院)
从观察和干预数据中发现因果模型是假设分析或反事实推理之前重要的第一步。如前所述,在某些条件下,成对因果关系的方向可以通过标准梯度提升分类器(GBC)使用精心设计的统计特征从观测数据中推断出来。在本文中,我们将深度卷积神经网络(CNN)应用于这个问题,将属性对绘制为二维散点图,并将其作为图像馈送到CNN。我们评估我们的方法对'因果对' NIPS 2013年数据挑战。我们观察到,CNN与早期GBC方法的加权集成产生了显着的改善。此外,我们观察到,当可用的训练数据较少时,我们的方法比基于GBC的方法表现得更好,这表明预先训练以确定成对因果方向的方向的CNN模型在因果发现和实现假设或反事实分析中具有更广泛的适用性。
2017-01-03 cs.LG
Propagation with Adaptive Mask then Training for Node Classification on Attributed Networks
Huazhong University of Science and Technology(华中科技大学)
属性网络上的节点分类是一个半监督任务,对于网络分析至关重要。通过解耦图卷积网络(GCN)中的两个关键操作,即特征变换和邻域聚合,解耦GCN的一些最新工作可以支持信息更深层次的传播,并获得更好的性能。然而,它们遵循传统的GCN的结构感知传播策略,难以捕捉节点的属性相关性,并且对两端属于不同类别的边所描述的结构噪声敏感。为了解决这些问题,我们提出了一种名为itshape Propagation with Adaptive Mask then Training(PAMT)的新方法。其关键思想是将属性相似性掩码集成到结构感知的传播过程中。这样,PAMT在传播过程中能够保持相邻节点的属性相关性,有效降低结构噪声的影响。此外,我们开发了一种迭代细化机制,在训练过程中更新相似性掩码,以提高训练性能。在四个真实数据集上的大量实验证明了PAMT的优越性能和鲁棒性。
2022-06-23 cs.AI cs.LG
Explaining Deep Convolutional Neural Networks on Music Classification
Queen Mary University of London(伦敦玛丽女王大学)
深度卷积神经网络(CNN)已经被积极地应用于音乐信息检索领域,例如流派分类、情绪检测和和弦识别。然而,学习和预测的过程很少被理解,特别是当它被应用于频谱图时。我们引入CNN的可听化以理解其潜在机制,其基于[2]中引入的去卷积过程。CNN的可听化是将从去卷积获得的学习卷积特征转换为音频信号。在实验和讨论中,我们解释了基于去卷积频谱图和可听化信号的5层CNN的训练特征。还研究了具有不同音乐属性的每层的成对相关性,以了解学习特征的演变。结果表明,在深层,功能是学习捕捉纹理,连续分布的模式,而不是线条的形状。
2016-07-08 cs.AI cs.LG cs.MM
THeGCN: Temporal Heterophilic Graph Convolutional Network
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(Visa研究院)
针对基于事件的连续图中边异配与时序异配共存的时序边异配挑战,提出结合低/高通图滤波的THeGCN模型,经5个真实数据集实验验证其有效性。
2025-01-10 cs.IR cs.LG cs.SI
Lossless Compression of Structured Convolutional Models via Lifting
Czech Technical University in Prague(捷克布拉格技术大学)
提升是一种有效的技术,通过利用底层的对称性来扩展推广到关系域的图形模型。同时,神经模型不断从网格状张量数据扩展到结构化表示,例如各种属性图和关系数据库。为了解决数据的不规则结构,模型通常基于卷积的思想进行外推,有效地在其动态展开的计算图中引入参数共享。然后,计算图本身反映了底层数据的对称性,类似于提升的图模型。受提升的启发,我们引入了一种简单有效的技术来检测对称性并压缩神经模型,而不会丢失任何信息。我们通过实验证明,这种压缩可以导致结构化卷积模型的显着加速,例如各种图神经网络,跨各种任务,例如分子分类和知识库完成。
2021-01-18 cs.AI cs.LG
Learning Multiscale Convolutional Dictionaries for Image Reconstruction
University of Basel(巴塞尔大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
卷积神经网络(CNN)在解决成像逆问题方面取得了巨大的成功。为了理解它们的成功,一个有效的策略是构建更简单,数学上更易于处理的卷积稀疏编码(CSC)模型,这些模型与CNN共享基本成分。然而,现有的CSC方法在具有挑战性的逆问题中表现不佳。我们假设性能差距可能部分归因于它们如何在不同的空间尺度上处理图像:虽然许多CNN使用多尺度特征表示,但现有的CSC模型主要依赖于单尺度字典。为了缩小性能差距,我们提出了一种多尺度卷积字典结构。所提出的字典结构来自U-Net,可以说是图像到图像学习问题中最通用和最广泛使用的CNN。我们表明,将所提出的多尺度字典纳入标准CSC框架中,在包括CT和MRI重建在内的一系列具有挑战性的逆问题中,与最先进的CNN相比,其性能具有竞争力。因此,我们的工作证明了多尺度CSC方法在解决具有挑战性的逆问题的有效性和可扩展性。
2022-05-19 cs.CV cs.LG eess.IV
Single Unit Status in Deep Convolutional Neural Network Codes for Face Identification: Sparseness Redefined
School of Behavioral and Brain Sciences(行为与脑科学学院);The University of Texas at Dallas(得克萨斯大学达拉斯分校);UMIACS(马里兰大学信息与计算机科学学院);University of Maryland(马里兰大学)
为人脸识别而训练的深度卷积神经网络(DCNN)开发了在可变图像上泛化的表示,同时保留主题(例如,性别)和图像(例如,观点)信息。身份,性别和观点代码进行了研究,在“神经元”和合奏水平的人脸识别网络。在单元级别,识别,性别分类和观点估计通过删除单元来测量,以在顶部网络层创建可变大小的随机采样子空间。随着维度从512个单位降低到16(0.95)、4(0.80)和2(0.72)个单位,3,531个身份的识别率仍然很高(ROC下的面积约为1.0)。每个顶层单元上的个人身份都是统计分离的。跨单位的反应是最低限度的相关性,表明单位代码非冗余的身份线索。这种“分布式”代码只需要稀疏的随机样本就可以准确地识别人脸。随着维度的减少,性别分类逐渐下降,观点估计急剧下降。个别单位弱预测性别和观点,但合奏证明有效的预测。因此,分布式和稀疏码共存于网络单元中,以表示不同的人脸属性。在集成水平上,人脸表征的主成分分析表明,身份,性别和观点信息分离到高维子空间,解释方差排序。身份,性别和观点信息有助于所有个人单位的反应,削弱了面部属性的神经调节类比。从DCNN解释神经类代码,并通过类比,高级视觉代码,不能从单个单元响应推断。相反,“意义”是由高维空间中的方向编码的。
2020-03-01 cs.CV cs.LG
CoANE: Modeling Context Co-occurrence for Attributed Network Embedding
National Cheng Kung University(成功大学)
属性化网络嵌入(ANE)是通过学习低维向量,使得嵌入空间中既保留了网络结构,又保留了节点属性。现有的ANE模型没有考虑图结构和属性之间的特定组合。虽然每个节点都有其结构特征,例如高度互连的邻居以及它们的某些属性分布模式,但每个节点的邻居不应仅由多跳节点来描述,而应考虑某些集群或社交圈。为了对这些信息进行建模,本文提出了一种新的ANE模型,上下文同现感知属性网络嵌入(CoANE)。CoANE的基本思想是对每个节点涉及不同模式的上下文属性进行建模,并将每个属性视为通道,应用卷积机制对位置信息进行编码。上下文共现的学习可以捕获每个节点的潜在社交圈。为了更好地编码节点的结构和语义知识,我们设计了一个三向目标函数,包括正图似然,上下文负采样和属性重建。我们在五个真实数据集上进行了链接预测、节点标签分类和节点聚类的实验。结果表明,CoANE可以显着优于国家的最先进的ANE模型。
2021-06-17 cs.AI cs.LG cs.SI
Multiplex Heterogeneous Graph Convolutional Network
Ocean University of China(中国海洋大学);The University of Hong Kong(香港大学);Shandong University of Science and Technology(山东科技大学)
异构图卷积网络在处理异构网络数据的各种网络分析任务(范围从链接预测到节点分类)中获得了极大的普及。然而,现有的研究大多忽略了多类型节点间的关系异构性以及节点嵌入时元路径中关系重要性的差异,难以捕捉不同关系间的异构结构信号。为了解决这一问题,本文提出了一种用于异构网络嵌入的多路异构图卷积网络(MHGCN)。我们的MHGCN可以自动学习有用的异构元路径的相互作用,通过多层卷积聚合在多个异构网络中的不同长度。此外,我们有效地集成多关系结构信号和属性语义到学习节点嵌入与无监督和半监督学习范例。在五个具有各种网络分析任务的真实世界数据集上进行的广泛实验表明,MHGCN在所有评估指标方面都优于最先进的嵌入基线。
2022-08-12 cs.AI cs.LG cs.SI
A Facial Affect Analysis System for Autism Spectrum Disorder
University of Washington(华盛顿大学);Seattle Children's Research Institute(西雅图儿童研究所);Binghamton University(宾汉姆顿大学);Yale University(耶鲁大学)
在本文中,我们介绍了一个端到端的机器学习为基础的系统分类自闭症谱系障碍(ASD)使用面部属性,如表情,动作单位,唤醒,和效价。我们的系统使用来自卷积神经网络的不同面部属性的表示来对ASD进行分类,该卷积神经网络是在野外的图像上训练的。我们的实验结果表明,在我们的系统中使用的不同的面部属性是统计上显着的,提高了灵敏度,特异性,和F1分数的ASD分类的大幅度。特别是,添加不同的面部属性将ASD分类的性能提高了约7%,达到了76%的F1分数。
2019-04-07 cs.CV cs.HC cs.LG
Semi-Adversarial Networks: Convolutional Autoencoders for Imparting Privacy to Face Images
Michigan State University(密歇根州立大学);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
在本文中,我们设计并评估了一个卷积自动编码器,它可以扰动输入的人脸图像,从而将隐私传递给受试者。具体而言,建议的自动编码器变换输入的人脸图像,使得变换后的图像可以成功地用于人脸识别,但不用于性别分类。为了训练这种自动编码器,我们提出了一种新的训练方案,在这项工作中被称为半对抗训练。通过将由伪性别分类器和伪面部匹配器组成的半对抗模块附加到自动编码器来促进训练。用于训练该网络的目标函数有三个项:一个是确保扰动图像是真实的人脸图像;另一个是确保人脸的性别属性被混淆;第三个是确保由于扰动图像导致的生物识别性能不受影响。大量的实验证实了所提出的架构在扩展性别隐私的人脸图像的功效。
2018-05-03 cs.CV cs.LG