Toward Reliable Models for Authenticating Multimedia Content: Detecting Resampling Artifacts With Bayesian Neural Networks
IT Security Infrastructures Lab, Friedrich-Alexander University Erlangen-N \"u rnberg, Germany
在多媒体取证中,基于学习的方法在确定图像和视频的来源和真实性方面提供了最先进的性能。然而,大多数现有方法受到分布外数据的挑战,即,具有训练集中未覆盖的特征。这使得很难知道何时信任一个模型,特别是对于技术背景有限的从业者。在这项工作中,我们朝着重新设计取证算法迈出了第一步,重点关注可靠性。为此,我们建议使用贝叶斯神经网络(BNN),它将深度神经网络的功能与贝叶斯框架的严格概率公式相结合。BNN不像标准神经网络那样提供点估计,而是提供表达估计值和不确定性范围的分布。我们证明了这个框架的实用性上的一个经典的法医任务:reservation检测。BNN具有最先进的检测性能,以及检测分布外样本的出色能力。这是证明了三个病理问题,即看不见的reservation因素,看不见的JPEG压缩,看不见的reservation算法。我们希望这一建议能促进多媒体取证可靠性的进一步研究。
2020-07-28 cs.LG stat.ML
Detecting Model Misspecification in Amortized Bayesian Inference with Neural Networks
Cluster of Excellence SimTech(SimTech卓越集群);University of Stuttgart(斯图加特大学);Heidelberg University(海德堡大学);Cluster of Excellence STRUCTURES(STRUCTURES卓越集群)
神经密度估计器已被证明在各种研究领域中执行有效的基于模拟的贝叶斯推断方面非常强大。特别是,贝叶斯流框架使用两步方法,使摊销参数估计的设置中的似然函数是由一个模拟程序隐式定义。但是,当模拟并不能很好地代表现实时,这种推断的可信度又有多大呢?在本文中,我们概念化的模型误指定的类型所产生的基于模拟的推理和系统地研究这些误指定下的贝叶斯流框架的性能。我们提出了一个增强的优化目标,它对潜在的数据空间施加概率结构,并利用最大平均差异(MMD)来检测潜在的灾难性的错误规范在推理破坏所获得的结果的有效性。我们验证了我们的检测标准的一些人为的和现实的错误规格,从玩具共轭模型到复杂的模型的决策和疾病爆发的动态应用到真实的数据。此外,我们表明,后验推理误差增加的函数之间的距离的真实数据生成分布和典型的一组模拟在潜在的摘要空间。因此,我们证明了MMD的双重效用,作为一种方法,用于检测模型的错误说明,并作为代理验证摊销贝叶斯推断的忠实性。
2022-11-08 cs.LG stat.ME stat.ML
Probabilistic symmetries and invariant neural networks
University of British Columbia(不列颠哥伦比亚大学);University of Oxford(牛津大学)
将神经网络的输入和输出作为随机变量处理,我们描述了神经网络的结构,该结构可用于对在紧致群的作用下不变或等变的数据进行建模。最近的许多研究致力于将对称变换下的不变性编码到神经网络架构中,以努力提高深度神经网络在数据稀缺、非独立同分布、或无人监管的环境。通过从概率对称性的角度考虑群不变性,建立了泛函与概率对称性之间的联系,得到了在紧群作用下不变或等变的概率分布的生成泛函表示.我们的陈述完全表征的神经网络,可用于模拟这种分布的结构,并产生一个通用的程序,用于构建不变的随机或确定性神经网络。我们证明,从最近的文献中的例子是特殊的情况下,和可交换的序列和数组的一般程序的细节。
2020-09-16 cs.LG stat.ML
Improving Equivariant Networks with Probabilistic Symmetry Breaking
MIT(麻省理工学院);UCL(伦敦大学学院);Samsung – SAIT AI Lab(三星SAIT AI实验室);McGill University(麦吉尔大学)
针对等变网络无法打破对称性的根本限制,提出基于随机规范化的SymPE方法,通过等变条件分布实现对称性破缺,在多个图与物理任务上显著提升性能。
2025-03-27 cs.LG stat.ML
Detecting False Rumors from Retweet Dynamics on Social Media
众所周知,虚假的谣言对社会有不利影响。为了防止虚假谣言的传播,Twitter等社交媒体平台必须及早发现它们。在这项工作中,我们开发了一种新的概率混合模型,根据潜在的传播过程对真假谣言进行分类。具体来说,我们的模型是第一个正式的自我兴奋的性质的真实与虚假的转发过程。这导致了一种新的混合标记的霍克斯模型(MMHM)。因此,我们的模型避免了特征工程的需要;相反,它直接对传播过程进行建模,以便推断网络谣言是否不正确。我们的评估是基于13,650个转发级联的两个真的。来自Twitter的虚假谣言我们的模型识别虚假谣言的平衡准确率为64.97%,AUC为69.46%。它比最先进的基线(神经和特征工程)有相当大的优势,但同时也是完全可解释的。我们的工作对从业者有直接的影响:它利用传播过程作为一个隐含的质量信号,并在此基础上检测虚假内容。
2022-04-03 cs.SI stat.AP
An Interpretable Probabilistic Model for Short-Term Solar Power Forecasting Using Natural Gradient Boosting
Institute of Combustion and Power Plant Technology, University of Stuttgart(斯图加特大学燃烧与发电厂技术研究所)
光伏发电预测模型主要基于机器学习算法,这些算法不提供对其预测的任何见解或解释(黑匣子)。因此,在需要透明度的环境中直接实施它们,以及与它们的预测相关的信任可能会受到质疑。为此,我们提出了一个两阶段的概率预测框架,能够生成高度准确,可靠和尖锐的预测,但提供完全透明的点预测和预测区间(PI)。在第一阶段,我们利用自然梯度提升(NGBoost)来产生概率预测,而在第二阶段,我们计算Shapley加性解释(SHAP)值,以充分理解为什么做出预测。为了突出所提出的框架的性能和适用性,位于德国南部的两个光伏园区的真实数据。比较结果与两个国家的最先进的算法,即高斯过程和下限估计,表现出显着增加的点预测精度和整体概率性能。最重要的是,模型的复杂的非线性关系和各种功能之间的相互作用的影响进行了详细的分析。这允许解释模型,识别一些学习的物理属性,解释个人预测,减少训练的计算要求而不损害模型的准确性,检测可能的错误,并获得对模型的信任。最后,我们得出结论,该模型能够开发复杂的非线性关系,遵循已知的物理特性以及人类的逻辑和直觉。
2022-11-06 cs.LG stat.AP
Probabilistic Modeling of Deep Features for Out-of-Distribution and Adversarial Detection
Intel Labs(英特尔实验室)
我们提出了一种用于检测深度神经网络中的分布外(OOD)和对抗性样本的原则性方法。我们的方法包括在训练完成后,用参数概率分布对各个层(深度特征)的输出进行建模。在推断时,计算深度特征相对于先前学习的分布的似然性,并用于导出可以区分分布内样本和OOD样本的不确定性估计。我们探索使用两类多元分布建模的深层功能-高斯和高斯混合-和研究准确性和计算复杂性之间的权衡。我们通过在MNIST和CIFAR 10数据集上使用流行的DNN架构检测OOD图像和逆向生成的图像,展示了我们的方法在图像特征上的优势。我们发现,对特征分布进行更精确的建模,可以显著提高OOD和对抗性样本的检测能力; AUPR和AUROC指标的检测率高达12个百分点。我们进一步表明,我们的方法在应用于视频数据和相关的时空特征时仍然非常有效,通过使用UCF 101数据集和C3 D网络检测活动分类任务上的对抗样本。据我们所知,我们的方法是第一个可靠检测白盒对抗框架的方法,这是一种针对视频分类器的最先进的对抗攻击。
2019-09-25 cs.LG stat.ML
Detecting and Quantifying Malicious Activity with Simulation-based Inference
University of Oxford(牛津大学);Facebook(脸书);Facebook Inc.(脸书公司)
我们建议使用概率编程技术来解决推荐算法中的恶意用户识别问题。概率编程提供了优于其他技术的许多优点,包括但不限于提供恶意用户在结构化模型下如何行动的分解表示,以及允许量化恶意用户造成的损害。我们展示了恶意用户识别实验,使用一个简单的推荐算法进行交互的常规和恶意用户的模型,并提供了一种新的基于模拟的措施,用于量化用户或用户组对其动态的影响。
2021-10-07 cs.CR cs.LG stat.AP
Symmetry Discovery Beyond Affine Transformations
Utah State University(犹他州立大学);University at Albany(奥尔巴尼大学)
本文提出一个在流形假设下发现超越仿射变换的连续及离散对称性的框架,实验证明其在小样本下优于LieGAN且计算更高效。
2024-11-06 cs.LG stat.ML
GeoTrackNet-A Maritime Anomaly Detector using Probabilistic Neural Network Representation of AIS Tracks and A Contrario Detection
IMT Atlantique(大西洋国立高等矿业电信学校);CLS: Collect Localisation Satellites(CLS:卫星定位数据收集公司)
表示海上交通模式并从中检测异常是船舶监测和海上态势感知的关键。我们提出了一种新的方法-称为GeoTrackNet -海事异常检测AIS数据流。我们的模型利用国家的最先进的神经网络计划学习AIS的轨迹和一个contrario检测的概率表示检测异常事件。神经网络提供了一种新的手段来捕获血管行为中的复杂和异质模式,而\textit{a contrario}检测器考虑了学习的分布可能是位置相关的这一事实。一个真正的AIS数据集,包括超过420万AIS消息的实验表明,与国家的最先进的计划相比,所提出的方法的相关性。
2021-02-08 cs.AI cs.LG stat.ML
A Probabilistic Framework to Node-level Anomaly Detection in Communication Networks
University Paris-Saclay(巴黎萨克雷大学);Sigfox R&D(西格福克斯研发中心)
在本文中,我们认为在通信网络中的节点级发生的异常通信量检测的任务。通信活动的信号通过团流来建模:每个发生的通信事件都是瞬时的,并激活跨越一组同等参与节点的无向子图。我们提出了一个概率框架来建模和评估在任何单个节点上观察到的通信量。具体来说,我们采用非参数回归来学习一个节点参与某个事件的概率,知道所涉及的其他节点的集合。最重要的是,我们提出了一个节点可以参与的事件的估计量的浓度不等式,这反过来又使我们能够建立一个有效的和可解释的异常评分函数。最后,所提出的方法的优越性能的经验证明在现实世界的传感器网络数据,以及使用合成的通信活动,是根据后者的设置。
2019-02-12 cs.LG cs.SI stat.ML
Detecting Unusual Input-Output Associations in Multivariate Conditional Data
University of Pittsburgh(匹兹堡大学)
尽管近年来离群点检测研究取得了巨大的进展,但大多数现有方法仅被设计用于检测与所有数据属性的联合空间中表达的异常数据模式相对应的无条件离群点。当我们试图检测反映与给定上下文或条件相关的异常反应的条件离群值时,此类方法不适用。这项工作的重点是多变量条件离群值检测,一种特殊类型的条件离群值检测问题,其中数据实例包括多维输入(上下文)和输出(响应)对。我们提出了一种新的离群值检测框架,该框架可以在从所有数据实例中学习的可分解条件概率模型的帮助下识别数据中的异常输入-输出关联。由于该模型的组成部分可能在质量上有所不同,因此我们将它们与权重相结合,以反映其在评估离群值时的可靠性。我们研究了两种计算组件权重的方法:依赖于所有数据的全局方法和仅依赖于与目标实例相似的实例的局部方法。对不同领域数据的实验结果表明,我们的框架能够成功识别多变量条件离群值。
2016-12-21 cs.LG stat.ML
Detecting change points in the large-scale structure of evolving networks
人或物体之间的交互在本质上通常是动态的,可以表示为一系列网络,每个网络都提供了一个简短时间段内交互的快照。分析这种不断发展的网络的一个重要任务是变点检测,在这个过程中,我们既要确定大规模交互模式发生根本变化的时间,又要量化发生了多大的变化和什么样的变化。在这里,我们第一次正式的在线概率学习框架内的网络变点检测问题,并介绍了一种方法,可以可靠地解决它。这种方法结合了广义分层随机图模型与贝叶斯假设检验,以定量地确定是否,何时,以及如何发生的变化点。我们分析了我们的方法使用合成数据与已知的不同类型和幅度的变化点的可检测性,并表明,这种方法是更准确的比以前使用的替代品。应用于两个高分辨率的不断发展的社交网络,这种方法确定了一系列的变化点,与已知的外部“冲击”,这些网络。
2014-11-14 cs.SI physics.soc-ph stat.ML
Latent heterogeneous multilayer community detection
Huawei Noah's Ark Lab(华为诺亚方舟实验室);University of South Florida(南佛罗里达大学);University of Michigan(密歇根大学);GIPSA-lab, University Grenoble-Alpes(格勒诺布尔-阿尔卑斯大学GIPSA实验室);MIT-IBM Watson AI Lab, IBM Research(IBM研究院MIT-IBM沃森人工智能实验室)
提出了一种在多层加权无向网络中同时检测共享和非共享社区的方法。假设多层网络遵循生成概率模型,该模型考虑了社区之间的相似性和差异性。我们利用变分贝叶斯方法联合推断共享和非共享的隐藏社区从多层网络的观察。我们表明,我们的方法在检测合成数据以及真实全基因组成纤维细胞增殖数据集上的不同(共享和私有)社区方面优于最先进的算法。
2019-06-24 cs.LG cs.SI stat.ML