Handwritten Chinese Character Recognition by Convolutional Neural Network and Similarity Ranking
University of Western Ontario(西安大略大学)
卷积神经网络(CNN)最近在手写体汉字识别(HCCR)上取得了最先进的性能。然而,大多数CNN模型采用SoftMax激活函数并最小化交叉熵损失,这可能导致类间信息的损失。为了解决这个问题,我们提出了将交叉熵与相似度排序函数相结合,并将其作为损失函数。实验结果表明,组合损失函数在HCCR中具有较高的精度。本文简要回顾了交叉熵损失函数,一种典型的相似性排序函数:欧氏距离,并提出了一种新的相似性排序函数:平均方差相似性。实验比较了三种不同损失函数的CNN模型的性能。最后,SoftMax交叉熵与平均方差相似度在手写体汉字识别中具有最高的准确率。
2019-08-30 cs.CV cs.LG stat.ML
Introducing SDICE: An Index for Assessing Diversity of Synthetic Medical Datasets
本文提出SDICE指标,利用预训练对比编码器度量合成与真实图像相似度分布距离,并经指数归一化,用于评估合成医学数据集多样性,实验验证其有效性。
2024-09-28 cs.CV
Structural Similarity Index SSIMplified: Is there really a simpler concept at the heart of image quality measurement?
Nontrivialzeros Research(非平凡零点研究所)
结构相似性指数(SSIM)通常被认为是图像质量评价(IQA)最近历史上的一个里程碑。唉,SSIM从三个启发性因素的产物中得到的公认的发展继续掩盖了它真正的潜在简单性。相反,从一个反对称的重新制定,我们首先显示SSIM是一个对比度或可见性功能在经典意义上。此外,以前神秘的结构协方差被揭示为方差的差异。第二步,消除SSIM固有的二次性质,允许与人类观察者得分接近线性相关,而无需调用通常但任意的S形模型拟合。我们的结论是,SSIM可以重新解释知觉掩蔽:它基本上相当于一个标准化的误差或噪声可见度函数(NVF),而且,NVF单独解释它的成功建模感知图像质量。我们使用术语相异性商(DQ)用于特定反对称/对称SSIM导出的NVF。看来IQA研究人员现在可能有两个选择:1)继续使用复杂的SSIM公式,但注意SSIM只是巧合地起作用,因为协方差项实际上是伪装的均方误差(MSE)。2)使用最简单的感知掩蔽图像质量指标,即NVF或DQ。在这个选择上,奥卡姆是明确的:在预测能力不存在差异的情况下,做出的假设越少越好。
2015-05-25 cs.CV
Weighting Pseudo-Labels via High-Activation Feature Index Similarity and Object Detection for Semi-Supervised Segmentation
Stony Brook University(石溪大学);EPFL(洛桑联邦理工学院)
本文提出一种通过高激活特征索引相似性与目标检测加权伪标签的方法,提高半监督语义分割中伪标签的可靠性,并在多个框架和数据集上验证了有效性。
2024-07-17 cs.CV
Leveraging Class Similarity to Improve Deep Neural Network Robustness
University of Denver(丹佛大学);University of California, Berkeley(加州大学伯克利分校)
传统上,人工神经网络(ANN)通过最小化所提供的地面实况增量分布(编码为独热向量)与ANN的预测softmax分布之间的交叉熵来训练。然而,似乎不能接受的惩罚网络之间的分类错误平等。将类“Automobile”与类“Truck”相混淆的惩罚应该小于将类“Automobile”与类“Donkey”相混淆的惩罚。为了避免这种表示问题,并学习网络中更清晰的分类边界,本文提出了一种交叉熵损失的变化,它不仅取决于样本类,而且还取决于以矩阵形式编码的类之间的数据驱动的先验“类相似性分布”。我们探索使用数据驱动方法学习类相似性分布,然后表明通过使用我们修改的相似性驱动损失进行训练,我们在多个架构和数据集上获得了略好的泛化性能,并在嘈杂的测试场景中获得了更好的性能。
2018-12-27 cs.CV
Entropy-Aware Similarity for Balanced Clustering: A Case Study with Melanoma Detection
Korea University(高丽大学)
本文提出熵感知相似度平衡聚类方法EASB,通过结合角度、距离与熵最大化聚类平衡性,并在ISIC 2019/2020黑色素瘤数据上验证了其优于经典方法的检测性能。
2023-05-11 cs.CV cs.LG eess.IV
A Generic Inverted Index Framework for Similarity Search on the GPU - Technical Report
National University of Singapore(新加坡国立大学);Univ. of Michigan, Ann Arbor(密歇根大学安娜堡分校);Nanyang Technological University(南洋理工大学);Baidu Research(百度研究院);Tencent Inc.(腾讯公司)
提出了一种基于GPU的通用倒排索引框架(GENIE),旨在降低GPU对不同数据类型的并行相似性搜索的编程复杂度。GENIE并不支持所有的数据类型和相似性度量,但支持许多流行的数据类型和相似性度量。我们提出了系统设计的GENIE,并演示了相似性搜索与GENIE的几个数据类型随着搜索结果的理论分析。提出了一种新的局部敏感散列算法(LSH),即$τ$ -ANN搜索算法,并在GPU上实现了一种新的数据结构c-PQ。在不同现实数据集上的大量实验证明了我们框架的效率和有效性。已实现的系统已作为开放源代码发布。
2018-08-14 cs.CV cs.DB cs.DC
Topological Similarity Index and Loss Function for Blood Vessel Segmentation
INESC TEC(INESC TEC(葡萄牙系统与计算机工程技术研究所));Faculty of Sciences of the University of Porto(波尔图大学理学院)
血管分割是计算机视觉中研究最多的主题之一,因为它与日常临床实践相关。尽管该领域一直面临着发展,特别是在深度学习出现之后,但重要的挑战仍然没有解决。其中之一是关于血管树拓扑性质的一致性,因为表现最好的方法不会直接惩罚错误,如断裂的片段,并最终产生与断开的树的预测。这在类似图的结构中特别相关,例如血管树,因为它使分割任务之后的表征步骤处于风险之中。在本文中,我们提出了一个相似性指数,它捕获的拓扑结构的一致性预测分割作为参考的地面真相。我们还设计了一种基于形态闭合算子的新型损失函数,并展示了它如何允许学习深度神经网络模型,从而产生更多拓扑相干的掩码。我们的实验目标是众所周知的视网膜基准和冠状动脉造影数据库。
2021-07-30 cs.CV eess.IV
Theoretical Insights into the Use of Structural Similarity Index In Generative Models and Inferential Autoencoders
University of Waterloo(滑铁卢大学)
生成式模型和推理式自动编码器在其优化目标中大多使用$\ell_2$范数。为了生成感知更好的图像,本文从理论上讨论了如何在生成模型和推理自动编码器中使用结构相似性指数(SSIM)。我们首先回顾SSIM、SSIM距离度量和SSIM内核。我们表明,SSIM内核是一个通用的内核,因此可以用于无条件和有条件生成的矩匹配网络。然后,我们解释如何在变分和对抗自动编码器以及无条件和条件生成对抗网络(GANs)中使用SSIM距离。最后,我们建议在最小二乘GAN中使用SSIM距离而不是$\ell_2$范数。
2020-04-04 cs.CV cs.LG eess.IV
Principal Component Analysis Using Structural Similarity Index for Images
University of Waterloo(滑铁卢大学)
尽管深度学习在使用图像的特定任务中取得了进展,但对图像保真度和相似性的原则性评估仍然是一项关键的能力。由于已经表明,均方误差(MSE)是不足以完成这项任务,其他措施已开发的最有效的是结构相似性指数(SSIM)。这种测量可以用于子空间学习,但是机器学习中的现有方法,例如主成分分析(PCA),是基于欧几里得距离或MSE的,因此不能正确地捕获图像的结构特征。在本文中,我们定义了一个图像结构子空间,区分不同类型的图像失真。我们提出了图像结构成分分析(ISCA),也内核ISCA使用SSIM,而不是欧氏距离,在PCA的制定。本文在图像质量评价和流形学习之间架起了一座桥梁,为未来的研究开辟了一个广阔的新领域。
2019-08-25 cs.CV cs.LG eess.IV
DSSIM: a structural similarity index for floating-point data
National Center for Atmospheric Research(美国国家大气研究中心);Colorado School of Mines(科罗拉多矿业学院)
数据可视化是与来自大型模型仿真代码的浮点输出数据进行交互的关键组件。实际上,对模拟数据的后处理分析工作流通常从原始数据生成大量图像,然后将其中许多图像彼此进行比较或与指定的参考图像进行比较。在这种图像比较的情况下,图像质量评估(IQA)措施是非常有用的,结构相似性指数(SSIM)仍然是一个流行的选择。但是,生成大量图像的成本可能很高,并且特定于地块(但与数据无关)的选择可能会影响SSIM值。一个自然的问题是,我们是否可以将SSIM直接应用于浮点模拟数据,并获得数据差异是否可能影响视觉评估的指示,从而有效地绕过从数据创建特定图像集。为此,我们提出了一种替代流行的SSIM,可以直接应用于浮点数据,我们称之为数据SSIM(DSSIM)。虽然我们证明了有用的DSSIM的背景下,由于大量的模拟数据从一个流行的气候模型的有损压缩的差异进行评估,DSSIM可能会被证明是有用的许多其他应用程序,涉及模拟或图像数据。
2023-03-19 cs.CV stat.CO
Instance Cross Entropy for Deep Metric Learning
Anyvision Research Team(Anyvision研究团队);Queen’s University Belfast(贝尔法斯特女王大学)
损失函数在深度度量学习中起着至关重要的作用,因此已经提出了各种各样的损失函数。一些监督学习过程的成对或三重相似性约束,而其他人利用结构化的相似性信息之间的多个数据点。在这项工作中,我们从一个新的角度来研究深度度量学习。我们提出了实例交叉熵(ICE),它测量估计的实例级匹配分布和其地面真实分布之间的差异。ICE有三个主要吸引人的特性。首先,与分类交叉熵(CCE)类似,ICE具有明确的概率解释,并利用结构化的语义相似性信息进行学习监督。其次,ICE可扩展到无限的训练数据,因为它在小批量上迭代学习,并且与训练集大小无关。第三,在相对权重分析的基础上,引入了无缝样本权重调整。它通过调整样本的梯度来控制对训练样本的区分度,而不是通过样本挖掘来截断样本。除了它的简单性和直观性之外,在三个真实世界基准上的广泛实验证明了ICE的优越性。
2019-11-22 cs.CV cs.IR cs.LG