The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets
UCL and SAS（伦敦大学学院和SAS）；UC Riverside（加州大学河滨分校）
本文揭示基于相似性的临时隐私度量不可靠，并提出重构攻击 ReconSyn，仅凭黑盒访问即可恢复训练数据中 78-100% 的离群点，证明此类度量会破坏端到端差分隐私保障。
2025-05-07 cs.AI cs.CR cs.LG
Object Detector Differences when using Synthetic and Real Training Data
Axis Communications AB（安讯士通信公司）；Lund University（隆德大学）
本文通过CKA相似性分析研究合成数据与真实数据训练的YOLOv3检测器逐层差异，发现早期层最相似、头部差异最大，且冻结与未冻结骨干网络影响不显著。
2023-12-01 cs.CV cs.LG
Beyond Pixel Similarity: Task-Aware Evaluation of GAN-Based Synthetic Sonar Data for Robotic Perception
XITASO GmbH IT & Software Solutions（XITASO信息技术与软件解决方案有限公司）；National University of Sciences and Technology (NUST)（国立科技大学）；Technical University of Kaiserslautern（凯泽斯劳滕工业大学）
本研究针对GAN合成声纳数据，发现像素级图像保真度指标（SSIM、PSNR、MSE）不能充分反映下游目标检测性能，提出并验证了任务感知评估的必要性，表明PatchGAN配置虽像素相似性较低但检测效果更优。
2026-09-17 cs.CV cs.LG cs.RO
Privacy-Preserving Tabular Synthetic Data Generation Using TabularARGN
MOSTLY AI
针对传统匿名化技术无法充分保护隐私的问题，提出用于生成高质量表格数据的神经网络架构TabularARGN，通过基于离散化的自回归方法实现高保真与计算高效，并在统计相似性、机器学习效用、检测鲁棒性及抵御成员推理攻击上展现出有效的隐私与效用平衡。
2025-08-08 cs.LG
Generating Synthetic Time Series Data for Cyber-Physical Systems
Mississippi State University（密西西比州立大学）；Eng. Research and Dev. Center Department of Defence（国防部工程研究与开发中心）
针对Transformer在时间序列数据增强领域研究不足的问题，本文提出融合多项先验的架构并经时域相似性度量测试，揭示了领域挑战与未来研究方向。
2024-04-12 cs.LG
Efficient Principal Subspace Projection of Streaming Data Through Fast Similarity Matching
Flatiron Institute（弗莱提伦研究所）；NYU Langone Medical Center（纽约大学朗格尼医学中心）
大数据问题通常需要以流方式处理数据集，因为所有数据都可以同时使用，但总体上大于可用内存，或者因为数据本质上一次到达一个数据点，必须在线处理。在这里，我们介绍了一个计算效率高的版本的相似性匹配，在线降维的框架，增量估计流数据的顶部K维主子空间，同时在内存中只保留最后一个样本和当前样本。为了评估我们的方法的性能，我们构建并公开了一个测试套件，其中包含一个合成数据生成器和基础设施，用于在真实数据集上测试在线降维算法，以及我们的算法和具有类似目标的竞争算法的性能实现。在考虑的算法中，我们发现我们的方法是有竞争力的，在合成和真实数据上都是最好的。
2018-08-06 cs.LG stat.CO
Evaluating Synthetic Tabular Data Generated To Augment Small Sample Datasets
针对小样本表格数据增强，本文在四个数据集上比较全局统计指标与拓扑度量，发现单一指标不可靠，并提出基于归一化 Bottleneck 距离的互补评估方法。
2025-03-14 cs.LG stat.ML
MimiQ: Low-Bit Data-Free Quantization of Vision Transformers with Encouraging Inter-Head Attention Similarity
Seoul National University（首尔大学）；Google（谷歌）；KAIST（韩国科学技术院）
针对低比特设置下视觉Transformer（ViT）无数据量化效果不佳的问题，提出MimiQ方法，通过增强头间注意力相似性对齐合成数据与全精度模型的注意力图，显著提升量化性能，达到新的最先进水平。
2025-04-14 cs.AI cs.CV cs.LG
Synthesizing real-world distributions from high-dimensional Gaussian Noise with Fully Connected Neural Network
Wrocław University of Science and Technology（弗罗茨瓦夫理工大学）
本文提出基于全连接神经网络和随机损失函数的高效合成数据生成方法，通过将随机高斯分布转换为近似目标现实数据集，实验表明其在分类质量提升和隐私保护方面优于现有生成方法。
2026-07-17 cs.LG
Empirical Similarity for Absent Data Generation in Imbalanced Classification
Oklahoma State University（俄克拉荷马州立大学）；School of Industrial Engineering and Management（工业工程与管理学院）
当两类分类问题中的训练数据被一个类淹没时，大多数分类技术无法正确识别属于代表性不足的类的数据点。我们提出了基于相似性的不平衡分类（SBIC），它根据经验相似性函数学习训练数据中的模式。为了考虑训练数据的不平衡结构，SBIC利用了缺失数据的概念，即来自少数类的数据，这可以帮助更好地找到两个类之间的边界。SBIC同时优化经验相似性函数的权重，并找到缺失数据点的位置。因此，SBIC使用嵌入式机制来生成合成数据，该机制不修改训练数据集，而是改变算法以适应不平衡的数据集。因此，SBIC在不平衡分类中使用了两个主要思想流派的思想：像成本敏感方法一样，SBIC在算法层面上操作以处理不平衡结构;类似于合成数据生成方法，它利用了少数类中未观察到的数据点的属性。SBIC在不平衡数据集上的应用表明，它与其他常用的不平衡数据集分类技术相当，在某些情况下优于其他常用的分类技术。
2016-05-12 cs.LG stat.ML
Transfer Regression via Pairwise Similarity Regularization
University of California, Davis（加州大学戴维斯分校）
迁移学习方法解决了这样的情况，其中存在来自“目标”问题的很少的标记训练数据，但是来自相关“源”域的很多训练数据是可用的。然而，绝大多数迁移学习方法是针对简单设置设计的，其中源和目标预测函数几乎相同，限制了迁移学习方法对真实世界数据的适用性。我们提出了一种新的，较弱的，属性的源域，即使在源和目标预测函数发散时，也可以转移。我们的方法假设源函数和目标函数共享一个成对相似性属性，如果源函数对一对实例做出相似的预测，那么目标函数也会如此。我们提出了成对相似正则化转移，一个灵活的基于图的正则化框架，可以将这种建模假设纳入标准的监督学习算法。我们展示了用户如何将领域知识以空间连续性的形式编码到我们的正则化器中，成对的“相似性约束”以及我们的方法如何使用Nystrom近似扩展到大型数据集。最后，我们提出了积极的和消极的结果，真正的和合成数据集，并讨论当我们的成对相似性转移假设似乎在实践中举行。
2017-12-23 cs.LG
Enhancing Table Representations with LLM-powered Synthetic Data Generation
University of Delaware（特拉华大学）；Capital One（第一资本金融公司）
针对表格表示学习中数据质量不足的问题，提出利用LLM代码生成与数据操作能力构建合成数据流水线，生成大规模数据集以增强表格表示，并在表格推荐任务上验证了其有效性。
2024-11-04 cs.AI cs.LG
FEST: A Unified Framework for Evaluating Synthetic Tabular Data
Communication Systems Group CSG, Department of Informatics, University of Zurich UZH（信息学院通信系统组、苏黎世大学）
本文提出统一评估框架FEST，整合隐私、相似性和机器学习效用度量，以开源Python库形式系统评估合成表格数据的隐私-效用权衡。
2025-08-22 cs.LG
Similarity measure for sparse time course data based on Gaussian processes
Imperial College London（帝国理工学院）
我们提出了一个稀疏采样的时间过程数据的相似性度量的高斯过程（GP）的对数似然比的形式。所提出的GP相似性类似于贝叶斯因子，并且提供对稀疏时间序列中的噪声的增强的鲁棒性，诸如在各种生物设置中发现的那些，例如，基因转录组学我们表明，GP措施是等效的欧氏距离时，在GP的噪声方差是可以忽略不计的信号的噪声方差。我们的数值模拟实验的合成和真实的数据表明，改进的性能GP相似性结合使用时，两个基于距离的聚类方法。
2021-02-24 cs.IR cs.LG stat.ML
GraphDCA -- a Framework for Node Distribution Comparison in Real and Synthetic Graphs
KTH Royal Institute of Technology（皇家理工学院）；SEB Group（SEB集团）
我们认为，当比较两个图时，节点结构特征的分布比实践中经常使用的全局图统计信息更丰富，特别是用于评估图生成模型。因此，我们提出了GraphDCA -一个框架，用于评估图形之间的相似性的基础上对齐各自的节点表示集。集合比较使用最近提出的方法比较表示空间，称为Delaunay分量分析（DCA），我们扩展到图形数据。为了评估我们的框架，我们生成了一个具有不同结构模式的图的基准数据集，并使用三个节点结构特征提取器显示，GraphDCA识别具有相似和不相似局部结构的图。然后，我们应用我们的框架来评估三个公开的真实世界的图数据集，并证明，使用逐渐边缘扰动，GraphDCA令人满意地捕获逐渐减少的相似性，而不是全局统计。最后，我们使用GraphDCA来评估两个最先进的图生成模型，NetGAN和CELL，并得出结论，这些模型需要进一步改进，以充分再现局部结构特征。
2022-02-09 cs.AI cs.LG
Differentially Private Sketches for Jaccard Similarity Estimation
IT University of Copenhagen（哥本哈根信息技术大学）
本文描述了两个局部差分私有算法释放用户向量，使这些向量之间的Jaccard相似性可以有效地估计。基本构建块是众所周知的MinHash方法。为了实现隐私-效用权衡，MinHash使用广义随机响应和拉普拉斯机制的变体以两种方式进行扩展。理论分析提供了绝对误差的界限，实验显示了合成数据和真实数据的实用性-隐私权衡。本文最后对相关工作进行了批判性的讨论。
2020-08-18 cs.CR cs.IR cs.LG
Neural Dynamic Programming for Musical Self Similarity
CSIRO Data61（联邦科学与工业研究组织 Data61）；The Australian National University（澳大利亚国立大学）；Data to Decisions CRC（数据决策合作研究中心）
我们提出了一个专门为符号音乐设计的神经序列模型。该模型是基于一个学习编辑距离机制，概括了一个经典的递归从计算机科学，导致神经动态程序。通过学习它们之间的转换来检测重复的基序。我们表示所产生的计算依赖使用一种新的数据结构，编辑树，这种观点认为，自然的近似，提供我们的立方时间算法的规模。我们证明了我们的模型在真实和合成数据，在所有情况下，它优于一个强大的堆栈长短期记忆基准。
2018-08-29 cs.AI cs.LG
Synthetic Magnetic Resonance Images with Generative Adversarial Networks
数据增强对于医学研究至关重要，可以增加训练数据集的大小并获得更好的结果。在这项工作中，我们实验三个GAN架构不同的损失函数，以产生新的大脑MRI。结果表明，超参数调整的重要性，并使用小批量相似层的鉴别和梯度惩罚的损失函数，以实现高质量和现实的收敛。此外，需要大量的计算时间来从原始数据集生成无法区分的图像。
2020-01-17 cs.LG eess.IV stat.ML
Generating Data using Monte Carlo Dropout
West University of Timisoara（蒂米什瓦拉西部大学）；University of Ljubljana（卢布尔雅那大学）
对于许多分析问题来说，挑战在于处理大量可用数据。然而，存在收集信息困难且成本高的数据科学应用领域，例如，在许多此类情况下，具有与实际数据相同的统计和预测属性的合成数据生成器允许有效的模拟和工具及应用程序的开发。在这项工作中，我们提出了将蒙特卡罗辍学方法内的自动编码器（MCD-AE）和变分自动编码器（MCD-VAE）作为合成数据集的有效生成器。由于变分自动编码器（VAE）是最流行的生成器技术之一，我们探讨了它的相似性和差异所提出的方法。我们比较生成的数据集与原始数据的基础上的统计特性，结构相似性和预测相似性。结果表明，VAE，MCD-VAE和MCD-AE的结果之间有很强的相似性，但是，所提出的方法更快，可以生成类似于特定的初始实例的值。
2019-09-16 cs.LG stat.ML
Quantifying Data Similarity Using Cross Learning
GIDP University of Arizona（GIDP亚利桑那大学）
本文提出Cross-Learning Score，通过双向泛化性能衡量数据集相似性，结合几何解释和鲁棒集成估计器，扩展至深度学习架构，验证了其在数据相似性测量和迁移评估中的有效性。
2026-04-21 cs.LG stat.ML
Generative Models for Simulating Mobility Trajectories
UNIL-HEC Lausanne（洛桑大学高等商学院）；Columbia University（哥伦比亚大学）
移动数据集是评估地理信息系统算法和促进实验再现性的基础。但隐私问题限制了这些数据集的共享，因为即使是聚合的位置数据也容易受到成员推断攻击。当前的合成移动性数据集生成器试图表面上匹配先验建模的移动性特征，其不准确地反映真实世界的特征。因此，对人类移动性进行建模以生成合成的但在语义和统计上真实的轨迹对于发布具有令人满意的效用水平的轨迹数据集同时保护用户隐私是至关重要的。具体来说，人类移动性固有的长期依赖性很难用判别模型和生成模型来捕捉。在本文中，我们对递归神经架构（RNN），生成对抗网络（GANs）和非参数copula的性能进行了基准测试，以生成合成的移动性轨迹。我们评估生成的轨迹，其地理和语义相似性，昼夜节律，远程依赖性，训练和生成时间。我们还包括两个样本测试，以评估所观察到的和模拟的分布之间的统计相似性，我们分析的隐私权衡成员推断和位置序列攻击。
2018-11-30 cs.LG stat.ML
Sequential Models in the Synthetic Data Vault
MIT（麻省理工学院）；The Synthetic Data Vault team（合成数据库团队）
本文的目标是描述一个系统，用于生成合成序列数据内的合成数据保险库。为了实现这一点，我们提出了SDV中的Sequential模型，这是一个端到端框架，可以为多序列的真实世界数据构建生成模型。这包括一种新的基于神经网络的机器学习模型，条件概率自回归（CPAR）模型。整个系统和模型可在开源合成数据库（SDV）库{https：//github.com/sdv-dev/SDV}中找到，同时还有各种其他模型可满足不同的合成数据需求。在构建了Sequential SDV之后，我们使用它来生成合成数据，并将其质量与现有的基于非顺序生成对抗网络的模型CTGAN进行比较。为了将序列合成数据与其真实对应物进行比较，我们发明了一种称为多序列聚合相似性（MSAS）的新度量。我们使用它来得出结论，我们的顺序SDV模型比非顺序模型学习更高级别的模式，而无需在合成数据质量方面进行任何权衡。
2022-07-28 cs.LG cs.MS
Low-Rank Similarity Mining for Multimodal Dataset Distillation
Shanghai Jiao Tong University（上海交通大学）
本文提出低秩相似性挖掘（LoRS）方法，通过同时蒸馏图像-文本对和真实相似性矩阵并利用低秩分解，解决多模态数据集蒸馏中模态对应关系建模的难题，显著提升视觉-语言数据集蒸馏效果。
2024-06-06 cs.CV cs.LG
Benchmarking Synthetic Tabular Data: A Multi-Dimensional Evaluation Framework
MOSTLY AI
提出一个多维评估框架，通过基于留出集的基准测试策略，结合分布比较、嵌入相似性和最近邻度量，量化合成表格数据的分布保真度与隐私保护，支持可解释质量诊断与可重复性。
2025-04-02 cs.AI cs.LG
Really Useful Synthetic Data -- A Framework to Evaluate the Quality of Differentially Private Synthetic Data
Cardiff University（卡迪夫大学）；University of Mannheim（曼海姆大学）
最近在生成合成数据方面取得的进展，允许增加保护隐私的原则性方法-如差别隐私-是以保护隐私的方式分享统计信息的关键一步。但是，虽然重点一直放在隐私保障上，但由此产生的私人合成数据只有在仍然包含原始数据的统计信息时才有用。为了进一步优化数据隐私和数据质量之间的内在权衡，有必要仔细考虑后者。数据分析师想要什么？承认数据质量是一个主观的概念，我们开发了一个框架来评估质量的差异私人合成数据从应用研究人员的角度来看。数据质量可以从两个维度来衡量。首先，合成数据的质量可以根据训练数据或基础人群进行评估。其次，合成数据的质量取决于分布的一般相似性或特定任务，如推理或预测。显然，同时兼顾所有目标是一项艰巨的挑战。我们邀请学术界共同推进隐私质量前沿。
2021-10-01 cs.LG stat.ML
Learning and Generating Diverse Residential Load Patterns Using GAN with Weakly-Supervised Training and Weight Selection
Department of Data Science and AI, Faculty of Information Technology and Monash Energy Institute, Monash University（数据科学与人工智能系，信息科技学院和莫纳什能源研究所，莫纳什大学）
针对住宅负荷数据稀缺问题，提出RLP-GAN弱监督GAN框架，结合过完备自编码器和权重选择生成多样负荷模式，在417户真实数据上优于现有模型，并发布百万级合成数据集。
2025-04-25 cs.AI cs.LG
Active Ordinal Querying for Tuplewise Similarity Learning
School of Electrical and Computer Engineering（电气与计算机工程学院）；School of Interactive Computing（交互计算学院）；Georgia Institute of Technology（佐治亚理工学院）
许多机器学习任务，如聚类、分类和数据集搜索，都受益于将数据点嵌入到距离反映人类感知的相对相似性概念的空间中。构造这种嵌入的常见方式是向oracle请求三元组相似性查询，将两个对象相对于引用进行比较。这项工作将三元组查询推广到任意大小的元组查询，要求Oracle对多个对象进行引用排名，并引入了一种高效且强大的自适应选择方法InfoTuple，该方法使用一种新的方法来实现互信息最大化。我们表明，InfoTuple在各种元组大小下的性能超过了最先进的自适应三元组选择方法在合成测试和新的人类响应数据集上的性能，并根据经验证明了通过查询更大的元组而不是三元组来实现效率和查询一致性的显着提高。
2019-11-22 cs.LG stat.ML
Evaluation of the Synthetic Electronic Health Records
Imperial College London（伦敦帝国学院）；Accenture Labs（埃森哲实验室）
生成式模型由于能够捕获复杂的底层数据分布而被发现对于数据合成是有效的。从这些模型生成的数据的质量通常通过对图像数据集的目视检查或对表格数据集的下游分析任务来评估。这些评估方法既没有测量隐含的数据分布，也没有考虑数据隐私问题，如何比较和排名不同的生成模型仍然是一个悬而未决的问题。医疗数据可能是敏感的，因此在保持合成数据集的数据效用的同时引起患者的隐私关注是非常重要的。除了效用评估之外，这项工作还概述了两个称为相似性和一致性的指标，用于对合成数据集进行样本评估。我们用几种最先进的生成模型来合成囊性纤维化（CF）患者的电子健康记录（EHR），证明了所提出的概念，观察到所提出的指标适用于合成数据评估和生成模型比较。
2022-10-16 cs.AI cs.LG
A Comparative Study of Open-Source Libraries for Synthetic Tabular Data Generation: SDV vs. SynthCity
Cristian Del Gobbo（独立研究者）
本研究比较了SDV和Synthicity库中六种合成表格数据生成器，在低数据场景下评估统计相似性和预测效用，发现贝叶斯网络保真度最高，TVAE预测最佳，SDV更易用。
2025-06-21 cs.AI cs.LG
The DCR Delusion: Measuring the Privacy Risk of Synthetic Data
Imperial College London（伦敦帝国学院）；University College London（伦敦大学学院）；SAS（SAS公司）
本文证明 DCR 等基于距离的合成数据隐私代理指标无法识别成员推理攻击风险，并通过多数据集、多模型实验揭示其系统性失效，呼吁以成员推理攻击作为严格评估标准。
2025-05-02 cs.AI cs.CR cs.LG
Synthetic Patient-Physician Dialogue Generation from Clinical Notes Using LLM
针对医疗对话系统训练数据受隐私限制难以获取的问题，提出SynDial方法，通过带反馈循环的大语言模型零样本迭代从临床病历生成合成医患对话，在事实性上优于基线且多样性与GPT-4相当。
2024-08-12 cs.AI cs.CL cs.LG
SEAnet: A Deep Learning Architecture for Data Series Similarity Search
LIPADE, Université Paris Cité（巴黎西岱大学LIPADE实验室）
本文提出SEAnet，一种基于深度神经网络的新型架构，用于改进数据序列相似性搜索任务，通过引入平方和保留属性和改进的采样策略提升性能。
2026-04-02 cs.DB cs.LG
An Infinite Hidden Markov Model With Similarity-Biased Transitions
Oberlin College（欧柏林学院）；The University of Arizona（亚利桑那大学）
我们描述了一个泛化的层次狄利克雷过程隐马尔可夫模型（HDP-HMM），它能够编码的先验信息，状态转换更可能是“附近”的状态之间。这是通过在状态空间上定义相似性函数并通过逐对相似性缩放转移概率来实现的，从而诱导转移分布之间的相关性。我们提出了一个增强的数据表示的模型作为马尔可夫跳跃过程中：（1）一些跳跃尝试失败，（2）成功的概率是成比例的源和目的地状态之间的相似性。这种增强恢复条件共轭，并承认一个简单的吉布斯采样器。我们评估的模型和推理方法的扬声器日记任务和“谐波解析”任务，使用四部分合唱数据，以及在几个合成数据集，实现有利的比较现有的模型。
2017-07-21 cs.AI cs.LG stat.ME
SPINEX: Similarity-based Predictions and Explainable Neighbors Exploration for Regression and Classification Tasks in Machine Learning
Clemson University（克莱姆森大学）；University of Guelph（圭尔夫大学）
本文提出了一种新颖的基于相似性的可解释邻居探索算法SPINEX，通过结合集成学习与特征交互分析量化特征贡献，在59个数据集上表现出优于或可比的性能，有效解决了高维和不平衡数据的可解释性问题。
2023-06-01 cs.LG stat.AP
DNN-based Speaker Embedding Using Subjective Inter-speaker Similarity for Multi-speaker Modeling in Speech Synthesis
The University of Tokyo（东京大学）
本文提出了一种基于深度神经网络（DNN）的主观说话人间相似性的说话人嵌入新算法。尽管诸如$d$向量的常规的基于DNN的说话者嵌入可以应用于语音合成中的多说话者建模，但是它与主观说话者间相似性不相关，并且对于其语音话语不包括在训练数据中的开放式说话者来说不一定是适当的说话者表示。我们使用通过大规模主观评分获得的说话人间相似性矩阵，提出了两种基于DNN的说话人嵌入模型的训练算法。一种是基于相似向量嵌入，训练模型预测相似矩阵的向量作为说话人表示。另一种是基于相似矩阵嵌入，训练模型使相似矩阵与$d$ -向量的Gram矩阵之间的Frobenius范数平方最小，即，从$d$向量导出的说话者间相似性。我们众包了153名日本女性说话人的说话人间相似性得分，实验结果表明，我们的算法学习的说话人嵌入与主观相似性高度相关。我们还将所提出的说话人嵌入应用于基于DNN的语音合成中的多说话人建模，并揭示了所提出的相似性向量嵌入提高了开放式说话人的合成语音质量，其语音话语在训练过程中是不可见的。
2019-07-19 cs.LG cs.SD eess.AS
Synthetic Data Generation for Residential Load Patterns via Recurrent GAN and Ensemble Method
Monash University（莫纳什大学）
本文提出集成循环生成对抗网络ERGAN，通过集成多个循环GAN并结合对抗损失与统计差异损失，生成高保真、多样化的住宅负荷合成数据，并在多项指标上优于现有基准。
2024-10-20 cs.AI cs.LG
Graph Similarity Description: How Are These Graphs Similar?
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
不同平台的社交网络有何不同？信息网络如何随时间变化？像这样的问题需要我们比较两个或更多的图表。这项任务通常被视为一个测量问题，但数值答案提供了有限的见解。在这里，我们认为，如果目标是获得理解，我们应该把图相似性评估作为一个描述问题。我们将这个问题形式化为一个模型选择任务，使用最小描述长度原则，捕捉一个共同的模型中的输入图的相似性和它们之间的差异，在转换到个别模型。为了发现好的模型，我们提出了Momo，它将问题分为两个部分，并为每个部分引入了有效的算法。通过对各种合成和真实世界的图形进行广泛的实验，我们确认Momo在实践中运行良好。
2021-05-29 cs.IT cs.LG cs.SI
K-sets+: a Linear-time Clustering Algorithm for Data Points with a Sparse Similarity Measure
Institute of Communications Engineering（通信工程研究所）；National Tsing Hua University（国立清华大学）
在本文中，我们首先提出了一个新的迭代算法，称为K-sets+算法的聚类数据点在半度量空间，其中的距离测量不一定满足三角不等式。我们表明，K-集+算法收敛在一个有限的迭代次数，它保留了相同的性能保证的K-集算法聚类数据点在度量空间。然后，我们扩展的K-集+算法的适用性，从数据点在半度量空间的数据点，只有一个对称的相似性度量。这样的扩展导致计算复杂性的极大降低。特别地，对于一个n × n的相似矩阵，矩阵中有m个非零元素，K-sets+算法的计算复杂性为O（（Kn + m）I），其中I是迭代次数。实现该计算复杂性的内存复杂度为O（Kn + m）。因此，当n * n相似性矩阵稀疏时，计算复杂性和存储器复杂性都是n线性的，即，时间复杂度为O（n）。我们还进行了各种实验，通过使用来自随机块模型的合成数据集和来自WonderNetwork网站的真实网络来显示K-sets+算法的有效性。
2017-05-11 cs.DS cs.LG
CUR Decompositions, Similarity Matrices, and Subspace Clustering
本文提出了一种利用CUR分解解决子空间聚类问题的通用框架，通过构造相似矩阵实现无噪声情况下的精确聚类，并展示了如何通过CUR分解生成多种相似矩阵以处理噪声数据，同时推导出两种已知的子空间聚类方法。
2018-12-11 cs.CV cs.LG cs.NA
Data-driven discovery of self-similarity using neural networks
Kyoto University（京都大学）；Osaka University（大阪大学）；Yukawa Institute for Theoretical Physics, Kyoto University（京都大学汤川理论物理研究所）；Okinawa Institute of Science and Technology (OIST)（冲绳科学技术大学院大学）
本文提出一种无需预设模型的神经网络方法，通过参数化强制幂律结构直接从观测数据中发现自相似性并提取尺度变换对称性的幂指数，在合成与实验数据上验证了其作为模型无关工具的有效性。
2025-02-04 cond-mat.soft cond-mat.stat-mech cs.LG
Relative Hausdorff Distance for Network Analysis
Pacific Northwest National Laboratory（太平洋西北国家实验室）
相似性度量在机器学习和数据科学算法中被广泛使用。新提出的图相对豪斯多夫（RH）距离是一种轻量级但细致入微的相似性度量，用于量化两个图的接近程度。在这项工作中，我们研究的有效性RH距离作为一种工具，用于检测异常的时间演化图序列。我们将RH应用于具有给定红队事件的网络数据，以及具有种植攻击的合成生成的图序列。在我们的实验中，RH距离的性能有时与图形编辑距离在检测异常现象方面相当，有时甚至更好。我们的研究结果表明，在适当的情况下，RH距离具有优势，计算密集的相似性措施。
2019-06-12 cs.DM cs.LG cs.SI
Spritz-PS: Validation of Synthetic Face Images Using a Large Dataset of Printed Documents
Bahcesehir University（巴赫切谢希尔大学）；University of Padua（帕多瓦大学）
本文针对打印和扫描场景下合成人脸难以取证的问题，构建了VIPPrint PS虹膜数据集，并使用孪生神经网络评估真实与合成虹膜的相似度。
2023-04-06 cs.AI cs.CR cs.CV
Interleaved Composite Quantization for High-Dimensional Similarity Search
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
相似性搜索从高维向量的数据集中检索查询向量的最近邻居。随着数据集大小的增长，执行实现查询所需的距离计算的成本可能变得过高。通常用于减少这种计算成本的方法是向量空间的量化和数据集向量的基于位置的编码。这些编码可以在查询处理期间使用，以快速找到查询点的近似最近邻。通过使用较短的码可以提高搜索速度，但是较短的码具有较高的量化误差，导致精度降低。在这项工作中，我们提出了交错复合量化（ICQ），实现快速相似性搜索，而不使用较短的代码。在ICQ中，代码的一个小子集用于近似距离，只有在必要时才使用完整的代码。我们的方法有效地减少了码长和量化误差。此外，ICQ与最近提出的几种用于减少量化误差的技术兼容，并且可以与这些其他技术结合使用以改善结果。我们证实了这些说法，并使用几个合成和真实的数据集显示ICQ强大的实证性能。
2019-12-19 cs.IR cs.LG stat.ML
VoloGAN: Adversarial Domain Adaptation for Synthetic Depth Data
UNED - Universidad Nacional de Educación a Distancia（西班牙国立远程教育大学）；Volograms Ltd.（Volograms有限公司）
我们提出了VoloGAN，这是一种对抗性的领域自适应网络，它将一个人的高质量3D模型的合成RGB-D图像转换为可以用消费者深度传感器生成的RGB-D图像。该系统特别适用于为复制真实世界捕获条件的单视图3D重建算法生成大量训练数据，能够模仿不同传感器类型的风格，用于相同的高端3D模型数据库。该网络使用CycleGAN框架，其中生成器采用U-Net架构，并采用SIV-GAN启发的CycleGAN。我们使用不同的优化器和学习率调度来训练生成器和学习器。我们进一步构建了一个损失函数，认为图像通道单独和，除其他指标，评估结构相似性。我们证明了CycleGANs可用于应用合成3D数据的对抗领域自适应来训练只有很少训练样本的体积视频生成器模型。
2022-07-19 cs.CV cs.LG eess.IV
A similarity-based Bayesian mixture-of-experts model
KTH Royal Institute of Technology（瑞典皇家理工学院）；RaySearch Laboratories（瑞镭实验室）；Silo AI（Silo AI（西洛人工智能公司））
我们提出了一个新的非参数混合专家模型的多元回归问题，启发的概率k-近邻算法。使用条件指定的模型，对样本外输入的预测基于与每个观察到的数据点的相似性，产生由高斯混合表示的预测分布。后验推理的混合物成分的参数，以及使用平均场变分贝叶斯算法伴随着随机梯度为基础的优化过程的距离度量。所提出的方法是特别有利的设置，其中输入是相对较高的维度相比，数据的大小，其中输入-输出关系是复杂的，并且其中预测分布可能是偏斜的或多模态的。对五个数据集的计算研究，其中两个是综合生成的，说明了我们的混合专家方法对高维输入的明显优势，在验证指标和目视检查方面都优于竞争对手的模型。
2022-08-03 cs.LG stat.ME stat.ML
Natural data structure extracted from neighborhood-similarity graphs
Institute of Neuroinformatics, University of Zurich and ETH Zurich（苏黎世大学与苏黎世联邦理工学院神经信息学研究所）；Institute for Computational Science, University of Zurich（苏黎世大学计算科学研究所）
“大”高维数据通常在低维中分析，在执行固有地扭曲数据结构的降维步骤之后。出于同样的目的，聚类方法也经常使用。这些方法也引入了偏差，无论是从一个特定的几何形状的集群的假设开始，或通过使用迭代计划，以提高集群轮廓，具有不可控制的后果。然而，数据分析的目标应该是同时在所有尺度和密度下编码和检测结构数据特征，而不假设数据点距离的参数形式或修改它们。我们提出了一种新的方法，直接编码数据点邻域相似性作为一个稀疏图。我们的非迭代框架允许对数据进行透明的解释，而不会改变原始数据的维度和度量。几个自然和合成数据的应用程序证明了我们的新方法的有效性。
2018-02-15 cond-mat.dis-nn cs.CV cs.LG
