Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling
Durham University（杜伦大学）
无监督领域自适应的目的是解决分类问题的未标记的样本从目标域，而标记的样本只能从源域和数据分布在这两个领域是不同的。因此，当直接应用于来自目标域的样本时，从源域中的标记样本训练的分类器遭受显著的性能下降。为了解决这个问题，已经提出了不同的方法来学习域不变特征或域特定分类器。在任何一种情况下，目标域中缺少标记的样本可能是一个问题，通常通过伪标记来克服。然而，不准确的伪标记可能会导致学习过程中灾难性的错误积累。在本文中，我们提出了一种新的基于结构化预测的选择性伪标记策略。结构化预测的想法受到以下事实的启发：目标域中的样本在深度特征空间内被很好地聚类，使得可以使用无监督聚类分析来促进准确的伪标记。在四个数据集（即EST-Caltech，EST 31，ImageCLEF-DA和EST-Home）上的实验结果验证了我们的方法优于当代最先进的方法。
2019-11-18 cs.CV cs.LG cs.MM
Manifold regularization in structured output space for semi-supervised structured output prediction
Shanghai University（上海大学）；Tongji University（同济大学）；The 3rd Research Institute of Ministry of Public Security（公安部第三研究所）；Kansas State University（堪萨斯州立大学）
结构化输出预测旨在学习预测器以从输入数据向量预测结构化输出。结构化输出包括向量、树、序列等。我们通常假设我们有一个输入输出对的训练集来训练预测器。然而，在许多现实世界的应用中，很难获得输入的输出，因此对于许多训练输入数据点，结构化输出丢失。本文讨论了如何从一个由若干输入输出对和若干无输出的输入数据点组成的训练集中进行学习。这个问题被称为半监督结构化输出预测.针对这一问题，我们提出了一种新的方法，即从输入空间构造一个最近邻图来表示流形结构，并直接用它来正则化结构化的输出空间。我们为每个训练数据点定义了一个松弛的结构化输出，并提出通过学习结构化输出预测器来预测它。松弛结构输出和预测器的学习统一在一个单一的最小化问题。在这个问题中，我们建议最小化相邻数据点的松弛结构化输出之间的结构化损失，以及由结构化损失度量的预测误差。该问题是优化的迭代算法。在三个基准数据集上的实验结果表明了该方法的优越性。
2015-08-12 cs.CV cs.LG
Deep Structured Prediction for Facial Landmark Detection
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）
现有的基于深度学习的人脸特征点检测方法已经取得了优异的性能。然而，这些方法没有明确地嵌入界标点之间的结构依赖性。因此，它们不能保持界标点之间的几何关系，也不能很好地推广到具有挑战性的条件或看不见的数据。提出了一种基于深度卷积网络和条件随机场相结合的深度结构化人脸特征点检测方法。我们证明了其优越的性能，现有的国家的最先进的技术在面部标志检测，特别是更好的泛化能力，具有挑战性的数据集，包括大的姿态和遮挡。
2020-10-18 cs.CV cs.LG
Resource Constrained Structured Prediction
Boston University（波士顿大学）；Microsoft Research（微软研究院）
研究了测试时间预算约束下的结构化预测问题。我们提出了一种新的方法，适用于计算机视觉和自然语言处理中的各种结构化预测问题。我们的方法旨在自适应地生成计算成本高的功能，在测试时，以减少预测的计算成本，同时保持预测性能。我们表明，训练的自适应功能生成系统可以减少到一系列的结构化学习问题，从而有效的训练，使用现有的结构化学习算法。这个框架提供了一些现有的启发式方法在文献中发现的理论依据。我们评估了我们提出的自适应系统的两个结构化预测任务，光学字符识别（OCR）和依赖解析，并显示出强大的性能，在降低功能成本，而不降低精度。
2016-06-08 cs.CL cs.CV cs.LG
CrunchLLM: Multitask LLMs for Structured Business Reasoning and Outcome Prediction
Department of Computer Science University of Kentucky（计算机科学系 俄亥俄大学）；Department of Computer Science, Institute for Biomedical Informatics University of Kentucky（计算机科学系 生物医学信息学研究所 俄亥俄大学）
提出CrunchLLM框架，通过融合结构化与非结构化数据并采用参数高效微调与提示优化，在Crunchbase初创企业成功预测中准确率超80%，并提供可解释的推理轨迹以增强决策透明度。
2025-10-11 cs.CV cs.LG
Predict and Constrain: Modeling Cardinality in Deep Structured Prediction
许多机器学习问题需要多维标签的预测。这种结构化预测模型可以受益于对标签之间的依赖性进行建模。最近，已经提出了几种用于结构化预测的深度学习方法。在这里，我们专注于捕捉这种模型中的基数约束。也就是说，限制模型输出的非零标签的数量。这种约束在以前的结构化预测方法中已经证明是非常有用的，但是将它们引入到深度学习框架中是一个挑战。在这里，我们将展示如何通过一个新颖的深层架构来实现这一点。我们的方法优于强大的基线，在多标签分类基准上实现了最先进的结果。
2018-02-13 cs.LG
Approximated Structured Prediction for Learning Large Scale Graphical Models
TTI Chicago（芝加哥丰田技术研究院）
本文给出了“近似大规模结构预测的原始-对偶消息传递算法”的证明。
2012-07-09 cs.AI cs.LG
Towards Structured Prediction in Bioinformatics with Deep Learning
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
使用机器学习，尤其是深度学习，来促进生物学研究是一个令人着迷的研究方向。然而，除了标准的分类或回归问题，在生物信息学中，我们经常需要预测更复杂的结构化目标，如2D图像和3D分子结构。上述复杂预测任务被称为结构化预测。结构化预测比传统的分类方法更复杂，但由于生物信息学问题的输出对象复杂，因此结构化预测具有更广泛的应用前景。由于这些结构化预测问题的特性，例如在标签空间内具有特定于问题的约束和依赖性，直接应用现有的深度学习模型可能会导致不满意的结果。在这里，我们认为以下想法可以帮助解决生物信息学中的结构化预测问题。首先，我们可以将深度学习与其他经典算法相结合，例如概率图模型，它明确地对问题结构进行建模。其次，我们可以通过显式或隐式地考虑结构化标签空间和问题约束来设计特定于问题的深度学习架构或方法。我们从四个生物信息学子领域，包括测序分析，结构预测，功能注释和网络分析的六个项目来展示我们的想法。结构化输出涵盖1D信号、2D图像、3D结构、分层标记和异构网络。借助上述思想，我们的方法在相应的问题上都能达到SOTA性能。这些项目的成功促使我们将工作扩大到其他更具挑战性但也很重要的问题，例如保健问题，因为这些问题可以直接造福于人民的健康和福祉。
2020-08-25 cs.CV cs.LG q-bio.QM
Structured Prediction using cGANs with Fusion Discriminator
Johns Hopkins University（约翰斯·霍普金斯大学）；University of New Hampshire（新罕布什尔大学）
我们提出了融合神经网络，一个单一的统一框架，用于将条件信息纳入生成对抗网络（GAN），用于各种不同的结构化预测任务，包括图像合成，语义分割和深度估计。很像常用的卷积神经网络-条件马尔可夫随机场（CNN-CRF）模型，所提出的方法是能够加强高阶一致性的模型，但不限于一个非常特定的一类潜力。该方法在概念上是简单和灵活的，我们的实验结果表明几个不同的结构化预测任务的改进。
2019-04-30 cs.CV cs.LG eess.IV
Monash University, UEA, UCR Time Series Extrinsic Regression Archive
Monash University（莫纳什大学）；University of East Anglia（东英吉利大学）；University of California Riverside（加州大学河滨分校）
时间序列的研究在过去的十年里引起了人们的广泛兴趣，特别是时间序列分类（TSC）和时间序列预测（TSF）。TSC的研究极大地受益于加州大学河滨分校和东安格利亚大学（UCR/UEA）的时间序列档案。另一方面，时间序列预测的进步依赖于时间序列预测竞赛，如Makridakis竞赛、NN 3和NN 5神经网络竞赛以及一些Kaggle竞赛。每年，成千上万的论文提出了新的算法TSC和TSF利用这些基准档案。这些算法是针对这些特定问题而设计的，但是对于诸如使用光电容积描记图（PPG）和加速度计数据来预测人的心率的任务可能没有用。我们将此问题称为时间序列外回归（TSER），其中我们感兴趣的是从单变量或多变量时间序列预测单个连续值的更一般的方法。该预测可以来自相同的时间序列或与预测器时间序列不直接相关，并且不一定需要是未来值或严重依赖于最近值。据我们所知，研究到TSER已经收到的关注少得多，在时间序列研究界，并没有开发一般的时间序列外在回归问题的模型。大多数模型都是针对特定问题开发的。因此，我们的目标是通过引入第一个TSER基准档案来激励和支持TSER的研究。这个档案包含来自不同领域的19个数据集，具有不同的维度数量，不等长的维度和缺失值。在本文中，我们介绍了这个档案中的数据集，并对现有模型进行了初步的基准测试。
2020-10-20 cs.LG stat.ML
Efficient Decomposed Learning for Structured Prediction
结构化预测是若干机器学习应用的基石。不幸的是，在具有表达性变量间相互作用的结构化预测设置中，基于精确推理的学习算法（例如，结构SVM）通常是难以处理的。我们提出了一种新的方法，分解学习（DecL），它通过将推理步骤限制在结构化空间的有限部分来进行有效的学习。我们提供了基于结构，目标参数和黄金标签的特征，在此基础上，DecL等同于精确学习。然后，我们表明，在现实世界中，我们的理论假设可能不完全成立，基于DecL的算法是更有效的，准确的精确学习。
2012-06-18 cs.LG
SpeedMachines: Anytime Structured Prediction
Carnegie Mellon University（卡内基梅隆大学）
结构化预测在从计算生物学到计算机视觉的机器学习应用中起着核心作用。这些模型比非结构化模型需要更多的计算，并且在许多应用中，算法可能需要在计算预算内或以随时方式进行预测。在这项工作中，我们提出了一种随时学习结构化预测的技术，在训练时，结合了结构元素和影响测试时推理的特征计算权衡。我们将我们的技术应用于计算机视觉中的场景理解的挑战性问题，并展示了有效的和随时的预测，随着分配的时间的增加，逐渐提高到最先进的分类性能。
2013-12-02 cs.LG
Learning Discriminators as Energy Networks in Adversarial Learning
University of Technology Sydney（悉尼科技大学）；University of Iowa（爱荷华大学）
我们提出了一个通过对抗学习进行结构化预测的新框架。现有的对抗学习方法涉及两个独立的网络，即，结构化预测模型和判别模型。判别模型所捕获的信息是对结构化预测模型的补充，但目前很少有研究利用这些信息在推理阶段改进结构化预测模型。在这项工作中，我们建议通过有效地将判别模型集成到预测中来改进结构化预测模型的预测。判别模型被视为基于能量的模型。与对抗性学习类似，区分性模型被训练来估计衡量预测输出质量的分数，而结构化预测模型被训练来预测具有最大能量分数的对比输出。通过这种方式，梯度消失问题得到了改善，因此我们能够通过遵循判别模型的上升梯度方向来进行推理，以改进结构化预测模型。所提出的方法能够处理一系列任务，例如，多标签分类和图像分割。这两个任务的实验结果验证了我们的学习方法的有效性。
2018-10-02 cs.CR cs.CV cs.LG
Adversarial Constraint Learning for Structured Prediction
Department of Computer Science, Stanford University（斯坦福大学计算机科学系）
基于约束的学习通过让用户指定结构化输出的一般属性（例如物理定律施加的约束）来减少收集标签的负担。我们提出了一个新的框架，同时学习这些约束条件，并使用它们进行监督，绕过使用领域的专业知识手动指定约束的困难。学习需要结构化输出的黑盒模拟器，它会生成有效的标签，但不需要对其相应的输入或输入-标签关系进行建模。在训练时，我们限制模型产生无法通过对抗训练与模拟标签区分的输出。为我们的框架提供少量的标记输入，产生了一个新的半监督结构化预测模型;我们在多个任务上评估了这个模型-跟踪，姿态估计和时间序列预测-并发现它只需要少量的标记输入就可以实现高精度。在某些情况下，根本不需要标签。
2018-05-31 cs.CV cs.LG stat.ML
Unsupervised Search-based Structured Prediction
University of Utah（犹他大学）
我们描述了一个适应和应用的搜索为基础的结构化预测算法“Searn”的无监督学习问题。我们表明，这是可能的，以减少无监督学习的监督学习，并展示了一个高品质的无监督移位-减少解析模型。我们还展示了无监督Searn和期望最大化之间的密切联系。最后，我们证明了半监督扩展的有效性。实现这一点的关键思想是预测自我思想在无监督学习中的应用。
2009-06-28 cs.LG
Belief Propagation in Conditional RBMs for Structured Prediction
UC Irvine（加州大学欧文分校）
限制玻尔兹曼机（RBM）和条件玻尔兹曼机（CRBM）是有着广泛应用的流行模型。在以前的工作中，这类模型的学习一直由对比发散CD及其变体主导。置信传播~（BP）算法被认为对于条件RBM ~（例如，Mnih等人[2011]），并且在应用于学习时不如CD ~（例如，Larochelle等人[2012]）。在这项工作中，我们提出了一个基于矩阵的CRBM，这是很容易扩展到数以万计的可见和隐藏的单位的信念传播算法的实现。我们证明，在最大似然和最大利润率学习，训练条件RBM与BP作为推理例程可以提供显着更好的结果比目前最先进的CD方法结构化预测问题。我们还包括训练CRBM与BP的实用指南，和CRBM的学习和推理算法的相互作用的一些见解。
2017-03-02 cs.CV cs.LG stat.ML
Semi-supervised structured output prediction by local linear regression and sub-gradient descent
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Vanderbilt University（范德堡大学）；Suning Commerce R&D Center USA, Inc（苏宁美国研发中心）；Beijing Jiaotong University（北京交通大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）；National Time Service Center, Chinese Academy of Sciences（中国科学院国家授时中心）；Graduate University of Chinese Academy of Sciences（中国科学院研究生院）
提出了一种基于局部线性回归的半监督结构化输出预测方法。现有的半监督结构化输出预测方法针对数据集中的所有数据点学习一个全局预测器，忽略了数据集局部分布的差异及其对结构化输出预测的影响。为了解决这个问题，我们提出了共同学习缺失的结构化输出和不同数据点邻域的局部预测。使用局部线性回归策略，在每个数据点的邻域中，我们建议通过最小化预测器的复杂性和结构化预测损失的上界来学习局部线性预测器。最小化问题是解决子梯度下降算法。我们在两个基准数据集上进行了实验，结果表明了所提出的方法的优点。
2016-08-16 cs.LG
Conformal Structured Prediction
University of Pennsylvania（宾夕法尼亚大学）
本文提出结构化预测场景下的共形预测通用框架，通过输出隐式表示标签集合的结构化预测集合，解决复杂输出中预测集过大且难以解释的问题，并在层级标签等领域验证了其覆盖保证。
2025-03-09 cs.LG
Manifold Structured Prediction
INRIA（法国国家信息与自动化研究所）；Ecole Normale Supérieure - PSL Research University（巴黎高等师范学院-巴黎文理研究大学）；University College London（伦敦大学学院）；Istituto Italiano di Tecnologia（意大利技术研究院）；Massachusetts Institute of Technology（麻省理工学院）；Universitá degli Studi di Genova（热那亚大学）
结构化预测提供了一个通用的框架来处理有监督的问题，其中输出具有丰富的语义结构。虽然经典的方法考虑有限的，虽然潜在的巨大的，输出空间，在本文中，我们讨论如何结构化预测可以扩展到一个连续的场景。具体来说，我们研究了一种结构化的预测方法，多值回归。我们描述了一类问题，所考虑的方法是统计上一致的，并研究如何几何优化可以用来计算相应的估计。在模拟和真实数据上的有希望的实验结果完成了我们的研究。
2018-06-26 cs.LG stat.ML
Mapping Images to Scene Graphs with Permutation-Invariant Structured Prediction
Tel Aviv University（特拉维夫大学）；Bar-Ilan University（巴伊兰大学）；NVIDIA Research（英伟达研究院）；AI2（艾伦人工智能研究所）
复杂图像的机器理解是人工智能的一个关键目标。这项任务的一个挑战是，视觉场景包含多个相互关联的对象，全局上下文在解释场景中起着重要的作用。用于捕获这种效果的自然建模框架是结构化预测，它优化了复杂的标签，同时对标签内的交互进行建模。然而，目前还不清楚应该用什么原则来指导利用深度学习组件的结构化预测模型的设计。在这里，我们提出了一个设计原则，这样的架构，从一个自然的要求排列不变性。我们证明了一个必要的和充分的表征架构，遵循这种不变性，并讨论其对模型设计的影响。最后，我们证明了所得到的模型在Visual Genome场景图标记基准测试中取得了新的最先进的结果，优于所有最近的方法。
2018-11-01 cs.CV cs.LG stat.ML
Search-based Structured Prediction
University of Utah（犹他大学）；Yahoo! Research Labs（雅虎研究院）；Information Sciences Institute（信息科学研究所）
我们提出了Searn，一种集成搜索和学习的算法，用于解决复杂的结构化预测问题，例如自然语言、语音、计算生物学和视觉中的问题。Searn是一个元算法，它将这些复杂的问题转化为简单的分类问题，任何二元分类器都可以应用于这些问题。与当前的结构化学习算法需要在预测结构上分解损失函数和特征函数不同，Searn能够学习任何损失函数和任何类别特征的预测函数。此外，Searn还提供了一个强大的、自然的理论保证：在派生分类问题上的良好性能意味着在结构化预测问题上的良好性能。
2009-07-04 cs.CL cs.LG
IllinoisSL: A JAVA Library for Structured Prediction
Microsoft Research New England（微软新英格兰研究院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）；University of Utah（犹他大学）
IllinoisSL是一个用于学习结构化预测模型的Java库。它支持结构化支持向量机和结构化感知器。该库由一个核心学习模块和几个应用程序组成，可以从命令行执行。提供文档以指导用户。与其他结构化学习库相比，IllinoisSL具有高效、通用和易于使用的特点。
2015-09-23 cs.CL cs.LG stat.ML
On the inconsistency of separable losses for structured prediction
Universite Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；LISN（LISN实验室）
在本文中，我们证明了结构化预测的可分离负对数似然损失不一定是贝叶斯一致的，或者换句话说，最小化这些损失可能不会导致模型预测给定输入的数据分布中最可能的结构。这一事实引发了一个问题，即这些损失是否适合结构化预测，如果是的话，为什么。
2023-01-25 cs.CL cs.LG stat.ML
A Hybrid Loss for Multiclass and Structured Prediction
The University of Adelaide（阿德莱德大学）；The Australian National University（澳大利亚国立大学）；NICTA
我们提出了一种新的混合损失的多类和结构化的预测问题，这是一个凸组合的日志损失的条件随机场（CRF）和多类铰链损失的支持向量机（SVM）。我们提供了一个充分条件时，混合损失是Fisher一致的分类。这个条件取决于标签之间的优势度量-具体来说，最佳标签和第二佳标签的概率之间的差距。我们还证明了Fisher一致性是必要的参数一致性时，学习模型，如CRF。我们的经验表明，混合损失通常执行最少以及-往往优于-它的组成损失的各种任务，如人类行为识别。在这样做的时候，我们还提供了一个实证比较的概率和利润率为基础的方法，多类和结构化预测的功效。
2014-02-09 cs.AI cs.CV cs.LG
Risk Minimization in Structured Prediction using Orbit Loss
Bar-Ilan University（巴伊兰大学）
在结构化预报框架中引入了一种新的替代损失函数轨道损失，具有良好的理论和实用价值。虽然轨道损失不是凸的，但它有一个简单的分析梯度和一个简单的类似感知器的学习规则。我们从理论上分析了新的损失和状态的PAC贝叶斯推广界。我们还证明了新的损失在强意义上是一致的;即，由训练参数集实现的风险接近任何线性解码器在给定特征上可实现的下确界风险。针对风险最小化的方法，例如结构化斜坡损失、结构化概率单位损失和直接损失最小化，每个训练迭代需要至少两个推理操作。从这个意义上说，轨道损失更有效，因为它只需要一个推理操作，同时产生类似的性能。最后，我们提出的损失函数的结构铰链损失，结构斜坡损失，结构概率损失和直接损失最小化方法的几个基准数据集和任务的实证比较的文件。
2015-12-09 cs.LG
Learning Output Embeddings in Structured Prediction
LTCI, Télécom Paris, IP Paris（LTCI，巴黎电信，巴黎理工学院）；INRIA - Département d’Informatique de l’ENS, PSL（法国国家信息与自动化研究所 - 巴黎高等师范学院计算机系，巴黎文理研究大学）；INRAE, MIAT, Université de Toulouse（法国国家农业食品与环境研究院，图卢兹大学）；Department of Computer Science, Aalto University（阿尔托大学计算机科学系）
结构化预测的一种强大而灵活的方法在于通过输出核将待预测的结构化对象嵌入到可能无限维的特征空间中，然后在该输出空间中解决回归问题。通过求解前像问题来计算原始空间中的预测。在这种方法中，与目标损失相关联的嵌入在学习阶段之前被定义。在这项工作中，我们建议共同学习输出嵌入和回归函数到新的特征空间的有限近似。为此，我们利用了输出的先验信息以及未利用的无监督输出数据，这两者在结构化预测问题中经常可用。我们证明了由此产生的结构化预测器是一个相合估计量，并推导出超额风险界。此外，新的结构化预测工具享有一个显着较小的计算复杂度比以前的输出核方法。在各种结构化预测问题上进行的经验测试表明，该方法是通用的，能够处理大型数据集。
2020-11-02 cs.LG stat.ML
Structured Prediction: From Gaussian Perturbations to Linear-Time Principled Algorithms
Purdue（普渡大学）；MIT（麻省理工学院）
基于边缘的结构化预测通常使用所有可能的结构化输出\cite{Altun03,Collins04b,Taskar03}上的最大损失。在自然语言处理中，最近的工作\cite{Zhang14,Zhang15}已经提出了在独立于一些建议分布的随机结构化输出上使用最大损失。该方法是线性时间的随机结构输出的数量和平凡的并行化。我们研究这个家庭的损失函数的PAC贝叶斯框架下高斯扰动\cite{McAllester07}。在某些技术条件下，统计精度，我们表明，这个家庭的损失函数产生更严格的上限比常用的方法的吉布斯解码器失真。因此，使用随机结构化输出上的最大损失是学习结构化预测模型的参数的原则性方式。除了解释\cite{Zhang14,Zhang15}的实验成功，我们的理论结果表明，更一般的技术是可能的。
2016-06-04 cs.LG stat.ML
End-to-End Learning for Structured Prediction Energy Networks
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Carnegie Mellon University（卡内基梅隆大学）
结构化预测能量网络（SPEN）是一个简单但富有表现力的结构化预测模型家族（Belanger和McCallum，2016）。候选结构化输出的能量函数由深度网络给出，预测由基于梯度的优化形成。本文介绍了SPENs的端到端学习，其中能量函数通过基于梯度的预测通过反向传播进行有区别地训练。根据我们的经验，该方法比Belanger和McCallum（2016）的结构化SVM方法更准确，因为它允许我们使用更复杂的非凸能量。我们提供了一系列技术来提高端到端SPEN的速度，准确性和内存要求，并展示了我们的方法在7场景图像去噪和CoNLL-2005语义角色标记任务上的强大功能。在这两种情况下，非凸SPEN能量的不精确最小化优于使用可以精确最小化的简单能量函数的基线方法。
2017-07-15 cs.LG stat.ML
SPEECH: Structured Prediction with Energy-Based Event-Centric Hyperspheres
National University of Singapore（新加坡国立大学）；Zhejiang University（浙江大学）
本文提出SPEECH方法，通过基于能量的建模刻画事件结构化组件间的复杂依赖，并用超球面表示事件类别，在两个统一标注事件数据集上显著提升了事件检测与事件关系抽取性能。
2023-09-18 cs.AI cs.CL cs.LG
Structured Prediction in NLP -- A survey
Indian Institute of Technology Kanpur（坎普尔印度理工学院）
在过去的几年里，NLP中的结构化预测领域已经取得了巨大的进步，包括复杂的概率图模型、基于能量的网络及其与基于深度学习的方法的结合。本综述简要介绍了结构化预测的主要技术及其在NLP领域的应用，如解析、序列标记、文本生成和序列到序列任务。我们还深入研究了结构化预测中基于能量和基于注意力的技术，确定了当前最先进研究中的一些相关开放问题和差距，并为这些领域的未来研究提出了一些详细的想法。
2021-08-31 cs.AI cs.CL cs.LG
Neuro-Symbolic Constraint Programming for Structured Prediction
Criteo；University of Trento（特伦托大学）
我们提出了Nester，一种将神经网络注入约束结构预测器的方法。神经网络的工作是计算与输入数据兼容但不一定满足约束的初始原始预测。然后，结构化预测器使用约束求解器来构建结构，该约束求解器根据硬约束和软约束来组装和校正原始预测。在这样做时，Nester利用了它的两个组件的特性：神经网络从低级数据中学习复杂的表示，而约束编程组件则对预测任务的高级属性进行推理。整个架构可以以端到端的方式进行训练。手写体方程识别的实证评估表明，Nester实现了更好的性能比两个神经网络和约束结构化预测自己，特别是当训练样本是稀缺的，而扩展到更复杂的问题比其他神经编程方法。Nester被证明对于减少问题的语义级别的错误特别有用，这对于神经网络架构来说特别具有挑战性。
2021-03-31 cs.LG
On Certified Generalization in Structured Prediction
Heidelberg University（海德堡大学）
针对结构化预测中违反独立同分布假设的挑战，提出一种基于Knothe-Rosenblatt重排的PAC-Bayesian风险界，其泛化速率同时依赖样本数量与规模，并利用Wasserstein依赖矩阵显式刻画输出变量间结构。
2023-10-16 cs.LG stat.ML
Graph Structured Prediction Energy Networks
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
对于多个变量的联合推断，已经开发了各种结构化预测技术来对变量之间的相关性进行建模，从而改进预测。然而，许多经典的方法遭受的两个主要缺点之一：他们要么缺乏的能力，模型高阶变量之间的相关性，同时保持计算易处理的推理，或者他们不允许明确的模型已知的相关性。为了解决这一缺点，我们引入了“图结构预测能量网络”，我们开发了推理技术，允许对显式局部和隐式高阶相关性进行建模，同时保持推理的易处理性。我们将所提出的方法应用于自然语言处理和计算机视觉领域的任务，并展示了其通用性。
2020-01-05 cs.LG stat.ML
Efficient Structured Prediction with Latent Variables for General Graphical Models
ETH Zurich（苏黎世联邦理工学院）；Toyota Technological Institute at Chicago（芝加哥丰田技术学院）
在本文中，我们提出了一个统一的框架，结构化预测与潜在的变量，其中包括隐条件随机场和潜在的结构支持向量机作为特殊情况。我们描述了一个局部熵近似这个一般配方使用对偶，并推导出一个有效的消息传递算法，保证收敛。我们证明了它的有效性的任务，图像分割，以及3D室内场景理解从单一的图像，表明我们的方法是优于潜在的结构化支持向量机和隐藏的条件随机场。
2012-06-27 cs.LG stat.ML
Bayesian Structured Prediction Using Gaussian Processes
University of Cambridge（剑桥大学）
我们引入了一个概念新颖的结构化预测模型，GPstruct，这是内核化的，非参数和贝叶斯，通过设计。我们激励模型与现有的方法，其中包括条件随机场（CRF），最大利润马尔可夫网络（M3N），结构化支持向量机（SVMstruct），它只体现了其属性的一个子集。我们提出了一个基于马尔可夫链蒙特卡罗的推理过程。该框架可以为各种结构化对象实例化，如线性链、树、网格和其他一般图形。作为概念证明，该模型是基准上的几个自然语言处理任务和视频手势分割任务，涉及线性链结构。我们显示预测精度GPstruct是相当或超过CRF和SVMstruct。
2013-07-15 cs.LG stat.ML
A Consistent Regularization Approach for Structured Prediction
Laboratory for Computational and Statistical Learning - Istituto Italiano di Tecnologia（意大利理工学院计算与统计学习实验室）；Massachusetts Institute of Technology（麻省理工学院）；Università degli Studi di Genova（热那亚大学）
我们提出并分析了结构化预测问题的正则化方法。我们刻画了一个大类的损失函数，允许自然地嵌入结构化输出的线性空间。我们利用这一事实设计学习算法使用代理损失的方法和正则化技术。我们证明了所提出的方法的普遍一致性和有限样本界特征的泛化性能。实验结果证明了所提出的方法的实用性。
2017-07-28 cs.LG stat.ML
Search-Guided, Lightly-supervised Training of Structured Prediction Energy Networks
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
在结构化输出预测任务中，标记地面实况训练输出通常是昂贵的。然而，对于许多任务，即使真正的输出是未知的，我们也可以使用标量奖励函数来评估预测，这可以很容易地从人类知识或不可微管道中组装出来。但是，搜索整个输出空间以找到关于该奖励函数的最佳输出通常是棘手的。在本文中，我们在这个奖励函数中使用有效的截断随机搜索来训练结构化预测能量网络（SPEN），它使用基于梯度的搜索在平滑的，学习的分数景观表示上提供有效的测试时推理，并且以前已经在结构化预测中产生了最先进的结果。特别是，这种截断随机搜索的奖励函数产生以前未知的局部改进，提供有效的监督SPEN，避免了他们的传统需要标记的训练数据。
2019-11-11 cs.LG stat.ML
A PAC-Bayesian Perspective on Structured Prediction with Implicit Loss Embeddings
Mines ParisTech – PSL（巴黎高等矿业学院——巴黎文理研究大学）；Inria（法国国家信息与自动化研究所）；Sorbonne Université（索邦大学）；University College London（伦敦大学学院）
许多实际的机器学习任务可以被构造为结构化预测问题，其中多个输出变量被预测并被认为是相互依赖的。结构化预测的最新理论进展集中在获得快速收敛保证，特别是在隐损失嵌入（ILE）框架中。PAC-Bayes最近因其能够为预测分布产生严格的风险边界而引起了人们的兴趣。这项工作提出了一种新的PAC贝叶斯观点的ILE结构化预测框架。我们提出了两个推广的界限，风险和超额风险，从而产生洞察ILE预测的行为。两个学习算法推导出这些界限。算法的实现和他们的行为分析，源代码可在\url{https://github.com/theophilec/PAC-Bayes-ILE-Structured-Prediction}。
2020-12-21 cs.LG math.ST stat.ML
Structure Regularization for Structured Prediction: Theories and Experiments
Peking University（北京大学）
关于权值正则化的研究很多，但关于结构正则化的研究却很少。许多现有的结构化预测系统专注于增加模型内的结构依赖性水平。然而，这种趋势可能被误导了，因为我们的研究表明，复杂的结构实际上对结构化预测中的泛化能力有害。为了控制基于结构的过拟合，我们通过\emph{structure decomposition}提出了一个结构正则化框架，该框架将训练样本分解为具有更简单结构的小样本，从而获得具有更好泛化能力的模型。我们从理论上和经验上证明了结构正则化可以有效地控制过拟合风险，并导致更好的准确性。作为一个副产品，所提出的方法也可以大大加快训练速度。该方法和理论结果可应用于具有任意结构的一般图模型。在知名任务上的实验表明，我们的方法可以在这些竞争激烈的任务上轻松击败基准系统，实现最先进的精度，同时具有更快的训练速度。
2015-01-30 cs.LG
Output Space Search for Structured Prediction
Oregon State University（俄勒冈州立大学）
我们考虑一个框架，结构化预测的基础上搜索的空间中的完整的结构化输出。给定一个结构化的输入，通过运行一个由学习的成本函数引导的有时间限制的搜索过程，然后返回在搜索过程中未覆盖的最小成本输出，来产生输出。该框架可以被实例化用于广泛的搜索空间和搜索过程，并且容易地结合任意的结构化预测损失函数。在本文中，我们做出了两个主要的技术贡献。首先，我们定义了结构化输出上的有限差异搜索空间，它能够利用强大的分类学习算法来提高搜索空间的质量。其次，我们给出了一个通用的成本函数学习方法，其中的关键思想是学习一个成本函数，试图模仿的行为进行搜索的指导下，真正的损失函数。我们在六个基准域上的实验表明，使用我们的框架，只需少量的搜索就足以显着提高最先进的结构化预测性能。
2012-06-27 cs.AI cs.LG stat.ML
Uncertainty Estimation in Autoregressive Structured Prediction
Yandex（扬德克斯）；Higher School of Economics（高等经济学院）；University of Cambridge（剑桥大学）
不确定性估计对于确保AI系统的安全性和鲁棒性非常重要。虽然该领域的大多数研究都集中在非结构化预测任务，有限的工作已经调查了一般的不确定性估计方法的结构化预测。因此，这项工作的目的是研究在一个统一的和可解释的概率集成为基础的框架内的自回归结构化预测任务的不确定性估计。我们认为：在令牌级和完整的序列级序列数据的不确定性估计;解释，和应用，各种措施的不确定性;并讨论与获得它们相关的理论和实践挑战。这项工作还为标记级和序列级错误检测以及WMT'14英法和WMT'17英德翻译和LibriSpeech语音识别数据集上的序列级域外输入检测提供了基线。
2021-02-11 cs.AI cs.LG stat.ML
Structured Prediction Theory Based on Factor Graph Complexity
Google Research（谷歌研究院）；Courant Institute（库朗研究所）
本文对结构预测进行了一般性的理论分析，并得到了一系列新的结果。我们给出了新的数据依赖的保证金结构化预测的损失函数和一般家庭的假设，任意因子图分解。这是标准多类和一般结构化预测问题中已知的最严格的边界。我们的保证表示在一个依赖于数据的复杂性措施，因子图的复杂性，我们可以从数据和熟悉的数量方面的有界估计。我们通过利用投票风险最小化（VRM）的原则进一步扩展了我们的理论，并表明即使使用复杂的因子图也可以进行学习。我们提出了新的学习界限，这种先进的设置，我们用它来设计两个新的算法，投票条件随机场（VCRF）和投票结构提升（StructBoost）。这些算法可以利用复杂的特征和因子图，但受益于良好的学习保证。我们还报告了VCRF在几个数据集上的实验结果，以验证我们的理论。
2016-12-01 cs.LG stat.ML
Learning Fast-Mixing Models for Structured Prediction
Stanford University（斯坦福大学）
马尔可夫链蒙特卡罗（MCMC）算法通常用于学习内部的近似推理，但它们的缓慢混合可能难以诊断，并且近似会严重降低学习。为了缓解这些问题，我们使用强Doeblin马尔可夫链定义了一个新的模型族，其混合时间可以通过参数精确控制。我们还开发了一种算法来学习这样的模型，其中包括在这些链的诱导平稳分布下最大化数据可能性。我们在两个具有挑战性的推理任务上显示了经验改进。
2015-02-24 cs.LG
Structured Output Learning with Abstention: Application to Accurate Opinion Prediction
Telecom ParisTech（巴黎高等电信学院）
受监督意见分析的启发，我们提出了一个新的框架，致力于结构化输出学习与弃权（SOLA）。结构预测模型能够以用户灵活选择的代价放弃对结构化输出中某些标签的预测。为此，我们将问题分解为一对预测器的学习，一个用于结构化预测，另一个用于结构化输出预测。为了将完全标记的训练数据与可能包含弃权的预测进行比较，我们定义了一类广泛的非对称弃权感知损失。学习通过在适当的特征空间中的替代回归来实现，而预测通过解决新的前像问题来执行。因此，SOLA通过替代问题和校准理论扩展了最近关于结构化产出预测的想法，并对由此产生的超额风险提供了统计保证。实例化的层次防御意识的损失，SOLA是相关的细粒度的意见挖掘，并给出了国家的最先进的结果，这项任务。此外，基于评论级意见预测器，可以使用评论感知表示来竞争性地预测用户评论评级。
2018-06-08 cs.AI cs.LG stat.ML
Semi-supervised Learning with the EM Algorithm: A Comparative Study between Unstructured and Structured Prediction
University of Alabama（阿拉巴马大学）
半监督学习旨在从标记和未标记的样本中学习预测模型。在这一领域进行了广泛的研究。在现有的工作中，期望最大化（EM）生成混合模型是一个流行的方法，由于明确的统计性质。然而，现有的基于EM的半监督学习的文献主要集中在非结构化预测，假设样本是独立和同分布的。基于EM的半监督方法在结构化预测中的研究有限。本文旨在通过对基于EM的半监督学习中的非结构化和结构化方法的比较研究来填补这一空白。具体来说，我们比较了它们的理论性质，发现这两种方法都可以被认为是一种泛化的自训练与软类分配的未标记的样本，但结构化的方法还考虑结构约束的软类分配。我们进行了一个案例研究，对现实世界的洪水映射数据集，比较这两种方法。结果表明，结构化EM是更强大的类混淆所造成的噪声和障碍的特点，在洪水映射应用程序的上下文中。
2020-08-28 cs.LG stat.ML
A Smoother Way to Train Structured Prediction Models
University of Washington（华盛顿大学）
我们提出了一个框架，训练一个结构化的预测模型进行平滑推理算法，它建立在。平滑克服了最大间隔结构化预测目标固有的非平滑性，并为使用基于快速原始梯度的优化算法铺平了道路。我们通过开发一种新的结构支持向量机的原始增量优化算法来说明所提出的框架。该算法融合了外推计划的加速和自适应平滑计划，并建立在随机方差降低梯度算法。我们建立了最坏情况下的全局复杂度界限，并研究了几个实际的变体，包括对深度结构化预测的扩展。我们提出了两个现实世界的问题，即命名实体识别和视觉对象定位的实验结果。实验结果表明，该框架允许我们建立在高效的推理算法，开发大规模的优化算法的结构化预测，可以实现竞争力的性能上的两个现实世界的问题。
2019-02-08 cs.LG math.OC stat.ML
Structured Prediction with Abstention via the Lovász Hinge
Boston College（波士顿学院）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本文研究 Lovász hinge 的一致性，证明其通常与原目标不一致，并通过嵌入框架识别出可弃权（不执行）任意预测子集的结构化目标，给出一致链接、紧密嵌入条件及多分类扩展。
2025-05-09 cs.LG
Adversarial Structured Prediction for Multivariate Measures
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
许多预测的结构化对象（例如，序列、匹配、树）使用F分数、比对错误率（AER）或其它多变量性能测量来评估。由于使用训练数据归纳地优化这些测量通常在计算上是困难的，因此采用替代损失的经验风险最小化，例如，（结构化）支持向量机的铰链损失。这些近似值通常会在学习者的目标和期望的应用性能之间引入不匹配，从而导致不一致。我们采取了不同的方法：在优化精确的F分数或AER的同时，对训练数据进行逆向近似。在此公式下的结构化预测是通过解决寻求最佳性能的预测器和寻求最差性能的对手之间的零和游戏而产生的，同时需要（近似）匹配训练数据的某些结构化属性。我们探索这种方法的字对齐（AER评价）和命名实体识别（F-评分评价）与线性链约束。
2017-12-21 cs.LG stat.ML
Learning Maximum-A-Posteriori Perturbation Models for Structured Prediction in Polynomial Time
Purdue University（普渡大学）
MAP扰动模型已经成为结构化预测中推理的一个强大框架。这种模型提供了一种有效地从吉布斯分布中采样的方法，并有助于对随机噪声具有鲁棒性的预测。在本文中，我们提出了一个可证明的多项式时间随机算法学习参数的扰动MAP预测。我们的方法是基于最小化一个新的Rademacher为基础的泛化上的扰动MAP预测，这可以在多项式时间计算的预期损失的界限。我们获得的条件下，我们的随机学习算法可以保证推广到看不见的例子。
2018-05-21 cs.LG stat.ML
Joint Structured Learning and Predictions under Logical Constraints in Conditional Random Fields
Xerox Research Centre Europe（施乐欧洲研究中心）
本文主要研究有监督机器学习环境下的结构化机器学习。它讨论了如何对不同性质的相互依赖对象进行联合结构化学习，以及如何在预测标签时实施逻辑约束。我们解释了这种需要是如何出现在一个文件理解任务。然后，我们讨论了条件随机场（CRF）的一般扩展，并在开源PyStruct库的基础上提供了贡献的开源实现。我们评估其性能上公开可用的数据集。
2017-08-25 cs.LG stat.ML
Sparse Stochastic Zeroth-Order Optimization with an Application to Bandit Structured Prediction
Amazon Research（亚马逊研究院）；Heidelberg University（海德堡大学）
随机零阶（SZO）或无梯度优化允许仅依赖于参数扰动下的函数评估来优化任意函数，然而，SZO方法的迭代复杂度与扰动函数的维数成比例。我们表明，在结构化预测应用中具有自然稀疏模式的情况下，该因子可以减少到输入输出对上的活动特征的预期数量。我们给出了一个一般的证明，适用于稀疏SZO优化Lipschitz连续，非凸，随机目标，并提出了一个实验评估线性强盗结构预测任务与稀疏字为基础的特征表示，证实我们的理论结果。
2020-11-10 cs.CL cs.LG stat.ML
Blending Learning and Inference in Structured Prediction
University of Haifa（海法大学）；ETH Zurich（苏黎世联邦理工学院）；TTI Chicago（芝加哥丰田工业研究所）
在本文中，我们推导出一个有效的算法来学习一般图形模型中的结构预测参数。该算法融合了学习和推理任务，与传统的方法，如条件随机场和结构化支持向量机相比，速度有了显著的提高。为此，我们利用预测器的结构来描述一个低维结构化预测任务，该任务在学习模型参数的同时鼓励不同结构内的局部迭代。学习任务的凸性提供了在不同部分之间加强协调的手段。我们提出的推理学习混合算法保证收敛到低维原规划和对偶规划的最优解。与许多现有的方法不同，推理学习混合允许我们在任何大小的区域和非常大量的参数上有效地学习高阶图形模型。我们证明了我们的方法的有效性，同时提出国家的最先进的立体声估计，语义分割，形状重建，室内场景理解的结果。
2013-08-30 cs.LG
A Structured Prediction Approach for Label Ranking
LTCI（电信与信息处理实验室）；Télécom ParisTech（巴黎高等电信学院）；Université Paris-Saclay（巴黎萨克雷大学）
我们建议将标签排序问题作为结构化输出回归任务来解决。我们采用了最小二乘代理损失的方法，解决了监督学习问题的两个步骤：在一个精心选择的特征空间和前图像步骤的回归步骤。我们使用特定的特征映射/嵌入对数据进行排名，将任何排名/排列转换为矢量表示。这些嵌入都是为我们的方法量身定制的，无论是通过产生相合估计量，还是通过解决通常是结构化预测中的瓶颈的前像问题。我们还提出了部分排名的情况下，他们的自然扩展，并证明了他们的效率在现实世界的数据集。
2018-07-06 cs.LG stat.ML
Structured Prediction Cascades
University of Pennsylvania（宾夕法尼亚大学）
结构化预测任务在需要模型复杂性以增加预测能力与有限的计算资源之间进行基本权衡，用于在此类模型所需的指数大小的输出空间中进行推断。我们制定并开发了结构化预测级联架构：一系列日益复杂的模型，逐步过滤可能的输出空间。我们方法的关键原理是，级联中的每个模型都经过优化，以准确过滤和细化下一个模型的结构化输出状态空间，从而加快级联下一层的学习和推理。我们通过优化一个新的凸损失函数来学习级联，该函数控制级联的过滤效率和精度之间的权衡，并为精度和效率提供泛化界。我们还扩展了我们的方法，棘手的模型，使用树分解合奏，并提供算法和理论，这种设置。我们评估我们的方法在几个大规模的问题，实现国家的最先进的性能在手写识别和人体姿势识别。我们发现，结构化的预测级联允许巨大的加速和使用以前棘手的功能和模型在这两种设置。
2012-08-06 cs.LG stat.ML
