An Augmented Surprise-guided Sequential Learning Framework for Predicting the Melt Pool Geometry
West Virginia University（西弗吉尼亚大学）；The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
本文提出惊奇引导序列学习框架SurpriseAF-BO，并结合CTGAN合成数据形成CT-SurpriseAF-BO，在有限数据下提升金属增材制造熔池几何形状的预测精度。
2024-01-10 cs.LG stat.ML
Pool-based sequential active learning with multi kernels
University of Southern California（南加州大学）；Hanyang University（汉阳大学）
我们研究了一个基于池的顺序主动学习（AL），其中一个样本查询在每一次从一个大的池的未标记的数据根据一个选择标准。对于这个框架，我们提出了两个选择标准，命名为预期的内核差异（EKD）和预期的内核损失（EKL），利用多核学习（MKL）的特定结构。此外，它被确定，建议EKD和EKL成功地推广流行的查询由委员会（QBC）和预期模型变化（EMC）的概念，分别。通过对真实数据集的实验结果，与现有方法进行了比较，验证了所提准则的有效性。
2020-10-22 cs.LG
Integrating Informativeness, Representativeness and Diversity in Pool-Based Sequential Active Learning for Regression
Huazhong University of Science and Technology（华中科技大学）
在许多现实世界的机器学习应用中，未标记的样本很容易获得，但标记它们是昂贵的和/或耗时的。主动学习是减少这种数据标记工作的常用方法。它最佳地选择最好的几个样本进行标记，以便可以从相同数量的标记样本中训练出更好的机器学习模型。本文研究了回归问题的主动学习方法。ALR提出了三个基本标准--信息性、代表性和多样性。然而，文献中很少有方法同时考虑所有这三个方面。我们提出了三个新的ALR方法，与不同的战略，整合三个标准。在不同领域的12个数据集上进行的广泛实验证明了它们的有效性。
2020-03-26 cs.LG stat.ML
Uncertainty Prediction for Deep Sequential Regression Using Meta Models
IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
为序贯回归生成高质量的不确定性估计，特别是深度递归网络，仍然是一个具有挑战性和开放性的问题。现有的方法往往作出限制性的假设（如平稳性），但在实践中仍然表现不佳，特别是在现实世界的非平稳信号和漂移的存在。本文介绍了一种灵活的方法，可以产生对称和非对称的不确定性估计，不作任何假设平稳性，并优于漂移和非漂移情况下的竞争基线。这项工作有助于使序贯回归在现实世界的应用中更加有效和实用，并且是一般序贯不确定性量化建模工具箱的强大新添加。
2021-07-22 cs.LG stat.ML
Feature Weighting Improves Pool-Based Sequential Active Learning for Regression
Ministry of Education Key Laboratory of Image Processing and Intelligent Control（教育部图像处理与智能控制重点实验室）；Hubei Key Laboratory of Brain-inspired Intelligent Systems（湖北省脑启发智能系统重点实验室）；School of Artificial Intelligence and Automation, Huazhong University of Science and Technology（华中科技大学人工智能与自动化学院）
本文提出基于池的顺序主动学习方法，通过特征加权优化样本选择，提升回归模型的准确性，实验表明该方法在单任务和多任务回归中均有效。
2026-04-02 cs.LG
A Log-Linear Time Sequential Optimal Calibration Algorithm for Quantized Isotonic L2 Regression
我们研究了在一个量化的保序L2回归设置的估计的顺序校准。我们首先表明，最佳校准量化估计可以从传统的保序L2回归解决方案。我们修改了传统的PAVA算法创建校准的量化保序回归问题的批量和顺序优化。我们的算法可以更新的最佳量化单调映射到目前为止观察到的样本在线性空间和对数时间每新的无序样本。
2022-06-01 cs.LG math.OC stat.ML
Distribution Regression for Sequential Data
University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）；University of Oxford（牛津大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61中心）
分布回归是指监督学习问题，其中标签仅适用于输入组而不是单个输入。在本文中，我们开发了一个严格的数学框架的分布回归输入是复杂的数据流。利用属性的预期签名和最近的签名核技巧从随机分析的序列数据，我们引入了两种新的学习技术，一个基于特征的和其他基于内核的。每一个都适合于不同的数据制度，在数据流的数量和各个流的维度方面。我们提供了这两种方法的普遍性的理论结果，并实证证明了它们对不规则采样的多变量时间序列的鲁棒性，在热力学，数学金融学和农业科学的合成和现实世界的例子中实现了最先进的性能。
2021-09-29 cs.LG stat.ML
Sequential sparse Gaussian process quantile regression
Inria（法国国家信息与自动化研究所）；Center for Applied Mathematics, École polytechnique, Institut Polytechnique de Paris（巴黎综合理工学院应用数学中心）；CNRS（法国国家科学研究中心）
提出一种稀疏高斯过程框架，通过拉普拉斯近似进行后验推断，并利用预测不确定性分解驱动诱导点填充和数据获取的序贯算法，以高效实现贝叶斯分位数回归。
2026-10-22 cs.LG stat.ML
Sequential Regression Learning with Randomized Algorithms
Estatcamp Consultoria（Estatcamp咨询公司）；Instituto de Ciências Matemáticas e de Computação. Universidade de São Paulo（圣保罗大学数学与计算机科学学院）；Instituto de Ciências Exatas. Departamento de Matemática. Universidade de Brasília（巴西利亚大学自然科学学院数学系）
本文提出随机SINDy算法，用于具有时间依赖结构的动态数据，通过概率方法和数学分析证明PAC学习性质，结合特征增强和Tikhonov正则化，通过实验证明其在回归和二分类中的有效性。
2026-04-17 cs.LG stat.ML
Tighter Confidence Bounds for Sequential Kernel Regression
Universitat Pompeu Fabra（庞培法布拉大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
本文利用鞅尾不等式为序列核回归提出更紧的置信界，通过锥规划对偶高效计算，应用于核老虎机问题可提升KernelUCB算法性能。
2024-11-11 cs.LG stat.ML
SGD in Multiclass Logistic Regression: Sequential Learning and Scaling Laws
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；New York University（纽约大学）；Flatiron Institute（熨斗研究所）；University of British Columbia（不列颠哥伦比亚大学）；Numurho
本研究分析多类逻辑回归在高维高斯混合模型上的SGD训练动态，揭示顺序学习现象，并推导出计算最优的缩放定律，将理论从线性回归扩展至多类分类。
2026-11-10 cs.LG stat.ML
A Data-Efficient Sequential Learning Framework for Melt Pool Defect Classification in Laser Powder Bed Fusion
West Virginia University（西弗吉尼亚大学）；University of South Carolina（南卡罗来纳大学）
提出SL-RF+框架，结合随机森林、最小置信度采样和Sobol序列合成采样，在数据稀缺环境下高效选择信息样本细化决策边界，提升激光粉末床熔融熔池缺陷分类性能。
2024-11-16 cond-mat.mtrl-sci cs.CE cs.LG
Toward Asymptotic Optimality: Sequential Unsupervised Regression of Density Ratio for Early Classification
NEC Corporation（日本电气股份有限公司）
提出了一种基于理论启发的序贯密度比估计（SDRE）算法，用于时间序列的早期分类。传统的SDRE算法由于内部过归一化问题而不能精确估计DR，这使得基于DR的顺序算法，顺序概率比检验（SPRT），不能达到其渐近贝叶斯最优性。两种新的SPRT算法，B2Bsqrt-TANDEM和TANDEMformer，设计，以避免过度规范化的问题，精确的无监督回归的SDR。这两种算法分别在人工序列高斯数据集和真实数据集（SiW，UCF 101和HMDB 51）上显著降低了DR估计误差和分类误差。该代码可从以下网址获得：https://github.com/Akinori-F-Ebihara/LLR_saturation_problem。
2023-02-20 cs.LG
A Tree Architecture of LSTM Networks for Sequential Regression with Missing Data
ASELSAN Research Center（ASELSAN研究中心）；Bilkent University（比尔肯特大学）；DataBoss A.S.（DataBoss公司）
我们研究了包含缺失样本的变长序列数据的回归，并引入了一种新的基于长短期记忆（LSTM）网络的树结构。在我们的架构中，我们采用了可变数量的LSTM网络，这些网络只使用序列中现有的输入，在树状架构中没有任何统计假设或对缺失数据的估算，这与之前的所有方法不同。特别是，我们通过基于一定数量的先前输入的“存在模式”选择这些LSTM网络的子集来合并缺失信息。从混合专家模型角度来看，我们训练不同的LSTM网络作为我们的专家，用于各种缺失模式，然后结合它们的输出来生成最终的预测。我们还提供了所提出的架构的计算复杂性分析，其与传统LSTM架构的序列长度的复杂性处于相同的数量级。我们的方法可以很容易地扩展到类似的结构，如GRU，RNN，如在论文中所述。在实验中，我们实现了显着的性能改善相对于国家的最先进的方法为知名的金融和现实生活中的数据集。
2020-05-22 cs.LG stat.ML
Sequential Adaptive Design for Jump Regression Estimation
统计模型的输入变量或设计点的选择一直是自适应设计和主动学习的重要内容。本文通过两个科学实例，提出了一种当基础回归函数不连续时选择回归模型设计点的策略。我们进行的第一个例子是为了在高分辨率材料成像中加快成像速度;第二个例子是为了绘制化学相图而使用序贯设计。在这两个例子中，基本的回归函数具有不连续性，因此许多现有的设计优化方法不能被应用，因为它们大多假设连续的回归函数。虽然一些现有的自适应设计策略开发的树回归模型可以处理的不连续性，贝叶斯方法来计算昂贵的马尔可夫链蒙特卡罗技术的后验推理和随后的设计点的选择，这是不适合的第一个激励的例子，需要至少比原来的成像速度更快的计算。此外，树模型是基于域划分，当不连续性发生在复杂的子域边界时，效率低下。针对不连续性回归分析，提出了一种简单有效的自适应设计策略：首先给出固定设计下的一些统计性质，然后利用这些性质提出一种新的选择回归分析设计点的准则。将提出与新准则的顺序设计与全面的模拟例子，并将其应用到两个激励的例子。
2021-02-10 cs.CV cs.LG stat.ML
On the potential of sequential and non-sequential regression models for Sentinel-1-based biomass prediction in Tanzanian miombo forests
UiT The Arctic University of Norway（挪威北极大学）；KSAT Kongsberg Satellite Services（康斯伯格卫星服务公司）；NORCE Norwegian Research Centre（挪威NORCE研究中心）；Norwegian University of Life Sciences（挪威生命科学大学）；Sokoine University of Agriculture（索科因农业大学）
本研究得出的回归模型，地上生物量（AGB）估计在坦桑尼亚的miombo林地，利用哨兵-1数据的高可用性和低成本。有限的森林冠层的C波段SAR传感器的渗透以及稀疏的可用地面实况限制了他们的有用性，在传统的AGB回归模型。因此，我们建议使用AGB预测的基础上机载激光扫描（ALS）数据作为替代响应变量的SAR数据。这极大地增加了可用的训练数据，并为捕获精细尺度AGB动态的灵活回归模型打开了大门。这成为一种顺序建模方法，其中第一个回归阶段将原位数据与ALS数据联系起来，并生成AGB预测图;我们执行后续阶段，该图与Sentinel-1数据相关。我们开发了一个传统的，参数回归模型和替代非参数模型在这个阶段。后者使用条件生成对抗网络（cGAN）将Sentinel-1图像转换为基于ALS的AGB预测图。神经网络中的卷积滤波器使它们与上下文相关。我们将序贯模型与传统的非序贯回归模型进行了比较，所有模型都是在有限的AGB地面参考数据上训练的。结果表明，我们新提出的基于非序列Sentinel-1的回归模型在定量上比序列模型表现得更好，但对细尺度AGB动态的敏感性较低。基于cGAN的序列模型最好地再现了基于ALS的AGB预测的分布。他们也达到了较低的RMSE对原位AGB数据比参数序贯模型，表明进一步发展的潜力。
2022-05-31 cs.CV cs.LG
Fully sequential Gaussian process regression for preference learning
针对无法直接评估目标函数的连续全局优化问题，提出基于矩匹配的完全序贯高斯过程回归方法及DOVE采样策略，证明了相关收敛速率。
2026-10-19 cs.LG
Sequential Nonparametric Regression
Carnegie Mellon University（卡内基梅隆大学）；University of Chicago（芝加哥大学）
我们提出的算法非参数回归的设置中的数据是连续获得的。虽然传统的估计器选择的带宽取决于样本量，对于连续数据的有效样本量是动态变化的。我们提出了一个线性时间算法，调整每个新的数据点的带宽，并显示估计达到最佳的极小极大收敛速度。我们还提出了使用在线专家混合算法来适应未知的光滑的回归函数。我们提供的模拟证实了理论结果，并证明了方法的有效性。
2012-06-27 astro-ph.IM cs.LG stat.ME
Long-Term Fairness in Sequential Multi-Agent Selection with Positive Reinforcement
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
该研究针对多智能体序贯选拔场景，提出多智能体公平贪心策略，验证了同分布下的长期公平收敛性，同时指出复杂演化模型下无协调行为可能损害公平，为公平决策机制设计提供参考。
2024-07-10 cs.CY cs.LG stat.ML
Uniform regret bounds over $R^d$ for the sequential linear regression problem with the square loss
INRIA（法国国家信息与自动化研究所）；ENS（巴黎高等师范学院）；PSL Research University（巴黎文理研究大学）；Institut de mathématiques de Toulouse（图卢兹数学研究所）；Université Paul Sabatier（保罗·萨巴蒂埃大学）；Laboratoire de mathématiques d’Orsay（奥赛数学实验室）；Université Paris-Sud（巴黎第十一大学）；CNRS（法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）
本文考虑了任意确定性序列的在线线性回归的设定问题，并考虑了平方损失。我们对Bartlett等人（2015）设定的目标感兴趣：获得在所有竞争者向量上一致保持的遗憾界。当特征序列在游戏开始时已知时，他们提供了$2d B^2 \ln T + \mathcal{O}_T(1)$的封闭形式的后悔界限，其中$T$是回合数，$B$是观察结果的界限。相反，我们推导出的界限与最佳常数$1$在前面的$d B^2 \ln T$长期。在顺序显示的功能的情况下，我们还得到了一个渐进的遗憾界的$d B^2 \ln T$的任何个人序列的功能和有界的意见。我们所有的算法都是在线非线性岭回归预测器的变体，或者具有依赖于数据的正则化，或者几乎没有正则化。
2019-02-25 cs.LG math.ST stat.ML
Learning a binary search with a recurrent neural network. A novel approach to ordinal regression analysis
CépiDc Inserm；Paris Saclay University（巴黎萨克雷大学）
深度神经网络是一系列计算模型，其自然地适合于使用递归神经网络来分析分层数据，例如顺序数据。另一方面，序数回归是一个众所周知的预测建模问题，用于从心理测量到基于深度神经网络的语音建模等不同领域。它们的特殊性在于其结果变量的属性，通常被认为是具有自然排序属性的分类变量，通常允许不同状态之间的比较（“一点”小于“有点”，“有点”本身小于“很多”，允许传递性）。本文研究了深度学习框架提供的序列到序列学习方法在有序回归中的应用，通过将有序回归问题公式化为顺序二分搜索。提出了一种根据有序目标变量可视化模型解释变量的方法，该方法与线性判别分析有一定的相似性。该方法相比，传统的有序回归方法在一些基准数据集，并显示出具有可比或显着更好的预测能力。
2021-01-07 cs.LG stat.ML
Soft Gradient Boosting with Learnable Feature Transforms for Sequential Regression
Department of Electrical and Electronics Engineering, Bilkent University（电气与电子工程系，比尔肯特大学）
提出一种用于序列回归的软梯度提升框架，在提升过程中联合训练软决策树与可学习的线性特征变换Q，通过端到端优化特征选择与提升过程，有效提升了高维稀疏数据场景下的性能并避免过拟合。
2025-09-16 cs.LG eess.SP
Churn Prediction with Sequential Data and Deep Neural Networks. A Comparative Analysis
Humboldt University of Berlin（柏林洪堡大学）；IÉSEG School of Management（埃塞克高等商学院）；Audencia Business School（南特高等商学院）
用于预测的现成机器学习算法（诸如正则化逻辑斯谛回归）在没有预先使用这种顺序数据的聚合过程的情况下不能利用时变特征的信息。然而，递归神经网络提供了一种替代方法，通过该方法，时变特征可以容易地用于建模。本文评估了神经网络的性能流失建模使用近，频率和货币价值的数据，从金融服务提供商。结果表明，RFM变量与LSTM神经网络相结合，比具有常用人口统计变量的正则化逻辑斯谛回归模型具有更大的前十分位提升和预期最大利润指标。此外，我们表明，使用LSTM的拟合概率作为逻辑斯谛回归的特征，与仅具有静态特征的模型相比，后者的样本外性能提高了25%。
2019-09-24 cs.LG stat.AP stat.ML
A New Perspective on Pool-Based Active Classification and False-Discovery Control
Paul G. Allen School of Computer Science & Engineering（保罗·G·艾伦计算机科学与工程学院）；University of Washington, Seattle, WA（华盛顿大学）
在许多科学环境中，需要自适应试验设计来指导识别搜索空间的区域的过程，这些区域包含尽可能多的真阳性，但错误发现（即错误警报）的比率很低。搜索空间的这些区域可能与最小化0/1误差的预测集有很大不同，并且准确识别可能需要非常不同的采样策略。像二进制分类的主动学习一样，这种试验设计不能先验地选择最佳，而是必须顺序地和自适应地获取数据。然而，与具有0/1错误的分类不同，自适应地收集数据以找到具有高真阳性率和低错误发现率（FDR）的集合还没有被很好地理解。在本文中，我们提供了第一个可证明的样本有效的自适应算法，这个问题。一路上，我们强调分类，组合土匪，和FDR控制之间的联系，使每个贡献。
2020-08-14 cs.LG stat.ML
Parsimonious Quantile Regression of Financial Asset Tail Dynamics via Sequential Learning
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯人工智能实验室）；City University of Hong Kong（香港城市大学）
我们提出一个简约分位数回归框架来学习金融资产收益率的动态尾部行为。我们的模型很好地捕捉了金融时间序列的时变特性和非对称重尾特性。它结合了流行的顺序神经网络模型的优点，即，LSTM，我们构造了一个新的参数分位数函数来表示资产收益的条件分布。我们的模型还单独捕获了高阶矩的序列依赖性，而不仅仅是波动性。在广泛的资产类别中，我们的模型的条件分位数或VaR的样本外预测优于Gestival家族。此外，所提出的方法不会遭受的问题，分位数交叉，也没有暴露的不适定性相比，参数概率密度函数的方法。
2020-10-16 cs.LG q-fin.RM q-fin.ST
Online Nonparametric Regression
University of Pennsylvania（宾夕法尼亚大学）
我们建立了在线回归的最佳速率为任意类的回归函数的序贯熵（Rakhlin，Sridharan，Tewari，2010）。最佳速率显示出类似于i.i.d./统计学习案例，研究于（Rakhlin，Sridharan，Tsybakov 2013）。在序列熵和i.i.d.经验熵匹配，我们的结果指出了一个有趣的现象，统计学习平方损失和在线非参数回归的速度是相同的。除了非算法研究的极大极小遗憾，我们展示了一个通用的预测，享有既定的最佳利率。我们还提供了一个配方设计在线回归算法，可以计算效率。我们说明的技术，通过现有的和新的预测有限的专家和在线线性回归的情况下。
2014-02-11 cs.LG math.ST stat.ML
Bayesian Active Learning By Distribution Disagreement
University of Hildesheim（希尔德斯海姆大学）；Institute of Computer Science（计算机科学学院）
本文提出BALSA算法，通过改进BALD以适配归一化流进行回归主动学习，有效区分偶然与认知不确定性，在4个数据集和2种架构上取得SOTA结果。
2025-01-02 cs.LG
Bayesian Deck-of-cards-based Ordinal Regression with Sequential Preference Elicitation
Poznań University of Technology（波兹南理工大学）；University of Catania（卡塔尼亚大学）
提出B-DOR，一种基于扑克牌式排序的贝叶斯序数回归方法，通过累积链接似然建模偏好强度，采用两种贝叶斯推断算法并支持多步诱导，实验证明其优于现有方法并适用于综合指标构建。
2026-09-30 cs.LG math.OC stat.ML
Sequential Graph Convolutional Network for Active Learning
Imperial College London（帝国理工学院）；KAIST（韩国科学技术院）
本文提出了一种新的基于池的主动学习框架，该框架构建在序列图卷积网络（GCN）上。来自数据池的每个图像的特征表示图中的一个节点，并且边缘编码它们的相似性。使用少量随机采样的图像作为种子标记的示例，我们学习图的参数，以通过最小化二进制交叉熵损失来区分标记与未标记的节点。GCN执行节点之间的消息传递操作，因此，诱导强关联节点的类似表示。我们利用这些特点的GCN选择的未标记的例子是充分不同的标记。为此，我们利用图节点嵌入及其置信度得分，并采用CoreSet和基于不确定性的方法等采样技术来查询节点。我们将新查询的节点的标签从未标记的翻转为标记的，重新训练学习器以优化下游任务和图以最小化其修改的目标。我们在固定预算内继续这一进程。我们在6个不同的基准上评估我们的方法：4个真实的图像分类，1个基于深度的手部姿势估计和1个合成RGB图像分类数据集。我们的方法优于几个有竞争力的基准，如VAAL，学习损失，CoreSet，并在多个应用程序上达到新的最先进的性能。https://github.com/razvancaramalau/Sequential-GCN-for-Active-Learning
2021-04-01 cs.CV cs.LG
Towards Robust Deep Active Learning for Scientific Computing
Duke University（杜克大学）
深度学习（DL）正在彻底改变科学计算社区。为了减少数据差距，主动学习已被确定为科学计算社区中DL的一个有前途的解决方案。然而，深度主动学习（DAL）文献主要是图像分类问题和基于池的方法。在这里，我们研究基于池的DAL方法的科学计算问题（主要是回归）的鲁棒性，DNN越来越多地使用。我们发现，现代池为基础的DAL方法都有一个不可调的超参数，称为池比，表示为$γ$，这是经常被假定为已知的先验文献。我们评估的性能五个国家的最先进的DAL方法对6个基准问题，如果我们假设$γ$是\textit{not}已知的-一个更现实的假设科学计算问题。我们的研究结果表明，这降低了现代DAL方法的性能，它们有时甚至比随机抽样的性能更差，在现实世界中使用时会产生显著的不确定性。为了克服这一限制，我们提出，据我们所知，第一个查询合成DAL回归方法，称为NA-QBC。NA-QBC去除了敏感的$γ$超参数，我们发现，平均而言，它优于其他DAL方法对我们的基准问题。至关重要的是，NA-QBC始终优于随机采样，提供更强大的性能优势。
2022-10-03 cs.AI cs.LG
Active Learning for Regression by Inverse Distance Weighting
IMT School for Advanced Studies（IMT高等研究学院）
提出了一种基于反距离加权函数的主动学习算法来解决回归问题，用于选择待查询的特征向量。该算法具有以下特征：（i）支持基于池和基于群体的采样;（ii）不针对特定类别的预测器;（iii）可以处理可查询特征向量上的已知和未知约束;以及（iv）可以顺序运行或以批处理模式运行，这取决于预测器重新训练的频率。在说明性的合成问题和现实世界的数据集的数值测试中显示的方法的潜力。该算法的实现，我们称之为IDEAL（基于反向距离的主动学习探索），可在http://cse.lab.imtlucca.it/~bemporad/ideal上获得。
2022-12-13 cs.LG
Primal-Dual Active-Set Methods for Isotonic Regression and Trend Filtering
Lehigh University（利哈伊大学）
保序回归（Isotonic Regression，IR）是一种用于监督学习的非参数校准方法。对于执行大规模的IR，我们提出了一个原始-对偶活动集（PDAS）算法，在对比的国家的最先进的池相邻的违规者（PAV）算法，可以并行化，很容易热启动，因此非常适合在在线设置。我们证明，像PAV算法，我们的PDAS算法IR是收敛的，并具有O（n）的工作复杂度，虽然我们的数值实验表明，我们的PDAS算法往往比PAV更快。此外，我们提出了PDAS变体（与保障，以确保收敛）解决相关的趋势过滤（TF）问题，提供的实验结果，以说明其有效性。
2016-04-03 cs.LG math.OC
Knowledge Elicitation via Sequential Probabilistic Inference for High-Dimensional Prediction
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）
在小样本和大量协变量的情况下进行预测，即“小n，大p”问题，是一个具有挑战性的问题。这种设置在多种应用中遇到，例如精密医学，其中获得额外的样本可能非常昂贵甚至不可能，并且最近已经致力于寻找准确预测的原则性解决方案。然而，一个有价值的额外信息来源，领域专家，尚未得到有效利用。我们制定的知识启发一般作为一个概率推理过程，专家知识依次查询，以提高预测。在稀疏线性回归的特定情况下，我们假设专家具有关于回归系数的值或关于特征的相关性的知识，我们提出了一种算法和计算近似，用于快速有效的交互，其顺序地识别最翔实的特征以查询专家知识。在模拟和真实用户的实验中，我们的方法的评估表明，预测精度已经提高了专家的一个小的努力。
2017-07-13 cs.AI cs.HC cs.LG
FIRAL: An Active Learning Algorithm for Multinomial Logistic Regression
Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学学院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
该研究针对多类分类的池式主动学习问题，基于费舍尔信息比与超额风险的界关系，提出采用遗憾最小化的FIRAL算法，实验证明其在多个数据集上分类误差优于对比方法。
2024-09-11 cs.CV cs.LG
Learning Hidden Markov Models for Regression using Path Aggregation
University of California San Diego（加利福尼亚大学圣迭戈分校）；University of Wisconsin（威斯康星大学）
我们认为学习映射的任务从序列数据到实值响应。我们提出并评估了一种学习隐马尔可夫模型（HMM）回归的方法。学习过程涉及推断传统HMM的结构和参数，同时学习回归模型，该模型将表征通过模型的路径的特征映射到连续响应。我们的结果，在合成和生物领域，证明了共同学习我们的方法的两个组成部分的价值。
2012-06-13 cs.CE cs.LG q-bio.QM
