A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning
DiDiChuXing(滴滴出行)
在本文中,我们提出了一种新的方法,Transductive多头少样本学习(TMHFS),以解决跨域少样本学习(CD-FSL)的挑战。TMHFS方法通过在公共特征嵌入网络之后引入新的预测头,即基于语义信息的实例全局分类网络,扩展了元置信度转换(MCT)和密集特征匹配网络(DFMN)方法[2]。我们训练的嵌入网络与多个头,即MCT损失,DFMN损失和语义分类器损失,同时在源域。对于目标域的少样本学习,首先对只包含语义全局分类器和支持实例的嵌入网络进行微调,然后使用微调后的嵌入网络中的MCT部分来预测查询集的标签。此外,我们进一步利用数据增强技术在微调和测试阶段,以提高预测性能。实验结果表明,所提出的方法大大优于强基线,微调,在四个不同的目标域。
2020-06-08 cs.CV cs.LG
Transductive Multi-label Zero-shot Learning
Queen Mary University of London(伦敦玛丽女王大学)
零样本学习作为一种减轻注释大规模识别问题的训练数据的通常令人望而却步的费用的手段已经受到越来越多的关注。这些方法已经取得了巨大的成功,通过学习中间语义表示的形式的属性,最近,语义词向量。然而,到目前为止,它们一直局限于单标签的情况下,相比之下,日益普及和更现实的多标签数据的重要性。在本文中,第一次,我们调查和形式化的一般框架多标签零样本学习,解决其中的独特挑战:如何利用多标签相关性在测试时没有训练数据的这些类?特别地,我们提出了(1)一个多输出深度回归模型来将图像投影到语义词空间中,该模型显式地利用了词向量的中间语义层中的相关性;(2)一种新的多标签数据的零样本学习算法,该算法利用了语义词向量表示的独特组合属性;以及(3)使从可见类学习的回归模型能够很好地推广到不可见类的转换学习策略。我们的零样本学习实验上的一些标准的多标签数据集表明,我们的方法优于各种基线。
2015-03-26 cs.CV cs.LG
Few-Shot Open-Set Audio Classification via Transductive Prototype Refinement and Class Logit Enhancement
针对小样本开放集音频分类的原型易受未知类别污染问题,提出两阶段直推式方法,结合内类度加权与解耦评分,在三个音频数据集上取得最优结果。
2026-08-25 cs.LG cs.SD
A Trichotomy for Transductive Online Learning
Purdue University(普渡大学);Technion – Israel Institute of Technology(以色列理工学院);UC Berkeley(加州大学伯克利分校)
本文研究转导在线学习中学习者错误数量的渐近行为,证明其只能取 n、Θ(log n) 或 Θ(1) 三种值,并给出由 VC 维与 Littlestone 维决定的组合刻画,同时改进常数下界并扩展到多类与不可知设定。
2023-11-29 cs.LG
Multi-View Matrix Completion for Multi-Label Image Classification
Peking University(北京大学);University of Technology, Sydney(悉尼科技大学)
由于多标签图像分类在基于Web的图像分析应用中的重要作用,例如大规模图像检索和浏览,因此对多标签图像分类的兴趣越来越大。矩阵补全最近被引入作为一种用于转导(半监督)多标签分类的方法,并且具有几个明显的优点,包括对特征和标签空间中的缺失数据和背景噪声的鲁棒性。然而,它是有限的,只考虑由一个单一的视图功能,它不能精确地描述包含几个语义概念的图像表示的数据。为了利用从不同视图获取的多个特征,我们必须将不同的特征连接为一个长向量。但是这种级联容易过拟合,并且通常导致基于MC的图像分类的非常高的时间复杂度。因此,我们建议加权合并不同视图的MC输出,并提出了多视图矩阵完成(MVMC)框架的直推式多标签图像分类。为了有效地学习视图组合权重,我们在标记集上应用交叉验证策略。在学习过程中,我们采用了平均精度(AP)损失,这是特别适合于多标签图像分类。最小二乘损耗公式也提出了为了效率,和鲁棒性的算法的基础上的AP损失相比,其他损失进行了研究。在PASCAL VOC' 07和MIRFlickr两个真实数据集上的实验结果表明,MVMC算法能够有效地实现多标签图像的半监督分类,并且能够利用不同特征的互补特性和输出一致性标签来提高多标签图像分类的质量.
2019-04-08 cs.CV cs.LG stat.ML
Gromov-Wasserstein Distillation for Inductive Multi-View Embedding
Instituto Federal do Ceará (IFCE)(塞阿拉联邦学院);Federal University of Ceará (UFC)(塞阿拉联邦大学);Sigma Nova
提出基于重心蒸馏的归纳式框架,将转导式GW-MDS嵌入转化为显式神经映射,在未见样本上保持几何结构并优于直接神经GW训练。
2026-10-01 cs.LG stat.ML
Multi-class Probabilistic Bounds for Self-learning
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LIG(格勒诺布尔信息学实验室)
自学习是一种经典的学习方法,用于标记和未标记的观察,其包括将伪标签赋予具有超过预定阈值的置信度得分的未标记训练实例。同时,伪标记技术易于出错,并且存在将噪声标记添加到未标记的训练数据中的风险。在本文中,我们提出了一个概率框架,用于分析自学习的多类分类方案与部分标记的数据。首先,我们推导出一个多类多数投票分类器的风险的转导界。基于这一结果,我们建议自动选择阈值的伪标记,最大限度地减少转导的界限。然后,我们引入一个错误标记错误模型来分析多数投票分类器在伪标记数据情况下的错误。我们推导出一个概率C-界的多数票错误时,一个不完美的标签。不同数据集上的实证结果表明,我们的框架相比,几个国家的最先进的半监督方法的有效性。
2021-09-29 cs.LG
Cross-Graph Learning of Multi-Relational Associations
Carnegie Mellon University(卡内基梅隆大学)
跨图关系学习(Cross-graph Relational Learning,CGRL)是指通过在多个图上进行联合推理来预测异构对象类型的多关系元组的强度或标签的问题。CGRL是机器学习中的一个开放性挑战,因为当多个图中的节点数量很大时,需要处理的所有可能的元组的数量令人生畏,并且因为标记的训练实例通常非常稀疏。诸如张量因式分解或张量核机器的现有方法不能很好地工作,因为缺乏用于CGRL模型优化的凸公式,算法在处理元组的组合数量时的可扩展性差,和/或学习方法的非转导性质限制了它们在训练中利用未标记数据的能力。本文提出了一种新的框架,制定CGRL作为一个凸优化问题,使转导学习使用标记和未标记元组,并提供了一个可扩展的算法,保证最优解,并享有线性时间复杂度的输入图的大小。在我们的实验与DBLP出版记录的子集和酶多源数据集,所提出的方法成功地扩展到大型交叉图推理问题,并优于其他代表性的方法显着。
2016-05-06 cs.LG
Autoencoder based Hybrid Multi-Task Predictor Network for Daily Open-High-Low-Close Prices Prediction of Indian Stocks
股票价格是高度波动的,趋势的突然变化对于传统的预测模型来说往往是非常有问题的。标准的长短期记忆(LSTM)网络被认为是这种预测的最先进模型。但是,这些模型无法处理价格趋势的突然和剧烈变化。此外,股票的开盘价、最高价、最低价和收盘价(OHLC)也存在一些内在的约束。文献中缺乏对OHLC价格内在属性的研究。我们认为,预测第二天的OHLC价格比预测股票的趋势更具信息性,因为趋势主要是仅使用这些OHLC价格计算的。问题主要集中在今天买明天卖(BTST)交易。在这方面,当用股票价格预先训练时,AE可能是有益的。提出了一种新的框架,其中预训练的编码器级联在多任务预测器网络的前面。这种混合网络可以利用网络组合的力量,既可以处理OHLC约束,也可以捕捉价格的任何突然剧烈变化。可以看出,这样的网络在预测股票价格方面效率要高得多。实验已经扩展到推荐第二天最赚钱和最超买的股票。该模型已在多家印度公司进行了测试,发现拟议模型的建议在300天的测试期内没有造成任何损失。
2022-04-28 cs.LG
A new hybrid approach for crude oil price forecasting: Evidence from multi-scale data
School of Management, Xi'an Jiaotong University(西安交通大学管理学院)
随着互联网技术的加速发展,对原油价格波动影响因素的研究越来越多,谷歌搜索量指数等可获得的数据越来越多地被量化并纳入预测方法。本文将GSVI数据和与原油价格相关的传统经济数据作为自变量,采用多尺度数据,提出了一种新的月度原油价格预测混合方法。该混合方法基于分治策略,由K-means方法、核主成分分析和核极值学习机组成,采用K-means方法对输入数据进行聚类,KPCA进行降维,KELM用于最终原油价格预测。实证结果可以从数据和方法两个层面进行分析。在数据层面上,GSVI数据的水平预测精度优于经济数据,但由于羊群行为的影响,GSVI数据在方向预测精度上的表现与经济数据相反,而混合数据结合了两者的优势,在水平和方向预测精度上都取得了最好的效果。在方法层次上,采用K-means方法的预测效果优于不采用K-means方法的预测效果,说明分而治之策略可以有效地提高预测性能。
2020-02-22 cs.LG q-fin.ST stat.ML
Multi-Product Dynamic Pricing in High-Dimensions with Heterogeneous Price Sensitivity
University of Southern California(南加州大学)
我们考虑的问题,多产品的动态定价,在上下文环境中,为卖方的差异化产品。在这种环境中,客户随着时间的推移而到达,产品由高维特征向量描述。每个客户根据广泛使用的多项Logit(MNL)选择模型选择产品,她的效用取决于产品的功能以及提供的价格。卖方先验不知道选择模型的参数,但可以通过与客户的互动来学习它们。卖方的目标是设计一个定价策略,最大限度地提高她的累积收入。这种模式受到Airbnb平台和在线广告等在线市场的推动。我们用后悔来衡量定价策略的表现,后悔是指对于预先知道选择模型参数并总是设定收入最大化价格的千里眼策略的预期收入损失。我们提出了一个定价策略,名为M3 P,实现了一个$T$ -周期遗憾$O(\log(Td) ( \sqrt{T}+ d\log(T)))$异构价格敏感性下的产品与尺寸$d$的功能。我们还使用信息理论的工具来证明,没有政策可以实现最坏情况下的$T$ -后悔比$Ω(\sqrt{T})$。
2020-05-15 cs.GT cs.LG stat.ML
Enhancing Multi-Step Brent Oil Price Forecasting with Ensemble Multi-Scenario Bi-GRU Networks
University of Verona(维罗纳大学)
针对布伦特原油价格多步预测精度低的问题,提出一种基于三个Bi-GRU网络的集成多场景预测模型,在包含疫情期间的数据集上优于基准模型。
2024-07-15 cs.LG
Beyond One-Step-Ahead Forecasting: Evaluation of Alternative Multi-Step-Ahead Forecasting Models for Crude Oil Prices
准确预测长期未来的原油价格是一个挑战,对政府、企业和投资者都有很大的兴趣。本文提出了一种基于经验模态分解(EMD)的改进混合模型,该模型基于前馈神经网络(FNN)建模框架,结合基于斜率的方法(SBM),能够捕捉原油价格的复杂动态。三种常用的多步提前预测策略,包括迭代策略,直接策略,和MIMO(多输入多输出)的策略,在文献中提出的,检查和比较,并确定了实际的考虑因素,为多步提前预测原油价格的预测策略的选择。WTI(西德克萨斯中质原油)现货价格的每周数据被用来比较EMD-SBM-FNN建模框架下的替代模型与选定的同行的性能。根据预测精度和计算成本进行定量和综合评估。在这项研究中得到的结果表明,建议的EMD-SBM-FNN模型使用MIMO策略是最好的预测精度与认可的计算负荷。
2014-01-08 cs.AI cs.LG
Predicting Stock Price Direction on Earnings Announcement Days using Multi-modal Deep Learning
ETH Zürich(苏黎世联邦理工学院)
本研究结合基本面指标、技术指标和新闻情感,利用LSTM和Transformer模型预测盈利公告日的股价方向,发现Transformer在识别波动方面更敏感,且新闻情感有助于提升性能。
2026-05-25 cs.LG q-fin.ST
Multistep Brent Oil Price Forecasting with a Multi-Aspect Meta-heuristic Optimization and Ensemble Deep Learning Model
University of Verona(维罗纳大学)
针对原油价格预测中超参数敏感和外部因素影响的问题,提出集成五种神经网络并利用灰狼优化在特征选择、数据准备、模型训练和预测融合四个层面优化的混合方法,在布伦特原油数据上实现MSE 0.000127。
2024-12-14 cs.AI cs.CE cs.LG
MRC-LSTM: A Hybrid Approach of Multi-scale Residual CNN and LSTM to Predict Bitcoin Price
Sichuan University(四川大学)
比特币是主要的加密货币之一,其巨大的潜在回报伴随着高风险,带来了巨大的机遇和挑战。比特币的高波动性和影响它们的复杂因素使得研究有效的价格预测方法对全球金融投资者和研究人员具有重要的实际意义。在本文中,我们提出了一种名为MRC-LSTM的新方法,它结合了多尺度残差卷积神经网络(MRC)和长短期记忆(LSTM)来实现比特币收盘价预测。具体地说,多尺度残差模块基于一维卷积,不仅能够自适应地检测多元时间序列中不同时间尺度的特征,而且能够实现这些特征的融合。LSTM具有学习序列中的长期依赖关系的能力,广泛应用于金融时间序列预测。通过混合这两种方法,该模型能够获得高度表达的特征,并有效地学习多变量时间序列的趋势和相互作用。在研究中,除了比特币市场的交易信息外,还考虑了宏观经济变量和投资者关注度等外部因素对比特币价格的影响。我们进行了实验来预测比特币(USD)的每日收盘价,实验结果表明,MRC-LSTM显著优于各种其他网络结构。此外,我们对另外两种加密货币以太坊和莱特币进行了额外的实验,以进一步证实MRC-LSTM在加密货币多变量时间序列短期预测中的有效性。
2021-05-03 cs.LG q-fin.TR
Stock Price Prediction using Multi-Faceted Information based on Deep Recurrent Neural Networks
Shahed University(沙希德大学)
针对股票价格预测问题,提出整合CNN与LSTM网络、结合社交网络情感分析(用Random Forest分类推文情绪)和烛台数据的方法,实现更全面的市场分析与更准确的预测。
2024-11-29 cs.AI cs.LG
A multi-task network approach for calculating discrimination-free insurance prices
在预测建模的应用中,如保险定价,间接或代理歧视是一个主要关注的问题。也就是说,存在这样一种可能性,即受保护的保单持有人的特征是通过预测模型从不受保护的保单持有人的特征中隐含地推断出来的,因此对价格产生了不良(或非法)影响。这个问题的技术解决方案依赖于使用所有保单持有人特征(包括受保护的特征)建立一个最佳估计模型,然后将受保护的特征平均化,以计算个人价格。然而,这种方法需要充分了解投保人的受保护特征,这本身可能是有问题的。在这里,我们解决这个问题,通过使用多任务神经网络架构的索赔预测,它可以只使用受保护的特性的部分信息进行训练,它产生的价格是免费的代理歧视。我们证明了所提出的模型的使用,我们发现,其预测精度是一个传统的前馈神经网络(全信息)。然而,这种多任务网络在部分缺失投保人信息的情况下具有明显的优越性能。
2022-07-06 cs.AI cs.CE cs.LG
Diffusion Variational Autoencoder for Tackling Stochasticity in Multi-Step Regression Stock Price Prediction
National University of Singapore(新加坡国立大学);Eastspring Investments, Singapore(瀚亚投资(新加坡))
本文提出Diffusion-VAE(D-Va)模型,将分层变分自编码器与扩散概率技术结合,通过随机生成过程进行多步股价预测,在预测精度和方差上优于现有方法,并验证了其在投资组合构建中的有效性。
2023-10-29 cs.LG q-fin.CP q-fin.ST
MiMIC: Multi-Modal Indian Earnings Calls Dataset to Predict Stock Prices
Jadavpur University(贾达沃大学)
本研究针对企业收益电话会议后预测股票价格的挑战,开发 MiMIC 多模态印度收益电话会议数据集,提出整合文本、视觉模态与定量变量的预测模型,提升金融预测准确性并公开数据集以促进相关研究。
2025-04-12 cs.AI cs.CL cs.LG