From Zero to The Hero: A Collaborative Market Aware Recommendation System for Crowd Workers
Stevens Institute of Technology(史蒂文斯理工学院)
软件众包的成功依赖于活跃和值得信赖的工人供应池。人群工作者行为的不确定性使得预测工作者的成功并相应地计划具有挑战性。在竞争激烈的众包市场中,对共享任务的成功竞争给众包工作者的决策过程增加了另一层不确定性。对软件工作者行为的初步分析显示,82.9%的任务丢失率令人震惊。这些因素导致需要一个自动化的推荐系统,以提高CSD工作人员在竞争中成功的可见性和可预测性。为此,本文提出了一个协同推荐系统的人群工作者。建议的推荐系统方法使用五个输入指标的基础上工人的合作历史,工人的喜好,在采取任务的奖金和持续时间,工人的专业,和工人的熟练程度。然后,所提出的方法建议最合适的任务,工人竞争的基础上,工人的成功概率的任务。对260名活跃人群工作者的实验结果表明,仅遵循任务推荐的前三个成功概率,工作者的成功率可达86%
2021-07-06 cs.HC cs.LG cs.SE
Modeling User Behaviour in Research Paper Recommendation System
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
在推荐系统的设计中,用户意图往往是动态变化的,它被认为是对用户建模的一个重要因素。最近的研究开始关注预测用户意图(用户想要什么),而不是用户偏好(用户喜欢什么)。在这项工作中,用户意图模型提出了基于深度顺序主题分析。该模型根据感兴趣的主题预测用户的意图。提出了一种由潜在狄利克雷分配(LDA)和Word2Vec组成的混合主题模型(HTM),用于获取用户感兴趣的主题和偏好历史。HTM发现真实的论文主题估计词的主题分布,其中包括句法和语义之间的相关性的话。接下来,为了对用户意图进行建模,提出了基于长短期记忆(LSTM)的顺序深度学习模型。该模型考虑了时间上下文,即用户看到的两个连续文件的点击之间的时间差。对真实世界研究论文数据集的大量实验表明,所提出的方法显着优于最先进的方法。此外,所提出的方法引入了一个新的路线图来模拟用户活动适合的研究论文推荐系统的设计。
2021-07-16 cs.IR cs.LG
Local Algorithms for Estimating Effective Resistance
University of Sheffield(谢菲尔德大学);National Institute of Informatics(国立信息学研究所);University of Glasgow(格拉斯哥大学)
有效电阻是衡量图中两个顶点相似性的一个重要度量。它已经在图聚类、推荐系统和网络可靠性等方面得到了应用。尽管有效电阻的重要性,我们仍然缺乏有效的算法来精确地计算或近似他们在大量的图。在这项工作中,我们设计了几个\emph{local algorithms}估计有效电阻,这是算法,只读取一小部分的输入,同时仍然具有可证明的性能保证。为了说明,我们的主要算法近似任何顶点对$s,t$之间的有效电阻与任意小的附加误差$\varepsilon$在时间$O(\mathrm{poly}(\log n/\varepsilon))$,只要底层图有界混合时间。我们在几个基准数据集上进行了广泛的实证研究,验证了我们的算法的性能。
2021-06-07 cs.DS cs.LG cs.SI
Unbiased Learning for the Causal Effect of Recommendation
Fuji Xerox(富士施乐)
增加用户的积极互动,如购买或点击,是推荐系统的一个重要目标。推荐通常旨在选择用户将与之交互的项目。如果购买了推荐的商品,预计销售额会增加。然而,即使没有推荐,这些物品也可以购买。因此,我们希望推荐那些因推荐而导致购买的商品。这可以被公式化为因果效应的排序问题。尽管它的重要性,这个问题还没有得到很好的探讨,在相关的研究。这是具有挑战性的,因为因果效应的基础事实是不可观察的,并且估计因果效应容易受到当前部署的随机变量产生的偏差的影响。本文提出了一个无偏的学习框架的因果关系的建议。基于逆倾向评分技术,所提出的框架首先构造无偏估计的排名指标。然后,它进行经验风险最小化的估计与倾向封顶,减少了有限的训练样本下的方差。基于该框架,我们开发了一个无偏学习方法的因果效应扩展的排名度量。我们从理论上分析了所提出的方法的无偏性和经验证明,所提出的方法优于其他有偏学习方法在各种设置。
2020-09-23 cs.IR cs.LG stat.ML
Visual Natural Language Query Auto-Completion for Estimating Instance Probabilities
Columbia University(哥伦比亚大学)
我们提出了一个新的任务,估计实例概率的查询自动完成。我们完成了一个用户查询前缀的图像条件。给定完整的查询,我们微调BERT嵌入,以估计广泛的实例集的概率。所得到的实例概率用于选择,同时与分割或注意力机制无关。我们的研究结果表明,使用语言和视觉的自动完成比只使用语言更好,并且微调BERT嵌入可以有效地对图像中的实例进行排名。本着可重复研究的精神,我们提供我们的数据、模型和代码。
2019-10-10 cs.CL cs.CV cs.LG
Location analysis of players in UEFA EURO 2020 and 2022 using generalized valuation of defense by estimating probabilities
Nagoya University(名古屋大学);Japan Science and Technology Agency(日本科学技术振兴机构)
由于事件数据有限,分析团队运动中的防守通常具有挑战性。研究人员以前提出的方法来评估足球队的防守,预测球的获得和被攻击的事件使用的所有球员和球的位置。然而,他们没有考虑到事件的重要性,假设所有22名球员的完美观察,并且没有充分调查多样性的影响(例如,国籍和性别)。在这里,我们提出了一个广义的估值方法的防守球队的得分缩放的预测概率的事件。利用2020年欧洲杯男子足球赛和2022年欧洲杯女子足球赛的广播视频帧中所有球员的开源位置数据,我们研究了球员数量对预测的影响,并通过分析比赛验证了我们的方法。结果表明,对于被攻击、得分和失球的预测,所有球员的信息是不必要的,而球的获得需要三到四个进攻和防守球员的信息。通过比赛分析,我们解释了2020年欧洲杯决赛球队的出色防守。我们的方法可能适用于足球比赛中的广播视频帧的位置数据。
2022-11-30 cs.LG
Realistic risk-mitigating recommendations via inverse classification
University of Iowa(爱荷华大学)
逆分类,对测试点进行有意义的扰动,使其更可能具有所需分类的过程,以前已经使用来自单个静态时间点的数据进行了处理。这种方法产生了夸大的概率估计,源于一个隐含的假设,即建议立即执行。我们建议使用纵向数据,以减轻这些问题在两个方面。首先,我们使用过去的结果概率作为现在的特征。使用这种过去的概率将历史行为与当前联系起来,允许在进行初始概率估计和随后执行逆分类时考虑更多信息。其次,在逆分类应用之后,优化实例的不变特征(例如,年龄)使用来自下一个纵向时间段的值来更新。然后重新评估优化的测试实例概率。以这种方式更新不可改变的特征反映了这样的概念,即由于遵循反向分类建议而导致的结果可能性的改善不会立即实现。正如我们的实验所证明的那样,通过考虑这些因素,可以获得更现实的概率估计。
2016-11-13 cs.LG stat.ML
Estimating Uncertainty Online Against an Adversary
Stanford University(斯坦福大学)
评估不确定性是确保机器学习系统安全性和可靠性的重要一步。现有的不确定性估计技术在它们的建模假设不被满足时可能失败,例如,当数据分布不同于在训练时看到的数据分布时。在这里,我们提出了通过校准概率(即从长远来看与经验结果频率相匹配的概率)评估分类算法的不确定性的技术,并且这些技术保证在分布外输入(包括对手生成的输入)上是可靠的(即准确和校准)。这代表了经典在线学习的扩展,除了在对抗性假设下保证准确性之外,还可以处理不确定性。我们为我们的方法建立了正式的保证,并在两个现实问题上验证了它们:问答和基因组数据的医疗诊断。
2017-01-22 cs.LG
Learning Peer Influence Probabilities with Linear Contextual Bandits
University of Illinois Chicago(伊利诺伊大学芝加哥分校);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
针对网络环境中同伴影响概率的异质性问题,提出基于线性上下文赌博机的在线学习框架,揭示遗憾最小化与估计误差之间的权衡,并设计可调参数的不确定性引导探索算法实现任意权衡点。
2026-06-29 cs.LG cs.SI
From Observational Data to Clinical Recommendations: A Causal Framework for Estimating Patient-level Treatment Effects and Learning Policies
Faculty of Data and Decision Sciences, Technion(数据与决策科学学院,技术ion);Blavatnik School of Computer Science, Tel-Aviv University(Blavatnik计算机科学学院,特拉维夫大学);Department of Cardiology, Rambam Health Care Campus(心内科部,拉马姆医疗中心);The Bruce Rappaport Faculty of Medicine, Technion(布鲁斯·拉帕波特医学院,技术ion);Department of Statistics and Operations Research, School of Mathematical Sciences, Tel Aviv University(统计与运筹学部,数学科学学院,特拉维夫大学)
本文提出一个构建患者特定治疗推荐模型的因果框架,整合现有方法形成实用流程,并在心力衰竭伴急性肾损伤患者的真实用例中验证了其能改善预后。
2025-07-16 cs.LG stat.AP stat.ML
H-VAEP and H-xT: Valuing Offensive On-the-Ball Actions in Handball by Estimating Probabilities
Paderborn University(帕德博恩大学);SG Flensburg-Handewitt(弗伦斯堡-汉德维特体育俱乐部)
本文将足球的xT与VAEP框架适配至手球,开发H-xT与H-VAEP模型,利用手球德甲数据验证其有效性并发布代码,实现了手球球员的合理评估。
2026-08-14 cs.AI cs.LG
Estimating Phoneme Class Conditional Probabilities from Raw Speech Signal using Convolutional Neural Networks
Idiap Research Institute(IDIAP研究所)
在混合隐马尔可夫模型/人工神经网络(HMM/ANN)自动语音识别(ASR)系统中,首先基于诸如语音感知或/和语音产生知识的先验知识从语音信号中提取声学特征,然后用ANN对声学特征进行建模,从而估计音素类条件概率。更具体地说,在图像处理和文本处理领域中,已经表明这种分而治之的策略(即,分离特征提取和建模步骤)可能不是必需的。从这些研究的动机,在卷积神经网络(CNN)的框架下,本文研究了一种新的方法,其中输入到人工神经网络的原始语音信号和输出是音素类条件概率估计。在TIMIT音素识别任务中,我们研究了不同的ANN架构,以显示CNN的优势,并将所提出的方法与传统方法进行比较,其中,基于频谱的特征MFCC由多层感知器提取和建模。我们的研究表明,所提出的方法可以产生可比或更好的音素识别性能相比,传统的方法。这表明CNN可以从原始语音信号中自动学习与音素分类相关的特征。
2013-06-12 cs.CL cs.LG cs.NE
Estimating the Probabilities of Rare Outputs in Language Models
Alignment Research Center(对齐研究中心)
本文研究语言模型中稀有输出概率的估计问题,比较重要性采样与激活外推两类方法,发现前者更优,并论证低概率估计对最坏情况性能保证的重要性。
2025-02-06 cs.AI cs.LG stat.ML
Using Eigencentrality to Estimate Joint, Conditional and Marginal Probabilities from Mixed-Variable Data: Method and Applications
La Trobe University(拉筹伯大学)
估计某些变量集合上的联合、条件和边际概率分布的能力对于许多常见的机器学习任务具有很大的实用性。然而,估计这些分布可能具有挑战性,特别是在数据包含离散和连续变量的混合的情况下。本文提出了一种直接从数据集估计这些分布的非参数方法。数据首先表示为由对象节点和属性值节点组成的图。根据要估计的分布,然后构造适当的特征向量方程。然后求解该方程以找到图的相应平稳分布,然后可以从中估计和采样所需的分布。本文演示了如何将该方法应用于许多常见的机器学习任务,包括分类,回归,缺失值填补,离群值检测,随机向量生成和聚类。
2018-09-19 cs.LG stat.ML
Making Sense of Random Forest Probabilities: a Kernel Perspective
University of Pennsylvania(宾夕法尼亚大学);Wharton School(沃顿商学院)
随机森林是用于估计机器学习分类任务中的概率的流行工具。然而,实现这一点的方法是无原则的:一个简单的计算森林中投票给某个类的树木的比例。在本文中,我们建立了随机森林和核回归之间的联系。这将随机森林概率估计置于更可靠的统计基础上。作为我们调查的一部分,我们开发了一个模型的邻近核,并将其与几何和稀疏性的估计问题。我们还提供了调整随机森林以提高其概率估计的直觉和建议。
2018-12-14 cs.LG stat.ML
Estimating the historical and future probabilities of large terrorist events
University of Colorado, Boulder(科罗拉多大学博尔德分校);ETH Zürich(苏黎世联邦理工学院)
在复杂的社会系统中,包括政治冲突、经济和社交网络,具有右偏分布的事件是普遍存在的,并且这些系统有时会产生非常大的事件。例如,9/11恐怖事件造成近3000人死亡,几乎是第二大事件的六倍。但是,考虑到现代恐怖主义的历史记录,这种巨大的生命损失在统计上是不可能的吗?由于经验分布上尾的大幅波动,准确估计这种事件的概率变得复杂。我们提出了一个通用的统计算法,使这样的估计,它结合了半参数模型的尾部行为和非参数引导。应用于全球恐怖事件数据库,我们估计自1968年以来观察到至少一个9/11规模或更大事件的全球历史概率为11- 35%。这些结果在经济发展的全球变化、国内与国际事件、所使用的武器类型以及截止到1998年的截断历史等条件下都是稳健的。然后,我们使用这个程序来对未来十年至少一个类似事件进行数据驱动的统计预测。
2014-01-08 cs.LG physics.data-an physics.soc-ph
Estimating the number of household TV profiles based in customer behaviour using Gaussian mixture model averaging
Hamilton Institute, Maynooth University(马尼特大学哈密尔顿研究所);Department of Mathematics and Statistics, Maynooth University(马尼特大学数学与统计学系);Ulster University(乌斯特大学);British Telecommunications(英国电信)
针对家庭多人观看导致画像难识别的问题,提出高斯混合模型平均结合贝叶斯随机游走的框架,可估计家庭电视画像数量、特征演变及不确定性。
2025-05-15 cs.LG stat.ME
Off-Policy Evaluation for Recommendations with Missing-Not-At-Random Rewards
Chuo University Graduate School(中央大学研究生院);Chuo University(中央大学)
针对日志数据中同时存在展示位置和奖励非随机缺失偏差导致OPE估计器偏差显著的问题,提出利用日志策略和奖励观测两种概率作为倾向得分的新型估计器,实验证明其在偏差增加时仍优于其他估计器。
2025-02-13 cs.LG stat.ML
Entry-Specific Bounds for Low-Rank Matrix Completion under Highly Non-Uniform Sampling
School of Operations Research and Information Engineering, Cornell University(康奈尔大学运筹学与信息工程学院);Department of Computer Sciences, University of Wisconsin-Madison(威斯康星大学麦迪逊分校计算机科学系)
针对高度非均匀采样的低秩矩阵补全,本文提出在较小子矩阵上估计并给出逐条目误差上界,且该界在一定条件下匹配极小极大下界。
2024-02-29 cs.LG stat.ML
Graphical Model Sketch
Adobe Research(Adobe研究院);Rutgers(罗格斯大学);TTI(丰田技术研究院)
结构化的高基数数据出现在许多领域,对建模和推理都提出了重大挑战。图形模型是一种流行的建模结构化数据的方法,但它们不适合高基数变量。count-min(CM)草图是一种在高基数数据中估计概率的流行方法,但它不能很好地扩展到几个变量之外。在这项工作中,我们汇集了图形模型和计数草图的想法,并提出和分析了几种方法来估计结构化的高基数数据流的概率。我们近似的关键思想是使用图形模型的结构,并通过“草图”近似估计其因子,该草图使用随机投影对高基数变量进行散列。我们的近似是计算效率和它们的空间复杂度是独立的变量的基数。我们的误差界是乘法和显着改善后的CM草图,一个国家的最先进的方法来估计流中的概率。我们评估我们的近似合成和现实世界的问题,并报告了一个数量级的改进CM草图。
2016-07-18 cs.DS cs.LG stat.ML
Learning Branch Probabilities in Compiler from Datacenter Workloads
Google(谷歌)
估计条件分支指令被执行的概率是一个重要的分析,它可以在现代编译器中实现许多优化。当使用Profile Guided Optimizations(PGO)时,编译器能够对分支概率进行很好的估计。在没有配置文件信息的情况下,编译器会为此目的使用解析法。在这项工作中,我们提出从数据中心工作负载获得的大量数据库中学习分支概率。使用度量,包括均方根误差,平均绝对误差和交叉熵,我们表明,机器学习模型提高了18-50%的分支概率估计相比,编译器并行。这意味着在40个基准测试套件中的24个上,性能提高了8.1%,在套件上有1%的几何改进。这也导致一个重要的搜索应用程序的性能提高超过1.2%。
2022-02-10 cs.LG cs.PF
Fashion DNA: Merging Content and Sales Data for Recommendation and Article Mapping
Zalando SE(Zalando 公司)
我们提出了一种方法来确定时尚DNA,坐标向量定位时尚项目在一个抽象的空间。我们的方法基于一个深度神经网络架构,该架构可以摄取精选的文章信息,如标签和图像,并经过训练以预测大量常客的销售。在这个过程中,客户风格偏好的双重空间自然产生。对这些空间的度量的解释很简单:时尚DNA和客户风格向量的乘积产生客户-物品对的预测购买可能性,而时尚DNA向量之间的角度是物品相似性的度量。重要的是,我们的模型能够产生无偏的购买概率的时尚项目的基础上,仅根据文章的信息,即使在没有销售数据,从而规避了“冷启动问题”的协作推荐方法。同样,它可以轻松可靠地推广到训练集之外的客户。我们尝试基于视觉和/或标签项数据的时尚DNA模型,评估其推荐能力,并讨论由此产生的文章相似性。
2016-09-08 cs.IR cs.LG
On learning parametric-output HMMs
Ben-Gurion University(本-古里安大学);Weizmann Institute of Science(魏茨曼科学研究所)
我们提出了一种新的方法来学习隐马尔可夫模型的输出分布根据一个参数的家庭。这是通过{\em解耦}学习任务分为两个步骤来完成的:首先估计输出参数,然后估计隐藏状态转移概率。第一步通过将混合模型拟合到输出平稳分布来完成。给定混合模型的参数,第二步被公式化为一个容易求解的凸二次规划的解。我们对估计的转移概率进行了误差分析,并表明它们对混合参数估计中的小扰动具有鲁棒性。最后,我们支持我们的分析与一些令人鼓舞的实证结果。
2013-02-25 cs.LG math.ST stat.ML