Preference Exploration for Efficient Bayesian Optimization with Multiple Outcomes
Meta;Cornell University(康奈尔大学)
我们考虑贝叶斯优化昂贵的评估实验,产生向量值的结果,决策者(DM)的偏好。这些偏好由效用函数编码,该效用函数以封闭形式未知,但可以通过要求DM表达对结果向量的偏好来估计。为了解决这个问题,我们开发了贝叶斯优化与偏好探索,一个新的框架,交互式实时偏好学习与DM通过成对比较的结果之间的交替,贝叶斯优化与学习的DM效用和结果的组合模型。在这个框架内,我们提出了专门为这项任务设计的偏好探索策略,并通过广泛的模拟研究证明了它们的性能。
2022-03-21 cs.LG math.OC stat.ML
Sparse Bayesian Learning via Stepwise Regression
Cornell University(康奈尔大学)
稀疏贝叶斯学习(SBL)是一个强大的框架,用于在概率模型中实现稀疏性。在这里,我们提出了一个坐标上升算法SBL称为相关匹配追踪(RMP),并表明,由于其噪声方差参数为零,RMP表现出惊人的连接逐步回归。此外,我们得到新的保证逐步回归算法,这也揭示了RMP。我们对前向回归的保证改进了具有噪声的正交匹配追踪的确定性和概率结果。我们对确定系统的后向回归的分析最终在子集选择问题的最优解的残差上有界,如果满足,则保证结果的最优性。据我们所知,这个界限是第一个可以在多项式时间内计算的,并且主要取决于矩阵的最小奇异值。我们报告使用各种特征选择算法的数值实验。值得注意的是,RMP及其限制性变体都是有效的,并保持了相关特征的强大性能。
2021-06-11 cs.IT cs.LG math.IT
Bayesian Model Pursuit and Near-Oracle Sparse Signal Discovery Under Dependence
Texas A&M University(德克萨斯农工大学);Indian Statistical Institute(印度统计研究所)
提出贝叶斯逐步下降(BSD)过程,利用后验引导的模型追踪策略在任意已知协方差依赖下进行稀疏信号发现,模拟显示其接近贝叶斯最优,并具有可容许性和计算简化优势。
2026-06-23 stat.ME
Heterogeneity Pursuit for Spatial Point Pattern with Application to Tree Locations: A Bayesian Semiparametric Recourse
空间点模式数据是经常遇到的。一个灵活的回归模型的基础强度是必不可少的空间点模式的特征和了解潜在的风险因素对这种模式的影响。我们提出了一个贝叶斯半参数回归模型,其中观察到的空间点遵循一个空间泊松过程的强度函数,调整非参数基线强度与乘法协变量的影响。基线强度是分段恒定的,接近一个有动力的中国餐馆的过程之前,防止不必要的大量件。参数回归部分允许在回归系数之前通过加标平板进行变量选择。提出了一种有效的马尔可夫链蒙特卡罗(MCMC)算法。的方法的性能进行了验证,在一个广泛的模拟研究。在应用的位置Beilschmiedia pendula树在巴罗科罗拉多岛森林动态研究地块在巴拿马中部,空间异质性归因于土壤测量的一个子集,除了地理测量与空间变化的基线强度。
2020-03-24 stat.ME
On Preference Learning Based on Sequential Bayesian Optimization with Pairwise Comparison
GN Group(GN集团)
从信息论角度将偏好学习建模为用户与智能体交互系统,提出基于序贯贝叶斯优化与成对比较的智能体,通过极大极小优化归一化加权KL散度收集最具信息量的数据,高效学习用户偏好。
2023-11-22 cs.AI cs.IT cs.LG
Bayesian Spatial Homogeneity Pursuit of Functional Data: an Application to the U.S. Income Distribution
收入分配描述了一个实体的总财富如何在其人口中分配。区域经济学研究者感兴趣的问题是理解不同地区之间收入分配的空间同质性。在经济学中,洛伦兹曲线是一个众所周知的收入分配函数表示。在本文中,我们提出了有限混合物(MFM)模型以及马尔可夫随机场约束有限混合物(MRFC-MFM)模型的空间功能数据分析的背景下,捕捉空间均匀性的洛伦兹曲线。我们设计了有效的马尔可夫链蒙特卡罗(MCMC)算法来同时推断空间函数数据的聚类数和聚类结构的后验分布。大量的仿真研究表明,所提出的方法相比,现有的方法的有效性。我们提出的空间功能聚类方法,国家一级的收入洛伦兹曲线从美国社区调查公共使用的微数据样本(CAMS)的数据。研究结果揭示了美国各州收入分配的一些重要的聚类模式。
2021-06-14 stat.AP stat.ME
Safe Imitation Learning via Fast Bayesian Reward Inference from Preferences
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Applied Research Laboratories, The University of Texas at Austin(德克萨斯大学奥斯汀分校应用研究实验室)
通过演示进行贝叶斯奖励示教学习,可在执行模仿学习时进行严格的安全性和不确定性分析。然而,贝叶斯奖励学习方法对于复杂的控制问题通常是计算上难以处理的。我们提出了贝叶斯奖励外推(贝叶斯REX),一个高效的贝叶斯奖励学习算法,规模高维模仿学习的问题,通过预训练低维特征编码通过自我监督的任务,然后利用偏好的演示,以执行快速贝叶斯推理。Bayesian REX可以从演示中学习玩Atari游戏,而无需访问游戏分数,并且可以在个人笔记本电脑上仅用5分钟就从奖励函数中生成100,000个样本。贝叶斯REX还导致模仿学习性能与仅学习奖励函数的点估计的最新方法竞争或更好。最后,Bayesian REX能够在不访问奖励函数样本的情况下进行高效的高置信度策略评估。这些高置信度性能界限可用于对各种评估策略的性能和风险进行排名,并提供一种检测奖励投机行为的方法。
2020-12-17 cs.LG stat.ML
Deep Bayesian Active Learning for Preference Modeling in Large Language Models
University of Oxford(牛津大学)
针对大语言模型偏好标注成本高的问题,提出新型贝叶斯主动学习策略BAL-PM,通过兼顾高不确定性样本与提示分布熵减少冗余采集,实验显示其所需标签量较现有方法降低33%-68%。
2024-10-28 cs.CL cs.LG stat.ML
Multi-Objective Bayesian Optimization with Active Preference Learning
Nagoya Institute of Technology(名古屋工业大学);RIKEN AIP(理化学研究所人工智能项目);Nagoya University(名古屋大学)
针对多目标优化中识别整个Pareto前沿成本过高的问题,提出一种贝叶斯优化方法,通过成对偏好和改进请求交互式估计决策者偏好,并结合主动学习策略以最小化交互成本,从而高效识别最受偏好的解。
2023-11-22 cs.LG stat.ML
Multi-objective Bayesian optimisation with preferences over objectives
Applied Artificial Intelligence Institute(应用人工智能研究院);Deakin University(迪肯大学)
我们提出了一个多目标贝叶斯优化算法,允许用户表达偏好顺序约束的类型的目标“目标A比目标B更重要”。这些偏好是基于所获得的解决方案相对于优选的目标函数的稳定性来定义的。而不是试图找到一个完整的帕累托前沿的代表性子集,我们的算法选择满足这些约束条件的帕累托最优点。我们制定了一个新的收购功能的基础上预期改善占主导地位的超体积(EHI),以确保帕累托前满足约束的子集进行了彻底的探索。超体积计算由满足来自梯度高斯过程模型的约束的点的概率加权。我们在合成问题和现实问题上展示了我们的算法。
2019-11-13 cs.AI cs.LG stat.ML
Bayesian Optimization with Preference Exploration using a Monotonic Neural Network Ensemble
University of Warwick(沃里克大学);Amazon(亚马逊)
本文提出基于单调神经网络集合的贝叶斯优化方法,通过整合单调性提升性能,优于现有方法并具备噪声鲁棒性。
2026-01-14 cs.LG math.OC stat.ML
Bayesian Active Learning for Classification and Preference Learning
University of Cambridge(剑桥大学)
信息论主动学习在概率模型中得到了广泛的研究。对于简单回归,最优近视策略是容易处理的。然而,对于其他任务和更复杂的模型,如非参数模型的分类,最佳解决方案更难计算。目前的方法是通过近似来实现易处理性。我们提出了一种方法,表示信息增益的预测熵,并将此方法应用于高斯过程分类器(GPC)。我们的方法使最小的近似,充分的信息理论的目标。我们的实验性能媲美许多流行的主动学习算法,并具有相同或更低的计算复杂度。我们比较好的决策理论的方法,这是更多的信息,需要更多的计算时间。其次,通过将二进制偏好学习问题转化为分类问题,将算法扩展到高斯过程偏好学习问题。
2011-12-24 cs.LG stat.ML
Understanding Hidden Spatial Preferences in Bayesian Optimization
Research Institutes of Sweden (RISE)(瑞典研究机构(RISE));Uppsala University(乌普萨拉大学)
该研究针对贝叶斯优化中后验不确定性的空间偏好问题,通过固定预测模型、用空间权重场结合神经替代模型修改探索项的空间偏好,实验表明该方法可降低优化早期的后悔值,提升性能。
2026-10-14 cs.LG stat.ML
Scalable Bayesian Preference Learning for Crowds
Technische Universität Darmstadt(达姆施塔特工业大学)
我们提出了一种可扩展的贝叶斯偏好学习方法,用于联合预测个人的偏好以及群体的共识。人们的意见往往差异很大,因此很难从少量的个人数据中预测他们的偏好。当每个项目的标签很少时,个体偏见也使得推断群体的共识变得更加困难。我们通过将矩阵分解与高斯过程相结合来解决这些挑战,使用贝叶斯方法来考虑噪声和稀疏数据所产生的不确定性。我们的方法利用输入特征,如文本嵌入和用户元数据,来预测不在训练集中的新项目和用户的偏好。由于以前基于高斯过程的解决方案不能扩展到大量的用户,项目或成对标签,我们提出了一种随机变分推理方法,限制计算和内存成本。我们的推荐任务的实验表明,我们的方法是有竞争力的,尽管我们的可扩展的推理近似与以前的方法。我们展示了该方法的可扩展性上的自然语言处理任务与成千上万的用户和项目,并显示在这个任务的最先进的改进。我们将我们的软件公开用于未来的工作。
2019-12-11 cs.CL cs.HC cs.LG
Bayesian nonparametric Plackett-Luce models for the analysis of preferences for college degree programmes
University of Oxford(牛津大学);University College Dublin(都柏林大学学院)
在本文中,我们提出了一个贝叶斯非参数模型的聚类部分排名数据。我们首先开发一个贝叶斯非参数扩展流行的Plackett-Luce选择模型,可以处理无限数量的选择项。我们的框架是基于随机原子措施的理论,事先指定的一个完全随机的措施。我们对给定数据的后验分布进行了拟合,并导出了一个简单有效的Gibbs抽样器用于后验模拟。然后,我们开发了一个Dirichlet过程混合扩展我们的模型,并将其应用于调查爱尔兰中学毕业生之间的大学学位课程的偏好集群。建立了对学位课程有类似偏好的申请人集群,我们确定第三级机构的主题和地理位置符合这些集群。
2014-08-01 cs.LG stat.ME stat.ML
Multi-Attribute Bayesian Optimization With Interactive Preference Learning
Cornell University(康奈尔大学);Uber(优步)
我们认为黑箱全局优化的耗时评估功能的决策者(DM)的偏好必须学习。每个可行的设计都与一个耗时的属性向量评估相关联,每个属性向量被分配给DM的效用函数,这可以近似地使用属性向量对表示的偏好来学习。过去的工作已经使用了这个效用函数的点估计,好像它是无误差的单目标优化。然而,效用估计误差可能会产生较差的建议设计。此外,这种方法产生了一个单一的建议“最佳”设计,而DM往往更喜欢从菜单中选择。提出了一种新的带偏好学习的多属性贝叶斯优化方法。我们的方法承认偏好估计的不确定性,并隐式地选择设计来评估,不仅是一个单一的估计效用函数,但一系列可能的。我们的方法的结果是一个菜单的设计和评估的属性,DM作出最终的选择。我们证明了我们的方法在各种实验的价值和灵活性。
2020-03-03 cs.LG math.OC stat.ML
Preference-Aware Constrained Multi-Objective Bayesian Optimization
Washington State University(华盛顿州立大学)
本文讨论了当输入空间的大部分是不可行的(即,违反约束)。这一问题在包括模拟电路和电力系统设计在内的许多工程设计问题中都存在。我们的总体目标是在一小部分可行的输入设计上近似最优Pareto集。关键的挑战包括设计空间的巨大规模,多个目标和大量的约束条件,以及一小部分可行的输入设计,只能在执行昂贵的模拟后才能确定。我们提出了一种新的和有效的偏好感知约束多目标贝叶斯优化方法称为PAC-MOO来解决这些挑战。其关键思想是学习输出目标和约束的代理模型,并在每次迭代中选择候选输入进行评估,以最大限度地提高所获得的关于最优约束Pareto前沿的信息,同时考虑对目标的偏好。我们对两个真实世界的模拟电路设计优化问题的实验证明了PAC-MOO的有效性。
2023-03-23 cs.AI cs.LG math.OC
Bayesian algorithmic perfumery: A Hierarchical Relevance Vector Machine for the Estimation of Personalized Fragrance Preferences based on Three Sensory Layers and Jungian Personality Archetypes
University of Groningen(格罗宁根大学)
本研究提出一种结合层级相关向量机与荣格人格原型的贝叶斯算法,用于个性化香氛推荐,通过三层香气偏好与人格特质关联,实现自适应可解释推荐。
2024-11-06 cs.LG stat.AP
Preference elicitation and inverse reinforcement learning
Frankfurt Institute for Advanced Studies(法兰克福高等研究院);EPFL(洛桑联邦理工学院)
我们陈述了逆强化学习在偏好诱导方面的问题,从而得到了一个原则性的(贝叶斯)统计公式。这概括了以前的工作贝叶斯逆强化学习,并允许我们获得一个后验分布代理的偏好,政策和可选的,获得的奖励序列,从观察。通过分析和实验结果,我们研究了所得方法与其他统计方法的关系。我们表明,偏好可以准确地确定,即使所观察到的代理的政策是次优相对于自己的喜好。在这种情况下,显着改善的政策,相对于代理的喜好,获得相比,其他方法和表现的政策。
2011-06-29 cs.LG stat.ML
Deep Bayesian Reward Learning from Preferences
University of Texas at Austin(德克萨斯大学奥斯汀分校)
贝叶斯逆强化学习(IRL)方法是安全模仿学习的理想方法,因为它们允许学习代理推理奖励的不确定性和学习策略的安全性。然而,贝叶斯IRL是计算上棘手的高维问题,因为从后验的每个样本需要解决整个马尔可夫决策过程(MDP)。虽然存在非贝叶斯深度IRL方法,但这些方法通常推断奖励函数的点估计,从而排除了严格的安全性和不确定性分析。我们提出了贝叶斯奖励外推(B-REX),一个高效的,基于偏好的贝叶斯奖励学习算法,可扩展到高维,视觉控制任务。我们的方法使用继任者的功能表示和偏好的演示,有效地生成样本的后验分布的演示者的奖励函数,而不需要一个MDP求解器。使用后验样本,我们演示了如何在模仿学习设置中计算策略性能的高置信度界限,其中地面真实奖励函数是未知的。我们评估我们提出的方法学习玩雅达利游戏的任务,通过模仿学习从像素输入,没有访问游戏得分。我们证明了B-REX学习的模仿策略与最先进的深度模仿学习方法具有竞争力,该方法只学习奖励函数的点估计。此外,我们证明了通过B-REX生成的后验样本可以用于计算各种评估策略的高置信度性能界限。我们表明,高置信度的性能界限是有用的,准确地排名不同的评价政策时,奖励函数是未知的。我们还表明,高置信度的性能界限可能是有用的检测奖励投机。
2019-12-10 cs.AI cs.LG stat.ML
Integrating Response Time and Attention Duration in Bayesian Preference Learning for Multiple Criteria Decision Aiding
School of Management, Xi’an Jiaotong University(西安交通大学管理学院);Institute of Computing Science, Poznan University of Technology(波兹南理工大学计算科学研究所);Hubei University of Economics(湖北经济学院)
提出整合响应时间与注意力时长的多准则贝叶斯偏好学习框架,通过加性价值函数和贝叶斯后验推断,利用行为线索提升偏好重构准确性,实验验证其优于传统方法。
2025-04-21 cs.LG stat.AP
R-MBO: A Multi-surrogate Approach for Preference Incorporation in Multi-objective Bayesian Optimisation
University of Exeter(埃克塞特大学)
许多现实世界的多目标优化问题依赖于计算昂贵的函数评估。多目标贝叶斯优化(BO)可以用来减少计算时间,找到一组近似的帕累托最优解。在许多现实问题中,决策者对目标函数有一些偏好。在多目标BO中加入偏好的一种方法是使用标度函数并在其上构建单代理模型(单代理方法)。首先,标量化函数和目标函数的适应度景观可能不相似。其次,该方法假设标度化函数分布是高斯分布,并且因此获取函数的封闭形式表达,例如,可以使用预期的改进。我们克服了这些限制,通过建立独立的代理模型(多代理方法)对每个目标函数,并表明标量函数的分布不是高斯的。我们使用广义值分布来近似分布。我们提出了一个先验的多代理方法,将理想的目标函数值(或参考点)作为决策者的偏好,在多目标BO。基准和现实世界的优化问题的结果和比较与现有的单代理方法显示所提出的方法的潜力。
2022-04-27 cs.AI cs.LG math.PR
Modeling Preferences: A Bayesian Mixture of Finite Mixtures for Rankings and Ratings
排名和评级通常用于表达偏好,但提供不同的补充信息。排名提供有序和无标度比较,但缺乏粒度;评级提供基本和粒度评估,但可能是高度主观或不一致的。由于缺乏原则性的方法,直到最近才联合收集和分析排名和评级。在这项工作中,我们提出了一个灵活的,联合统计模型的排名和评级下的异质偏好:布拉德利-特里-Luce-Binomial(BTL-Binomial)。我们采用贝叶斯混合有限混合物(MFM)的方法来估计异质偏好,了解其固有的不确定性,并作出准确的决定,排名和评级的基础上联合。我们证明了BTL-二项式MFM方法在同行评审和调查数据背景下的真实和模拟数据集上的排名和评级偏好的效率和实用性。
2023-01-23 stat.ME
Gradient-based Optimization for Bayesian Preference Elicitation
Google Research(谷歌研究院)
随着推荐系统(RS)的交互性和会话性越来越强,有效的获取用户偏好的技术变得越来越重要。一个常见的和概念上有吸引力的贝叶斯标准选择查询是期望值的信息(EVOI)。不幸的是,它是计算上禁止构造查询与最大EVOI在RS与大项目空间。我们通过引入EVOI的连续公式来解决这个问题,EVOI是一个可微网络,可以使用现代机器学习(ML)计算框架(例如,TensorFlow、PyTorch)。我们利用这一点开发一种新的,可扩展的蒙特卡罗方法EVOI优化,这是更大的项目空间比方法需要明确枚举的项目可扩展性。虽然我们强调使用这种方法进行成对(或k-明智)的项目比较,我们也展示了我们的方法可以适应查询涉及的项目属性或“部分项目”的子集,这往往是更认知管理的用户。实验表明,我们的基于梯度的EVOI技术在几个领域实现了最先进的性能,同时扩展到大的项目空间。
2019-11-20 cs.AI cs.LG stat.ML
Dueling Posterior Sampling for Preference-Based Reinforcement Learning
California Institute of Technology(加州理工学院);Tsinghua University(清华大学)
在基于偏好的强化学习(RL)中,智能体与环境交互,同时接收偏好而不是绝对反馈。虽然基于偏好的强化学习的研究活动越来越多,但允许易于处理的理论分析的正式框架的设计仍然是一个开放的挑战。基于RL中基于偏好的强盗学习和后验采样的思想,我们提出了DUELING POSTERIOR SAMPLING(DPS),它采用基于偏好的后验采样来学习系统动态和控制偏好反馈的潜在效用函数。由于偏好反馈提供的轨迹,而不是个人的状态-动作对,我们开发了一个贝叶斯方法的信用分配问题,翻译偏好的状态-动作奖励模型的后验分布。本文利用贝叶斯线性回归信用分配模型证明了DPS的渐近贝叶斯无遗憾率。据我们所知,这是基于偏好的强化学习的第一个遗憾保证。我们还讨论了其他信用分配模型的证明方法的可能途径。最后,我们评估的方法经验,显示竞争力的表现对现有的基线。
2020-06-29 cs.AI cs.LG stat.ML
Bayesian Learning of Consumer Preferences for Residential Demand Response
V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences(俄罗斯科学院V.A.特拉佩兹尼科夫控制科学研究所);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究所);National Research University Higher School of Economics(国家研究型高等经济学院)
本文提出一种贝叶斯学习算法,用于估计消费者舒适度函数,通过历史家电使用数据实现能源节约,优于传统回归分析方法,可扩展至控制供暖和制冷系统。
2017-01-27 cs.LG cs.SY eess.SY
A Bayesian latent class reinforcement learning framework to capture adaptive, feedback-driven travel behaviour
Choice Modelling Centre & Institute for Transport Studies, University of Leeds(选择建模中心及交通研究学院,利兹大学);DTU Management, Technical University of Denmark(技术大学丹麦管理学院);Institute of Transport and Logistics Studies, University of Sydney(交通与物流研究学院,悉尼大学);College of Business, Al Yamamah University, Riyadh, Saudi Arabia(商学院,阿尔亚玛马大学,利雅得,沙特阿拉伯)
本文提出了一种贝叶斯潜在类强化学习框架,用于捕捉适应性反馈驱动的旅行行为,通过驾驶模拟器数据集验证了三种不同个体类别的偏好演变模式。
2026-08-14 cs.LG econ.EM stat.ML
Sequential Rank and Preference Learning with the Bayesian Mallows Model
University of Oslo(奥斯陆大学);Lancaster University(兰卡斯特大学);OsloCentre for Biostatistics and Epidemiology, University of Oslo(奥斯陆大学生物统计与流行病学中心)
本文提出基于贝叶斯马洛斯模型的序列估计算法,通过嵌套序列蒙特卡罗方法实现高效后验推断,并在F1车手排名中展示应用。
2025-06-03 stat.CO
Bayesian Deck-of-cards-based Ordinal Regression with Sequential Preference Elicitation
Poznań University of Technology(波兹南理工大学);University of Catania(卡塔尼亚大学)
提出B-DOR,一种基于扑克牌式排序的贝叶斯序数回归方法,通过累积链接似然建模偏好强度,采用两种贝叶斯推断算法并支持多步诱导,实验证明其优于现有方法并适用于综合指标构建。
2026-09-30 cs.LG math.OC stat.ML
Learning Personalized Thermal Preferences via Bayesian Active Learning with Unimodality Constraints
Purdue University(普渡大学);School of Mechanical Engineering, Purdue University(普渡大学机械工程学院);Lyles School of Civil Engineering, Purdue University(普渡大学莱尔工程学院);Center for High Performance Buildings, Ray W. Herrick Laboratories, Purdue University(普渡大学雷·W·赫里克实验室高性能建筑中心)
热偏好因人而异,可能会随着时间的推移而变化。本文的主要目标是依次提出智能查询的占用者,以最佳地学习室内空气温度值,最大限度地提高他们的满意度。我们的中心假设是,一个居住者的偏好关系室内空气温度可以描述使用这些温度的标量函数,我们称之为“居住者的热效用函数”。我们可以通过居住者对热偏好查询的响应来获得有关居住者对这些温度的偏好的信息:“更喜欢温暖”、“更喜欢凉爽”和“满意”,我们将其解释为关于其效用函数的导数的陈述,即效用函数分别为“增加”、“减少”和“恒定”。我们使用具有内置单峰约束的高斯过程先验来建模这个隐藏的效用函数,即,效用函数有唯一的最大值,我们使用贝叶斯推理训练这个模型。这允许基于预期的改进来选择下一个偏好查询以向占用者摆姿势,这考虑了探索(从高不确定性的区域采样)和利用(从可能提供优于当前最佳观察的改进的区域采样)两者。我们使用这个框架来顺序设计实验,并通过显示与其他方法相比,它需要更少的观测来学习最大优选的温度值来说明它的好处。该框架是智能HVAC系统发展的重要一步,该系统将能够响应居住者的个性化热舒适需求。为了鼓励使用我们的PE框架并确保结果的可重复性,我们发布了我们工作的实现,名为GPPrefElicit,作为Python中的开源包。
2019-04-01 cs.HC cs.LG stat.ML
Bayesian nonparametric Mallows model for clustering preference data
University of Oslo(奥斯陆大学);University of Trento(特伦托大学)
提出基于狄利克雷过程混合模型的贝叶斯非参数Mallows模型,实现聚类数自动推断与聚类分配联合学习,在R包BayesMallows中实现,模拟与真实数据验证有效。
2026-06-11 stat.ME
Diverse personalized recommendations with uncertainty from implicit preference data with the Bayesian Mallows Model
在Web应用中,点击数据被广泛地用于产生个性化推荐,其中包含了大量客观的用户偏好信息。目前流行的推荐算法,通常基于矩阵分解,通常具有很高的准确性和实现良好的点击率。然而,推荐项目的多样性,这可以大大提高用户体验,往往被忽视。此外,大多数算法不产生可解释的不确定性量化的建议。在这项工作中,我们提出了贝叶斯锦葵点击数据(BMCD)的方法,它增加了点击数据到兼容的完整的排名向量,通过强制所有点击的项目排名靠前。用户偏好使用Mallow排名模型学习。贝叶斯推断导致每个个人的推荐可解释的不确定性,我们还提出了一种方法,使个性化的建议,基于这种不确定性。通过模拟研究和现实生活中的数据示例,我们证明了与最先进的矩阵分解相比,BMCD可以以相似的准确度进行个性化推荐,同时实现更高水平的多样性,并产生可解释和可操作的不确定性估计。
2019-04-05 stat.ME
Bayesian modeling of the political preferences of the Colombian Senate 2006-2010: electoral behavior and parapolitics
在本文中,贝叶斯空间投票模型首次应用于哥伦比亚共和国参议院2006-2010年期间的立法行为的特征。分析是根据参议院全体会议的名义投票进行的。使用马尔可夫蒙特卡罗链算法进行模型的估计。估计的理想点提供了经验证据,支持潜在的非意识形态特征(反对-非反对)参议员的投票。此外,通过贝叶斯和频率论的逻辑模型分析了政治丑闻与参议员立法行为之间的关系。结果表明,2006-2010年期间,参议员的立法行为与卷入或曾经卷入政治丑闻之间存在显著关系。
2022-11-30 stat.AP
Bayesian preference elicitation for decision support in multiobjective optimization
Institute of Applied Analysis(应用分析研究所);Numerical Simulation , University of Stuttgart, Germany(数值模拟,斯图加特大学,德国);Institute for Parallel(并行系统研究所);Distributed Systems , University of Stuttgart, Germany(分布式系统,斯图加特大学,德国);Surrogate Modeling Lab , Ghent University - imec, Belgium(替代建模实验室,根特大学-imec,比利时);Department of Computing(计算部门);Mathematical Sciences , California Institute of Technology, USA(数学科学,加州理工学院,美国)
针对多目标优化中决策者识别偏好解的需求,提出基于贝叶斯模型和成对比较的偏好诱导方法,通过平衡探索与利用的交互查询策略高效发现高效用解,经实验验证性能更优且提供开源实现。
2025-11-11 cs.AI cs.LG stat.ML
Preferential Bayesian optimisation with Skew Gaussian Processes
Trinity College(都柏林圣三一学院);Dalle Molle Institute for Artificial Intelligence Research (IDSIA) - USI/SUPSI(达勒莫尔人工智能研究所(IDSIA)- 瑞士意大利语区应用艺术与科学大学/瑞士南部应用科学与艺术大学)
偏好贝叶斯优化(PBO)处理的优化问题,其中目标函数只能通过偏好判断来访问,例如两个候选解决方案之间的“这个比那个好”(如A/B测试或推荐系统)。PBO的最新方法使用高斯过程来模拟偏好函数,并使用伯努利似然来模拟观察到的成对比较。拉普拉斯的方法,然后计算后验推理,特别是建立一个适当的采集功能。在本文中,我们证明了真正的后验分布的偏好函数是一个斜高斯过程(SkewGP),具有高度偏斜的成对边缘,因此,表明拉普拉斯的方法通常提供了一个非常差的近似。然后,我们推导出一种有效的方法来计算精确的SkewGP后验,并使用它作为代理模型PBO采用标准的采集功能(上可信界等)。我们说明了我们的确切PBO-SkewGP在各种实验中的好处,通过显示它始终优于PBO的基础上拉普拉斯近似在收敛速度和计算时间。我们还表明,我们的框架可以扩展到处理混合偏好分类BO,二元判断(有效或无效)连同偏好判断。
2021-04-01 cs.LG math.OC stat.ML
A Bayesian Mallows approach to non-transitive pair comparison data: how human are sounds?
我们感兴趣的是了解听众如何将声音感知为具有人类起源。使用一系列电子合成的声音进行了一项实验,并要求听众成对比较它们。我们提出了一种贝叶斯概率方法,从非传递的成对比较数据中学习个人偏好,当数据中的一个(或多个)个人偏好与其他人所暗示的相矛盾时,就会发生这种情况。我们建立了一个贝叶斯马洛斯模型,以处理非传递性数据,与潜在的不确定性层,捕获的偏好误报的生成。然后,我们开发了一个混合扩展的马洛模型,能够学习个人偏好在一个异质性的人口。我们对音乐学实验的分析结果对电声作曲家和声音设计师以及音频行业都很感兴趣,他们的目的是了解如何产生计算机生成的声音,以便听起来更人性化。
2018-08-31 stat.AP
Robust Gaussian Processes via Relevance Pursuit
Meta
本文提出 relevance pursuit 顺序选择 GP 模型,通过推断数据点特定噪声方差抵御稀疏异常值,并利用强凹性与弱子模性给出近似保证。
2025-01-07 cs.LG math.OC stat.ML
pumBayes: Bayesian Estimation of Probit Unfolding Models for Binary Preference Data in R
本文介绍了R包pumBayes,利用马尔可夫链蒙特卡洛算法对静态和动态Probit展开模型进行贝叶斯推断,并展示了其在美国众议院和最高法院投票数据分析中的应用。
2025-04-01 stat.AP stat.CO stat.ME
Local Preferential Bayesian Optimization
Institute for Data Science in Mechanical Engineering, RWTH Aachen University(机械工程数据科学研究所,亚琛工业大学);Department of Clinical Research, University of Bern(伯尔尼大学临床研究系);Center for Reproducible Science and Research Synthesis, University of Zurich(苏黎世大学可重复科学与研究综合中心);aiXopt GmbH(aiXopt公司)
针对偏好贝叶斯优化在高维问题中效率低的问题,提出利用信任域和导数信息的局部偏好贝叶斯优化方法,显著降低累积遗憾。
2026-06-08 cs.LG stat.ML
Preferential Bayesian Optimization
贝叶斯优化(BO)是近年来出现的一种优化黑盒函数的有效方法,在这种黑盒函数中直接查询目标的代价很高。在本文中,我们考虑的情况下,直接访问的功能是不可能的,但有关用户的喜好信息。这种情况出现在人类偏好建模的问题中,例如A/B测试或推荐系统。我们提出了一个新的框架,这种情况下,我们称之为优先贝叶斯优化(PBO),它允许我们找到一个潜在的功能,只能通过两两比较,所谓的决斗查询的最佳。PBO扩展了标准BO思想的适用性,并通过利用具有Bernoulli似然的高斯过程模型对每个决斗的获胜者的概率进行建模来概括以前的离散决斗方法。潜在的偏好函数用于定义一个家庭的收购功能,扩展在BO中使用的通常的政策。我们说明了PBO的好处,在各种实验中,PBO需要大大减少比较找到最佳。根据我们的实验,在PBO中建模相关性的方式是获得这一优势的关键。
2017-04-12 stat.ML
A Bayesian Hierarchical Framework for Capturing Preference Heterogeneity in Migration Flows
本文提出贝叶斯分层框架,以空间变化的潜在参数刻画美国州际移民的出发地—目的地偏好异质性,提升了移民流解释与预测性能。
2024-12-02 stat.AP
When Is Generalized Bayes Bayesian? A Decision-Theoretic Characterization of Loss-Based Updating
Temple University(天普大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
本文通过决策理论特征化,区分了信念后验与决策后验,并证明基于损失的后验在特定条件下等同于普通贝叶斯,同时揭示了决策后验需要非线性偏好及熵惩罚的变分表示。
2026-02-02 stat.ME stat.ML
Preferential Multi-Objective Bayesian Optimization
California Institute of Technology(加州理工学院);Georgia Institute of Technology(佐治亚理工学院)
针对现有偏好贝叶斯优化仅支持单目标的局限,提出首个多目标PBO框架及对决标量化汤普森采样算法,经多任务验证性能更优且具备渐近一致性,提供了该场景下对决汤普森采样的首个收敛保证。
2024-06-20 cs.LG math.OC stat.ML
Rank-based Bayesian clustering via covariate-informed Mallows mixtures
本文提出带协变量的贝叶斯 Mallows 模型 (BMMx),通过结合评估者特征进行排名数据聚类,利用 PPMx 相似性函数提升聚类效果,模拟与真实数据验证了其在理解偏好行为方面的潜力。
2024-02-16 stat.ME
SetRank: A Setwise Bayesian Approach for Collaborative Ranking from Implicit Feedback
University of Science and Technology of China(中国科学技术大学);Baidu Talent Intelligence Center, Baidu Inc.(百度人才智能中心(百度公司));Business Intelligence Lab, Baidu Research(百度研究院商业智能实验室)
最近发展的在线推荐系统的重点是从隐式反馈,如用户点击和购买的协作排名。与反映分级用户偏好的显式评分不同,隐式反馈仅生成正面和未观察到的标签。虽然在这方面已经作出了相当大的努力,但众所周知的成对和列表方法仍然受到各种挑战的限制。具体而言,对于成对方法,独立的成对偏好的假设并不总是在实践中举行。此外,由于整个列表排列的前提条件,列表方法不能有效地容纳“领带”。为此,在本文中,我们提出了一种新的setwise贝叶斯方法的协作排名,即SetRank,内在地容纳在推荐系统中的隐式反馈的特点。具体来说,SetRank的目标是最大化新的setwise偏好比较的后验概率,可以用矩阵分解和神经网络来实现。同时,对SetRank进行了理论分析,证明了SetRank的超额风险界与$\sqrt{M/N}$成正比,其中$M$和$N$分别为项目数和用户数.最后,在四个真实世界数据集上进行的广泛实验清楚地验证了SetRank与各种最先进的基线相比的优越性。
2020-02-23 cs.IR cs.LG stat.ML
Testing Order Constraints: Qualitative Differences Between Bayes Factors and Normalized Maximum Likelihood
我们比较了贝叶斯因子和标准化极大似然的简单情况下选择之间的顺序约束与完整的二项式模型。这种比较揭示了两个定性的差异,在测试顺序的限制,数据依赖和模型的偏好。
2015-06-30 stat.ME stat.OT
Looping in the Human Collaborative and Explainable Bayesian Optimization
University of Oxford(牛津大学);Toyota Motor Corporation(丰田汽车公司);The Faraday Institution(法拉第研究所);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本文提出协作与可解释的贝叶斯优化框架CoExBO,通过偏好学习无缝融合人类洞察,提供迭代解释与无害保证,在锂离子电池设计中显著优于传统方法。
2024-02-29 cs.HC cs.LG stat.ML
BoTier: Multi-Objective Bayesian Optimization with Tiered Composite Objectives
Harvard University(哈佛大学);Dana-Farber Cancer Institute(达纳-法伯癌症研究所);University of Wuppertal(伍珀塔尔大学)
针对科学优化中需平衡具有层级关系的多目标问题,提出复合目标 BoTier,以灵活表示对实验结果和输入参数的偏好层级,并以自动可微方式集成至 BoTorch 库,在合成与真实数据上验证了其稳健适用性。
2025-01-26 cs.LG math.OC stat.ME
Modelling Preference Data with the Wallenius Distribution
Wallenius分布是超几何分布的推广,其中权重被分配给不同颜色的球。这自然地定义了一个用于分类目的的类别排名模型。由于,在一般情况下,由此产生的可能性是无法分析,我们采用近似贝叶斯计算(ABC)的方法来估计的重要性的类别。我们说明了模拟数据集上的估计过程的性能。最后,我们使用新的模型分析两个数据集的电影评级和意大利学术统计学家的期刊偏好。后者是作者收集的新数据集。
2018-06-28 stat.AP stat.CO stat.ME
A Non-parametric Bayesian Model for Detecting Differential Item Functioning: An Application to Political Representation in the US
本文提出在IRT模型中引入狄利克雷过程先验以自动检测差异项目功能,并通过对美国选民与立法者唱名表决偏好数据的分析,发现部分选民的潜在偏好与立法者不可直接比较,忽视该问题会误导政治代表性质量的判断。
2022-11-14 stat.AP
Causal Preference Elicitation
University of California, Berkeley(加州大学伯克利分校)
提出一种贝叶斯框架,通过主动查询局部边关系来集中有向无环图的后验分布,实现专家参与的因果发现。
2026-06-02 cs.AI cs.LG stat.ME
Assessing differences in legislators' revealed preferences: A case study on the 107th U.S. Senate
点名数据被广泛用于评估立法者的偏好和意识形态,以及测试立法行为的理论。特别是,点名数据经常被用来确定立法者的公开偏好是否受到外部力量的影响,如政党压力,少数民族地位或程序规则。本文介绍了一种贝叶斯分层模型,扩展现有的空间投票模型,以测试尖锐的假设,使用与这些假设相关的后验概率的偏好差异。我们使用我们的模型来调查在第107届美国参议院中,政党多数地位的变化对参议员偏好的影响。这项分析提供的证据表明,政党关系的变化可能会影响立法者的显示偏好,但没有提供证据表明多数地位的立法者的显示偏好的效果。
2016-01-28 stat.AP
A Bayesian Hierarchical Model for Comparative Evaluation of Teaching Quality Indicators in Higher Education
激励该文件的问题是量化的学生的偏好,关于教学/课程质量,在一定的数值限制,以建立一个模型,识别,评估和监测的主要组成部分的整体学术质量。在回顾了联合分析和随机系数回归模型在过去类似问题中的优势和局限性后,我们提出了一个贝叶斯beta回归模型与Dirichlet先验的模型系数。这种方法不仅允许将信息事先当它是可用的,但也提供了用户友好的界面和直接的概率解释的所有数量。此外,这是实现模型权重/系数的通常约束的自然方式。该模型应用于2009年和2013年收集的数据,从本科生在Panteion大学,雅典,希腊,除了建设一个工具的教学质量的评估和监测,它给出了一些输入的初步讨论的关联的差异,学生的偏好在两个时间段与当前的希腊经济和金融危机。
2014-04-07 stat.AP
The shape of incomplete preferences
不完全偏好为不精确的主观概率和效用模型提供了认识基础,这些模型用于稳健贝叶斯分析和有限理性理论。本文提出了一个简单的公理化的不完全偏好和表征的形状,其代表集的概率和效用。从Anscombe和Aumann的公理系统中删除完整性假设,产生由状态依赖的预期效用的凸集表示的偏好,其中至少一个必须是概率/效用对。需要加强状态独立性公理,以获得纯粹的一组概率/效用对的表示。
2007-02-23 math.ST stat.TH