Defeasible Conditional Obligation in a Two-tiered Preference-based Semantics (Extended Version)
Technische Universität Wien (TU Wien)(维也纳技术大学)
本文提出一种双层偏好语义框架,通过结合非单调推理机制和双序关系(理想性与正常性),解决可废止条件义务的逻辑建模问题,并与约束输入/输出逻辑建立联系。
2026-06-28 cs.AI cs.LO
The Complexity of Learning Acyclic Conditional Preference Networks
Umm Al-Qura University(乌姆·古拉大学);University of Regina(里贾纳大学)
以条件偏好网络(CP-nets)为代表的用户偏好学习已经成为人工智能研究的核心问题。最近的研究调查学习CP-网从随机选择的例子或成员和等价查询。为了评估学习算法的最优性以及更好地理解CP网类的组合结构,计算某些学习理论信息复杂度参数是有帮助的。本文主要关注从所谓的交换示例中学习的常见案例,交换示例表示只有一个属性不同的对象之间的偏好。它提出了一些研究的信息复杂性参数,即VC维,教学维,递归教学维,类无环CP-网的界限或确切值。我们还提供了算法,学习树结构和一般的非循环CP-网的成员查询。使用我们的结果的复杂性参数,我们评估我们的算法的最优性,以及在文献中提出的非循环CP-网的另一种查询学习算法。我们的算法是接近最优的,并可以在一定的假设下,适应的情况下,当成员预言是错误的。
2019-02-05 cs.AI cs.LG
From Common Sense Reasoning to Neural Network Models through Multiple Preferences: an overview
Università del Piemonte Orientale(东皮埃蒙特大学);Center for Logic, Language and Cognition(逻辑、语言与认知中心);Università di Torino(都灵大学)
在本文中,我们讨论了条件和偏好逻辑和神经网络模型之间的关系,基于多偏好语义。我们提出了一个概念明智的多偏好语义,最近推出的可废止的描述逻辑,考虑到不同的概念的偏好,作为一种工具,提供一个语义解释神经网络模型。这种方法已经被探索用于无监督的神经网络模型(自组织映射)和有监督的模型(多层感知器),我们希望相同的方法可以扩展到其他神经网络模型。它允许通过捕获网络的输入-输出行为的解释来检查网络的逻辑属性(通过模型检验)。对于多层感知器,深度网络本身可以被视为条件知识库,其中突触连接对应于加权条件。本文描述了一般的方法,通过自组织地图和多层感知器的情况下,并讨论了一些开放的问题和观点。
2021-07-10 cs.AI
User-Aware Conditional Generative Total Correlation Learning for Multi-Modal Recommendation
The University of New South Wales(新南威尔士大学);University of Melbourne(墨尔本大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
本文提出GTC框架,通过用户感知的内容特征过滤和总相关性优化,提升多模态推荐的性能,实验表明在NDCG@5上提升达28.30%。
2026-04-03 cs.AI cs.IR
mDPO: Conditional Preference Optimization for Multimodal Large Language Models
University of Southern California(南加州大学);Microsoft Research(微软研究院);University of California Davis(加州大学戴维斯分校)
针对多模态偏好优化中模型忽略图像条件的无条件偏好问题,提出同时优化图像偏好、引入奖励锚点的mDPO方法,有效提升多模态大模型性能、减少幻觉。
2024-10-07 cs.AI cs.CL cs.CV
Preference Elicitation with Soft Attributes in Interactive Recommendation
University of Southern California(南加州大学);University of Virginia(弗吉尼亚大学);Google Research(谷歌研究院)
针对交互式推荐中用户偏好难以用常规属性描述的问题,提出融合物品与软属性、基于概念激活向量的偏好诱导方法,有效提升推荐质量。
2023-10-22 cs.AI cs.IR
Modeling Contrary-to-Duty with CP-nets
University of Bologna(博洛尼亚大学);European University Institute(欧洲大学学院);IRIT(图卢兹计算机科学研究所);IBM Research(IBM研究院)
在道义逻辑的其他条件相同语义中,一个更大的规定集得到尊重的事态比一个其中一些规定被违反的事态更可取。条件偏好网(CP-nets)是一种表达和分析条件不变偏好的紧凑形式,具有良好的计算特性。本文展示了如何道义概念可以通过条件偏好模型捕获。定义了一个约束道义逻辑,并将其映射为条件偏好网。我们还将展示如何在CP网中建立与责任义务相反的模型,以及如何在这种形式主义中捕捉强许可和弱许可之间的区别。
2020-03-23 cs.AI cs.LO
Uncertainty in Soft Temporal Constraint Problems:A General Framework and Controllability Algorithms for the Fuzzy Case
University of Padova(帕多瓦大学);SRI International(SRI国际)
在现实生活中的时间场景中,不确定性和偏好往往是必不可少的和共存的方面。我们提出了一个形式主义,定量的时间约束的偏好和不确定性可以定义。我们展示了如何控制性的三个经典概念(即,强,弱,动态),这已经发展为不确定的时间问题,可以推广到处理偏好。在定义了这个一般框架之后,我们专注于偏好遵循模糊方法的问题,并具有确保易处理性的属性。对于这样的问题,我们提出了算法来检查的可控性属性的存在。特别是,我们表明,在这样的设置同时处理的偏好和不确定性不会增加可控性测试的复杂性。我们还开发了一个动态的执行算法,多项式的复杂性,产生时间计划的不确定性,是最佳的模糊偏好。
2011-10-10 cs.AI
Soft Preference Optimization: Aligning Language Models to Expert Distributions
University of Alberta(阿尔伯塔大学);Openmind Research Institute(Openmind研究所);Leiden University(莱顿大学);Spotify;Google DeepMind(谷歌DeepMind)
本文提出软偏好优化(SPO),无需奖励模型即可将大语言模型对齐到人类偏好,通过结合偏好损失与全输出分布正则化实现高效对齐,并证明其在 Bradley-Terry 假设下收敛到可调软度的 softmax 奖励分布。
2024-10-04 cs.AI cs.LG
UCP-Networks: A Directed Graphical Representation of Conditional Utilities
University of Toronto(多伦多大学);Ben-Gurion University(本·古里安大学)
我们提出了一个新的有向图形表示的效用函数,称为UCP网络,结合了两个现有的图形模型:广义加性模型和CP网络。该网络将效用函数分解为许多附加因子,弧的方向性反映了偏好陈述的条件依赖性-在潜在的(定性的)偏好排序中-在其他条件相同的解释下。在许多情况下,这种表示可以说是自然的。此外,强CP语义确保优化和优势查询的计算非常有效。我们还证明了这种代表性的决策价值。最后,我们描述了一个互动的启发程序,利用了线性性质的约束“`权衡权重”的UCP网络。该过程允许网络被细化,直到具有极小极大后悔的决策的后悔(相对于不完全指定的效用函数)低于指定阈值(例如,进一步审问的代价
2013-01-10 cs.AI
DSPA: Dynamic SAE Steering for Data-Efficient Preference Alignment
Carnegie Mellon University(卡内基梅隆大学)
DSPA通过在推理阶段动态调整稀疏自编码器的提示条件,提升数据效率的偏好对齐,同时在多个基准测试中表现优异。
2026-09-09 cs.AI cs.CL cs.LG
Geometric-Averaged Preference Optimization for Soft Preference Labels
Google DeepMind(谷歌DeepMind);The University of Tokyo(东京大学)
本文提出几何平均偏好优化,通过引入分布式软偏好标签并对DPO损失函数中的输出似然进行加权几何平均,缓解过优化和目标不匹配,在标准对齐基准上持续提升性能。
2024-12-30 cs.AI cs.CL cs.LG
Multimodal Alignment and Preference Optimization for Zero-Shot Conditional RNA Generation
Univ. Grenoble Alpes, CNRS, Grenoble INP, LJK(格勒诺布尔阿尔卑斯大学、法国国家科学研究中心、格勒诺布尔INP、LJK实验室);Center for Computational Mathematics, Flatiron Institute(计算数学中心、Flatiron研究所)
提出Moirain框架,通过多模态监督微调和直接偏好优化实现条件RNA序列生成,在零样本条件下生成具有高结合亲和力的生物合理RNA序列。
2026-05-12 cs.AI cs.LG q-bio.BM
CP-nets: A Tool for Representing and Reasoning withConditional Ceteris Paribus Preference Statements
University of Toronto(多伦多大学);Ben-Gurion University(本古里安大学);Cornell University(康奈尔大学);University of British Columbia(不列颠哥伦比亚大学)
关于用户偏好的信息在自动决策中起着关键作用。在许多领域,最好是以定性而不是定量的方式评估这种偏好。在本文中,我们提出了一个定性的图形表示的偏好,反映了条件依赖和独立的偏好声明下的ceteris paribus(其他条件相同)的解释。这种表示通常是紧凑的,并且在许多情况下可以说是相当自然的。我们为这个模型提供了一个正式的语义,并描述了如何利用网络的结构,在几个推理任务,如确定是否一个结果占主导地位(是首选)另一个,根据偏好关系排序的一组结果,并构建最佳的结果受到现有的证据。
2011-06-30 cs.AI
Rank Pruning for Dominance Queries in CP-Nets
University of Leeds(利兹大学)
条件偏好网络(英语:Conditional preference networks)是一个人对一组离散变量的(条件)偏好的图形表示。在本文中,我们介绍了一种新的方法,量化偏好的任何给定的结果的基础上,CP-网络表示的用户的喜好。我们证明,这些值是有用的推理用户的喜好。特别是,它们允许我们根据用户的偏好对可能的结果(的任何子集)进行排序。此外,这些值可以用于提高结果优势检验的效率。也就是说,给定一对结果,我们可以更有效地确定用户更喜欢哪一个。实验结果表明,该方法比现有的方法更有效地提高了优势度测试的效率。我们表明,上述结果也适用于CP-网,表示变量值之间的无差异。
2018-09-07 cs.AI stat.ME
On Graphical Modeling of Preference and Importance
Stanford University(斯坦福大学);Technion - Israel Institute of Technology(以色列理工学院);Ben-Gurion University(本-古里安大学)
近年来,CP网已经成为支持偏好获取、推理和表示的有用工具。CP网捕获并支持定性条件偏好语句的推理,这些语句对于用户来说是相对自然的。在本文中,我们扩展了CP-网的形式主义,以处理另一类非常自然的定性陈述,人们经常在日常生活中表达偏好-属性的相对重要性的陈述。由此产生的形式主义,TCP网,保持了CP网的精神,因为它仍然专注于使用简单和自然的偏好语句,使用其他条件相同的语义,并利用这些信息的图形表示来推理其一致性,并使用它来执行(可能是受约束的)优化。它提供的额外表达能力使我们能够更好地建模用户想要做出的权衡,更忠实地表达自己的喜好。
2011-09-28 cs.AI
Soft Prompts for Evaluation: Measuring Conditional Distance of Capabilities
Ross Nordby(独立研究者)
该研究提出用软提示作为模型与目标行为间条件距离的度量方法,用于挖掘语言模型潜在能力,在多任务验证框架有效性并扩展了广义条件软提示以辅助任务评估构建。
2025-05-20 cs.AI cs.LG
Prior preferences in active inference agents: soft, hard, and goal shaping
Araya Inc.(Araya公司);School of Engineering and Informatics, University of Sussex(萨塞克斯大学工程与信息学院)
本文研究了主动推断代理中偏好分布的定义方式,探讨了硬/软目标和目标塑造对导航任务性能的影响。
2025-12-02 cs.AI q-bio.NC
Interactive Multi-Objective Probabilistic Preference Learning with Soft and Hard Bounds
Department of Computer Science(计算机科学系);Stanford University(斯坦福大学)
研究高风险决策中多目标平衡问题,提出Active-MoSH框架,其局部组件结合概率偏好学习与主动采样,全局组件利用多目标敏感性分析,提升决策信心,通过实验验证其性能优势。
2026-07-07 cs.AI cs.LG
Test-Time Reasoning Through Visual Human Preferences with VLMs and Soft Rewards
本研究训练VLM在测试时对人类视觉偏好进行推理,采用受DeepSeek R1和OpenAI O1启发的强化学习方法,在ImageReward和HPSv2数据集上达到与传统编码器模型相媲美的准确率,并引入高效软奖励策略提升图像排序和视觉偏好优化效果。
2025-06-28 cs.AI cs.CV
Conditional Equivalence of DPO and RLHF: Implicit Assumption, Failure Modes, and Provable Alignment
The Hong Kong University of Science(香港科技大学);Hong Kong Baptist University(香港 Baptist 大学)
本文研究了DPO与RLHF的等价性问题,指出其等价性依赖于一个隐含假设,当该假设不成立时,DPO会优化相对优势而非绝对对齐,从而导致路径性收敛。作者提出CPO方法,通过引入约束实现可证明对齐,并通过几何解释揭示DPO的margin ranking机制。
2026-05-20 cs.AI cs.LG
Soft Scheduling
从软约束满足的角度研究了析取和累积调度的经典概念。软析取调度作为软CSP的一个例子,并在此问题中包含的偏好被应用到生成一个下界的基础上现有的离散能力资源。普渡大学和马萨里克大学信息学院的时间表问题,考虑到学生的个人课程要求,展示了通过所提出的方法解决的实际问题。讨论了一般偏好约束求解器的实现,并给出了排样问题的第一个计算结果。
2001-06-02 cs.AI cs.PL
Democratic Preference Alignment via Sortition-Weighted RLHF
cornell(康奈尔大学)
DemPO通过算法排序机制优化偏好对齐,确保民主代表性,提升模型对代表性公众价值观的反映能力。
2026-02-04 cs.AI cs.LG
Finding Regions of Heterogeneity in Decision-Making via Expected Conditional Covariance
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);IMES(麻省理工学院医学工程与科学研究所);NYU Langone(纽约大学朗格尼医学中心)
由于个人偏好和背景,人们在面对相同的环境时往往会做出不同的决定。例如,法官对某些与毒品有关的罪行的宽大程度可能会有所不同,医生对如何开始治疗某些类型的病人的偏好可能会有所不同。考虑到这些示例,我们提出了一种用于识别上下文类型的算法(例如,病例或患者类型),决策者之间存在高度分歧。我们将其形式化为一个因果推理问题,寻求一个区域,在该区域中,决策者的分配对决策有很大的因果影响。我们的算法发现这样一个区域,通过最大化的经验目标,我们给了一个概括的范围,其性能。在一个半合成实验中,我们表明,我们的算法恢复正确的区域的异质性准确相比,基线。最后,我们将我们的算法应用于现实世界的医疗数据集,恢复与现有临床知识一致的变化。
2021-10-27 cs.AI cs.LG
Multi-Modal Multi-Behavior Sequential Recommendation with Conditional Diffusion-Based Feature Denoising
Peking University(北京大学);Wuhan University(武汉大学);Shanghai University of International Business(上海国际商务大学);Microsoft(微软公司)
针对多模态多行为序列推荐中模态偏好刻画不足、行为噪声和模态噪声问题,提出M$^3$BSR模型,利用条件扩散去噪和多专家兴趣提取,显著提升推荐性能。
2025-08-07 cs.AI cs.IR
From Soft Targets to Reward Signals: How Assignment and Reward Objectives Interact
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Vehicle and Mobility, Tsinghua University(清华大学车辆与运载学院);Tencent Holdings Limited(腾讯控股有限公司);SZ DJI Technology Co., Ltd.(深圳市大疆创新科技有限公司)
本文提出分配几何框架,研究软偏好目标分配与奖励目标如何交互,发现完整对应关系保留最大偏好边际,并建立联合设计空间以塑造奖励属性。
2026-09-29 cs.AI cs.LG
DifFaiRec: Generative Fair Recommender with Conditional Diffusion Model
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对推荐系统易引发群体不公平的问题,提出基于条件扩散模型的公平推荐算法DifFaiRec,通过反事实模块降低对受保护属性的敏感度,在基准数据集上表现优于现有基线。
2024-09-18 cs.AI cs.IR cs.LG
Hard Rules, Soft Preferences: Bridging Reasoning, Learning, and Optimization for Personalized Packing Checklist Generation
Tech LLC(529科技有限责任公司);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Virginia(弗吉尼亚大学)
针对航空旅行打包易出错问题,提出含符号引擎、偏好学习器和CP - SAT优化器的推理引导学习框架,能生成个性化、合规行李清单,在实验中表现良好,在应用中提升了清单完成量并减少了时间。
2026-07-20 cs.AI cs.LG
Domain Translation of a Soft Robotic Arm using Conditional Cycle Generative Adversarial Network
The BioRobotics Institute(生物机器人研究所);Scuola Superiore Sant’Anna(高级科学学院);CNR - Consiglio Nazionale Ricerche(国家研究理事会)
针对软体机器人因材料降解导致跨域知识转移困难的问题,提出基于CCGAN的域转换框架,将标准仿真域的位姿控制器适配到粘度十倍的目标域,经多形状轨迹跟踪等实验验证,可有效实现跨域技能转移,提升控制器适应性。
2025-08-16 cs.AI cs.RO
Non-monotonic Extensions to Formal Concept Analysis via Object Preferences
University of Cape Town(开普敦大学);CAIR, South Africa(南非计算与推理研究所);Technische Universität Dresden(德累斯顿工业大学);Center for Scalable Data Analytics and Artificial Intelligence Dresden/Leipzig(德累斯顿/莱比锡可扩展数据分析与人工智能中心)
本文针对形式概念分析(FCA)原有蕴含的单调性局限,引入基于对象偏好的非单调条件句,证明其符合KLM非单调性公设,提出典型概念并证明其构成原概念格的交半格,为FCA的非单调扩展及原型概念格构建奠定基础。
2024-10-05 cs.AI cs.LO
Soft Concurrent Constraint Programming
软约束扩展了经典约束,以表示多个一致性水平,从而提供了一种表达偏好,模糊性和不确定性的方法。虽然有许多软约束解决形式主义,甚至分布式的,到目前为止,似乎没有并发编程框架,软约束可以处理。在本文中,我们将展示如何经典的并发约束(CC)编程框架可以与软约束,我们还提出了一个扩展的CC语言,可以使用软约束修剪和直接搜索的解决方案。我们相信这种新的编程范例,称为软cc(scc),在许多与web相关的场景中也非常有用。事实上,语言级别允许Web代理表达他们的交互和协商协议,并根据偏好发布他们的请求,并且底层软约束求解器可以在代理之间找到协议,即使他们的请求不兼容。
2002-08-06 cs.AI cs.PL
Conditional Graph Neural Network for Predicting Soft Tissue Deformation and Forces
University of Basel, Department of Biomedical Engineering, Allschwil, Switzerland(巴塞尔大学生物医学工程系)
提出条件图神经网络(cGNN),基于表面点和施力位置预测软组织变形与力,结合仿真预训练和实验微调,实现高精度预测。
2025-07-07 cs.AI cs.CV cs.LG
Approximation Algorithms for Preference Aggregation Using CP-Nets
University of Regina(里贾纳大学)
本文针对CP-nets表示的组合域交换场景偏好聚合问题,分析了平凡2-近似算法的近似比提升条件,提出效果更优的多项式时间近似算法,为得到近似比显著优于2的该类问题算法提供了可能。
2023-12-15 cs.AI cs.CC
Active Preference Inference using Language Models and Probabilistic Reasoning
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院)
本文提出一种推理时算法,利用概率模型和熵优化,使LLM通过提出更信息量的问题来高效推断用户偏好,在交互式购物中减少交互次数并提升任务性能。
2024-06-26 cs.AI cs.CL cs.LG
Ordinal Credit Assignment: Multi-Step Reinforcement Learning from Comparisons Alone
Department of Automation, Tsinghua University(清华大学自动化系)
本文提出了一种统一的偏好基于RL优化框架,通过Soft-Pair-GRPO和Hard-Pair-GRPO两种变体,解决了主流配对偏好学习中政策更新不稳定、梯度方向模糊等问题,提升了对齐质量与训练稳定性。
2026-11-05 cs.AI cs.LG math.ST