A General Offline Reinforcement Learning Framework for Interactive Recommendation
Westlake University（西湖大学）
针对交互式推荐难以在线探索的问题，本文提出通用离线强化学习框架，结合概率生成模型、随机策略推理及五种分布失配缓解方法，并在两个真实数据集上验证其优于现有方法。
2023-10-01 cs.IR cs.LG
Generative Adversarial Reward Learning for Generalized Behavior Tendency Inference
University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；Nanyang Technological University（南洋理工大学）；Macquarie University（麦考瑞大学）
强化学习的最新进展激发了人们对通过动态交互自适应地学习用户建模的兴趣，例如，在基于强化学习的推荐系统中。在大多数强化学习应用中，奖励函数是一个重要的参数，它可以为优化提供指导。然而，目前基于学习的方法依赖于人工定义的奖励函数，不能适应动态和噪声环境。此外，它们通常使用特定于任务的奖励函数，牺牲了泛化能力。针对上述问题，提出了一种生成式逆强化学习的用户行为偏好建模方法。我们的模型不使用预定义的奖励函数，而是基于区分性演员-评论家网络和Wasserstein GAN自动学习用户行为的奖励。我们的模型提供了一种描述和解释潜在行为倾向的一般方法，我们的实验表明，我们的方法在各种场景下，即交通信号控制，在线推荐系统和扫描路径预测中的表现优于最先进的方法。
2021-05-05 cs.AI cs.IR cs.LG
Dont Just Teach, Explain! A Gamified 20Q Recommender for Cybersecurity Education
Data Science, University of North Texas（数据科学，德克萨斯大学）；Mechanical Engineering, Bangladesh University of Eng. and Tech., BUET（机械工程，孟加拉工程与技术大学，BUET）
本文提出基于可解释AI的EQ-20CR推荐系统，通过20Q游戏机制学习解释网络安全防御行动所需的关键事实，提升网络安全教育的互动性和解释性。
2026-09-10 cs.AI cs.CY cs.LG
Exploitation Over Exploration: Unmasking the Bias in Linear Bandit Recommender Offline Evaluation
Federal University of São Carlos（圣卡洛斯联邦大学）
研究发现，在线性老虎机推荐系统离线评估中，贪婪模型在多数数据集上表现优异，表明探索策略可能被低估，需改进评估方法。
2026-04-16 cs.IR cs.LG
Multi-Agent Generative Adversarial Interactive Self-Imitation Learning for AUV Formation Control and Obstacle Avoidance
Ocean University of China（中国海洋大学）
针对多AUV控制奖励难设计且MAGAIL依赖最优示范、难以超越专家的问题，本文提出MAGAISIL，通过人类筛选的自生成优质轨迹逐步替换次优示范，实现编队控制与避障性能提升。
2024-01-21 cs.LG cs.RO
Model-Based Reinforcement Learning with Adversarial Training for Online Recommendation
Tsinghua University（清华大学）；University of Virginia（弗吉尼亚大学）；Stony Brook University（石溪大学）
强化学习非常适合于推荐系统的策略优化。目前的解决方案主要集中在无模型方法，这需要与真实环境进行频繁的交互，因此在模型学习中是昂贵的。离线评估方法，例如重要性采样，可以缓解这种限制，但是通常需要大量的日志数据，并且在动作空间很大时不能很好地工作。在这项工作中，我们提出了一个基于模型的强化学习解决方案，该解决方案通过生成对抗网络为离线策略学习建模用户代理交互。为了减少学习模型和策略中的偏差，我们使用了一个评估器来评估生成数据的质量，并调整生成的奖励。我们的理论分析和实证评估表明，我们的解决方案的有效性，从离线和生成的数据学习政策。
2020-01-17 cs.IR cs.LG stat.ML
Adversarial Text Rewriting for Text-aware Recommender Systems
Georgia Institute of Technology（佐治亚理工学院）
本文提出对抗性文本重写框架，通过两阶段微调和上下文学习攻击文本感知推荐系统，验证恶意卖方可在描述保持自然的同时不公平提升商品排名。
2024-08-01 cs.CR cs.IR cs.LG
A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks
Polytechnic University of Bari（巴里理工大学）
基于协同过滤（CF）的潜在因子模型（LFM），如矩阵分解（MF）和深度协同过滤（deep CF）方法，由于其优异的性能和推荐准确性，被广泛应用于现代推荐系统（RS）中。然而，成功伴随着一个新的重大挑战：许多机器学习（ML）应用本质上是对抗性的。近年来，已经表明这些方法容易受到对抗性示例的影响，即，微妙但非随机的扰动，旨在迫使推荐模型产生错误的输出。这项调查的目标有两个方面：（i）介绍对抗性机器学习（AML）在RS安全性方面的最新进展（即，攻击和防御推荐模型），（ii）展示AML在生成对抗网络（GANs）中的另一个成功应用，这要归功于它们学习（高维）数据分布的能力。在这项调查中，我们提供了一个详尽的文献综述74篇文章发表在主要的RS和ML期刊和会议。这篇评论可作为RS社区的参考，研究RS的安全性或使用GANs来提高其质量的生成模型。
2020-11-10 cs.CR cs.IR cs.LG
Chat-REC: Towards Interactive and Explainable LLMs-Augmented Recommender System
Fudan University（复旦大学）；Tongji University（同济大学）；University of California, Davis（加州大学戴维斯分校）
本文提出Chat-Rec范式，通过将用户画像和历史交互转化为提示词来增强LLMs构建对话式推荐系统，有效提升了交互性、可解释性、跨领域推荐与冷启动处理能力，并改善了top-k推荐和零样本评分预测表现。
2023-04-04 cs.CL cs.IR cs.LG
Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
虽然顺序推荐系统在捕获用户动态方面取得了显着的改进，但我们认为顺序推荐系统容易受到基于替换的配置文件污染攻击。为了证明我们的假设，我们提出了一个基于替换的对抗攻击算法，该算法通过选择某些易受攻击的元素并将其替换为对抗项来修改输入序列。在无目标和有针对性的攻击情况下，我们观察到显着的性能恶化，使用建议的配置文件污染算法。受这些观察的启发，我们设计了一种有效的对抗性防御方法，称为Dirichlet邻域采样。具体来说，我们从多跳邻居构造的凸包中抽取项目嵌入，以替换输入序列中的原始项目。在采样过程中，使用狄利克雷分布来近似邻域中的概率分布，使得推荐器学习对抗局部扰动。此外，我们还设计了一种针对顺序推荐系统的对抗性训练方法。特别是，我们用独热编码表示选定的项，并对编码执行梯度上升，以搜索训练中项嵌入的最坏情况线性组合。因此，嵌入函数学习鲁棒的项目表示，并且训练的推荐器能够抵抗测试时的对抗性示例。大量的实验表明了我们的攻击和防御方法的有效性，这些方法在模型架构和数据集上的表现始终优于基线。
2022-07-19 cs.AI cs.CR cs.IR
RecSys-DAN: Discriminative Adversarial Networks for Cross-Domain Recommender Systems
NEC Laboratories Europe（NEC欧洲实验室）；Xiamen University（厦门大学）
数据稀疏性和数据不平衡性是跨领域推荐系统中的实际问题和挑战性问题。本文通过利用来自表示学习、对抗学习和迁移学习（特别是领域自适应）的概念来解决这些问题。虽然各种迁移学习方法在这种情况下表现出了良好的性能，但我们提出的新方法RecSys-DAN专注于减轻跨域和域内数据稀疏性和数据不平衡，并学习用户，项目及其交互的可转移潜在表示。与现有方法不同，该方法以对抗的方式将潜在表征从源域转移到目标域。目标域中的映射函数通过玩具有对抗性损失的最小-最大博弈来学习，旨在为一个子空间生成域不可区分的表示。提出并探讨了ResSys-DAN的四个神经架构实例。对现实世界亚马逊数据的实证结果表明，即使不使用标记数据（即，在目标域中，与最先进的监督方法相比，RecSys-DAN实现了具有竞争力的性能。更重要的是，RecSys-DAN对单模式和多模式场景都具有高度灵活性，因此对之前方法难以实现的冷启动推荐更具鲁棒性。
2019-04-10 cs.IR cs.LG
Privacy and Fairness in Recommender Systems via Adversarial Training of User Representations
Intuit Tech Futures（财捷科技未来部门）；Bar Ilan University（巴伊兰大学）；Intuit（财捷公司）
推荐系统的潜在因素模型将用户和项目表示为低维向量。这种系统的隐私风险以前主要是在从训练数据中以使用记录的形式恢复个人信息的背景下研究的。然而，用户表示本身可以与外部数据一起使用，以恢复诸如性别和年龄的私人用户信息。在本文中，我们表明，用户向量计算的一个共同的推荐系统可以利用这种方式。我们提出了隐私对抗框架，以消除这种泄漏的私人信息，并研究推荐性能和泄漏之间的权衡理论和经验使用基准数据集。所提出的方法的优点是，它也有助于保证结果的公平性，因为一组属性的所有隐式知识都从模型使用的表示中擦除，因此不能进入决策。我们讨论了进一步的应用，这种方法对生成更深入，更有见地的建议。
2018-12-18 cs.IR cs.LG stat.ML
Adversarial Counterfactual Learning and Evaluation for Recommender System
Walmart Labs（沃尔玛实验室）
推荐系统的反馈数据往往受到什么是暴露给用户，然而，大多数学习和评价方法不占潜在的曝光机制。我们首先在理论上表明，应用监督学习来检测用户的偏好可能最终与曝光信息的情况下不一致的结果。来自因果推理的反事实倾向加权方法可以解释暴露机制;然而，反馈数据的部分观察性质可能导致可识别性问题。我们提出了一个原则性的解决方案，通过引入极大极小经验风险公式。我们表明，放松的对偶问题可以转换为两个推荐模型之间的对抗性游戏，其中候选模型的对手表征了潜在的曝光机制。我们提供了学习范围，并进行了广泛的模拟研究，以说明和证明所提出的方法在广泛的推荐设置，从而阐明了所提出的方法的各种好处的见解。
2020-11-08 cs.IR cs.LG stat.ML
Recommender Systems Based on Generative Adversarial Networks: A Problem-Driven Perspective
Chongqing University（重庆大学）；The University of Queensland（昆士兰大学）；University of Virginia（弗吉尼亚大学）
推荐系统（RS）现在在人们的在线生活中扮演着非常重要的角色，因为它们可以作为个性化的过滤器，让用户从一系列选项中找到相关的项目。由于其有效性，RS已被广泛应用于面向消费者的电子商务平台。然而，尽管他们的经验成功，这些系统仍然遭受两个限制：数据噪声和数据稀疏。近年来，生成对抗网络（GANs）在许多领域引起了越来越多的兴趣，因为它们具有强大的学习复杂真实数据分布的能力;它们通过应对这些系统所表现出的挑战来增强RS的能力也在许多研究中得到了证明。一般来说，已经进行了两条研究路线，其共同思想可以总结如下：（1）对于数据噪声问题，对抗性扰动和基于对抗性采样的训练通常是一种解决方案;（2）对于数据稀疏问题，数据增强-通过在极小极大框架下捕获真实数据的分布来实现-是主要的应对策略。为了全面了解这些研究成果，我们回顾了相应的研究和模型，从问题驱动的角度组织它们。更具体地说，我们提出了这些模型的分类，以及它们的详细描述和优点。最后，我们详细阐述了基于GAN的RS中的几个开放问题和当前趋势。
2020-09-20 cs.IR cs.LG
Defending Collaborative Filtering Recommenders via Adversarial Robustness Based Edge Reweighting
Yongyu Wang（王 Yongyu）
本文提出了一种基于对抗鲁棒性的边重加权方法，用于防御协同过滤推荐系统中的资料注入攻击。
2025-12-12 cs.LG stat.ML
Towards Adversarially Robust Recommendation from Adaptive Fraudster Detection
The Hong Kong Polytechnic University（香港理工大学）
针对推荐系统在节点注入攻击下的鲁棒性问题，提出明确考虑标签不确定性的自适应欺诈者检测模块，构建鲁棒框架PDR，有效抵御投毒攻击MetaC并提升对抗鲁棒性。
2023-05-20 cs.AI cs.CR cs.IR
Creating Synthetic Datasets for Collaborative Filtering Recommender Systems using Generative Adversarial Networks
Universidad Politécnica de Madrid（马德里理工大学）；Universidad de Jaén（哈恩大学）；Universidad de Ciego de Ávila（谢戈德阿维拉大学）
机器学习的研究和教育需要多样化、代表性和开放的数据集，这些数据集包含足够的样本来处理必要的训练、验证和测试任务。目前，推荐系统领域包括大量的子领域，在这些子领域中，准确性和超越准确性的质量度量不断得到改进。为了满足这种研究的多样性，用合成数据集来加强现有的数据集是必要的，也是方便的。本文提出了一种基于生成对抗网络（GAN）的方法，通过选择用户、项目、样本和随机变量的首选数量，以参数化的方式生成协同过滤数据集。无法使用常规GANs进行此参数化。我们的GAN模型是由密集的，短的，和连续的项目和用户的嵌入表示，而不是稀疏的，大的，和离散的向量，使一个准确和快速的学习，相比传统的方法，基于大的和稀疏的输入向量。所提出的架构包括一个DeepMF模型来提取密集的用户和项目嵌入，以及一个聚类过程来从密集的GAN生成的样本转换为离散和稀疏的样本，这是创建每个所需的合成数据集所必需的。三个不同的源数据集的结果显示了足够的分布和预期的质量值和生成的数据集相比，源的演变。合成数据集和源代码可供研究人员使用。
2023-03-02 cs.IR cs.LG
Attacking Recommender Systems with Augmented User Profiles
Xiamen University（厦门大学）；Fudan University（复旦大学）
推荐系统（RS）已经成为许多在线服务的重要组成部分。由于其在引导客户购买方面的关键作用，无良方自然有动机欺骗RS以获取利润。在本文中，我们研究了先令攻击：一个存在的和有利可图的攻击，敌对方注入了一些用户简档，以促进或降级的目标项目。传统的欺骗攻击模型都是基于简单的、易于检测的攻击策略，或者直接采用对抗攻击的方法，而没有对RS进行专门的设计。此外，在文献中缺乏对基于深度学习的RS的攻击影响的研究，使得对真实RS的shilling攻击的效果值得怀疑。提出了一种新的增强先令攻击框架（AUSH），并结合生成对抗网络的思想实现了该框架。AUSH能够根据预算和复杂的攻击目标（如针对特定用户组）来定制针对RS的攻击。我们的实验表明，AUSH的攻击影响是显而易见的，在广泛的RS，包括经典和现代的基于深度学习的RS，而它几乎是无法检测到的最先进的攻击检测模型。
2020-07-23 cs.CR cs.IR cs.LG
Revisiting Adversarially Learned Injection Attacks Against Recommender Systems
Simon Fraser University（西蒙弗雷泽大学）；Cornell Tech, Cornell University（康奈尔科技学院，康奈尔大学）
推荐系统在现代信息和电子商务应用中扮演着重要的角色。虽然越来越多的研究致力于提高推荐的相关性和多样性，但最先进的推荐模型的潜在风险尚未得到充分探讨，即这些模型可能会受到恶意第三方的攻击，通过注入虚假的用户交互来实现其目的。本文重新审视了adversarially-learned注入攻击问题，其中注入的假用户“行为”是由攻击者用自己的模型在本地学习的-一个可能与受攻击的模型不同，但共享类似的属性，以允许攻击转移。我们发现，大多数现有的工作在文献中遭受两个主要的局限性：（1）他们没有精确地解决优化问题，使攻击的危害小于它可能是，（2）他们假设完美的知识的攻击，导致缺乏对现实的攻击能力的理解。我们证明了生成假用户作为优化问题的确切解决方案可能会产生更大的影响。我们在真实数据集上的实验揭示了攻击的重要特性，包括攻击的可转移性及其局限性。这些发现可以启发有用的防御方法来对抗这种可能存在的攻击。
2020-08-28 cs.IR cs.LG stat.ML
Bluff: Interactively Deciphering Adversarial Attacks on Deep Neural Networks
Georgia Institute of Technology（佐治亚理工学院）；Georgia Tech Research Institute（佐治亚理工研究院）
深度神经网络（DNN）现在通常用于许多领域。然而，它们很容易受到对抗攻击：精心设计的数据输入扰动，可以欺骗模型做出错误的预测。尽管在开发DNN攻击和防御技术方面进行了大量研究，但人们仍然缺乏对此类攻击如何渗透模型内部的理解。我们提出了Bluff，一个交互式系统，用于可视化，表征和破译基于视觉的神经网络上的对抗攻击。Bluff允许人们灵活地可视化和比较良性和受攻击图像的激活路径，揭示对抗攻击对模型造成伤害的机制。Bluff是开源的，可以在现代的Web浏览器中运行。
2020-09-08 cs.CR cs.LG
Shilling Black-box Recommender Systems by Learning to Generate Fake User Profiles
Xiamen University（厦门大学）；Chongqing University（重庆大学）
由于推荐系统（RS）在引导客户购买方面的关键作用，无良方自然会有动机欺骗RS以获取利润。在本文中，我们研究了先令攻击，其中一个敌对方注入了一些虚假的用户简档用于不正当的目的。传统的先令攻击方法缺乏攻击可转移性（即，攻击对某些受害者RS模型无效）和/或攻击不可见性（即，可以容易地检测注入的分布）。为了克服这些问题，我们提出了Leg-UP，一种基于生成对抗网络的新型攻击模型。Leg-UP从采样的"模板“中的真实用户学习用户行为模式，并构建虚假的用户简档。为了模拟真实用户，Leg-UP中的生成器直接输出离散评级。为了提高攻击的可转移性，通过最大化对代理RS模型的攻击性能来优化生成器的参数。为了提高攻击的不可见性，Leg-UP采用了一个引导生成器来生成不可检测的虚假用户简档。在基准测试上的实验表明，Leg-UP在广泛的受害者RS模型上超过了最先进的先令攻击方法。我们工作的源代码可以在https://github.com/XMUDM/ShillingAttack上找到。
2022-06-23 cs.CR cs.IR cs.LG
Massif: Interactive Interpretation of Adversarial Attacks on Deep Learning
Georgia Institute of Technology（佐治亚理工学院）；GTRI（佐治亚技术研究所）
深度神经网络（DNN）越来越多地为自动驾驶汽车和医疗保健等高风险应用提供动力;然而，在这些应用中，DNN通常被视为“黑匣子”。最近的研究还表明，DNN极易受到对抗攻击的攻击，这引起了人们对在现实世界中部署DNN的严重担忧。为了克服这些缺陷，我们正在开发Massif，这是一种用于破译对抗攻击的交互式工具。Massif识别并交互式可视化DNN内被对抗攻击强烈激活或抑制的神经元及其连接。Massif提供了攻击对DNN影响的高层次、可解释的概述，以及受影响神经元的低层次、详细描述。Massif中的这些紧密耦合的视图帮助人们更好地了解哪些输入特征对于正确的预测最脆弱或最重要。
2020-02-16 cs.CR cs.LG stat.ML
Simultaneous Unlearning of Multiple Protected User Attributes From Variational Autoencoder Recommenders Using Adversarial Training
Johannes Kepler University Linz（约翰内斯·开普勒大学林茨分校）；University of Applied Sciences Upper Austria（上奥地利应用科学大学）；Linz Institute of Technology（林茨理工学院）
本文提出 AdvXMultVAE，将 VAE 推荐模型与对抗训练结合，用于同时移除连续或类别型受保护用户属性，并在两个数据集上验证其公平性与匿名性提升。
2024-10-28 cs.IR cs.LG
Adversarial Personalized Ranking for Recommendation
National University of Singapore（新加坡国立大学）；Fudan University（复旦大学）；Chengdu University of Information Technology（成都信息工程大学）
项目推荐是一个个性化的排序任务。为此，许多推荐系统使用成对排序目标来优化模型，例如贝叶斯个性化排名（BPR）。使用矩阵分解（MF）-推荐中最广泛使用的模型-作为示范，我们表明，优化它与BPR导致推荐模型是不稳健的。特别是，我们发现，由此产生的模型是非常容易受到对抗性扰动的模型参数，这意味着可能很大的误差推广。为了增强推荐模型的鲁棒性，从而提高其泛化性能，我们提出了一个新的优化框架，即对抗个性化排名（APR）。简而言之，我们的APR通过执行对抗训练来增强成对排名方法BPR。它可以被解释为玩一个极大极小博弈，其中BPR目标函数的最小化同时防御对手，这增加了对模型参数的对抗性扰动以最大化BPR目标函数。为了说明它是如何工作的，我们通过在用户和项目的嵌入向量上添加对抗扰动来实现MF上的APR。在三个公开的真实数据集上进行的大量实验证明了APR的有效性--通过使用APR优化MF，它比BPR平均提高了11.2%，并实现了最先进的项目推荐性能。我们的实现可以在https://github.com/hexiangnan/adversarial_personalized_ranking上获得。
2018-08-12 cs.IR cs.LG stat.ML
CnGAN: Generative Adversarial Networks for Cross-network user preference generation for non-overlapped users
National University of Singapore（新加坡国立大学）
跨网络推荐解决方案的一个主要缺点是它们只能应用于跨网络重叠的用户。因此，形成大多数用户的非重叠用户被忽略。作为解决方案，我们提出了CnGAN，一种新的基于多任务学习的编码器GAN推荐器架构。该模型通过学习目标网络偏好流形到源网络偏好流形的映射，为非重叠用户综合生成源网络用户偏好。由此产生的用户偏好被用于基于神经网络的神经推荐架构中。此外，我们提出了一种新的基于用户的成对损失函数的建议，使用隐式的互动，以更好地指导在多任务learning environment.We的生成过程说明我们的解决方案，通过生成用户的偏好Twitter源网络上的YouTube目标网络上的建议。大量的实验表明，生成的偏好可以用来改善非重叠用户的建议。所得到的建议实现优越的性能相比，国家的最先进的跨网络推荐解决方案的准确性，新颖性和多样性。
2020-08-25 cs.AI cs.IR cs.LG
DADIN: Domain Adversarial Deep Interest Network for Cross Domain Recommender Systems
Central South University（中南大学）；Shanghai University of Engineering Science（上海工程技术大学）；The University of Melbourne（墨尔本大学）；Yongriver Institute of Technology（甬江理工学院）；Eastern Institute for Advanced Study（东方高等研究院）
提出DADIN模型，通过领域无关层和对抗训练实现跨域联合分布对齐，在Huawei和Amazon数据集上取得SOTA的CTR预测效果。
2023-05-20 cs.AI cs.IR cs.LG
Securing Visually-Aware Recommender Systems: An Adversarial Image Reconstruction and Detection Framework
University at Albany USA（美国阿尔巴尼大学）；West Virginia University USA（西弗吉尼亚大学）；Duke University USA（杜克大学）
针对视觉感知推荐系统面临的商品图像对抗攻击，提出融合全局vision transformer重建与对比学习检测的联合防御框架，在FGSM、PGD及两个真实数据集上优于现有方法。
2025-05-16 cs.AI cs.CR cs.CV
LiSA: Leveraging Link Recommender to Attack Graph Neural Networks via Subgraph Injection
Keio University（keio大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出LiSA框架，通过注入孤立子图并误导链接推荐器，实现同时欺骗推荐器与节点分类器的对抗攻击，利用双重代理模型和双层优化提升攻击效果。
2025-02-25 cs.AI cs.LG
Adversarial Mahalanobis Distance-based Attentive Song Recommender for Automatic Playlist Continuation
Worcester Polytechnic Institute（伍斯特理工学院）
在本文中，我们的目标是解决自动播放列表连续（APC）的问题，用户，播放列表和歌曲之间的复杂的交互建模只使用他们的交互数据。以前的方法主要依赖于点积来解释相似性，这是不理想的，因为点积不是度量学习，所以它没有传达重要的不等式性质。基于这一观察，我们提出了三种利用马氏距离的新型深度学习方法。我们的第一种方法使用用户-播放列表-歌曲交互，并结合（i）目标用户和目标歌曲之间以及（ii）目标播放列表和目标歌曲之间的Mahalanobis距离分数，以考虑用户的偏好和播放列表的主题。我们的第二种方法通过考虑目标歌曲和每个成员歌曲之间的Mahalanobis距离分数来测量歌曲之间的相似性（即，现有歌曲）。每个距离分数的贡献是衡量我们提出的记忆度量为基础的注意力机制。在第三种方法中，我们将前面的两个模型融合到一个统一的模型中，以进一步提高它们的性能。此外，我们还为我们的三种方法采用和定制了对抗性个性化排名（APR），以进一步提高其鲁棒性和预测能力。通过大量的实验，我们表明，我们提出的模型优于八个国家的最先进的模型在两个大规模的现实世界的数据集。
2019-06-08 cs.IR cs.LG cs.SD
With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；European Commission, Joint Research Centre (JRC)（欧盟委员会联合研究中心）
研究揭示风险控制推荐系统因依赖聚合反馈易受集体对抗操控影响，通过实验证明小群体可通过平台功能降低非对抗用户nDCG表现，并提出将保障从群体层面转向用户层面的缓解策略。
2026-03-30 cs.IR cs.LG cs.SI
ADAGIO: Interactive Experimentation with Adversarial Attack and Defense for Audio
Georgia Institute of Technology（佐治亚理工学院）；Intel Corporation（英特尔公司）
对抗机器学习研究最近已经证明了通过向音频样本引入声学上不可感知的扰动来混淆自动语音识别（ASR）模型的可行性。为了帮助研究人员和从业人员更好地了解此类攻击的影响，并为他们提供工具，帮助他们更轻松地评估和为其模型制作强大的防御，我们介绍了ADAGIO，这是第一个旨在实时的ASR模型上的对抗攻击和防御的交互式实验工具，包括视觉和听觉。ADAGIO采用AMR和MP3音频压缩技术作为防御手段，用户可以交互式地将其应用于受攻击的音频样本。我们表明，这些技术，这是基于心理声学原理，有效地消除有针对性的攻击，攻击成功率从92.5%降低到0%。我们将演示ADAGIO，并邀请观众在Mozilla Common Voice数据集上试用。
2018-05-30 cs.CR cs.LG cs.SD
Discovering Personalized Semantics for Soft Attributes in Recommender Systems using Concept Activation Vectors
Amazon（亚马逊）；Google Research（谷歌研究院）；Anthropic（Anthropic公司）；Meta AI
本文提出基于概念激活向量（CAV）的推荐框架，用于学习软属性的个性化语义、区分主客观属性，并通过交互式物品批评提升推荐效果。
2023-06-03 cs.AI cs.IR cs.LG
Dual Adversarial Perturbators Generate rich Views for Recommendation
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Nanjing University（南京大学）
针对图对比学习推荐中对比视图差异过大易导致性能下降或训练崩溃的问题，提出双重对抗图学习方法AvoGCL，通过逐步施加对抗训练模拟课程学习，在三个真实数据集上性能显著优于现有最优方法。
2024-08-26 cs.IR cs.LG
Query-based Interactive Recommendation by Meta-Path and Adapted Attention-GRU
Alibaba Group（阿里巴巴集团）；Zhejiang University（浙江大学）；Xidian University（西安电子科技大学）
近年来，交互式推荐系统越来越受欢迎。通过用户与系统之间的交互，（1）用户可以主动干预推荐结果，而不是被动地接受它们，（2）系统可以更多地了解用户，以便提供更好的推荐。我们专注于单轮交互，即系统向用户提问（步骤1），并利用他的反馈来生成更好的推荐（步骤2）。本文提出了一种新的基于查询的交互式推荐系统，其中步骤1是\textbf{personalized questions are accurately generated from millions of automatically constructed questions}，步骤2是\textbf{the recommendation is ensured to be closely-related to users' feedback}。我们通过将步骤1转换为查询推荐任务，将步骤2转换为检索任务来实现这一点。前一项任务是我们的主要挑战。我们首先提出了一个基于元路径的模型，以有效地从大型查询池中检索数百个查询候选。然后，一个自适应的Attention-GRU模型的开发，以有效地排名这些候选人的推荐。在中国大型电子商务平台淘宝网上进行的离线和在线实验验证了我们的交互系统的有效性。自2018年11月11日起，该系统已在淘宝App首页投入使用（在线工作方式请参见https://v.qq.com/x/page/s0833tkp1uo.ht…
2019-06-24 cs.IR cs.LG
An Empirical Study of DNNs Robustification Inefficacy in Protecting Visual Recommenders
Polytechnic University of Bari（巴里理工大学）
基于视觉的推荐系统（VRS）通过将用户的反馈与从深度神经网络（DNN）提取的产品图像的视觉特征相结合来增强推荐性能。最近，人类不可感知的图像扰动（定义为\textit{adversarial attacks}）已被证明会改变VRS推荐性能，例如，推/核类别的产品。然而，由于对抗性训练技术已被证明可以成功地增强DNN在保持分类准确性方面的鲁棒性，据我们所知，还有两个重要的问题尚未研究：1）这些防御机制如何保护VRS的性能？2)无效/有效防御背后的原因是什么？为了回答这些问题，我们定义了一组防御和攻击设置，以及推荐模型，实证研究防御机制的有效性。结果表明，通过DNN鲁棒化保护VRS的风险令人担忧。我们的实验揭示了视觉特征在非常有效的攻击场景中的重要性。鉴于VRS对许多公司的财务影响，我们认为这项工作可能会增加研究如何成功保护基于视觉的浏览器的必要性。源代码和数据可在https://anonymous.4open.science/r/868f87ca-c8a4-41ba-9af9-20c41de33029/上获得。
2020-10-02 cs.CV cs.IR cs.LG
Generative Adversarial Networks with Conditional Neural Movement Primitives for An Interactive Generative Drawing Tool
Bogazici University（博阿齐奇大学）
素描是视觉感知和视觉空间建构的抽象表现。在这项工作中，我们提出了一个新的框架，生成对抗网络与条件神经运动原语（GAN-CNMP），它结合了一种新的对抗损失CNMP，以提高草图的平滑性和一致性。通过实验，我们证明了该模型可以用较少的未标记样本进行训练，可以在潜在空间中自动构造分布，并且在形状一致性和平滑性方面比基本模型产生更好的结果。
2021-12-21 cs.AI cs.CV cs.GR
Towards Validating Long-Term User Feedbacks in Interactive Recommendation Systems
KAIST（韩国科学技术院）；KAKAO Enterprise（Kakao企业）
本研究针对公开评论数据集是否适用于评估交互式推荐系统长期效果的问题，通过对比强化学习模型与贪婪奖励模型，发现贪婪模型表现更优，提出需谨慎验证数据集并设置贪婪基线以保障评估合理性。
2023-08-22 cs.IR cs.LG
Deep Adversarial Social Recommendation
City University of Hong Kong（香港城市大学）；Michigan State University（密歇根州立大学）；The Hong Kong Polytechnic University（香港理工大学）
随着社交网络对人们日常生活的影响越来越大，近年来，社会推荐技术得到了快速发展，以提高推荐系统的性能。大多数现有的社会化推荐方法统一了用户-项目交互（项目域）和用户-用户连接（社会域）的用户表示。然而，它可能会限制用户在各自领域的表示学习，因为用户在两个领域中的行为和交互不同，这使得他们的表示是异构的。此外，大多数传统的推荐系统不能有效地优化这些目标，因为他们利用负采样技术，这是无法提供足够的信息指导训练过程中的优化过程。在本文中，为了解决上述挑战，我们提出了一种新的深度对抗性社交推荐框架DASO。它采用双向映射的方法来传递用户的信息之间的社会域和项目域使用对抗学习。在两个真实数据集上的综合实验表明了该框架的有效性。
2019-05-30 cs.IR cs.LG cs.SI
Understanding the Effects of Adversarial Personalized Ranking Optimization Method on Recommendation Quality
Polytechnic University of Bari（巴里理工大学）
推荐系统（RS）采用用户项目反馈，例如，评级，以匹配客户的个性化产品列表。top-k推荐的方法主要依赖于学习排名算法，其中，最广泛采用的是贝叶斯个性化排名（BPR），它基于成对优化方法。最近，BPR已被发现易受其模型参数的对抗性扰动。对抗性个性化排名（APR）通过对抗性训练过程增强BPR来缓解这个问题。APR在BPR上的准确性性能的经验改进导致其在几个推荐模型中的广泛使用。然而，一个被忽视的关键方面是APR的超精度性能，即，新颖性，覆盖率和放大的流行偏见，考虑到最近的结果表明，业务流程再造，APR的基石，是敏感的偏见和减少的建议新颖性的加剧。在这项工作中，我们建模的BPR和APR优化框架的学习特性，给出数学证据，当反馈数据有一个尾部分布，APR放大的流行偏见比BPR由于收到的正面更新短标题项目的数量不平衡。使用矩阵分解（MF），我们通过在两个公共数据集上进行初步实验来实证验证理论结果，以比较BPR-MF和APR-MF在准确度和超准确度指标上的性能。实验结果一致表明，新颖性和覆盖率的措施和令人担忧的放大偏见的退化。
2021-07-29 cs.AI cs.CR cs.IR
Model Stealing Attack against Recommender System
针对推荐系统模型隐私威胁，提出在有限数据和查询条件下利用辅助数据及注意力机制融合，并设计窃取函数，实现高效模型窃取攻击。
2023-12-26 cs.AI cs.CR cs.LG
On Detecting Data Pollution Attacks On Recommender Systems Using Sequential GANs
WalmartLabs（沃尔玛实验室）
推荐系统是任何电子商务平台的重要组成部分。推荐通常通过聚集大量用户数据来生成。恶意行为者可能被激励通过注入恶意数据点来影响这样的推荐系统的输出，以利用系统获得经济利益。在这项工作中，我们提出了一个半监督的攻击检测算法来识别恶意数据点。我们通过利用一部分被污染的可能性较低的数据集来学习真正数据点的分布来做到这一点。我们提出的方法修改了生成对抗网络架构，以考虑到用户活动的上下文信息。这允许模型区分合法的数据点和注入的数据点。
2020-12-04 cs.LG
Autoregressive Adversarial Post-Training for Real-Time Interactive Video Generation
ByteDance Seed（字节跳动 Seed）；The Chinese University of Hong Kong（香港中文大学）；ByteDance Intelligent Creation Lab（字节跳动智能创作实验室）
针对现有视频生成模型计算量大难适配实时交互场景的问题，提出自回归对抗后训练方法，将预训练潜空间扩散模型改造为高效自回归生成器，实现单卡/多卡H100上的高分辨率实时流式交互式视频生成。
2025-10-01 cs.AI cs.CV cs.LG
Adversarial Arena: Crowdsourcing Data Generation through Interactive Competition
Amazon Nova Responsible AI（亚马逊Nova负责任人工智能）
本文提出对抗领域框架，通过攻击者和防御者之间的互动竞争生成高质量对话数据，提升低资源领域和多轮对话的质量。
2026-04-20 cs.AI cs.LG
Comprehensive Fair Meta-learned Recommender System
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
在推荐系统中，一个常见的挑战是冷启动问题，其中系统中的新用户的交互非常有限。为了解决这一问题，近年来，许多研究工作将元优化思想引入到推荐场景中，即仅通过过去的几个交互项来学习用户偏好。其核心思想是学习全局共享的元初始化参数为所有用户，并迅速适应到本地参数为每个用户分别。它们的目标是通过对不同用户的偏好学习来获得通用知识，从而利用学习到的先验知识和少量的训练数据快速适应未来的新用户。然而，以前的工作表明，推荐系统通常容易受到偏见和不公平。尽管元学习成功地提高了冷启动的推荐性能，但公平性问题在很大程度上被忽视了。在本文中，我们提出了一个全面的公平元学习框架，命名为CLOVER，以确保公平的元学习推荐模型。我们系统地研究了推荐系统中的三种公平性-个人公平性，反事实公平性和群体公平性，并提出通过多任务对抗学习方案来满足所有三种公平性。我们的框架提供了一个通用的训练范式，适用于不同的元学习推荐系统。我们证明了三叶草的有效性，在三个真实世界的数据集上的代表性的元学习用户偏好估计。实验结果表明，CLOVER在不降低冷启动推荐性能的前提下，实现了综合公平性。
2022-06-09 cs.IR cs.LG
Quantifying Availability and Discovery in Recommender Systems via Stochastic Reachability
University of California, Berkeley（加州大学伯克利分校）
在这项工作中，我们考虑如何在交互式推荐系统中的偏好模型确定的内容和用户的发现机会的可用性。我们提出了一个评估过程的基础上随机可达性量化的最大概率推荐一个目标的内容给用户的一组允许的战略修改。这个框架允许我们计算一个上限的可能性建议，最小的假设用户行为。随机可达性可用于检测内容可用性的偏差，并诊断授予用户的发现机会的局限性。我们表明，这个指标可以有效地计算作为一个凸计划的各种实际设置，并进一步认为，可达性是不是固有的不一致的准确性。我们展示了在显式和隐式评级的大型数据集上训练的推荐算法的评估。我们的研究结果说明了偏好模型，选择规则和用户干预如何影响可达性，以及这些影响如何不均匀分布。
2021-06-30 cs.IR cs.LG stat.ML
Adversarial Attacks on Adversarial Bandits
Microsoft Azure AI（微软Azure人工智能）；Amazon（亚马逊）
我们研究了一个对抗性多臂强盗的安全威胁，其中攻击者扰动损失或奖励信号来控制受害者强盗玩家的行为。我们表明，攻击者能够误导任何无悔对抗强盗算法选择一个次优的目标臂，但在每一个次线性（T-o（T））轮数，而只会产生次线性（o（T））的累积攻击成本。这一结果意味着在现实世界中基于强盗的系统中存在严重的安全问题，例如，在在线推荐中，攻击者可能能够劫持推荐系统并推销所需的产品。我们提出的攻击算法只需要知道的遗憾率，因此是不可知的受害者玩家所采用的具体的强盗算法。我们还推导出了一个理论上的下限的累积攻击成本，任何受害者不可知的攻击算法必须承担。下界与我们的攻击所达到的上界相匹配，这表明我们的攻击是渐进最优的。
2023-01-30 cs.CR cs.LG
Constrained Generative Adversarial Networks for Interactive Image Generation
Air Force Research Laboratory（空军研究实验室）；Information Directorate（信息局）
生成对抗网络（GANs）受到了极大的关注，部分原因是最近成功地从视觉领域生成了原始的高质量样本。然而，大多数当前方法仅允许用户通过有限的交互来引导该图像生成过程。在这项工作中，我们开发了一种新的GAN框架，允许人类“在循环”的图像生成过程。我们的技术迭代地接受形式的相对约束“生成比图像B更像图像A的图像”。在给出每个约束之后，向用户呈现来自GAN的新输出，通知下一轮反馈。该反馈用于相对于底层语义空间来约束GAN的输出，该底层语义空间可以被设计为对各种不同的相似性概念（例如，类、属性、对象关系、颜色等）进行建模。在我们的实验中，我们表明，我们的GAN框架能够生成质量与同等无监督GANs相当的图像，同时满足用户提供的大量约束，有效地将GAN变为允许用户交互控制图像生成而不牺牲图像质量的图像。
2019-04-03 cs.CV cs.GR cs.LG
INTERACTION Dataset: An INTERnational, Adversarial and Cooperative moTION Dataset in Interactive Driving Scenarios with Semantic Maps
University of California, Berkeley（加州大学伯克利分校）；Xi’an Jiaotong University（西安交通大学）；Harbin Institute of Technology（哈尔滨工业大学）；MINES ParisTech（巴黎高等矿业学院）；FZI Research Center for Information Technology（FZI信息技术研究中心）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
行为相关的研究领域，如运动预测/规划，表示/模仿学习，行为建模/生成和算法测试，需要高质量的运动数据集的支持，包含不同的驾驶文化的交互式驾驶场景。在本文中，我们提出了一个国际，对抗和合作的运动数据集（互动数据集）在交互式驾驶场景与语义地图。突出显示了数据集的五个特征。1)交互式驾驶场景多样，包括城市/高速公路/匝道并道和变道、带让行/停车标志的环形交叉口、信号交叉口、带单向/双向/全向停车的交叉口等。2）收集来自不同国家和不同大洲的运动数据，自然包含不同文化的驾驶偏好和风格。3)驾驶行为是高度互动和复杂的对抗和合作的各种交通参与者的运动。高度复杂的行为，如谈判，侵略性/非理性的决定和交通规则违反密集包含在数据集中，而常规行为也可以从谨慎的跟车，停止，左/右/U-转弯到合理的车道变化和骑自行车和行人过马路等。真正的碰撞，虽然相对轻微，也包括在内。5)具有完整语义信息的地图提供了物理层、参考线、车道连接和交通规则。这些数据来自无人机和交通摄像头。还提供了实体数量和交互密度方面的数据集统计数据，以及在各种行为相关研究领域的一些利用实例。数据集可以通过https://interaction-dataset.com下载。
2019-09-30 cs.CV cs.LG cs.RO
VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents
Nanyang Technological University（南洋理工大学）；College of Computing and Data Science（计算与数据科学学院）
针对LLM驱动推荐智能体的协作反思机制，提出首个黑盒定向推广攻击VirusCascade，利用反思持久性与跨智能体传播实现系统级劫持，在四个数据集上达到最优定向曝光效果。
2026-10-01 cs.CR cs.LG cs.MA
FACTER: Fairness-Aware Conformal Thresholding and Prompt Engineering for Enabling Fair LLM-Based Recommender Systems
University of Southern California（南加州大学）
本文提出公平性感知框架 FACTER，通过共形预测、自适应语义方差阈值和对抗性提示生成，在不重训大语言模型的情况下将推荐系统公平性违规最高降低95.5%，同时保持推荐准确性。
2025-02-05 cs.AI cs.CY cs.IR
Offline Evaluation of Reward-Optimizing Recommender Systems: The Case of Simulation
Criteo（科亿多）；University of Antwerp（安特卫普大学）
在学术和行业研究中，在线评估方法被视为推荐系统等交互式应用程序的黄金标准。当然，这样做的原因是我们可以直接测量依赖于干预的效用指标，即向用户显示的建议。尽管如此，在线评估方法由于多种原因而成本高昂，显然仍然需要可靠的离线评估程序。在工业中，离线指标通常被用作一线评估，以生成有希望的候选模型进行在线评估。在学术工作中，对在线系统的有限访问使得离线度量成为验证新方法的事实上的方法。存在两类离线度量：基于代理的方法和反事实方法。第一类通常与我们关心的在线指标相关性很差，后一类仅在现实环境中无法实现的假设下提供理论保证。在这里，我们提出了基于模拟的比较提供了超越离线指标的方法，并认为它们是一种更好的评估手段。
2022-09-18 cs.AI cs.IR cs.LG
Adversarial-Playground: A Visualization Suite Showing How Adversarial Examples Fool Deep Learning
University of Virginia（弗吉尼亚大学）
最近的研究表明，攻击者可以迫使深度学习模型对所谓的"对抗性示例"进行错误分类：通过对像素值进行不知不觉的修改而形成的恶意生成的图像。随着人们对安全应用中的深度学习越来越感兴趣，安全专家和机器学习用户必须认识到学习系统可能受到的攻击。由于深度学习的复杂性，理解深度模型如何被对抗性示例愚弄是一个挑战。因此，我们提出了一个基于Web的可视化工具，对抗游乐场，以证明常见的对抗方法对卷积神经网络（CNN）系统的有效性。Adversarial-Playground具有教育性、模块化和互动性。(1)它使非专家能够直观地比较示例，并理解为什么对抗性示例可以欺骗基于CNN的图像分类器。(2)它可以帮助安全专家探索深度学习作为软件模块的更多漏洞。(3)由于图像分类的特征空间很大（生成对抗性示例通常很慢，并且可视化图像成本很高），因此在该领域构建交互式可视化是一项挑战。通过多种新颖的设计选择，我们的工具可以对用户请求提供快速准确的响应。根据经验，我们发现我们的客户端-服务器划分策略减少了响应时间，平均每个样本1.5秒。我们的另一项创新是JSMA规避算法的一个更快的变体，根据经验，它的执行速度是JSMA的两倍，但仍保持了相当的规避率。项目源代码和实验数据可在www.example.com获得
2017-08-01 cs.AI cs.CR cs.LG
AutoCl : A Visual Interactive System for Automatic Deep Learning Classifier Recommendation Based on Models Performance
Islamic University of Technology（伊斯兰科技大学）；International University of Business Agriculture and Technology（国际商业农业与技术大学）；The University of Tennessee Health Science Center（田纳西大学健康科学中心）
如今，深度学习（DL）模型越来越多地应用于各个领域，没有技术专长和领域知识的人很难找到适合他们任务的模型。在本文中，我们介绍了AutoCl的可视化交互式推荐系统，旨在帮助非专家采用适当的DL分类。我们的系统使用户能够比较使用各种超参数设置训练的多个分类器的性能和行为，并自动推荐具有适当超参数的最佳分类器。我们比较了AutoCl与最近几个AutoML系统的功能，并表明它可以帮助非专家更好地选择DL分类器。最后，我们展示了使用公共数据集的图像分类的用例，以展示我们的系统的能力。
2022-02-24 cs.LG
