Enhancing Recommendation Diversity by Re-ranking with Large Language Models
Insight Centre for Data Analytics（数据分析洞察中心）；School of Computer Science & IT（计算机科学与信息技术学院）；University College Cork（科克大学学院）
本文研究利用大语言模型进行推荐多样性重排序，通过零样本提示让 GPT 与 Llama 从候选列表生成多样化排序，实验表明其优于随机方法但暂逊于传统方法。
2024-06-17 cs.IR cs.LG
From Top-1 to Top-K: A Reproducibility Study and Benchmarking of Counterfactual Explanations for Recommender Systems
VNU University of Engineering and Technology（越南工程大学）；Delft University of Technology（代尔夫特理工大学）
本文系统地重现并评估了11种最先进的推荐系统反事实解释方法，探讨了解释格式、评估层级和扰动范围对解释效果的影响，揭示了不同方法在有效性与稀疏性之间的权衡及大规模图结构下的可扩展性限制。
2026-04-21 cs.IR cs.LG
Discovering Personalized Semantics for Soft Attributes in Recommender Systems using Concept Activation Vectors
Amazon（亚马逊）；Google Research（谷歌研究院）；Anthropic（Anthropic公司）；Meta AI
本文提出基于概念激活向量（CAV）的推荐框架，用于学习软属性的个性化语义、区分主客观属性，并通过交互式物品批评提升推荐效果。
2023-06-03 cs.AI cs.IR cs.LG
A Troubling Analysis of Reproducibility and Progress in Recommender Systems Research
Politecnico di Milano（米兰理工大学）；University of Klagenfurt（克拉根福大学）
设计产生个性化排序项目列表的算法是推荐系统领域的一个中心研究课题。特别是在过去的几年中，基于深度学习（神经）技术的方法在文献中已经占据主导地位。所有这些都声称在最新技术水平上取得了实质性进展。然而，在今天的研究实践中存在着某些问题，例如，关于用于比较的基线的选择和优化，对已发表的主张提出了问题。为了更好地了解实际进展，我们试图重现最近的结果在该地区的神经推荐方法的基础上协同过滤。对这些最近的工作进行分析的令人担忧的结果-所有这些工作都发表在2015年至2018年之间的着名科学会议上-是12种可重复的神经方法中有11种可以被概念上简单的方法所超越，例如，基于最近邻算法。没有一种计算复杂的神经方法实际上始终优于现有的基于学习的技术，例如，使用矩阵分解或线性模型。在我们的分析中，我们讨论了当今研究实践中的常见问题，尽管发表了许多关于该主题的论文，但这些论文显然导致了该领域的某种程度的停滞。
2021-01-07 cs.IR cs.LG cs.NE
Theoretically informed selection of latent activation in autoencoder based recommender systems
Icahn School of Medicine at Mount Sinai（西奈山伊坎医学院）
本文通过理论分析确定自编码器编码器应具备的三个数学性质，证明ReLU和tanh无法同时满足，而sigmoid类激活函数更合适，为推荐系统超参数选择提供系统化方法。
2024-11-06 cs.LG
Data Processing for Offline Evaluation in Recommender Systems: a Survey
本综述系统梳理推荐系统离线评估中的数据预处理实践，提出统一框架与分类法，并揭示数据转换与划分协议中的异质性问题。
2026-09-29 cs.IR cs.LG
Are We Really Making Much Progress? A Worrying Analysis of Recent Neural Recommendation Approaches
University of Klagenfurt（克拉根福大学）
深度学习技术已经成为研究推荐系统算法方面的研究人员的首选方法。随着一般对机器学习的兴趣的强烈增加，因此，很难跟踪目前代表最先进技术的东西，例如，用于top-n推荐任务。与此同时，最近的一些出版物指出了当今应用机器学习研究实践中的问题，例如，在提出新模型时，在结果的可重复性或基线的选择方面。在这项工作中，我们报告了一个系统的分析结果的算法建议前n推荐任务。具体来说，我们考虑了过去几年在顶级研究会议上提出的18种算法。其中只有7个可以通过合理的努力复制。然而，对于这些方法，事实证明，其中6种方法通常可以优于非常简单的探试法，例如，基于最近邻或基于图的技术。剩下的一个明显优于基线，但并没有一贯优于一个良好的调整非神经线性排名方法。总的来说，我们的工作揭示了当今机器学习奖学金中的一些潜在问题，并呼吁改进这一领域的科学实践。我们实验的源代码和完整结果可在https://github.com/MaurizioFD/RecSys2019_DeepLearning_Evaluation上获得。
2019-08-16 cs.IR cs.LG cs.NE
Smooth activations and reproducibility in deep networks
Google（谷歌）
深度网络正逐渐渗透到我们生活中的几乎每一个领域，因为它们取得了惊人的成功。然而，随着性能精度的大幅提高，\emph{irreproducibility}的价格也随之而来。在完全相同的训练数据集上训练的两个相同的模型可能会在单个示例的预测中表现出很大的差异，即使平均精度相似，特别是在高度分布式并行系统上训练时。受欢迎的整流线性单元（ReLU）激活一直是深度网络最近成功的关键。然而，我们证明了ReLU也是深度网络中不可再现性的催化剂。我们表明，不仅可以比ReLU更平滑地激活提供更好的准确性，而且还可以提供更好的准确性-再现性权衡。我们提出了一个新的激活家族;平滑ReLU（\emph{SmeLU}），旨在提供更好的权衡，同时保持数学表达式简单，因此实现成本低廉。SmeLU是单调的，模仿ReLU，同时提供连续梯度，产生更好的再现性。我们推广SmeLU给更多的灵活性，然后证明SmeLU和它的广义形式是一个更一般的方法的RECtified平滑连续单元（RESCU）激活的特殊情况。实证结果表明，优越的准确性-再现性权衡与平滑激活，特别是SmeLU。
2020-12-01 cs.LG cs.NE stat.ML
A Reproducibility Analysis of PO4ISR: Diagnosing and Mitigating Semantic Drift in LLM-Based Session Recommendation
MATRA Lab（MATRA实验室）；Department of Computer Science and Engineering（计算机科学与工程系）；Indian Institute of Technology Bhilai（比哈尔理工学院）
本文研究了PO4ISR在不同语义领域中的可重复性，发现标准推理提示在长会话中出现严重的上下文漂移，导致性能下降。为此，作者提出了PO4ISR++，通过反思提示和一致排名检测增强鲁棒性，并在多个数据集上验证了其有效性，提升了会话推荐的性能。
2026-04-29 cs.AI cs.IR cs.LG
Detecting Beneficial Feature Interactions for Recommender Systems
University of Melbourne（墨尔本大学）；Tsinghua University（清华大学）；Hebei University of Technology（河北工业大学）
特征交互是实现推荐系统高准确性的关键。许多研究考虑到每对特征之间的相互作用。然而，这是次优的，因为一些特征交互可能与推荐结果不相关，并且考虑它们可能会引入噪声并降低推荐准确性。为了充分利用特征交互，我们提出了一种图神经网络方法来有效地对它们进行建模，并提出了一种新的技术来自动检测那些在推荐准确性方面有益的特征交互。通过L0激活正则化的边缘预测实现自动特征交互检测。通过信息瓶颈原理和统计交互作用理论证明了该模型的有效性。实验结果表明，我们的模型（i）在准确性方面优于现有的基线，（ii）自动识别有益的特征交互。
2021-05-18 cs.IR cs.LG stat.ML
X-Cross: Dynamic Integration of Language Models for Cross-Domain Sequential Recommendation
Ben-Gurion University of the Negev（本· Gurion 军事大学）
本文提出X-Cross模型，通过动态集成多个基于LoRA微调的领域特定语言模型实现跨域序列推荐，在仅用25%额外参数下性能媲美全量微调，且所需微调数据减少50%-75%。
2025-04-29 cs.AI cs.CL cs.IR
Diffusion Recommender Models and the Illusion of Progress: A Concerning Study of Reproducibility and a Conceptual Mismatch
Politecnico di Milano（米兰理工大学）；University of Klagenfurt（克拉根福大学）
研究评估了九篇SIGIR 2023和2024推荐算法的可重复性，发现仅25%的结果可复现，且扩散模型在传统推荐任务中存在概念不匹配，质疑其适用性。
2026-03-26 cs.IR cs.LG cs.NE
TrialMatchAI: An End-to-End AI-powered Clinical Trial Recommendation System to Streamline Patient-to-Trial Matching
University of Bordeaux（波尔多大学）；CNRS（法国国家科学研究中心）；Oslo University Hospital（奥斯陆大学医院）；University of Oslo（奥斯陆大学）；The Netherlands Cancer Institute（荷兰癌症研究所）；University of Vic - Central University of Catalonia（维克大学-加泰罗尼亚中央大学）；European Clinical Research Infrastructure Network (ECRIN)（欧洲临床研究基础设施网络）
本文提出端到端系统 TrialMatchAI，基于开源微调 LLM、RAG、混合检索与医学思维链评估患者临床试验资格，实现可解释、轻量且隐私友好的本地部署，并在真实与合成数据中达到优异匹配性能。
2025-05-13 cs.AI cs.LG q-bio.QM
Diminishing Returns of Data in Sparse Autoencoders: Functional Behavior does not Guarantee Feature Reproducibility
IBM（国际商业机器公司）；Indian Institute of Science（印度科学学院）；University of Virginia（弗吉尼亚大学）
该研究探究稀疏自编码器（SAE）的训练数据需求，发现功能行为的重构在小预算下即可接近全数据参考，而特征可复现性随数据量提升，且数据选择影响性能，为SAE研究提供数据效率优化方向。
2026-10-16 cs.LG stat.ML
ContextGNN goes to Elliot: Towards Benchmarking Relational Deep Learning for Static Link Prediction (aka Personalized Item Recommendation)
University of Barcelona（巴塞罗那大学）；University of Southern California（南加州大学）；Université Paris-Saclay（巴黎萨克雷大学）；CentraleSupélec（中央理工-高等电力学院）；Inria（法国国家信息与自动化研究所）
本研究针对ContextGNN在静态链接预测任务上的性能提升空间，将其集成至含约50个前沿模型的Elliot推荐基准框架，在三个数据集上与6个GNN推荐系统对比验证了原论文的性能趋势，代码已开源。
2025-03-20 cs.IR cs.LG
More Rigorous Software Engineering Would Improve Reproducibility in Machine Learning Research
Bonn University（波恩大学）；RWTH Aachen University（亚琛工业大学）
本研究针对机器学习研究中因软件最佳实践缺失导致的可复现性差问题，调研了近十年顶会顶刊论文配套仓库的实践情况，明确了不足与提升方向并给出具体建议。
2025-09-02 cs.LG cs.SE
Explaining Explainability: Recommendations for Effective Use of Concept Activation Vectors
本研究调查概念激活向量（CAVs）的跨层不一致、概念纠缠和空间依赖三个属性，引入检测工具、分析误导性解释原因并提出缓解建议，通过黑色素瘤分类等任务验证，还发布Elements数据集促进相关研究。
2025-02-13 cs.AI cs.CV cs.HC
Benchmarking and Evaluation of AI Models in Biology: Outcomes and Recommendations from the CZI Virtual Cells Workshop
本文总结了CZI Virtual Cells研讨会的见解，指出生物学AI模型缺乏标准化基准，并提出构建跨任务与数据模态的基准框架建议，以加速开发稳健的AI驱动Virtual Cells基准，推动生物学新发现与治疗见解。
2025-07-15 cs.AI cs.LG
Challenges for cognitive decoding using deep learning methods
Stanford University（斯坦福大学）
在认知解码中，研究人员的目标是通过识别认知状态（例如，接受/拒绝赌博），这可以从区域的活动中识别。深度学习（DL）方法在认知解码方面非常有前途，因为它们具有无与伦比的学习复杂数据的多功能表示的能力。然而，它们在认知解码中的广泛应用受到其普遍缺乏可解释性以及难以将其应用于小数据集并确保其可再现性和鲁棒性的阻碍。我们建议通过利用可解释的人工智能和迁移学习的最新进展来应对这些挑战，同时还就如何提高DL建模结果的可重复性和鲁棒性提供了具体建议。
2021-08-16 cs.LG stat.ME
Review and Comparison of Commonly Used Activation Functions for Deep Neural Networks
Wroclaw University of Science and Technology（弗罗茨瓦夫理工大学）
神经网络的主要决策单元是激活函数。此外，它们评估网络神经节点的输出，因此，它们对整个网络的性能至关重要。因此，在神经网络计算中，选择最合适的激活函数是至关重要的。Acharya等人（2018）认为，多年来已经制定了许多配方，尽管其中一些配方现在被认为是不受欢迎的，因为它们在某些条件下无法正常运行。这些功能有各种各样的特征，这些特征被认为是成功学习的关键。它们的单调性，个别导数和有限的范围是其中的一些特征（Bach 2017）。本文将评估常用的加法函数，如swish，ReLU，Sigmoid等。这将是其次是他们的属性，自己的缺点和优点，并特别公式应用建议。
2020-10-15 cs.LG cs.NE
Graph Interpolating Activation Improves Both Natural and Robust Accuracies in Data-Efficient Deep Learning
University of California, Los Angeles（加州大学洛杉矶分校）
提高深度神经网络（DNN）的准确性和鲁棒性并使其适应小训练数据是深度学习研究的主要任务。在本文中，我们取代DNN的输出激活函数，通常是数据不可知的softmax函数，与图形拉普拉斯为基础的高维插值函数，在连续极限，收敛到一个拉普拉斯-贝尔特拉米方程的解决方案的高维流形。此外，我们提出了端到端的训练和测试算法，这种新的架构。所提出的具有图插值激活的DNN集成了深度学习和流形学习的优点。与使用softmax函数作为输出激活的传统DNN相比，新框架表现出以下主要优点：首先，它更适用于数据高效学习，其中我们在不使用大量训练数据的情况下训练高容量DNN。其次，它显着提高了干净图像的自然准确性和白盒和黑盒对抗攻击制作的对抗图像的鲁棒准确性。第三，它是半监督学习的自然选择。为了重现性，代码可从\url{https://github.com/BaoWangMath/DNN-DataDependentActivation}获得。
2019-07-16 cs.LG cs.NA math.NA
BagPipe: Accelerating Deep Recommendation Model Training
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Chicago（芝加哥大学）
BagPipe针对深度推荐模型训练中嵌入访问开销大的问题，利用嵌入访问倾斜性和离线训练可前瞻性，通过缓存、预取、Oracle Cacher及分解式架构实现最高5.6倍加速，同时保持同步训练的收敛性与可复现性。
2023-11-01 cs.DC cs.LG
Accelerating Offline Reinforcement Learning Application in Real-Time Bidding and Recommendation: Potential Use of Simulation
Tokyo Institute of Technology（东京工业大学）；negocia, Inc.（Negocia公司）；Hanjuku-Kaso Co., Ltd.（Hanjuku-Kaso有限公司）；Cornell University（康奈尔大学）
在推荐系统（RecSys）和在线广告的实时的【形】竞价（RTB）中，我们经常尝试使用强盗和强化学习（RL）技术来优化顺序决策。在这些应用程序中，离线强化学习（离线RL）和离线策略评估（OPE）是有益的，因为它们可以仅使用记录的数据进行安全的策略优化，而无需任何有风险的在线交互。在本立场文件中，我们探讨了使用模拟来加速离线RL和OPE的实际研究的潜力，特别是在RecSys和RTB中。具体来说，我们将讨论如何模拟可以帮助我们进行离线RL和OPE的实证研究。我们采取的立场，认为我们应该有效地使用离线RL和OPE的实证研究模拟。为了反驳只使用真实世界数据的实验更可取的反驳，我们首先指出了真实世界实验中的潜在风险和可重复性问题。然后，我们描述了如何使用模拟来解决这些问题。此外，我们将展示如何结合现实世界和基于模拟的实验的好处，以捍卫我们的立场。最后，我们还提出了一个开放的挑战，以进一步促进离线RL和OPE在RecSys和RTB的实际研究，相对于公共仿真平台。作为这个问题的一个可能的解决方案，我们展示了我们正在进行的开源项目及其潜在的用例。我们相信，为离线RL和OPE构建和利用基于模拟的评估平台将对RecSys和RTB社区产生极大的兴趣和相关性。
2021-09-17 cs.LG
Two-dimensional Sparse Parallelism for Large Scale Deep Learning Recommendation Model Training
Meta, Inc.（Meta公司）
针对大规模DLRM嵌入表完全并行带来的扩展性瓶颈，提出二维稀疏并行（模型并行加数据并行）并配合动量缩放行式AdaGrad，在4K GPU上实现近线性加速且性能持平，树立新基准。
2025-08-05 cs.DC cs.LG
