Transformers meet Neural Algorithmic Reasoners
Google DeepMind(谷歌DeepMind)
本文提出混合架构 TransNAR,通过两阶段训练让 Transformer 交叉注意 NAR 的节点嵌入,从而增强语言模型的算法推理能力。
2024-06-13 cs.CL cs.LG
Equilibrium Reasoners: Learning Attractors Enables Scalable Reasoning
CMU(卡内基梅隆大学)
本文提出平衡推理器(EqR),通过学习任务条件的吸引子来实现可扩展推理,该方法在测试时无需外部验证器或任务特定先验,通过增加深度和广度实现推理能力的提升,从而在Sudoku-Extreme上将准确率从2.6%提升至超过99%。
2026-05-20 cs.LG
Are Large-Language Models Graph Algorithmic Reasoners?
University of California, Los Angeles(加州大学洛杉矶分校)
针对大语言模型在显式图多步推理上的短板,研究提出首个聚焦经典图算法的综合基准MAGMA,涵盖五种基础图算法,评测发现前沿LLMs仍存挑战,需通过先进提示技术和算法指令提升图推理能力。
2024-10-29 cs.AI cs.LG
Fitting Every Hint Is Not Enough: Premature Floods in Recurrent Algorithmic Reasoners
University of Zanjan(赞詹大学)
该研究发现循环算法推理器在深度图上会出现过早泛滥问题,分析了GRU处理器等的两种泛滥路径,提出审计输入范围和深度图测试的解决方案。
2026-10-14 cs.AI cs.LG
Neural Algorithmic Reasoners are Implicit Planners
Mila – Québec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);DeepMind(深度思维公司);Faculty of Mathematics(数学学院);University of Belgrade(贝尔格莱德大学);HEC Montréal(蒙特利尔高等商学院)
隐式规划已经成为一种优雅的技术,用于将世界的学习模型与端到端的无模型强化学习相结合。我们研究类隐式规划启发值迭代,算法,保证产生完美的政策,在完全指定的表格环境。我们发现,以前的方法要么假设环境是以这样一种表格形式提供的-这是高度限制性的-或推断“局部邻域”的状态运行值迭代-为此,我们发现了一个算法瓶颈效应。这种影响是由于在每个状态下基于标量预测显式地运行规划算法而引起的,如果不正确地预测这些标量,则这可能对数据效率有害。我们提出了执行潜在值迭代网络(XLVIN),缓解了上述限制。我们的方法在高维潜在空间中执行所有规划计算,打破了算法瓶颈。它通过仔细利用神经图算法推理和对比自监督学习来保持与价值迭代的一致。在八个低数据设置中-包括经典控制,导航和Atari -XLVIN相对于基于值迭代的隐式规划器以及相关的无模型基线,显著提高了数据效率。最后,我们通过经验验证了XLVIN可以与价值迭代紧密结合。
2021-10-11 cs.AI cs.LG stat.ML
Discrete Neural Algorithmic Reasoning
Yandex Research(Yandex研究院)
本文提出强制神经推理器将执行轨迹保持为有限预定义状态的组合,通过分离离散与连续数据流并在状态转换上进行监督训练,在多算法任务中实现完美测试分数并证明算法正确性。
2025-08-13 cs.CL cs.LG
Learning traffic flows: Graph Neural Networks for Metamodelling Traffic Assignment
Department of Technology, Management and Economics, Technical University of Denmark, Lyngby, Denmark(技术、管理与经济系,丹麦技术大学);Department of Civil, Constructional and Environmental Engineering, Sapienza University of Rome, Rome, Italy(土木、建筑与环境工程系,罗马萨皮恩扎大学);Department of Aeronautics and Astronautics, Stanford University, Stanford, California(航空与航天系,斯坦福大学)
针对交通分配问题计算成本高的难题,提出采用模仿传统仿真器算法结构的消息传递神经网络作为元模型,近似随机用户均衡流量,在分布外场景下鲁棒性优于传统深度学习方法,可加速交通规划评估并支持实时决策。
2025-05-16 cs.LG
Neural Algorithmic Reasoning with Causal Regularisation
Purdue University(普渡大学);DeepMind(深度思维)
本文提出 Hint-ReLIC 方法,利用算法中间计算不变性构建因果正则化与数据增强,在 CLRS 基准上显著提升神经算法推理的分布外泛化能力,OOD 测试性能最高提升 3 倍。
2023-07-03 cs.AI cs.LG stat.ME
Neural Algorithmic Reasoning Without Intermediate Supervision
Yandex Research(Yandex研究院)
本文研究仅利用输入-输出对、不依赖中间监督的神经算法推理,通过架构改进和自监督正则化中间计算,在CLRS基准上取得与轨迹监督方法相当甚至更优的结果,尤其在排序任务上实现显著提升。
2023-11-01 cs.LG
Dual Algorithmic Reasoning
University of Pisa(比萨大学);DeepMind(深度思维)
神经网络推理是机器学习的一个新兴领域,它试图在神经网络中注入算法计算,通常通过训练神经模型来近似经典算法的步骤。在这种情况下,目前的大部分工作都集中在学习可达性和最短路径图算法,表明类似算法的联合学习有利于推广。然而,当针对更复杂的问题时,这种类似的算法变得更难找到。在这里,我们建议通过利用底层算法问题的对偶性来学习算法。许多算法解决优化问题。我们证明,同时学习的双重定义,这些优化问题的算法学习允许更好的学习和定性更好的解决方案。具体来说,我们利用最大流最小割定理,同时学习这两个算法在合成生成的图,证明了所提出的方法的有效性。然后,我们通过将其部署在具有挑战性的脑血管分类任务上来验证我们的双重算法推理机的现实效用,这可能取决于血管的流动特性。当在这样的背景下使用我们的模型时,我们展示了明显的性能增益,并且根据经验表明,一起学习最大流和最小割算法对于实现这样的结果至关重要。
2023-02-09 cs.DS cs.LG
Parallel Algorithms Align with Neural Execution
University of Augsburg(奥格斯堡大学);University of Cambridge(剑桥大学);Google DeepMind(谷歌DeepMind)
本文指出神经算法推理器的并行特性,提出通过教授并行算法以减少冗余计算和所需层数,在CLRS框架上验证了该方法能大幅缩短训练时间并提升预测性能。
2024-01-03 cs.LG
Scaling Online Complex Event Detection with Synthetic Supervision and Mamba-Based Neural Algorithmic Reasoning
University of California, Los Angeles(加州大学洛杉矶分校);University of Brescia(布雷西亚大学);Hong Kong University of Science and Technology(香港科学与技术大学);US Army DEVCOM Army Research Laboratory(美国陆军 DEVCOM 军事研究实验室);Amazon(亚马逊)
针对在线复杂事件检测的规则学习瓶颈,提出NAROCE框架,利用合成轨迹预训练Mamba推理器并适配传感器数据,在压力测试中优于基线且大幅降低标注与计算需求。
2026-09-14 cs.AI cs.LG
Strategic Hiring under Algorithmic Monoculture
Stern School of Business, New York University(纽约大学斯特恩商学院);Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院);Graduate Group in Applied Mathematics and Computational Science, University of Pennsylvania(宾夕法尼亚大学应用数学与计算科学研究生小组)
本文研究了在算法单一性劳动力市场中,企业通过共同算法评估竞争导致的拥堵问题,提出均衡策略能显著提升社会福利,需平台揭示拥堵信息以实现最优结果。
2026-02-18 cs.CY cs.GT cs.LG
Blackwell Approachability and Gradient Equilibrium are Equivalent
University of California, Berkeley(加州大学伯克利分校);Inria & École Normale Supérieure(法国国家信息与自动化研究所 & 巴黎高等师范学院)
本文证明梯度均衡(GEQ)与Blackwell可逼近性在算法上等价,从而将GEQ纳入在线学习主流框架,并建立了与遗憾最小化、校准等框架的等价关系。
2026-06-26 cs.LG
Preference-Based Multi-Agent Reinforcement Learning: Data Coverage and Algorithmic Techniques
Tsinghua University(清华大学);University of Washington(华盛顿大学);Harvard University(哈佛大学)
该研究提出 PbMARL 框架,从仅含偏好的离线数据中识别一般和博弈 Nash 均衡,证明单边数据覆盖的必要性,并给出时间轴 MSE 正则化与数据分布悲观惩罚两种技术。
2025-01-09 cs.AI cs.GT cs.LG
An algorithmic solution to the Blotto game using multi-marginal couplings
Crest(经济与统计研究中心);ENSAE(法国国立统计与经济管理学院);Criteo AI LAB(科韬人工智能实验室);MIT(麻省理工学院);Aix Marseille University(艾克斯-马赛大学);Centrale Marseille(马赛中央理工学院);CNRS(法国国家科学研究中心);I2M(马赛数学研究所)
我们描述了一个有效的算法来计算解决方案的一般两个球员的Blotto游戏在n个战场上的异构值。虽然这种解决方案的显式构造仅限于特定的,主要是对称或同质的设置,但这种算法解决方案涵盖了迄今为止最普遍的情况:具有不对称预算的价值不对称游戏。该算法依赖于最近的理论进展Sinkhorn迭代矩阵和张量缩放。一个重要的案例是,预算不对称,战场价值各异,但却对称。在这种情况下,Blotto游戏是恒和的,所以最优的解决方案存在,我们的算法样本从$\varepsilon$-最优的解决方案在时间$\tilde{\mathcal{O}}(n^2 + \varepsilon^{-4})$,独立的预算和战场价值。在不对称值的情况下,最佳解决方案不需要存在,但纳什均衡做,我们的算法样本从$\varepsilon$-纳什均衡具有类似的复杂性,但隐式常数取决于各种参数的游戏,如战场值。
2022-05-31 cs.GT cs.LG
Relational Neural Machines
University of Florence(佛罗伦萨大学);University of Siena(锡耶纳大学)
深度学习已被证明在有大量训练数据可用的几个任务中取得了令人印象深刻的结果。然而,深度学习只关注预测的准确性,忽略了导致决策的推理过程,这是生命关键应用中的一个主要问题。概率逻辑推理允许利用统计知识和特定领域的专业知识在不确定性下进行推理,但其可扩展性和与处理传感数据的层的脆弱集成极大地限制了其应用。出于这些原因,将深度架构和概率逻辑推理相结合是开发在复杂环境中运行的智能代理的基本目标。本文介绍了关系神经机,一种新的框架,允许联合训练的参数的学习者和一阶逻辑为基础的推理。关系神经机能够在纯子符号学习的情况下从监督数据恢复经典学习,并且在纯符号推理的情况下恢复马尔可夫逻辑网络,同时允许联合训练并在混合学习任务中执行推理。设计适当的算法解决方案,使学习和推理在大规模问题中易于处理。实验结果表明,在不同的关系任务有希望的结果。
2020-02-06 cs.AI cs.LG
EigenGame: PCA as a Nash Equilibrium
DeepMind(深度思维)
我们提出了一个新的观点,主成分分析(PCA)作为一个竞争性的游戏中,每个近似的特征向量是由一个球员,其目标是最大化自己的效用函数控制。我们分析了这个PCA游戏的属性及其基于梯度的更新行为。由此产生的算法--它将Oja规则中的元素与广义Gram-Schmidt正交化相结合--自然是分散的,因此可以通过消息传递并行化。我们证明了该算法的可扩展性与实验上的大型图像数据集和神经网络激活。我们将讨论如何将PCA作为一个可微游戏的新观点,可以导致进一步的算法发展和见解。
2021-03-16 cs.LG stat.ML
Algorithmic Collusion Without Threats
University of Pennsylvania(宾夕法尼亚大学);Georgia Tech(佐治亚理工学院)
研究证明,即使定价算法不编码威胁且各自优化自身收益,序贯博弈中先动者部署无遗憾算法、后动者近似优化时,仍会出现垄断式价格,需扩展算法合谋定义。
2024-12-13 cs.GT cs.LG econ.TH
Think Shallow, Solve Deep: Controlling Recurrent Dynamics for Reliable Test-Time Depth
该研究针对循环深度推理器的测试时迭代问题,提出通过控制算子动态状态实现深度安全,提升了数独等任务的外推准确率,为循环模型的可靠深度推理提供了准则。
2026-08-20 cs.CL cs.LG
A Theoretical Analysis of Deep Q-Learning
Princeton University(普林斯顿大学);Northwestern University(西北大学)
尽管深度强化学习在经验上取得了巨大的成功,但其理论基础还不太清楚。在这项工作中,我们首次尝试从理论上理解深度Q网络(DQN)算法(Mnih等人,2015)从算法和统计的角度。具体而言,我们专注于对DQN进行略微简化,以充分捕捉其关键特性。在适度的假设下,我们建立了DQN迭代策略序列的作用价值函数的算法和统计收敛速度。特别地,统计误差表征了使用深度神经网络近似动作-价值函数所产生的偏差和方差,而算法误差以几何速率收敛到零。作为一个副产品,我们的分析提供了经验重放和目标网络,这是至关重要的DQN的实证成功的技术的理由。此外,作为DQN的一个简单的扩展,我们提出了两个局中人零和马尔可夫对策的Minimax-DQN算法。借用DQN的分析,我们还量化了Minimax DQN和马尔可夫博弈的纳什均衡的算法和统计收敛速度方面的政策之间的差异。
2020-02-24 cs.LG math.OC stat.ML
No-Regret Learning in Games is Turing Complete
University of Colorado Boulder(科罗拉多大学博尔德分校);Singapore University of Technology and Design(新加坡科技设计大学)
游戏是多智能体机器学习设置(例如生成对抗网络(GANs))的自然模型。这些游戏中算法交互的理想结果被编码为游戏理论均衡概念,例如纳什均衡和粗相关均衡。由于直接计算均衡通常是不切实际的,人们通常旨在设计迭代收敛到均衡的学习算法。越来越多的负面结果使人们对这一目标产生了怀疑,从不收敛到混乱甚至武断的行为。在本文中,我们在这个列表中添加了一个强否定结果:游戏中的学习是图灵完备的。具体来说,我们证明图灵完备性的复制动态矩阵游戏,最简单的可能设置之一。我们的结果暗示了博弈中学习算法的可达性问题的不确定性,其中一个特例是确定均衡收敛。
2022-02-24 cs.GT cs.LG math.DS
The Fourier Transform of Poisson Multinomial Distributions and its Algorithmic Applications
University of Edinburgh(爱丁堡大学);University of Southern California(南加州大学);University of California, San Diego(加州大学圣地亚哥分校)
一个$(n, k)$ -泊松多项分布(PMD)是一个$X = \sum_{i=1}^n X_i$形式的随机变量,其中$X_i$是独立的随机向量,支持在$\mathbb{R}^k.$中的标准基向量集。作为我们的核心结构结果,我们证明了PMD的傅里叶变换是{ \em近似稀疏}的,即,粗略地说,它的$L_1$ -范数在小集合之外是小的。通过建立这个结果,我们得到以下应用:{ \bf学习理论。我们设计了第一个计算效率高的学习算法PMD的总变化距离。我们的算法学习一个任意的$(n, k)$ -PMD的变化距离$ε$使用一个接近最佳的样本大小的$\widetilde{O}_k(1/ε^2),$和运行时间$\widetilde{O}_k(1/ε^2) \cdot \log n.$以前,没有一个算法与$\mathrm{poly}(1/ε)$运行时是已知的,即使是$k=3.$ { \bf博弈论。}我们给出了第一个有效的多项式时间近似方案(EPTAS)计算纳什均衡匿名游戏。对于具有$n$参与者和$k$策略的规范化匿名博弈,我们的算法计算出时间上支持良好的$ε$ -纳什均衡$n^{O(k^3)} \cdot (k/ε)^{O(k^3\log(k/ε)/\log\log(k/ε))^{k-1}}.$对于此问题,以前最好的算法具有运行时间$n^{(f(k)/ε)^k},$其中$f(k) = Ω(k^{k^2…
2016-06-22 cs.DS cs.GT cs.LG