Towards automating Codenames spymasters with deep reinforcement learning
University of Waterloo(滑铁卢大学)
虽然大多数强化学习研究都集中在竞争游戏上,但很少有人将其应用于合作多人游戏或基于文本的游戏。Codenames是一个涉及非对称合作和自然语言处理的棋盘游戏,这使得它成为推进RL研究的绝佳候选者。据我所知,这项工作是第一个将代号制定为马尔可夫决策过程,并将一些着名的强化学习算法(如SAC,PPO和A2C)应用于环境。虽然上述算法都不收敛于Codenames环境,但它们也不收敛于称为ClickPixel的简化环境,除非电路板尺寸很小。
2022-12-28 cs.AI cs.CL cs.LG
The Interpretability of Codebooks in Model-Based Reinforcement Learning is Limited
Georgia Tech Research Institute(佐治亚理工学院研究学院);Georgia Institute of Technology(佐治亚理工学院)
本文研究了向量量化方法在基于模型的强化学习中是否真正提供可解释性,实验表明其编码存在不一致、非唯一且对概念解耦影响有限等问题,揭示了该方法在模型可解释性上的根本不足。
2024-07-28 cs.AI cs.LG
POLAR: Policy-based Layerwise Reinforcement Learning Method for Stealthy Backdoor Attacks in Federated Learning
Columbia University(哥伦比亚大学);Shanghai Jiao Tong University(上海交通大学);Shanghai University of Electric Power(上海电力大学);National University of Singapore(新加坡国立大学);Stevens Institute of Technology(斯蒂文斯理工学院);Queen’s University Belfast(贝尔法斯特女王大学)
针对联邦学习中现有后门关键层选择方法未考虑层间关联、易被检测的问题,提出采用伯努利采样的轻量分层强化学习方案POLAR,结合正则化约束保障隐蔽性,对抗6种SOTA防御时性能优于最新方法最高达40%。
2025-10-21 cs.LG
Controlling Topological Defects in Polar Fluids via Reinforcement Learning
School of Engineering and Applied Sciences, Harvard University, Cambridge, MA, USA(工程与应用科学学院,哈佛大学,马萨诸塞州剑桥)
本文提出用强化学习调节受限活性极性流体的活性空间分布,以闭环方式引导整数电荷拓扑缺陷沿预定轨迹稳健输运。
2025-07-25 cond-mat.soft cs.AI cs.LG
Improving HPC Code Generation Capability of LLMs via Online Reinforcement Learning with Real-Machine Benchmark Rewards
Department of Computer Science, Nagoya University(名古屋大学计算机科学系);Graduate School of Informatics, Nagoya University(名古屋大学信息科学研究生院);Information Technology Center, Nagoya University(名古屋大学信息技术中心)
本研究通过实时强化学习与真实机器基准奖励提升LLM在HPC领域的代码生成能力。
2026-02-12 cs.LG
Discovering highly efficient low-weight quantum error-correcting codes with reinforcement learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校);University of California, Berkeley(加州大学伯克利分校);Yau Mathematical Sciences Center, Tsinghua University(清华大学丘成桐数学科学中心)
提出基于强化学习的稳定子码降重量方法,发现实际参数区间内显著优于现有结果的低重量qLDPC码,并将重量6码的物理量子比特开销降低1至2个数量级。
2025-02-20 cs.AI cs.IT cs.LG
Coding for Distributed Multi-Agent Reinforcement Learning
University of California, San Diego(加州大学圣地亚哥分校);San Diego State University(圣地亚哥州立大学)
针对多智能体强化学习(MARL)问题,研究了同步分布式学习中的离散效应。在分布式学习系统中,由于存在各种系统干扰,如计算节点的减速或故障以及通信瓶颈,经常会出现掉队现象。为了解决这个问题,我们提出了一个编码的分布式学习框架,它可以在存在掉队者的情况下加快MARL算法的训练,同时保持与集中式方法相同的准确性。作为一个例子,编码的分布式版本的多代理深度确定性策略梯度(MADDPG)算法的开发和评估。不同的编码方案,包括最大距离可分离(MDS)码,随机稀疏码,基于复制的码,和规则的低密度奇偶检验(LDPC)码也进行了研究。多机器人问题的仿真结果表明,该框架具有良好的性能。
2021-01-07 cs.LG
ReCode: Updating Code API Knowledge with Reinforcement Learning
ReCode通过强化学习方法提升LLMs在动态API环境下的代码生成能力,尤其在CodeUpdateArena任务中表现优异。
2025-11-23 cs.AI cs.CL cs.IR
Entropy Polarity in Reinforcement Fine-Tuning: Direction, Asymmetry, and Control
Fudan NLP Group(复旦大学自然语言处理组);Honor Device Co Ltd(荣誉设备有限公司);University of Hong Kong(香港大学);Shanghai Jiao Tong University(上海交通大学);Tencent Hunyuan(腾讯文心)
本文提出熵极性理论框架,揭示熵变化的token级机制,开发PAPO算法通过优势重加权实现熵控制,实验显示其在数学推理和代理基准中表现优异。
2026-05-14 cs.CL cs.LG
CoaCor: Code Annotation for Code Retrieval with Reinforcement Learning
The Ohio State University(俄亥俄州立大学)
为了加速软件开发,已经进行了许多研究来帮助人们理解和重用大量可用的代码资源。两个重要的任务已经被广泛研究:代码检索,其目的是从代码库中检索与给定自然语言查询相关的代码片段,以及代码注释,其中目标是用自然语言描述来注释代码片段。尽管这两项任务近年来取得了进展,但大多数情况下是分别探讨的。在这项工作中,我们调查了一个新的角度代码注释代码检索(因此称为“CoaCor'),其中代码注释模型被训练生成一个自然语言注释,可以表示一个给定的代码片段的语义含义,并可以利用代码检索模型,以更好地区分相关的代码片段。为此,我们提出了一个基于强化学习的有效框架,它明确鼓励代码注释模型生成可用于检索任务的注释。通过大量的实验,我们表明,我们的框架生成的代码注释更详细,更有用的代码检索,他们可以进一步提高现有的代码检索模型的性能显着。
2019-03-13 cs.CL cs.IR cs.LG
Optimizing Quantum Error Correction Codes with Reinforcement Learning
University of Innsbruck(因斯布鲁克大学);Microsoft Research(微软研究院);Leiden University(莱顿大学);University of Konstanz(康斯坦茨大学);Austrian Academy of Sciences(奥地利科学院)
量子纠错被广泛认为是容错量子计算的关键。然而,为未知的错误通道或特定的实验室设置确定最合适的编码是非常具有挑战性的。在这里,我们提出了一个强化学习框架优化和容错适应量子纠错码。我们考虑一个强化学习代理,其任务是修改一系列表面码量子存储器,直到达到所需的逻辑错误率。使用具有任意连接性的大约70个数据量子位的有效模拟,我们证明了这样的强化学习代理可以确定各种感兴趣的错误模型的数据量子位数量的接近最优的解决方案。此外,我们表明,在一个设置上训练的代理能够成功地将他们的经验转移到不同的设置。这种迁移学习的能力展示了强化学习的内在优势,以及我们的方法从离线模拟到在线实验室设置的优化适用性。
2020-04-09 cs.AI cs.LG quant-ph
Learning Explicit Credit Assignment for Cooperative Multi-Agent Reinforcement Learning via Polarization Policy Gradient
Nanjing University(南京大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
协作多智能体策略梯度(MAPG)算法近年来受到广泛关注,被认为是多智能体系统的一种通用方案。信用分配在MAPG中起着重要的作用,它可以诱导多个Agent之间的合作。然而,大多数MAPG算法不能实现良好的信用分配,因为被称为\textit{centralized-decentralized mismatch}的博弈论病理。为了解决这个问题,本文提出了一种新的方法,\textit{\underline{M}ulti-\underline{A}gent \underline{P}olarization \underline{P}olicy \underline{G}radient}(MAPPG)。MAPPG采用一个简单但有效的极化函数将联合和个体行为的最佳一致性转化为易于实现的约束,从而实现了MAPG中的有效信用分配。从理论上证明了MAPPG的个体策略能够收敛到全局最优解。在经验上,我们在著名的矩阵对策和微分对策上评估了MAPPG,并验证了MAPPG可以收敛到离散和连续行动空间的全局最优解。我们还评估了一组星际争霸II微观管理任务的MAPPG,并证明MAPPG优于国家的最先进的MAPG算法。
2023-03-06 cs.LG
Enhancing Reinforcement learning in 3-Dimensional Hydrophobic-Polar Protein Folding Model with Attention-based layers
Faculty of Engineering, The University of Tokyo(东京大学工学部)
本研究将深度Q网络与注意力机制结合,用于三维疏水-极性蛋白质折叠模型,通过自回避行走和专门奖励函数,在标准基准上取得短序列最佳解和长链近最优结果。
2025-04-22 cs.AI cs.LG
Optimal Control with Natural Images: Efficient Reinforcement Learning using Overcomplete Sparse Codes
University of New England(新英格兰大学)
本文通过过完备稀疏编码实现自然图像的高效最优控制,证明强化学习在无需深度学习的情况下可有效解决复杂控制任务。
2026-05-05 cs.AI cs.LG cs.SY
Reinforcement Learning Decoders for Fault-Tolerant Quantum Computation
Freie Universität Berlin(柏林自由大学)
拓扑纠错码,特别是表面码,目前提供了走向大规模容错量子计算的最可行的路线图。因此,获得快速和灵活的解码算法,这些代码,在实验相关的背景下,错误的综合征测量,是至关重要的。在这项工作中,我们表明,解码这样的代码的问题,在充分的容错设置,可以自然地重新制定为一个解码代理和代码环境之间的重复交互的过程,其中强化学习的机器可以应用于获得解码代理。作为演示,通过使用deepQ学习,我们获得了各种噪声模型的表面码的快速解码代理。
2018-10-16 cs.AI cs.LG quant-ph
Coarse-Tuning Models of Code with Reinforcement Learning Feedback
Rice University(莱斯大学);UT Austin(德克萨斯大学奥斯汀分校);University of Wisconsin(威斯康星大学)
提出RLCF,用强化学习结合编译器和LLM反馈粗调代码模型,在Java任务上提升编译与执行正确率,达到更大模型性能。
2023-12-23 cs.AI cs.LG cs.PL
Domain-Adaptable Reinforcement Learning for Code Generation with Dense Rewards
Hessian Center for Artificial Intelligence (hessian.AI)(海斯曼人工智能中心);National Research Center for Applied Cybersecurity ATHENE(应用网络安全国家研究中心ATHENE)
本研究提出了一种领域可适应的强化学习框架,用于改进代码生成的正确性、质量和安全性,通过定制化的执行感知奖励公式和令牌级奖励映射机制,提高了代码生成在不同领域中的适应性和执行效率。
2026-05-20 cs.LG cs.SE
rlpyt: A Research Code Base for Deep Reinforcement Learning in PyTorch
University of California, Berkeley(加州大学伯克利分校)
自从最近出现用于游戏和模拟机器人控制的深度强化学习以来,大量新算法蓬勃发展。大多数是无模型算法,可以分为三个家族:深度Q学习,策略梯度和Q值策略梯度。这些都是沿着不同的研究方向发展的,因此很少有代码库(如果有的话)包含所有三种类型。然而,这些算法共享一个共同的深度强化学习机制的很大深度。我们很高兴分享rlpyt,它在一个单一的存储库中,在一个共享的、优化的基础设施之上实现了所有三个算法家族。它包含使用PyTorch(一个领先的深度学习库)在Python中实现的许多常见深度RL算法的模块化实现。rlpyt被设计为一个高吞吐量的代码库,用于深度RL中的中小规模研究。本白皮书总结了它的功能、实现的算法以及与以前工作的关系,最后给出了详细的实现和使用说明。rlpyt可在https://github.com/astooke/rlpyt上获得。
2019-09-24 cs.AI cs.LG
SWaRL: Safeguard Code Watermarking via Reinforcement Learning
ECE Department UC San Diego(UC圣地亚哥大学电子与计算机工程系);Cisco Research(思科研究)
SWaRL通过强化学习框架实现稳健且保真度高的代码水印,保护大语言模型的知识产权,通过在生成程序中嵌入唯一可验证签名,有效抵御移除攻击并保持功能正确性。
2026-05-07 cs.CR cs.LG
RLTF: Reinforcement Learning from Unit Test Feedback
Tencent(腾讯)
针对代码生成中强化学习探索不足及单元测试信号利用不充分的问题,提出在线RL框架RLTF,利用多粒度单元测试反馈实时优化代码LLM,在APPS和MBPP基准上达到最先进性能。
2023-11-13 cs.AI cs.CL cs.LG
Execution-based Code Generation using Deep Reinforcement Learning
Virginia Tech(弗吉尼亚理工学院)
针对现有代码生成方法忽略代码序列级特征的问题,提出结合预训练PL模型与PPO强化学习的PPOCoder框架,利用执行反馈优化模型,在多任务多语言上显著提升编译成功率和功能正确性。
2023-07-19 cs.AI cs.CL cs.LG
ObjectRL: An Object-Oriented Reinforcement Learning Codebase
Department of Mathematics and Computer Science University of Southern Denmark(数学与计算机科学系 欧洲南部大学)
ObjectRL 是一个基于面向对象编程原则的开源深度强化学习代码库,通过清晰的类层次结构和组件化设计降低研究原型开发门槛,提升算法实现、修改与评估的灵活性和效率。
2025-07-04 cs.LG
Enhancing the Code Reasoning Capabilities of LLMs via Consistency-based Reinforcement Learning
Harbin Institute of Technology(哈尔滨工业大学);The Chinese University of Hong Kong(香港中文大学)
本文提出CodeThinker框架,通过一致性驱动的强化学习方法提升大语言模型的代码推理能力,实验表明其在多个基准测试中表现优异,显著提升了代码生成和数学推理任务的准确性。
2026-05-18 cs.LG cs.PL
A Comprehensive Guide to Combining R and Python code for Data Science, Machine Learning and Reinforcement Learning
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文介绍如何通过R的reticulate包结合R与Python,利用Python的机器学习库和R的统计功能,提升数据科学、机器学习和强化学习项目的开发效率。
2024-07-19 cs.LG cs.PL
Code as Reward: Empowering Reinforcement Learning with VLMs
Mila(米拉计算研究所);McGill University(麦吉尔大学);Google DeepMind(谷歌DeepMind);University of California, Berkeley(加利福尼亚大学伯克利分校)
针对VLMs推理昂贵的问题,提出VLM-CaR框架,通过代码生成稠密奖励函数,在多种环境中准确且高效地训练强化学习策略。
2024-02-07 cs.LG
MimicKit: A Reinforcement Learning Framework for Motion Imitation and Control
Simon Fraser University(西蒙弗雷泽大学);NVIDIA(英伟达)
MimicKit 通过运动模仿和强化学习结合,提供统一的运动控制训练框架,支持计算机图形学和机器人学的研究与应用。
2026-01-18 cs.GR cs.LG cs.RO
CodeRL: Mastering Code Generation through Pretrained Models and Deep Reinforcement Learning
Salesforce Research(Salesforce研究院)
程序合成或代码生成的目的是生成满足问题规格说明的程序。最近使用大规模预训练语言模型(LM)的方法已经显示出有希望的结果,但它们有一些关键的限制。特别是,他们经常遵循一个标准的监督微调过程,训练一个代码生成模型,只从自然语言的问题描述和地面实况程序对。这种范式在很大程度上忽略了问题规范中一些重要但潜在有用的信号,如单元测试,因此在解决复杂的看不见的编码任务时往往导致性能低下。为了解决这些局限性,我们提出了“CodeRL”,这是一个通过预训练的LM和深度强化学习(RL)进行程序合成任务的新框架。具体来说,在训练过程中,我们把代码生成LM作为一个演员网络,并引入一个评论家网络,该网络被训练来预测生成的程序的功能正确性,并提供密集的反馈信号的演员。在推理过程中,我们引入了一个新的生成过程中的关键抽样策略,允许模型自动再生程序的基础上,从例子单元测试和评论家的分数反馈。对于模型骨干,我们扩展了CodeT 5的编码器-解码器架构,增强了学习目标,更大的模型大小和更好的预训练数据。我们的方法不仅在具有挑战性的APPS基准测试中获得了新的SOTA结果,而且在更简单的MBPP基准测试中获得了新的SOTA结果,显示了强大的zero-shot传输能力。
2022-11-03 cs.CL cs.LG cs.PL
From Codebase to Culprit (C2C): Reducing the Search Space for Bugs with Semantic Retrieval and Hierarchical Reinforcement Learning
University of Calgary(卡尔加里大学)
C2C框架结合语义检索与分层强化学习,在文件、函数和代码行多粒度上逐步缩减缺陷搜索空间,实现精确缺陷定位,并在真实Java和Python数据集上提升检索精度与定位准确性。
2026-10-01 cs.LG cs.SE
A Reinforcement Learning Environment for Automatic Code Optimization in the MLIR Compiler
New York University Abu Dhabi(纽约大学阿布扎赫尔分校);ESI(埃斯国际研究所);USTHB(阿尔及利亚国家技术与高等理工学院)
本文提出MLIR RL,一种为MLIR编译器设计的强化学习环境,用于自动代码优化,通过多离散动作空间和level pointers方法提升策略学习效率。
2025-12-20 cs.DC cs.LG cs.SE
Multi-Agent Reinforcement Learning Based Coded Computation for Mobile Ad Hoc Computing
University of California, San Diego(加州大学圣迭戈分校);San Diego State University(圣迭戈州立大学);University of Puerto Rico at Mayagüez(波多黎各大学马亚圭斯分校);University of Texas at Arlington(德克萨斯大学阿灵顿分校);University of North Texas(北德克萨斯大学)
移动自组织计算(MAHC)允许移动设备直接共享它们的计算资源,是解决移动设备对计算资源日益增长的需求的一种很有前途的解决方案。然而,将计算任务从移动终端卸载到其他移动设备是一项具有挑战性的任务,这是由于节点移动性、不稳定和未知的通信环境以及这些设备的异构性质导致的频繁拓扑变化和链路故障。为了解决这些问题,本文提出了一种基于多智能体强化学习(MARL)的编码计算方案,该方案具有适应网络变化、高效、鲁棒性强、考虑节点异构性、分散负载分配等特点.全面的仿真研究表明,所提出的方法可以优于国家的最先进的分布式计算计划。
2021-04-15 cs.LG cs.SY eess.SY
Teaching LLM to Reason: Reinforcement Learning from Algorithmic Problems without Code
University of Science and Technology of China(中国科学技术大学);Alibaba Group(阿里巴巴集团);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文提出TeaR方法,通过精心的数据筛选和强化学习引导模型在与代码相关的任务中发现最优推理路径,从而避免对算法模式的过拟合,显著提升了LLM在数学、知识、代码和逻辑推理等多个基准上的通用推理能力。
2025-07-14 cs.CL cs.LG
Decoding surface codes with deep reinforcement learning and probabilistic policy reuse
Riverlane;Brookhaven National Laboratory(布鲁克海文国家实验室);Boston University(波士顿大学);Stanford University(斯坦福大学)
量子计算(QC)在某些硬计算任务上比经典计算机具有显著的优势。然而,目前的量子硬件,也被称为噪声中等规模量子计算机(NISQ),仍然无法忠实地进行计算,主要是因为缺乏量子纠错(QEC)能力。大量的理论研究已经提供了各种类型的QEC码;其中一个值得注意的拓扑码是表面码,其特征,例如仅需要最近相邻的两个量子比特控制门和大的错误阈值,使其成为可扩展量子计算的主要候选者。近年来,基于机器学习(ML)的技术特别是强化学习(RL)方法被应用于解码问题,并取得了一定的进展。然而,设备噪声模式可能随时间改变,使得训练的解码器模型无效。在本文中,我们提出了一种连续强化学习方法来解决这些解码挑战。具体来说,我们实现了具有概率策略重用的双深度Q学习(DDQN-PPR)模型,以学习具有不同噪声模式的量子环境的表面码解码策略。通过数值模拟,我们表明,所提出的DDQN-PPR模型可以显着降低计算复杂度。此外,增加训练策略的数量可以进一步提高代理的性能。我们的研究结果为构建更有能力的RL代理开辟了一条道路,这些代理可以利用以前获得的知识来应对QEC挑战。
2022-12-22 cs.AI cs.ET cs.LG
Agentic Reinforcement Learning for Real-World Code Repair
LinkedIn
本研究提出可验证的代码修复流水线,并基于简化环境对Qwen3-32B进行SFT和RL训练,发现匹配训练-测试环境对构建可靠智能体至关重要。
2025-10-24 cs.AI cs.CL cs.LG
Entropy-Regularized Rank-Masked Policy Optimization for Test-Time Reinforcement Learning in Code Generation
Nanyang Technological University(南洋理工大学)
针对代码生成中测试时强化学习因程序不可比较而失效的问题,提出探针驱动TTRL与熵正则化排名掩码策略优化(ERPO),通过行为共识奖励和保守更新显著提升编码基准的pass@1和pass@k。
2026-09-09 cs.CL cs.LG
From Intent to Execution: Multimodal Chain-of-Thought Reinforcement Learning for Precise CAD Code Generation
Fudan University(复旦大学);ByteDance Inc(字节跳动公司)
本文提出CAD-RL框架,通过多模态思维链冷启动与三类任务奖励驱动的强化学习后训练,并辅以三种优化策略,显著提升CAD代码生成的推理质量、数值精度与可执行性,同时发布包含16,540个真实示例的ExeCAD数据集。
2025-08-18 cs.CV cs.LG
Improving Automatic Source Code Summarization via Deep Reinforcement Learning
Zhejiang University(浙江大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Technology Sydney(悉尼科技大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Tsinghua University(清华大学)
代码摘要提供了对代码所执行功能的高级自然语言描述,有利于软件维护、代码分类和检索。据我们所知,大多数最先进的方法遵循编码器-解码器框架,其将代码编码到隐藏空间中,然后将其解码到自然语言空间中,具有两个主要缺点:a)它们的编码器只考虑代码的顺序内容,忽略了对于代码摘要任务也至关重要的树结构,b)它们的解码器通常被训练为通过最大化下一个地面实况词与前一个地面实况词的可能性来预测下一个词。但是,预计将在测试时从头开始生成整个序列。这种差异可能导致\textit{exposure bias}问题,使学习的解码器次优。在本文中,我们将抽象语法树结构以及代码片段的顺序内容纳入深度强化学习框架(即,演员-评论家网络)。演员网络提供了根据当前状态预测下一个词的信心。另一方面,评论家网络评估当前状态的所有可能扩展的奖励值,并可以为探索提供全局指导。我们采用BLEU指标组成的优势奖励训练两个网络。在真实数据集上的综合实验表明,与一些最先进的方法相比,我们提出的模型是有效的。
2018-11-17 cs.CL cs.LG cs.SE
Automatic Unit Test Data Generation and Actor-Critic Reinforcement Learning for Code Synthesis
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
针对代码合成中单元测试奖励信号难以获取的问题,提出自动生成函数签名与单元测试数据的方法,并设计Actor-Critic强化学习训练方案,使预训练代码模型性能显著提升。
2023-10-20 cs.AI cs.CL cs.LG
PolarZero: A Reinforcement Learning Approach for Low-Complexity Polarization Kernel Design
针对大核极化码低复杂度设计难题,提出基于Gumbel AlphaZero的强化学习框架PolarZero,可在RMLD下高效探索设计空间,构造出误差指数更优、解码复杂度更低的大尺寸极化核,验证了学习方法的实用价值。
2025-10-30 cs.IT math.IT
Reinforcement Learning-Aided Design of Efficient Polarization Kernels
本文提出基于Gumbel AlphaZero强化学习的PolarZero方法,用于在递归最大似然译码下高效设计低复杂度大极化核,其性能媲美穷举搜索并发现尺寸16的优质核。
2025-05-08 cs.IT math.IT
Designing Quantum Error Correcting Codes to fit decoders via Reinforcement Learning
Imperial College London(帝国理工学院);Microsoft Research(微软研究院)
该研究提出强化学习方法协同设计量子纠错码稳定器集合与译码器,固定译码器架构后用近端策略优化训练智能体,在去极化信道噪声下最大化译码器性能,可生成适配译码器的双变量自行车码。
2026-08-18 cs.IT math.IT quant-ph
Linear Complementary Dual Codes Constructed from Reinforcement Learning
本研究针对编码理论中的LCD码构造问题,采用好奇心驱动的强化学习方法,通过设计奖励与状态动作映射,结合随机网络蒸馏优化探索,构造出纠错性能更优、最小距离界更好的二元和三元LCD码。
2024-09-12 cs.IT math.IT
Non-Binary Polar Codes using Reed-Solomon Codes and Algebraic Geometry Codes
Arikan提出的极化码在低编码和解码复杂度下实现了任何离散无记忆信道的对称容量。最近,已经研究了非二进制极化码。本文通过数值模拟计算了基于Reed-Solomon矩阵构造的非二进制极化码的误码率。结果表明,在二进制输入的AWGN信道上,四进制极化码的性能明显优于二进制极化码。我们还讨论了极化码的代数几何码的解释,并进一步表明,极化码使用厄米特码具有渐近良好的性能。
2010-07-21 cs.IT math.IT
Polarization-Adjusted Convolutional (PAC) Codes as a Concatenation of Inner Cyclic and Outer Polar- and Reed-Muller-like Codes
本研究证明极化调整卷积(PAC)码等价于内循环码与外极化及类Reed-Muller码的级联,并利用循环码性质证明其在最小距离上优于后两者。
2023-08-02 cs.IT math.IT
A RM-Polar Codes
在这封信中,我们提出了一种新的混合码称为“RM极化”码。这种新的码是通过结合Reed-Muller(RM)码和Polar码的构造来构造的。它具有比极化码大得多的最小汉明距离,因此它具有比极化码好得多的错误性能。
2014-07-21 cs.IT math.IT
Learning to Decode: Reinforcement Learning for Decoding of Sparse Graph-Based Channel Codes
在这项工作中,我们表明,强化学习可以成功地应用于解码短到中等长度的稀疏基于图的信道码。具体而言,我们关注低密度奇偶检验(LDPC)码,例如,由于其优异的纠错性能,其已经在5G蜂窝通信系统的上下文中被标准化。这些代码通常经由泛洪在代码的对应二分(Tanner)图上经由置信传播迭代解码来解码,即,Tanner图中的所有校验节点和变量节点被立即更新。相比之下,在本文中,我们利用顺序更新策略,选择最佳的检查节点(CN)的调度,以提高解码性能。特别是,我们将CN更新过程建模为具有依赖臂的多臂强盗过程,并采用Q学习方案来优化CN调度策略。为了降低学习复杂度,我们提出了一种新的图诱导CN聚类方法来划分状态空间,以这样一种方式,集群之间的依赖关系被最小化。我们的研究结果表明,与文献中的其他解码方法相比,所提出的强化学习方案不仅显著提高了解码性能,而且一旦学习到调度策略,解码复杂度也大大降低。
2020-10-17 cs.IT math.IT
A Practical Approach to Polar Codes
在本文中,我们从实用的角度研究极化码。特别地,我们研究了级联极化码和速率兼容极化码。首先,我们提出了一种级联方案,包括极化码和低密度奇偶校验(LDPC)码。我们将表明,我们提出的方案优于传统的级联方案形成的LDPC和里德所罗门(RS)码。然后,我们研究了两种速率兼容的编码方案,使用极化码。我们将看到,极化码可以被设计为在一组物理降级信道上实现速率兼容的通用容量码。我们还研究了打孔对极化码的影响,以设计速率兼容码。
2011-07-26 cs.IT math.IT
Practical Product Code Construction of Polar Codes
本文研究了极化码和乘积码之间的联系。我们的分析表明,两个极化码的乘积再次是极化码,并且我们提供了基于分量极化码的冻结集来计算其冻结集的指导方针。此外,我们还展示了如何将极化码描述为不规则乘积码。我们提出了一种用于长极化码的两步解码器,利用这种双重性质来大大减少解码延迟。最后,我们表明,所提出的解码技术优于标准的极化码和国家的最先进的代码的光通信下的延迟约束。
2019-10-14 cs.IT math.IT
Polar Codes: Graph Representation and Duality
在本文中,我们提出了一个迭代构造的极化码和发展的性质的极化码的对偶。基于这种方法,极化码的置信传播可以在低密度奇偶检验码的上下文中呈现。
2013-12-02 cs.IT math.IT
A H-ARQ scheme for polar codes
我们考虑了利用极化码支持H-ARQ的问题。为了支持H-ARQ,我们提出基于极化码的不同但等效的子集来创建冗余版本。使用极化码构造中的固有对称性从极化码的初始子集创建等效子集。贪婪构造用于创建极化码的初始子集。我们通过模拟二进制输入AWGN信道的性能,建议的建设。我们证明了(4096,1024)极化码可以被划分为两个不相交的(2048,1024)子集极化码,其在单独解码时在(2048,1024)极化码的0.2dB(在$1 \%$ BLER)内,并且在联合解码时实现(4096,1024)极化码的性能。
2016-06-28 cs.IT math.IT
On decoding algorithms for polar codes
本文综述了极化码的列表译码算法,并比较了它们的复杂度。索引术语:极化码; Reed-Muller码;连续抵消解码。
2017-03-17 cs.IT math.IT
Optimizing hypergraph product codes with random walks, simulated annealing and reinforcement learning
本文针对量子擦除信道,利用强化学习和模拟退火等随机码采样优化技术改进超图乘积码性能,实验证明其优于现有最先进方法。
2025-06-05 cs.IT math.IT quant-ph
Capacity-Achievability of Polar Codes and Precoded Polar Codes under List Decoding: They are Good both Practically and Theoretically
Arıkan提出的连续抵消解码下的极化码可证明实现任何给定二进制输入离散无记忆信道的对称容量。用于极化码的连续消除列表解码器由Tal和Vardy描述为Arıkan的连续消除解码器的推广。连续消去表译码器的性能在实践中是令人鼓舞的。在本文中,我们形式化的连续取消列表解码器在我们的符号,并证明在连续取消列表解码下的极化码实现任何给定的二进制输入离散无记忆信道的对称容量在理论上以及。我们还形式化了Tal和Vardy的具有CRC预编码的极化码。事实上,我们提出了一族更一般的码,即预编码极化码,并证明了在连续消除列表解码下的预编码极化码在一定条件下可以实现任何给定的二进制输入离散无记忆信道的对称容量。
2017-12-13 cs.IT math.IT
Interleaved Polar (I-Polar) Codes
通过在极化编码器的中间级之间插入交织器,提出了一类新的极化码,称为交织极化(i-极化)码。通过均匀交织器假设,我们推导出在i-极化码的集合上平均的权重枚举函数(WEF)和输入-输出权重枚举函数(IOWEF)。平均WEF可以用于计算从i极化码的集合中随机选择的码的平均块出错率(BLER)的上限。此外,我们提出了一种级联编码方案,采用P高速率码作为外码和Q i-极化码作为内码与交织器之间。基于均匀交织器假设推导出级联码的平均WEF。仿真结果表明,该上界可以很好地预测级联码的误码率性能。结果表明,在高信噪比下,P=Q=2的级联码的性能优于相同长度和码率的CRC辅助i-极化码(P=Q=1)。此外,所提出的级联码允许多个解码器并行操作,这可以减少解码延迟,因此适合于超可靠低延迟通信(URLLC)。
2019-08-02 cs.IT math.IT
Binary Polar Codes are Optimized Codes for Bitwise Multistage Decoding
极化码被认为是编码理论的最新重大突破。极化码是由Arıkan在2008年推出的。在这封信中,我们证明了二进制极化码与Stolte在2002年发现的按位多级解码(OCBM)的优化码相同。这两个代码的建设和解码所使用的技术之间的等价性。
2016-04-12 cs.IT math.IT