Enhanced Trading Systems with Intelligent Market Analysis
PES University(PES大学);Key Resource Person(关键资源人员)
该研究提出融合日内市场数据与Transformer金融情绪信号的混合强化学习交易框架,将其融入PPO交易智能体,在NSE日内数据实验中较仅价格基准提升了风险调整后收益。
2026-10-14 cs.AI cs.LG
Explainable Reinforcement Learning on Financial Stock Trading using SHAP
Institute for Development and Research in Banking Technology (IDRBT)(银行业技术发展与研究所(IDRBT));University of Hyderabad(海得拉巴大学)
近年来,可解释人工智能(XAI)研究在响应用户社区对AI更高透明度和信任度的需求方面取得了显著进展。这一点尤其重要,因为人工智能被应用于金融、医学等敏感领域,对社会、道德和安全的影响是巨大的。经过全面系统的评估,XAI的工作主要集中在机器学习(ML)的分类,决策或行动。据我们所知,没有任何工作报告提供了一个可解释的强化学习(XRL)方法来交易金融股票。在本文中,我们提出在流行的深度强化学习架构上使用SHapley加法解释(SHAP),即,深度Q网络(DQN),用于解释金融股票交易中给定实例的代理行为。为了证明我们的方法的有效性,我们在两个流行的数据集上进行了测试,即SENSEX和DJIA,并报告了结果。
2022-08-18 cs.AI
A Risk-Aware Reinforcement Learning Reward for Financial Trading
MNNIT Allahabad(孟加拉国印度理工学院阿拉瓦布)
本文提出一种由年化收益率、下行风险、差异收益率和Treynor比率四项构成的可微复合奖励函数,通过权重参数化和网格搜索平衡金融交易强化学习中的收益与风险,并推导闭式梯度及理论性质,为多目标奖励设计提供通用框架。
2025-06-04 cs.LG
News-Aware Direct Reinforcement Trading for Financial Markets
针对金融市场新闻敏感性强的特点,提出将大模型新闻情感分数与量价数据共同作为强化学习输入、结合序列模型实现端到端交易的新闻感知直接强化交易方法,在加密货币市场实验中表现优于市场基准,验证了时序信息的关键作用。
2025-10-22 cs.AI cs.LG q-fin.CP
Safe-FinRL: A Low Bias and Variance Deep Reinforcement Learning Implementation for High-Freq Stock Trading
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳))
近年来,许多量化金融的从业者试图使用深度强化学习(DRL)来构建更好的量化交易(QT)策略。然而,许多现有的研究未能解决一些严重的挑战,如非平稳的金融环境和偏差和方差权衡时,应用DRL在现实金融市场。在这项工作中,我们提出了Safe-FinRL,一种新的基于DRL的高频股票交易策略,通过近平稳的金融环境和低偏差和方差估计来增强。我们的主要贡献是两方面的:首先,我们分离的长期金融时间序列到近平稳的短期环境,其次,我们实现了跟踪SAC在近平稳的金融环境中,将一般的回溯算子到软演员批评。在加密货币市场上进行的大量实验表明,Safe-FinRL提供了稳定的价值估计和稳定的政策改进,并在接近稳定的金融环境中显着减少了偏差和方差。
2022-06-13 cs.LG q-fin.PM
Financial Trading as a Game: A Deep Reinforcement Learning Approach
National Chiao Tung University(国立交通大学)
从金融市场中产生持续利润的自动程序对每个市场从业者来说都是有利可图的。深度强化学习的最新进展为这种交易代理的端到端训练提供了一个框架。在本文中,我们提出了一个马尔可夫决策过程(MDP)模型,适用于金融交易任务,并解决它与最先进的深度递归Q网络(DRQN)算法。我们提出了几个修改现有的学习算法,使其更适合下的金融交易设置,即1。与现代深度强化学习算法(通常为数百万大小)相比,我们使用了相当小的重放内存(大小只有几百)。2.我们开发了一种行动增强技术,以减轻随机探索的需要,通过提供额外的反馈信号的所有行动的代理。这使我们能够在学习过程中使用贪婪策略,并且与更常用的ε-贪婪探索相比,显示出强大的经验性能。然而,这种技术是特定于金融交易下的一些市场假设。3.我们采样一个更长的序列用于循环神经网络训练。这种机制的副产品是,我们现在可以为每T步训练代理。这大大减少了训练时间,因为总体计算量下降了T的因子。我们将上述所有的结合成一个完整的在线学习算法,并验证我们的方法在现场外汇市场。
2018-07-08 cs.LG q-fin.TR stat.ML
Nonstationary Continuum-Armed Bandit Strategies for Automated Trading in a Simulated Financial Market
University of Bristol(布里斯托大学);Tokyo Institute of Technology(东京工业大学)
针对适应市场变化的自动交易策略设计,将其构建为非平稳连续武装强盗问题,提出基于贝叶斯优化与“bandit-over-bandit”框架的PRBO算法,在BSE模拟中利润显著优于PRSH且超参数更少。
2023-06-26 cs.LG cs.MA
An intelligent financial portfolio trading strategy using deep Q-learning
Pohang University of Science and Technology(浦项科技大学);Seoul National University of Science and Technology(首尔国立科技大学)
投资组合交易者努力确定动态投资组合分配方案,以便在整个投资期限内有效分配总预算。本研究提出了一种新的投资组合交易策略,其中智能代理通过使用深度Q学习来训练以识别最佳交易行为。我们制定了一个马尔可夫决策过程模型的投资组合交易过程中,该模型采用了离散的组合行动空间,确定交易方向,在预先设定的交易规模为每种资产,以确保实用性。我们新颖的投资组合交易策略利用三个特点,在现实世界的交易中表现出色。首先,设计一个映射函数来处理和转换一个最初发现的,但不可行的行动到一个可行的行动最接近最初提出的理想行动。其次,本研究克服维度问题,建立代理人与Q-网路模型,在预定义的行动空间中推导出多资产交易策略。最后,本研究介绍了一种技术,其优点是通过设计一个代理来模拟每个状态下的所有可行行动,从而得出一个非常适合的多资产交易策略。为了验证我们的方法,我们对两个有代表性的投资组合进行了回测,并展示了优于基准策略的结果。
2019-11-28 cs.AI q-fin.PM
An Application of Deep Reinforcement Learning to Algorithmic Trading
University of Liège(列日大学)
这篇科学研究论文提出了一种基于深度强化学习(DRL)的创新方法,以解决算法交易问题,即在股票市场的交易活动中的任何时间点确定最佳交易位置。它提出了一种新的DRL交易策略,以最大限度地提高夏普比率的性能指标在广泛的股票市场。这种新的交易策略被命名为交易深度Q网络算法(TDQN),其灵感来自流行的DQN算法,并显著适应手头的特定算法交易问题。由此产生的强化学习(RL)代理的训练完全基于从有限的股票市场历史数据集生成人工轨迹。为了客观地评估交易策略的绩效,本文还提出了一种新的、更严格的绩效评估方法。根据这种新的性能评估方法,有希望的结果报告TDQN战略。
2020-10-09 cs.AI cs.LG q-fin.TR
DeepScalper: A Risk-Aware Reinforcement Learning Framework to Capture Fleeting Intraday Trading Opportunities
Nanyang Technological University(南洋理工大学);Huawei Noah Ark Lab(华为诺亚方舟实验室);Webank(微众银行);Tsinghua University(清华大学)
强化学习(RL)技术在许多具有挑战性的定量交易任务中取得了巨大成功,例如投资组合管理和算法交易。特别是,由于金融市场的日内行为反映了数十亿快速波动的资金,日内交易是最有利可图和风险最大的任务之一。然而,绝大多数现有的RL方法集中在相对低频的交易场景(例如,日级别),并未能捕捉稍纵即逝的日内投资机会,由于两个主要的挑战:1)如何有效地训练有利可图的RL代理日内投资决策,这涉及高维细粒度的行动空间; 2)如何学习有意义的多模态市场表示,以了解在tick级别的金融市场的日内行为。受专业人类日内交易者的高效工作流程的启发,我们提出了DeepScalper,这是一个用于日内交易的深度强化学习框架,以应对上述挑战。具体来说,DeepScalper包括四个组件:1)具有动作分支的决斗Q网络,用于处理日内交易的大动作空间,以实现高效的RL优化; 2)具有事后奖励的新型奖励函数,以鼓励RL代理在整个交易日的长期视野下做出交易决策; 3)用于学习多模态时间市场嵌入的编码器-解码器架构,其结合了宏观级和微观级市场信息;(4)风险意识辅助任务,在利润最大化和风险最小化之间保持平衡。通过对六种金融期货三年多的真实市场数据进行广泛的实验,我们证明了DeepScalper在四个金融标准方面的表现明显优于许多最先进的基线。
2022-08-21 cs.AI cs.LG q-fin.TR
Revisiting Ensemble Methods for Stock Trading and Crypto Trading Tasks at ACM ICAIF FinRL Contest 2023-2024
Columbia University(哥伦比亚大学);Business School, Columbia University(哥伦比亚大学商学院)
本文利用GPU大规模并行模拟重审集成方法,加速强化学习采样,在股票和加密货币交易中提升鲁棒性,降低回撤并提高夏普比率。
2025-01-18 cs.AI cs.CE stat.ML
Trading Confidence: Comprehensive Uncertainty Estimation in Algorithmic Trading
Nanyang Technological University(南洋理工大学);Centre for Frontier AI Research(前沿人工智能研究中心);A*STAR(新加坡科技研究局);Laval University(拉瓦尔大学)
针对传统强化学习模型在金融交易动态环境中难以应对不确定性问题,提出含分布、认知和随机不确定性估计的框架,用多种方法增强估计,实验表明该框架下的强化学习智能体在收益和风险管理上表现更优。
2026-07-07 cs.LG
Trade in Minutes! Rationality-Driven Agentic System for Quantitative Financial Trading
Tongji University(同济大学);Microsoft Research Asia(微软亚洲研究院);University of Bristol(布里斯托大学);Fudan University(复旦大学)
TiMi是一种基于理性驱动的多代理系统,通过解耦策略开发与分钟级部署,实现量化金融交易的高效稳定盈利。
2026-02-09 cs.AI cs.MA
FinSMART: Financial Sentiment Analysis for Algorithmic Trading through Market-Aligned Reinforcement Learning
Imperial College London(帝国理工学院)
FinSMART是首个基于市场对齐强化学习的金融情感分析框架,通过市场感知数据过滤与非对称交易奖励优化情感信号,在交易回报等指标上较基线提升220%,可自适应市场动态。
2026-07-31 cs.CL cs.LG q-fin.ST
Automatic Financial Trading Agent for Low-risk Portfolio Management using Deep Reinforcement Learning
Yonsei University(延世大学)
自主交易代理是人工智能解决资本市场投资组合管理问题最活跃的研究领域之一。投资组合管理问题的两个主要目标是最大化收益和抑制风险。然而,大多数解决这个问题的方法只考虑最大化收益。因此,本文提出了一种基于深度强化学习的交易代理,它可以管理投资组合,不仅考虑利润最大化,还考虑风险约束。我们还提出了一个新的目标政策,让交易代理人学习更喜欢低风险的行动。新的目标策略可以通过超参数调整贪婪度来反映在更新中。拟议的交易代理通过加密货币市场的数据验证性能。加密货币市场是测试我们交易代理的最佳试验场,因为每分钟积累的数据量巨大,市场波动性极大。作为实验结果,在测试期间,我们的代理人实现了1800%的回报,并提供了现有方法中风险最小的投资策略。实验表明,即使在市场波动较大或训练周期较短的情况下,该智能体仍能保持鲁棒的广义性能。
2019-09-07 cs.AI q-fin.TR
Incorporating Cognitive Biases into Reinforcement Learning for Financial Decision-Making
BITC.edu.cn(北京工业大学计算机学院)
本研究将认知偏差融入强化学习框架,旨在实现更接近人类的交易行为并提升风险调整后的收益。
2026-01-13 cs.LG econ.EM
Application of deep reinforcement learning for Indian stock trading automation
IITB-Monash Research Academy(IITB-莫纳什研究院);IIT Bombay(印度理工学院孟买分校);Monash University(莫纳什大学)
在股票交易中,特征提取和交易策略设计是利用机器学习技术实现长期利益的两个重要任务。已经提出了几种方法来设计交易策略通过获取交易信号,以最大化的回报。本文将深度强化学习理论应用于印度市场的股票交易策略和投资决策。在10个印度股票数据集上系统地使用三个经典的深度强化学习模型Deep Q-Network,Double Deep Q-Network和Dueling Double Deep Q-Network进行实验。对模型的性能进行了评价和比较。
2021-05-18 cs.LG q-fin.TR
Deep Reinforcement Learning for Cryptocurrency Trading: Practical Approach to Address Backtest Overfitting
Columbia University(哥伦比亚大学)
在高度波动的加密货币市场中,设计有利可图且可靠的交易策略是一项挑战。现有的工作应用了深度强化学习方法,并乐观地报告了回测中的利润增加,这可能会由于过拟合而导致误报问题。在本文中,我们提出了一种实用的方法,使用深度强化学习来解决加密货币交易的回测过拟合问题。首先,我们将回测过拟合的检测公式化为假设检验。然后,我们训练DRL代理,估计过拟合的概率,并拒绝过拟合的代理,增加了良好的交易表现的机会。最后,在2022年5月1日至2022年6月27日的测试期内,对10种加密货币进行了测试(在此期间,加密市场崩溃了两次),我们表明,过拟合程度较低的深度强化学习代理的回报率高于过拟合程度较高的代理、等权重策略和S&P DBM指数。(市场基准),为可能部署到真实市场提供信心。
2023-01-31 cs.AI cs.LG q-fin.ST
F$^2$Agent: Financial Fusion of Agentic Intelligence for Multimodal Trading
National University of Singapore(新加坡国立大学);Huazhong University of Science and Technology(华中科技大学);Zhejiang University(浙江大学)
该研究针对现有多模态金融交易模型的跨模态依赖捕捉不足、抗噪性差的问题,提出F²Agent框架,通过专业化智能体提取模态信号、模态感知自适应融合机制及抗噪正则化,在6种资产上较16个基线实现超20%年化回报率提升,表现出优异性能。
2026-08-07 cs.AI cs.MA cs.MM
Practical Deep Reinforcement Learning Approach for Stock Trading
Columbia University(哥伦比亚大学);Nokia-Bell Labs(诺基亚贝尔实验室)
股票交易策略在投资公司中起着至关重要的作用。然而,在复杂多变的股票市场中,如何获得最优策略是一个挑战。我们探索深度强化学习的潜力,以优化股票交易策略,从而最大限度地提高投资回报。选取了30只股票作为我们的交易股票,并以它们的每日价格作为训练和交易的市场环境。我们训练一个深度强化学习代理,并获得一个自适应的交易策略。最后,将该策略与道琼斯工业平均指数和传统的最小方差投资组合分配策略进行了比较。所提出的深度强化学习方法在夏普比率和累积收益方面都优于两个基线。
2022-07-30 cs.LG q-fin.TR stat.ML
MountainLion: A Multi-Modal LLM-Based Agent System for Interpretable and Adaptive Financial Trading
The University of Texas at Arlington(德克萨斯大学阿灵顿分校);Sichuan University(四川大学);Northwestern University(西北大学);Indiana University(印第安纳大学);Emory University(埃默里大学);Nankai University(南开大学);MountainLion Research(MountainLion研究机构);Xi’an University of Electronic Science and Technology(西安电子科技大学);Kyoto University(京都大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Nanjing university(南京大学);Tsinghua University(清华大学);University of Toronto(多伦多大学)
本文提出 MountainLion 多模态多智能体金融交易系统,通过协调专用 LLM 智能体融合新闻、K线图和交易信号,结合反思模块动态优化策略,实现可解释且自适应的投资决策并提升收益。
2025-09-19 cs.CL cs.LG q-fin.TR
Sentiment and Knowledge Based Algorithmic Trading with Deep Reinforcement Learning
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所)
由于其固有的性质,股票交易是一个难以解决的问题;现实世界中涉及的变量太多,几乎不可能有可靠的自动股票交易算法。由于缺乏考虑决定市场涨跌的物理和生理因素的可靠标记数据,阻碍了监督学习进行可靠预测的尝试。为了学习一个好的交易策略,我们制定了一种使用强化学习的方法,该方法使用传统的时间序列股票价格数据,并将其与新闻标题情绪相结合,同时利用知识图谱来利用有关隐含关系的新闻。
2020-01-26 cs.AI
Neuro-symbolic Meta Reinforcement Learning for Trading
APPCAIR, BITS Pilani K.K. Birla Goa Campus(BITS Pilani K.K. Birla Goa校区APPCAIR);TCS Research(塔塔咨询服务研究部);IIT Delhi(印度理工学院德里分校)
我们在金融市场中的短期(如日)交易模型作为一个连续的决策问题的不确定性下,与不断的概念漂移增加的复杂性。因此,我们通过RL2算法采用Meta强化学习。人们还知道,人类交易者经常依赖于价格序列中频繁出现的符号模式。我们采用逻辑程序归纳来发现频繁出现的符号模式,以及最近,并探讨使用这些功能是否提高了我们的Meta强化学习算法的性能。我们报告了在真实数据上的实验,表明元RL比香草RL更好,并且也受益于学习的符号特征。
2023-01-15 cs.AI cs.LG cs.LO
Trading the Twitter Sentiment with Reinforcement Learning
本文旨在探讨使用替代数据和人工智能技术进行股票交易的可能性。使用机器学习方法检验了每日Twitter情绪对预测股票收益率的有效性。应用强化学习(Q学习)以基于情绪信号生成最优交易策略。如果股价是由公司增长的预期驱动的,并且公司发生了引起公众关注的重大事件,则情绪信号的预测能力更显着。基于强化学习的最优交易策略优于基于机器学习预测的交易策略。
2018-01-07 cs.AI cs.CL cs.SI
Online Trading Models with Deep Reinforcement Learning in the Forex Market Considering Transaction Costs
Tokyo Institute of Technology(东京工业大学)
近年来,使用人工智能创建了各种投资模型。人工智能自动交易可以扩大交易方式的范围,例如通过赋予24小时运营的能力和高频率交易的能力。如果能够充分考虑过去的数据,自动交易也可以预期使用比人类可用的更多的信息进行交易。在本文中,我们提出了一种基于深度强化学习模型的投资代理,这是一种人工智能模型。该模型考虑了实际交易中涉及的交易成本,并为长期交易建立了一个框架,以便在单笔交易中获得大量利润。这样做,它可以在保持低交易成本的同时实现利润最大化。此外,考虑到实际操作,我们使用在线学习,使系统可以通过不断更新最新的在线数据来持续学习,而不是使用静态数据进行学习。这使得在非平稳的金融市场中进行交易成为可能,因为它总是包含当前的市场趋势信息。
2021-12-16 cs.AI cs.LG q-fin.TR
Dueling Deep Reinforcement Learning for Financial Time Series
本研究将双深度Q网络(DDQN)和对决网络架构应用于金融交易任务,在考虑交易成本等约束下训练智能体,结果表明其可优于随机策略,但仍存在数据源复杂性导致的次优策略等挑战。
2025-04-15 cs.LG
Learning Stock Trading Policies via Barycenter-Based Adversarial Inverse Reinforcement Learning
School of Mathematical and Statistical Sciences(数学与统计学院);Indian Institue of Technology Mandi(印度曼迪理工学院)
本研究提出基于重心的对抗逆强化学习框架BRaG,聚合多异构专家策略学习股票交易策略,在四大全球股市上表现优于经典交易规则及深度强化学习方法,风险特征更稳定。
2026-08-18 cs.LG stat.ML
Leveraging Deep Learning and Online Source Sentiment for Financial Portfolio Management
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
本文旨在探讨在监督和强化学习方案下用于金融交易的各种深度学习方法,结合在线来源情感信息,并讨论训练金融智能体的常见问题及实践应用。
2023-10-24 cs.LG q-fin.PM
Logic-Q: Improving Deep Reinforcement Learning-based Quantitative Trading via Program Sketch-based Tuning
Nanyang Technological University(南洋理工大学);Hong Kong Polytechnic University(香港理工大学);Chinese University of Hong Kong(香港中文大学);Singapore Management University(新加坡管理大学);Peng Cheng Lab(鹏城实验室)
本文提出Logic-Q框架,通过程序草稿合成引入人类专家市场趋势知识,以事后方式调整DRL策略,显著提升量化交易性能。
2025-02-06 cs.AI cs.CE cs.PL
Janus-Q: End-to-End Event-Driven Trading via Hierarchical-Gated Reward Modeling
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));International Digital Economy Academy(国际数字经济学院)
Janus-Q通过分层门控奖励模型实现端到端事件驱动交易,提升金融新闻事件作为主要决策单元,提高交易决策的稳定性和盈利能力。
2026-02-27 cs.CL cs.LG
Algorithmic Trading Using Continuous Action Space Deep Reinforcement Learning
Sharif University of Technology(谢里夫理工大学)
在金融市场交易中,价格走势预测一直是交易者关注的问题之一。为了增加利润,他们可以分析历史数据并预测价格走势。庞大的数据量和它们之间的复杂关系导致我们使用算法交易和人工智能。本文旨在提供一种使用双延迟DDPG(TD3)和每日收盘价的方法,以实现股票和加密货币市场的交易策略。与之前使用离散动作空间强化学习算法的研究不同,TD3是连续的,提供了头寸和交易股票的数量。在这项研究中,股票(亚马逊)和加密货币(比特币)市场都被用来评估所提出的算法的性能。使用TD 3实现的策略与使用技术分析,强化学习,随机和确定性策略的一些算法进行了比较,通过两个标准指标,回报率和夏普比率。结果表明,采用位置和交易股票的数量可以提高基于上述指标的交易系统的性能。
2022-10-07 cs.LG q-fin.TR
Deep Q-Network (DQN) multi-agent reinforcement learning (MARL) for Stock Trading
Georgia Institute of Technology(佐治亚理工学院)
本文提出融合CNN、LSTM与DQN的集成深度学习框架,通过图像化技术指标和时序特征学习最优买卖持有策略,以应对市场噪声和泛化难题。
2025-05-06 cs.LG
Agentic Trading: When LLM Agents Meet Financial Markets
College of Electronic and Information Engineering, Shenzhen University, Shenzhen, China(深圳大学电子与信息工程学院);Shenzhen Audencia Financial Technology Institute, Shenzhen University, Guangdong, People's Republic of China(深圳大学审计金融科技研究所)
本文探讨了如何将大语言模型(LLM)作为交易系统中的代理,感知市场信息、检索上下文、进行决策推理、发出可交易动作并适应市场反馈。研究通过分析77项研究,发现协议不可比性是主要问题,提出证据日志、可重复性审计和报告检查表作为主要贡献。
2026-10-06 cs.AI
Integrating Large Language Models and Reinforcement Learning for Sentiment-Driven Quantitative Trading
Wo Long(未知);Wenxin Zeng(未知);Xiaoyu Zhang(未知);Ziyao Zhou(未知)
本研究开发了一个情感驱动的量化交易系统,利用 FinGPT 进行情感分析,并采用 TD3 强化学习算法集成情感与技术信号,实验表明该方法能有效融合异构信号并提升交易策略表现。
2025-10-12 cs.LG q-fin.CP
Reinforcement Learning Pair Trading: A Dynamic Scaling approach
The University of Auckland(奥克兰大学)
本研究针对加密货币市场高波动导致交易难的问题,将强化学习与配对交易结合,设计新的奖励塑形及观测/动作空间,实验证明其年化收益显著优于传统配对交易方法。
2024-12-11 cs.LG q-fin.CP q-fin.TR
An Ensemble Method of Deep Reinforcement Learning for Automated Cryptocurrency Trading
Northwestern University(西北大学)
提出一种深度强化学习集成方法,通过多验证期模型选择和混合分布策略,提升日内加密货币交易策略的泛化性能,优于单一强化学习及被动投资基准。
2023-07-27 cs.LG q-fin.TR
Mastering Pair Trading with Risk-Aware Recurrent Reinforcement Learning
School of Computer Science, Wuhan University(武汉大学计算机学院);ChanceFocus AMC(方正富邦基金管理有限公司);Southwest Jiaotong University(西南交通大学)
提出CREDIT,一种风险感知循环强化学习智能体,通过双向GRU和时间注意力机制捕捉资产价格变动的长期模式,并设计风险感知奖励,在五年美股数据上实现显著利润,优于现有RL方法。
2023-04-01 cs.AI q-fin.CP
Deep Reinforcement Learning in Quantitative Algorithmic Trading: A Review
The University of Edinburgh(爱丁堡大学)
电子股票交易已成为当今金融市场的主要内容,大多数交易现在都是完全自动化的。深度强化学习(DRL)代理被证明是许多复杂游戏(如国际象棋和围棋)中需要考虑的力量。我们可以把股票市场的历史价格序列和走势看作是一个复杂的不完全信息环境,在这个环境中,我们试图使回报利润最大化,风险最小化。本文回顾了深度强化学习在金融AI子领域取得的进展,更准确地说,是自动低频量化股票交易。许多被审查的研究都只是在不现实的环境中进行实验的概念验证,没有实时交易应用程序。就大多数工程而言,尽管与既定基线战略相比,所有工程的业绩在统计上都有显著改善,但没有获得可观的盈利水平。此外,实时在线交易平台缺乏实验测试,并且基于不同类型的日间行车线或人类交易员构建的代理之间缺乏有意义的比较。我们的结论是,DRL在股票交易中表现出巨大的适用性潜力,在强有力的假设下,专业交易员相媲美,但研究仍处于非常早期的发展阶段。
2021-05-31 cs.LG q-fin.TR
Fairness in Multi-agent Reinforcement Learning for Stock Trading
Capgemini Invent(凯捷 Invent)
不公平的股票交易策略已被证明是客户对交易的最负面看法之一,并可能导致公司的长期损失。投资银行通常会为多个目标资产相同但订单规模不同、时间框架和风险规避水平等要求不同的客户下达交易订单,从而无法同时优化总收益和个人收益。提前执行的订单会影响市场价格水平,因此延迟执行通常意味着额外的执行成本。在本文中,我们提出了一个新的计划,利用多智能体强化学习系统来获得股票交易策略的所有客户端之间保持收入和公平性的平衡。首先,我们证明了强化学习(RL)能够从经验中学习,并使交易策略适应复杂的市场环境。其次,我们证明了多代理RL系统允许为所有客户单独开发交易策略,从而优化个人收入。第三,我们使用广义基尼指数(GGI)聚合函数来控制所有客户端的收入公平水平。最后,我们实证证明了新方案的优越性,在提高公平性,同时保持收入的优化。
2019-12-14 cs.LG cs.MA q-fin.ST
Reinforcement Learning for Systematic FX Trading
University College London(伦敦大学学院)
我们探索在线归纳迁移学习,将特征表示从高斯混合模型隐藏处理单元形成的径向基函数网络转移到直接的,经常性的强化学习代理。这个代理人在实验中工作,交易主要的现货市场货币对,在那里我们准确地计算交易和融资成本。这些利润和损失的来源,包括货币市场上发生的价格趋势,都是通过二次效用提供给代理人的,代理人学会了直接瞄准一个位置。我们通过在线迁移学习环境中的风险头寸来改进早期的工作。在7年的测试集上,我们的代理实现了0.52的年化投资组合信息比率,复合回报率为9.3\%,扣除执行和融资成本;尽管迫使模型在交易日结束时在美国东部时间下午5点进行交易,但交易成本在统计上是最昂贵的。
2022-05-21 cs.LG q-fin.TR
Quantitative Trading using Deep Q Learning
本文提出使用深度Q学习进行量化交易,案例研究表明其优于传统算法,展示了强化学习在提升交易系统效率与收益方面的潜力。
2025-02-23 cs.LG q-fin.GN q-fin.TR
A parallel-network continuous quantitative trading model with GARCH and PPO
University of Electronic Science and Technology of China(电子科技大学);Harbin Institute of Technology(哈尔滨工业大学)
在股票市场中,无论是专业投资者还是个人投资者,要想持续获利都是一项艰巨的任务。随着计算机科学和深度强化学习技术的发展,买入持有(Buy\&Hold,B\&H)已经被许多人工智能交易算法所超越。然而,信息和过程是不够的,这限制了强化学习算法的性能。因此,我们提出了一个并行网络连续定量交易模型,其中包含GARCH和PPO,以丰富基本的深度强化学习模型,其中深度学习并行网络层处理3个不同频率的数据(包括GARCH信息),并且邻近策略优化(PPO)算法与股票交易环境交互动作和奖励。在中国股票市场的5只股票上的实验表明,与基本的强化学习方法和实验模型相比,该方法获得了更多的额外收益。
2021-05-21 cs.LG q-fin.TR
Reinforcement Learning Framework for Quantitative Trading
Johns Hopkins University(约翰斯·霍普金斯大学)
针对强化学习在量化交易中缺乏实际有效性证据及金融指标利用不足的问题,本文提出利用金融指标增强RL智能体区分买卖行动的能力,为基础框架的进一步探索奠定基础。
2024-11-12 cs.AI q-fin.CP q-fin.TR
A Novel Deep Reinforcement Learning Based Automated Stock Trading System Using Cascaded LSTM Networks
Shenzhen University(深圳大学)
提出一种基于级联LSTM的深度强化学习自动股票交易系统,通过LSTM提取特征并训练策略,在美股和A股市场优于基线模型,尤其在A股表现更佳。
2023-07-26 cs.AI q-fin.CP q-fin.PM
QTMRL: An Agent for Quantitative Trading Decision-Making Based on Multi-Indicator Guided Reinforcement Learning
Guangdong University of Finance(广东金融学院);Jinan University(吉林大学)
本文提出QTMRL代理,结合多维技术指标与强化学习,实现动态稳定的投资组合管理,通过实验验证其在盈利性、风险调整和下行风险控制上的优越性。
2026-04-21 cs.LG q-fin.CP q-fin.PM
Deep Reinforcement Learning for Trading
University of Oxford(牛津大学);Oxford-Man Institute of Quantitative Finance(牛津-曼氏量化金融研究所)
我们采用深度强化学习算法为连续期货合约设计交易策略。离散和连续的行动空间被认为是和波动率缩放被纳入创建奖励功能的规模贸易的基础上,市场波动的立场。我们在2011年至2019年的50个流动性最强的期货合约上测试了我们的算法,并研究了不同资产类别(包括大宗商品、股票指数、固定收益和外汇市场)的表现如何变化。我们将我们的算法与经典的时间序列动量策略进行比较,并表明我们的方法优于这些基线模型,尽管有沉重的交易成本,仍能带来正利润。实验表明,该算法可以跟踪大的市场趋势,而不改变立场,也可以缩小规模,或持有,通过巩固期。
2019-11-22 cs.LG q-fin.CP q-fin.TR
Peer-to-Peer Energy Trading of Solar and Energy Storage: A Networked Multiagent Reinforcement Learning Approach
School of Industrial Engineering, Purdue University(普渡大学工业工程学院)
针对P2P能源交易中主体缺乏交易 expertise、可再生能源零边际成本定价难的问题,提出结合供需比P2P出清机制的多智能体强化学习框架,实现光伏与储能资源自动化管理,还可整合网络约束实现电压控制,保障交易物理可行性以推动落地。
2024-10-09 cs.LG cs.MA cs.SY
TradingAgents: Multi-Agents LLM Financial Trading Framework
University of California, Los Angeles (UCLA)(加利福尼亚大学洛杉矶分校);Massachusetts Institute of Technology (MIT)(麻省理工学院);Tauric Research
TradingAgents 提出一种模拟交易公司协作的多智能体大语言模型股票交易框架,通过分析师、风险管理与交易员等角色分工及辩论机制提升累计收益、夏普比率和最大回撤等交易表现。
2025-06-03 cs.AI cs.CE cs.LG
Compatible deep neural network framework with financial time series data, including data preprocessor, neural network model and trading strategy
University of Padova(帕多瓦大学);University of Calgary(卡尔加里大学)
经验表明,股票和加密货币市场的交易具有高利润的潜力。有鉴于此,最近投入了相当大的努力来研究如何应用机器学习和深度学习来解释和预测市场行为。这项研究引入了一种新的深度神经网络架构,以及如何在将财务数据输入模型之前准备财务数据的新颖想法。在数据准备部分,第一步是使用技术指标生成许多特征,然后应用XGBoost模型进行特征工程。将数据分为三类并使用单独的自动编码器,我们在第二步提取高级混合特征。引入这种数据预处理来预测价格走势。关于建模,不同的卷积层,一个长短期记忆单元,和几个完全连接的层被设计来执行二进制分类。本研究还引入了一种交易策略来利用训练后的模型输出。三个不同的数据集被用来评估这种方法,结果表明,这个框架可以为我们提供有益的和强大的预测。
2022-05-11 cs.AI cs.CE cs.LG
Deep Learning Models Meet Financial Data Modalities
Sirius University of Science and Technology(西里乌斯科学技术大学)
本研究将深度学习模型与多种金融数据模态整合,提出基于嵌入和图像化限价订单簿快照的新方法,在高频交易中达到最先进性能,提升交易策略预测能力。
2025-04-21 cs.AI cs.CE cs.LG
A Survey of Financial AI: Architectures, Advances and Open Challenges
Forth AI(福斯人工智能公司)
本文系统综述了金融人工智能在预测模型、决策框架和知识增强系统三个维度的架构与进展,并指出理论创新与工业落地之间的关键差距及未来开放挑战。
2024-11-01 cs.AI cs.CE cs.LG
STORM: A Spatio-Temporal Factor Model Based on Dual Vector Quantized Variational Autoencoders for Financial Trading
Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
STORM通过双向量量化变分自编码器从时空视角提取股票特征,融合并对齐多维嵌入,提升金融交易中因子选择的鲁棒性和有效性。
2026-01-14 cs.AI cs.LG
Modelling Opaque Bilateral Market Dynamics in Financial Trading: Insights from a Multi-Agent Simulation Study
University of New South Wales(新南威尔士大学)
本文针对数据不透明的澳大利亚政府债券双边场外交易市场,提出一种基于小规模元启发式方法的多智能体仿真模型,以揭示市场刚性对市场结构和稳定性的影响,为量化金融与智能体建模提供新见解。
2024-05-05 cs.AI cs.MA q-fin.CP
QuantAgents: Towards Multi-agent Financial System via Simulated Trading
South China University of Technology(南方科技大学);Pazhou Lab(琶洲实验室);Foshan University(佛山大学)
针对现有LLM智能体缺乏长期趋势预测能力的问题,本文提出集成模拟交易的多智能体系统QuantAgents,通过四类智能体协作与双维度反馈机制,在三年实验中取得近300%的总回报率。
2025-10-06 cs.AI