Interpretable Scientific Discovery with Symbolic Regression: A Review
Qatar Computing Research Institute(卡塔尔计算研究所)
本综述聚焦符号回归这一可直接从数据中学习可解释数学表达式的机器学习方法,梳理了其从遗传编程到深度学习驱动的发展脉络,系统总结各类方法的优劣,覆盖多领域应用进展。
2023-05-02 cs.AI cs.LG hep-ph
Efficient Generator of Mathematical Expressions for Symbolic Regression
Jožef Stefan Institute(约瑟夫·斯特凡研究所);Jožef Stefan International Postgraduate School(约瑟夫·斯特凡国际研究生院);University of Ljubljana(卢布尔雅那大学)
提出基于层次结构变分自编码器HVAE的符号回归方法,通过递归编码解码数学表达式生成平滑低维潜在空间,结合进化算法的EDHiE系统在标准基准上优于现有最先进方法。
2023-09-10 cs.AI cs.LG
Rediscovering the Lunar Equation of the Centre with AI Feynman via Embedded Physical Biases
Deceased(已故)
本研究针对天文物理定律自动发现问题,通过嵌入物理偏置改进AI Feynman符号回归算法,成功从月球星历数据中复原中心差方程一阶形式,并提出自动化坐标系寻找扩展,验证了领域知识嵌入的作用与现存挑战。
2025-11-13 astro-ph.IM cs.LG
Controllable Neural Symbolic Regression
CSEM SA(瑞士电子与微技术中心);ETH Zürich(苏黎世联邦理工学院);Meta AI;Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);ISIR(巴黎智能系统与机器人研究所)
针对现有神经符号回归无法利用用户先验知识的问题,提出NSRwH,将真实表达式的预期结构假设显式注入预测,提升准确率并控制表达式结构。
2023-04-20 cs.AI cs.LG
Vertical Symbolic Regression via Deep Policy Gradient
Purdue University(普渡大学)
针对纵向符号回归与深度神经网络直接结合存在的梯度传递等问题,提出基于深度策略梯度的VSR-DPG方法,将符号回归建模为序列决策过程,在多类方程识别基准上性能显著优于现有方法。
2024-02-01 cs.AI cs.LG
LLM-Meta-SR: In-Context Learning for Evolving Selection Operators in Symbolic Regression
Centre for Data Science and Artificial Intelligence & School of Engineering and Computer Science, Victoria University of Wellington(惠灵顿维多利亚大学数据科学与人工智能中心及工程与计算机科学学院);Department of Computer Science and Engineering, Michigan State University(密歇根州立大学计算机科学与工程系)
本文提出一种元学习框架,使LLM自动设计进化符号回归算法的选择算子,解决现有方法中语义指导不足和代码膨胀问题,实验表明LLM设计的选择算子优于九个专家设计基线,达到最先进的性能。
2026-03-31 cs.AI cs.LG cs.NE
PruneSymNet: A Symbolic Neural Network and Pruning Algorithm for Symbolic Regression
Institute of Semiconductors, Chinese Academy of Sciences(中国科学院半导体研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Key Laboratory of Semiconductor Neural Network Intelligent Sensing and Computing Technology(北京半导体神经网络智能感知与计算技术重点实验室)
本研究针对符号回归任务提出可微符号网络PruneSymNet及结合束搜索的贪心剪枝算法,能在保证拟合精度的前提下提取符号表达式,在公开数据集上精度优于主流算法。
2024-01-25 cs.AI cs.LG
Deep Divide-and-Reduce in Symbolic Regression
针对现有符号回归方法的缺陷,提出DDRSR方法,拓宽表达式分解简化适用范围、规避暴力搜索,在相关任务中展现显著优势,明确适用场景与未来方向。
2026-09-17 cs.AI cs.LG
Dimension Reduction for Symbolic Regression
针对符号回归中公式恢复困难的问题,提出通过搜索小替换并测试函数依赖性来迭代降维,可显著提升多种最先进符号回归算法的性能。
2025-06-24 cs.LG
Symbolic Regression via Neural-Guided Genetic Programming Population Seeding
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
符号回归是识别符合黑箱过程的观测输出的数学表达式的过程。这是一个离散优化问题,通常被认为是NP-难的。解决该问题的现有方法包括神经引导搜索(例如,使用强化学习)和遗传编程。在这项工作中,我们介绍了一种混合神经引导/遗传编程的方法,符号回归和其他组合优化问题。我们提出了一个神经元引导的组件用于种子的随机重启遗传编程组件的起始人口,逐渐学习更好的起始人口。在一些常见的基准测试任务中,从数据集中恢复底层表达式,我们的方法比最近发布的使用相同实验设置的最佳模型多恢复65%的表达式。我们证明,在不依赖神经引导组件的情况下运行许多代遗传编程,对于符号回归来说,比两者耦合更强的替代公式表现得更好。最后,我们引入了一组新的22个符号回归基准问题,其难度比现有基准更高。源代码在www.github.com/brendenpetersen/deep-symbolic-optimization上提供。
2021-11-17 cs.AI cs.LG cs.NE
Bayesian Symbolic Regression via Posterior Sampling
NASA Langley Research Center(美国国家航空航天局兰利研究中心)
本文提出一种基于SMC的贝叶斯符号回归方法,通过概率选择、自适应温度调节和归一化边际似然,提高噪声环境下符号回归的鲁棒性和泛化能力。
2025-12-11 cs.LG
SymbolicGPT: A Generative Transformer Model for Symbolic Regression
University of Waterloo(滑铁卢大学)
符号回归是识别最适合所提供的输入和输出值的数据集的数学表达式的任务。由于数学表达式空间的丰富性,符号回归通常是一个具有挑战性的问题。虽然基于遗传进化算法的传统方法已经使用了几十年,但基于深度学习的方法相对较新,是一个活跃的研究领域。在这项工作中,我们提出了SymbolicGPT,一种新的基于transformer的语言模型的符号回归。该模型利用了GPT等概率语言模型的优点,包括性能和灵活性方面的优势。通过全面的实验,我们表明,我们的模型表现强劲的竞争模型的准确性,运行时间和数据效率。
2021-06-27 cs.CL cs.LG cs.SC
In-Context Symbolic Regression for Robustness-Improved Kolmogorov-Arnold Networks
University of Italian-Speaking Switzerland (USI)(意大利语瑞士大学);Analog Devices International(Analog Devices国际)
本文提出两种改进KANs符号提取的方法,通过上下文感知的贪心策略和门控匹配追踪,提升鲁棒性并减少预测误差,实验显示在多个任务中达到99.8%的中位数MSE降低。
2026-04-18 cs.AI cs.LG
Sparse Interpretable Deep Learning with LIES Networks for Symbolic Regression
Department of Electrical & Computer Engineering(电气与计算机工程系);University of Southern California(南加州大学)
针对现有符号回归方法可扩展性与符号一致性不足的问题,提出带可解释基元激活的LIES网络及配套训练、剪枝框架,在基准测试中性能优于所有基线,验证了各组件的有效性。
2025-06-14 cs.AI cs.LG
Searching the Space of Feed-Forward Neural-Network Weight-Update Rules with Fixed Depth Symbolic Regression
UCI(加州大学欧文分校)
研究符号回归能否发现优于标准优化器的神经网络权重更新规则,通过固定深度符号表达式表示候选规则,在30个组合中25次找到更好规则,总均方误差降低44.47%,表明其可发现紧凑优化器变体但需大规模验证。
2026-07-27 cs.LG
SPINEX_ Symbolic Regression: Similarity-based Symbolic Regression with Explainable Neighbors Exploration
Clemson University(克莱姆森大学);University of Manitoba(曼尼托巴大学)
本研究提出基于SPINEX系列的新型符号回归算法SPINEX_SymbolicRegression,通过基于相似度的方法筛选高精度高结构相似度的表达式,在180余个国际基准函数测试中表现稳定且部分场景优于主流算法,兼具可解释性。
2024-11-05 cs.LG stat.CO
Active Learning Improves Performance on Symbolic RegressionTasks in StackGP
Michigan State University(密歇根州立大学)
在本文中,我们介绍了一个主动学习方法的符号回归使用StackGP。该方法从StackGP建模的少量数据点开始。为了改进模型,系统递增地添加数据点,使得新点最大化由模型集合测量的预测不确定性。使用较大的数据集重新运行符号回归。这个循环继续,直到系统满足终止标准。我们使用Feynman AI基准方程组来检查我们的方法使用更少数据点找到合适模型的能力。该方法成功地重新发现了100个费曼方程中的72个,使用尽可能少的数据点,而无需使用领域专业知识或数据翻译。
2022-02-09 cs.LG
DN-CL: Deep Symbolic Regression against Noise via Contrastive Learning
Institute of Semiconductors, Chinese Academy of Sciences(中国科学院半导体研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对传统符号回归方法忽略真实数据噪声导致拟合精度下降的问题,提出基于对比学习的DN-CL模型,通过双参数共享编码器及正负例对比学习实现抗噪,在含噪与干净数据上均表现优异。
2024-06-21 cs.AI cs.LG
Where are we now? A large benchmark study of recent symbolic regression methods
University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们提供了一个广泛的基准最近的遗传编程方法的背景下,最先进的机器学习方法的符号回归。我们使用了一组近100个回归基准测试问题,这些问题是从网络上的开源存储库中挑选出来的。我们对最近的四种符号回归方法以及scikit-learn的九种机器学习方法进行了严格的基准测试。结果表明,符号回归表现强劲相比,国家的最先进的梯度提升算法,虽然在运行时间是最慢的可用方法。我们详细讨论了结果,并指出未来的研究方向,可能会让符号回归获得更广泛的采用在机器学习社区。
2018-06-07 cs.LG cs.NE
Interpretability in Symbolic Regression: a benchmark of Explanatory Methods using the Feynman data set
Center for Mathematics, Computation and Cognition, Federal University of ABC(ABC联邦大学数学、计算与认知中心)
提出面向符号回归等回归模型的解释方法基准,基于100个 Feynman 物理方程和GP基准比较多种解释器,验证符号回归兼具准确性与可解释性。
2024-04-08 cs.AI cs.LG
SymFlux: deep symbolic regression of Hamiltonian vector fields
Max-Planck Institute for Mathematics, Bonn(马克斯·普朗克数学研究所,波恩)
SymFlux提出一种基于混合CNN-LSTM的深度学习框架,用于从标准辛平面上的向量场符号回归识别哈密顿函数,并在新数据集上验证了其准确性,推动了哈密顿力学的自动发现。
2025-07-08 cs.AI cs.LG math.DS
Neural Symbolic Regression that Scales
ETH(苏黎世联邦理工学院);CSEM SA(瑞士电子与微技术中心);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
符号方程是科学发现的核心。从一组输入输出对中发现潜在方程的任务称为符号回归。传统上,符号回归方法使用手工设计的策略,这些策略不会随着经验而改进。在本文中,我们介绍了第一个利用大规模预训练的符号回归方法。我们程序化地生成一组无界方程,同时预训练一个Transformer,以从相应的一组输入输出对预测符号方程。在测试时,我们在一组新的点上查询模型,并使用其输出来指导对方程的搜索。我们的经验表明,这种方法可以重新发现一组众所周知的物理方程,并且随着时间的推移,它会随着更多的数据和计算而改进。
2021-06-11 cs.LG
Scaling Up Unbiased Search-based Symbolic Regression
Friedrich Schiller University(弗里德里希-席勒大学);University Hospital Jena(耶纳大学医院)
本文提出系统搜索小表达式空间的无偏符号回归方法,在基准数据集上比现有方法更准确、更抗噪,且能更好地恢复真实符号表达式。
2025-06-24 cs.LG
Symbolic-Regression Boosting
Ben-Gurion University(本-古里安大学);University of Pennsylvania(宾夕法尼亚大学)
修改标准的梯度提升,通过替换嵌入式弱学习器,有利于一个强(er)的,我们提出SyRBo:符号回归提升。在98个回归数据集上的实验表明,通过向符号回归器添加少量的提升阶段(2- 5),通常可以获得统计上显著的改进。我们注意到,在任何符号回归器之上编码SyRBo是简单的,增加的成本只是多了几轮进化。SyRBo本质上是一个简单的附加组件,可以很容易地添加到现有的符号回归器中,通常会带来有益的结果。
2022-06-24 cs.LG cs.NE
Analyzing Generalization in Pre-Trained Symbolic Regression
Department of Computer Science University of Jena(计算机科学系 约纳大学)
本研究系统评估预训练符号回归模型的泛化能力,发现其在分布内表现良好但分布外性能持续下降,指出泛化差距是实际应用的关键障碍。
2025-09-24 cs.AI cs.LG
Symbolic-Diffusion: Deep Learning Based Symbolic Regression with D3PM Discrete Token Diffusion
Department of Mechatronics Engineering University of Waterloo(机械工程系大学水力学院);Department of Computer Science University of Waterloo(计算机科学系大学水力学院);Department of Statistics and Actuarial Science University of Waterloo(统计与精算科学系大学水力学院)
本文提出符号扩散模型,利用D3PM离散令牌扩散同时生成方程所有令牌,在符号回归任务中相比自回归方法取得相当或更优性能,开辟了新的研究方向。
2025-10-08 cs.LG
Deep Variational Inference Symbolic Regression
Clinical Operational Research Unit(临床运营研究单位);University College London(伦敦大学学院);Department of Computer Science(计算机科学系)
本文提出深度变分推断符号回归(DVISR),通过变分贝叶斯方法改进深度符号回归,实现对表达式树及其常数的后验推断,提升在噪声和有限数据下的不确定性量化能力。
2026-05-01 cs.LG
Symbolic Regression Algorithms with Built-in Linear Regression
最近,出现了几种符号回归(SR)算法,它们采用一种形式的多元线性回归(LR)来产生广义线性模型。LR的使用允许算法从搜索开始就以相对较小的误差创建模型;因此,这种算法被声称比基于香草遗传编程的SR算法快(有时是数量级)。然而,这些算法在一组常见的问题上的系统比较仍然缺失。在本文中,我们从概念上和实验上比较几个代表这样的算法(GPTIPS,FFX和EFS)。它们作为现成的、即用型技术应用,主要使用其默认设置。几个合成和现实世界的SR基准问题的方法进行了比较。它们的性能也与三种传统的机器学习算法--多元回归、随机森林和支持向量回归的性能有关。
2017-03-10 cs.LG
Parsing the Language of Expression: Enhancing Symbolic Regression with Domain-Aware Symbolic Priors
Purdue University(普渡大学);University of Florida(佛罗里达大学);University of Maryland College Park(马里兰大学帕克分校)
本文提出一种融合多科学领域符号先验的符号回归方法,通过树结构循环神经网络和分层树表示提升表达式生成效率与准确性,实验表明该方法收敛更快、精度更高。
2025-03-12 cs.LG cs.SC
Symbolic regression outperforms other models for small data sets
Abzu AI
机器学习通常应用于健康科学,以获得对复杂现象和关系的预测和新的理解,但用于模型训练的足够数据的可用性是一个普遍的问题。传统的机器学习技术,如随机森林和梯度提升,在处理只有几百个观测值的数据集时往往会过拟合。本研究表明,对于250个观察值的小型训练集,符号回归比传统的机器学习框架更好地概括样本外数据,这是通过验证集上的决定系数R2来衡量的。在240种情况中的132种情况下,符号回归在样本外数据上实现了比任何其他模型更高的R2。此外,符号回归还保留了线性模型和决策树的可解释性,这是其优越的泛化能力的额外好处。第二个最好的算法是随机森林,它在240个案例中的37个案例中表现最好。当将比较限制在可解释的模型时,符号回归在240种情况中的184种情况下表现最好。
2021-05-16 cs.LG
Discovering Symmetries of ODEs by Symbolic Regression
Paul Kahlmeyer, Niklas Merk, Joachim Giesen(未知)
针对常微分方程(ODEs)中李点对称性难以自动求解的问题,提出基于搜索的符号回归方法来寻找李点对称性生成元,从而发现现有计算机代数系统(CASs)无法找到的ODEs对称性。
2025-06-24 cs.LG
Neural Structure Embedding for Symbolic Regression via Continuous Structure Search and Coefficient Optimization
Department of Electrical Engineering and Computer Science, University of Kansas(电气工程与计算机科学系,堪萨斯大学)
本文提出SRCO框架,通过将符号结构转化为连续可优化表示空间,提升符号回归的效率与准确性,实验表明在方程精度、鲁棒性和搜索效率上优于现有方法。
2026-03-23 cs.LG
Hash-Based Tree Similarity and Simplification in Genetic Programming for Symbolic Regression
Josef Ressel Centre for Symbolic Regression(约瑟夫·雷塞尔符号回归中心);University of Applied Sciences Upper Austria(上奥地利应用科学大学);Johannes Kepler University(约翰内斯·开普勒大学)
本文介绍了一种运行时高效的树哈希算法,用于识别同构子树,在符号回归的遗传编程中有两个重要的应用:快速,在线计算种群多样性和符号表达式树的代数简化。基于这种散列方法,我们提出了一个简单的多样性保护机制与有前途的结果收集的符号回归基准问题。
2021-07-22 cs.LG cs.NE
Prediction Intervals and Confidence Regions for Symbolic Regression Models based on Likelihood Profiles
Federal University of ABC(ABC联邦大学);University of Applied Sciences Upper Austria(上奥地利应用科学大学)
符号回归是一种非线性回归方法,其通常通过诸如遗传编程的演化计算方法来执行。回归模型的不确定性的量化对于模型的解释和决策制定是重要的。线性近似和所谓的似然曲线是用于计算非线性回归模型的置信区间和预测区间的众所周知的可能性。这些简单而有效的技术到目前为止在遗传编程文献中被完全忽略了。在这项工作中,我们详细描述了计算的可能性配置文件,并提供了一些说明性的例子与模型创建三个不同的符号回归算法在两个不同的数据集。这些例子突出了似然配置文件的重要性,以了解符号回归模型的局限性,并帮助用户采取明智的预测后的决定。
2022-09-14 cs.LG cs.NE
KAN-SR: A Kolmogorov-Arnold Network Guided Symbolic Regression Framework
ETH Zürich(苏黎世联邦理工学院)
本文提出基于Kolmogorov-Arnold网络的KAN-SR框架,通过深度学习技术和简化策略恢复Feynman符号回归科学发现数据集的真实方程,并结合神经控制微分方程精确建模生物过程系统。
2025-09-12 cs.LG
Enhancing Symbolic Regression and Universal Physics-Informed Neural Networks with Dimensional Analysis
Cheriton School of Computer Science(切尔顿计算机科学学院);Department of Electrical and Computer Engineering(电气与计算机工程系);University of Waterloo(滑铁卢大学);Electrical Engineering and Computer Science Department(电气工程与计算机科学系);Department of Applied Mathematics(应用数学系);University of Michigan(密歇根大学)
提出结合量纲分析(Buckingham Π定理和Ipsen方法)与符号回归及通用物理信息神经网络,通过无量纲化降低输入维度、减少过拟合,提高微分方程未知项恢复的准确性和计算效率。
2026-06-23 cs.LG
Genetic Programming Based Symbolic Regression for Analytical Solutions to Differential Equations
University of Utah(犹他大学);Scientific Computing and Imaging Institute(科学计算与成像研究所);NASA Langley Research Center(美国国家航空航天局兰利研究中心)
在本文中,我们提出了一个机器学习方法发现的解析解微分方程。该方法利用了一个内在的解释算法,遗传编程为基础的符号回归。与传统的准确性措施在机器学习,我们证明了恢复真正的解析解的能力,而不是数值近似。该方法通过评估其恢复已知的两个单独的微分方程的解析解的能力进行验证。所开发的方法相比,一个传统的,纯粹的数据驱动的遗传编程为基础的符号回归算法。的真实的解决方案,或一个代数等价物,成功的进化的可靠性,证明。
2023-02-07 cs.LG
Symplectically Integrated Symbolic Regression of Hamiltonian Dynamical Systems
Dartmouth College(达特茅斯学院)
在这里,我们提出了符号集成符号回归(SISR),从数据中学习物理控制方程的一种新技术。SISR采用深度符号回归方法,使用具有突变的多层LSTM-RNN对Hamilton符号表达式进行概率采样。使用辛神经网络,我们开发了一种与模型无关的方法,用于从数据中提取有意义的物理先验,这些先验可以即时施加到RNN输出中,限制其搜索空间。RNN生成的哈密顿算子使用四阶辛积分方案进行优化和评估;预测性能用于训练LSTM-RNN,以通过风险寻求策略梯度方法生成越来越好的函数。采用这些技术,我们提取正确的控制方程的振子,摆,两体和三体引力系统的噪声和非常小的数据集。
2022-09-04 cs.LG
Racing Control Variable Genetic Programming for Symbolic Regression
Purdue University(普渡大学)
针对符号回归中固定实验调度导致发现过程延迟的问题,提出竞速控制变量遗传规划(Racing-CVGP),通过并行执行多个实验调度并提前淘汰不利调度,显著加速方程发现过程,在合成与真实数据集上均优于现有方法。
2023-09-13 cs.AI cs.LG cs.NE
Empowering Machines to Think Like Chemists: Unveiling Molecular Structure-Polarity Relationships with Hierarchical Symbolic Regression
Shanghai Jiao Tong University(上海交通大学);Peking University(北京大学);Ningbo Institute of Digital Twin, Eastern Institute of Technology(东方理工宁波数字孪生研究院);Peking University Shenzhen Graduate School(北京大学深圳研究生院)
针对薄层色谱预测中表达能力与可解释性难以兼顾的问题,提出UHiSR框架,通过分层神经网络与符号回归自动提炼极性指数并发现结构-色谱行为的可解释方程。
2024-01-25 cs.AI cs.DB cs.LG
Evaluating K-Fold Cross Validation for Transformer Based Symbolic Regression Models
Algoverse AI Research(Algoverse AI研究院)
针对符号回归中Transformer模型在小数据集上性能下降的问题,提出应用k折交叉验证技术,在缩减至15,000个数据点的数据集上训练,验证损失相对改进53.31%,显著提升模型泛化与一致性。
2025-06-30 cs.CL cs.LG
SNIP++: Fine-Grained Symbolic-Numerical Alignment for Symbolic Regression
Université Laval(拉瓦尔大学);Mila(米拉研究所);Carnegie Mellon University(卡内基梅隆大学)
针对符号回归中多模态嵌入仅全局对齐、无法感知局部编辑影响的问题,提出SNIP++方法,通过结构位置编码与多粒度对比学习实现细粒度符号-数值对齐,显著提升局部编辑区分能力并迁移至外部语料库。
2026-09-29 cs.AI cs.LG cs.NE
EGG-SR: Embedding Symbolic Equivalence into Symbolic Regression via Equality Graph
University of Texas at El Paso(德克萨斯理工大学);Purdue University(普渡大学)
EGG-SR通过引入等式图模块,将符号等价性整合到符号回归方法中,以减少搜索空间并提升学习效率。
2026-02-12 cs.AI cs.LG cs.SC
Symbolic Regression via Control Variable Genetic Programming
Purdue University(普渡大学)
针对多自变量符号回归难题,受科学控制变量实验启发提出CVGP方法,通过增量式变量引入与定制实验设计缩减搜索空间,理论与实验均验证其优于现有基线。
2023-05-25 cs.AI cs.LG cs.NE
Solving the 2D Advection-Diffusion Equation using Fixed-Depth Symbolic Regression and Symbolic Differentiation without Expression Trees
SDSU(圣地亚哥州立大学)
本文提出一种结合固定深度符号回归与无表达式树符号微分的新方法,用于高效求解二维对流扩散方程,并在两个不同边界条件下验证了其准确性与可扩展性。
2024-11-11 cs.LG cs.NA math.NA
Online Symbolic Regression with Informative Query
State Key Lab of Processors, Institute of Computing Technology, CAS(中国科学院计算技术研究所处理器国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学);Cambricon Technologies(寒武纪科技)
符号回归是从观测数据$\{ \vx_i, y_i \}$中提取数学表达式的任务,在科学发现中起着至关重要的作用。尽管现有的方法有前途的性能,他们中的大多数进行符号回归\textit{offline}设置。也就是说,他们将观察到的数据点视为给定的数据点,这些数据点只是从均匀分布中采样,而没有探索数据的表达潜力。然而,对于现实世界的科学问题,用于符号回归的数据通常是通过做实验主动获得的,这是一个\textit{online}设置。因此,如何获得信息的数据,可以促进符号回归过程是一个重要的问题,仍然具有挑战性。在本文中,我们提出了QUOSR,\textbf{qu} ery为基础的框架\textbf{o} nline \textbf{s}象征性的\textbf{r}出口,可以自动获得信息数据的迭代方式。具体来说,在每一步中,QUOSR接收历史数据点,生成新的$\vx$,然后查询符号表达式得到相应的$y$,其中$(\vx, y)$作为新的数据点。重复此过程,直到达到最大查询步骤数。为了使生成的数据点信息丰富,我们实现了一个神经网络的框架和训练它通过最大限度地提高生成的数据点和目标表达之间的互信息。通过综合实验,我们表明,QUOSR可以通过生成信息丰富的数据来促进现代符号回归方法。
2023-02-21 cs.LG
Binary and Multinomial Classification through Evolutionary Symbolic Regression
Ben-Gurion University(本-古里安大学)
我们提出了三种基于进化符号回归的二进制和多项式数据集分类算法:GPLearnClf,CartesianClf和ClaSyCo。测试了超过162个数据集,并与三种最先进的机器学习算法- XGBoost,LightGBM和深度神经网络-进行了比较,我们发现我们的算法具有竞争力。此外,我们演示了如何通过使用最先进的超参数优化器自动为数据集找到最佳方法。
2022-06-25 cs.LG cs.NE
RSRM: Reinforcement Symbolic Regression Machine
Renmin University of China(中国人民大学);University of Chinese Academy of Sciences(中国科学院大学)
本文提出强化符号回归机RSRM,通过MCTS、双重Q学习和调制子树发现三个模块协同,从稀缺数据中高效发现复杂数学方程,并在多个基准上取得领先性能。
2023-05-24 cs.AI cs.LG cs.SC
Benchmarking symbolic regression constant optimization schemes
ICEx UFF
本文在两种场景和十个基准问题上基准测试八种进化搜索内常数优化方法,并引入TED结合经典误差评估符号准确性,发现方法优劣依赖场景且无全局最佳选择。
2024-12-03 cs.AI cs.LG physics.comp-ph
Symbolic Regression Driven by Training Data and Prior Knowledge
Delft University of Technology(代尔夫特理工大学)
在符号回归中,对分析模型的搜索通常纯粹由在训练数据样本上观察到的预测误差驱动。然而,当数据样本不充分覆盖输入空间时,预测误差不提供朝向期望模型的充分指导。然后,标准的符号回归技术产生部分不正确的模型,例如,在其稳态特性或局部行为方面。如果在搜索过程中已经考虑到这些特性,则可以产生更准确和相关的模型。我们提出了一种多目标符号回归方法,该方法由训练数据和所需模型应表现的属性的先验知识驱动。以形式约束的形式给出的属性在内部由一组离散数据样本表示,候选模型在该样本上被精确地检查。所提出的方法进行了实验评估的三个测试问题的结果清楚地表明,它的能力,以发展现实的模型,适合的训练数据,同时符合所需的模型特性的先验知识在同一时间。它优于标准符号回归的几个数量级的均方差从参考模型。
2020-04-24 cs.AI cs.LG cs.NE
Symbolic regression for scientific discovery: an application to wind speed forecasting
Maastricht University(马斯特里赫特大学)
符号回归对应于允许从数据中揭示分析方程的技术集合。通过一个封闭的形式公式,这些技术提供了巨大的优势,如潜在的科学发现新的法律,以及可解释性,特征工程以及快速推理。类似地,基于深度学习的技术已经显示出对复杂模式建模的非凡能力。本文的目的是应用最近的端到端的符号回归技术,即方程学习器(EQL),得到一个解析方程的风速预测。我们表明,这是可能的,可以获得一个分析方程,可以实现合理的精度,短期的视野预测,只使用几个功能。
2021-10-26 cs.LG physics.ao-ph
VaSST: Variational Inference for Symbolic Regression using Soft Symbolic Trees
Department of Statistics, Texas A&M University(统计学系,德克萨斯大学阿姆斯特朗分校)
提出基于变分推断的可扩展符号回归框架VaSST,通过软符号树连续松弛将组合搜索转化为梯度优化,实现不确定性量化,在模拟和费曼数据集上表现优异。
2026-07-03 cs.LG cs.SC stat.CO
Bayesian symbolic regression: Automated equation discovery from a physicists' perspective
Department of Chemical Engineering, Universitat Rovira i Virgili(罗维拉-维格利大学化学工程系);ICREA
本文从物理学视角阐述贝叶斯符号回归的概率框架,说明其如何基于信息论与统计物理原则评估模型、提供性能保证并支持模型集成。
2025-07-22 cond-mat.stat-mech cs.LG physics.data-an
A Transformer Model for Symbolic Regression towards Scientific Discovery
OMRON SINIC X Corporation(欧姆龙 SINIC X 公司);Okinawa Institute of Science and Technology(冲绳科学技术大学院大学);Amazon Alexa(亚马逊 Alexa);Tohoku University(东北大学)
本文提出一种面向科学发现的符号回归Transformer模型,通过设计三种灵活性递增的编码器架构防止过拟合,在SRSD数据集上以归一化树编辑距离取得最先进结果且不增加计算成本。
2023-12-13 cs.LG