AI Agents with Human-Like Collaborative Tools: Adaptive Strategies for Enhanced Problem-Solving
Research(2389研究机构);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
研究赋予LLM智能体类人协作工具与自主权,发现这些工具在难题上显著降低成本和轮次并提升速度,且不同模型自然采用不同协作策略,表明自适应协作界面可作为推理增强器。
2025-09-16 cs.AI cs.HC
Learning Constraints-Based Adaptive Hypergraph Neural Networks for Solving Vehicle Routing Problems
University of Nottingham Ningbo China(宁波诺丁汉大学);Tongji University(同济大学)
本研究提出结合面向约束的超图与强化学习的端到端框架,通过动态超边重构与双指针注意力机制求解车辆路径问题,在基准数据集上提升了解质量且无需复杂启发式算子。
2026-09-04 cs.LG cs.NE
DistTune: Distributed Fine-Grained Adaptive Traffic Speed Prediction for Growing Transportation Networks
Norwegian University of Science and Technology(挪威科技大学);Simula Research Laboratory(Simula研究实验室)
在过去的十年中,已经引入了许多方法用于交通速度预测。然而,提供细粒度的,准确的,时间有效的,和自适应的交通速度预测的不断增长的交通网络的规模不断增加和新的交通检测器不断部署还没有得到很好的研究。针对这一问题,提出了基于长短期记忆(LSTM)和Nelder-Mead方法的DistTune算法。每当遇到未处理的检测器时,DistTune就决定是否应该通过将检测器与其他已处理的检测器在它们观察到的标准化流量速度模式方面进行比较来为该检测器定制LSTM模型。如果发现相似性,DistTune会直接与此检测器共享现有的LSTM模型,以实现高效的处理。否则,DistTune会为检测器定制一个LSTM模型,以实现细粒度预测。为了使DistTune更加节省时间,DistTune在计算节点集群上并行执行。为了实现自适应交通速度预测,DistTune还为由于交通速度模式变化而导致预测精度不满意的检测器提供了LSTM重新定制。在加利福尼亚州的I5-N高速公路收集的交通数据的基础上进行了广泛的实验,以评估DistTune的性能。结果表明,DistTune为不断增长的交通网络提供了细粒度,准确,时效性和自适应的交通速度预测。
2021-05-19 cs.LG
Unsupervised Modular Adaptive Region Growing and RegionMix Classification for Wind Turbine Segmentation
Politecnico di Milano(米兰理工大学);Wind Power LAB(风力发电实验室)
本文提出一种高效的无监督区域分类方法,通过自适应阈值和区域融合技术实现涡轮机叶片分割,提升跨站点的泛化能力。
2026-03-31 cs.CV cs.LG
Solving a class of non-convex min-max games using adaptive momentum methods
Splunk;University of Florida(佛罗里达大学)
自适应动量方法最近在深度神经网络的训练中引起了很多关注。它们使用目标函数的过去梯度的指数移动平均来更新搜索方向和学习速率。然而,这些方法不适合解决在训练生成对抗网络中出现的最小-最大最优化问题。在本文中,我们提出了一个自适应动量最小-最大算法,推广自适应动量方法的非凸最小-最大制度。此外,我们建立了非渐近收敛速度的算法时,在一个合理的广泛的类非凸最小最大最优化问题。实验结果表明,它的优越性能与基准方法解决此类问题。
2021-04-26 cs.LG math.OC stat.ML
Adaptive Data Analysis for Growing Data
University of Melbourne(墨尔本大学)
针对静态数据假设无法适应数据增长的问题,本文首次提出动态数据自适应分析的泛化界,允许分析人员按数据规模自适应安排查询并纳入时变机制,批量查询场景下数据需求随查询数平方根增长,基于截断高斯机制的实例性能优于静态基线。
2025-11-12 cs.LG stat.ML
Self-Motivated Growing Neural Network for Adaptive Architecture via Local Structural Plasticity
Department of Computer Science, University College London(计算机科学系,伦敦大学学院)
本文提出SMGrNN,通过局部结构可塑性模块实现网络拓扑的在线进化,提升强化学习中的控制性能与稳定性。
2026-07-28 cs.LG cs.NE
Adaptive Zeroing-Type Neural Dynamics for Solving Quadratic Minimization and Applied to Target Tracking
Guangdong Ocean University(广东海洋大学);Southeast University(东南大学);University of Leicester(莱斯特大学)
时变二次小型化(TVQM)问题是当前研究的热点,迫切需要一种更可靠、更快速的求解模型。为此,提出并实现了一种新的自适应系数构造框架,以提高求解模型的性能,从而形成自适应调零型神经动力学(AZTND)模型。然后将AZTND模型应用于TVQM问题的求解。自适应系数可以在线调整模型的步长,使求解模型收敛得更快。同时,积分项的发展,以提高在扰动环境中的模型的鲁棒性。实验结果表明,该模型具有更快的收敛速度和更可靠的鲁棒性比现有的方法。最后,将AZTND模型应用于目标跟踪方案中,验证了该模型的实用性。
2022-11-30 cs.LG cs.NA math.NA
Optimal Regularized Online Allocation by Adaptive Re-Solving
HKUST(香港科技大学)
针对非凹奖励、硬约束和不可分离正则化的在线资源分配问题,提出自适应更新约束的对偶重求解框架,以近似解获得最优对数遗憾并消除 log-log 因子。
2023-07-16 cs.IT cs.LG math.IT
Plasticity of Growing and Elastic Neural Networks in Online Continual Learning
University of California, Los Angeles (UCLA)(加利福尼亚大学洛杉矶分校);University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所)
本文研究在线持续学习中生长型与弹性型神经网络的可塑性,实验显示自适应生长型和弹性型神经网络可维持高准确率、不丧失可塑性,或为在线持续学习提供有前景的算法类别。
2026-08-04 cs.LG
A Dynamic-Growing Fuzzy-Neuro Controller, Application to a 3PSP Parallel Robot
Center of Excellence on Soft Computing and Intelligent Information processing(软计算与智能信息处理中心)
本文提出动态增长模糊神经控制器,结合自适应策略用于3PSP并联机器人位置控制,通过保守的规则增长机制和滑模非线性控制器实现快速响应与稳定性。
2026-04-15 cs.AI cs.LG cs.NE
$r-$Adaptive Deep Learning Method for Solving Partial Differential Equations
University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU));Basque Center for Applied Mathematics (BCAM)(巴斯克应用数学中心(BCAM));Ikerbasque(伊克巴斯克)
我们介绍了一种$r-$自适应算法,使用深度神经网络求解偏微分方程。该方法限制在张量积网格上,优化一维边界结点的位置,并由此生成二维或三维网格。该方法允许定义固定接口以设计一致的网格,并且允许拓扑结构的改变,即,某些节点可以跨越固定接口。该方法同时优化的节点位置和PDE的解决方案的值在所产生的网格。为了数值说明我们提出的$r-$自适应方法的性能,我们将其与配置法,最小二乘法和深里兹法相结合。我们专注于后者来解决一维和二维问题,其解决方案是光滑的,奇异的,和/或表现出强梯度。
2022-10-19 cs.LG cs.NA cs.NE
Adaptive First-and Zeroth-order Methods for Weakly Convex Stochastic Optimization Problems
Amirkabir University of Technology(阿米尔卡比尔理工大学);University of Florida(佛罗里达大学)
在本文中,我们设计并分析了一族新的自适应次梯度方法,用于求解一类重要的弱凸(可能非光滑)随机最优化问题。使用过去梯度的指数移动平均值来更新搜索方向和学习速率的自适应方法最近吸引了大量关注,用于解决机器学习中出现的最优化问题。然而,它们的收敛性分析几乎完全需要目标函数的光滑性和/或凸性。与此相反,我们建立了一阶和零阶自适应方法及其近似变量的非渐近收敛速度为一个合理的广泛的非光滑\非凸最优化问题。实验结果表明,所提出的算法如何经验优于随机梯度下降及其零阶变量解决这样的最优化问题。
2020-05-24 cs.LG math.OC stat.ML
Generative Graph Convolutional Network for Growing Graphs
Walmart Labs(沃尔玛实验室)
对生长图的生成过程建模在社交网络和推荐系统中有着广泛的应用,其中冷启动问题导致新节点从现有图中分离出来。尽管在学习图表示和图生成的新兴文献,其中大多数不能处理孤立的新节点没有非平凡的修改。挑战的出现是由于这样一个事实,即学习生成表示的观察图中的节点在很大程度上依赖于拓扑特征,而对于新的节点,只有节点属性可用。在这里,我们提出了一个统一的生成图卷积网络,学习所有节点的节点表示自适应生成模型框架,通过采样从观察到的图形数据构建的图形生成序列。我们优化的变分下界,由一个图重建项和自适应Kullback-Leibler发散正则化项。我们证明了我们的方法在几个基准引文网络数据集上的优越性能。
2019-03-06 cs.LG cs.SI stat.ML
A Decentralized Adaptive Momentum Method for Solving a Class of Min-Max Optimization Problems
Splunk(斯普伦克);University of Southern California(南加州大学);University of Florida(佛罗里达大学)
最近,由于其广泛的应用,包括训练生成对抗网络(GANs),最小最大鞍点对策受到了广泛的研究。然而,大多数最近的努力,解决他们仅限于特殊制度,如凹凸游戏。此外,通常假设,基础最优化问题由单个机器解决,或者在以集中方式连接的多个机器的情况下解决,其中每个机器与中央节点通信。当底层通信网络具有低带宽时,后一种方法变得具有挑战性。另外,隐私考虑可以规定某些节点可以与其他节点的子集通信。因此,开发以分散方式解决最小-最大博弈的方法是有意义的。为此,在目标函数满足Minty变分不等式条件下,提出了一种求解min-max最优化问题的分散自适应动量(ADAM)型算法,该算法是对凸-凹情形的推广.所提出的方法克服了最近的非自适应基于梯度的分散算法的最小-最大最优化问题,在实践中表现不佳,需要仔细调整的缺点。在本文中,我们获得了所提出的算法(Coined DADAM $^3$)的非渐近收敛速度,用于寻找(随机)一阶纳什平衡点,并随后评估其在训练GANs上的性能。广泛的实证评估表明,DADAM $^3$优于最近开发的方法,包括分散乐观随机梯度解决这样的最小-最大问题。
2021-06-28 cs.LG math.OC stat.ML
AiGAS-dEVL-RC: An Adaptive Growing Neural Gas Model for Recurrently Drifting Unsupervised Data Streams
TECNALIA(泰克纳利亚技术中心);University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
本文提出基于生长神经气体(GNG)的自适应方法AiGAS-dEVL-RC,通过紧凑记忆结构存储和复用循环概念知识,在验证延迟条件下有效应对突发的循环漂移和增量漂移,以最小内存占用实现高预测精度。
2025-04-10 cs.LG cs.NE
Self-Adaptive Physics-Informed Quantum Machine Learning for Solving Differential Equations
RWTH Aachen University(亚琛工业大学);Forschungszentrum Jülich(于利希研究中心);University of Cologne(科隆大学)
该研究将切比雪夫多项式与自适应物理信息神经网络结合,在量子机器学习框架下求解多种微分方程,并通过量子关联测量和纠缠层提升精度,为量子设备求解微分方程提供了新途径。
2025-01-20 cs.LG physics.comp-ph quant-ph
Learn Basic Skills and Reuse: Modularized Adaptive Neural Architecture Search (MANAS)
Rutgers University(罗格斯大学)
人类的智能是能够先学习一些解决基本问题的基本技能,然后将这些基本技能组装成解决复杂或新问题的复杂技能。例如,基本技能“挖坑”、“放树”、“回填”和“浇水”组成了复杂技能“植树”。除此之外,一些基本的技巧可以被重用于解决其他问题。比如,“挖坑”这一基本功,不仅可以用来种树,还可以用来挖矿、挖沟、填埋。学习基本技能并将其重新用于各种任务的能力对人类来说非常重要,因为它有助于避免学习太多技能来解决每个单独的任务,并且可以通过学习几个基本技能来解决组成数量的任务,这节省了人类大脑中大量的内存和计算。我们认为,机器智能还应该捕捉学习基本技能并通过将其组合成复杂技能来重用它们的能力。在计算机科学语言中,每项基本技能都是一个“模块”,它是一个具有具体含义的可重用网络,执行特定的基本操作。这些模块被组装成一个更大的“模型”,用于执行更复杂的任务。组装过程适应于输入或任务,即,对于一个给定的任务,模块应该被组装成解决该任务的最佳模型。因此,不同的输入或任务可以有不同的组装模型,这使得自动组装AI(AAAI)成为可能。在这项工作中,我们提出了模块化自适应神经结构搜索(MANAS)来证明上述想法。在不同数据集上的实验表明,MANAS自适应结构的性能优于静态全局结构。进一步的实验和实证分析提供了见解MANAS的有效性。
2022-08-24 cs.AI cs.IR cs.LG
Adaptively Solving the Local-Minimum Problem for Deep Neural Networks
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
本文旨在克服深度神经网络(DNN)理论和应用中的一个基本问题。我们提出了一种直接解决DNN训练中局部极小值问题的方法。我们的方法是基于交叉熵损失准则的凸化,通过将交叉熵损失转化为风险规避误差(RAE)准则。为了减轻数值计算的困难,归一化RAE(NRAE)。交叉熵损失的凸性区域随着其风险敏感性指数(RSI)的增加而扩大。充分利用凸性区域,我们的方法开始训练广泛的RSI,逐渐减少它,并切换到RAE尽快RAE是数值上可行的。在训练收敛之后,期望得到的深度学习机器处于交叉熵损失的全局最小值的吸引盆内。数值结果表明了该方法的有效性。
2020-12-25 cs.LG stat.ML
Adaptively trained Physics-informed Radial Basis Function Neural Networks for Solving Multi-asset Option Pricing Problems
College of Mathematics and Statistics, Northwest Normal University(西北师范大学数学与统计学院);Department of Mathematics, City University of Hong Kong(香港城市大学数学系);Department of Information Technology, Uppsala University(乌普萨拉大学信息科技系)
提出基于径向基函数神经网络的物理信息机器学习算法,通过自适应调整隐藏神经元分布,高效求解多资产期权定价中的Black-Scholes偏微分方程,实验验证了单资产、双资产和四资产期权定价的有效性。
2026-07-03 cs.LG
Resource-Adaptive Stochastic Gradient Descent for Online Linear Programming without Re-solving
Fudan University(复旦大学)
针对大规模在线线性规划,提出资源自适应随机梯度下降算法,以O(m)复杂度实现无需重新求解的库存定价,达到O(log T)遗憾,兼顾效率与分配质量。
2026-09-24 cs.LG math.OC
Self-adaptive weighting and sampling for physics-informed neural networks
Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对物理信息神经网络(PINNs)求解偏微分方程时精度和效率受限的问题,提出混合自适应采样与加权方法,结合二者优势提升预测精度与训练效率,解决单一方法在训练点稀缺时效果不佳的问题。
2025-11-11 cs.AI cs.LG physics.comp-ph
Adaptive Sequential SAA for Solving Two-stage Stochastic Linear Programs
Purdue University(普渡大学);Clemson University(克莱姆森大学)
提出了求解大规模两阶段随机线性规划的自适应序列SAA算法。我们提出的迭代算法框架被组织成\emph{outer}和\emph{inner}迭代如下:在每次外部迭代期间,使用观测或"场景”的样本隐式地生成样本路径问题,并且通过平衡估计的统计误差与解决方案误差,仅解决\emph{imprecisely},以在选择\emph{adaptively}的公差内。来自先前迭代的解用作\emph{warm starts}以帮助有效地解决在后续迭代上生成的(分段线性凸)样本路径最优化问题。生成的场景可以是独立同分布的(iid),也可以是相关的,如使用拉丁超立方体抽样、对偶变量或随机准蒙特卡罗生成的蒙特卡罗。我们首先刻画了最优性间隙的几乎必然收敛(和平均收敛)以及生成的随机迭代到真解集的距离。然后,我们将相应的迭代复杂性和工作复杂性率作为样本大小时间表的函数,证明了最佳可实现的工作复杂性率是Monte Carlo规范的,类似于非光滑凸优化的通用$\mathcal{O}(ε^{-2})$最优复杂性。我们报告了大量的数值测试,表明良好的性能,主要是由于使用的顺序框架与最佳样本量的时间表,并使用热启动。该算法可以在有限的时间内停止,返回一个解决方案赋予概率质量保证。
2020-12-07 cs.LG math.OC stat.CO
Adaptive Input-image Normalization for Solving the Mode Collapse Problem in GAN-based X-ray Images
Department of Computer Science, Munster Technological University, Cork, Ireland(计算机科学系,穆斯廷技术大学,科克,爱尔兰)
本文提出通过自适应输入图像归一化技术缓解GAN生成X射线图像中模式崩溃问题,提升图像多样性和分类性能。
2024-04-29 cs.CV cs.LG eess.IV
N-Adaptive Ritz Method: A Neural Network Enriched Partition of Unity for Boundary Value Problems
University of California, San Diego(加州大学圣迭戈分校);Coreform, LLC(Coreform有限责任公司)
提出神经网络增强单位分解法(NN-PU),结合预训练特征编码与Ritz能量最小化,实现边值问题的高效自适应求解,降低计算成本。
2024-01-16 cs.LG cs.NA math.NA
Low-rank adaptive physics-informed HyperDeepONets for solving differential equations
African Institute for Mathematical Sciences Crystal Garden(非洲数学科学研究所水晶花园分校);Department of Mathematics and Statistics(数学与统计学系);Memorial University of Newfoundland(纪念大学)
本文提出物理信息 PI-LoRA-HyperDeepONets,用 LoRA 分解超网络输出权重以降低复杂度并正则化 trunk 网络,在微分方程实验中最多减少 70% 参数且精度与泛化更优。
2025-07-24 cs.LG cs.NA math.NA
Splitting Steepest Descent for Growing Neural Architectures
UT Austin(得克萨斯大学奥斯汀分校)
我们开发了一种渐进式的神经网络的训练方法,通过将现有的神经元分裂成多个后代来自适应地增长网络结构。通过利用函数最速下降的思想,我们得到一个简单的标准,用于决定最佳的神经元子集分裂和分裂梯度最佳更新的后代。理论上,我们的分裂策略是一个二阶函数最速下降逃逸鞍点在$\infty$ -Wasserstein度量空间,在标准参数梯度下降是一阶最速下降。我们的方法为优化神经网络结构提供了一种新的计算效率高的方法,特别是在资源受限的环境中学习轻量级神经架构。
2019-11-04 cs.LG cs.NE stat.ML
Adaptive Physics-Informed Neural Networks for Markov-Chain Monte Carlo
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);NVIDIA(英伟达)
在本文中,我们提出了自适应物理信息神经网络(APINNs)的准确和有效的模拟免费贝叶斯参数估计通过马尔可夫链蒙特卡罗(MCMC)。我们特别关注一类参数估计问题,计算似然函数需要求解偏微分方程。所提出的方法包括:(1)构建离线PINN-UQ模型作为对前向模型的近似;以及(2)使用MCMC采样器生成的样本实时细化该近似模型。所提出的APINN方法不断完善这个近似模型的飞行,并保证近似误差总是小于用户定义的残差阈值。我们数值证明了所提出的APINN方法在解决由泊松方程的系统的参数估计问题的性能。
2020-08-03 cs.LG cs.NA math.NA
Spectrally Adapted Physics-Informed Neural Networks for Solving Unbounded Domain Problems
Dept.~of Mathematics, UCLA(UCLA数学系);Dept.~of Computational Science and Philosophy, Frankfurt School of Finance and Management(金融与管理法兰克福学院计算科学与哲学系)
本文提出结合自适应谱方法与物理信息神经网络,解决无界域PDE问题,提升对无界变量依赖性的求解效率与精度。
2023-02-28 cs.LG cs.NA math.AP