Towards a deeper GCN: Alleviate over-smoothing with iterative training and fine-tuning
Institute of Big Data Science and Industry(大数据科学与产业研究院);Shanxi University(山西大学);Key Laboratory of Evolutionary Science Intelligence of Shanxi Province(山西省进化科学智能重点实验室);Zhengzhou University of Aeronautics(郑州航空工业大学)
本文针对GCN深层过平滑问题,提出逐层渐进训练策略LGT,结合逐层训练、低秩适配和恒等初始化,在保持表达能力的同时显著提升32层GCN性能,并可兼容现有方法。
2025-07-22 cs.LG
ASFGNN: Automated Separated-Federated Graph Neural Network
Ant Group(蚂蚁集团)
图神经网络(GNNs)通过利用图数据取得了显著的性能。GNN模型的成功总是依赖于丰富的特征和相邻关系。然而,在实践中,这些数据通常被不同的数据所有者(客户端)隔离,因此可能是非独立和相同分布的(非IID)。同时,考虑到数据所有者的网络状态有限,在数据隔离场景下,协同学习方法的超参数优化是耗时的。为了解决这些问题,我们提出了一个自动分离联邦图神经网络(ASFGNN)的学习范式。ASFGNN由两个主要部分组成,即,GNN的训练和超参数的调整。具体来说,为了解决数据非IID问题,我们首先提出了一种分离式联邦GNN学习模型,该模型将GNN的训练分为两部分:由客户单独完成的消息传递部分和由客户联邦学习的损失计算部分。为了解决耗时的参数调整问题,我们利用贝叶斯优化技术来自动调整所有客户端的超参数。我们在基准数据集上进行了实验,结果表明,ASFGNN在准确性和参数调整效率方面明显优于朴素联邦GNN。
2020-11-06 cs.DC cs.LG
Analyzing Image Encoder Choices and Graph Homophily in GCN Frameworks for Breast Ultrasound Classification
PONS Incorporated(PONS公司);Department of Radiology, Department of Medicine, University of British Columbia(大学医学部和放射学部)
研究乳腺超声分类中图像编码器选择对图构建和分类性能的影响,通过评估五种编码器,用其嵌入构建图并分类,发现更高容量编码器可提升图同质性和分类性能,确立编码器选择为关键因素,图同质性为性能联系指标。
2026-07-30 cs.CV cs.LG eess.IV
Fine-tuning Partition-aware Item Similarities for Efficient and Scalable Recommendation
City University of Hong Kong(香港城市大学);Harbin Institute of Technology(哈尔滨工业大学)
协同过滤(CF)是一种被广泛研究的推荐解决方案。图卷积网络(GCN)最近在CF中的成功证明了通过图建模高阶关系的有效性,而重复的图卷积和迭代批量优化限制了它们的效率。相反,项目相似性模型试图通过有效的交互编码来构建直接的关系。尽管它们的性能很好,但不断增长的项目数量导致相似性建模过程的二次增长,带来了严重的可扩展性问题。本文研究了最新的GCN模型中为提高效率而采用的图抽样策略,并在抽样图中识别出潜在的项目组结构。在此基础上,我们提出了一种新的项目相似性模型,该模型引入了图划分,以限制每个分区内的项目相似性建模。具体来说,我们表明,原始图的谱信息是很好地保持全球层面的信息。然后,它被添加到微调局部项目的相似性与一个新的数据增强策略作为分区感知的先验知识,共同应对分区带来的信息丢失。在4个数据集上进行的实验表明,该模型比GCN模型有10倍的加速性能,比项目相似度模型节省了95%的参数存储空间.
2023-02-10 cs.IR cs.LG
Latent-Graph Learning for Disease Prediction
University of Lugano(卢加诺大学);Sapienza University of Rome(罗马大学);Technical University of Munich(慕尼黑工业大学);Ludwig Maximilians Universität München(慕尼黑大学);Johns Hopkins University(约翰斯·霍普金斯大学);Imperial College London(帝国理工学院);Twitter(推特)
最近,图卷积网络(GCN)已被证明是计算机辅助诊断(CADx)和疾病预测的强大机器学习工具。这些模型中的一个关键组成部分是构建一个群体图,其中图邻接矩阵表示成对患者的相似性。到目前为止,相似性度量一直是手动定义的,通常基于人口统计学或临床评分等元特征。然而,度量的定义需要仔细调整,因为GCN对图结构非常敏感。在本文中,我们首次在CADx域中证明,可以向GCN的下游疾病分类任务学习单个最佳图。为此,我们提出了一种新的,端到端的可训练图学习架构,用于动态和局部化的图修剪。与常用的光谱GCN方法不同,我们的GCN是空间和归纳的,因此也可以推断以前看不见的患者。我们展示了显着的分类改进与我们的学习图在医学中的两个CADx问题。我们使用人工数据集进一步解释和可视化这一结果,强调了图学习在医学应用中使用GCN进行更准确和更强大的推理的重要性。
2022-05-13 cs.LG
Detecting Anomalous Network Communication Patterns Using Graph Convolutional Networks
Ben-Gurion University of the Negev(本-古里安内盖夫大学)
本文提出GCNetOmaly,一种基于图卷积网络和变分自编码器的异常检测模型,利用连接矩阵与节点特征重构分数,在真实金融ATM与AD服务器数据上验证了无监督异常检测的有效性。
2023-11-30 cs.CR cs.LG
A Simple Dynamic Learning Rate Tuning Algorithm For Automated Training of DNNs
IBM Research-India(IBM印度研究院);Georgia Institute of Technology(佐治亚理工学院);IBM Research-USA(IBM美国研究院)
在图像数据集上训练神经网络通常需要大量的实验来找到最佳的学习率机制。特别是,对于对抗训练或训练新合成模型的情况,人们事先不知道最佳学习率方案。我们提出了一种用于确定学习率轨迹的自动算法,该算法适用于自然和对抗训练的数据集和模型,而不需要任何数据集/模型特定的调整。它是一种独立的、无参数的、自适应的方法,没有计算开销。我们从理论上讨论了算法的收敛性。我们经验验证我们的算法广泛。我们的研究结果表明,我们提出的方法\emph{consistently}实现了顶级的准确性相比,SOTA基线在文献中的自然以及对抗训练。
2019-10-25 cs.CV cs.LG stat.ML
Semi-Supervised Cervical Dysplasia Classification With Learnable Graph Convolutional Network
The Pennsylvania State University(宾夕法尼亚州立大学);Carnegie Mellon University(卡内基梅隆大学);Facebook(脸书)
宫颈癌是当今影响妇女的第二大流行癌症。由于宫颈癌的早期检测在很大程度上依赖于筛查和临床前检测,数字宫颈造影术作为主要或辅助筛查工具具有很大的潜力,特别是在低资源地区,由于其成本低,易于获得。虽然一个自动化的子宫颈发育异常检测系统一直是可取的,传统的全监督训练这样的系统需要大量的注释数据,这往往是劳动密集型collect.To减轻需要大量的手工注释,我们提出了一种新的图卷积网络(GCN)的半监督分类模型,可以训练较少的注释。在现有的GCN中,图是用固定的特征构造的,并且在学习过程中不能更新。这限制了他们利用在图卷积过程中学习到的新特征的能力。在本文中,我们提出了一种新的,更灵活的GCN模型与特征编码器,自适应更新的邻接矩阵在学习过程中,并证明这种模型的设计,导致性能提高。我们在宫颈不典型增生分类数据集上的实验结果表明,在半监督设置下,所提出的框架优于以前的方法,特别是当标记样本稀缺时。
2020-04-01 cs.CV cs.LG eess.IV
Leveraging Visibility Graphs for Enhanced Arrhythmia Classification with Graph Convolutional Networks
Federal University of Ouro Preto(欧鲁普雷图联邦大学)
针对心律失常分类中ECG信号图表示的挑战,本研究提出将可见性图(VG)和向量可见性图(VVG)与图卷积网络(GCNs)结合,在MIT-BIH数据集上实现无需预处理的直接分类,VG提升效率、VVG增强性能,优于基线方法但仍存在特定类别分类挑战。
2024-12-04 cs.CV cs.LG eess.SP
Bridge-Centered Metapath Classification Using R-GCN-VGAE for Disaster-Resilient Maintenance Decisions
本文提出R-GCN-VGAE方法,通过构建异构图分析桥梁在灾难中的多维作用,为维护预算决策提供支持,验证了方法在不同城市规模的有效性。
2026-04-20 cs.LG
Towards an automated method based on Iterated Local Search optimization for tuning the parameters of Support Vector Machines
Philips Research(飞利浦研究院)
我们提供了初步的细节和制定的优化策略,根据目前的发展,是能够自动调整参数的支持向量机在新的数据集。优化策略是基于迭代局部搜索的启发式算法,迭代局部搜索是对经典爬山算法的修改,它迭代调用局部搜索例程。
2017-07-11 cs.AI cs.LG
Enhancing Video Analytics Accuracy via Real-time Automated Camera Parameter Tuning
Purdue University(普渡大学);NEC Laboratories America, Inc.(NEC美国实验室有限公司)
在视频分析流水线(VAP)中,运行在远程服务器上的目标检测和人脸识别等分析单元(AU)严重依赖监控摄像头来捕获高质量视频流,以实现高准确性。现代IP摄像机具有大量的摄像机参数,这些参数直接影响视频流捕获的质量。虽然一些这样的参数,例如,曝光、对焦、白平衡由相机内部自动调节,其余的则不是。我们将这样的相机参数表示为非自动化(Non-automated,NATIONAL)参数。在本文中,我们首先表明,环境条件的变化可以有显着的不利影响,从AU的见解的准确性,但这种不利影响可能会减轻动态调整的仙女座相机参数,以响应环境条件的变化。然后,我们提出了CamTuner,据我们所知,第一个框架,动态地适应仙女座相机参数,以优化在VAP中的AU的准确性,以应对环境条件的不利变化。CamTuner基于SARSA强化学习,它包含了两个新的组件:一个轻量级的分析质量估计器和一个虚拟相机,大大加快了离线RL训练。我们的对照实验和实际VAP部署表明,与使用默认摄像头设置的VAP相比,CamTuner通过检测15.9%的额外人员和2.6%-4.2%的额外车辆来提高VAP准确性(没有任何误报)在大型企业停车场和9.7%的额外汽车在5G智能交通路口场景,这使得能够实现准确和可靠的自动车辆碰撞预测(AVCP)的新使用情况。CamTuner为显著提高视频分析准确性的新方法打开了大门,而不仅仅是通过完善深度学习模型进行…
2022-09-15 cs.CV cs.LG
Search Algorithms for Automated Hyper-Parameter Tuning
Florida International University(佛罗里达国际大学);University of Georgia(佐治亚大学);Purdue University(普渡大学)
机器学习是在教育等不同领域建模的强大方法。它准确预测学生成功的能力使其成为与高等教育相关的决策任务的理想工具。机器学习模型的准确性取决于选择适当的超参数。然而,这并不是一件容易的事情,因为它需要时间和专业知识来调整超参数以适应机器学习模型。在本文中,我们研究了自动化超参数调整技术的有效性,以学生的成功领域。因此,我们开发了两种自动超参数优化方法,即网格搜索和随机搜索,以评估和改善以前的研究的性能。实验结果表明,将随机搜索和网格搜索应用于机器学习算法,提高了准确率。我们经验性地展示了自动化方法在现实世界的教育数据(MIDFIELD)上的优越性,用于调整传统机器学习分类器的HP。这项工作强调了自动化超参数优化的有效性,同时将机器学习应用于教育领域,以帮助教师,董事或非专家用户的决策,以提高学生的成功。
2021-04-29 cs.CY cs.LG cs.PF
Applying Semi-Automated Hyperparameter Tuning for Clustering Algorithms
James Cook University(詹姆斯·库克大学);Queensland University of Technology(昆士兰理工大学)
在处理聚类问题时,选择正确的聚类算法和参数是必不可少的,因为每个聚类算法都擅长找到特定性质的聚类。由于聚类算法的无监督性质,没有可用于经验评估的地面真值,这使得通过超参数调整的参数选择过程的自动化变得困难。以前的聚类算法超参数调整方法依赖于内部度量,这些度量通常偏向于某些算法,或者具有一些可用的地面真值标签,将问题转移到半监督空间中。这项初步研究提出了一个框架,半自动超参数调整聚类问题,使用网格搜索开发一系列的图形和易于解释的指标,然后可以用于更有效的特定领域的评估。初步结果表明,内部指标无法捕捉的语义质量的集群开发和内部指标驱动的方法会得出不同的结论比那些由人工评估。
2021-08-25 cs.LG cs.SE
Automated Dilated Spatio-Temporal Synchronous Graph Modeling for Traffic Prediction
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学);National University of Defense Technology(国防科技大学);Beijing Jiaotong University(北京交通大学)
由于交通网络的复杂时空相关性,准确的交通预测是智能交通系统中一项具有挑战性的任务。许多现有的作品利用复杂的时间建模方法,结合图卷积网络(GCN)捕捉短期和长期的时空依赖性。然而,这些设计复杂的分离模块限制了时空表示学习的有效性和效率。此外,大多数以前的工作采用固定的图构造方法来表征全局时空关系,这限制了模型对不同时间段甚至不同数据场景的学习能力。为了克服这些限制,我们提出了一个自动扩张的时空同步图网络,名为Auto-DSTSGN的流量预测。具体来说,我们设计了一个自动膨胀时空同步图(Auto-DSTSG)模块,通过以递增的顺序堆叠具有膨胀因子的更深层来捕获短期和长期的时空相关性。此外,我们提出了一个图结构搜索方法,自动构建时空同步图,可以适应不同的数据场景。在四个真实数据集上的大量实验表明,与现有方法相比,我们的模型可以实现约10%的改进。源代码可在https://github.com/jinguangyin/Auto-DSTSGN上获得。
2022-07-22 cs.LG
The Importance of Prompt Tuning for Automated Neuron Explanations
Mt. Carmel High School(卡梅尔山高中);UC San Diego(加州大学圣地亚哥分校);Canyon Crest Academy(峡谷峰学院)
本研究通过优化解释生成提示,以更自然的方式格式化提示,显著提升了LLM神经元解释的质量并降低了计算成本,经自动与人工评估验证。
2023-10-11 cs.CL cs.LG
Language-Guided Tuning: Configuration Optimization for Automated ML Research
针对机器学习配置优化瓶颈,提出多智能体大语言模型框架LGT,协调三类智能体形成反馈循环,在七个数据集上实现比传统方法更优的可解释性优化效果。
2026-09-01 cs.AI cs.CL cs.LG
Rethinking the Setting of Semi-supervised Learning on Graphs
Tsinghua University(清华大学)
我们认为,目前在图上进行半监督学习的设置可能会导致不公平的比较,因为它可能会过度调整模型的超参数。在本文中,我们强调了调整超参数的重要影响,它利用验证集中的标签信息来提高性能。为了探索过度调整超参数的限制,我们提出了ValidUtil,一种通过一组额外的超参数来充分利用验证集中的标签信息的方法。使用ValidUtil,即使是GCN也可以轻松在Cora上获得85.8%的高准确率。为了避免过度调整,我们将训练集和验证集合并,并构建一个i.i.d.。图基准(IGB)由4个数据集组成。每个数据集包含100个i.i.d.从大型图中采样的图,以减少评估方差。我们的实验表明,对于图上的半监督学习,IGB是比以前的数据集更稳定的基准。
2022-05-28 cs.LG
GATE: Graph CCA for Temporal SElf-supervised Learning for Label-efficient fMRI Analysis
University of Electronic Science and Technology of China(电子科技大学);East China Normal University(华东师范大学);University of British Columbia(不列颠哥伦比亚大学)
在这项工作中,我们专注于具有挑战性的任务,神经疾病分类,使用功能磁共振成像(fMRI)。在基于群体图的疾病分析中,图卷积神经网络(GCN)取得了显著的成功。然而,这些成就与丰富的标记数据密不可分,并且对虚假信号敏感。为了提高标签有效设置下的fMRI表示学习和分类,我们提出了一种新的和理论驱动的GCN上的自监督学习(SSL)框架,即图CCA的时间自监督学习的fMRI分析GATE。具体地说,这是要求设计一个合适的和有效的SSL策略提取形成和强大的功能磁共振成像的功能。为此,我们研究了几个新的图形增强策略,从功能磁共振成像动态功能连接(FC)的SSL培训。此外,我们利用典型相关分析(CCA)对不同的时间嵌入,并提出了理论意义。因此,这产生了一种新的两步GCN学习过程,包括(i)在未标记的fMRI群体图上进行SSL,以及(ii)在小的标记的fMRI数据集上进行微调以进行分类任务。我们的方法在两个独立的fMRI数据集上进行了测试,在自闭症和痴呆症诊断上表现出优越的性能。
2022-08-27 cs.LG eess.IV
HyP-ABC: A Novel Automated Hyper-Parameter Tuning Algorithm Using Evolutionary Optimization
Florida International University(佛罗里达国际大学);University of Georgia(佐治亚大学)
机器学习技术在广泛的应用中成为有前途的决策和分析工具。不同的ML算法有不同的超参数。为了针对特定的应用定制ML模型,应该调整大量的超参数。调整超参数直接影响性能(准确性和运行时间)。然而,对于大规模搜索空间,有效地探索超参数的大量组合在计算上是具有挑战性的。现有的自动化超参数整定技术遭受高时间复杂度。在本文中,我们提出了HyP-ABC,一个自动创新的混合超参数优化算法,使用修改后的人工蜂群方法,来衡量三个ML算法,即随机森林,极端梯度提升,和支持向量机的分类精度。与最先进的技术相比,HyP-ABC更有效,并且需要调整的参数数量有限,因此值得用于现实世界的超参数优化问题。我们进一步比较我们提出的HyP-ABC算法与最先进的技术。为了保证算法的鲁棒性,该算法采用了大范围的可行超参数值,并使用真实世界的教育数据集进行了测试。
2021-09-11 cs.LG cs.NE
Strategy Accumulation and Guided Execution for Automated LLM Fine-Tuning
Fudan University(复旦大学);Ant Group(蚂蚁集团);Shanghai Jiaotong University(上海交通大学)
针对自动化微调系统无状态导致重复搜索的问题,提出SAGE两阶段框架,通过多智能体MCTS探索和蒸馏积累经验,在九个未见任务上将平均相对改进从3.2%提升至15.6%。
2026-09-22 cs.AI cs.CL cs.LG
LAPT: Label-driven Automated Prompt Tuning for OOD Detection with Vision-Language Models
The Hong Kong Polytechnic University(香港理工大学);OPPO Research Institute(OPPO研究院)
针对视觉语言模型OOD检测依赖手动提示工程的问题,提出仅需分布内类名即可自动构建提示、完成训练的LAPT框架,性能优于人工提示,还提升了分类准确率与泛化鲁棒性。
2024-07-12 cs.AI cs.CV cs.LG
SHED: Shapley-Based Automated Dataset Refinement for Instruction Fine-Tuning
University of Maryland(马里兰大学);Clemson University(克莱姆森大学);Rutgers University(罗格斯大学)
针对指令微调数据冗余问题,提出无需人工与商用LLM的基于沙普利值的自动化数据集精炼框架SHED,其选出的10%数据性能可比肩甚至超越全量数据,且具备跨模型迁移性。
2024-10-30 cs.CL cs.LG
Automated Algorithm Design for Auto-Tuning Optimizers
本文提出利用大语言模型自动生成适应自动调优问题的优化算法,通过问题描述和搜索空间特征提示模型,生成、测试并迭代改进专用优化器,在六个硬件平台上评估后,展示出30.7%和14.6%的性能提升,优于现有方法。
2026-03-31 cs.AI cs.LG cs.NE
ML-Powered Index Tuning: An Overview of Recent Progress and Open Challenges
Microsoft Research(微软研究院)
本文聚焦自动索引调优在云服务工作负载下的质量、可扩展性与性能回退挑战,综述了机器学习在工作负载选择、索引搜索加速等方向的进展,指出待填补空白并提出跨平台普及的初步设计。
2023-08-25 cs.AI cs.DB cs.LG
The Impact of Fine-tuning Large Language Models on Automated Program Repair
Simula Research Laboratory(Simula研究实验室);University of Bern(伯尔尼大学)
本文实证比较六种代码 LLM 在三个 APR 基准上的不微调、全量微调和 LoRA/IA3 参数高效微调,发现全量微调易因分布差异和过拟合降低性能,PEFT 效果更好。
2025-07-26 cs.AI cs.CL cs.LG
A Learning-based Approach Towards Automated Tuning of SSD Configurations
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
得益于成熟的制造技术,固态硬盘(SSD)可针对当今的应用进行高度定制,这为进一步提高其存储性能和资源利用率带来了机会。然而,SSD效率通常由许多硬件参数决定,这使得开发人员很难手动调整它们并确定最佳SSD配置。在本文中,我们提出了一个基于自动学习的框架,名为LearnedSSD,它利用监督和无监督机器学习(ML)技术来驱动SSD的硬件配置的调整。LearnedSSD使用其数据块I/O跟踪自动提取新工作负载的独特访问模式,将工作负载映射到以前的工作负载以利用学习到的经验,并根据验证的存储性能推荐最佳SSD配置。LearnedSSD通过自动化硬件参数配置和减少手动工作来加速新SSD设备的开发。我们开发的LearnedSSD具有简单而有效的学习算法,可以在多核CPU上高效运行。给定目标存储工作负载,我们的评估表明,LearnedSSD始终可以为目标工作负载提供最佳的SSD配置,并且此配置不会损害非目标工作负载的性能。
2021-10-17 cs.AR cs.LG cs.OS
LLM attribution analysis across different fine-tuning strategies and model scales for automated code compliance
Department of Civil and Environmental Engineering, National University of Singapore(新加坡国立大学土木与环境工程系);School of Transportation Science and Engineering, Harbin Institute of Technology(哈尔滨工业大学交通运输科学与工程学院);Research and Innovation, NovaCITYNETS Pte.Ltd.(NovaCITYNETS Pte.Ltd.研究与创新部)
本文通过扰动分析比较不同微调策略和模型规模下LLM的可解释行为,发现全微调产生更聚焦的属性模式,且模型规模增大时,LLM发展出优先考虑数值约束和规则标识符的策略,但语义相似度在7B以上模型中趋于平稳。
2026-04-16 cs.AI cs.CL cs.LG
The Order Matters: Sequential Fine-Tuning of LLaMA for Coherent Automated Essay Scoring
University of California, Irvine(加州大学伊文斯分校)
提出对LLaMA-3.1-8B进行任务感知的序列微调,按作文话语结构顺序训练,在PERSUADE 2.0语料上证据F1达65%、结论F1达87%,超越独立训练和70B基线,证明课程设计可提升自动作文评分性能。
2026-06-09 cs.CL cs.LG
Automated extraction of capacitive coupling for quantum dot systems
Intel Corporation(英特尔公司);National Institute of Standards and Technology(美国国家标准与技术研究院);University of Maryland(马里兰大学)
本文提出一种结合机器学习与传统拟合的自动化电容耦合识别方法,用于量子点器件中虚拟栅极的电容串扰补偿,并能自主标记调节过程中形成的寄生量子点,从而提升量子比特操作区间的调节可靠性。
2023-05-25 cond-mat.mes-hall cs.CV cs.LG
DOT: Dynamic Knob Selection and Online Sampling for Automated Database Tuning
Orange / Inria / Univ.\,Lille, France France;Inria / Univ.\,Lille / CNRS, France France;CNRS / Univ.\,Lille / Inria, France France;Univ.\,Lille / CNRS / Inria, France France;Orange / Inria / Univ.\,Lille, France;Inria / Univ.\,Lille / CNRS, France;CNRS / Univ.\,Lille / Inria, France;Univ.\,Lille / CNRS / Inria, France
DOT通过动态选择关键参数和在线采样,减少数据库调优的搜索空间,提升性能,同时降低调优开销。
2026-03-16 cs.AI cs.DB cs.LG
EZtune: A Package for Automated Hyperparameter Tuning in R
Dana-Farber Cancer Institute(丹娜-法伯癌症研究所);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
近年来,统计学习模型越来越受欢迎。这些模型中的许多模型都有超参数,必须调整这些参数才能使模型表现良好。调整这些参数并非易事。EZtune是一个带有简单用户界面的R包,可以调整支持向量机、adaboost、梯度提升机和弹性网络。我们首先简要总结了EZtune可以调整的模型,包括对每个超参数的讨论。然后,我们比较使用EZtune,插入符号和tidymodels的易用性。接下来是使用EZtune和tidymodels调整的模型的准确性和计算时间的比较。最后,我们演示了如何使用EZtune来帮助选择具有最佳预测能力的最终模型。我们的比较表明,EZtune可以调整支持向量机和梯度提升机与EZtune还提供了一个用户界面,易于使用的新手统计学习模型或R。
2023-03-03 cs.LG cs.MS stat.CO
Automated Scoring for Reading Comprehension via In-context BERT Tuning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Rice University(莱斯大学)
针对现有自动评分方法在阅读理解场景下无法利用题目关联、扩展性差的问题,提出上下文内BERT微调方法,构建单模型适配所有题目,在NAEP阅读理解自动评分挑战赛中获奖并验证了有效性。
2023-06-15 cs.AI cs.CY cs.LG
AutoLoRa: A Parameter-Free Automated Robust Fine-Tuning Framework
National University of Singapore(新加坡国立大学);University of Auckland(奥克兰大学);RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所高级智能项目中心)
针对现有鲁棒微调中梯度方向发散、对超参数敏感的问题,提出基于LoRa分支解耦的AutoLoRa框架,搭配自动学习率与损失标度启发式策略,无需调参即可将预训练特征提取器转为下游任务的对抗鲁棒模型,取得SOTA结果。
2023-10-03 cs.CR cs.LG
MANGO: A Python Library for Parallel Hyperparameter Tuning
Arm(安谋科技)
调整机器学习算法的超参数是一项繁琐的任务,通常是手动完成的。为了实现自动化的超参数调整,最近的工作已经开始使用基于贝叶斯优化的技术。然而,为了实际上实现大规模机器学习训练管道的自动调整,现有库中仍然存在显著的差距,包括缺乏抽象、容错和灵活性以支持任何分布式计算框架上的调度。为了解决这些挑战,我们提出了Mango,一个用于并行超参数调优的Python库。Mango支持使用任何分布式调度框架,实现智能并行搜索策略,并提供丰富的抽象来定义与scikit-learn兼容的复杂超参数搜索空间。Mango在性能上与另一个广泛使用的库Hyperopt相当。Mango是开源的,目前在Arm Research的生产中使用,以提供最先进的超参数调整功能。
2020-05-22 cs.LG stat.ML
FeederGAN: Synthetic Feeder Generation via Deep Graph Adversarial Nets
North Carolina State University(北卡罗来纳州立大学);Pacific Northwest National Lab(太平洋西北国家实验室);Texas A&M(德克萨斯农工大学)
本文提出了一种新的,自动化的,生成的对抗网络(GAN)的合成馈线生成机制,简称为馈线GAN。FeederGAN通过由GAN和图卷积网络(GCN)提供支持的深度学习框架来识别由有向图表示的真实馈线模型。从配电馈线电路的模型输入文件中提取配电馈线电路的信息,使得设备连接性被映射到邻接矩阵和设备特性上,诸如电路类型(即,3相、2相和1相)和组件属性(例如,长度和当前评级)被映射到属性矩阵上。然后,Wasserstein距离被用来优化的GAN和GCN被用来区分生成的图从实际的。提出了一种基于图论的贪婪算法,利用生成的邻接矩阵和属性矩阵对馈线进行重构。我们的研究结果表明,GAN生成的馈线类似于实际馈线的拓扑结构和属性验证的视觉检查和经验统计从实际配电馈线。
2020-09-16 cs.LG cs.SY eess.SY
Automated Instruction Revision (AIR): A Structured Comparison of Task Adaptation Strategies for LLM
Eleks Ltd.(Eleks有限公司);Ukrainian Catholic University(乌克兰天主教大学)
本文研究了基于规则归纳的自动化指令修订(AIR)方法,用于在有限任务特定示例下适应大语言模型。通过比较多种适应策略在不同基准测试中的表现,发现任务依赖性显著,无单一方法在所有情况下占优。
2026-04-10 cs.CL cs.LG
A hyperparameter-tuning approach to automated inverse planning
University of Washington(华盛顿大学)
放射治疗逆向计划通常需要计划者修改治疗计划系统的目标函数中的参数以产生临床上可接受的计划。由于此过程中的手动步骤,计划质量可能会根据可用的计划时间和计划员的技能而有所不同。本研究探讨两种自动逆规划的超参数调整方法。因为该框架不对先前优化的计划训练模型,所以它可以容易地适应实践模式的变化,并且计划质量不受训练群组的限制。我们选择了10例使用手动生成的临床计划接受肺SBRT的患者。我们使用随机抽样(RS)和贝叶斯优化(BO),使用基于11个临床目标的线性二次效用函数来调整参数。将所有计划标准化为PTV D95等于48 Gy,我们比较了自动生成和手动生成计划的计划质量。我们还研究了迭代次数对自动生成的计划的影响,比较了有和没有停止标准的RS和BO计划的计划时间和计划效用。在没有停止标准的情况下,RS和BO计划的规划时间中位数分别为1.9和2.3小时。RS和BO计划中的OAR剂量的中位百分比差异(MPD)分别为48.7%和60.4%,低于临床剂量限值,MPD分别为2.8%和3.3%,低于临床计划剂量。根据停止标准,RS和BO计划的效用分别降低了5.3%和3.9%的MPD,但中位计划时间缩短至0.5和0.7小时,OAR剂量的MPD仍比临床剂量限值低42.9%和49.7%,MPD比临床计划剂量低0.3%和1.8%。这项研究表明,自动逆向规划的超参数调整方法可以减少主动规划时间,计划质量类似于或…
2021-12-10 cs.LG physics.med-ph
Retrieval-Augmented Instruction Tuning for Automated Process Engineering Calculations : A Tool-Chaining Problem-Solving Framework with Attributable Reflection
TCS Research(塔塔咨询服务研究中心);IIIT Pune(印度信息技术学院浦那分校)
针对过程工程计算缺乏基础AI模型的问题,提出基于检索增强指令微调(RAIT)的自主智能体框架,结合小型代码语言模型与外部工具进行代码生成与调试,其性能媲美大规模专有模型且具成本效益。
2024-08-28 cs.AI cs.LG cs.SE
Enhancing Automated Program Repair through Fine-tuning and Prompt Engineering
BUET(孟加拉国工程技术大学);University of Notre Dame(圣母大学);University of Rochester(罗切斯特大学)
本研究探究大语言模型的编程语言与自然语言固有知识对自动化程序修复的提升作用,验证了微调预训练模型的效果优势,同时测试了提示工程方法的表现,指出大语言模型落地该场景仍有距离。
2023-07-21 cs.LG cs.SE
Automated Federated Pipeline for Parameter-Efficient Fine-Tuning of Large Language Models
School of Computer Science, Fudan University(复旦大学计算机科学学院);City University of Hong Kong(香港城市大学);University of Hong Kong(香港大学)
本文提出 FedPipe 自动化联邦流水线,通过贡献选权、低秩适配器训练聚合与按需参数量化,在资源异构边缘环境中低成本微调 LLM,且不增加推理延迟。
2024-12-06 cs.AI cs.LG
VDTuner: Automated Performance Tuning for Vector Data Management Systems
Nankai University(南开大学);Ant Group(蚂蚁集团)
针对向量数据管理系统现有自动调优方法的不足,本文提出基于多目标贝叶斯优化的VDTuner框架,无需先验知识即可平衡搜索速度与召回率,性能与调优效率均优于基线,还支持用户偏好与成本感知优化。
2024-04-16 cs.DB cs.LG cs.PF
Towards automated kernel selection in machine learning systems: A SYCL case study
Codeplay Software Ltd.
计算核的自动调整是一个热门的研究领域,主要集中在为具有固定输入大小的问题找到最佳核参数。这种方法适用于部署机器学习模型,其中网络拓扑是恒定的,但机器学习研究通常涉及改变网络拓扑和超参数。传统的内核自动调整在这种情况下影响有限;库需要更通用的内核选择来加速机器学习研究。在本文中,我们提出了使用机器学习选择内核的案例研究部署高性能SYCL内核库,目标范围从桌面GPU到嵌入式加速器的异构设备的初步结果。调查的技术适用于更普遍的,同样可以与其他异构编程系统集成。通过结合自动调优和机器学习,这些内核选择过程可以在开发人员很少的工作量下部署,从而在新硬件上实现高性能。
2020-03-15 cs.LG cs.PF stat.ML
Automated Tuning for Diffusion Inverse Problem Solvers without Generative Prior Retraining
Department of Electrical \& Computer Engineering, University of Minnesota, MN, USA;Center for Magnetic Resonance Research, University of Minnesota, MN, USA
提出零样本自适应扩散采样(ZADS)方法,通过测试时自监督优化数据保真权重,无需重训练扩散先验即可在任意噪声计划下实现高保真MRI重建。
2025-09-11 cs.AI cs.CV cs.LG
Adaptive Mixture Importance Sampling for Automated Ads Auction Tuning
Microsoft(微软公司)
本文提出AMIS框架,通过动态调整混合分布参数及混合率优化大规模推荐系统KPI,实验证明其在噪声环境中优于传统GIS并能可靠识别最优调优点。
2024-09-20 cs.LG stat.AP
Multi-Task LLM with LoRA Fine-Tuning for Automated Cancer Staging and Biomarker Extraction
Department of Industrial & Systems Engineering, The University of Tennessee, Knoxville(工业与系统工程系,田纳西大学, Knoxville)
本文提出一种参数高效、多任务框架,利用LoRA微调LLM实现乳腺癌TNM分期、组织学分级和生物标志物的自动化提取,实验显示其在宏F1分数上达到0.976,优于传统方法。
2026-04-14 cs.LG
On the Effect of Ruleset Tuning and Data Imbalance on Explainable Network Security Alert Classifications: a Case-Study on DeepCASE
Eindhoven University of Technology(埃因霍温理工大学)
本文以DeepCASE为例,研究标签不平衡对网络入侵告警分类性能及解释正确性的影响,发现调优SOC检测规则可显著减少不平衡,从而提升告警后处理方法的性能与可解释性。
2025-07-02 cs.CR cs.LG cs.NI
Exploiting Unsupervised Pre-training and Automated Feature Engineering for Low-resource Hate Speech Detection in Polish
Sigmoidal(Sigmoidal公司)
本文介绍了我们对PolEval 2019任务6的贡献:仇恨言论和欺凌检测。我们描述了我们遵循的三种并行方法:根据我们的分类任务微调预训练的ULMFiT模型,根据我们的分类任务微调预训练的BERT模型,以及使用TPOT库来找到最佳管道。我们提出了这三种工具所取得的成果,并审查其优点和缺点方面的用户体验。我们的团队在子任务2中排名第二,TPOT发现了一个浅层模型:一个具有非平凡特征工程的逻辑回归分类器。
2019-06-17 cs.CL cs.LG stat.ML
Machine Learning-Based Reward-Driven Tuning of Scanning Probe Microscopy: Towards Fully Automated Microscopy
University of Tennessee(田纳西大学);Oxford Instruments Asylum Research(牛津仪器庇护研究公司);Pacific Northwest National Laboratory(太平洋西北国家实验室);National Cheng Kung University(国立成功大学);University of Duisburg-Essen(杜伊斯堡-埃森大学)
本文提出一种奖励驱动的机器学习工作流程,通过编码物理与经验知识的奖励函数自动优化轻敲模式扫描探针显微镜参数,实现高质量成像并推动全自动SPM发展。
2024-12-25 cond-mat.mes-hall cond-mat.mtrl-sci cs.AI
Call2Instruct: Automated Pipeline for Generating Q&A Datasets from Call Center Recordings for LLM Fine-Tuning
Instituto de Informática – Universidade Federal de Goiás(信息技术学院 – 巴西戈亚州联邦大学)
本文提出Call2Instruct自动化流程,通过音频处理、文本处理和语义提取技术,从呼叫中心录音生成问答数据集,用于LLM微调。
2025-12-01 cs.AI cs.CL cs.HC
A Framework for Automated Cellular Network Tuning with Reinforcement Learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对始终发生的无线损害调整蜂窝网络性能可以显著提高最终用户的可靠性。在本文中,我们制定蜂窝网络性能调整作为一个强化学习(RL)的问题,并提供了一个解决方案,以提高室内和室外环境的性能。通过利用Q学习的能力来估计未来的性能改进回报,我们提出了两种算法:(1)用于LTE下行语音(VoLTE)的闭环功率控制(PC)和(2)自组织网络(SON)故障管理。VoLTE PC算法使用RL来调整室内基站发射功率,使得用户设备(UE)的信号与干扰加噪声比(SINR)满足目标SINR。它这样做,而UE不必发送功率控制请求。SON故障管理算法使用RL通过配置管理解决网络中的故障来提高室外基站集群的性能。这两种算法都利用来自连接用户的测量、无线损伤和相关配置参数来使用RL解决非凸性能优化问题。仿真结果表明,我们提出的基于RL的算法优于当今的行业标准,在现实的蜂窝通信环境。
2019-12-29 cs.LG cs.NI stat.ML
Enhancing Automated Essay Scoring With Three Techniques: Two-Stage Fine-Tuning, Score Alignment, and Self-Training
Electronics and Telecommunications Research Institute(电子电信研究院);Hankuk University of Foreign Studies(韩国外国语大学)
本研究通过两阶段微调、评分对齐和自训练三种技术提升自动作文评分性能,实现91.2%的完整数据表现。
2026-08-12 cs.CL cs.LG
A Robust BERT-Based Deep Learning Model for Automated Cancer Type Extraction from Unstructured Pathology Reports
University of New South Wales(新南威尔士大学);Garvan Institute of Medical Research(加文医学研究所);University of Sydney(悉尼大学);St Vincent’s Hospital(圣文森特医院)
本文提出基于微调RoBERTa的深度学习模型,从非结构化病理报告中自动提取癌症类型,F1_Bertscore达0.98、精确匹配率80.61%,显著优于基线模型和Mistral 7B,并展示了在精准肿瘤学流程中的可扩展性。
2025-08-21 cs.LG
The Parts Are Greater Than the Sum: Automated Task Sequencing for Efficient Training of Multi-Policy LLMs
该研究针对多策略大语言模型训练中共享优化空间的干扰问题,提出自动多策略PEFT框架,通过任务分组排序组织独立QLoRA路径,在TRACE基准取得44.78的最佳性能。
2026-08-03 cs.LG