Neural Network Tire Force Modeling for Automated Drifting
Stanford University(斯坦福大学)
本文提出神经网络轮胎力模型替代物理模型,用于自动漂移车辆控制,在非线性模型预测控制器中跟踪漂移轨迹,实验表明其在前轴制动时显著提升路径跟踪性能,能表达未建模的潜在动力学。
2024-07-18 cs.AI cs.SY eess.SY
Neural Automated Essay Scoring and Coherence Modeling for Adversarially Crafted Input
University of Cambridge(剑桥大学);The ALTA Institute(ALTA研究所)
我们证明,目前国家的最先进的方法,自动论文评分(AES)是不适合捕捉adversarially精心制作的输入语法,但不连贯的句子序列。我们开发了一个局部连贯性的神经模型,可以有效地学习句子之间的连接性特征,并提出了一个框架,用于将局部连贯性模型与最先进的AES模型集成并联合训练。我们根据一些基线评估了我们的方法,并通过实验证明了它在AES任务和标记对抗性输入任务上的有效性,进一步促进了一种增强神经论文评分模型有效性的方法的开发。
2020-04-30 cs.AI cs.CL
Sequence Search: Automated Sequence Design using Neural Architecture Search
Department of Electrical and Computer Engineering, Seoul National University(首尔国立大学电气与计算机工程系);Division of Computer Engineering, Hankuk University of Foreign Studies(翰林大学外国研究学院计算机工程系)
本文提出基于神经架构搜索的自动序列设计框架,通过可微Bloch模拟器和目标特定损失函数,生成满足设计目标的脉冲序列,无需传统序列结构的先验知识。
2026-04-16 cs.AI
An Interpretable Automated Mechanism Design Framework with Large Language Models
Carnegie Mellon University(卡内基梅隆大学);University of Adelaide(阿德莱德大学)
针对传统机制设计数学推导难自动化、神经网络方法可解释性有限的问题,提出将机制设计重构为代码生成任务的框架,利用大型语言模型生成启发式机制并优化,实现可解释且性能具竞争力的机制设计。
2025-02-16 cs.AI cs.GT cs.LG
Automated proof synthesis for propositional logic with deep neural networks
National Institute of Informatics(国立情报学研究所);Kyoto University(京都大学)
这项工作探索了深度学习的应用,深度学习是一种以深度神经网络(DNN)为核心的机器学习技术,它可以用于自动定理证明(ATP)问题。为此,我们构建了一个统计模型,量化的可能性,证明确实是一个正确的一个给定的命题。基于这个模型,我们给出了一个证明合成过程,搜索的顺序的可能性的证明。这个过程使用一个估计的可能性的推理规则被应用在每一步的证明。作为估计器的实现,我们提出了一个命题证明架构,这是一个DNN定制的自动证明合成问题。为了实证证明它的有用性,我们应用我们的模型来合成命题逻辑的证明。我们使用命题证明对的训练数据集训练命题证明模型。对基准集的评价显示了非常高的准确性和改进最近的工作的神经证明合成。
2018-05-30 cs.AI cs.LG cs.LO
EvoAAA: An evolutionary methodology for automated \neural autoencoder architecture search
Universidad de Jaén(哈恩大学)
当向机器学习模型提供策划的功能时,它们会更好地工作。特征工程方法通常被用作预处理步骤,以获得或构建合适的特征集。近年来,自编码器(一种特定类型的对称神经网络)已被广泛用于执行表示学习,证明了其与经典特征工程算法的竞争力。使用自动编码器的主要障碍是找到一个好的架构,这是大多数专家手动面对的过程。本文提出了一种基于进化方法的自动编码器结构搜索方法。该方法针对九个异构数据集进行了测试。所得到的结果表明,这种方法能够找到更好的架构,能够集中在一个最小化的编码,在减少的时间大部分有用的信息。
2023-01-15 cs.AI cs.LG cs.NE
Towards automated neural design: An open source, distributed neural architecture research framework
University of Macedonia(马其顿大学)
NORD(Neural Operations Research & Development)是一个开源的分布式深度学习架构研究框架,基于PyTorch、MPI和Horovod。它旨在使不同领域的专家更容易研究深度架构,以加快寻找更好架构的过程,并研究为不同数据集生成的最佳架构。虽然目前正在大力开发,但该框架旨在允许轻松实现不同的设计和优化方法系列(优化算法,元算法,强化学习等)。以及它们之间的公平比较。此外,由于优化和评估网络架构所需的计算资源,它利用了分布式计算的使用,同时旨在最大限度地减少研究人员实现它所需的开销。此外,它努力使架构的创建更加直观,通过实现网络描述符,允许单独定义架构的节点和连接。在本文中,我们提出了框架的发展现状,同时提出了它的基本概念,提供简单的例子,以及他们的实验结果。
2018-09-20 cs.AI cs.NE
Towards Automated Deep Learning: Efficient Joint Neural Architecture and Hyperparameter Search
University of Freiburg(弗莱堡大学)
虽然神经架构搜索(NAS)的现有工作在一个单独的后处理步骤中调整超参数,但我们证明了架构选择和其他超参数设置以一种可以使这种分离次优的方式相互作用。同样,我们证明了在主NAS期间使用非常少的时期和在后处理步骤期间使用大量时期的常见做法是低效的,因为这两种训练方案的相对排名几乎没有相关性。为了解决这两个问题,我们建议使用贝叶斯优化和Hyperband的最新组合,以实现高效的联合神经架构和超参数搜索。
2018-07-18 cs.AI cs.CV cs.LG
AutoGEL: An Automated Graph Neural Network with Explicit Link Information
The Hong Kong University of Science and Technology(香港科技大学)
最近,图神经网络(GNN)在各种现实世界的场景中越来越受欢迎。尽管取得了巨大的成功,但GNN的架构设计严重依赖于手工劳动。因此,自动图神经网络(AutoGNN)引起了研究界的兴趣和关注,近年来取得了显着的性能改善。然而,现有的AutoGNN工作主要采用隐式的方式来建模和利用图中的链接信息,这对于图上的链接预测任务没有很好的正则化,并且限制了AutoGNN对其他图任务的性能。在本文中,我们提出了一种新的AutoGNN工作,明确建模的链接信息,简称AutoGEL。通过这种方式,AutoGEL可以处理链接预测任务,并提高AutoGNN在节点分类和图分类任务上的性能。具体而言,AutoGEL提出了一种新的搜索空间,包含层内和层间设计的各种设计维度,并采用了更强大的可微搜索算法,以进一步提高效率和有效性。在基准数据集上的实验结果证明了AutoGEL在多个任务上的优越性。
2021-12-02 cs.AI cs.LG
Automated Scoring of Graphical Open-Ended Responses Using Artificial Neural Networks
Boston College(波士顿学院)
免费绘画或图像作为响应的自动评分尚未用于大规模的学生成绩评估。在这项研究中,我们提出了人工神经网络来分类这些类型的图形反应,从基于计算机的国际数学和科学评估。我们正在比较卷积和前馈方法的分类精度。我们的研究结果表明,卷积神经网络(CNN)在损失和准确性方面都优于前馈神经网络。CNN模型将高达97.71%的图像响应分类到适当的评分类别中,这与典型的人类评分员相当,如果不是更准确的话。最准确的CNN模型正确地分类了一些被人类评分员错误评分的图像反应,这一观察结果进一步加强了这些发现。作为一个额外的创新,我们概述了一种方法来选择人类额定响应的训练样本的基础上的应用程序的预期响应函数来自项目响应理论。本文认为,基于CNN的图像响应自动评分是一种高度准确的程序,可以替代第二个人类评分员进行大规模评估的工作量和成本,同时提高复杂构建响应项目评分的有效性和可比性。
2022-01-05 cs.AI cs.CV cs.LG
Automated Polynomial Filter Learning for Graph Neural Networks
Tongji University(同济大学);North Carolina State University(北卡罗来纳州立大学)
针对多项式图滤波器自适应学习中的严重过拟合问题,提出通用自动化框架 Auto-Polynomial,在不同标签比例下同配与异配图上均获得稳定显著提升。
2023-07-16 cs.AI cs.LG
EnCLAP: Combining Neural Audio Codec and Audio-Text Joint Embedding for Automated Audio Captioning
MAUM AI Inc.(MAUM AI公司);Seoul National University(首尔大学);Soongsil University(崇实大学)
本研究提出自动音频字幕生成框架EnCLAP,结合EnCodec、CLAP与预训练模型BART,通过掩码编解码器建模提升声学感知,在AudioCaps和Clotho数据集上性能优于基线,并开源代码与演示。
2024-01-31 cs.AI cs.SD eess.AS
Automated Detection of Acute Lymphoblastic Leukemia Subtypes from Microscopic Blood Smear Images using Deep Neural Networks
City University(城市大学)
据估计,每年有30万例新的白血病病例被诊断出来,占所有新癌症病例的2.8%,而且患病率正在日益上升。最危险和致命的白血病类型是急性淋巴细胞白血病(ALL),它影响所有年龄组的人,包括儿童和成人。在这项研究中,我们提出了一个自动化系统,使用深度神经网络(DNN)从显微镜血液涂片图像中检测各种形状的ALL原始细胞。该系统可以以98%的准确率检测ALL细胞的多种亚型。此外,我们已经开发了一个远程诊断软件,提供实时支持,以诊断所有亚型从显微镜血涂片图像。
2022-07-30 cs.AI cs.CV cs.LG
Automated Search-Space Generation Neural Architecture Search
Microsoft(微软)
针对现有神经架构搜索依赖手工构建搜索空间、需大量人工干预的问题,提出ASGNAS方法,可自动生成搜索空间、通过H2SPG算法优化并构建子网络,在多个网络和基准数据集上取得了有竞争力甚至更优的性能。
2023-10-05 cs.AI cs.CV cs.LG
Evolution and Efficiency in Neural Architecture Search: Bridging the Gap Between Expert Design and Automated Optimization
Northwestern University(西北大学)
本文系统综述了神经架构搜索从人工设计到自动化优化的演进历程,重点分析了强化学习、进化算法及可微分架构搜索等高效方法,并探讨其在多领域的应用与未来挑战。
2024-04-02 cs.AI cs.NE
An Ensemble Approach for Automated Theorem Proving Based on Efficient Name Invariant Graph Neural Representations
IBM Research(IBM研究院)
本文提出NIAGRA,一种基于名称不变图神经表示的集成方法,用于自动定理证明,通过改进图神经网络和高效集成,在多个数据集上达到最先进性能,迁移学习提升高达28%。
2023-05-15 cs.AI cs.LO
AutoSTF: Decoupled Neural Architecture Search for Cost-Effective Automated Spatio-Temporal Forecasting
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
针对自动化时空预测中神经架构搜索开销高的问题,本文提出解耦框架 AutoSTF,通过时空搜索空间分离、表示压缩、参数共享及多块迁移提升效率与精度。
2025-01-08 cs.AI cs.LG
Automated Discovery of Conservation Laws via Hybrid Neural ODE-Transformers
Independent Researcher(独立研究者)
提出一种混合Neural ODE-Transformer框架,通过学习系统动力学、生成符号候选不变量并进行符号-数值验证,从噪声轨迹数据中自动发现守恒量,显著优于基线方法。
2025-10-30 cs.AI cs.LG
Formal Reasoning About Confidence and Automated Verification of Neural Networks
Indian Institute of Technology Bombay(印度理工学院孟买分校);TCS Research(塔塔咨询服务公司研究院);CNRS(法国国家科学研究中心)
本文提出了一种通用框架,用于在神经网络中正式推理置信度与鲁棒性,通过添加额外层实现统一验证,实验表明其优于传统方法。
2026-02-14 cs.AI cs.CV cs.LO
EmotionGIF-IITP-AINLPML: Ensemble-based Automated Deep Neural System for predicting category(ies) of a GIF response
National Institute of Technology, Durgapur(杜尔加布尔国家技术学院);Indian Institute of Technology Patna(印度理工学院巴特那分校)
在本文中,我们描述了我们的IITP-AINLPML团队在SocialNLP 2020的共享任务中提交的系统,该任务是预测给定未标记推文的GIF响应的类别。对于任务的第一轮阶段,我们提出了一个基于注意力的双向GRU网络,该网络在tweet(文本)及其回复(文本)以及给定的GIF响应类别上进行训练。在第二轮阶段,我们为任务构建了几个基于深度神经的分类器,并通过基于多数投票的集成技术报告最终预测。我们提出的模型在第1轮和第2轮分别获得了52.92%和53.80%的最佳平均召回(MR)分数。
2020-12-23 cs.AI cs.CL
Towards Selection and Transition Between Behavior-Based Neural Networks for Automated Driving
TU Clausthal(克劳斯塔尔工业大学);Institute for Software and System Engineering(软件与系统工程研究所)
提出一种行为选择器,利用多个小型ANN管理不同驾驶任务并动态切换,解决了端到端系统复杂难懂的问题,在AirSim中验证了其能确保行为平滑过渡并提升稳定性与安全性。
2024-12-21 cs.AI cs.RO
Rubric-Specific Approach to Automated Essay Scoring with Augmentation Training
Databank, Inc.(Databank公司)
本文提出基于评分细则的数据增强训练方法,使自动作文评分模型学习被忽略的特征,并在ASAP数据集上保持最先进性能。
2023-09-06 cs.AI cs.CL
The effects of data size on Automated Essay Scoring engines
我们研究了数据大小和质量对自动论文评分(AES)引擎性能的影响,这些引擎是根据三种不同的范式设计的;频率和手工制作的基于特征的模型,递归神经网络模型和预训练的基于transformer的语言模型,该模型经过微调用于分类。我们期望每种类型的模型以非常不同的方式从训练数据的大小和质量中受益。为AES引擎开发训练数据的标准实践是在考虑基于特征的方法的情况下建立的,然而,由于神经网络越来越多地被考虑用于生产环境,因此这项工作旨在告知我们如何为将用于生产的神经网络建立更好的训练数据。
2021-08-30 cs.AI cs.CL
Event Representations for Automated Story Generation with Deep Neural Nets
Georgia Institute of Technology(佐治亚理工学院)
自动故事生成是自动选择可以作为故事讲述的事件、动作或词语的序列的问题。我们试图开发一个系统,可以通过学习它需要知道的一切从文本故事语料库生成的故事。迄今为止,在字符、单词或句子层面学习语言模型的递归神经网络在生成连贯的故事方面几乎没有成功。我们探讨的问题,提供了一个中等水平的抽象之间的单词和句子,以保留原始数据的语义信息,同时最大限度地减少事件稀疏的事件表示。我们提出了一种技术,用于将文本故事数据预处理成事件序列。然后,我们提出了一种技术,自动生成的故事,我们分解成连续的事件(event2event)和自然语言句子的事件(event2sentence)的生成问题。我们给出了实证结果,比较了不同的事件表示及其对事件后继生成和事件到自然语言的翻译的影响。
2017-09-12 cs.AI cs.CL cs.LG
An Automated Compatibility Prediction Engine using DISC Theory Based Classification and Neural Networks
VIT Chennai(韦洛尔理工大学金奈校区)
传统上,心理测量测试被用来分析新来的工人。这些方法使用DISC分析方法将人分为不同的人格类型,这些类型进一步用于预测一个人是否可能适合组织文化。通过引入一种新的技术来预测一对特定的即将到来的工人和被分配的经理在心理尺度上是否相容,进一步扩展了这一概念。这是使用多层感知器神经网络,它可以自适应地训练,以展示兼容性指数的真实性质。所提出的原型模型用于量化相关属性,使用它们来训练预测引擎,并定义所需的数据管道。
2017-09-02 cs.AI cs.NE
An Automated SQL Query Grading System Using An Attention-Based Convolutional Neural Network
Marist College(玛丽斯特学院);Baylor University(贝勒大学)
针对SQL查询评分耗时繁琐的问题,本文提出一种基于注意力卷积神经网络的自动化评分方法,通过参数共享的独特架构生成多类知识表示,提升SQL语句理解能力,弥补现有系统的不足。
2024-06-22 cs.AI cs.CY cs.DB
A Graph Neural Network Approach to Automated Model Building in Cryo-EM Maps
MRC Laboratory of Molecular Biology(MRC分子生物学实验室)
电子冷冻显微镜(冷冻电子显微镜)产生生物大分子(包括蛋白质)静电势的三维(3D)图。连同关于成像分子的知识,冷冻电子显微镜图允许从头原子建模,这通常通过费力的手动过程来完成。从机器学习应用于蛋白质结构预测的最新进展中获得灵感,我们提出了一种图神经网络(GNN)方法,用于在冷冻电子显微镜图谱中自动构建蛋白质模型。GNN作用于一个图,其中节点分配给单个氨基酸,边表示蛋白质链。结合来自基于体素的冷冻电子显微镜数据的信息、氨基酸序列数据和关于蛋白质几何形状的先验知识,GNN细化蛋白质链的几何形状并对其每个节点的氨基酸进行分类。应用到28个测试案例表明,我们的方法优于国家的最先进的和近似的冷冻电子显微镜地图的分辨率优于3.5 μ m的手动建设。
2023-02-08 cs.AI cs.LG q-bio.BM
Diagnostics for Deep Neural Networks with Automated Copy/Paste Attacks
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
针对深度神经网络可解释监督难的问题,提出全自动发现复制/粘贴对抗攻击的SNAFUE方法,用其对ImageNet分类器红队测试,复现已有攻击并发现数百个新漏洞,全程无需人工参与。
2023-05-05 cs.AI cs.CR cs.LG
Automated Skin Lesion Classification Using Ensemble of Deep Neural Networks in ISIC 2018: Skin Lesion Analysis Towards Melanoma Detection Challenge
在本文中,我们广泛研究了基于不同深度学习的方法来检测黑色素瘤和皮肤病变癌症。黑色素瘤是一种恶性皮肤癌,对健康威胁很大。在早期阶段正确诊断黑色素瘤对于完全治愈的成功率至关重要。皮肤癌的良性和恶性形式的皮肤镜图像可以通过计算机视觉系统进行分析,以简化皮肤癌检测的过程。在这项研究中,我们实验了各种神经网络,这些网络采用了最近的基于深度学习的模型,如PNASNet-5-Large,InceptionResNetV 2,SENet 154,InceptionV 4。皮肤镜图像在输入网络之前会经过适当的处理和增强。我们在国际皮肤成像合作组织(ISIC)2018挑战数据集上测试了我们的方法。我们的系统在PNASNet-5-Large模型中获得了0.76的最佳验证分数。进一步改进和优化所提出的方法,更大的训练数据集和精心选择的超参数可以提高性能。代码可在https://github.com/miltonbd/ISIC_2018_classification下载
2019-01-30 cs.AI cs.CV
A New Approach to Automated Epileptic Diagnosis Using EEG and Probabilistic Neural Network
Texas Tech University(德州理工大学)
癫痫是最常见的神经系统疾病之一,严重影响患者的日常生活。传统的癫痫诊断依赖于神经科医生从冗长的EEG记录中进行繁琐的视觉筛选,需要癫痫发作(发作)活动的存在。现在,有许多系统可以帮助神经科医生通过自动癫痫发作检测快速找到长信号的有趣片段。然而,我们注意到,这是非常困难的,如果不是不可能的,以获得长期的癫痫患者的癫痫发作活动的EEG数据的地区缺乏医疗资源和训练有素的神经科医生。因此,我们建议使用发作间期EEG数据来研究自动癫痫诊断,这比发作数据更容易收集。作者尚未发现任何关于自动脑电图诊断系统能够准确区分患者发作间期脑电图和正常人脑电图的报道。因此,本文提出的研究旨在开发一种自动诊断系统,该系统可以使用发作间期EEG数据来诊断患者是否患有癫痫。这种系统还应检测癫痫发作活动,以便医生进一步调查和潜在的病人监测。为了开发这样一个系统,我们从EEG数据中提取四类特征,并建立一个概率神经网络(PNN)与这些功能美联储。留一交叉验证(LOO-CV)在一个广泛使用的癫痫正常数据集反映了令人印象深刻的99.5%的准确率,我们的系统区分正常人的EEG患者的发作间期EEG。我们还发现我们的系统可以用于患者监护(癫痫发作检测)和癫痫发作病灶定位,在数据集上的准确率分别为96.7%和77.5%。
2008-07-05 cs.AI cs.CV
Two-Steps Neural Networks for an Automated Cerebrovascular Landmark Detection
Institut du Thorax(胸科研究所);Polytech(理工学院);CHU Angers(昂热大学医院)
本文提出一种两步神经网络方法,先检测感兴趣区域再用带深度监督的改进U-Net精确定位威利斯环分叉,在内部和公共MRA数据集上取得最优分叉检测性能。
2025-07-03 cs.AI cs.CV
AutoGraph: Automated Graph Neural Network
The Chinese University of Hong Kong(香港中文大学);Lenovo Machine Intelligence Center(联想机器智能中心)
图在许多应用中起着重要的作用。最近,图神经网络(GNNs)在图分析任务中取得了可喜的成果。已经提出了一些最先进的GNN模型,例如,图卷积网络(GCN)、图注意力网络(GAT)等。尽管取得了这些成功,但大多数GNN只有浅层结构。这导致了GNN的低表达能力。为了充分利用深度神经网络的能力,最近已经提出了一些深度GNN。然而,深度GNN的设计需要大量的架构工程。在这项工作中,我们提出了一种自动化深度GNNs设计的方法。在我们提出的方法中,我们向GNNs搜索空间添加了一种新型的跳过连接,以鼓励特征重用并缓解消失梯度问题。我们还允许我们的进化算法在进化过程中增加GNN的层数,以生成更深的网络。我们在图节点分类任务中评估我们的方法。实验结果表明,该方法生成的GNN在Cora、Citeseer、Pubmed和PPI数据集上都能获得最佳结果。
2020-11-23 cs.AI cs.LG cs.SI
CathAI: Fully Automated Interpretation of Coronary Angiograms Using Neural Networks
冠心病(CHD)是美国和世界范围内成人死亡的主要原因,冠状动脉造影术是诊断和临床管理决策的主要途径。冠状动脉血管造影片解读的标准治疗取决于医生操作员的专门目视评估。然而,血管造影片的特别视觉解释可重复性差、高度可变且易于偏倚。在这里,我们第一次展示了使用一系列深度神经网络算法来估计冠状动脉狭窄的全自动血管造影片解释是可能的。我们开发的算法流水线-称为CathAI-在完成自动解释真实世界血管造影片所需的一系列任务中实现了最先进的性能。CathAI(算法1-2)显示出阳性预测值、灵敏度和F1评分>=90%,以识别总体投影角度,并且>=93%用于左或右冠状动脉血管造影检测(主要感兴趣解剖结构)。为了预测阻塞性冠状动脉狭窄(>=70%狭窄),CathAI(算法4)显示出0.862(95% CI:0.843-0.880)的受试者工作特征曲线下面积(AUC)。当在另一个国家的医疗保健系统中进行外部验证时,CathAI AUC为0.869(95% CI:0.830-0.907),可预测阻塞性冠状动脉狭窄。我们的研究结果表明,多个专用的神经网络可以依次运行,以完成自动分析真实世界血管造影片所需的一系列复杂任务。CathAI的部署可能有助于提高冠状动脉狭窄评估的标准化和再现性,同时为完成算法血管造影解释的未来任务提供坚实的基础。
2021-06-14 cs.AI cs.CV cs.LG
Combinatorial Optimization with Automated Graph Neural Networks
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);Hangzhou Yugu Technology Co., Ltd(杭州宇谷科技有限公司);Zhejiang University(浙江大学);Guangzhou University(广州大学);Zhejiang Lab(之江实验室)
本文提出AutoGNP,通过图神经架构搜索自动设计用于求解混合整数线性规划和二次无约束二值优化等NP难组合优化问题的GNN,并利用两跳算子、模拟退火和严格早停策略避免局部最优,在基准问题上表现优越。
2024-06-10 cs.AI cs.LG
Automated Neural Patent Landscaping in the Small Data Regime
Florida International University(佛罗里达国际大学);Knight Foundation School of Computing and Information Sciences(奈特基金会计算与信息科学学院)
针对小数据下专利态势分析标注成本高的问题,提出结合种子/反种子方法与主动学习结合的神经专利态势分析系统,性能提升显著,性能提升显著,构建了新数据集并开源代码数据。
2024-07-10 cs.AI cs.CL cs.IR
Automated flow for compressing convolution neural networks for efficient edge-computation with FPGA
LeapMind, Inc.(LeapMind 公司)
基于深度卷积神经网络(CNN)的解决方案是计算机视觉任务的当前最先进技术。由于这些模型的尺寸很大,它们通常在CPU或GPU集群上运行。然而,功率要求和成本预算可能是物联网应用采用CNN的主要障碍。最近的研究强调,CNN在其结构中包含显著的冗余,并且可以量化以降低位宽参数和激活,同时保持可接受的精度。由于二进制化CNN中涉及的逐位逻辑运算,低位宽尤其是单位宽(二进制)CNN特别适合于基于FPGA实现的移动应用。此外,向较低位宽的过渡为性能优化和模型改进开辟了新的途径。在本文中,我们提出了一个自动流程,从训练的TensorFlow模型到FPGA片上系统实现二值化CNN。该流程涉及模型参数和激活的量化,嵌入式C中网络和模型的生成,然后自动生成用于二进制卷积的FPGA加速器。通过在低成本、低功耗的Cyclone-V FPGA器件上实现二进制化的“YOLOV 2”来演示自动化流程。使用二值化YOLOV 2的目标检测实验表明,与CPU和移动CPU平台相比,FPGA上的模型大小和推理速度具有显着的性能优势。此外,从训练模型到FPGA合成的整个自动化流程可以在一小时内完成。
2017-12-18 cs.AI cs.AR cs.NE
LaF: Labeling-Free Model Selection for Automated Deep Neural Network Reusing
University of Luxembourg(卢森堡大学);Luxembourg Institute of Science and Technology(卢森堡科学技术研究院);Singapore Management University(新加坡管理大学)
将深度学习应用于科学领域是近年来的一个新趋势,这使得深度学习工程成为一个重要的问题。虽然训练数据准备、模型结构设计和模型训练是建立深度学习模型的常规过程,但这些过程都是复杂和昂贵的。因此,重用开源的预训练模型是开发人员绕过这一障碍的实用方法。给定一个特定的任务,开发人员可以从公共资源中收集大量预先训练好的深度神经网络,以供重用。然而,测试性能(例如,准确性和鲁棒性),并推荐应该使用哪个模型是具有挑战性的,因为标记数据的稀缺性和对领域专业知识的需求。在本文中,我们提出了一个无标签(LaF)的模型选择方法,以克服标签的自动化模型重用工作的局限性。其主要思想是统计学习贝叶斯模型,仅根据预测的标签来推断模型的专业性。我们使用9个基准数据集(包括图像、文本和源代码)和165个DNN来评估LaF,同时考虑模型的准确性和鲁棒性。实验结果表明,LaF优于基线方法高达0.74和0.53斯皮尔曼的相关性和肯德尔的$τ$,分别。
2023-01-20 cs.AI cs.LG cs.SE
Automated Reasoning for Vulnerability Management by Design
Department of Computer Science, University of Oxford(牛津大学计算机科学系);IRIT, CNRS, UT2(IRIT、CNRS、UT2)
本文提出一种基于形式化基础的自动化推理机制,集成于开源安全设计工具,用于系统性地识别漏洞、指定缓解选项并管理系统设计的漏洞态势。
2025-07-08 cs.AI cs.CR cs.LO
Automated pulmonary nodule detection using 3D deep convolutional neural networks
University of California, Irvine(加州大学欧文分校);University of California, Irvine School of Medicine(加州大学欧文分校医学院)
在计算机断层扫描(CT)图像中早期发现肺结节对于肺癌患者的成功结局至关重要。人们对基于深度卷积神经网络(DCNN)的方法给予了很大的关注,但模型至少部分依赖于固有3D数据的2D或2.5D组件。在本文中,我们介绍了一种新的DCNN方法,包括两个阶段,即完全三维端到端,并利用最先进的目标检测。首先,使用U-Net启发的3D Faster R-CNN识别结节候选者,该3D Faster R-CNN使用在线硬否定挖掘进行训练。其次,通过在候选人筛选期间产生的困难示例上训练的3D DCNN分类器来执行假阳性减少。最后,我们介绍了一种方法,从两个阶段通过共识集成模型,给出最终的预测。通过使用这个框架,我们在阿里巴巴2017年天池医疗AI竞赛第一季的2887支队伍中排名第一。
2019-03-23 cs.AI cs.CV cs.LG