Grey-box models for wave loading prediction
University of Sheffield(谢菲尔德大学);Ramboll Energy(拉姆博尔能源公司)
海上结构物和部件上波浪载荷的量化是评估其剩余使用寿命的关键因素。在许多应用中,著名的Morison方程被用来估计来自具有假定质点速度和加速度的波的强迫。本文提出了一种灰箱建模方法,以提高预测的力对结构构件。灰箱模型旨在利用基于数据的建模的增强预测能力,同时保留对系统行为的物理洞察力;在这里进行的工作的背景下,这可以被视为物理信息机器学习。有许多可能的方法来建立灰箱模型。本文演示了两种结合物理(白盒)和基于数据(黑盒)的组件的方法;一种是模型是两个组件的简单求和,第二种是将白盒预测作为额外的输入馈送到黑盒中。在这里,Morison方程被用作基于物理的组件,并结合基于数据的高斯过程NARX -一种更知名的高斯过程回归的动态变体。采用GP-NARX制定,这里解决的两个关键挑战是选择适当的滞后项和正确处理的动态GP内的不确定性传播。表现最好的灰盒模型,残差建模GP-NARX,能够实现29.13%和5.48%的相对减少NMSE在莫里森的方程和黑箱GP-NARX分别,以及显着的好处外推能力的模型,在低数据集覆盖率的情况下。
2021-06-30 cs.LG eess.SP physics.flu-dyn
Grey-box Adversarial Attack And Defence For Sentiment Classification
IBM Research(IBM研究院);University of Melbourne(墨尔本大学)
我们介绍了一个灰盒对抗攻击和防御框架的情绪分类。我们在一个统一的框架中解决了对抗攻击和防御的可微性,标签保存和输入重建问题。我们的研究结果表明,一旦经过训练,攻击模型能够比最先进的攻击方法更快地生成高质量的对抗性示例(时间上少一个数量级)。这些例子还根据人类评价保留了原始情感。此外,我们的框架产生了一个改进的分类器,是强大的防御多种对抗性攻击方法。代码可从以下网址获得:https://github.com/ibm-aur-nlp/adv-def-text-dist。
2021-03-22 cs.AI cs.CL cs.LG
Variational Grey-Box Dynamics Matching
University of Geneva(日内瓦大学);HES-SO Geneva(日内瓦HES-SO)
本文提出一种灰盒方法,将不完整物理模型直接整合到生成模型中,通过变分分布学习动态,无需真实物理参数,在无模拟环境下实现可解释性与性能的平衡。
2026-04-25 cs.LG
From Grey-Box to Green-Box: When can Physics-Informed Machine Learning Reduce Carbon Footprints in Structural Health Monitoring?
University of Sheffield(谢菲尔德大学)
本研究在结构健康监测中评估四种物理信息机器学习方法,发现多数方法相比黑盒模型能减少训练碳排放,但需权衡模型复杂度与数据需求。
2026-11-05 cs.LG
Grey-box Bayesian Optimization for Sensor Placement in Assisted Living Environments
University of Alberta(阿尔伯塔大学)
提出基于灰盒贝叶斯优化的样本高效方法,融合活动空间分布的领域知识进行传感器放置优化,在真实和模拟环境中以更少的函数查询实现更优的活动识别。
2023-09-11 cs.AI cs.HC cs.LG
Malware Evasion Attack and Defense
McAfee(迈克菲)
机器学习(ML)分类器容易受到对抗性样本的影响。一个对抗性的例子是一个输入样本,它被稍微修改以在ML分类器中引起错误分类。在这项工作中,我们调查白盒和灰盒规避攻击ML为基础的恶意软件检测器,并在现实世界中进行性能评估。我们比较了防御方法在减轻攻击。我们提出了一个框架,部署灰盒和黑盒攻击的恶意软件检测系统。
2019-04-16 cs.CR cs.LG stat.ML
A comparison between black-, grey- and white-box modeling for the bidirectional Raman amplifier optimization
Technical University of Denmark(丹麦技术大学);Politecnico di Torino(都灵理工大学)
本文比较了白盒、灰盒和黑盒模型在优化双向分布式拉曼放大器以实现目标功率分布时的性能,发现三类方法均可在80公里C波段实现1至3.6 dB的平坦度,并分析了各自在灵活性、优化速度和数据需求上的适用性。
2024-07-31 cs.CE cs.LG physics.app-ph
Bayesian grey-box identification of nonlinear convection effects in heat transfer dynamics
TU Eindhoven(埃因霍温理工大学);Sioux Technologies B.V.(苏克斯技术公司);Sheffield University(谢菲尔德大学)
本研究提出一种基于高斯过程潜势模型的贝叶斯灰箱计算流程,融合已知物理白箱与高斯过程黑箱,通过贝叶斯平滑、拉普拉斯方法与回归模型辨识传热非线性对流,经模拟与实测数据验证有效。
2024-07-09 cs.CE cs.LG cs.SY
From SIR to SEAIRD: a novel data-driven modeling approach based on the Grey-box System Theory to predict the dynamics of COVID-19
Univ. Lille(里尔大学)
COVID-19的常见房室模型基于先验知识和许多假设。此外,它们没有系统地纳入无症状病例。我们的研究旨在为数据驱动的方法提供一个框架,通过利用灰箱系统理论或灰箱识别的优势,以其在部分,不完整或不确定数据下解决问题的鲁棒性而闻名。从一个开放源数据库中提取的确诊病例和死亡病例的经验数据被用于开发SEAIRD分区模型。已作出调整,以配合当前对COVID-19行为的了解。使用常微分方程求解器和优化工具实现和求解该模型。应用交叉验证技术,计算决定系数$R^2$,以评价模型的拟合优度。%的数据。最后估计了关键的流行病学参数,为SEAIRD模型的构建提供了理论依据。当适用于巴西的情况下,SEAIRD产生了一个很好的协议的数据,与%系数的决定$R^2$ $\geq 90\%$。COVID-19传播的概率普遍较高($\geq 95\%$)。根据20天的建模数据,巴西和法国的COVID-19发病率低至每10万暴露者3例感染病例。在同一时间段内,COVID-19的致死率在法国最高(16. 4\%),其次是巴西(6. 9\%),俄罗斯最低($\leq 1\%$)。SEAIRD代表了在动态稳定阶段建模传染病的资产,特别是对于病理生理学知识非常有限的新病毒。
2021-05-29 cs.LG stat.AP
Digital Twin for Grey Box modeling of Multistory residential building thermal dynamics
Kaunas University of Technology(考纳斯理工大学);Frederick University(弗雷德里克大学);Linkoping University(林雪平大学)
本研究提出一种集成实时物联网数据与3D建筑表示的数字孪生架构,实现建筑热动力学的灰盒建模,并通过案例验证,支持供暖能源优化决策。
2024-02-05 cs.LG stat.AP
On the Implementation of a Bayesian Optimization Framework for Interconnected Systems
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文针对互联系统提出并详细实现了灰箱贝叶斯优化框架BOIS,通过自适应线性化获得复合函数统计矩的解析表达式,在化学过程优化与设计案例中表现优于或持平现有方法且计算成本更低。
2025-01-01 cs.LG stat.ML
Explainable data-driven modeling via mixture of experts: towards effective blending of grey and black-box models
Eindhoven University of Technology(埃因霍温理工大学)
针对第一性原理模型精度不足、机器学习模型可解释性差且难以平衡精度与复杂度的问题,提出基于混合专家的可解释建模框架,融合多类局部模型与先验知识,支持独立训练与多种学习范式,经惩罚突变提升可解释性,实验验证其能生成契合目标的可解释模型组合。
2024-01-30 cs.LG cs.SY eess.SY
Gaussian Processes for Analyzing Positioned Trajectories in Sports
Ericsson AB(爱立信公司);Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
近年来,基于核的机器学习方法在探索和建模大数据集方面越来越受到关注。高斯过程(GP)是这种基于核的方法的一个例子,它可以为非线性建模问题提供非常好的性能。在这项工作中,我们首先提出了一个灰箱建模方法来分析越野滑雪比赛中的力量。更准确地说,一组有纪律的动力学运动模型公式与数据驱动的高斯过程回归模型相结合,该模型考虑了系统中的所有未知因素。然后,提出了一种建模方法来分析滑雪者的个人和集群的动力流。所提出的方法通常可以应用于定位轨迹和动力学测量可用的用例。所提出的方法进行了评估,使用收集的数据从法伦北欧世界滑雪锦标赛2015年,特别是男子越野$4\times10$公里接力。对越野滑雪比赛中的受力进行了分析和比较。速度模型的滑雪运动员在不同的比赛阶段进行了评估。最后,对灰箱法和黑箱法进行了比较,灰箱法可以将预测不确定度降低$30\%$到$40\%$。
2019-07-05 cs.LG eess.SP stat.ML
Agentic Calibration of Grey-Box Simulation Models: An LLM-Driven Alternative
Catalan Institute of Oncology-IDIBELL(加泰罗尼亚肿瘤研究所-IDIBELL);Autonomous University of Barcelona(巴塞罗那自治大学);Centro de Investigación Biomédica en Red de Epidemiología y Salud Pública(国家公共卫生与流行病学网络生物医学研究中心);Artificial Intelligence Research Institute, IIIA-CSIC(人工智能研究所,西班牙科学研究委员会-人工智能研究所)
研究灰箱仿真模型校准问题,提出用大语言模型作优化器的智能校准方法,在肛门癌仿真模型上评估,结果表明该方法在减少模型评估次数上有优势,虽迭代推理时间增加,但可审计和解释,适用于仿真时间占主导的情况。
2026-07-22 cs.AI cs.LG
Green Physics-Informed Machine Learning Models For Structural Health Monitoring
University of Sheffield(谢菲尔德大学)
本文通过绿色视角比较黑盒与灰盒模型,探讨灰盒模型的高外推性能如何降低运行时间和碳排放,提出低计算成本的物理信息模型。
2026-10-30 cs.LG
Grey-informed neural network for time-series forecasting
School of Communication, Qufu Normal University(曲阜师范大学传媒学院);School of Computer Science and Information Engineering, Chuzhou Univeristy(滁州学院计算机科学与信息工程学院)
针对神经网络黑箱性强且依赖大量数据的问题,提出融合灰色系统微分方程与先验知识的GINN,以提升可解释性并实现小样本时间序列可靠预测。
2024-04-03 cs.AI cs.LG
Differentiable Grey-box Modelling of Phaser Effects using Frame-based Spectral Processing
University of Edinburgh(爱丁堡大学);Centre for Speech Technology Research(语音技术研究中心);Acoustics and Audio Group(声学与音频组)
针对 phaser 调制效果中低频振荡器控制信号未知且现有方法非因果的问题,提出基于短帧频域滤波的可微灰盒模型,联合学习控制信号与时变频谱响应,并分析帧长影响。
2023-06-02 cs.LG cs.SD eess.AS
Outlier-Oriented Poisoning Attack: A Grey-box Approach to Disturb Decision Boundaries by Perturbing Outliers in Multiclass Learning
College of Computing, Birmingham City University(伯明翰城市大学计算机学院)
本文提出面向离群点的投毒(OOP)灰盒攻击,通过篡改多分类任务中离决策边界最远样本的标签破坏模型,实验验证了不同算法的抗攻击差异及类别数、数据不平衡对攻击效果的影响。
2024-11-01 cs.LG
A Differentiable Newton Euler Algorithm for Multi-body Model Learning
Computer Science Department, Technical University of Darmstadt(达姆施塔特工业大学计算机科学系);Technical University of Darmstadt(达姆施塔特工业大学)
在这项工作中,我们研究了一个频谱的混合模型域的多体机器人动力学。我们激发了一个计算图形架构,体现了牛顿-欧拉方程,强调李代数形式的效用,将动态几何转化为一个有效的计算结构,用于学习。我们描述了所使用的虚拟参数,使不受约束的物理似然动力学和所使用的致动器模型。在实验中,我们定义了一个家庭的26个灰箱模型和评估他们的系统辨识的模拟和物理古田摆和Cartpole。比较表明,以前的白盒系统辨识方法所需的运动学参数,可以准确地推断出数据。此外,我们强调,模型与保证有界能量的不受控制的系统产生非发散的轨迹,而更一般的模型没有这样的保证,所以它们的性能强烈依赖于数据分布。因此,这项工作的主要贡献是引入了一个白盒模型,共同学习动力学和运动学参数,并可以与黑盒组件相结合。然后,我们对具有挑战性的系统和不同的数据集进行了广泛的实证评估,这些数据集阐明了我们的灰盒架构与可比较的白盒和黑盒模型的比较性能。
2020-10-19 cs.LG cs.RO
SR4-Fit: A Unified Interpretable Rule-Based Machine Learning Framework for Informative and Trustworthy Decision-Making
University of Oklahoma(俄克拉荷马大学)
提出SR4-Fit,一种内在可解释的基于规则的机器学习框架,通过稀疏松弛正则化生成紧凑稳定的规则集,在分类和回归任务上兼顾准确性与可解释性,验证于选举预测及十四个基准数据集。
2026-09-29 cs.AI cs.LG
An interpretable semi-supervised classifier using two different strategies for amended self-labeling
Vrije Universiteit Brussel(布鲁塞尔自由大学);Queens University Belfast(英国女王大学贝尔法斯特分校)
在某些机器学习应用程序的上下文中,获取数据实例是一个相对容易的过程,但标记它们可能会变得非常昂贵或繁琐。这样的场景会导致数据集具有很少的标记实例和大量的未标记实例。半监督分类技术在学习阶段结合标记和未标记的数据,以提高分类器的泛化能力。遗憾的是,大多数成功的半监督分类器不允许解释其结果,因此表现得像黑匣子。然而,有越来越多的问题领域中,专家需要一个清晰的理解决策过程。在本文中,我们报告了一个扩展的实验研究,提出了一个可解释的自标记灰盒分类器,使用黑盒子来估计缺失的类标签和白盒子来解释最终的预测。两种不同的方法来修改自标记过程进行了探讨:第一个基于黑盒的信心,后者的基础上从粗糙集理论的措施。扩展实验研究的结果支持我们的分类器的透明性和简单性的手段的可解释性,同时获得优越的预测率相比,在文献中报道的最先进的自标记分类器。
2020-07-20 cs.LG stat.ML
A mathematical certification for positivity conditions in Neural Networks with applications to partial monotonicity and Trustworthy AI
CDTI
针对已训练黑箱人工神经网络的部分单调性认证难题,提出基于有限评估、Lipschitz性与Voronoi图的LipVor算法,无需受限架构即可认证正性相关性质,助力无约束ANN在关键领域应用。
2025-10-30 cs.AI cs.LG
Stabilizing black-box algorithms through task-oriented randomization
提出一种任务导向的随机化方法,根据输入数据的生成机制自适应调整策略,以稳定黑盒输出,并分析了稳定性与探索之间的权衡。
2026-06-25 cs.AI cs.LG stat.ML
Context-Aware Concept Distillation for Trustworthy Flood Prediction
School of Computer Science and Engineering, The Hebrew University of Jerusalem(耶路撒冷希伯来大学计算机科学与工程学院);Institute of Earth Sciences, The Hebrew University of Jerusalem(耶路撒冷希伯来大学地球科学研究所);Hebrew University Business School, The Hebrew University of Jerusalem(耶路撒冷希伯来大学商学院)
针对深度学习模型‘黑箱’问题阻碍洪水预测信任度的挑战,提出上下文感知概念蒸馏框架CACD,引入无监督管道和残差超网络,经全球多流域评估,该模型高保真且优于黑箱基线,平衡了AI准确性与决策透明度。
2026-07-28 cs.AI cs.LG
Membership Inference Attacks on Discrete Diffusion Language Models
本文研究了对微调后的MDLMs的成员推断攻击,发现其比现有灰盒基线更易受攻击,并设计了阴影模型转移攻击以证明其有效性。
2026-05-19 cs.AI cs.LG
LLINBO: Trustworthy LLM-in-the-Loop Bayesian Optimization
University of Michigan(密歇根大学)
针对LLM作为优化代理缺乏代理建模和不确定性校准的问题,提出LLINBO混合框架,结合LLM早期探索与统计模型利用,引入三种机制并给出理论保证,在3D打印中验证。
2026-11-02 cs.AI cs.LG
Black-box Gradient Attack on Graph Neural Networks: Deeper Insights in Graph-based Attack and Defense
Huazhong University of Science and Technology(华中科技大学)
本文分析灰盒Mettack对训练集的依赖并提出验证集防御策略,进而设计无需访问训练数据的黑盒梯度攻击BBGA,实现稳定且适配多种防御方法的攻击。
2021-10-09 cs.AI cs.LG stat.ML
Play MNIST For Me! User Studies on the Effects of Post-Hoc, Example-Based Explanations & Error Rates on Debugging a Deep Learning, Black-Box Classifier
School of Computer Science, University College Dublin(都柏林大学学院计算机科学学院);Insight Centre for Data Analytics(数据分析洞察中心);VistaMilk SFI Research Centre(VistaMilk SFI研究中心)
本文报道了两个实验(N=349)的影响事后解释的例子和出错率对人们的看法的黑箱分类器。这两个实验都表明,当人们得到的情况下,从实施ANN CBR双系统的解释,他们认为错过分类更正确。他们还表明,当出错率增加到4%以上时,人们对分类器的信任度降低,认为它不太正确、不太合理、不太可信。讨论了这些结果对XAI的影响。
2020-09-10 cs.HC cs.LG
BaTCAVe: Trustworthy Explanations for Robot Behaviors
School of Computing and Augmented Intelligence, Arizona State University(计算与增强智能学院,亚利桑那州立大学)
本文提出基于人类可理解的高层概念的可信可解释机器人技术,通过匹配神经网络激活与可视化来提供带有不确定性评分的解释,验证了其作为事后人类友好的机器人诊断工具的有效性。
2025-10-08 cs.LG cs.RO
Trustworthy Visual Analytics in Clinical Gait Analysis: A Case Study for Patients with Cerebral Palsy
St. Pölten Univ. of Applied Sciences(圣珀尔滕应用科学大学);Orthopaedic Hospital Vienna-Speising(维也纳-施派辛骨科医院)
三维临床步态分析对于脑性瘫痪(CP)患者选择最佳治疗干预措施至关重要,但会产生大量的时间序列数据。对于这些数据的自动分析,机器学习方法产生了有希望的结果。然而,由于其黑箱性质,这种方法往往不受临床医生的信任。我们提出了gaitXplorer,视觉分析方法的分类CP相关的步态模式,集成了梯度CAM,一个完善的解释人工智能算法,解释机器学习分类。在交互式可视界面中突出显示与分类高度相关的区域。该方法进行了评估,在一个案例研究与两个临床步态专家。他们使用视觉界面检查了8名患者的解释,并表达了他们认为值得信赖的相关性得分和他们认为可疑的相关性得分。总体而言,临床医生对该方法给予了积极的反馈,因为它使他们能够更好地了解数据中的哪些区域与分类相关。
2022-12-19 cs.CV cs.HC cs.LG
Overlap Number of Balls Model-Agnostic CounterFactuals (ONB-MACF): A Data-Morphology-based Counterfactual Generation Method for Trustworthy Artificial Intelligence
Andalusian Institute of Data Science and Computational Intelligence (DASCI)(安达卢西亚数据科学与计算智能研究所);University of Granada(格拉纳达大学);TECNALIA(泰克纳利亚科技公司);Basque Research & Technology Alliance (BRTA)(巴斯克研究与技术联盟);University of the Basque Country (UPV/EHU)(巴斯克大学)
针对黑箱AI的可解释性需求,提出基于数据形态学的模型无关反事实生成方法ONB-MACF,通过构建超球面映射决策边界生成可行稀疏的反事实,在多数据集上性能优于现有方法。
2024-05-20 cs.LG
Adaptive Self-Consistency: From Black-Box Sampling to Distribution-Valued Feedback
New York University(纽约大学);Columbia University(哥伦比亚大学);Zhejiang University(浙江大学)
本文提出灰盒设置下的自适应自洽性方法,通过分布值观测的序列模式识别和ASC-D投注停止规则,在MMLU-Redux上显著减少推理轨迹并提高正确认证率。
2026-10-01 cs.AI cs.LG
Eclectic Rule Extraction for Explainability of Deep Neural Network based Intrusion Detection Systems
Mississippi State University(密西西比州立大学);U.S Army Engineer Research and Development Center(美国陆军工程兵研究与发展中心)
本文提出一种混合X-IDS架构,利用折衷规则提取作为黑盒深度神经网络的白盒代理解释器,在UNSW-NB15和CIC-IDS-2017数据集上以99.9%准确率生成可解释且可信的规则集,平衡了可扩展性与可信度。
2024-01-18 cs.AI cs.CR cs.LG
Trustworthy clinical AI solutions: a unified review of uncertainty quantification in deep learning models for medical image analysis
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inserm(法国国家健康与医学研究院);Pixyl Research and Development Laboratory(Pixyl研发实验室);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院)
深度学习(DL)模型在临床领域的完全接受度相对于文献中报道的高性能解决方案的数量而言相当低。特别地,最终用户不愿意依赖DL模型的粗略预测。在文献中提出了不确定性量化方法,作为一种潜在的响应,以减少DL黑盒提供的粗略决策,从而增加最终用户对结果的可解释性和可接受性。在这篇综述中,我们提出了一个概述现有的方法来量化与DL预测相关的不确定性。我们专注于医学图像分析的应用,由于图像的高维性及其质量的可变性,以及与现实生活中的临床常规相关的限制,这提出了具体的挑战。然后,我们讨论的评估协议,以验证相关的不确定性估计。最后,我们强调了医学领域不确定性量化的开放性挑战。
2022-10-05 cs.AI cs.CV cs.LG
Quantifying probabilistic robustness of tree-based classifiers against natural distortions
Know-Center GmbH(Know-Center有限公司)
值得信赖的人工智能的概念最近得到了广泛的关注。与可信AI相关的一个方面是ML模型的鲁棒性。在这项研究中,我们将展示如何概率量化的鲁棒性对自然发生的失真的输入数据基于树的分类器的假设下,自然失真可以描述的多元概率分布,可以转换为多元正态分布。其思想是提取训练的基于树的分类器的决策规则,将特征空间分离成不重叠的区域,并确定具有失真的数据样本返回其预测标签的概率。该方法是基于最近推出的现实世界的鲁棒性,它适用于所有的黑盒分类器的措施,但只是一个近似值,只有在输入维数不是太高,而我们提出的方法给出了一个精确的测量。
2022-11-29 cs.LG
Uncertainty Estimation and Quantification for LLMs: A Simple Supervised Approach
University of North Carolina(北卡罗来纳大学);Tsinghua University(清华大学);HKUST(GZ)(香港科技大学(广州));Imperial College London(伦敦帝国学院)
本文提出一种利用隐藏激活和带标签数据的监督方法,用于LLM不确定性估计,并证明其能提升校准性能且适用于黑盒、灰盒和白盒场景。
2024-10-23 cs.CL cs.LG
CFNN: Continued Fraction Neural Network
School of Future Technology(未来技术学院);Institute of Artificial Intelligence(人工智能研究院);School of Computer Science and Technology(计算机科学与技术学院);College of Sciences(科学学院);SILC Business School(SILC商学院)
本文提出CFNN,通过将连续分数与梯度优化结合,提供理性归纳偏置,以高效捕捉复杂渐进行为和不连续性,显著提升精度与鲁棒性。
2026-03-21 cs.AI cs.LG
Constrained Adversarial Learning for Automated Software Testing: a literature review
ISep
本综述梳理了应用于对抗学习与软件测试的约束数据生成方法研究现状,体系化分析不同测试场景方法的优劣势,为用对抗测试优化测试工具、提升系统鲁棒性提供指导。
2025-05-19 cs.LG cs.SE
Building Trustworthy NeuroSymbolic AI Systems: Consistency, Reliability, Explainability, and Safety
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);AI Institute, University of South Carolina(南卡罗来纳大学人工智能研究所)
针对大语言模型黑箱、安全性不足等问题,提出基于神经符号方法的CREST框架,融合数据与过程、图知识,构建具备一致性、可靠性、用户级可解释性与安全性的可信AI系统。
2023-12-05 cs.AI cs.CL cs.LG