The belief noisy-or model applied to network reliability analysis
Northwestern Polytechnical University(西北工业大学);University of Rennes 1(雷恩第一大学)
贝叶斯网络(BN)知识工程的难点之一是条件概率表(CPT)的量化。CPT中包含的参数数量随着父变量的数量呈指数增长。最常见的解决方案是应用所谓的规范门。噪声或(NOR)门,它利用因果相互作用的独立性,提供了指定CPT所需的参数数量的对数减少。本文提出了一种基于信度函数理论的NOR模型的扩展--信度噪声OR(Belief Noisy-OR)。BNOR能够处理网络的偶然性和认识性不确定性。与NOR相比,在现有知识不确定的情况下,可以获得更丰富的信息,对决策有重要的参考价值。特别地,当不存在认知不确定性时,BNOR退化为NOR。此外,本文还提出了不同的BNOR结构,以满足工程师的不同需求。将BNOR模型应用于网络化系统的可靠性评估问题,证明了其有效性。
2016-06-03 cs.AI
Hybrid Processing of Beliefs and Constraints
University of California, Irvine(加州大学欧文分校)
本文探讨了处理概率和确定性信息时,前者表示为一个信念网络和后者作为一组布尔子句的算法。激励任务是1。评估具有大量确定性关系的信念网络; 2.评估复杂布尔查询在信任网络上的概率。我们提出了一个参数化的家庭变量消除算法,利用这两种类型的信息,并允许不同程度的约束传播推断。该方案的复杂性由图{em增广}的诱导宽度控制,由布尔约束引入的依赖关系。初步的经验评估证明了约束传播对概率计算的影响。
2013-01-10 cs.AI
Efficient Search-Based Inference for Noisy-OR Belief Networks: TopEpsilon
Institute for Decision Systems Research(决策系统研究所);Section on Medical Informatics(医学信息学部)
任意信念网络的推理算法对于大型复杂的信念网络是不切实际的。针对特定类别的信念网络的推理算法已经被证明是更有效的。在本文中,我们提出了一个基于搜索的算法,任意的,噪声或信念网络的近似推理,推广早期的工作基于搜索的推理两级,噪声或信念网络。初步的实验结果似乎很有希望。
2013-02-13 cs.AI
Belief-Calibrated Multi-Agent Consensus Seeking for Complex NLP Tasks
Shandong University(山东大学);VU Amsterdam(阿姆斯特丹自由大学);Leiden University(莱顿大学)
针对多智能体共识寻求中忽视内部信念矛盾与协作对象选择不当的问题,提出BCCS框架,通过选择最优协作者并校准共识判断,在MATH和MMLU上分别提升2.23%和3.95%准确率。
2025-10-07 cs.AI
Query DAGs: A Practical Paradigm for Implementing Belief-Network Inference
我们描述了一个新的范例,用于实现推理的信念网络,它包括两个步骤:(1)编译一个信念网络到一个算术表达式称为查询DAG(Q-DAG);(2)回答查询使用一个简单的评估算法。Q-DAG的每个节点代表一个数值运算、一个数字或一个符号作为证据。Q-DAG的每个叶节点代表网络查询的答案,即某些感兴趣事件的概率。看来,Q-DAG可以使用任何标准算法在信念网络中进行精确推理(我们展示了如何使用聚类和条件算法生成它们)。Q-DAG生成算法的时间和空间复杂度并不比它所基于的推理算法的时间复杂度差。Q-DAG求值算法的复杂度与Q-DAG的大小成线性关系,并且这样的推断相当于它所表示的算术表达式的标准求值。Q-DAG的预期价值在于减少在线、真实世界应用中利用信念网络所需的软件和硬件资源。由于Q-DAG评估算法的简单性,所提出的框架也有利于在不同的软件和硬件平台上开发在线推理。有趣的是,Q-DAG被发现用于其他目的:减少Q-DAG的简单技术往往会取代相对复杂的信念网络推理优化技术,如网络修剪和计算缓存。
1997-05-01 cs.AI
Optimal Decomposition of Belief Networks
Telecom Research Laboratories(电信研究实验室)
本文讨论了信度网的最优分解问题。一些方法的分解检查和一个新的方法-最小总数的状态(MTNS)的方法-被提出。在我们的框架下的最佳信念网络分解的问题,在所有其他框架下,被证明是NP-难的。根据计算复杂性分析,Wee(1990 a)提出了一种基于模拟退火的信度网络分解算法。
2013-03-27 cs.AI
Exploiting Causality for Selective Belief Filtering in Dynamic Bayesian Networks
The University of Texas at Austin(德克萨斯大学奥斯汀分校);The University of Edinburgh(爱丁堡大学)
动态贝叶斯网络(DBNs)是一种研究状态部分可观测随机过程的通用模型。DBN中的信念过滤是基于不完整和噪声观测来推断信念状态(即过程状态的概率分布)的任务。在具有大状态空间的复杂过程中,这可能是一个难题。在这篇文章中,我们探索了通过自动利用过程中的因果关系来加速过滤任务的想法。我们考虑一种特定类型的因果关系,称为被动性,它涉及状态变量如何引起其他变量的变化。我们提出了基于被动性的选择性信念过滤(PSBF)方法,该方法保持了一个因子化的信念表示,并利用被动性对信念因子进行选择性更新。PSBF在一定的假设条件下产生精确的信念状态,否则产生近似的信念状态,其中近似误差由过程中的不确定性程度限制。我们的经验表明,在不同的大小和程度的被动的合成过程中,PSBF比几种替代方法更快,同时实现竞争力的准确性。此外,我们还演示了被动性如何在多机器人仓库等复杂系统中自然发生,以及PSBF如何利用这一点来加速过滤任务。
2016-04-25 cs.AI
Some Complexity Considerations in the Combination of Belief Networks
University of Southern California(南加州大学)
在知识库系统研究界,一个可能引起越来越多注意的主题是协调多位专家提供的信息。我们设想的情况下,几个专家独立编码的信息作为信念网络。然后,潜在的用户必须协调这些网络的结论和建议,以取得某种共识。达成这种共识的一种方法是在考虑任何案例特定数据(特定观察,测试结果)之前,将贡献的网络融合到单个共识模型中。这种方法需要两种类型的组合过程,一种用于概率,一种用于图。由于概率的组合是相对好理解的,这种方法的关键障碍在于图论领域。本文提供了一些必要的操作,以实现必要的图形组合的正式定义,并提供了这些程序的复杂性分析。本文的主要结果是,这些操作大多数是NP难的,其主要信息是,推导?好吗?共识网络必须以经验主义的方式进行。
2013-03-06 cs.AI
Reasoning About Beliefs and Actions Under Computational Resource Constraints
Stanford University(斯坦福大学)
虽然许多研究者都希望建立一个推理系统,其行为与概率论和效用理论所定义的公理基础一致,但有限的工程和计算资源可能使完整的规范分析成为不可能。我们试图将讨论超越辩论的问题,可以有效地处理的情况下,很明显,有足够的计算资源来执行被认为是完整的分析的范围。在这些条件下,我们强调的重要性,考虑预期的成本和效益的应用替代近似程序和算法的计算和知识获取。我们讨论了如何知识的用户效用的结构可以用来控制值的权衡定制推理替代上下文。我们解决的实时合理性的概念,专注于应用知识的预期时间细化能力的推理策略,以平衡额外的计算与成本的利益与部分结果的行动。我们讨论了应用决策理论来控制推理资源的限制和不确定性的困难问题的解决方案的好处。
2013-03-27 cs.AI
Generalization of Dempster-Shafer theory: A complex belief function
Southwest University(西南大学)
证据理论由于其在不需要先验信息的情况下对不确定性建模的灵活性和有效性,在各个领域得到了广泛的应用。然而,现有的证据理论是不足以考虑的情况下,它没有能力表达的数据在其执行过程中的给定阶段的时间的波动,以及不可避免地涉及到数据的不确定性和不精确性,同时发生的变化的阶段或周期性的数据。因此,本文提出了一种推广的Dempster-Shafer证据理论。具体地说,广义Dempster-Shafer证据理论中的质量函数是用复数来表示的,称为复基本信念赋值,它具有更强的表达不确定信息的能力。在此基础上,开发了一种广义Dempster组合规则。与经典的Dempster合成规则相比,广义的Dempster合成规则取消了证据间冲突系数K<1的条件。因此,它比经典的Dempster组合规则更具有一般性和适用性。当复质量函数从复数退化为实数时,在证据间冲突系数K小于1的条件下,广义Dempster合成规则退化为经典证据理论。总之,这种推广的Dempster-Shafer证据理论为建模和处理更多的不确定信息提供了一种很有前途的方法。
2019-06-27 cs.AI
On the Verification of Belief Programs
RWTH Aachen University(亚琛工业大学)
在最近的一篇论文中,Belle和Levesque提出了一种名为信念程序的程序框架,这是GOOGLE程序的概率扩展,其中每个动作和感知结果都可能是嘈杂的,每个测试条件都涉及代理的主观信念。从GOSTIC程序继承,以行动为中心的功能,使信念程序相当适合高层次的机器人控制下的不确定性。在部署这样一个程序之前,一个重要的步骤是验证它是否满足所需的属性。验证至少存在两个问题:如何形式化地描述程序的属性和验证的复杂性。在本文中,我们提出了一个形式主义的信念程序的基础上的模态逻辑的行动和信念。除此之外,这使我们能够顺利地表达类似PCTL的时间属性。此外,我们还研究了信度规划验证问题的可判定性和不可判定性。
2022-05-03 cs.AI
Additive Belief-Network Models
Stanford University School of Medicine(斯坦福大学医学院);Rockwell Palo Alto Laboratory(罗克韦尔帕洛阿尔托实验室)
概率推理固有的困难性阻碍了信度网络在大领域的应用。噪声OR门[30]和概率相似性网络[18,17]通过限制模型表达能力来避免推理的复杂性。最近的工作在信网络模型的应用时间序列分析和预测[9,10]已经引起了加性信网络模型(ABNM)。我们(1)讨论了由信度网络的加性分解所作的近似的性质和含义,(2)在可用数据稀缺时显示出更高的加性模型归纳效率,(3)推广概率推理算法以利用ABNM的加性分解,(4)显示出更高的推理效率,(5)用简单的加性信度网络比较推理结果。
2013-03-06 cs.AI
Minimal Assumption Distribution Propagation in Belief Networks
University of California(加利福尼亚大学)
随着信任网络被用于对日益复杂的情况进行建模,从大型数据库中自动构建信任网络的需求将变得至关重要。本文集中解决了信念网络归纳问题的一部分:在给定定性结构的情况下,学习定量结构(条件概率)。特别是,一个理论,显示了如何传播的信念网络中的推理分布,唯一的假设是,给定的定性结构是正确的。大多数推理算法必须至少做出这个假设。该理论基于四个网络转换,足以在信念网络中进行任何推理。此外,与流行的观点相反,错误不一定会随着推理链的增长而增长。相反,对于从足够大的样本诱导的QBN信念网,随着推理链的大小增加,误差更有可能减小。
2013-03-06 cs.AI
Distributed Revision of Belief Commitment in Multi-Hypothesis Interpretations
UCLA(加利福尼亚大学洛杉矶分校)
本文扩展了信念网络的应用,包括信念承诺的修正,即,对一组假设的绝对接受,这些假设共同构成了对现有证据的最令人满意的解释。建立了非单调推理的一致性模型,提出了分布式信念修正算法。我们表明,在单连接网络中,最令人满意的解释可以找到在线性时间的消息传递算法类似于一个信念更新。在多连通网络中,问题可能是指数困难的,但如果网络是稀疏的,拓扑考虑可以用来使解释任务易于处理。一般来说,找到最可能的假设组合并不比计算任何单个假设的置信度更复杂。在医学诊断中的应用举例说明。
2013-03-27 cs.AI
Tractable Inference for Complex Stochastic Processes
Stanford University(斯坦福大学)
任何动态系统的监测和控制,关键取决于对其当前状态和未来轨迹进行推理的能力。在随机系统的情况下,这些任务通常涉及使用置信状态-在给定时间点过程状态的概率分布。不幸的是,复杂过程的状态空间非常大,使得信念状态的显式表示难以处理。即使在动态贝叶斯网络(DBN)中,过程本身可以被表示为复杂的,表示的信念状态是棘手的。我们调查的想法,保持一个紧凑的近似真实的信念状态,并分析的条件下,由于采取的近似过程的生命周期的错误不积累,使我们的答案完全无关。我们发现,在一个信念状态的合同呈指数的过程中的错误演变。因此,即使使用多重近似,我们的过程中的误差仍然无限有界。我们展示了如何DBN的附加结构可以用来设计我们的近似方案,显着提高其性能。我们证明了我们的想法在监控任务的背景下的适用性,表明数量级更快的推理可以实现只有一个小的精度下降。
2013-01-30 cs.AI
An Application of Uncertain Reasoning to Requirements Engineering
The MITRE Corporation(MITRE公司);George Mason University(乔治梅森大学)
本文探讨了使用贝叶斯网络来解决需求工程中的一个更棘手的问题,将用户需求转化为系统需求。所采取的方法是将领域知识建模为粘在一起的贝叶斯网络片段,以形成特定于领域的系统需求的完整视图。用户需求被引入作为证据,信念的传播被用来确定什么是用户需求所指示的适当的系统需求。这一概念已被证明在系统规范的发展和结果在这里。
2013-01-23 cs.AI cs.SE
Query DAGs: A Practical Paradigm for Implementing Belief Network Inference
Rockwell Science Center(罗克韦尔科学中心)
我们描述了一个新的范例,用于实现推理的信念网络,它依赖于编译一个信念网络到一个算术表达式称为查询DAG(Q-DAG)。Q-DAG的每个非叶节点表示一个数值运算、一个数字或一个符号作为证据。Q-DAG的每个叶节点代表网络查询的答案,即某些感兴趣事件的概率。看来,Q-DAG可以使用任何算法在信念网络中进行精确推理-我们展示了如何使用聚类和条件算法生成它们。Q-DAG生成算法的时间和空间复杂度并不比它所基于的推理算法的时间复杂度差; Q-DAG在线评估算法的时间复杂度在Q-DAG的大小上是线性的,并且这样的推理相当于它所表示的算术表达式的标准评估。Q-DAG的主要价值在于减少了在在线、真实世界应用中利用信念网络所需的软件和硬件资源。所提出的框架还有利于开发在线推理在不同的软件和硬件平台上,给出了简单的Q-DAG评估算法。本文描述了这种新的概率推理范式,解释了它是如何工作的,它的用途,并概述了它导致的一些研究方向。
2014-08-07 cs.AI
involve-MI: Informative Planning with High-Dimensional Non-Parametric Beliefs
Technion - Israel Institute of Technology(以色列理工学院)
决策和规划中最复杂的任务之一是收集信息。当状态是高维的并且其信念不能用参数分布表示时,这个任务变得更加复杂。虽然状态是高维的,但在许多问题中,只有一小部分可能涉及状态的转换和生成观测。我们利用这一事实来计算信息理论的预期回报,互信息(MI),在一个低得多的维度子集的状态,以提高效率,而不牺牲精度。在以前的工作中使用了类似的方法,但专门用于高斯分布,我们在这里将其扩展到一般分布。此外,我们应用降维的情况下,新的状态增加到以前的,但再次不牺牲准确性。然后,我们继续通过开发一个估计MI的顺序蒙特卡罗(SMC)的方式工作,并避免未来的信念的表面重建。最后,我们将展示这项工作是如何应用到信息规划优化问题。这项工作,然后评估在一个模拟的主动SLAM问题,在精度和时间的改善被证明。
2022-09-23 cs.AI
Fast Belief Update Using Order-of-Magnitude Probabilities
Rockwell Science Center(罗克韦尔科学中心)
我们提出了一个算法,称为预测,更新因果网络量化的数量级概率的信念。该算法利用了网络的结构和量化,并提出了一个多项式渐近复杂性。预测表现出保守的行为,因为它总是合理的,但并不总是完整的。我们提供了充分的条件,完整性和目前的算法来测试这些条件和计算一套完整的似是而非的值。我们提出预测作为一种有效的方法来估计概率值,并说明其使用结合两个已知的概率推理算法。最后,我们描述了一个应用程序的预测计划评估,目前的实验结果,并讨论了有关其使用的问题与条件逻辑的信念,并在表征无关。
2013-02-20 cs.AI
Causal Belief Decomposition for Planning with Sensing: Completeness Results and Practical Approximation
Universidad Simón Bolívar(西蒙·玻利瓦尔大学);ICREA & Universitat Pompeu Fabra(加泰罗尼亚研究与高级研究所暨庞培法布拉大学)
信念跟踪是感知规划中的一个基本问题。虽然这个问题是棘手的,它最近已被证明,对于确定性和非确定性的系统表示在紧凑的形式,它可以在时间和空间是指数的问题宽度。宽度度量与给定前提条件或目标相关的状态变量的最大数量。在这项工作中,我们在理论上和实践中推广了这个结果。首先,我们引入了一个替代的分解方案和算法,具有相同的时间复杂度,但不同的完整性保证,其空间复杂度要小得多:指数的因果宽度的问题,衡量因果相关的状态变量的数量,一个给定的前提条件,目标,或观察。其次,我们引入了一个快速,有意义的,和强大的近似,贸易的完整性的速度,并在时间和空间指数的问题因果宽度。然后,经验表明,该算法与简单的算法相结合,产生国家的最先进的实时性能域具有高的宽度,但低的因果宽度,如扫雷舰,战舰,和Wumpus。
2019-09-26 cs.AI
Neural Recursive Belief States in Multi-Agent Reinforcement Learning
DeepMind(深度思维)
在多智能体强化学习中,学习行动的问题特别困难,因为合作者的策略可能严重依赖于仅由他们观察到的信息。另一方面,人类很容易形成关于同伴所拥有的知识的信念,并利用信念来为决策提供信息。这种能力是个人在各种马尔可夫博弈中成功的基础,从扑克牌中的虚张声势到囚徒困境中的有条件合作,再到桥牌中的惯例建立。经典方法通常不适用于复杂的领域,由于层次信念(即其他代理人的信念)的棘手性质。我们提出了一种可扩展的方法,使用递归深度生成模型来近似这些信念结构,并使用信念模型来获得对复杂任务有用的表示。我们用信念模型训练的代理优于无模型基线,具有相同的代表能力,使用常见的训练范式。我们还表明,高阶信念模型优于代理与低阶模型。
2021-02-03 cs.AI cs.LG cs.MA
The dynamics of belief: continuously monitoring and visualising complex systems
Swansea University(斯旺西大学)
本文提出基于模式与模式转换的系统模型,利用信念函数在高维几何空间中可视化系统行为,并给出设计启发式框架、通用系统理论和几何可视化三种技术,以提升复杂人类情境中AI系统的透明性与可解释性。
2024-01-17 cs.AI cs.SY eess.SY
Machine Learning as Iterated Belief Change a la Darwiche and Pearl
Department of Digital Systems School of Economics and Technology University of the Peloponnese Sparta 231 00, Greece(数字系统系经济与技术学院希腊皮埃蒙特大学斯巴达231 00校区)
本研究针对此前用全交AGM信念变更理论建模二元ANN训练的局限,证明Dalal方法可实现信念状态渐进演化,且用符合Darwiche-Pearl框架的词典序修正与适度收缩能更有效建模二元ANN训练动态。
2025-10-05 cs.AI cs.LG cs.LO
Belief Propagation by Message Passing in Junction Trees: Computing Each Message Faster Using GPU Parallelization
Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校)
将贝叶斯网络(BN)编译为连接树并在其上执行置信传播是计算BN中后验的最突出方法之一。然而,连接树上的信念传播是已知的,在一般情况下是计算密集型的。它的复杂性可能会显着增加贝叶斯网络节点的连通性和状态空间基数。在本文中,我们使用GPU并行化来解决这个计算挑战。我们开发的数据结构和算法,扩展现有的连接树技术,并专门开发一种新的方法来计算每个信念传播消息并行。我们实现了我们的方法上的NVIDIA GPU和测试它使用BN从几个应用程序。在实验中,我们研究了连接树参数如何影响并行化的机会,因此我们的算法的性能。我们实现了从0.68到9.18的BN研究的加速比。
2012-02-14 cs.AI cs.DC
The Complexification of Engineering
本文论述了工程复杂化的箭头。我们认为,工程学的复杂化在于:(1)工程学成为一门科学的转变,因此它不再是一种(纯粹的)实践或职业;(2)工程学成为一门科学,可以被认为是复杂性科学之一。实际上,工程的复杂化是一个过程,通过这个过程,工程可以从知识的角度而不是从商品和服务的角度来研究、实现和理解。复杂工程系统和仿生工程是复杂工程的两种表现形式。
2011-10-19 cs.AI nlin.AO
Exploring Parallelism in Learning Belief Networks
已经表明,一类概率领域模型不能正确地学习几个现有的算法,采用一个单一的链接前瞻搜索。当使用多链路前瞻搜索时,学习算法的计算复杂性增加。我们研究了如何使用并行性来解决学习这些模型的复杂性增加,并加快在大型域的学习。提出了一种并行处理的学习任务分解算法。进一步的任务分解用于均衡处理器之间的负载,以提高加速和效率。为了从非常大的数据集学习,我们提出了一个重组的可用处理器,通过文件的缓慢数据访问可以被快速内存访问所取代。我们在并行计算机上的实现证明了算法的有效性。
2013-02-06 cs.AI cs.LG
Shaping Belief States with Generative Environment Models for RL
Google DeepMind(谷歌DeepMind)
当智能体与复杂的环境交互时,它们必须形成并保持关于该环境的相关方面的信念。我们提出了一种方法来有效地训练表达生成模型在复杂的环境。我们表明,具有表达性生成模型的预测算法可以在视觉丰富和动态的3D环境中形成稳定的信念状态。更确切地说,我们表明,学习表示捕捉环境的布局以及代理的位置和方向。我们的实验表明,该模型大大提高了数据效率的一些强化学习(RL)的任务相比,强大的无模型基线代理。我们发现,预测未来的多个步骤(过冲),结合表达生成模型,对于稳定的表示出现至关重要。在实践中,在RL中使用表达生成模型在计算上是昂贵的,我们提出了一个方案来减少这种计算负担,使我们能够构建与无模型基线竞争的代理。
2019-06-24 cs.AI cs.LG stat.ML
Approximate evaluation of marginal association probabilities with belief propagation
Defence Science and Technology Organisation(国防科学技术组织);University of Adelaide(阿德莱德大学);Australian National University(澳大利亚国立大学)
数据关联是对目标和测量之间的对应关系进行推理的问题,是跟踪中的一个基本问题。本文提出了一个图形化的数据关联模型公式,并采用近似推理方法,置信传播(BP),以获得边际关联概率的估计。我们证明了BP算法是保证收敛的,并限制了所需的迭代次数。实验表明,一个有利的比较,以前的方法在准确性和计算复杂性。
2014-11-20 cs.AI cs.CV
From Actions to Events: A Transfer Learning Approach Using Improved Deep Belief Networks
São Paulo State University(圣保罗州立大学);Universidade Federal de São Paulo(圣保罗联邦大学)
在过去的十年中,指数数据增长提供了基于机器学习的算法的能力,并使其能够在日常生活活动中使用。另外,这种改进部分地归因于深度学习技术的出现,即,一堆简单的架构,最终形成更复杂的模型。虽然这两个因素都产生了出色的结果,但它们也带来了学习过程的缺点,因为在大型数据集上训练复杂模型既昂贵又耗时。这样的问题在处理视频分析时更加明显。一些工作已经考虑了迁移学习或领域自适应,即,将知识从一个领域映射到另一个领域的方法,以减轻训练负担,但它们中的大多数都是在单个或小块帧上操作的。本文提出了一种新的方法来映射知识从动作识别到事件识别使用基于能量的模型,表示为光谱深度信念网络。这种模型可以同时处理所有帧,在学习过程中携带空间和时间信息。在两个公共视频数据集HMDB-51和UCF-101上进行的实验结果表明,与传统的基于能量的模型(如受限玻尔兹曼机和深度信念网络)相比,该模型的有效性及其减少的计算负担。
2022-11-30 cs.AI cs.CV
Development of formal models, algorithms, procedures, engineering and functioning of the software system "Instrumental complex for ontological engineering purpose"
给出了一个软件系统“Instrumental Complex for Ontological Engineering Purpose”的广义模型表示。代表了完整的软件系统开发过程。建立了“本体工程仪器综合体”软件系统的形式化模型,包括数学表达式、UML图等,并描述了“本体工程仪器综合体”软件系统在客户机-服务器环境下的三层体系结构。
2022-01-01 cs.AI cs.SE
A Survey on Uncertainty Reasoning and Quantification for Decision Making: Belief Theory Meets Deep Learning
Virginia Tech(弗吉尼亚理工大学);University of Texas at Dallas(德克萨斯大学达拉斯分校);US Army Research Laboratory(美国陆军研究实验室);University of the District of Columbia(哥伦比亚特区大学);University of Oslo(奥斯陆大学)
对不确定性的深入理解是在不确定性下做出有效决策的第一步。深度/机器学习(ML/DL)已被广泛用于解决涉及处理高维数据的复杂问题。然而,与其他人工智能(AI)领域相比,ML/DL中对不同类型的不确定性进行推理和量化以实现有效决策的探索要少得多。特别是,自20世纪60年代以来,KRR一直在研究信念/证据理论,以推理和测量不确定性,以提高决策效率。我们发现,只有少数研究利用ML/DL中信念/证据理论中成熟的不确定性研究来解决不同类型不确定性下的复杂问题。在这篇调查论文中,我们讨论了几种流行的信念理论及其处理不确定性原因和类型并对其进行量化的核心思想,以及它们在ML/DL中的适用性。此外,我们讨论了在深度神经网络(DNN)中利用信念理论的三种主要方法,包括证据DNN,模糊DNN和粗糙DNN,根据其不确定性原因,类型和量化方法以及它们在不同问题领域的适用性。基于我们的深入调查,我们讨论了见解,经验教训,当前最先进的桥接信念理论和ML/DL的局限性,最后,未来的研究方向。
2022-06-14 cs.AI cs.IT cs.LG