Do Language Models Have Beliefs? Methods for Detecting, Updating, and Visualizing Model Beliefs
Meta AI;UNC Chapel Hill(北卡罗来纳大学教堂山分校)
语言模型有关于世界的信念吗?丹尼特(Dennett,1995)提出了一个著名的观点,即即使是恒温器也有信念,信念只是一种与任何动机状态脱钩的信息状态。在本文中,我们讨论了检测模型何时具有关于世界的信念的方法,并改进了更新模型信念以使其更真实的方法,重点是基于学习优化器或超网络的方法。我们的主要贡献包括:(1)用于评估信念更新方法的新度量,其关注信念的逻辑一致性,(2)用于改进学习优化器的性能的顺序、局部和泛化模型更新(SLAG)的训练目标,以及(3)信念图的引入,这是与语言模型的接口的新形式,其显示模型信念之间的相互依赖性。我们的实验表明,模型只在有限的程度上具有类似信念的品质,但更新方法可以修复不正确的模型信念,并大大提高其一致性。虽然现成的优化器是令人惊讶的强大的信念更新基线,我们学习的优化器可以在更困难的设置比在过去的工作中被认为是优于他们。代码可在https://github.com/peterbhase/SLAG-Belief-Updating上获得
2021-11-26 cs.AI cs.CL cs.LG
Evidence Updating for Stream-Processing in Big-Data: Robust Conditioning in Soft and Hard Fusion Environments
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
鲁棒的信念修正方法是至关重要的,在流数据的情况下,更新现有的知识或信念与新的传入证据。贝叶斯条件是使用概率推理的数据融合系统中用于信念修正的主要机制。然而,传统的调节方法由于利用软(即,人或基于人的)源除了硬(即,基于物理的)传感器。本文的目的是调查最自然的扩展贝叶斯条件,是适合证据更新存在这样的不确定性。通过将证据更新过程视为一个思想实验,推导出一种优雅的策略,用于在存在大数据环境特有的极端不确定性的情况下进行稳健的证据更新。特别是,利用Fagin-Halpern条件的概念,贝叶斯条件的自然扩展是来自证据,采取的形式,一般的信念函数。所提出的工作从根本上不同于条件更新方程(CUE)和作者自己的扩展它。此外,还提供了各种融合背景下的参数选择的见解。
2017-06-10 cs.AI
Updating beliefs with incomplete observations
目前,有新的兴趣的问题,提出了谢弗在1985年,更新概率时,观察是不完整的。这是一个基本问题,特别是贝叶斯网络。最近,Grunwald和Halpern已经表明,常用的更新策略在这种情况下失败,除非在非常特殊的假设。在本文中,我们提出了一种新的方法来更新不完整的观测值的概率。我们的方法是故意保守的:我们不对所谓的不完整性机制做任何假设,这种机制将完整与不完整的观察联系起来。我们通过一个空洞的低预见来模拟我们对这种机制的无知,这是一种来自不精确概率理论的工具,我们只使用相干参数来将先验概率转换为后验概率。一般来说,这种新的更新方法会产生较低和较高的后验概率和期望,以及部分确定的决策。这是对不完全性机制的现有无知的逻辑结果。我们应用新的方法来分类的问题,新的证据在概率专家系统,在那里它会导致一个新的,所谓的保守更新规则。在贝叶斯网络使用专家知识构建的特殊情况下,我们提供了一个精确的算法分类的基础上,我们的更新规则,它具有线性时间复杂度的一类网络比多叉树。然后,这个结果被扩展到更一般的信用网络框架,其中计算通常比贝叶斯网络更困难。使用一个例子,我们表明,我们的规则似乎提供了一个坚实的基础,可靠的更新不完整的观察,当没有强有力的假设不完整的机制是合理的。
2004-05-17 cs.AI
The Temporal Dynamics of Belief-based Updating of Epistemic Trust: Light at the End of the Tunnel?
Ludwig-Maximilians-University of Munich (LMU)(慕尼黑大学(LMU));Friedrich Alexander University Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学);Birkbeck College London(伦敦伯克贝克学院)
我们开始与结果和基于信念的贝叶斯模型的顺序更新代理人的信念和主观可靠性的来源(信任)的区别。然后,我们重点讨论了有影响力的贝叶斯模型的基于信念的信任更新的埃里克奥尔森,该模型的二分法事件,并明确表示反可靠性。在勾画了一些灾难性的最近的结果,这也许是最有前途的模型的信念更新,我们展示了新的模拟结果的时间动态的学习信念,有和没有信任更新,有和没有沟通。结果似乎至少为沟通和信任更新代理提供了一些更积极的信息。这可能是基于信念的信任更新模型隧道尽头的一盏灯,但对明确发现的解释却不那么清楚。
2019-12-24 cs.AI cs.SI
Plinko: Eliciting beliefs to build better models of statistical learning and mental model updating
University of Waterloo(滑铁卢大学);Toyota Research Institute(丰田研究院)
先验信念是贝叶斯认知解释的核心,但许多解释并不直接测量先验。更具体地说,信念的初始状态严重影响了在更新特定模型时假设如何利用新信息。尽管如此,先验和后验信念要么是从连续的参与者行为中推断出来的,要么是通过贫困的手段得出的。我们让参与者玩一个版本的游戏“Plinko”,首先以理论上不可知的方式引出个体参与者的先验知识。随后的学习和更新的参与者的信念,然后直接测量。我们发现,参与者持有各种先验的集群周围的原型概率分布,反过来影响学习。在后续的实验中,我们表明,参与者先验是稳定的,随着时间的推移,更新信念的能力是由一个简单的环境操纵(即短暂的休息)的影响。这些数据揭示了直接测量参与者信念的重要性,而不是像迄今为止文献中广泛做的那样假设或推断它们。普林科博弈为检验统计学习和心智模型更新提供了一种灵活而富有成效的方法。
2022-01-08 cs.AI q-bio.NC q-bio.QM
Belief Updating and Learning in Semi-Qualitative Probabilistic Networks
本文探讨了结合数值和定性信息的半定性概率网络(SQPN)。我们首先证明了SQPN的精确推理是NPPP完全的。然后,我们表明,现有的SQPN(加上概率逻辑和不精确的评估)的定性关系,可以有效地处理通过多线性规划。然后我们讨论学习:我们考虑一种最大似然方法,它在给定SQPN和经验数据的情况下产生点估计,我们描述了一种贝叶斯思想的方法,它采用不精确狄利克雷模型来产生集值估计。
2012-07-04 cs.AI stat.ML
Updating belief functions over Belnap--Dunn logic
INSA Centre Val de Loire(中央卢瓦尔河谷国立应用科学学院);Univ. Orléans(奥尔良大学);Czech Academy of Sciences(捷克科学院)
置信度和可信度是比概率更弱的不确定性度量。它们的动机是当完全的概率信息不可用时的情况。然而,信息也可能是矛盾的。因此,经典逻辑的框架不一定是最合适的。Belnap-Dunn逻辑被用来推理不完整和矛盾的信息。Klein等人和Bilkova等人分别将概率测度和置信函数的概念推广到Belnap-Dunn逻辑。在这篇文章中,我们研究了如何用新的信息更新信念函数。我们提出了第一种方法,通过Belnap-Dunn逻辑的框架语义。
2022-05-30 cs.AI cs.LO math.PR
A New Approach to Updating Beliefs
IBM Almaden Research Center(IBM阿尔马登研究中心)
我们定义了一个新的概念,条件信念,它扮演着相同的作用,Dempster-Shafer信念函数的条件概率概率的概率函数。我们的定义不同于Dempster给出的标准定义,并且避免了该定义的许多众所周知的问题。正如条件概率Pr(lB)是一个概率函数,它是条件B为真的结果,所以我们的条件信念函数Bel(lB)也是一个信念函数,它是条件B为真的结果。我们将条件信念定义为一个条件概率函数族的下包络(即inf),并提供了一个封闭形式的表达式,通过考虑早期论文[Fagin和Halpern,1989]中的思想,我们将信念函数与内部测度联系起来,提供了理解条件信念定义的另一种方式。特别是,我们在这里展示了如何将条件概率的定义扩展到不可测集,以获得内部和外部条件概率的概念,考虑到我们缺乏信息,这些条件概率可以被视为真实条件概率的最佳近似。我们对条件信念的定义与我们对内部条件概率的定义完全相似。
2013-03-27 cs.AI cs.LO
Provenance-Aware Belief Updating in Human-AI Feedback Loops
Ryquo(瑞阔);App-In Club(App-In俱乐部)
本研究提出LQET方法,使语言模型依据证据来源而非报告数量更新信念,在基准测试及闭环模拟中显著降低误差与漂移,为动态人机系统构建提供了可行路径。
2026-10-28 cs.AI
When Does Belief-Based Agent Memory Help? Reliability-Conditional Updating and Provenance-Capped Poisoning Defense
Indian Institute of Technology Ropar(印度理工学院罗巴尔分校)
提出Nous记忆架构,基于知识即预测而非存储的原则,通过贝叶斯更新维护概率分布,以信息论惊喜度评分并记录信念变化,在LoCoMo基准上取得优于对比方法的F1分数。
2026-07-17 cs.AI cs.CL cs.IR
Proactive Knowledge Inquiry in Doctor-Patient Dialogue: Stateful Extraction, Belief Updating, and Path-Aware Action Planning
The Hong Kong Polytechnic University(香港理工大学)
本文提出了一种基于部分可观测性的主动知识探究框架,通过状态提取、信念更新和路径感知动作规划,提升电子病历生成的覆盖性和准确性。
2026-03-18 cs.AI
Empirical Evaluation of Approximation Algorithms for Probabilistic Decoding
University of California, Irvine(加州大学尔湾分校)
最近表明,通过噪声信道传输的解码消息的问题可以用公式表示为概率网络上的信念更新任务[McEliece]。此外,据观察,迭代应用(线性时间)珍珠的信念传播算法设计的多边形树优于最先进的解码算法,即使相应的网络可能有许多周期。本文证明了经验的近似算法approx-mpe解决最可能的解释(MPE)问题,最近提出的小桶消除框架内[Dechter 96],优于迭代置信传播类的编码网络,有界的诱导宽度。我们的实验表明,近似MPE解码器可以很好的竞争对手的近似信念更新解码器。
2013-01-30 cs.AI
Large language models exhibit unreliable updating of clinical judgment as patient evidence evolves
University of Minnesota(明尼苏达大学)
本研究通过重症监护轨迹评估发现,LLMs在临床判断更新中不可靠,存在对恶化证据过度反应及先前信念偏差,提示无法通过提示修复,并引入EVLU指标揭示可靠性-覆盖率权衡。
2026-10-05 cs.AI cs.CL
Distributed Revision of Belief Commitment in Multi-Hypothesis Interpretations
UCLA(加利福尼亚大学洛杉矶分校)
本文扩展了信念网络的应用,包括信念承诺的修正,即,对一组假设的绝对接受,这些假设共同构成了对现有证据的最令人满意的解释。建立了非单调推理的一致性模型,提出了分布式信念修正算法。我们表明,在单连接网络中,最令人满意的解释可以找到在线性时间的消息传递算法类似于一个信念更新。在多连通网络中,问题可能是指数困难的,但如果网络是稀疏的,拓扑考虑可以用来使解释任务易于处理。一般来说,找到最可能的假设组合并不比计算任何单个假设的置信度更复杂。在医学诊断中的应用举例说明。
2013-03-27 cs.AI
On the Variational Costs of Changing Our Minds
University of Oxford(牛津大学);VERSES AI Research Lab(VERSES人工智能研究实验室)
本文提出一个资源理性变分框架,将信念更新建模为在信念效用与KL散度信息代价之间权衡的有动机决策,并通过计算实验模拟确认偏误和态度极化等常见人类行为。
2025-09-22 cs.AI cs.IT math.IT
A New Rational Algorithm for View Updating in Relational Databases
RWTH Aachen(亚琛工业大学);University of Bonn(波恩大学)
信念和知识的动态是任何自治系统的主要组成部分之一,它应该能够吸收新的信息。为了将信念动力学理论的合理性结果应用到各种实际问题中,它应该在两个方面进行推广:第一,它应该允许信念的某一部分被声明为不变的;第二,信念状态不需要是演绎封闭的。本文提出了这样一种广义的信念动力学,称为基地动力学,随着知识库(霍恩或霍恩逻辑分层否定)的广义修正算法的概念。我们表明,知识库动态有一个有趣的连接,通过击中集和绑架的内核变化。在本文中,我们将展示如何从析取逻辑编程技术可以用于有效的(演绎)数据库更新。其核心思想是将给定的数据库连同更新请求一起转换成一个析取(数据库)逻辑程序,并应用析取技术(如最小模型推理)来解决原始的更新问题。该方法扩展并集成了标准技术,以实现高效的查询应答和完整性检查。一个击中集的生成是通过一个超tableaux演算和魔术集,专注于最小的目标。
2014-07-13 cs.AI cs.DB
Updating with incomplete observations
Ghent University(根特大学);IDSIA(人工智能研究所)
目前,人们对Shafer于1985年提出的在观测不完整(或集值)时更新概率的问题重新产生了兴趣。这是一个基本问题,对贝叶斯网络特别感兴趣。最近,Grunwald和Halpern证明了常用的更新策略在这里失败,除非在非常特殊的假设下。我们提出了一个新的规则更新概率不完整的观测。我们的方法是故意保守的:我们对产生不完整观测的所谓不完整机制不做任何假设或做很弱的假设。我们的模型,我们对这种机制的无知由一个空洞的较低的prevision,从理论上的不精确概率的工具,我们推导出一个新的更新规则,使用相干参数。一般来说,我们的规则产生较低的后验概率,以及部分确定的决策。这是对不完全性机制无知的逻辑结果。我们展示了如何新的规则可以妥善解决明显的悖论在“蒙蒂霍尔”难题。此外,我们将其应用到贝叶斯网络中使用专家知识构建的新证据的分类。我们提供了一个精确的算法,这个任务的线性时间复杂度,也为多连通网。
2014-08-07 cs.AI
Simulation Approaches to General Probabilistic Inference on Belief Networks
Stanford University(斯坦福大学);Rockwell International Science Center(罗克韦尔国际科学中心)
已经开发了许多算法来解决信念网络上的概率推理问题。这些算法可以分为两个主要的组:精确的技术,利用条件的独立性时,显示的图形结构是相对稀疏的,和概率抽样技术,利用“电导”的嵌入式马尔可夫链时,条件概率有非极值。在本文中,我们研究了一个家庭的“向前”蒙特卡洛抽样技术类似于逻辑抽样[Henrion,1988],似乎表现良好,即使在一些多连接网络的极端条件概率,因此将普遍适用。我们考虑几个增强,减少后验方差使用这种方法,并提出了一个框架和标准,选择何时使用这些增强。
2013-03-27 cs.AI
Using ROBDDs for Inference in Bayesian Networks with Troubleshooting as an Example
Aalborg University(奥尔堡大学)
当使用贝叶斯网络对人造机械的行为进行建模时,通常会发生模型的大部分是确定性的。对于这种贝叶斯网络,模型的确定性部分可以表示为布尔函数,并且置信更新的中心部分简化为计算布尔函数中满意配置的数量的任务。在本文中,我们将探讨如何在计算布尔函数的进步,可以通过信念更新,特别是在故障排除的背景下。我们目前的实验结果表明,一个显着的速度相比,传统的连接树传播。
2013-01-16 cs.AI
Fast Belief Update Using Order-of-Magnitude Probabilities
Rockwell Science Center(罗克韦尔科学中心)
我们提出了一个算法,称为预测,更新因果网络量化的数量级概率的信念。该算法利用了网络的结构和量化,并提出了一个多项式渐近复杂性。预测表现出保守的行为,因为它总是合理的,但并不总是完整的。我们提供了充分的条件,完整性和目前的算法来测试这些条件和计算一套完整的似是而非的值。我们提出预测作为一种有效的方法来估计概率值,并说明其使用结合两个已知的概率推理算法。最后,我们描述了一个应用程序的预测计划评估,目前的实验结果,并讨论了有关其使用的问题与条件逻辑的信念,并在表征无关。
2013-02-20 cs.AI
Search-based Methods to Bound Diagnostic Probabilities in Very Large Belief Nets
Rockwell International Science Center(罗克韦尔国际科学中心)
由于精确的概率推理是棘手的一般大型多连接的信念网,近似方法是必需的。一种有前途的方法是在假设(网络的实例化)中使用启发式搜索来找到最可能的假设,如TopN算法。搜索是基于假设的相对概率,这是有效的计算。给定部分假设的相对概率的上界和下界,就有可能获得假设的绝对概率的界限。最佳优先搜索的目的是减少最大误差逐步缩小边界的更多的假设进行检查。在这里,定性概率分析得到的BN 20类网络的网络和概括取代噪声或负协同假设的部分假设的相对概率的界限。该方法是通过应用到一个非常大的信念网络,QMR-BN,这是一个重新制定的内科医生-1系统的内科诊断说明。
2013-03-20 cs.AI
Computational Advantages of Relevance Reasoning in Bayesian Belief Networks
University of Pittsburgh(匹兹堡大学)
本文介绍了一个计算框架推理贝叶斯信念网络,从集中推理和相关推理的显着优势。该框架基于d -分离和其他简单且计算效率高的技术,用于修剪网络中不相关的部分。我们的主要贡献是一种技术,我们称之为基于相关性的分解。基于相关性的分解方法通过关注大网络中的部分并将其分解为部分重叠的子网络来实现信念更新。这使得在一些棘手的网络中进行推理成为可能,此外,通常会导致显着的加速,因为更新所有子网所花费的总时间实际上通常比更新整个网络所花费的时间要少得多。我们报告的实证检验结果表明,我们的方法的实际意义。
2013-02-06 cs.AI
A betting interpretation for probabilities and Dempster-Shafer degrees of belief
至少有两种方法可以解释投注中的数字信念程度:(1)你可以按照信念程度定义的赔率下注,或者(2)你可以判断,利用这种投注机会的策略不会使其风险资本乘以一个很大的因子。这两种解释都可以应用于普通的加性概率,并用于证明条件更新。只有第二个可以适用于Dempster-Shafer程度的信念,并用于证明Dempster的规则的组合。
2010-01-11 cs.AI math.ST stat.TH
Evidence Propagation and Consensus Formation in Noisy Environments
University of Bristol(布里斯托尔大学);Otto von Guericke University Magdeburg(奥托·冯·格里克大学马格德堡分校)
我们研究了多智能体系统中的共识形成的有效性,其中既有基于直接证据的信念更新,也有智能体之间的信念组合。特别是,我们考虑的情况下,人口的代理合作的最好的n的问题,其目的是达成共识,这是最好的(或者,真正的)状态之间的一组状态,每个具有不同的质量值(或证据水平)。代理人的信念表示在Dempster-Shafer理论的质量函数,我们调查的宏观层面的属性四个著名的信念组合运营商的多智能体共识形成问题:Dempster的规则,Yager的规则,Dubois和普拉德的运营商和平均运营商。考虑了算子的收敛性,并针对不同的证据率和噪声水平进行了仿真实验。结果表明,直接证据的更新和信念的组合代理之间的结果更好的共识,以最佳状态比单独的证据更新。我们还发现,在这个框架中的运营商是强大的噪音。广泛地说,Yager的规则被证明是更好的运营商在各种参数值,即收敛到最佳状态,鲁棒性噪声,和可扩展性。
2020-01-20 cs.AI cs.MA
GALGO: A Genetic ALGOrithm Decision Support Tool for Complex Uncertain Systems Modeled with Bayesian Belief Networks
Massachusetts Institute of Technology(麻省理工学院)
贝叶斯信念网络可以用来表示和推理具有不确定性、不完整性和冲突性信息的复杂系统。信度网络是对变量之间的概率依赖性和条件独立性进行编码和量化的图。在诊断中感兴趣的一种类型的推理被称为溯因推理(给定变量的任何部分子集的值,确定全局最可能的系统描述)。在某些情况下,溯因推理可以使用分布式网络计算的精确算法来执行,但它是一个NP难问题,并且复杂性随着无向循环、每个变量的离散状态数和网络中变量数的存在而急剧增加。本文介绍了一种近似方法的基础上遗传算法进行溯因推理的大型,多连接的网络,复杂性是一个问题时,使用最精确的方法和系统的搜索方法是不可行的。理论上的充分性的方法进行了讨论,并提出了初步的实验结果。
2013-03-06 cs.AI
A Hybrid Algorithm to Compute Marginal and Joint Beliefs in Bayesian Networks and Its Complexity
贝叶斯网络中概率更新的精确算法一般有两种形式。第一种方法涉及使用结构,通常是团树,并执行基于本地消息的计算来提取每个变量的信念。第二类一般算法涉及使用非串行动态规划技术来提取对某些期望的变量组的信任。在本文中,我们提出了一种混合算法的基础上,后者的方法,但拥有检索的能力,在所有单变量的信念。该技术的优点在于,它节省了一个NP难的计算步骤,而不是使用每种类型的一个算法。此外,这种技术再次加强了Jensen和Jensen [JJ 94]的猜想,因为它仍然需要一个单一的NP-困难步骤来建立进行推理的结构,正如我们通过确认Li和D 'Ambrosio [LD 94]证明的OFP的NP-困难。
2013-01-30 cs.AI
Making Decisions Using Sets of Probabilities: Updating, Time Consistency, and Calibration
CWI(荷兰国家数学与计算机科学研究所);Cornell University(康奈尔大学)
我们考虑代理应该如何更新她的信念时,她的信念是由一组P的概率分布,代理决策使用极大极小准则,也许是最好的研究和最常用的标准在文献中。我们采用了一个博弈论的框架,代理人发挥对一个庄家,谁选择一些分布从P.我们认为两个合理的游戏,不同的庄家知道当他做出选择。之前观察到的异常现象,如时间不一致,可以理解为是因为不同的游戏正在进行,针对不同信息的博彩公司。我们的特点是重要的特殊情况下,最佳决策规则根据极大极小准则的金额要么条件或简单地忽略的信息。最后,我们考虑更新和校准之间的关系时,不确定性描述的概率集。我们的结果强调了Epstein和Schneider的矩形性条件的关键作用。
2014-01-16 cs.AI cs.GT
BayesBench: Evaluating LLM Belief Trajectories Under Multi-Turn Evidence Accumulation
Meta AI;Columbia University(哥伦比亚大学);Meta Superintelligence Labs(Meta超级智能实验室);Tel Aviv University(特拉维夫大学)
提出BayesBench基准,通过三个渐进复杂任务评估LLM在多轮证据积累中的信念更新是否接近贝叶斯理性,发现规模提升改善潜在推理但未可靠转化为预测。
2026-07-01 cs.AI
Price Updating in Combinatorial Prediction Markets with Bayesian Networks
Yahoo! Research(雅虎研究院);Duke University(杜克大学)
为了克服基于对数市场评分规则(LMSR-based)的组合预测市场中计算/更新价格的#P-困难,Chen等人。[5]最近使用一个简单的贝叶斯网络来表示锦标赛组合预测市场中证券的价格,并表明两种类型的流行证券是结构保持的。在本文中,我们显着扩展这一想法,采用贝叶斯网络在一般的组合预测市场。我们揭示了一个非常自然的连接基于LMSR的组合预测市场和概率信念聚合,这导致了一个完整的表征所有结构保持证券可分解的网络结构。值得注意的是,Chen等人[5]的主要结果是我们特征的推论。然后,我们证明,为了一个非常基本的证券集是结构保持,贝叶斯网络的图必须是可分解的。我们还讨论了一些近似技术的证券结构不保持。
2012-02-14 cs.AI cs.GT
A Brief History of Updates of Answer-Set Programs
NOVA LINCS, Universidade Nova de Lisboa(NOVA LINCS,新里斯本大学)
在过去的几十年里,已经有相当多的努力致力于在稳定模型语义(a.k.a.)下更新逻辑程序的问题。答案集程序),或者换句话说,当一个逻辑程序所描述的世界发生变化时,如何表征它的结果。虽然最先进的方法是由相同的基本直觉和愿望作为信念更新在经典逻辑的背景下,他们建立在根本不同的原则和方法,这阻碍了一个统一的框架,可以包括信念和规则更新。在本文中,我们将概述一些与答案集编程更新相关的主要方法和结果,同时指出这一主题的研究所面临的一些主要挑战。
2022-02-19 cs.AI
Probabilistic Arc Consistency: A Connection between Constraint Reasoning and Probabilistic Reasoning
Simon Fraser University(西蒙弗雷泽大学)
我们证明了约束推理和概率推理之间的联系。我们提出了一个算法,称为{em概率弧一致性},这是一个众所周知的算法的推广弧一致性用于约束推理,和一个特殊的单连通网络的信念更新算法。我们的算法对单连通约束问题是精确的,但对任意问题都可以很好地近似。我们简要地讨论了一些经验结果,和相关的方法。
2013-01-16 cs.AI
Entropy, Information, and the Updating of Probabilities
University at Albany-SUNY(纽约州立大学奥尔巴尼分校)
本文是一个审查的一个特定的方法,最大熵的方法作为一个一般框架的推理。讨论强调了推导中的语用因素。一个知识概念的信息定义在其关系的贝叶斯信念的理想理性代理。通过淘汰归纳法设计了先验概率分布更新到后验概率分布的方法。对数相对熵被挑选出来作为更新的独特工具,(a)具有普遍适用性;(b)承认先验信息的价值;(c)承认科学独立性概念所发挥的特权作用。由此产生的框架-ME方法-可以处理任意先验和任意约束。它包括MaxEnt和贝叶斯规则作为特殊情况,因此,它将熵和贝叶斯方法统一为一个单一的一般推理方案。ME方法超越了仅仅选择一个单一的后验概率,但也解决了其他分布的可能性有多大的问题,这为波动和大偏差理论提供了一个直接的桥梁。
2021-07-09 cs.AI physics.data-an stat.ME
How AI Aggregation Affects Knowledge
Massachusetts Institute of Technology(麻省理工学院);NBER(美国国家经济研究局);CEPR(经济政策研究中心);Columbia University(哥伦比亚大学);Tuck School of Business at Dartmouth College(达特茅斯学院塔克商学院)
本文研究人工智能聚合对学习的影响,通过扩展DeGroot模型引入AI聚合器,分析聚合速度对学习效果的影响,发现局部聚合器优于全局聚合器。
2026-04-06 cs.AI cs.CY cs.SI