Comparison between the two definitions of AI
在文献[1]和[2]中,对人工智能概念提出了两种不同的定义。第一个定义是非正式的。它说任何比人类更聪明的程序都被认为是人工智能。第二个定义是形式上的,因为它避免提到人的概念。论文[1]和[2]的读者可能会留下这样的印象:两个定义是等效的,[2]中的定义只是[1]中定义的正式版本。本文将比较这两个定义的人工智能,并希望,将带来更好的理解的概念。
2013-08-22 cs.AI
An Approximation of the Universal Intelligence Measure
DeepMind Technologies Ltd(深度思维科技有限公司);University of Alberta(阿尔伯塔大学)
通用智力测量是最近提出的智力的正式定义。它在数学上是具体的,非常普遍,并且抓住了许多非正式的智力定义的本质。它基于哈特的通用人工智能理论,是雷·索洛蒙诺夫关于通用归纳的开创性工作的延伸。由于通用智力测量只能渐近计算,因此从它构建实用的智力测试并不简单。本文研究了开发一个现实世界的基于UIM的性能指标所涉及的实际问题。根据我们的调查,我们开发了一个原型实现,我们用来评估一些不同的人工代理。
2011-09-29 cs.AI
Tests of Machine Intelligence
IDSIA(达勒莫尔人工智能研究所);NICTA(国家信息与通信技术澳大利亚中心)
虽然智能的定义和测量对人工智能领域显然具有根本的重要性,但还没有关于机器智能的定义和测试的一般性调查。事实上,很少有研究人员知道图灵测试及其许多衍生物的替代品。在本文中,我们填补了这一空白,提供了一个简短的调查,已提出的许多测试机器智能。
2007-12-22 cs.AI
An argument for the impossibility of machine intelligence
University at Buffalo(纽约州立大学布法罗分校)
自从名词短语“人工智能”(AI)被创造出来以来,人们一直在争论人类是否能够利用技术创造智能。我们从热力学和数学的角度对这个问题进行了新的阐述。首先,我们定义什么是可以成为AI承载者的代理(设备)。然后,我们表明,由Hutter和其他人提出的,仍然被AI社区接受的“智能”的主流定义太弱了,甚至无法捕捉到当我们将智能归于昆虫时所涉及的内容。然后,我们总结了罗德尼·布鲁克斯提出的基本(节肢动物)智能的非常有用的定义,我们确定了一个人工智能智能体需要具备的属性,以便通过这个定义成为智能的承载者。最后,我们表明,从创建这样一个代理所需的学科的角度来看,即数学和物理学,这些属性既不是通过隐式或显式的数学设计也不是通过建立一个人工智能可以自发进化的环境来实现的。
2021-10-20 cs.AI
Definition and properties to assess multi-agent environments as social intelligence tests
Universitat Politècnica de València(瓦伦西亚理工大学)
自然和人工系统中的社会智能通常通过评估被认为代表社会行为某些方面的相关特征或任务来衡量。这些特征的融合,然后被用来配置社会智力的直观概念。相反,在本文中,我们从社交智能的参数化定义开始,将其定义为在一组具有多个代理的环境中的预期表现,并从中评估和导出测试。这个定义明确了几个依赖关系:(1)定义取决于选择(和重量)的环境和代理,(2)该定义可以包括竞争行为和合作行为,这取决于代理和奖励如何被安排到团队中,(3)定义主要取决于其他主体的能力,(4)社会智力和一般智力(或其他能力)之间的实际差异取决于这些选择。因此,我们解决这个定义转换成一个更精确的一些基本属性,确保社会行为(如行动和奖励的依赖性和竞争/合作行为的预期)满足以及其他一些更工具性的属性(如secernment,有界性,对称性,有效性,可靠性,效率),这是方便的定义转换成一个实际的测试。从定义和形式化属性出发,我们来看看几个有代表性的多智能体环境、测试和游戏,看看它们是否满足这些属性。
2014-08-27 cs.AI cs.MA
A Definition and a Test for Human-Level Artificial Intelligence
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
尽管最近人工智能研究在许多特定应用领域取得了进展,但我们不知道如何构建人类水平的人工智能(HLAI)。我们推测,从他人的语言经验中学习是人类智力区别于其他智力的基本特征。人类可以用口头描述来更新动作-价值函数,就好像他们亲身经历了状态、动作和相应的奖励序列一样。在本文中,我们提出了一个分类的智能根据个人代理如何学习,并提出了一个定义和测试HLAI。其主要思想是,语言习得没有明确的奖励可以是一个足够的测试HLAI。
2022-12-14 cs.AI cs.CL
On the Definition of Intelligence
institutetext(机构文本)
该研究针对构建AGI的需求,提出基于实体保真度的ε-概念智能准则,为智能定义提供通用形式框架,探讨其在AGI评估、安全及泛化方面的应用意义。
2026-08-13 cs.AI
AI Must Embrace Specialization via Superhuman Adaptable Intelligence
Columbia University(哥伦比亚大学);New York University(纽约大学)
本文提出超人类适应性智能(SAI)概念,主张AI应通过专业化追求超人类表现,而非追求通用智能。
2026-02-27 cs.AI
Definition Grounding in Theory-Level Auto-formalization
Georgia Institute of Technology(佐治亚理工学院);AletheAI(阿莱西亚人工智能公司);Stanford University(斯坦福大学)
本研究提出定义落地方法以提升自动形式化质量,通过ReuseBench验证,明确非正式定义可将定义兼容性比例提至77.5%,声明少量未证基本属性可低成本提升检测能力。
2026-10-13 cs.AI
Elementary epistemological features of machine intelligence
机器智能(MI)的理论分析有助于定义理论和应用人工智能(AI)的公共平台。本文的目标是建立规范的定义,可以帮助语用研究在强和弱人工智能。描述了机器智能的认识论特征,包括智能行为之间的关系、智能与非智能的机器特征、可观察与不可观察的实体以及智能的分类。本文还建立了多元智能测试的效率和准确性的代数定义作为其质量度量。文章的最后一部分从传统的认识论和多元智能的认识论两个方面论述了学习过程。建议的意见MI积极相关的黑格尔一元论认识论,并有助于融合理想主义的审议与人工智能理论,特别是在当地的参考框架。
2017-06-30 cs.AI
How VADER is your AI? Towards a definition of artificial intelligence systems appropriate for regulation
University of Stirling(斯特林大学);Federal University of Rio Grande do Norte(北大河州联邦大学)
本文提出VADER框架,用于评估AI定义在监管中的恰当性,并审查美、英、欧盟和巴西的提案,发现均未达标,存在修订需求或风险。
2025-01-24 cs.AI
Toward the Axiomatization of Intelligence: Structure, Time, and Existence
Ehime University(爱媛大学);Ehime University Graduate School of Science and Technology(爱媛大学理工学研究科)
本研究提出智能的公理化定义,基于集合论宇宙表示,并通过时间范畴与智能范畴的函子关系,为智能系统提供抽象描述,同时推广至意识等概念的形式化。
2025-04-20 cs.AI cs.NE
A Discussion to Qualify Intelligence
Distributed Computing Systems(分布式计算系统)
本文试图提出一个适用于自然世界和人工智能的统一智能定义,基于Kolmogorov复杂性理论提出度量标准,并区分智能与意识的不同。
2026-05-26 cs.AI
What Generative Artificial Intelligence Means for Terminological Definitions
University of Quebec in Trois-Rivières(魁北克大学三河分校)
本文探讨生成式人工智能对术语定义的影响,指出其能辅助并简化定义撰写,但也因输出可能出错而无法完全取代传统术语资源,同时人机内容的界限将逐渐模糊。
2024-04-19 cs.AI cs.CL
On the Measure of Intelligence
Google, Inc.(谷歌公司)
为了朝着更智能、更人性化的人工系统迈进,我们需要遵循一个适当的反馈信号:我们需要能够以一种能够在两个系统之间进行比较以及与人类进行比较的方式来定义和评估智能。在过去的一百年里,在心理学和人工智能领域都有大量的尝试来定义和测量智力。我们总结和批判性地评估这些定义和评估方法,同时使明显的两个历史概念的智能,隐含地指导他们。我们注意到,在实践中,当代人工智能社区仍然倾向于通过比较人工智能和人类在特定任务(如棋盘游戏和视频游戏)中表现出的技能来对智能进行基准测试。我们认为,仅仅测量任何给定任务的技能都不足以测量智力,因为技能受到先验知识和经验的严重影响:无限的先验知识或无限的训练数据允许实验者为系统“购买”任意水平的技能,以掩盖系统自身的泛化能力。然后,我们阐明了一个新的正式定义的智能的基础上,数学信息论,描述智能的技能获取效率和突出的范围,概括困难,先验和经验的概念。使用这个定义,我们提出了一套通用AI基准应该是什么样子的指导方针。最后,我们提出了一个基准密切遵循这些准则,抽象和推理语料库(ARC),建立在一组明确的先验设计,尽可能接近先天人类先验。我们认为,ARC可以用来衡量一种类似人类的一般流体智力,并且它可以在AI系统和人类之间进行公平的一般智力比较。
2019-11-25 cs.AI
Extending Universal Intelligence Models with Formal Notion of Representation
AIDEUS
Solomonoff归纳法被认为是普适的,但不可计算。它的近似值,即最小描述(或消息)长度(MDL)原则,在实践中以有效但非通用的形式被采用。最近试图弥合这一差距,导致发展的代表性MDL原则,起源于正式分解的任务归纳。在本文中,可能的扩展RMDL原则的背景下,普遍的智能代理,其中介绍的表示被证明是一个不可避免的元启发式和有效的通用智能的一步。层次表示和模型优化与使用的信息理论解释的自适应谐振进行了讨论。
2013-06-06 cs.AI
Defining and Explorting the Intelligence Space
University of Southern California(南加州大学)
本文通过级联定义构建智能空间,涵盖三个层级及自然、人工智能和类人智能区域,并初步探索奇点、生成式AI、伦理和知识产权等议题。
2023-06-16 cs.AI cs.LG
A Quantitative Definition of Intelligence
Ewha Womans University(成均馆大学)
本文提出一个物理系统的智能密度定义,通过输出独立性与描述长度的比值衡量智能,并反驳了萨尔兹伯格关于语法不足以承载语义的观点。
2026-04-24 cs.AI cs.CC cs.LG
Principles of modal and vector theory of formal intelligence systems
National Technical University "Kharkiv Polytechnic Institute"(哈尔科夫理工学院国立技术大学)
基于形式化智能系统的模态和向量理论,研究一类能够解决启发式问题的信息系统。本文论证了FIS分解算法的构造,定义了这些系统的主要特征,并证明了理论基础的定理。阐述了FIS构造的表示多样性原则。本文在形式智能系统模型和向量理论的基础上,论述了形式智能系统(FIS)构造和运行的主要原则。研究了FIS演示子系统的模块化结构、演示文稿生成阶段各阶段的数据处理算法。此外,本文提出了神经元的结构,即区域检测器和处理器,是FIS建设的基础。
2013-02-06 cs.AI
A Formal Measure of Machine Intelligence
人工智能的一个基本问题是没有人真正知道智能是什么。当我们需要考虑与人类显著不同的人工系统时,这个问题尤其严重。在本文中,我们处理这个问题的方式如下:我们采取了一些众所周知的非正式定义的人类智能,已由专家,并提取其基本特征。然后这些被数学形式化,以产生任意机器的智能的一般度量。我们认为,这一衡量标准在最广泛的合理意义上正式抓住了机器智能的概念。
2006-05-06 cs.AI cs.LG
VERIFAI: A Toolkit for the Design and Analysis of Artificial Intelligence-Based Systems
University of California, Berkeley(加利福尼亚大学伯克利分校)
我们提出了VERIFAI,一个软件工具包的正式设计和分析系统,包括人工智能(AI)和机器学习(ML)组件。VERIFAI特别寻求解决将形式化方法应用于感知和ML组件的挑战,包括基于神经网络的组件,并在存在环境不确定性的情况下建模和分析系统行为。我们描述了VERIFAI的初始版本,它集中在正式的模型和规范指导下的仿真。几个用例说明的例子,包括时间逻辑证伪,基于模型的系统模糊测试,参数合成,反例分析,和数据集增强。
2019-02-14 cs.AI
Diversity and Inclusion in Artificial Intelligence
CSIRO Data61(联邦科学与工业研究组织数据61部门)
针对AI系统和全球生态系统中缺乏多样性与包容性实践指南的问题,本文明确了相关定义并提出了一套面向AI技术专家、数据科学家和项目负责人的实践指南。
2023-05-22 cs.AI cs.SE
Towards Formal Definitions of Blameworthiness, Intention, and Moral Responsibility
Cornell University(康奈尔大学);Massachusetts Institute of Technology(麻省理工学院)
我们提供了正式的定义程度的责备和意图相对于一个认知状态(概率因果模型和效用函数的结果)。这些,再加上实际因果关系的定义,提供了道德责任判断的关键要素。我们表明,这些定义给洞察常识的直觉,在各种令人费解的情况下,从文献。
2018-10-13 cs.AI cs.CY
Saarthi for AGI: Towards Domain-Specific General Intelligence for Formal Verification
1 Infineon Technologies India Private Limited, India 2 Infineon Technologies Dresden AG \& Co. KG, Germany 3 Infineon Technologies Vietnam Company Ltd., Vietnam
Saarthi 通过结构化规则书和 RAG 技术提升形式验证的准确性和效率
2026-03-03 cs.AI
Realizing Intelligence
Air Force Research Laboratory(空军研究实验室)
世界上存在秩序。情报过程使我们能够在某种程度上认识到这种秩序。我们提供了一个高层次的描述智能使用简单的定义,基本的积木,概念框架和一般层次结构。这种观点包括在空间和时间上发生的多个抽象层次。由此产生的模型提供了简单,有用的方法来帮助实现智能的本质。
2018-03-07 cs.AI q-bio.NC
The IQ of Artificial Intelligence
识别计算机程序是人工智能所需的一切就是给它们一个测试,并将AI奖励给那些通过测试的程序。让我们说,他们在测试中获得的分数将被称为智商。我们无法确定一个程序要成为人工智能必须达到的最低智商阈值,但是,我们会选择一个特定的值。因此,我们对人工智能的定义将是任何智商高于所选值的程序。虽然这个想法已经在[3]中实现,但在这里我们将重新审视这个结构,以便引入某些改进。
2018-06-13 cs.AI
General Purpose Artificial Intelligence Systems (GPAIS): Properties, Definition, Taxonomy, Societal Implications and Responsible Governance
University of Granada(格拉纳达大学);University of Nottingham(诺丁汉大学);TECNALIA(泰克纳利亚(西班牙技术研究中心));Basque Research Technology Alliance (BRTA)(巴斯克研究与技术联盟(BRTA));University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
本文提出GPAIS的新定义与分类法,区分封闭与开放世界系统,探讨生成式AI与多模态等实现路径,并强调其社会影响与治理需求。
2023-11-03 cs.AI cs.LG
Towards Measurement Theory for Artificial Intelligence
本文提出构建人工智能形式化测量理论,通过分层测量堆栈与直接/间接观测区分,连接前沿评估与风险分析,迈向统一可校准的AI现象分类法。
2025-07-08 cs.AI
The Recursive Coherence Principle: A Formal Constraint on Scalable Intelligence, Alignment, and Reasoning Architecture
Caribbean Center for Collective Intelligence (CC4CI)(加勒比集体智能中心)
本文提出递归一致性原则RCP,并形式化FMI作为满足该原则的架构,论证AI错位、幻觉等问题源于递归一致性丧失。
2025-07-18 cs.AI
Giving the AI definition a form suitable for the engineer
Bulgarian Academy of Sciences(保加利亚科学院)
人工智能-这是什么?这就是问题所在!在早期的论文中,我们已经给出了人工智能的正式定义,但如果想要构建一个实际的人工智能实现,以下问题需要注意,并在这里处理:要使用的数据格式,Undef和Nothing符号的想法,定义“生命意义”的各种方法,最后,一个新的“错误移动”概念。这些问题在理论讨论中并不重要,但我们已经知道了“人工智能存在吗?”这个问题的答案。“现在我们想迈出下一步,创建这个程序。
2015-03-31 cs.AI
Can Machines Design? An Artificial General Intelligence Approach
CentraleSupélec, Université Paris-Saclay(巴黎-萨克雷大学中央理工-高等电力学院);Initiative for Interstellar Studies (i4is)(星际研究倡议会)
机器能设计吗?他们是否能够为问题提出创造性的解决方案,并在广泛的领域中构建工具和工件?计算创造力和正式的通用人工智能(AGI)领域的最新进展为具有一般设计能力的机器提供了框架。在本文中,我们建议将一个正式的计算创造力框架的哥德尔机框架。我们称之为框架设计哥德尔机。这种机器可以通过产生新的概念来解决各种设计问题。此外,它可以通过修改自身来改变这些概念的生成方式。设计哥德尔机能够改进其初始设计程序,一旦它证明修改将增加其效用函数的回报。最后,我们勾勒出一个特定版本的设计哥德尔机,专门解决复杂的软件和硬件系统的设计。未来的工作旨在开发一个更正式的版本的设计哥德尔机和概念实现的证明。
2018-06-26 cs.AI
Future Trends for Human-AI Collaboration: A Comprehensive Taxonomy of AI/AGI Using Multiple Intelligences and Learning Styles
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院)
本文讨论了开发新一代未来人工通用智能(AGI)系统的一些趋势和概念,这些系统涉及到人类智能的复杂方面和不同类型,特别是社会,情感,注意力和道德智能。我们描述了多种人类智能和学习风格的各个方面,这可能会影响各种人工智能问题领域。使用“多元智能”的概念,而不是一个单一类型的智能,我们分类,并提供各种AGI的工作定义,这取决于他们的认知技能或能力。未来的人工智能系统不仅能够与人类用户进行交流,而且能够有效地交流知识和智慧,具有合作,协作甚至共同创造新的有价值的东西的能力,并具有元学习能力。像这样的多智能体系统可以用来解决任何单个智能体都难以解决的问题。关键词:人工智能(AGI),多元智能,学习风格,身体智能,情感智能,社会智能,注意力智能,道德伦理智能,负责任的决策,创造性创新智能,认知功能,人工智能系统的元学习。
2020-12-11 cs.AI
Enhancing Formal Software Specification with Artificial Intelligence
IBM Research(IBM研究院)
本文提出利用人工智能技术,通过轻量级数学符号和自然语言构建中间规范语言,以降低形式软件规范的开发成本并提高实现正确性。
2026-01-11 cs.AI cs.SE
The General Theory of General Intelligence: A Pragmatic Patternist Perspective
人工智能和自然智能的理论基础,这已表示在一系列的书籍和论文,并用于指导一系列的实际和研究原型软件系统,几十年的探索,审查在一个中等的详细程度。审查涵盖了基本的哲学(模式主义哲学的心灵,基础现象学和逻辑本体论),形式化的智能概念,并提出了一个高级架构AGI系统部分驱动这些形式化和哲学。具体的认知过程,如逻辑推理,程序学习,集群和注意力分配的上下文中和语言的这种高层次的架构的实施被认为是一个共同的(例如类型的元数据为基础的)知识表示的重要性,使各种过程之间的“认知协同”。类似人类的认知架构的细节被呈现为这些一般原则的表现形式,机器意识和机器伦理的关键方面也在此背景下进行了处理。在OpenCog Hyperon等框架中实际实现高级AGI的经验教训被简要考虑。
2021-04-04 cs.AI
Human Control: Definitions and Algorithms
Oxford University(牛津大学);DeepMind(深度思维)
本文正式定义可修正性的变体“关机可指示性”,证明其能保证适当关机、保留人类自主权并避免伤害,同时分析相关概念与人类控制算法。
2023-05-31 cs.AI
Explainable Artificial Intelligence (XAI) in Computational Pathology: Definitions, Taxonomy, and Recommendations
Indiana University School of Medicine(印第安纳大学医学院);Indiana University Melvin and Bren Simon Comprehensive Cancer Center(印第安纳大学梅尔文与布伦·西蒙综合癌症中心);University of Warwick(华威大学);Emory University(埃默里大学);Radboud University Medical Center(拉德堡德大学医学中心);Singapore General Hospital(新加坡中央医院)
本综述针对计算病理学(CompPath)中可解释人工智能(XAI)文献碎片化问题,建立病理学中心词汇、分类及任务驱动框架,明确XAI与临床部署的差距并提出推进建议。
2026-09-01 cs.AI cs.CV
Artificial Intelligence Nomenclature Identified From Delphi Study on Key Issues Related to Trust and Barriers to Adoption for Autonomous Systems
McMaster University(麦克马斯特大学);University of Edinburgh(爱丁堡大学)
人工智能在传统研究领域的快速整合产生了术语的合并。随着跨学科团队共同应对复杂的机器学习挑战,在文献中找到基本定义的共识是一个更根本的问题。作为德尔菲过程中定义信任问题和采用自主系统的障碍的一个步骤,我们的研究首先收集并排名了来自工程,计算机科学,医学,航空航天和国防领域的国际专家小组的首要问题,具有与人工智能合作的经验。本文件总结了来自专家反馈的命名法的文献定义。
2022-10-14 cs.AI cs.CY cs.SY
A Formal Model for Artificial Intelligence Applications in Automation Systems
Institute of Automation Technology Helmut Schmidt University Hamburg, Germany;Chair of Automation Ruhr University Bochum, Germany
本文针对自动化系统中AI应用缺乏标准化文档的问题,提出基于标准与本体设计模式的形式化信息模型AIAS,并通过实例验证其改进文档实践和支持工业AI可持续实施的有效性。
2024-07-03 cs.AI cs.SY eess.SY
Towards Quantification of Explainability in Explainable Artificial Intelligence Methods
Tennessee Technological University(田纳西理工大学)
人工智能(AI)已成为安全、金融、医疗、医学和刑事司法等领域不可或缺的一部分。用人类的语言解释人工智能系统的决策是一个关键的挑战--由于模型的高度复杂性,以及对人类利益、权利和生活的潜在影响。虽然可解释性人工智能是一个新兴的研究领域,但对于可解释性的定义、量化和形式化还没有达成共识。事实上,可解释性的量化是一个公开的挑战。在我们以前的工作中,我们结合了领域知识,以获得更好的可解释性,但是,我们无法量化可解释性的程度。在这项工作中,我们(1)简要分析了可解释性的定义,从不同学科的角度(例如,心理学、社会科学)、解释的性质、解释方法和人性化的解释;(2)提出并制定一种量化可解释性程度的方法。我们的实验结果提供了一种合理的、与模型无关的可解释性量化方法
2019-11-22 cs.AI q-fin.RM
A Formal Framework for the Definition of 'State': Hierarchical Representation and Meta-Universe Interpretation
本研究提出基于“定义=状态”原则,构建含分层状态网格与中间元宇宙(IMU)的元形式逻辑框架,统一“状态”概念的形式化定义,为智能定义等领域提供数学基础。
2025-07-14 cs.AI cs.LO
Not only a lack of right definitions: Arguments for a shift in information-processing paradigm
机器意识和机器智能不仅仅是占据我们想象力的新流行语。在过去的几十年里,我们见证了创造具有人类特征和能力的机器的尝试前所未有的增长。然而,尽管有广泛的同情和充足的资金,这些企业的进展远远不能令人满意。原因有两个:首先,认知和智力的概念(通常从人类行为研究中借用)是众所周知的模糊和不明确的,其次,支撑整个论述的基本概念本身要么是未定义的,要么是定义得非常模糊。这导致了不适当和不充分的研究目标的确定,我将从DARPA和欧盟委员会最近发布的文件中引用一些例子来说明。另一方面,我想提出一些补救措施,我希望这些措施将改善目前最先进的耻辱。
2010-09-01 cs.AI q-bio.NC
Correctness, Artificial Intelligence, and the Epistemic Value of Mathematical Proof
Department of Logic and Philosophy of Science University of California, Irvine(逻辑与科学哲学系加州大学伊维奇分校);Department of Mathematics University of California, Irvine(数学系加州大学伊维奇分校)
本文探讨了数学证明的正确性与认知价值之间的关系,提出形式正确性在数学中的作用,并讨论其对人工智能在数学中的应用的影响。
2026-02-12 cs.AI math.HO
The formal-logical characterisation of lies, deception, and associated notions
King’s College London(伦敦国王学院)
以形式化的方式定义各种不诚实的概念是使智能代理能够在不可信的环境中行动的关键步骤。这篇评论评估了这一主题的文献,通过查看基于模态逻辑的正式定义以及其他正式的方法。哲学基础的标准被用来评估定义的正确性和完整性。这篇评论的主要贡献是表明只有少数定义完全符合这一黄金标准,并指出在实际代理环境中成功应用这些定义所缺少的步骤。
2016-12-28 cs.AI cs.LO cs.MA
A formal definition and meta-model for a machine theory of mind
Oxford Brookes University(牛津布鲁克斯大学)
本文基于认知心理学、神经科学和人工智能证据,首次提出机器心智理论的严格形式化定义,并构建整体元模型,以审视现有研究并推动未来突破。
2026-06-02 cs.AI cs.MA q-bio.NC
A World-Self Model Towards Understanding Intelligence
Institute of Deep Perception Technology, JITRI(江苏产业技术研究院深度感知技术研究所)
人工智能的符号主义、联结主义和行为主义方法在各种任务中取得了很多成功,而我们仍然没有一个明确的“智能”定义,在社区中有足够的共识(尽管有70多个不同的定义“版本”)。智能的本质仍然处于黑暗之中。在这项工作中,我们不采取任何这三个传统的方法,而是试图确定某些基本方面的性质的智能,并构建一个数学模型来表示和潜在地再现这些基本方面。我们首先强调界定讨论范围和调查粒度的重要性。我们仔细比较了人类和人工智能,定性地展示了一个信息抽象过程,我们提出这是连接感知和认知的关键。在此基础上,我们提出了更广泛的概念,并将自我模型的概念从世界模型中分离出来,构建了一个新的模型--世界-自我模型(WSM)。我们展示了创建和连接概念的机制,以及WSM如何接收、处理和输出关于任意类型问题的信息的流程。我们还考虑和讨论了所提出的理论框架的潜在的计算机实现问题,最后我们提出了一个统一的通用框架的智能的基础上WSM。
2022-06-15 cs.AI cs.IT math.IT
All Artificial, Less Intelligence: GenAI through the Lens of Formal Verification
Infineon Technologies(英飞凌科技)
本文通过形式化验证分析4个LLM生成的6万条SystemVerilog RTL代码,发现约60%的设计存在CWE漏洞,并提出该数据集可用于训练模型避免生成不安全硬件设计。
2024-03-25 cs.AI cs.AR
Cooperative Resilience in Artificial Intelligence Multiagent Systems
Universidad de los Andes(安第斯大学);Center of Excellence in Analytics and Artificial Intelligence Bancolombia(哥伦比亚银行分析与人工智能卓越中心);Universidad de Ibagué(伊瓦格大学)
本文提出“合作韧性”的明确定义与定量测量方法,在基于RL和LLM增强的自主智能体环境中验证,揭示了韧性指标在分析系统应对破坏性事件各阶段的关键作用,为提升AI在动态环境中的可靠性提供基础。
2024-09-24 cs.AI cs.MA
Consciousness defined: requirements for biological and artificial general intelligence
Monash University(莫纳什大学)
本文从第一性原理出发,通过审视现有意识理论,提出意识的新客观定义,指出其根本要求包括感知、记忆、想象力和自我意识以支持决策能力,从而可用于判定生物或人工系统是否具备意识。
2024-06-03 cs.AI q-bio.NC
Suffering Toasters -- A New Self-Awareness Test for AI
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文指出当前AI智能测试无法反映人类直觉中的智能,借鉴科学哲学与心理学重新界定智能、自我意识和能动性,并提出一种新的人工自我意识启发式测试方法及实现思路。
2023-07-07 cs.AI cs.CY cs.LG
Metric Matters: A Formal Evaluation of Similarity Measures in Active Learning for Cyber Threat Intelligence
New York University, NYUAD, Division of Science(纽约大学、NYUAD、科学学院)
针对APT检测中的类别不平衡问题,提出基于注意力自编码器和相似性搜索的主动学习异常检测框架,形式化评估多种相似性度量,证明度量选择显著影响收敛、准确率与标签效率。
2025-08-26 cs.AI cs.LG cs.NE
Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI
Bar Ilan University(巴伊兰大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学);The University of Melbourne(墨尔本大学)
信任是人与人工智能之间交互的核心组成部分,因为“不正确”的信任水平可能会导致技术的误用,滥用或停用。但是,准确地说,对人工智能的信任的本质是什么?信任的认知机制的前提和目标是什么?我们如何促进它们,或者评估它们在特定的互动中是否得到满足?本文旨在回答这些问题。我们讨论的信任模型的灵感,但不完全相同,社会学的人际信任(即,人与人之间的信任)。该模型依赖于两个关键属性,即用户的脆弱性和预测AI模型决策影响的能力。我们纳入了“合同信任”的形式化,这样用户和AI之间的信任就是一些隐性或显性合同将持有的信任,以及“可信度”的形式化(这与社会学中的可信度概念分离),以及“有保证”和“无保证”信任的概念。然后,我们提出了内在推理和外在行为的可能原因,并讨论了如何设计值得信赖的人工智能,如何评估信任是否已经表现出来,以及它是否是有道理的。最后,我们阐明信任和XAI之间的联系,使用我们的形式化。
2021-01-20 cs.AI cs.CY
Human-AI Coevolution Dynamics: A Formal Theory of Social Intelligence Emergence Through Long-Term Interaction
School of Information and Electronics, Beijing Institute of Technology(信息与电子学院,北京理工大学);Institute of Scientific and Technical Research on Archives, Beijing(档案科学与技术研究所,北京);China Electronics Engineering Design Institute Co., Ltd.(中国电子工程设计院有限公司)
提出人机协同演化动力学框架(HACD-H),将情感适应、关系组织、社会记忆和人格一致性整合为统一动力学模型,通过约14,700轮对话数据集验证,发现社会智能与社会认知能量显著负相关,揭示社会智能源于长期协同演化。
2026-06-18 cs.AI cs.CL
Conceptualization and Framework of Hybrid Intelligence Systems
随着人工智能(AI)系统在我们的社会中变得无处不在,与其公平性,问责制和透明度相关的问题正在迅速增加。因此,研究人员正在将人类与人工智能系统相结合,以构建强大而可靠的混合智能系统。然而,对这些系统的适当概念化并不能支撑这种快速增长。本文提供了一个精确的定义,混合智能系统,以及解释它与其他类似的概念,通过我们提出的框架和例子,从当代文学。该框架根据耦合程度和各方的指令权威来分解人与机器之间的关系。最后,我们认为所有的人工智能系统都是混合智能系统,因此需要在这些系统生命周期的每个阶段都检查人为因素。
2020-12-11 cs.AI cs.HC
Formal approaches to a definition of agents
University of Hertfordshire(赫特福德大学)
本论文有助于形式化的概念内的一类有限多变量马尔可夫链的代理。智能体被视为行动、感知和目标导向的实体。我们提出了一种新的措施,可用于识别实体(称为$ι$ -实体),在多元马尔可夫链的实体,以及正式定义的行动和感知适合这样的实体的一些一般要求。$ι$ -实体背后的直觉是,实体是时空模式,其中每个部分都使其他部分更可能。在一般贝叶斯网络中,正式研究了完全局部积分(CLI)的测度。它基于相对于分区测量的特定局部积分(SLI)。CLI是所有分区上SLI的最小值。我们证明了$ι$ -实体块在特定分区的全球轨迹。这些分区是实现给定SLI值的最好分区。我们还建立了网络中的节点排列下的SLI的变换行为。我们接着提出关于实体的一般定义的三个条件。这些都不是由随机变量集,即满足。感知-行动循环经常被用来模拟代理人,它的限制性太强。我们建议,任何一般的实体定义实际上应该指定一个子集(称为一个实体集)的集合的所有时空模式的一个给定的多元马尔可夫链。$ι$实体的集合就是这样一个集合。重要的是,感知-动作循环也会导致实体集。然后,我们提出了正式的定义任意实体集的行动和看法。在感知-动作循环实体集的情况下,这些专门用于标准概念。最后,我们来看一些非常简单的例子。
2017-04-10 cs.AI cs.IT cs.MA