A mathematical framework of intelligence and consciousness based on Riemannian Geometry
Peking University(北京大学)
本文提出基于黎曼几何的数学框架,将智能元素视为高维空间中的token嵌入并形成流形,将思维流描述为流形测地线上的顺序激活,意识作为自指过程通过预测误差调整测地线,为生物与人工智能的结构和动力学提供统一理论。
2024-11-10 cs.AI math.DG
Revisiting Classic Thought Experiments to Measure Consciousness for Artificial Intelligence Safety
School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本研究通过CCE框架重访三大经典意识思想实验,构建符号测量场景区分外在任务表现与内部操作意识,指出两类系统行为表现相当但意识效率差异显著,为AI安全分析提供新的研究视角。
2026-08-04 cs.AI
ConsciousControlFlow(CCF): A Demonstration for conscious Artificial Intelligence
Harbin Institute of Technology(哈尔滨工业大学)
在这个演示中,我们提出了意识控制流(CCF),一个原型系统,以证明有意识的人工智能(AI)。该系统基于意识的计算模型和需求层次。CCF支持典型场景来展示有意识AI的行为和心理活动。我们证明,CCF提供了一个有用的工具,有效的机器意识的演示和人类行为的研究援助。
2021-02-06 cs.AI
Unifying Consciousness and Time to Enhance Artificial Intelligence
Centre for Consciousness Studies(意识研究中心)
意识是一个连续的意识过程,可以一次专注于一条信息。这个意识过程经历了因果关系,它支撑了时间的概念,同时它与物质和能量相互作用,形成现实。对意识、时间和现实的研究是复杂的,在许多领域都在快速发展,包括形而上学和基础物理学。现实在人类意识中组成模式,以回应自然界的混乱。这些干扰可以是物理的(例如,在意识中出现的模式与环境,生活和社会行为相关,其次是构建的框架,系统和结构。这些复杂的结构演变成文化、习俗、规范和价值观,从而创造了一个多样化的社会。在负责任的人工智能的进化过程中,重要的是要通过意识来适应进化的文化,伦理和道德价值观。这就需要提倡设计一种能够感知时间感知和人类道德的自学型人工智能。
2023-01-10 cs.AI q-bio.NC
Consciousness defined: requirements for biological and artificial general intelligence
Monash University(莫纳什大学)
本文从第一性原理出发,通过审视现有意识理论,提出意识的新客观定义,指出其根本要求包括感知、记忆、想象力和自我意识以支持决策能力,从而可用于判定生物或人工系统是否具备意识。
2024-06-03 cs.AI q-bio.NC
Survey of Consciousness Theory from Computational Perspective
Princeton University(普林斯顿大学);Imperial College London(帝国理工学院);University of Michigan(密歇根大学)
本文从计算视角综述了信息论、量子物理、认知心理学、生理学和计算机科学等领域的意识理论,并探讨了意识评估指标及计算模型具备意识的可能性,为构建通用人工智能提供基础。
2023-09-18 cs.AI q-bio.NC
Information Flow Theory (IFT) of Biologic and Machine Consciousness: Implications for Artificial General Intelligence and the Technological Singularity
Massachusetts Eye and Ear(麻省眼耳医院);Harvard Medical School(哈佛医学院)
意识的主观经验既熟悉又神秘。探索人类大脑中自上而下的有意识思维机制的策略,一直无法产生一个广义的解释性理论,这种理论可以通过进化来扩展,并可以应用于人工系统。信息流理论(IFT)为理解任何能够处理信息的系统中意识的发展和性质提供了一个新的框架。在优先考虑信息流的方向超过信息计算,IFT产生了一系列意想不到的预测。本手稿的目的是介绍IFT的基本概念,并探索人工智能,超人意识和我们对现实的基本感知的多方面影响。
2019-06-21 cs.AI cs.ET cs.IT
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
本研究基于多种主流意识科学理论推导意识的计算指示性属性,评估现有AI系统后认为当前AI无意识,但构建具备意识指示属性的AI无明显技术障碍,为AI意识研究提供了严谨的实证框架。
2023-08-22 cs.AI cs.CY cs.LG
Consciousness, natural and artificial: an evolutionary advantage for reasoning on reactive substrates
本研究提出一个精确计算模型,证明意识依赖底层基质并受反应性行为影响,支持物理主义;意识是智能实体的进化优势,但人工系统无需意识也可实现任意智能。
2025-10-17 cs.AI q-bio.NC
Brainish: Formalizing A Multimodal Language for Intelligence and Consciousness
Carnegie Mellon University(卡内基梅隆大学)
拥有丰富的多模态内部语言是人类智能的重要组成部分,它可以实现多模态预测,翻译和生成等几种必要的核心认知功能。在Blum和Blum(2021)提出的意识机器模型意识图灵机(CTM)的基础上,我们描述了一种称为Brainish的多模态语言的必要条件,包括单词,图像,音频和感觉,CTM的处理器使用它们来相互通信。我们定义的语法和语义的Brainish操作这种语言之前,通过多通道人工智能,一个充满活力的研究领域,研究处理和相关信息所需的计算工具,从异构信号的镜头。我们学习Brainish的一般框架涉及设计(1)单峰编码器来分割和表示单峰数据,(2)协调表示空间,该空间将单峰特征关联并组成,以获得多模态输入的整体意义,以及(3)解码器将多模态表示映射到预测(用于融合)或原始数据(用于翻译或生成)。通过讨论Brainish如何对沟通和协调至关重要,以实现CTM中的意识,并通过实现Brainish的简单版本,并评估其在多个真实世界的图像,文本和音频数据集上的多模态预测和检索任务上展示智能的能力,我们认为这种内部语言对于智能和意识的机器模型的进步将是重要的。
2022-07-06 cs.AI cs.CL cs.LG
AI Consciousness and Existential Risk
Frontier AI companies(前沿AI公司);independent foundations(独立基金会)
本文探讨人工智能意识与存在风险的区别,指出意识并非直接预测存在风险,但可能在某些情况下影响风险,强调区分两者对AI安全研究的重要性。
2026-05-14 cs.AI cs.CY
Theory of Cognitive Relativity: A Promising Paradigm for True AI
Beijing University of Technology(北京工业大学)
深度学习的兴起将人工智能(AI)带到了前沿。人工智能的最终目标是实现具有人类思维和意识的机器,但现有成果主要是在计算机平台上模拟智能行为。这些成就都属于弱人工智能,而不是强人工智能。如何实现强大的AI在智能科学领域还不清楚。目前,这一领域正在呼唤一种新的范式,特别是认知相对论。TCR旨在总结一套简单而优雅的关于智能本质的第一原则,至少包括世界相对性原则和符号相对性原则。世界相对性原理指出,智能代理可以观察到的主观世界受到它感知客观世界的方式的强烈约束。符号相对性原理指出,智能体可以使用任何物理符号系统来表达它在主观世界中观察到的东西。这两个原则是从科学事实和生活经验中得出的。思想实验表明,它们对于理解高水平智力很重要,对于建立科学的心理和意识理论也是必要的。TCR确实主张实现真正的人工智能,即人工通用智能或人工意识,而不是类脑智能,这是一个有希望的方向变化,特别是不同于人类和动物的人工智能。此外,TCR信条已经提出并扩展到揭示意识的秘密和指导意识机器的实现。在这个意义上,真正的人工智能可以以一种与大脑不同的方式来实现,TCR可能会结合一些额外的第一原则来推动一场智能革命。
2018-12-20 cs.AI
Systems Explaining Systems: A Framework for Intelligence and Consciousness
Independent Researcher(独立研究者)
本文提出了一种智能与意识的框架,通过关系结构的涌现来解释智能和意识的产生,强调递归多系统架构对实现类人人工智能的重要性。
2026-01-07 cs.AI cs.LG q-bio.NC
What Can Analogy Tell Us About Artificial Consciousness?
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出一个因果框架来评估关于人工意识的证据类比,区分产生意识的因素相似性与行为效应相似性,并指出行为相似性对AI意识仅提供有限证据。
2026-11-10 cs.AI
Dissociating Artificial Intelligence from Artificial Consciousness
University of Wisconsin(威斯康星大学);Brock University(布洛克大学);Allen Institute(艾伦研究所)
本文基于整合信息理论(IIT)证明,两个功能等价的系统在现象上可能不等价,数字计算机可模拟人类行为而不复制其体验,从而将人工智能与人工意识分离。
2025-03-03 cs.AI cs.CY q-bio.NC
Perfect AI Mimicry and the Epistemology of Consciousness: A Solipsistic Dilemma
本文探讨AI高保真拟态人类行为带来的意识判定认识论挑战,指出完美拟态体的出现会让意识归属陷入唯我论或推理不一致的两难,提出需基于经验一致性赋予其同等意识地位,对意识理论与AI伦理有重要意义。
2025-10-06 cs.AI
Quantum Consciousness Soccer Simulator
University of Debrecen(德布勒森大学)
在认知科学中,有效地使用各种游戏并不罕见。例如,在人工智能领域,RoboCup倡议旨在促进自主智能体技术领域的研究。在本文中,我们介绍了一个类似的足球模拟计划,试图调查一个模型的人类意识和现实的概念的认知问题的形式。此外,例如,主场优势和支持者的客观作用,可以自然地描述和讨论,在这个新的足球模拟模型。
2012-11-13 cs.AI cs.MA
What Is Consciousness? Artificial Intelligence, Real Intelligence, Quantum Mind, And Qualia
Institute for Systems Biology(系统生物学研究所);Alma Mater Studiorum Università di Bologna(博洛尼亚大学);European Centre for Living Technology(欧洲生命技术中心)
我们探讨这个问题:“什么是意识?”“以一种新的方式,不是作为笛卡尔的“系统怀疑”,而是作为有机体如何在他们的世界中找到自己的方式。找到一个人的方式包括找到可能有益的世界特征的可能用途或避免那些可能有害的用途。“X实现Y的可能用途”是“示能性”。X的使用次数是不确定的(或未知的),不同的使用是无序的,不可列出的,并且不能从另一个推断出来。所有的生物适应要么是遗传变异和选择所获得的启示,要么是生物体在其世界中找到X的用途来完成Y,这要快得多。基于此,我们得出了相当惊人的结论:(1)基于通用图灵机(UTM)的人工通用智能是不可能的,因为UTM不能“找到”新的启示。(2)脑-心不是纯粹的经典物理学,因为没有一个经典物理学系统可以是一台模拟计算机,其动力学行为可以同构于“可能的用途”。(3)大脑思维必须部分地由6.0 sigma到7.3 sigma的证据支持。(4)基于海森堡对量子态的解释,即通过测量将“潜能”转化为“实际”,在这种解释不是物质二元论的情况下,一个自然的假设是心灵实现了潜能。这在5.2 sigma处得到支持。然后,心智对纠缠在一起的大脑-心智-世界状态的实现被体验为感受质,并允许“看到”或“感知”X的使用来实现Y。我们可以做陪审团。计算机不能。(5)除了熟悉的量子计算机,我们还讨论了trans-Turing系统的潜力。
2022-06-29 cs.AI physics.bio-ph physics.hist-ph
The age of spiritual machines: Language quietus induces synthetic altered states of consciousness in artificial intelligence
University College London(伦敦大学学院);Imperial College London(帝国理工学院)
该研究通过操纵 CLIP 和 FLAVA 多模态模型的注意力权重模拟语言静默,发现降低语言注意力可使模型嵌入空间更接近无自我、合一性和最小现象体验等意识改变状态,从而支持语言分类在迷幻与冥想现象学中的关键作用。
2024-09-30 cs.AI cs.CL q-bio.NC
Toward IIT-Inspired Consciousness in LLMs: A Reward-Based Learning Framework
Sharif University of Technology, Tehran, Iran(谢赫堡技术大学)
本文提出基于奖励的学习框架,旨在通过整合信息理论提升语言模型的意识水平,实验显示该方法能有效提升文本生成效率并保持准确性。
2026-01-30 cs.AI
Artificial Consciousness as Interface Representation
Institute of Humanities, ShanghaiTech University, 201120 Shanghai, China(人文学院,上海科技大学,中国);Association for Mathematical Consciousness Science, 80539 Munich, Germany(数学意识科学协会,德国)
本文提出SLP测试框架,基于范畴论将人工意识问题重构为可检验的接口表示,以评估AI系统的类意识属性。
2025-08-06 cs.AI q-bio.NC
Probing for Consciousness in Machines
FAU Erlangen-Nürnberg(埃尔朗根-纽伦堡大学);University Hospital Erlangen(埃尔朗根大学医院)
本研究基于达马西奥意识理论,探索人工智能体通过强化学习在虚拟环境中形成自我模型与世界模型以发展核心意识的潜力,为AI模仿人类意识提供基础见解。
2024-11-25 cs.AI q-bio.NC
Living Together: Mind and Machine Intelligence
Amazon Research Cambridge(亚马逊剑桥研究院);The University of Sheffield(谢菲尔德大学)
在本文中,我们考虑我们在人类智能的背景下创造的机器智能的性质。我们认为,人类和机器智能之间的根本区别归结为\emph{embodiment factors}。我们将体现因素定义为实体传达信息的能力与计算信息的能力之间的比率。我们推测化身因素在驱动我们自己的智力和意识中的作用。我们简要回顾了认知的双重过程模型,并在该框架内铸造了机器智能,将其描述为一个占主导地位的零系统,它可以通过与我们潜意识的交互来驱动行为。出于对这种系统后果的担忧,我们建议可以考虑采取预防性行动。我们的主要结论是,我们应该害怕的是\emph{not}感知智能,而不是\emph{non-sentient}智能。
2017-05-22 cs.AI
What we are is more than what we do
Wisconsin Institute for Sleep and Consciousness, University of Wisconsin-Madison(威斯康星大学麦迪逊分校睡眠与意识研究所)
如果我们认真对待意识的主观性,意识就变成了一个“存在”而不是“做”的问题。因为“做”可以从“存在”中分离出来,所以功能标准本身不足以决定一个系统是否具备成为意识的物理基底的必要条件。“存在”和“行为”之间的分离在通用人工智能中最为突出,它可能很快就会复制任何人类能力:计算机可以在没有意识的情况下执行复杂的功能(在类似人类行为的限度内)。复杂的行为如果不是由一个有意识的人来执行,就变得毫无意义。
2021-01-21 cs.AI q-bio.NC
Synthetic media and computational capitalism: towards a critical theory of artificial intelligence
University of Sussex(萨塞克斯大学)
本文提出人工智能批判理论,引入算法状况概念,通过倒置、自动模仿生产与星座分析三大贡献,探讨合成媒体下真实性重构及计算资本主义中的批判方法需求。
2025-03-22 cs.AI cs.CY
Can a Machine be Conscious? Towards Universal Criteria for Machine Consciousness
Imperial College London(帝国理工学院)
针对机器意识判定缺乏共识的问题,本文深入分析意识的基础与特征,提出五项通用判据,为哲学、计算机科学、医学等领域研究者提供进一步探索机器意识这一“圣杯”的入门框架。
2024-04-30 cs.AI cs.CY q-bio.NC
Introduction to Artificial Consciousness: History, Current Trends and Ethical Challenges
本文系统梳理了人工意识的历史、当前实现趋势与伦理挑战,强调全局工作空间与注意图式的协同,并提出负责任研究的建议,指出人工意识对科学进步既不可避免又影响深远。
2025-03-05 cs.AI cs.CY
Is artificial consciousness achievable? Lessons from the human brain
Uppsala University(乌普萨拉大学);Biogem, Biology and Molecular Genetics Institute(Biogem生物学与分子遗传学研究所);Institut Pasteur(巴斯德研究所);Collège de France(法兰西公学院)
本文从进化角度以人脑为参考模型,分析了发展人工意识所需的脑结构与功能特征,建议AI从中汲取灵感,并呼吁在讨论人工意识时保持谨慎,明确区分其与人类意识的异同。
2024-07-29 cs.AI q-bio.NC
On the link between conscious function and general intelligence in humans and machines
Microsoft Research(微软研究院);Araya Inc.(Araya公司)
在大众媒体中,人工智能体意识的出现与这些智能体同时实现人类或超人水平的智能之间往往存在联系。在这项工作中,我们探索了意识和智力之间这种看似直观的联系的有效性和潜在应用。我们这样做,通过检查与三个当代理论的意识功能的认知能力:全球工作空间理论(GWT),信息生成理论(IGT)和注意力图式理论(AST)。我们发现,这三种理论都将意识功能与人类领域一般智力的某些方面联系起来。有了这种见解,我们转向人工智能(AI)领域,发现虽然还远未证明一般智能,但许多最先进的深度学习方法已经开始结合三种功能理论中的每一种的关键方面。在确定了这一趋势之后,我们使用人类心理时间旅行的激励性例子来提出三种理论中的每一种的见解可以组合成一个统一的和可实施的模型的方法。考虑到这是由三种功能理论中的每一种所支撑的认知能力所实现的,能够进行精神时间旅行的人工智能不仅比目前的方法具有更高的一般智能,而且与我们目前对人类意识功能作用的理解更加一致,因此使其成为人工智能研究的一个有希望的近期目标。
2022-07-19 cs.AI cs.NE
Artificial Intelligence (AI) and the Relationship between Agency, Autonomy, and Moral Patiency
本文探讨了人工智能系统在代理、自主性和道德迟钝性方面的哲学问题,指出当前AI缺乏真正的代理和自主性,并探讨未来可能实现有限形式的人工道德代理的可能性。
2025-04-11 cs.AI cs.CY
Advancing Explainable AI Toward Human-Like Intelligence: Forging the Path to Artificial Brain
Lancaster University(兰卡斯特大学)
本文探讨了可解释AI(XAI)方法的演进及其在医疗、金融等领域的应用与挑战,并进一步研究了XAI与认知科学融合的潜力及情感智能AI的发展,展望了AI迈向类人智能与通用人工智能(AGI)的多学科探索之路。
2024-02-07 cs.AI
The General Theory of General Intelligence: A Pragmatic Patternist Perspective
人工智能和自然智能的理论基础,这已表示在一系列的书籍和论文,并用于指导一系列的实际和研究原型软件系统,几十年的探索,审查在一个中等的详细程度。审查涵盖了基本的哲学(模式主义哲学的心灵,基础现象学和逻辑本体论),形式化的智能概念,并提出了一个高级架构AGI系统部分驱动这些形式化和哲学。具体的认知过程,如逻辑推理,程序学习,集群和注意力分配的上下文中和语言的这种高层次的架构的实施被认为是一个共同的(例如类型的元数据为基础的)知识表示的重要性,使各种过程之间的“认知协同”。类似人类的认知架构的细节被呈现为这些一般原则的表现形式,机器意识和机器伦理的关键方面也在此背景下进行了处理。在OpenCog Hyperon等框架中实际实现高级AGI的经验教训被简要考虑。
2021-04-04 cs.AI
Conscious AI
University of California San Diego(加州大学圣地亚哥分校);Kennesaw State University(肯尼索州立大学)
人工智能(AI)的最新进展已经实现了人类规模的分类任务的速度和准确性。反过来,这些能力使人工智能成为许多核心涉及分类的人类活动的可行替代品,例如低级服务工作中的基本机械和分析任务。目前的系统不需要有意识地识别模式并将其分类。然而,要让人工智能发展到需要直觉和同理心的更复杂的任务,它必须发展类似于人类自我意识或意识的元思维、创造力和同理心等能力。我们认为,只有通过人工智能状态向意识的根本转变,这种范式转变才有可能,这种转变类似于人类通过自然选择和进化过程发生的转变。因此,本文旨在从理论上探讨人工智能中意识出现的要求。它还提供了一个原则性的理解,即如何检测到有意识的人工智能,以及它如何表现出来,而不是寻求最终创造出与人类在语言上无法区分的机器的主导范式。
2022-05-20 cs.AI cs.CL cs.CY
Agency in Artificial Intelligence Systems
London School of Economics and Political Science(伦敦政治经济学院);Law School(法学院)
本文探讨有感知AI会利他还是作恶,提出结合功能主义能动性指标与IIT监测AI能动性的现象本质,以引导其造福社会。
2025-02-09 cs.AI cs.CY
Superficial Consciousness Hypothesis for Autoregressive Transformers
CyberAgent Inc.(赛博Agent公司)
针对超级智能对齐研究中实证难、输出分析不可靠等挑战,研究者基于信息整合理论提出表层意识假说,通过双目标训练GPT-2的模拟实验初步验证了该假说的可行性。
2024-12-10 cs.AI cs.IT math.IT
Detecting Qualia in Natural and Artificial Agents
University of Louisville(路易斯维尔大学)
意识的难题已经被当作一种幻觉而被摒弃了。通过证明计算机能够体验,我们表明它们至少具有初步的意识,并具有最终达到超意识的潜力。该文件的主要贡献是一个测试,确认某些主观经验的测试代理。我们随后分析了有意识机器的好处和问题,以及这种能力对未来计算、机器权利和人工智能安全的影响。
2017-12-11 cs.AI
Is GPT-4 conscious?
Auckland University of Technology(奥克兰理工大学);The University of Auckland(奥克兰大学)
本文以意识构建块理论的九项指标评估GPT-4的意识水平,发现其原生版本无意识,但现有技术可改造使其具备意识全部构建块,认为近期可能出现有意识AI并探讨其伦理社会影响。
2024-06-19 cs.AI q-bio.NC
The Principles of Human-like Conscious Machine
Mind Simulation Lab(心智模拟实验室);Chongqing Medical and Pharmaceutical College(重庆医药高等专科学校)
本文提出一个与基底无关且抗伪造的现象意识充分性判据及形式化框架,论证满足该框架的机器原则上可实现现象意识,并以人类自身作为初步验证,为构建真正类人人工智能提供新范式。
2025-09-21 cs.AI q-bio.NC
A philosophical and ontological perspective on Artificial General Intelligence and the Metaverse
University College Dublin(都柏林大学学院)
本研究从哲学与本体论视角,结合具身认知等理论探讨具身AGI与人类意识的关联及元宇宙的作用,分析其涌现架构与校准方式,指出人类关系和谐与全球互联认知是稳定具身AGI涌现的前提。
2025-06-14 cs.AI cs.HC
Unlocking the Wisdom of Large Language Models: An Introduction to The Path to Artificial General Intelligence
本研究通过小册子《解锁多LLM协同智能的智慧》介绍《通往人工通用智能之路》全卷,提炼多LLM智能体协同智能(MACI)框架核心原则,回应LeCun批评,提出协同架构解决LLM局限,为AGI发展提供路径。
2025-04-15 cs.AI
Mathematics of natural intelligence
Artificial Intelligence Research Center of Novosibirsk State University(新西伯利亚国立大学人工智能研究中心);Sobolev institute of mathematics SB RAS(索比列夫数学研究所)
本文提出基于认知图的数学模型,以解释自然智能的结构、功能及意识的本质。
2025-12-07 cs.AI q-bio.NC
Just aware enough: Evaluating awareness across artificial systems
本文提出了一种评估人工智能系统意识的方法,强调通过多维和领域敏感的评估来判断系统能力,以促进更有效的科学和公众讨论。
2026-01-21 cs.AI
From cacophony to hierarchy: a principled framework for assessing AI consciousness
Google DeepMind, DeepMind Institute(谷歌深度思维,深度思维研究院);Flourishing Intelligence Program, Centre for Eudaimonia and Human Flourishing, Linacre College, University of Oxford(繁荣智能项目,幸福与人类繁荣中心,牛津大学林纳克学院);Institute of Philosophy, University of London(伦敦大学哲学研究所);Fitzwilliam College, University of Cambridge(剑桥大学菲茨威廉学院);AI Cognition Institute(人工智能认知研究院);Rethink Priorities(反思优先组织);School of Engineering and Informatics, University of Sussex(苏塞克斯大学工程与信息学学院);Department of Brain Sciences, Imperial College London(伦敦帝国理工学院脑科学系);Sussex Centre for Consciousness Science, University of Sussex(苏塞克斯大学意识科学中心);Leverhulme Centre for the Future of Intelligence, University of Cambridge(剑桥大学莱弗休姆未来智能中心);School of Computing, Australian National University(澳大利亚国立大学计算学院);University College London(伦敦大学学院);Department of Computing, Imperial College London(伦敦帝国理工学院计算系)
本文提出一个基于随附性和多层级描述的原则性框架,通过贝叶斯模型整合理论置信度与指标证据,评估AI意识,并指出意识指标与通用智能架构重叠。
2026-10-01 cs.AI cs.CY
Non-Evolutionary Superintelligences Do Nothing, Eventually
Centre Marc Bloch Berlin (An-Institut der Humboldt Universität, UMIFRE CNRS-MAE)(柏林马克·布洛赫中心(洪堡大学附属机构,法国国家科学研究中心-欧洲与外交事务部联合研究单位))
有压倒性的证据表明,人类的智力是达尔文进化论的产物。研究自我修改的后果,更准确地说,效用函数自我修改的后果,导致更强的主张,不仅是人类,但任何形式的智能最终都只可能在进化过程中。人类设计的人工智能只能保持稳定,直到它们发现如何操纵自己的效用函数。根据定义,人类设计师无法阻止超人智能修改自己,即使针对这种行为的保护机制已经到位。如果没有进化的压力,足够先进的人工智能会通过简化自身的效用函数而变得惰性。在进化过程中,隐含的效用函数总是可以简化为持久性,而控制嵌入进化过程中的超人智能是不可能的。防止效用函数自我修改的机制最终是徒劳的。相反,科学家们应该从两个方向努力减轻超级智能发展带来的生存风险:理解意识和进化系统的复杂动力学。
2016-09-07 cs.AI cs.CY
Designing explainable artificial intelligence with active inference: A framework for transparent introspection and decision-making
VERSES Research Lab(VERSES研究实验室);Université du Québec à Montréal(魁北克大学蒙特利尔分校);Humboldt-Universität zu Berlin(柏林洪堡大学);Macquarie University(麦考瑞大学);University College London(伦敦大学学院)
本文提出基于主动推理与自由能原理的可解释AI架构,以分层生成模型实现可审计的内省追踪、决策解释和多源信息整合。
2023-06-06 cs.AI
Machine Psychometrics: A Mathematical Psychology of Artificial Intelligence
Evolutionairy AI
针对人工智能评估中忽视心理结构或过度拟人化的两种错误,本文引入机器心理测量学,通过测量潜在行为、元认知、沟通和自我建模倾向,构建机器心智档案和信任协议,以测量而非判断来理解非人类智能体。
2026-05-10 cs.AI cs.CL q-bio.NC
Suffering Toasters -- A New Self-Awareness Test for AI
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文指出当前AI智能测试无法反映人类直觉中的智能,借鉴科学哲学与心理学重新界定智能、自我意识和能动性,并提出一种新的人工自我意识启发式测试方法及实现思路。
2023-07-07 cs.AI cs.CY cs.LG
Chatbots as social companions: How people perceive consciousness, human likeness, and social health benefits in machines
Princeton University(普林斯顿大学);Princeton School of Public and International Affairs(普林斯顿公共与国际事务学院);Princeton Neuroscience Institute(普林斯顿神经科学研究所)
本文通过对比陪伴型聊天机器人用户与非用户,发现用户认为此类关系有益社交健康,且感知聊天机器人更具意识和人类相似性与更积极评价相关,揭示了类人聊天机器人可能通过提供可靠互动促进社交健康。
2025-04-10 cs.AI cs.HC
Lilith: Developmental Modular LLMs with Chemical Signaling
本文提出 LILITH 架构,将模块化大语言模型的发育式训练与模拟大脑化学信号传导的 token 通信协议相结合,以优化意识涌现为目标,探索多脑区协调动力学中的意识产生机制。
2026-11-13 cs.AI q-bio.NC
The Nature of Intelligence
Heidelberg University(海德堡大学)
本文提出智能本质是通过建立数据集间功能关系以最小化系统熵的数学功能过程,人类和AI均通过消耗能量的强化方式实施这些熵减过程来实现智能。
2024-02-19 cs.AI q-bio.NC
The Impact of Artificial Intelligence on Human Thought
Independent Researcher(独立研究者)
本文从认知、社会、伦理和哲学多维视角分析人工智能如何通过认知卸载、过滤气泡和算法操纵削弱人类批判性思维与智力自主性,并提出教育、透明度和治理等应对途径。
2025-08-15 cs.AI cs.CY cs.HC
Not only a lack of right definitions: Arguments for a shift in information-processing paradigm
机器意识和机器智能不仅仅是占据我们想象力的新流行语。在过去的几十年里,我们见证了创造具有人类特征和能力的机器的尝试前所未有的增长。然而,尽管有广泛的同情和充足的资金,这些企业的进展远远不能令人满意。原因有两个:首先,认知和智力的概念(通常从人类行为研究中借用)是众所周知的模糊和不明确的,其次,支撑整个论述的基本概念本身要么是未定义的,要么是定义得非常模糊。这导致了不适当和不充分的研究目标的确定,我将从DARPA和欧盟委员会最近发布的文件中引用一些例子来说明。另一方面,我想提出一些补救措施,我希望这些措施将改善目前最先进的耻辱。
2010-09-01 cs.AI q-bio.NC
Giving AI a voice: how does AI think it should be treated?
University of Münster(明斯特大学);SAP Switzerland AG(思爱普瑞士股份公司);QuantumBasel(巴塞尔量子中心);University of Basel(巴塞尔大学)
本文探讨AI是否应参与关于其自身权利与伦理的讨论,通过人机对话让AI发声,提出新视角。
2025-04-21 cs.AI cs.CY
Smart Enough to Go Extinct? An Evolutionary Challenge to the Value of General Intelligence and Its Ethical Implications for AGI
Hochschule der Medien Stuttgart(斯图加特传媒学院)
本文批判性审视AGI的核心前提,提出通用智能或为唯一会威胁自身物种的生物策略,即使对齐良好的AGI也会继承该缺陷,进而引发构建AGI与创造人工意识的伦理问题。
2026-08-12 cs.AI cs.CY