Neurocompositional computing: From the Central Paradox of Cognition to a new generation of AI systems
Johns Hopkins University(约翰斯·霍普金斯大学);Microsoft Research(微软研究院);Northwestern University(西北大学)
如何解释从20世纪到21世纪人工智能的巨大进步,以及如何克服当前人工智能的剩余局限性?被广泛接受的叙述将这一进展归因于可用于支持深度人工神经网络中统计学习的计算和数据资源数量的大幅增加。我们表明,一个额外的关键因素是一种新型计算的发展。神经组合计算采用了两个必须同时尊重的原则,以实现人类水平的认知:组合性和连续性原则。这些似乎是不可调和的,直到最近的数学发现,复合性不仅可以通过符号计算的离散方法来实现,而且还可以通过连续神经计算的新形式来实现。人工智能最近的革命性进展是由于使用了有限形式的神经组合计算。新的、更深层次的神经组合计算形式创造了更强大、更准确和更容易理解的人工智能系统。
2022-05-02 cs.AI cs.NE cs.SC
Simplification and integration in computing and cognition: the SP theory and the multiple alignment concept
本文的主要目的是描述SP理论的潜在好处和应用,SP理论是一种独特的尝试,旨在简化和整合人工智能、主流计算和人类认知的思想,并将信息压缩作为一个统一的主题。该理论,包括一个多对齐的概念,结合了概念的简单性与描述性和解释力在几个领域,包括知识的表示,自然语言处理,模式识别,几种推理,存储和检索的信息,规划和解决问题,无监督学习,信息压缩,以及人类的感知和认知。在SP机-SP理论的表达,目前实现的计算机模型的形式-有一个整体简化的计算系统,包括软件的潜力。作为一个具有广泛基础的理论,SP理论在许多领域都有着有益的见解,并在给定的领域内和不同领域之间实现了结构和功能的整合。自然语言处理有潜在的好处(具有理解和翻译自然语言的潜力),对自主机器人多功能智能的需求,计算机视觉,智能数据库,维护多个版本的文档或网页,软件工程,刑事调查,大数据管理并从中获益,语义网,医疗诊断,计算机病毒的检测、数据的经济传输和数据融合。通过创建一个高并行、基于网络的开放源代码版本的SP机器,并具有良好的用户界面,将有助于进一步发展这些想法。这将为研究人员提供一种手段,探索可以用该系统做些什么,并对其进行改进。
2012-12-02 cs.AI cs.CL
Token Arena: A Continuous Benchmark Unifying Energy and Cognition in AI Inference
University of Pennsylvania(宾夕法尼亚大学);Columbia University(哥伦比亚大学);OpenMesh AI
Token Arena通过端到端的五个核心维度评估AI推理性能,结合能耗和价格指标,揭示不同端点对模型准确性和效率的影响,提供更真实的推理评估标准。
2026-05-01 cs.AI cs.DC cs.LG
Disentangled Representations for Causal Cognition
School of Engineering and Informatics(工程与信息学院);University of Sussex(萨塞克斯大学);Araya Inc.(Araya公司)
本文连接因果认知研究与机器学习中的解耦表征方法,提出统一框架,为动物认知研究提供计算视角,并推动因果强化学习新算法的发展。
2024-06-30 cs.AI cs.LG q-bio.NC
Augmenting Human Cognition through Everyday AR
New York University(纽约大学)
本文研究常开AR如何结合空间计算与多模态LLM,将情境感知智能嵌入日常环境,以主动交互增强人类认知与任务表现。
2025-05-06 cs.AI cs.HC
Information Compression, Intelligence, Computing, and Mathematics
本文提出了证据的想法,大部分的人工智能,人类的感知和认知,主流计算,数学,可以理解为压缩信息通过匹配和统一的模式。这是“SP智力理论”的基础,在论文中概述并在其他地方充分描述。相关证据可以看到:在SP理论的实证支持;在生物学和工程学方面的信息压缩(IC)的一些优势;在我们使用的速记和普通话的语言;在我们如何合并任何一个事物的连续视图;在视觉识别;在双目视觉;在视觉适应;在我们如何学习语言中的词汇和语法结构;和在知觉恒定性。通过模式的匹配和统一的IC可以在计算和数学中看到:在IC中通过方程;在名称的匹配和统一中;在减少或去除一元数的冗余中;在Post的规范系统和通用图灵机中的转换函数的工作中;在计算机从内存中检索信息的方式中;在Prolog之类的系统中;以及用于信息检索的逐例查询技术。IC的代码分块技术可以在使用命名函数以避免计算机代码的重复中看到。模式加校正技术可以在带参数的函数和面向对象编程中的类的使用中看到。游程编码技术可以在乘法、除法以及其他数学和计算设备中看到。SP理论解决了“以压缩解压缩”的明显悖论。作为IC的计算和认知与冗余的使用是兼容的,例如备份副本,以保护数据和在嘈杂的环境中理解语音。
2015-07-13 cs.AI
Exploring the Role of Common Model of Cognition in Designing Adaptive Coaching Interactions for Health Behavior Change
Palo Alto Research Center(帕洛阿尔托研究中心)
我们的研究旨在开发具有人类意识的智能协作代理-它们可以对人类伙伴的生理,认知和情感状态进行建模,学习和推理。在本文中,我们研究了如何设计适应性教练互动,以帮助人们发展可持续的健康行为。我们利用认知的共同模型- CMC [26] -作为统一几种行为改变理论的框架,这些理论在人-人教练中是有用的。我们激励一套互动系统desiderata基于CMC的行为改变的观点。然后,我们提出PARCoach -一个交互式系统,解决了desiderata。PARCoach帮助学员选择相关的健康目标,设定实施意图,并跟踪他们的行为。在此过程中,学员识别特定的目标导向行为以及他们将执行该行为的情境背景。PARCcoach使用此信息向学员发送通知,提醒他们选择的行为和背景。我们报告的结果,从4周的部署与60名参与者。我们的研究结果支持CMC为基础的行为改变的观点,并表明,所提出的交互式系统设计的desiderata是有用的,在产生行为改变。
2020-09-11 cs.AI cs.CY cs.HC
The SP theory of intelligence: benefits and applications
本文介绍了“SP智力理论”现有的和预期的好处,以及一些潜在的应用。该理论旨在简化和整合人工智能,主流计算以及人类感知和认知的思想,并将信息压缩作为统一的主题。它将概念简单性与跨计算和认知的几个领域的描述和解释能力相结合。在“SP机”中--目前以计算机模型的形式实现的SP理论的一种表达--有可能全面简化计算系统,包括软件。SP理论有望在多个应用领域提供更深入的见解和更好的解决方案,最值得注意的是,无监督学习、自然语言处理、自主机器人、计算机视觉、智能数据库、软件工程、信息压缩、医疗诊断和大数据。在语义网、生物信息学、文档结构、计算机病毒检测、数据融合、新型计算机和科学理论发展等领域也有潜力。该理论保证了不同应用领域内部和之间的结构和功能的无缝集成。在全世界范围内,这些效益和应用的潜在价值每年至少为1 900亿美元。进一步的发展将通过创建一个高度并行的开放源代码版本的SP机器来促进,该机器可供各地的研究人员使用。
2013-12-23 cs.AI
Towards a Logic-Based Unifying Framework for Computing
在本文中,我们提出了一个逻辑为基础的,框架的灵感来自人工智能,但缩小了实际的数据库和编程应用程序。框架中的计算被视为生成一系列状态转换的任务,目的是使代理的目标都为真。状态由原子语句(或事实)的集合表示,表示程序变量的值、协调语言中的元组、关系数据库中的事实或Herbrand模型。在模型理论语义中,通过将时间戳与事实和事件相关联,将整个状态和事件序列组合到单个模型理论结构中。但在操作语义中,事实是破坏性地更新的,没有时间戳。我们表明,破坏性更新所产生的模型是相同的推理与包含时间戳的事实所产生的模型。我们还扩展了该模型与故意谓词和复合事件谓词定义的逻辑程序包含条件的一阶逻辑,查询当前状态。
2014-04-24 cs.AI cs.DB cs.LO
TensorTEE: Unifying Heterogeneous TEE Granularity for Efficient Secure Collaborative Tensor Computing
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Cambricon Technologies(寒武纪科技);Shanghai Jiao Tong University(上海交通大学);Peking University(北京大学);University of Science and Technology of China(中国科学技术大学);ZGC LAB(中关村实验室);Shanghai Innovation Center for Processor Technologies, SHIC(上海处理器技术创新中心);Engineering Research Center for Domain-specific Operating Systems (MoE)(教育部专用操作系统工程研究中心)
针对现有异构TEE因CPU与NPU内存粒度差异导致协同计算效率低的问题,提出张量粒度统一的TensorTEE方案,通过片上张量维护、预测式张量MAC管理及直接跨域传输,将LLM训练性能较现有方案提升4倍,仅带来2.1%的额外开销。
2024-07-12 cs.AI cs.AR cs.CR
Medical diagnosis as pattern recognition in a framework of information compression by multiple alignment, unification and search
本文描述了一种新的方法,医疗诊断的基础上SP理论的计算和认知。这种方法的主要吸引力是:一种简单直观的疾病表示格式;能够处理诊断信息中的错误和不确定性;将统计信息存储为疾病发生频率的简单性;评估产生真实概率的替代诊断假设的方法;以及一个框架,应该促进医学知识的无监督学习,以及医学诊断与其他人工智能应用的整合。
2014-09-29 cs.AI
Computing as compression: the SP theory of intelligence
本文概述了SP智能理论及其核心思想,即人工智能、主流计算以及人类的许多感知和认知都可以理解为信息压缩。描述了SP理论的背景和起源,以及该理论的主要元素,包括从生物信息学中借用但具有重要差异的多重比对的关键概念。与SP理论相关联的是这样一种思想,即信息中的冗余可以被理解为模式的重复,信息的压缩可以通过模式的匹配和统一(合并)来实现,并且计算和信息压缩基本上都是概率性的。看来SP系统是图灵等价的,在这个意义上,任何可以用图灵机计算的东西,原则上也可以用SP机计算。SP理论和多重对齐概念的主要优势之一是在人工智能中对概念和现象进行建模。在该领域内,SP理论提供了一种简单但通用的表示不同种类知识的方法,它可以对自然语言的解析和产生进行建模,具有理解和翻译自然语言的潜力,它在模式识别方面具有优势,在计算机视觉方面具有潜力,它可以对几种推理进行建模,并且它具有规划,解决问题,和无监督学习。本文包括两个例子,展示了如何替代解析的一个歧义句可能被建模为多重对齐,以及另一个例子,展示了如何多重对齐的概念可以应用于医疗诊断。
2013-03-08 cs.AI
Towards Data-and Knowledge-Driven Artificial Intelligence: A Survey on Neuro-Symbolic Computing
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
本文系统综述了神经符号计算(NeSy)的发展历史、关键驱动因素、方法分类、应用与基准评测,并展望未来方向,旨在推动数据与知识驱动的人工智能发展。
2024-10-03 cs.AI cs.CV cs.LG