Evidence from counterfactual tasks supports emergent analogical reasoning in large language models
University of California, Los Angeles(加州大学洛杉矶分校)
本文回应了对大型语言模型零样本类比推理能力的质疑,通过反事实任务实验证明模型能够泛化到字母表顺序被任意置换的新任务变体,支持其具备涌现类比推理能力。
2024-04-29 cs.AI cs.CL
Reframing Tax Law Entailment as Analogical Reasoning
Johns Hopkins University(约翰霍普金斯大学);Télécom Paris, Institut Polytechnique de Paris(巴黎综合理工学院电信巴黎分校)
本文将税法法定推理重构为类比任务,通过组合成对实例将数据集扩大两个数量级,并引入可解释性,最终结合检索与类比模型在原有任务上取得进展。
2024-01-12 cs.AI cs.CL
Solving Visual Analogies Using Neural Algorithmic Reasoning
BITS Pilani, K.K. Birla Goa Campus(印度比尔拉理工学院果阿校区);TCS Research, New Delhi(塔塔咨询服务公司研究院)
我们考虑一类视觉类比推理问题,涉及到发现的序列的转换对输入/输出图像相关,以便类似地转换未来的输入。这个程序合成任务可以很容易地通过符号搜索来解决。使用(Velickovic和Blundell 2021)的“神经类比推理”方法的变体,我们转而搜索一系列基本神经网络变换,这些变换操纵从符号空间导出的分布式表示,输入图像直接编码到符号空间。我们评估的程度,我们的“神经推理”的方法概括了看不见的形状和位置的图像。
2021-11-19 cs.AI cs.LG
Enhancing Structural Mapping with LLM-derived Abstractions for Analogical Reasoning in Narratives
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Southern California(南加州大学)
本文提出YARN框架,利用LLM分解叙事并抽象单元,提升叙事类比推理能力,实验表明抽象显著提升性能,揭示了抽象层级、隐含因果关系和类比模式分类的挑战。
2026-03-31 cs.AI cs.CL
Analogical and Relational Reasoning with Spiking Neural Networks
瑞文推理测验已被广泛用于测量人类的抽象推理和智力。然而,对于人工学习系统,抽象推理仍然是一个具有挑战性的问题。在本文中,我们研究如何增强生物启发尖峰模块的神经网络在解决这个问题中获得显着的优势。为了说明这一点,我们首先研究了我们的网络的性能与监督学习,然后与无监督学习。在RAVEN数据集上的实验表明,我们的监督网络的整体准确性超过了人类水平的性能,而我们的无监督网络则明显优于现有的无监督方法。最后,我们从监督和无监督学习的结果表明,与非增强的对应物不同,具有尖峰模块的网络能够在没有任何明确指令的情况下提取和编码时间特征,不严重依赖于训练数据,并且更容易推广到新问题。总之,这里报告的结果表明,具有尖峰模块的人工神经网络非常适合解决抽象推理。
2021-08-17 cs.AI cs.LG cs.NE
Thought Propagation: An Analogical Approach to Complex Reasoning with Large Language Models
University of Chinese Academy of Sciences(中国科学院大学);Yale University(耶鲁大学)
本文提出 Thought Propagation,通过让 LLM 生成并求解类比问题、复用其洞见修正初始方案,以即插即用方式增强复杂推理,并在三类任务上显著优于基线。
2024-06-17 cs.AI cs.CL
In-Context Analogical Reasoning with Pre-Trained Language Models
University of Michigan(密歇根大学)
本文将视觉 RPM 的感知特征编码为语言,利用大型预训练语言模型实现零样本类比推理,性能超过人类并接近视觉监督方法。
2023-06-05 cs.AI cs.CL cs.LG
Towards Solving Fuzzy Tasks with Human Feedback: A Retrospective of the MineRL BASALT 2022 Competition
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院);University of Bath(巴斯大学);University of Maryland(马里兰大学);OpenAI;AIcrowd;NetEase Fuxi AI Lab(网易伏羲人工智能实验室);University of Eastern Finland(东芬兰大学);University of Bielefeld(比勒费尔德大学);Indian Institute of Technology(印度理工学院);University of Oxford(牛津大学);Forschungszentrum Informatik Karlsruhe(卡尔斯鲁厄信息学研究中心);Berkeley Existential Risk Initiative(伯克利存在风险倡议);DEVCOM Army Research Laboratory(美国陆军作战能力发展司令部陆军研究实验室);Boston Dynamics AI Institute(波士顿动力人工智能研究所);Columbia University(哥伦比亚大学);DeepMind
为了促进从人类反馈微调基础模型方向的研究,我们在NeurIPS 2022上举办了MineRL BASALT人类反馈微调竞赛。BASALT挑战要求团队竞争开发算法,以解决Minecraft中难以指定奖励函数的任务。通过这次比赛,我们旨在促进使用人类反馈作为学习所需行为的渠道的算法的开发。我们描述了竞争对手,并概述了顶级解决方案。最后,我们讨论了竞争的影响和未来的改进方向。
2023-03-23 cs.AI
Knowledge-based Analogical Reasoning in Neuro-symbolic Latent Spaces
TCS Research(塔塔咨询服务公司研究院)
类比推理问题挑战了连接主义和符号AI系统,因为这些系统需要结合背景知识、推理和模式识别。虽然符号系统摄取明确的领域知识并执行演绎推理,但它们对噪声敏感,并且需要将输入映射到预设的符号特征。另一方面,连接主义系统可以直接摄取丰富的输入空间,如图像,文本或语音,即使有噪声输入也能识别模式。然而,联结主义模型努力包括演绎推理的明确领域知识。在本文中,我们提出了一个框架,结合了神经网络的模式识别能力与符号推理和背景知识解决一类类比推理问题的属性集和可能的关系,他们是已知的先验。我们从“神经算法推理”方法[DeepMind 2020]中获得灵感,并通过以下方式使用特定于问题的背景知识:(i)基于问题的符号模型学习分布式表示;(ii)训练反映问题中所涉及关系的神经网络转换;最后(iii)训练从图像到分布式表示的神经网络编码器(i)。这三个要素使我们能够使用神经网络作为操纵分布式表示的基本函数来执行基于搜索的推理。我们在RAVENs Progressive Matrices中的视觉类比问题上测试了这一点,并实现了与人类表现相竞争的准确性,并且在某些情况下,优于最初的端到端基于神经网络的方法。虽然最近的神经模型在规模上训练产生SOTA,但我们新的神经符号推理方法是解决这个问题的一个有希望的方向,并且可以说是更通用的,特别是对于领域知识可用的问题。
2022-09-19 cs.AI cs.LG
An Epsilon Hierarchical Fuzzy Twin Support Vector Regression
Samsung Research & Development Institute Delhi(三星德里研发研究所)
在双模糊支持向量回归机和双模糊支持向量回归机的基础上,提出了双层次模糊双支持向量回归机。将梯形模糊数引入到预测问题中的不确定性问题中,从而实现了预测问题的模糊支持向量回归。通过求解两个相关的二次规划问题,Epsilon FTSVR确定了一对不敏感的邻近函数.通过在原问题中引入正则化项,实现了结构风险最小化原则。这会产生双重稳定的正定问题,提高回归性能。然后将Epsilon FTSVR重新表示为由一组分层组成的Epsilon HFTSVR,每个分层包含Epsilon FTSVR。在合成数据集和真实数据集上的实验结果表明,该算法具有良好的泛化性能和最小的训练时间。
2015-09-10 cs.AI
A Concurrent Fuzzy-Neural Network Approach for Decision Support Systems
决策是一个在多准则目标的复杂问题中进行选择的过程。在过去的几年里,人们越来越认识到软计算技术是智能系统的概念、设计和利用的基础。工程师和科学家们已经做了一些工作,应用智能技术和数学从不精确的信息中获得最佳决策。本文提出了一种结合无监督学习和监督学习技术的并行模糊神经网络方法来开发战术空战决策支持系统(TACDSS)。实验结果清楚地证明了所提出的技术的效率。
2004-05-06 cs.AI
Solving morphological analogies: from retrieval to generation
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);LORIA(洛林计算机科学与应用实验室)
本研究提出一种深度学习框架,结合检索式与生成式方法处理词形态类比的检测与求解任务,在多语言数据集上性能优于传统符号方法与基线模型,并给出应用指导。
2024-04-17 cs.AI cs.CL cs.LG
The Application of Imperialist Competitive Algorithm for Fuzzy Random Portfolio Selection Problem
Urmia University(乌尔米耶大学)
本文提出了一种帝国主义竞争算法(ICA)的实现,用于解决模糊随机投资组合问题,其中资产收益率是由模糊随机变量表示。投资组合优化是现代金融学的一个重要研究领域。利用基于必要性的模型,将模糊随机变量转化为线性规划,并设计独立分量分析,以寻找最优解。最后通过一个算例说明了ICA在模糊随机投资组合问题中的应用。
2014-02-19 cs.AI math.OC
An interactive fuzzy goal programming algorithm to solve decentralized bi-level multiobjective fractional programming problem
Yildiz Technical University(耶尔德兹理工大学)
提出了一种基于泰勒级数的模糊目标规划方法来求解分散双层多目标分式规划(DBLMOFP)问题。在该方法中,所有的隶属函数都与每个目标的模糊目标在两个层次上,也分数的隶属函数转换为线性函数使用泰勒级数的方法。然后提出一种模糊目标规划,使两层决策者都能得到最满意的解,从而达到每个隶属度目标的最高程度。最后,数值例子来说明所提出的方法的有效性。
2016-06-02 cs.AI math.OC
DIRCR: Dual-Inference Rule-Contrastive Reasoning for Solving RAVENs
School of Computer Science, University of Nottingham Ningbo China, China(诺丁汉大学宁波校区计算机科学学院);Nottingham Ningbo China Beacons of Excellence Research and Innovation Institute, China(诺丁汉宁波中国卓越研究与创新研究所);School of Artificial Intelligence, Shenzhen University, China(深圳大学人工智能学院)
本文提出DIRCR模型,通过双推理推理模块和规则对比学习模块,解决RAVENs中全局与局部关系整合不足的问题,提升推理鲁棒性和泛化能力。
2026-04-19 cs.AI
Dealing with uncertainty in fuzzy inductive reasoning methodology
U.P.I.I.C.S.A.
本研究的目的是在模糊归纳推理(FIR)方法的背景下,开发一种不确定性策略下的推理。FIR算法是由G.克利尔它是一种基于系统行为而不是结构知识的数据驱动方法。它是一个非常有用的工具,为那些系统的建模和预测,没有以前的结构知识。FIR推理基于从可用数据合成的模式规则。模式规则库的大小可能非常大,使得预测过程相当困难。为了减少模式规则库的大小,可以从模式规则集开始自动提取经典Sugeno模糊规则。Sugeno规则库尽可能多地保留模式规则知识。在这个过程中,一些信息丢失,但鲁棒性大大增加。在预测过程中,可以使用模式规则库或Sugeno模糊规则库。当计算资源使得有可能处理整个模式规则库或当提取的模糊规则由于与原始数据相关联的不确定性而不够准确时,第一选项是期望的。在第二种选择中,预测过程是通过经典的Sugeno推理系统来完成的。如果与数据相关的不确定性很小,则使用Sugeno模糊规则库获得的预测将非常准确。本文提出了一种混合模式/模糊规则的策略来处理不确定性的方式,最好的两个角度。通过所谓的误差模型来识别数据空间中具有较高不确定性的区域。在这些领域的预测过程中,利用混合模式/模糊规则计划,而确定的不确定性较低的地区只使用Sugeno模糊规则库。所提出的策略被应用到一个真正的生物医学系统,即,控制心血管系统的中枢神经系统。
2012-10-19 cs.AI
Analogy-Based and Case-Based Reasoning: Two sides of the same coin
Graduate Technological Educational Institute of Western Greece(西希腊技术教育学院);Ain Shams University(艾因夏姆斯大学)
基于类比(或类比)和基于案例推理(ABR和CBR)是两个类似的问题解决过程,基于对过去问题的解决方案进行调整,以用于新的类似问题。在本文中,我们回顾了这两个过程,我们给出了一些现实世界的例子,重点是医学领域,在那里可以找到一些最常见和最有用的CBR应用。我们还强调CBR和经典的规则归纳算法之间的差异,我们讨论了CBR方法的批评,我们专注于在CBR领域的研究的未来趋势。
2014-05-29 cs.AI
Solving ARC visual analogies with neural embeddings and vector arithmetic: A generalized method
University of Amsterdam(阿姆斯特丹大学)
本研究将词嵌入的向量算术机制推广到视觉类比,用VAE将ARC项编码为潜在向量并通过向量运算求解,在简单项上效果良好,官方ARC得分2%,ConceptARC得分8.8%,方法可推广至其他抽象视觉推理任务。
2023-11-14 cs.AI cs.CV cs.LG
Elicitation strategies for fuzzy constraint problems with missing preferences: algorithms and experimental studies
Università di Padova(帕多瓦大学);NICTA(国家信息与通信技术研究院);UNSW Sydney(悉尼新南威尔士大学)
模糊约束是一种流行的方法,可以在需要谨慎的场景中处理偏好和过度约束问题,例如在医疗或太空应用中。我们在这里考虑模糊约束问题的一些偏好可能会丢失。例如,这种模型可以模拟代理分布并具有隐私问题的设置,或者存在持续偏好获取过程的设置。在这种情况下,我们研究如何找到一个解决方案,这是最佳的,而不管失踪的偏好。在寻找这样的解决方案的过程中,我们可能会在必要时从用户那里获得偏好。但是,我们的目标是尽可能少地询问用户。我们定义了一个组合的解决方案和偏好诱导计划,大量不同的实例,每个对应于一个具体的算法,我们比较实验。我们计算引发的偏好和“用户努力”的数量,这可能更大,因为它包含了用户必须计算的所有偏好值,以便能够响应引发请求。虽然当关注的是传达尽可能少的信息时,引出的偏好的数量是重要的,但是用户努力也测量用户为了能够传达引出的偏好而必须做的隐藏工作。我们的实验结果表明,我们的一些算法是非常好的,在找到一个必要的最佳解决方案,同时要求用户只有很小的一部分缺失的偏好。对于最好的算法,用户的努力也非常小。最后,我们测试这些算法的硬约束问题可能丢失的约束,其目的是找到可行的解决方案,而不管丢失的约束。
2009-09-24 cs.AI
Exact alternative optima for nonlinear optimization problems defined with maximum component objective function constrained by the Sugeno-Weber fuzzy relational inequalities
University of Tehran(德黑兰大学)
本文研究受 Sugeno-Weber 模糊关系不等式约束的格化非线性优化问题,基于可行域的充分必要条件提出一种求解算法,并证明其能求得精确最优解。
2025-09-16 cs.AI math.OC
Backpropagation-Free Learning Method for Correlated Fuzzy Neural Networks
Shahid Beheshti University(沙希德·贝赫什提大学);Amirkabir University of Technology(阿米尔卡比尔理工大学)
本文提出了一种新的逐步学习方法,通过求解约束优化问题来估计期望前提部分的输出。这种学习方法不需要反向传播输出误差来学习前提部分的参数。相反,估计规则前提部分的接近最佳的输出值,并且改变它们的参数以减小当前前提部分的输出与估计的期望输出之间的误差。因此,所提出的学习方法避免了误差反向传播,这会导致梯度消失,从而陷入局部最优。该方法不需要任何初始化方法。利用这种学习方法训练一个新的Takagi-Sugeno-Kang(TSK)模糊神经网络,其模糊规则在前件和后件中都包含许多参数,避免了由于梯度消失而陷入局部最优。为了学习所提出的网络参数,首先,引入并求解约束优化问题以估计前提部件的输出值的期望值。接着,利用这些值与当前值之间的误差,基于梯度下降(GD)方法来调整前提部件的参数。然后利用期望输出与网络输出的误差,通过GD方法学习后件的参数。所提出的范例被成功地应用到现实世界的时间序列预测和回归问题。根据实验结果,它的性能优于其他方法具有更简约的结构。
2021-11-20 cs.AI cs.LG
Perceptual reasoning based solution methodology for linguistic optimization problems
South Asian University(南亚大学)
现实生活中的决策通常可以建模为优化问题。它需要考虑各种属性,如人类的偏好和思维,这限制了实现问题目标的最佳值。目标的价值可以最大化或最小化,这取决于情况。很多时候,这些问题参数的值是以语言的形式,因为人类自然地理解和表达自己使用的话。这些问题因此被称为语言优化问题(LOPs),并且有两种类型,即单目标语言优化问题(SOLOPs)和多目标语言优化问题(MOLOPs)。在这些LOP中,目标函数的值可能在决策空间的所有点处都不知道,因此,目标函数以及问题约束通过“若-则”规则链接。冢本推理方法已被用来解决这些LOPs,但是,它遭受的缺点。由于语言信息的使用不可避免地要求使用词计算(CWW),因此,提出了基于二元语义模型的LOPs求解方法。然而,我们发现,2元组语言模型为基础的解决方案的方法表示使用1型模糊集和有序项集的组合的语言信息的语义。由于语言信息的语义最好用区间2型模糊集建模,因此本文提出了基于感知计算CWW方法的LOPs求解方法。基于感知计算的求解方法使用了一种新颖的CWW引擎设计,称为感知推理(PR)。目前形式的PR适合于求解SOLOPs,因此,我们也将其扩展到MOLOPs。
2020-04-30 cs.AI
EvolMathEval: Towards Evolvable Benchmarks for Mathematical Reasoning via Evolutionary Testing
Sun Yat-sen University(中山大学);Fudan University(复旦大学)
针对现有数学推理基准易被LLMs学习导致评估失准的问题,提出基于进化测试的EvolMathEval框架,可生成高难题、提升公开数据集复杂度,并发现导致LLMs出错的“伪顿悟时刻”现象。
2025-10-05 cs.AI