Beyond touch-based human-machine interface: Control your machines in natural language by utilizing large language models and OPC UA
Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-亚历山大大学埃尔朗根-纽伦堡分校)
利用大语言模型和OPC UA实现自然语言控制机器,通过工具调用提升工业人机交互的自然度。
2026-02-05 cs.AI cs.HC
Uncovering More Shallow Heuristics: Probing the Natural Language Inference Capacities of Transformer-Based Pre-Trained Language Models Using Syllogistic Patterns
University of St.Gallen(圣加仑大学)
在本文中,我们将探讨基于transformer的预训练语言模型(PLM)所使用的浅层语法,这些模型针对自然语言推理(NLI)进行了微调。为此,我们基于三段论构建或拥有数据集,并在我们的数据集上评估许多模型的性能。我们发现的证据表明,该模型严重依赖于某些浅的物理学,拿起对称性和不对称性之间的前提和假设。我们认为,在我们的研究中,这正在成为一个活跃的辩论在该领域的话题,缺乏概括性,这意味着PLM目前没有学习NLI,而是虚假的语法。
2022-01-19 cs.CL cs.LG
A Pattern Language for Resilient Visual Agents
本文提出一种模式语言,用于在企业生态系统中整合多模态基础模型,平衡视觉语言动作模型的延迟与非确定性与企业控制循环的严格确定性和实时性要求。
2026-04-30 cs.AI cs.SE
Neural Activation Patterns Across Language Model Architectures: A Comprehensive Analysis of Cognitive Task Performance
Research Division, BrightMind AI(BrightMind AI 研究部);Texas Tech University(德克萨斯理工大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
本文分析了六种大型语言模型架构在十二种认知任务上的神经激活模式,揭示了编码器和解码器架构在处理不同任务时的差异,发现数学推理产生最高注意力熵,解码器模型在稀疏性上更高。
2026-05-14 cs.CL cs.LG
Human vs. supervised machine learning: Who learns patterns faster?
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT))
监督机器学习(SML)的能力,特别是与人类能力相比,正在科学研究和SML的使用中进行讨论。这项研究提供了一个答案,当训练数据有限时,人类和机器之间的学习性能如何不同。我们设计了一个实验,在这个实验中,44名人类和三种不同的机器学习算法识别标记的训练数据中的模式,并根据他们找到的模式标记实例。结果表明,性能和任务的基本模式之间的高度依赖性。虽然人类在所有模式中的表现相对相似,但在我们的实验中,机器在各种模式中表现出很大的性能差异。在实验中看到20个例子后,人类的表现不再改善,我们将其与认知过载理论联系起来。机器学习速度较慢,但可以达到相同的水平,甚至可能在4种使用模式中的2种中超过人类。然而,与人类相比,机器需要更多的实例才能获得相同的结果。由于组合输入特征的困难,机器的性能对于其他2种模式来说要低得多。
2020-11-30 cs.AI cs.LG
Descriptions of Objectives and Processes of Mechanical Learning
在[1]中,我们介绍了机械学习,并提出了两种机械学习方法。在这里,我们遵循这样一种方法来很好地描述学习的对象和过程。我们讨论了两种模式:客观模式和主观模式。主观模式是学习机器的关键。我们证明了对于任何客观模式,我们可以找到一个适当的主观模式的基础上最小的基本模式,以表达客观模式。X形式是主观模式的代数表示。X-形式的集合形成内部表示空间,是学习机的中心。我们讨论通过教学和不教学来学习。我们用X形式定义数据充分性。然后我们讨论了一些学习策略。在每种策略中,我们都证明了,有足够的数据和一定的能力,学习机确实可以学习任何模式(通用学习机)。在附录中,结合学习机的知识,我们尝试从不同的角度来看待深度学习,即它的内部表示空间和学习动力学。
2017-05-31 cs.AI
Sentiment Analysis and Emotion Classification using Machine Learning Techniques for Nagamese Language -- A Low-resource Language
Nagaland University(那加兰大学)
本研究首次针对纳加姆语进行情感分析与情绪分类,构建了包含1,195个词汇的情感极性词典,并利用朴素贝叶斯和支持向量机等机器学习技术进行分析。
2025-12-01 cs.AI cs.CL
Machine Learning Approach to Uncovering Residential Energy Consumption Patterns Based on Socioeconomic and Smart Meter Data
Tsinghua Berkeley Shenzhen Institute(清华-伯克利深圳学院);Monash University(莫纳什大学);National Cheng Kung University(台湾成功大学)
智能电表数据分析有助于更好地规划和运营电力系统。本研究旨在基于消费和人口统计数据,使用机器学习从社会经济角度识别住宅能源消费模式的驱动因素。我们的消费模式的代表性负载和揭示负载模式和社会经济特征之间的关系。具体来说,我们分析了现实世界的智能电表数据,并提取负载模式的聚类在一个强大的方式。我们进一步确定影响社会经济属性的负载模式,以提高我们的方法的可解释性。通过机器学习模型来表征消费者的负载模式和所选择的社会经济特征之间的关系。研究结果如下。(1)12个负荷集群,包括6个工作日和6个周末,表现出不同的生活方式和工作日和周末之间的差异。(2)在各种社会经济特征中,年龄和教育水平可能会影响负荷模式。(3)我们提出的分析模型,使用特征选择和机器学习被证明是更有效的比XGBoost和传统的神经网络模型在负载模式和社会经济特征之间的映射关系。
2021-11-01 cs.AI cs.LG cs.NA
A machine learning model for identifying cyclic alternating patterns in the sleeping brain
Carnegie Mellon University(卡内基梅隆大学)
脑电图(EEG)是一种记录脑电信号的方法。识别睡眠大脑中的EEG模式可以深入了解睡眠障碍。所考虑的数据集包含与各种生理条件相关联的EEG数据点。本研究试图使用机器学习模型来概括与大脑的非快速眼动(NREM)睡眠周期相关的特定模式的检测。所提出的模型使用额外的特征工程,将连续的信息训练分类器,以预测发生的循环交替模式(CAP)序列的睡眠周期,这往往与睡眠障碍。
2018-04-23 cs.AI cs.LG stat.ML
KANDINSKYPatterns -- An experimental exploration environment for Pattern Analysis and Machine Intelligence
Medical University Graz(格拉茨医科大学)
当具有高质量的训练数据时,机器智能在标准识别任务中非常成功。机器级的模式识别和人类级的概念学习之间仍然存在显著的差距。人类可以在不确定的情况下仅从几个例子中学习,并将这些概念推广到解决新问题。对可解释的机器智能的兴趣日益增长,需要实验环境和诊断测试来分析现有方法的弱点,以推动该领域的进展。在本文中,我们讨论了现有的诊断测试和测试数据集,如CLEVR,CLEVERER,CLOSURE,CURI,Bongard-Paddle,V-PROM,并提出了我们自己的实验环境:KANDINSKYPatterns,命名的俄罗斯艺术家瓦西里·康定斯基,谁作出了理论贡献的组成,即所有的感知组成的几何基本的个人组成部分。这一点在20世纪60年代被Hubel & Wibel实验证明,并成为机器学习方法的基础,如Neocognitron和更晚的深度学习。虽然KANDINSKYPatterns一方面具有计算可控的属性,带来了地面真理,但它们也很容易被人类观察者区分,即,受控模式可以由人类和算法描述,使其成为国际机器智能研究的另一个重要贡献。
2021-02-28 cs.AI
Hybrid Method Based on NARX models and Machine Learning for Pattern Recognition
Federal University of Juiz de Fora(茹伊斯迪福拉联邦大学);Federal University of São João del-Rei(圣若昂德尔雷伊联邦大学)
这项工作提出了一种新的技术,集成了机器学习和系统辨识的方法来解决多类问题。这种方法允许提取和选择具有降低的维度的代表性特征集,以及预测分类输出。通过运行机器学习中的案例研究来测试该方法的效率,与经典分类算法相比,获得了更好的绝对结果。
2021-06-08 cs.AI cs.LG
Zero-Shot Language Transfer vs Iterative Back Translation for Unsupervised Machine Translation
这项工作的重点是比较低资源语言对上的机器翻译的不同解决方案,即zero-shot迁移学习和无监督机器翻译。我们讨论了数据大小如何影响无监督MT和迁移学习的性能。此外,我们还研究了数据的域如何影响无监督MT的结果。在这个项目中执行的所有实验的代码都可以在Github上访问。
2021-03-31 cs.AI cs.CL cs.LG
Unlearning Information Bottleneck: Machine Unlearning of Systematic Patterns and Biases
Yale University(耶鲁大学);Wuhan University(武汉大学);EPFL(洛桑联邦理工学院);University of Bern(伯尔尼大学)
提出去学习信息瓶颈(UIB)框架,利用变分上界和动态先验调整参数,以高效移除系统模式与偏见,同时保持模型性能。
2024-05-22 cs.AI cs.LG
The Regression Tsetlin Machine: A Tsetlin Machine for Continuous Output Problems
Centre for Artificial Intelligence Research(人工智能研究中心);University of Agder(阿格德大学)
最近推出的Tsetlin Machine(TM)在几个基准测试中提供了具有竞争力的模式分类精度,在命题逻辑中使用易于解释的合取子句组成模式。在本文中,我们超越模式分类,通过引入一种新的类型的TM,即回归Tsetlin机(RTM)。总之,我们修改了TM的内部推理机制,以便将输入模式转换为单个连续输出,而不是不同的类别。我们通过以下方式实现这一目标:(1)使用TM的合取子句来捕获任意复杂的模式;(2)通过新颖的投票和归一化机制将这些模式映射到连续输出;以及(3)采用更新TM子句的反馈方案来最小化回归误差。反馈方案使用一个新的激活概率函数,稳定更新的条款,而整个系统收敛到一个准确的输入输出映射。RTM的性能进行了评估,使用六个不同的人工数据集,有和没有噪音,与经典Tsetlin机(CTM)和多类Tsetlin机(MTM)。我们的实证结果表明,RTM获得了最好的训练和测试结果的噪声和无噪声数据集,具有较少的条款。这反过来又转化为更高的回归精度,使用更少的计算资源。
2019-06-21 cs.AI cs.LG stat.ML
Developing controlled natural language for formal specification patterns using AI assistants
Institute of Automation and Electrometry(自动化与电测研究所)
本文提出利用AI助手开发受控自然语言的方法,通过三个阶段构建基于形式规范模式的自然语言需求,用于事件驱动的时间要求分析。
2025-12-30 cs.AI cs.FL cs.SE
Can Machines Think in Radio Language?
College of Computer Science, Beijing University of Technology(北京工业大学计算机学院)
人类可以用听觉、视觉和触觉的语言形式进行思考,机器也可以。但他们有可能用广播语言思考吗?根据广义智能的第一原理,即语言相对性原理,这个问题的答案可能会为机器人宇航员在太空探索中相互交谈提供一个例外的解决方案。
2017-12-17 cs.AI
Exploring Language Patterns in a Medical Licensure Exam Item Bank
Wright State University(莱特州立大学);NBME(美国国家医学考试委员会)
本研究探讨了使用自然语言处理(NLP)模型,以评估是否使用的项目作家在医疗执照考试的语言模式可能包含偏见或刻板的语言证据。项目语言选择中的这种类型的偏见可能对医疗许可评估中的项目特别有影响,因为它可能对测试分数有效性证据的内容有效性和可辩护性构成威胁。据我们所知,这是第一次尝试使用机器学习(ML)和NLP来探索大型题库上的语言偏见。使用一个预测算法训练的集群相似的项目干,我们证明,我们的方法可以用来审查大型项目银行潜在的偏见的语言或刻板的患者特征,在临床科学的小插曲。研究结果可以指导方法的发展,以解决在测试项目中发现的定型语言模式,并使这些项目的有效更新,如果需要的话,以反映当代规范,从而提高证据,以支持测试成绩的有效性。
2021-11-20 cs.AI cs.CL cs.IR
The Tsetlin Machine -- A Game Theoretic Bandit Driven Approach to Optimal Pattern Recognition with Propositional Logic
Centre for Artificial Intelligence Research(人工智能研究中心);University of Agder(阿格德大学)
虽然单个人工神经元很简单,但当在深度网络中互连时,人工神经元提供了最先进的性能。可以说,Tsetlin自动机是一种更简单、更通用的学习机制,能够解决多臂强盗问题。它仅仅依靠一个整数作为记忆,通过递增和递减操作来学习随机环境中的最优行为。本文介绍了由一组Tsetlin自动机组成的Tsetlin机,它用命题公式解决复杂的模式识别问题。为了消除长期存在的信噪比消失的问题,Tsetlin机器使用一种新颖的游戏来编排自动机。此外,输入、模式和输出都表示为比特,而识别和学习依赖于比特操作,从而简化了计算。我们的理论分析建立了纳什均衡的游戏与命题公式,提供最佳的模式识别的准确性。这意味着学习没有局部最优,只有全局最优。在五个基准测试中,与SVM、决策树、随机森林、朴素贝叶斯分类器、逻辑回归和神经网络相比,Tsetlin机器提供了具有竞争力的准确性。我们进一步展示了如何命题公式促进解释。总之,我们相信高精度,可解释性和计算简单性的结合使Tsetlin机成为广泛领域的有前途的工具。
2021-01-02 cs.AI cs.CV cs.LG
Capturing Local and Global Patterns in Procedural Content Generation via Machine Learning
King Digital Entertainment(国王数字娱乐公司)
最近通过机器学习(PCGML)方法的过程内容生成允许从现有内容学习以自动产生类似内容。虽然这些方法能够为不同的游戏(例如,超级马里奥兄弟,毁灭战士,塞尔达,和孩子伊卡洛斯),这是一个开放的问题,以及这些方法可以捕捉大规模的视觉模式,如对称。在本文中,我们提出了匹配三场比赛作为一个域来测试PCGML算法的能力,以产生合适的模式。我们证明了流行的算法,如生成对抗网络在这一领域的斗争,并提出适应,以提高其性能。特别是,我们增加了马尔可夫随机场方法的邻域,不仅考虑到本地,而且还考虑到对称的位置信息。我们进行了几个实证测试,包括用户研究,显示所提出的修改实现的改进,并获得可喜的成果。
2020-05-26 cs.AI cs.LG
Machine Learning Techniques for Pattern Recognition in High-Dimensional Data Mining
Northeastern University(东北大学)
本文提出一种基于SVM的频繁模式数据挖掘算法,通过将挖掘任务转化为分类问题并利用核函数映射,有效解决了高维稀疏数据下的性能瓶颈,实验证明其在支持度、置信度和提升度上显著优于传统模型。
2024-12-20 cs.AI cs.LG
Symbolic Graph Intelligence: Hypervector Message Passing for Learning Graph-Level Patterns with Tsetlin Machines
本文提出一种基于稀疏二值超向量与 Tsetlin 机器的多层符号图分类框架,通过结构化消息传递和分层绑定保留图层次语义,并在 TUDataset 上取得具有竞争力的准确率与局部可解释性。
2025-07-22 cs.AI cs.LG
Mirrored Language Structure and Innate Logic of the Human Brain as a Computable Model of the Oracle Turing Machine
Weimingbosi Corporation(未名博思公司);PKU Biocity(北大生物城)
本文提出了一种可计算Oracle图灵机模型的镜像语言结构(MLS)和由该结构确定的四条逻辑规则。MLS具有相当大的生物学和计算意义的新功能。提出了一种关系学习与识别(RLR)算法,使确定性计算机能够模拟Oracle图灵机的机制,即数学术语中的P = NP。
2010-06-12 cs.AI cs.LO
Pattern Recognition in Collective Cognitive Systems: Hybrid Human-Machine Learning (HHML) By Heterogeneous Ensembles
University of Wisconsin(威斯康星大学);University of Tehran(德黑兰大学);UNINOVA(联合国大学新技术研究所);Cold Spring Harbor Laboratories(冷泉港实验室)
网络基础设施(如WWW)的无处不在的作用为机器学习及其利用数字通信的广泛应用领域提供了无数的机会。模式分类和特征提取是机器学习最早的应用之一,受到了广泛的关注。最显著的成就是处理中大型数据集。过去一二十年的“数据洪流”给人工智能研究人员带来了新的挑战,他们需要使用超大规模数据集和复杂(自然或合成)动态系统为类似任务设计新的、有效和准确的算法。我们提出了一种新的原则性方法,在混合体系结构的特征提取由人类和机器在网络通信,谁合作解决一个预先分配的模式识别(特征提取)任务。(1)人类专家,如植物生物学家或天文学家,经常使用他们的视觉感知和其他隐含的先验知识或专业知识来搜索显著特征,而机器仅限于一组预编程的标准来工作;(2)在集体解决问题的团队协作中,人类专家具有互补的多种能力,他们相互学习,以机器仍然无法模仿的方式成功地完成认知复杂的任务。
2010-08-31 astro-ph.CO cs.AI q-bio.QM
Responsible Design Patterns for Machine Learning Pipelines
Polytechnique Montreal(蒙特利尔理工学院);CertKOR AI(CertKOR人工智能公司);Tabiah University(塔比阿大学)
本文提出将负责任设计模式融入机器学习流水线的综合框架,通过专家调查识别新模式并经真实场景验证,以降低算法偏见等风险并指导负责任AI部署。
2023-06-07 cs.AI cs.LG cs.SE
Closed pattern mining of interval data and distributional data
NukkAI;Université Sorbonne Paris Nord(巴黎北索邦大学);Muséum d’Histoire Naturelle(国家自然历史博物馆)
我们讨论了模式语言的封闭模式挖掘和学习的区间数据和分布数据。我们首先介绍模式语言依赖于对交叉为基础的约束或对包含为基础的约束,或两者兼而有之,适用于区间。我们讨论了编码的区间模式,从而允许使用封闭的项集挖掘和正式的概念分析程序的项集。我们在聚类和监督学习任务上实验这些语言。然后,我们将展示如何扩展的方法来解决分布式数据。
2022-12-09 cs.AI cs.LG
Beyond Message Passing: Neural Graph Pattern Machine
University of Notre Dame(圣母大学);University of Connecticut(康涅狄格大学)
本文提出神经图模式机器(GPM),绕过消息传递直接学习图子结构,以增强表达力和长程依赖建模,在四个标准任务上超越现有基线,并展现出良好的泛化性和可解释性。
2025-05-25 cs.AI cs.LG cs.SI
Exploring ordered patterns in the adjacency matrix for improving machine learning on complex networks
Institute of Physics of Sao Carlos(圣卡洛斯物理研究所);University of Sao Paulo(圣保罗大学)
使用复杂网络作为理解世界及其动态的现代方法在文献中已经得到了很好的证实。邻接矩阵提供了复杂网络的一对一表示,也可以产生图的几个度量。然而,并不总是清楚这种表示是唯一的,因为矩阵中的行和行的排列可以表示相同的图。为了解决这个问题,所提出的方法采用排序算法重新排列的元素的邻接矩阵的复杂图在一个特定的顺序。然后将得到的排序邻接矩阵用作特征提取和机器学习算法的输入,以对网络进行分类。结果表明,所提出的方法优于以前的文献结果的合成和真实世界的数据。
2023-01-20 cs.AI cs.SI physics.data-an
Monte Carlo Physarum Machine: Characteristics of Pattern Formation in Continuous Stochastic Transport Networks
University of California, Santa Cruz(加州大学圣克鲁兹分校);New Mexico State University(新墨西哥州立大学);Kavli IPMU(卡维利宇宙物理学与数学研究所)
我们提出了Monte Carlo Physarum Machine:一个适用于从稀疏的2D和3D数据重建连续传输网络的计算模型。MCPM是Jones 2010年基于代理的模型的概率推广,用于模拟多头绒泡菌黏菌的生长。我们比较MCPM琼斯的工作在理论上的理由,并描述了一个特定任务的变体,旨在重建大规模分布的气体和暗物质在宇宙中被称为宇宙网络。为了分析新模型,我们首先探索MCPM的自我模式化行为,显示了广泛的连续网络状形态-称为“polyphorms”-该模型从几何直观参数产生。将MCPM应用于模拟和观测的宇宙学数据集,然后评估其产生宇宙网络一致的3D密度图的能力。最后,我们研究了MCPM可能有用的其他可能任务,以及拟合特定领域数据作为概念证明的几个例子。
2022-04-04 astro-ph.CO cs.AI cs.GR