Exploring Conversational Agents as an Effective Tool for Measuring Cognitive Biases in Decision-Making
University College Dublin（都柏林大学学院）
本文研究利用对话智能体自动测量决策中的认知偏差，提出融合现有实验设计的偏差测量机制，并通过初步实验验证其在测量框架效应和损失厌恶偏差上的有效性。
2024-01-08 cs.AI cs.HC
Cognitive Argumentation and the Suppression Task
TU Dresden（德累斯顿工业大学）；University of Cyprus（塞浦路斯大学）
本文提出了一个新的框架，称为认知论证建模人类推理的挑战。这个框架基于这样一个假设，即人类逻辑推理本质上是一个辩证论证的过程，旨在为人类推理开发一个可计算和可实现的认知模型。为了使逻辑推理具有人类认知形式，该框架依赖于认知原则，基于认知科学中的经验和理论工作，以适当地适应AI计算论证的一般和抽象框架。认知论证的方法进行评估与伯恩的抑制任务，其目的是不仅要捕捉不同群体的人之间的抑制效果，但也要考虑到每个群体内的推理的变化。两个主要的认知原则是特别重要的捕捉人类条件推理，解释参与者的反应：（i）解释的条件内的条件作为充分和/或必要的和（ii）的推理模式，无论是预测或解释。我们认为，认知论证提供了一个连贯的和认知充分的模型，人类的条件推理，允许一个自然的明确和似是而非的结论之间的区别，表现出的重要特征，上下文敏感和可撤销的推理。
2020-02-24 cs.AI
Self-Awareness before Action: Mitigating Logical Inertia via Proactive Cognitive Awareness
School of Software, Jilin University（吉林大学软件学院）；School of Computer Science, Jilin University（吉林大学计算机科学学院）
本文提出SABA框架，通过在最终决策前引入对缺失前提的自我意识，解决大语言模型在非交互谜题中因早期假设传播导致的结论不稳定问题，实现了在多个基准测试中的最佳性能。
2026-04-22 cs.AI
Measuring Cognitive Workload Using Multimodal Sensors
University of Canberra（堪培拉大学）；Human-Centred Technology Research Centre（人本技术研究中心）
本研究的目的是确定一套指标，估计认知工作负荷使用多模态传感方法和机器学习。一组三个认知测试进行了诱导认知工作量在两个级别的任务难度（容易和困难）的12名参与者。使用四种传感器测量受试者的生理变化，包括心电图（ECG）、皮肤电活动（EDA）、呼吸（RESP）和血氧饱和度（SpO 2）。为了了解认知负荷，在每次测试后使用NASA-TLX，并使用卡方检验进行分析。三个众所周知的分类器（LDA，SVM和DT）的训练和测试独立使用的生理数据。统计分析表明，被试感知认知负荷在两次测试之间存在显著差异（p<0.001），证明了实验条件诱导不同认知水平的有效性。分类结果表明，ECG和EDA的融合呈现出良好的区分能力（acc=0.74）的认知负荷检测。这项研究提供了初步的结果，在识别一组可能的指标认知工作量。今后需要开展工作，使用更现实的情景和更多的人口来验证指标。
2022-05-05 cs.AI cs.HC q-bio.NC
Aligning with Logic: Measuring, Evaluating and Improving Logical Preference Consistency in Large Language Models
University of Cambridge（剑桥大学）；Monash University（莫纳什大学）
本研究针对LLMs判断不一致问题，提出基于传递性等三个属性的逻辑偏好一致性评估框架，引入REPAIR技术提升一致性并保持人类偏好对齐，实验证明该框架可反映鲁棒性且改进后算法性能更好。
2025-02-09 cs.AI cs.CL cs.LO
Measuring Cognitive Status from Speech in a Smart Home Environment
人口正在老龄化，并且越来越精通技术。联合国预测，到2050年，世界上六分之一的人将超过65岁（2019年为十一分之一），在欧洲和北美，这一比例将增加到四分之一。与此同时，65岁以上的美国成年人拥有智能手机的比例从2013年到2017年上升了24个百分点，大多数人家中都有互联网。智能设备和灵巧家庭技术具有深刻的潜力，可以改变人们的年龄，他们在晚年独立生活的能力，以及他们与他们的护理圈的互动。认知健康是老年人独立和幸福的关键组成部分，灵巧家庭提供了许多以连续、不引人注目的方式测量认知状态的机会。在这篇文章中，我们专注于语音作为认知健康的测量工具。现有的认知评估方法受到许多限制，这些限制可以通过灵巧家庭语音感测技术来解决。我们首先介绍一个关于从语音中测量认知状态的简短教程，包括一些有用的开源软件工具箱的指针，供感兴趣的读者使用。然后，我们提出了一个概述的初步结果，从试点研究的主动和被动灵巧家庭语音传感的认知健康的测量，并得出结论，在这一领域的下一波工作的一些建议和挑战声明，以帮助克服技术和伦理障碍的成功。
2021-10-18 cs.AI cs.CL cs.CY
Reversal of Thought: Enhancing Large Language Models with Preference-Guided Reverse Reasoning Warm-up
East China Normal University（东华大学）；Macquarie University（麦考瑞大学）
提出思维反转（RoT）框架，通过偏好引导的反向推理预热，在推理前增强LLM逻辑能力，实验证明其准确性和效率均优于现有方法。
2025-05-26 cs.AI cs.CL
MTTR-A: Measuring Cognitive Recovery Latency in Multi-Agent Systems
Office of the CEO, MetaOr Artificial Intelligence（MetaOr人工智能首席执行官办公室）；Google–Reichman Tech School, Reichman University（Reichman大学Google–Reichman技术学院）
本研究提出MTTR-A指标，用于测量多智能体系统中认知恢复延迟，通过理论分析和实验验证建立了运行时认知可靠性的量化基础。
2025-12-26 cs.AI cs.MA cs.SY
CogBias: Measuring and Mitigating Cognitive Bias in Large Language Models
Indiana University Bloomington（印第安纳大学伯明顿分校）；Singapore Management University（新加坡管理大学）
本文研究大型语言模型中的认知偏差，通过定义四种偏差类型，评估三种模型并发现偏差在不同家族中表现不同，通过激活引导技术减少偏差并保持模型能力。
2026-04-01 cs.AI
Beyond Accuracy: Measuring Logical Compliance of Predictive Models
LIG（里格实验室）
提出规则违反分数（RVS），一种独立于预测准确性的评估指标，用于量化预测模型对逻辑规则的遵守程度，并通过实验证明两个准确率相近的模型可能表现出截然不同的逻辑合规性。
2026-10-22 cs.AI cs.DB cs.NE
Precision Proactivity: Measuring Cognitive Load in Real-World AI-Assisted Work
College of Engineering, UC Santa Barbara（加州大学圣芭芭拉分校工程学院）；School of Computing, KAIST（韩国科学技术院计算机科学学院）
本文研究了在真实世界中AI辅助工作中的认知负荷测量，通过任务分解和知识图谱开发了评估框架，发现外在负荷对质量影响最大，任务切换是性能下降的最强预测因素。
2026-03-07 cs.AI cs.HC
EMP-EVAL: A Framework for Measuring Empathy in Open Domain Dialogues
National University of Computer and Emerging Sciences（国立计算机与新兴科学大学）
在谈话中测量共情可能具有挑战性，因为共情是一个复杂而多方面的心理结构，涉及认知和情感成分。人类的评估可能是主观的，导致不一致的结果。因此，需要一种用于测量共情的自动方法，该方法减少了对人类评估的需要。在本文中，我们提出了一种新的方法EMP-EVAL，一个简单而有效的自动移情评估方法。所提出的技术需要情感，认知和情感共情的影响。据我们所知，我们的工作是第一个在没有人类注释的情况下系统地测量同理心的工作。实验结果表明，我们的指标可以与人类的偏好，实现人类的判断相当的结果。
2023-01-29 cs.AI
From Consumption to Collaboration: Measuring Interaction Patterns to Augment Human Cognition in Open-Ended Tasks
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
针对生成式AI在开放式任务中可能导致人类认知退化的问题，提出一个从认知活动与参与双维度分析人机交互模式的框架，以评估LLM作为思维工具的有效性，为增强人类认知的AI系统提供理论与实践指导。
2025-04-03 cs.AI cs.HC
Measuring Systematic Generalization in Neural Proof Generation with Transformers
Polytechnique Montréal（蒙特利尔综合理工学院）；McGill University（麦吉尔大学）；Facebook AI Research（脸书人工智能研究院）；ElementAI（元素人工智能公司）
我们感兴趣的是了解如何以及Transformer语言模型（TLM）可以执行推理任务时，在自然语言的形式编码的知识进行训练。我们调查他们的系统概括能力的逻辑推理任务，在自然语言，其中包括推理的基础上的一阶逻辑证明实体之间的关系。具体来说，我们执行软定理证明利用TLM生成自然语言证明。我们测试生成的证明的逻辑一致性，以及最终推理的准确性。我们观察到在比训练序列长的序列上进行评估时的长度泛化问题。然而，我们观察到TLM在暴露于更长，更详尽的证明后提高了其泛化性能。此外，我们发现，TLM能够更好地推广使用后向链证明相比，他们的前向链同行，而他们发现更容易生成前向链证明。我们观察到，没有经过训练来生成证明的模型更善于推广到基于较长证明的问题。这表明，Transformers具有高效的内部推理策略，但很难解释。这些结果突出了TLM在逻辑推理背景下的系统泛化行为，我们相信这项工作激发了对其潜在推理策略的更深入研究。
2020-10-20 cs.AI cs.CL cs.LG
Measuring reasoning capabilities of ChatGPT
Technical University of Cluj-Napoca（克卢日-纳波卡技术大学）
本研究通过144个逻辑谜题基准测试量化ChatGPT的推理能力，发现其仅对7%的谜题给出正确答案，并识别出67种逻辑错误类型，平均每个任务含7个谬误，生成文本中26.03%为逻辑错误。
2023-10-08 cs.AI
The neural correlates of logical-mathematical symbol systems processing resemble that of spatial cognition more than natural language processing
Tsinghua University（清华大学）；Beijing Normal University（北京师范大学）
本研究通过元分析和合成神经图谱对比发现，逻辑-数学符号加工的神经关联更接近空间认知而非语言加工，支持空间认知是其基础的假说，可为解释大语言模型的逻辑推理局限提供参考。
2024-06-20 cs.AI cs.CL q-bio.NC
Towards Understanding and Measuring COGNITIVE ATROPHY in LLM Behaviour
York University（约克大学）；Vector Institute（向量研究所）；Rotman Research Institute（罗特曼研究学院）；Dalhousie University（达尔豪斯大学）；Centre for Addiction & Mental Health（成瘾与心理健康中心）；KITE Research Institute（KITE研究机构）
针对LLM在心理健康支持中缺乏过程行为评估的问题，提出认知萎缩概念及基准，通过临床标注和专家评估揭示模型普遍存在中度至高度萎缩行为。
2026-06-17 cs.AI cs.HC
The General Theory of General Intelligence: A Pragmatic Patternist Perspective
人工智能和自然智能的理论基础，这已表示在一系列的书籍和论文，并用于指导一系列的实际和研究原型软件系统，几十年的探索，审查在一个中等的详细程度。审查涵盖了基本的哲学（模式主义哲学的心灵，基础现象学和逻辑本体论），形式化的智能概念，并提出了一个高级架构AGI系统部分驱动这些形式化和哲学。具体的认知过程，如逻辑推理，程序学习，集群和注意力分配的上下文中和语言的这种高层次的架构的实施被认为是一个共同的（例如类型的元数据为基础的）知识表示的重要性，使各种过程之间的“认知协同”。类似人类的认知架构的细节被呈现为这些一般原则的表现形式，机器意识和机器伦理的关键方面也在此背景下进行了处理。在OpenCog Hyperon等框架中实际实现高级AGI的经验教训被简要考虑。
2021-04-04 cs.AI
Quantum Structure in Cognition and the Foundations of Human Reasoning
Center Leo Apostel for Interdisciplinary Studies（利奥·阿波斯泰尔跨学科研究中心）；Brussels Free University（布鲁塞尔自由大学）；University of British Columbia（不列颠哥伦比亚大学）；Instituto de Filosofía y Ciencias de la Complejidad (IFICC)（哲学与复杂性研究所（IFICC））
传统的认知科学建立在经典逻辑和概率论的基础上。这一基础受到了实验心理学关于人类决策的几项发现的严重挑战。与此同时，量子理论的形式主义为这些经典问题的建模提供了一个有效的资源。在本文中，我们从我们成功的量子理论方法来建模的概念组合，制定一个统一的解释性假设。在它里面，人类的推理是两个过程的叠加--概念推理，其本质是新概念的出现，以及逻辑推理，建立在逻辑类型的代数演算之上。然而，在大多数认知过程中，前者的推理胜过后者。从这个角度来看，观察到的对经典逻辑推理的偏离不应被解释为偏见，而应被解释为最深层形式的自然表达。
2014-12-30 cs.AI quant-ph
Cognitive Architecture for Decision-Making Based on Brain Principles Programming
Novosibirsk State University（新西伯利亚国立大学）；Sberbank of Russia（俄罗斯联邦储蓄银行）
我们描述了一个认知架构，旨在解决广泛的问题的基础上确定的大脑活动的五个原则，其实施在三个子系统：逻辑概率推理，概率形式概念和功能系统理论。构建架构涉及任务驱动方法的实现，该方法允许将所应用的应用的目标功能定义为根据与任务相对应的操作环境而制定的任务，该任务在应用本体中表达。我们提供了一个基本的本体的一些实际应用，以及基于它的主题域本体，描述了拟议的架构，并给出了可能的例子，这些应用程序在这个架构中的执行。
2022-06-19 cs.AI cs.CE
Proactive Defense: Compound AI for Detecting Persuasion Attacks and Measuring Inoculation Effectiveness
Aptima, Inc.（Aptima公司）
本文提出BRIES复合AI架构，通过专门代理检测说服攻击并评估免疫效果，揭示不同模型在处理说服语言上的差异。
2025-11-23 cs.AI cs.CL
Mind vs. Mouth: On Measuring Re-judge Inconsistency of Social Bias in Large Language Models
Tianjin University（天津大学）；China Mobile Communication Group Tianjin Co., Ltd.（中国移动通信集团天津有限公司）
该研究聚焦大语言模型的外显与内隐社会偏见，提出两阶段方法发现“重判不一致性”现象，经ChatGPT和GPT-4实验验证其稳定性，为借助心理学理论探究大模型认知机制提供新视角。
2023-08-24 cs.AI cs.CL
Too Much to Trust? Measuring the Security and Cognitive Impacts of Explainability in AI-Driven SOCs
Rochester Institute of Technology（罗切斯特技术学院）；Independent Researcher（独立研究者）
本文通过混合方法研究SOC分析师对XAI解释的认知，发现角色感知且上下文丰富的可解释性设计能提升理解、分诊效率与响应信心，即便预测准确率较低也能被接受。
2025-07-20 cs.AI cs.CR cs.IR
Cognitive-Motor Integration in Assessing Bimanual Motor Skills
College of Engineering, Florida A&M University and The Florida State University（佛罗里达农工大学与佛罗里达州立大学工程学院）；Biomedical Engineering Department, Rensselaer Polytechnic Institute（伦斯勒理工学院生物医学工程系）
针对传统双手运动技能评估忽略认知过程的问题，本研究提出结合DNN整合认知决策与运动执行的新方法，在腹腔镜手术技能评估中实现了更优的分类与评分预测效果。
2024-04-16 cs.AI
Measuring Curriculum Alignment across Topical Coverage, Competency, and Cognitive Depth: A Longitudinal Framework Applied to CS2013 and CS2023
United Arab Emirates University（阿联酋大学）；Abu Dhabi Polytechnic（阿布扎比理工学院）
提出一种人机协同流程，通过语义检索与人工确认，纵向衡量计算机科学课程对CS2013和CS2023指南的覆盖情况，发现课程覆盖稳定但新指南对认知深度要求更高。
2026-09-16 cs.AI cs.SE
Measuring and mitigating overreliance to build human-compatible AI
本文研究了大型语言模型过度依赖的风险，探讨了测量和缓解过度依赖的方法，以确保AI能增强而非削弱人类能力。
2026-05-20 cs.AI cs.CL cs.CY
Cognitive Architecture for Decision-Making Based on Brain Principles Programming (in Russian)
Novosibirsk State University（新西伯利亚国立大学）；Sberbank of Russia（俄罗斯联邦储蓄银行）
我们描述了一个认知架构，旨在解决广泛的问题的基础上确定的大脑活动的五个原则，其实施在三个子系统：逻辑概率推理，概率形式概念和功能系统理论。构建架构涉及任务驱动方法的实现，该方法允许将所应用的应用的目标功能定义为根据与任务相对应的操作环境而制定的任务，该任务在应用本体中表达。我们提供了一个基本的本体的一些实际应用，以及基于它的主题域本体，描述了拟议的架构，并给出了可能的例子，这些应用程序在这个架构中的执行。
2023-02-18 cs.AI cs.HC cs.SY
Measuring and identifying factors of individuals' trust in Large Language Models
University of Trento（特伦托大学）；National University of Singapore（新加坡国立大学）；University of Virginia（弗吉尼亚大学）
本文提出TILLMI框架测量个体对LLMs的信任，通过心理测量量表与因子分析验证其双因子结构，并揭示信任与人格特质及使用经验的相关性，为AI信任研究提供实证基础。
2025-03-05 cs.AI cs.HC
Non-monotonic Logical Reasoning Guiding Deep Learning for Explainable Visual Question Answering
University of Auckland（奥克兰大学）；University of Birmingham（伯明翰大学）
许多模式识别问题的现有算法依赖于深度网络模型。训练这些模型需要大量的标记数据集和大量的计算资源。此外，很难理解这些学习模型的工作原理，限制了它们在某些关键应用中的使用。为了解决这些限制，我们的架构从认知系统的研究中汲取灵感，并整合了常识逻辑推理，归纳学习和深度学习的原则。在回答有关场景和潜在分类问题的解释性问题时，该架构使用深度网络从图像中提取特征并生成查询答案。在这些深层网络之间，它嵌入了用于不完整常识领域知识的非单调逻辑推理和用于决策树归纳的组件。它还增量地学习和推理先前未知的控制域状态的约束。我们评估了模拟和现实世界的图像数据集的上下文中的架构，和一个模拟的机器人计算，执行，并提供解释性的描述计划。实验结果表明，与深度网络的“端到端”架构相比，当训练数据集很小时，我们的架构在分类问题上提供了更好的准确性，与较大数据集相当的准确性，以及对解释性问题的更准确答案。此外，以前未知的约束条件的增量采集提高了回答解释性问题的能力，并扩展非单调逻辑推理，以支持规划和诊断，提高了可靠性和效率的计算和执行计划的模拟机器人。
2019-09-23 cs.AI cs.CV cs.RO
