Assessing Risks of Biases in Cognitive Decision Support Systems
University of Calgary（卡尔加里大学）；Defence Research and Development Canada (DRDC)（加拿大国防研究与发展中心）
本文针对认知DSS中多源异构偏见的管理问题，提出基于概率推理的偏见风险评估方法，并通过人脸生物特征安检站实验验证偏见集合发现与风险评估技术。
2020-07-28 cs.CV cs.CY
On the interplay of data and cognitive bias in crisis information management -- An exploratory study on epidemic response
2014年西非埃博拉疫情等人道主义危机对信息管理提出了挑战，从而威胁到应对组织的数字复原力。危机信息管理（CIM）的特点是，尽管情况不确定，但仍需作出紧急反应。再加上风险高、资源有限和认知负荷大，危机很容易导致分析人员和决策者在数据和认知过程中产生偏差。当CIM中的偏见未被发现和处理时，它们可能会导致基于有偏见的信息做出决策，从而增加响应效率低下的风险。文献表明，危机应对需要通过适应新的和更好的信息来解决最初的不确定性和可能的偏差。然而，我们对适应性方法是否能减轻数据和认知偏差的相互作用知之甚少。我们在一个关于流行病应对的探索性三阶段实验中调查了这个问题。我们的参与者是危机决策和信息分析领域的经验丰富的从业人员。我们发现，分析师未能成功地去偏置数据，即使偏见被检测到，这种失败可以归因于低估去偏置的努力，有利于快速的结果。这一失败导致了有偏见的信息产品的发展，这些产品被传达给决策者，他们因此根据有偏见的信息做出决定。确认偏差强化了对有偏见数据得出的结论的依赖，导致恶性循环，其中有偏见的假设仍然没有得到纠正。我们建议有意识的去偏置作为一种可能的反策略，对这些偏见的影响，在CIM。
2022-01-10 cs.CY
Assessing Cognitive Biases in LLMs for Judicial Decision Support: Virtuous Victim and Halo Effects
Sierra S. Liu
研究评估大语言模型在司法决策支持中的认知偏差，发现善良受害者效应和光环效应存在差异，部分偏差在人类和模型间有显著差异。
2026-02-21 cs.AI cs.CY
Embracing Imperfection: Simulating Students with Diverse Cognitive Levels Using LLM-based Agents
Zhejiang University（浙江大学）；Hong Kong University of Science and Technology（香港科学与技术大学）
针对LLM难以模拟不同认知水平学生自然错误的问题，提出基于知识图谱构建认知原型并利用束搜索迭代优化学生解决方案的无训练框架，在Student_100数据集上实现模拟准确率100%提升。
2025-08-09 cs.CL cs.CY cs.LG
Evidence of Cognitive Biases in Capture-the-Flag Cybersecurity Competitions
Carnegie Mellon University（卡内基梅隆大学）；INESC-ID（葡萄牙信息与系统工程技术科学研究所）；King Abdulaziz University（阿卜杜勒阿齐兹国王大学）
本研究通过分析picoCTF平台超过50万条提交日志，发现攻击者存在可得性偏差和沉没成本谬误，并据此提出偏差信息驱动的自适应防御框架，以预测对抗行为。
2025-10-07 cs.CR cs.CY cs.HC
Instructed to Bias: Instruction-Tuned Language Models Exhibit Emergent Cognitive Bias
Technion – Israel Institute of Technology（以色列理工学院）；School of Computer Science and Engineering, The Hebrew University of Jerusalem（耶路撒冷希伯来大学计算机科学与工程学院）
研究揭示指令微调与RLHF会诱发大语言模型出现诱饵效应、确定性效应和信念偏差等认知偏差，为构建更可靠无偏见的语言模型提供依据。
2024-03-31 cs.AI cs.CY cs.LG
The Efficacy of Conversational Artificial Intelligence in Rectifying the Theory of Mind and Autonomy Biases: Comparative Analysis
本研究通过虚拟案例比较治疗型聊天机器人与通用语言模型在纠正心理理论和自主性认知偏差及情感识别方面的表现，发现GPT-4等通用模型整体优于Wysa等治疗型机器人，提示治疗型聊天机器人需进一步改进以安全有效地用于数字心理健康干预。
2024-07-23 cs.CY cs.HC
Towards Socially Responsible AI: Cognitive Bias-Aware Multi-Objective Learning
IBM Research Dublin（IBM 研究院都柏林分院）
人类社会有着长期的认知偏见，导致社会偏见和大规模不公正。大量历史数据中普遍存在的认知偏见可能会构成威胁，表现为不道德和看似不人道的预测，作为在这些数据上训练的人工智能系统的输出。为了缓解这个问题，我们提出了一个偏见意识的多目标学习框架，给定一组身份属性（例如性别，种族等）。以及预测输出的可能类别的敏感类别的子集，学习减少预测它们的某些组合的频率，例如预测诸如“大多数黑人使用辱骂性语言”或“恐惧是女性的美德”之类的刻板印象。我们在具有平衡类先验的情感预测任务上进行的实验表明，一组基线偏差不可知模型表现出与性别有关的认知偏差，例如女性倾向于害怕，而男性更倾向于愤怒。相比之下，我们提出的偏见意识的多目标学习方法，以减少这种偏见的预测情绪。
2020-07-28 cs.CL cs.CY cs.LG
Examining User Behavior and Cognitive Biases in Personal Password Security
Texas A&M University（德克萨斯农工大学）
研究个人密码安全中用户行为与认知偏差，整合行为经济学见解，通过调查分析用户密码创建等情况，发现即时便利重于长期安全，识别相关心理偏差，为设计用户友好型认证策略提供实用见解。
2026-07-23 cs.CR cs.CY
Visual Elements and Cognitive Biases Influence Interpretations of Trends in Scatter Plots
本文研究散点图中异常值、趋势线等视觉元素与认知偏差对相关性趋势感知的影响，发现异常值和趋势线会扭曲趋势感知，并据此提出调整视觉元素以减轻误导的指南。
2023-10-23 cs.CY cs.GR cs.HC
DiverseClaire: Simulating Students to Improve Introductory Programming Course Materials for All CS1 Learners
The University of New South Wales（新南威尔士大学）
DiverseClaire通过模拟神经多样性学生，利用LLMs和UDL改进CS1课程材料，以满足不同学习者的需求。
2025-11-18 cs.AI cs.CY cs.HC
Random Silicon Sampling: Simulating Human Sub-Population Opinion Using a Large Language Model Based on Group-Level Demographic Information
Sungkyunkwan University（成均馆大学）；Qatar Computing Research Institute（卡塔尔计算研究所）；Hamad Bin Khalifa University（哈马德·本·哈利法大学）
提出“随机硅抽样”方法，仅依据群体级人口统计分布让大语言模型生成调查回答，发现其可高度近似美国真实民调结果，并揭示社会偏见导致不同群体与主题间的可复制性差异。
2024-02-28 cs.AI cs.CY
Simulating Misinformation Propagation in Social Networks using Large Language Models
Vizuara AI Labs（Vizuara AI实验室）
本文利用大语言模型模拟社交媒体虚假信息传播，通过构建人格代理网络研究虚假信息演变机制，揭示身份和意识形态驱动的人格加速虚假信息扩散，专家驱动人格则保持事实稳定。
2025-11-13 cs.AI cs.CL cs.CY
Designing Resource Allocation Tools to Promote Fair Allocation: Do Visualization and Information Framing Matter?
本文通过三项众包实验考察资源分配工具的呈现形式与信息框架，发现个人框架的可视化和文本有助于抑制群体框架引发的不公平分配。
2024-09-10 cs.CY cs.HC
Cognitive network science for understanding online social cognitions: A brief review
University of Exeter（埃克塞特大学）
社交媒体正在将大量用户在时间线和情感内容方面的认知数字化。这些大数据为研究感知、个性和信息扩散等认知现象提供了前所未有的机会，但需要合适的可解释框架。由于社交媒体数据来自用户的头脑，因此这一挑战的有价值的候选者是认知网络，即为心理概念联想提供结构的认知模型。这项工作概述了认知网络科学如何通过在线媒体为理解认知开辟新的定量方法，例如：（i）重建用户如何使用机器学习无法获得的上下文知识在语义和情感上构建事件，（ii）通过社会话语中的知识结构研究概念突显/突出;（iii）通过帖子中的语言研究用户的个性特征，如开放性、好奇心和创造力;（iv）通过比较影响者和追随者的心态的多层网络，将认知/情感内容和社会动态联系起来。这些进步结合了认知、网络和计算机科学，以理解数字和现实世界环境中的认知机制，但在代表性、个体差异性和数据整合方面存在局限性。这些方面的讨论沿着操纵社会认知数据的伦理影响。在未来，通过网络和社交媒体阅读认知可以暴露被在线平台放大的认知偏见，并为政策制定、教育和市场提供有关大规模复杂认知趋势的相关信息。
2021-02-25 cs.CL cs.CY cs.SI
