Are Cognitive Biases as Important as they Seem for Data Visualization?
本文回顾了可视化社区对认知偏差的看法,指出当前研究过度强调人类决策缺陷,呼吁结合启发法展现的适应性专长,以更平衡的视角看待人类在复杂环境中的认知局限与决策策略。
2025-03-05 cs.HC
Cognitive Biases in LLM-Assisted Software Development
University of Southern California(南加州大学);Naval Postgraduate School(海军研究生院)
本文研究了大语言模型辅助软件开发中的认知偏差,通过混合方法分析发现LLM相关行动更易产生新型偏差,并提出15种偏差类别及缓解建议。
2026-01-12 cs.HC cs.SE
Blind Spots and Biases: Exploring the Role of Annotator Cognitive Biases in NLP
Pennsylvania State University(宾夕法尼亚州立大学);Information Sciences and Technology(信息科学与技术学院)
本文系统回顾了自然语言处理中标注者认知偏差的研究方法,探讨人类参与对AI偏差的双重影响,为理解标注属性如何导致偏差提供基础。
2024-04-29 cs.CL cs.HC
CBEval: A framework for evaluating and interpreting cognitive biases in LLMs
Vizuara AI Labs(维祖拉人工智能实验室)
针对LLMs可能继承认知偏差的问题,提出CBEval框架,通过影响图识别偏差相关短语/单词并解释偏差原因,研究整数偏差等具体偏差,以阐明其推理局限性。
2024-12-04 cs.AI cs.CL cs.HC
Hell is Paved with Good Intentions: The Intricate Relationship Between Cognitive Biases and Dark Patterns
本文通过15名专家参与的四个焦点小组研究认知偏差与暗黑模式的关联,并提出关系模型以识别伦理反思与用户保护的关键时机。
2024-05-12 cs.HC
Quantifying the Impact of Cognitive Biases in Question-Answering Systems
众包可以为问题找到高质量的解决方案;然而,个人决策受到认知偏见的限制。我们调查一些这些偏见的问答系统的实验模型。在自然实验和对照实验中,我们观察到一种强烈的立场偏见,有利于答案出现在选择列表的前面。这种效果由三个认知因素增强:答案所受到的关注,其感知的受欢迎程度和认知负荷,以用户必须处理的选择数量来衡量。虽然这些影响单独很弱,但它们协同放大了位置偏差,并将用户对最佳答案的选择与其内在质量分离开来。最后,我们讨论了新的方法,我们可以应用这些研究结果,大大提高如何在问答系统中找到高质量的答案。
2019-09-20 cs.HC cs.SI
Visualizing Cognitive Moves for Assessing Information Perception Biases in Decision Making
在决策过程中,不确定性的一个关键来源是人们对信息的感知,这受到他们对风险的态度的影响。对信息的看法和风险态度都影响对信息的解释,从而影响在从项目规划到军事行动的各种情况下选择适当的行动方针。因此,与人们处理信息和做出决策的认知状态的动态相关联的可视化不仅对于分析很重要,而且具有重要的实际应用,特别是在军事指挥和控制领域。在本文中,我们专注于在这种情况下影响人类认知的一个主要概念:信息的可靠性。我们引入认知移动图(CMD)-一个简单的可视化工具-来表示和评估这一概念对决策的影响。我们通过一个假设的例子和一个主题专家为基础的实验证明,CMD是有效的可视化,检测和量化人类的偏见。
2014-01-28 cs.HC
Studying the Effects of Cognitive Biases in Evaluation of Conversational Agents
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
人类经常与会话代理人互动。通过神经网络的生成语言建模的快速发展有助于促进智能会话代理的创建。研究人员通常通过众包判断来评估他们的模型的输出,但没有建立进行此类研究的最佳实践。此外,目前还不清楚决策中的认知偏见是否会影响众包工作者在承担这些任务时的判断。为了进行调查,我们与77名众包工作人员进行了一项受试者间研究,以了解认知偏见的作用,特别是锚定偏见,当人类被要求评估会话代理的输出时。我们的研究结果提供了深入了解如何最好地评估会话代理。我们发现,在两个实验条件下,评级的一致性增加可能是锚定偏差的结果。我们还确定,外部因素,如时间和以前的经验,在类似的任务有影响的评分员之间的一致性。
2020-02-26 cs.CL cs.HC
Words That Stick: Predicting Decision Making and Synonym Engagement Using Cognitive Biases and Computational Linguistics
State University of New York at Albany(纽约州立大学奥尔巴尼分校);Google(谷歌公司)
本研究基于认知心理学和NLP技术,提出READ模型整合四种认知偏差,预测数字平台上的用户决策与同义词参与度,发现符合特定认知特征的同义词能显著提升用户参与度,为跨领域数字内容设计提供了新视角。
2023-07-26 cs.AI cs.CL cs.HC
Cognitive Bias Detection Using Advanced Prompt Engineering
Georgetown University(乔治城大学);CGI Federal(CGI联邦公司)
本文提出利用大语言模型与高级提示工程实时检测用户文本中的确认偏差、循环推理等认知偏差,实验证明其高准确性,可提升内容客观性并降低有偏决策风险。
2025-03-07 cs.AI cs.CL cs.CY
Evidence of Cognitive Biases in Capture-the-Flag Cybersecurity Competitions
Carnegie Mellon University(卡内基梅隆大学);INESC-ID(葡萄牙信息与系统工程技术科学研究所);King Abdulaziz University(阿卜杜勒阿齐兹国王大学)
本研究通过分析picoCTF平台超过50万条提交日志,发现攻击者存在可得性偏差和沉没成本谬误,并据此提出偏差信息驱动的自适应防御框架,以预测对抗行为。
2025-10-07 cs.CR cs.CY cs.HC
Cognitively Biased Users Interacting with Algorithmically Biased Results in Whole-Session Search on Debated Topics
针对争议主题搜索,研究通过1,321名参与者的三次查询会话实验,分析认知偏差用户与算法偏差SERP的交互,揭示态度变化、点击行为及偏差位置效应。
2024-06-07 cs.HC cs.IR
Challenging the appearance of machine intelligence: Cognitive bias in LLMs and Best Practices for Adoption
该研究指出大语言模型的偏差评估常忽略180余种人类认知偏差,证实其存在于LLMs中,分析了专业表象下偏差推理的影响,并呼吁加强教育与研究,提出了技术采用的最佳实践。
2023-08-28 cs.HC
Is General-Purpose AI Reasoning Sensitive to Data-Induced Cognitive Biases? Dynamic Benchmarking on Typical Software Engineering Dilemmas
Collegium Helveticum, ETH Zurich(瑞士苏黎世联邦理工学院);University of Zurich(苏黎世大学);University of Italian-speaking Switzerland(意大利语瑞士大学);ETH Zurich(苏黎世联邦理工学院);University of Bologna(博洛尼亚大学)
本文通过动态基准测试框架评估GPAI在软件工程中对数据诱导认知偏差的敏感性,发现GPAI系统在面对偏见诱导语言线索时易产生错误推理。
2025-11-29 cs.AI cs.HC cs.SE
BIASeD: Bringing Irrationality into Automated System Design
ELLIS Alicante(ELLIS阿利坎特研究所);Universidad de Alicante(阿利坎特大学);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
本文提出未来AI系统应建模、理解并可能复现人类认知偏差,并从AI视角对认知偏差分类,规划人机协作研究议程与设计方向。
2023-12-01 cs.AI cs.HC
Beyond Isolation: Towards an Interactionist Perspective on Human Cognitive Bias and AI Bias
本文主张超越对人类认知偏差与AI偏差的孤立研究,转向关注两者的动态交互效应,并提出构建一个将复合偏差映射至缓解策略的综合框架,以理解和保护人类认知。
2025-04-26 cs.HC
The Efficacy of Conversational Artificial Intelligence in Rectifying the Theory of Mind and Autonomy Biases: Comparative Analysis
本研究通过虚拟案例比较治疗型聊天机器人与通用语言模型在纠正心理理论和自主性认知偏差及情感识别方面的表现,发现GPT-4等通用模型整体优于Wysa等治疗型机器人,提示治疗型聊天机器人需进一步改进以安全有效地用于数字心理健康干预。
2024-07-23 cs.CY cs.HC
Addressing Cognitive Biases in Augmented Business Decision Systems
在业务决策过程中引入的算法决策辅助工具如何影响任务绩效?在第一个实验中,我们研究有效的合作。面对一个决定,单独的受试者有72%的成功率;在有75%成功率的推荐器的帮助下,他们的成功率达到76%。因此,人类与系统合作的成功率比单独行动的成功率更高。然而,我们注意到一个自满/权威偏见,降低了5%的决策质量时,推荐是错误的。这表明任何挥之不去的算法偏见都可能被决策辅助工具放大。在第二个实验中,我们评估了5个呈现变量在减少自满偏见方面的有效性。我们发现,可选的介绍增加了受试者的阻力,错误的建议。最后,我们认为,我们的指标,在实际的使用场景中,决策辅助工具嵌入在业务流程管理软件的系统范围内的功能,可以带来更大的好处。
2020-09-17 cs.HC
(Ir)rationality and Cognitive Biases in Large Language Models
University College London(伦敦大学);University of Bologna(博洛尼亚大学)
本文通过心理学文献中的任务评估七种语言模型,发现其在非理性表现上与人类相似,但表现形式不同,且存在响应不一致的额外非理性特征。
2024-02-15 cs.AI cs.CL cs.HC
A Predictive Model of Digital Information Engagement: Forecasting User Engagement With English Words by Incorporating Cognitive Biases, Computational Linguistics and Natural Language Processing
State University of New York at Albany(纽约州立大学奥尔巴尼分校);Google(谷歌公司)
本研究提出READ模型,结合认知偏差、计算语言学和自然语言处理预测数字信息参与度,通过大规模调查验证,以84%准确率区分同义词参与度,具有跨领域应用潜力。
2023-07-26 cs.CL cs.HC cs.LG
Predicting Biased Human Decision-Making with Large Language Models in Conversational Settings
University College Dublin(都柏林大学)
研究大语言模型能否预测对话环境中的偏差决策,通过预注册研究发现参与者有认知偏差及负载偏差交互,评估LLMs预测能力,结果表明GPT-4家族表现出色,有助于理解LLMs模拟人类决策及设计适应偏差的对话代理。
2026-07-07 cs.AI cs.HC
Addressing cognitive bias in medical language models
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland, College Park(马里兰大学帕克分校);University of California, Santa Cruz(加州大学圣克鲁兹分校)
本文提出BiasMedQA基准,通过在USMLE题目中引入临床认知偏差,评估六个医学大语言模型的表现,发现GPT-4对偏差最鲁棒,而Llama 2 70B-chat和PMC Llama 13B受影响显著,强调医学LLMs需进行偏差缓解。
2024-02-20 cs.CL cs.HC
Visual Elements and Cognitive Biases Influence Interpretations of Trends in Scatter Plots
本文研究散点图中异常值、趋势线等视觉元素与认知偏差对相关性趋势感知的影响,发现异常值和趋势线会扭曲趋势感知,并据此提出调整视觉元素以减轻误导的指南。
2023-10-23 cs.CY cs.GR cs.HC
The Power of Perception in Human-AI Interaction: Investigating Psychological Factors and Cognitive Biases that Shape User Belief and Behavior
本研究通过两项涉及238名参与者的实验,探究了影响用户对AI预测信任的心理因素,揭示了“理性迷信”现象及预测效价对用户感知的强烈影响,为开发能管理用户期望与平衡信任的AI系统提供了见解。
2024-09-06 cs.HC
BiasEye: A Bias-Aware Real-time Interactive Material Screening System for Impartial Candidate Assessment
本文提出BiasEye,一个偏见感知的实时交互式材料筛选可视化系统,通过机器学习建模个人筛选偏好来帮助用户识别和缓解认知偏见,用户研究表明其能有效提升决策者的偏见意识与决策信心。
2024-02-14 cs.HC
When the Ground Truth is not True: Modelling Human Biases in Temporal Annotations
University of Bristol(布里斯托大学)
在监督学习中,低质量的注释会导致分类和检测模型性能低下,同时也会导致评估不可靠。这在时态数据上尤其明显,其中注释质量受到多种因素的影响。例如,在日常活动的事后自我报告中,认知偏差是最常见的成分之一。特别是,在活动结束后报告活动的开始和持续时间可能会包含个人时间观念带来的偏见,以及由于时间舍入而造成的不精确和缺乏粒度。在这里,我们提出了一种方法来模拟人类的偏见时间注释,并主张使用软标签。在合成数据中的实验结果表明,软标签提供了一个更好的近似的真值的几个指标。我们展示了一个真实的日常活动数据集的方法。
2023-02-06 cs.HC cs.LG
Toward a Bias-Aware Future for Mixed-Initiative Visual Analytics
混合主动视觉分析系统结合了完善的设计原则,提高了用户解决问题的能力。当这些系统考虑是否主动实现用户目标时,许多当前系统静态地解决人类主动性中的认知偏差的可能性,依赖于它们可以采取的固定主动性,而不是在偏差发生时识别、传达和解决偏差。我们认为,混合主动设计原则可以而且应该纳入认知偏见缓解策略,直接通过开发嵌入在系统中的缓解技术,以解决认知偏见在原地。我们确定了机器学习领域的专家,他们采用了可视化分析技术和系统,这些技术和系统结合了现有的混合主动原则,并研究了它们支持偏见缓解策略的潜力。这项研究考虑了这些专家为视觉分析带来的独特视角,并位于现有的以用户为中心的系统中,这些系统示范性地使用了认知理论所告知的设计原则。然后,我们建议知情的领域专家采取主动解决认知偏见的机会,根据他们现有的贡献领域。最后,我们为寻求采用视觉分析技术的设计师提供了开放性问题和研究方向,这些技术将偏见感知举措纳入未来的系统中。
2020-11-19 cs.HC
Cognitive Alignment Deciphered: A Self-Developed Scenario-Based Prompt Scale Coupled with Representational Similarity Analysis and Social Network Analysis for Unraveling Bias Mechanisms Across Humans and LLMs
Lingnan University(岭南大学)
本文提出基于场景的CBAS量表,结合RSA和SNA分析,揭示人类和LLM的偏见机制,通过干预提升LLM响应准确率,建立可复现的认知对齐研究流程。
2026-04-01 cs.HC
Modular interface for managing cognitive bias in experts
需要专业知识来解释一系列领域的数据。专家弥补了我们对数据和感兴趣的参数之间关系的知识中经常存在的差距。在地球科学应用中尤其如此,在这些应用中,对地球的认识来自对可观测特征的解释,并主要依赖于未经证实但被广泛接受的理论。因此,专家为解决原本无法解决的问题提供了便利。然而,专家天生是主观的,容易受到认知偏见和不利的外部影响。这项工作探讨了地球科学中的这个问题。三个令人信服的例子提供了从以前的工作认知偏见的流行。然后正式定义问题,并制定一套设计原则,确保任何解决方案都具有足够的灵活性,可以随时应用于一系列地球科学问题。没有解决方案可以可靠地捕捉和减少专家的认知偏差。然而,正式的专家启发方法可以用来评估专家的变化,和各种各样的方法存在,可能有助于照亮的不确定性,避免误解,并减少羊群行为或单一的专家过度显性。这项工作结合了现有的和未来的方法,以减少专家的次优,通过灵活的模块化设计,其中每个模块提供了一个特定的功能。该设计围绕动作模块,强制停止并执行解释任务的步骤。作为概念设计的一个例子,提供了一个启动包的模块。这个简单的偏见减少系统可以很容易地应用在组织和日常解释中,直到主要商业企业的任务。
2022-08-08 cs.HC
Emulating Aggregate Human Choice Behavior and Biases with GPT Conversational Agents
University College Dublin(都柏林大学)
本研究利用GPT对话代理模拟人类决策偏差,通过对话实验揭示LLMs在个体层面预测和再现偏差的能力,为设计适应性AI系统提供重要启示。
2026-02-05 cs.AI cs.HC cs.MA
VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers
Ghent University(根特大学)
VIGIL通过浏览器扩展实时检测和缓解在线信息中的认知偏差触发,结合LLM重述和隐私分层推理,提供可扩展的插件系统。
2026-04-20 cs.CL cs.CY cs.HC
Left, Right, and Gender: Exploring Interaction Traces to Mitigate Human Biases
人类的偏见会影响人们分析数据和做出决策的方式。最近的研究表明,一些可视化设计可以更好地支持认知过程并减轻认知偏差(即,由于使用心理“捷径”而发生的错误)。在这项工作中,我们探索如何可视化用户的交互历史(即,用户已经与哪些数据点和属性交互)可以用于通过促进对一个人的分析过程的有意识的反映来减轻驱动决策制定的潜在偏差。给定一个基于交互式散点图的可视化工具,我们在探索数据时实时显示交互历史(通过在用户交互的散点图中着色点),并在做出决策后以总结性格式显示(通过将用户交互的分布与数据的底层分布进行比较)。我们进行了一系列的实验室实验和众包实验,以评估互动历史干预对减轻偏见的有效性。我们将这项工作置于一个政治场景中,参与者被要求选择一个由10名虚构的政治家组成的委员会来审查最近在美国乔治亚州通过的一项法案,该法案禁止6周后堕胎,其中性别偏见或政党偏见等因素可能会推动一个人的分析过程。我们证明了这种方法的普遍性,通过评估第二个决策方案有关的电影。我们的研究结果是不确定的有效性的相互作用的历史(以下简称为相互作用的痕迹),以减轻偏见的决策。然而,我们发现一些混合的支持,互动痕迹,特别是在总结性的格式,可以提高潜在的无意识偏见的认识。
2021-09-22 cs.HC
Designing Resource Allocation Tools to Promote Fair Allocation: Do Visualization and Information Framing Matter?
本文通过三项众包实验考察资源分配工具的呈现形式与信息框架,发现个人框架的可视化和文本有助于抑制群体框架引发的不公平分配。
2024-09-10 cs.CY cs.HC
Biased Error Attribution in Multi-Agent Human-AI Systems Under Delayed Feedback
Georgia Institute of Technology(佐治亚理工学院)
研究探讨了在延迟反馈下多智能体人机系统中决策与责任归因受认知偏差的影响,通过实验发现参与者对负反馈的修正更强烈,且常错误归因于不同AI代理,导致决策调整与实际原因弱相关。
2026-03-24 cs.AI cs.HC
Managing Cognitive Bias in Human Labeling Operations for Rare-Event AI: Evidence from a Field Experiment
Indiana University(印第安纳大学);Centaur Labs(半人马实验室);New York University(纽约大学);University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文通过实地实验研究了在罕见事件AI中管理人类标注操作中的认知偏差问题,发现平衡反馈和概率诱发能有效减少误判,而管道级的重新校准显著提升了分类性能和概率校准。
2026-03-12 cs.HC econ.GN q-fin.EC
Biased AI improves human performance but reduces perceived helpfulness
University of Chicago(芝加哥大学);UC Berkeley(加州大学伯克利分校);Santa Fe Institute(圣塔菲研究所)
本研究通过三项涉及5000名参与者的随机实验发现,故意注入偏见的AI能提升人类在错误信息评估、金融投资等任务中的表现,但会降低感知帮助度,揭示AI设计中故意偏见的战略价值。
2026-09-22 cs.AI cs.CY cs.HC
CoEmpaTeam: Enhancing Cognitive Empathy using LLM-based Avatars and Dynamic Role Play in Virtual Reality
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
本文提出CoEmpaTeam系统,通过VR环境中的LLM驱动虚拟角色和动态角色扮演,提升用户认知共情能力,并通过实验验证其在现实生活中有效转移。
2026-03-17 cs.HC
Towards Detecting and Mitigating Cognitive Bias in Spoken Conversational Search
本文针对口语对话搜索中交互难以刻画及认知偏差影响信息获取的问题,提出融合多模态仪器与方法的实验框架,并展示初步结果、挑战与伦理建议,以推动该领域研究。
2024-08-06 cs.HC cs.IR
CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics
Independent University(独立大学);Shahjalal University of Science and Technology(沙赫贾拉勒科技大学)
本文提出将认知工效学融入 LLM 系统设计,构建综合框架与伦理开发指南,以减少偏见、改善体验并提升人机交互的安全性和可靠性。
2024-11-12 cs.CL cs.CY cs.HC