Unraveling the Dilemma of AI Errors: Exploring the Effectiveness of Human and Machine Explanations for Large Language Models
University of Waterloo（滑铁卢大学）
本研究对比人类与机器生成的大语言模型解释，发现人类显著性图更具帮助性，但支持错误AI预测的有用解释会降低任务表现，揭示了AI错误的解释困境。
2024-04-11 cs.AI cs.HC
How Artificial Intelligence Leads to Knowledge Why: An Inquiry Inspired by Aristotle's Posterior Analytics
German University of Digital Science（德国数字科学大学）
本研究受亚里士多德《后分析篇》启发，引入因果系统理论框架，区分人工智能中“是什么”与“为什么”的知识，论证仅“为什么”的知识能预测外部干预效果，填补相关正式理论空白。
2025-11-11 cs.AI cs.LO
Hard Choices in Artificial Intelligence: Addressing Normative Uncertainty through Sociotechnical Commitments
随着人工智能系统在监控和医疗保健等高风险领域变得普遍，研究人员现在正在研究如何以安全的方式设计和实施它们。然而，在复杂的社会背景下，系统对利益相关者造成的潜在危害以及如何解决这些问题仍不清楚。在本文中，我们解释了关于人工智能系统安全性的辩论中固有的规范不确定性。然后，我们通过检查它在AI系统开发的设计，培训和部署阶段的位置来解决这个问题。我们采用露丝张的理论直观的可比性来说明的困境，表现在每个阶段。然后，我们讨论利益相关者如何通过将不同形式的异议纳入发展管道，借鉴伊丽莎白·安德森的工作对民主制度的认知能力，可以导航这些困境。我们概述了一个社会技术承诺框架，以应对正式的，实质性的和话语性的挑战，解决各利益攸关方的规范不确定性，并建议由负责发展的人培养相关的美德。
2019-11-20 cs.AI cs.CY cs.SY
Less (Data) Is More: Why Small Data Holds the Key to the Future of Artificial Intelligence
Tooso Labs（Tooso实验室）
在过去的几年里，大数据是企业成功的关键，人工智能将取代人类的说法在学术界和工业界越来越流行。然而，虽然这些说法可能确实捕捉到了一些真相，但它们也被大量高估了，或者我们在这里争辩说。本文的目的是双重的。首先，我们为人工智能背景下较少数据的价值提供了一个合格的辩护。这是通过仔细审查大数据驱动的人工智能的两个不同问题来完成的，即a）深度学习在自然语言处理等关键领域的有限记录，b）能够从少数数据点学习的监管和商业意义。其次，我们简要描述了我们所说的人工智能与人类和人类的案例，即我们构建的系统以隐私为导向，专注于人机协作，而不是竞争的人工智能范式。结合我们上面的主张，我们得出结论，当从认知启发的AI的角度来看时，该学科的光明未来是关于更少的数据，而不是更多，更多的人，而不是更少。
2019-07-22 cs.AI cs.CY
Online Learning in Iterated Prisoner's Dilemma to Mimic Human Behavior
Columbia University（哥伦比亚大学）；IBM Research（IBM研究院）
作为一个重要的心理学和社会学实验，迭代囚徒困境（IPD）将合作或背叛的选择视为一个原子行动。我们建议在迭代囚徒困境（IPD）游戏中研究在线学习算法的行为，在那里我们研究了全方位的强化学习代理：多武装土匪，上下文土匪和强化学习。我们评估他们的基础上，多个代理人可以在一个连续的方式竞争的迭代囚徒困境的锦标赛。这使我们能够分析多个自利的独立奖励驱动代理学习的策略的动态，也使我们能够研究这些算法适应人类行为的能力。研究结果表明，在这种社会两难博弈中，考虑当前情况做出决策是最糟糕的。在线学习行为和临床验证的多个发现，作为一种努力，连接人工智能算法与人类行为和他们的异常状态，在神经精神疾病。
2022-08-27 cs.AI cs.GT cs.LG
Hows and Whys of Artificial Intelligence for Public Sector Decisions: Explanation and Evaluation
Crime and Security Research Institute（犯罪与安全研究院）；Cardiff University（卡迪夫大学）；Y Lab（Y实验室）；Nesta（内斯塔）；IBM Research（IBM研究院）
评估一直是基于人工智能（AI）的软件开发中的一个关键挑战，这是由于软件工件的技术复杂性，并且通常嵌入在复杂的社会技术过程中。由深度神经网络实现的机器学习（ML）的最新进展加剧了评估此类软件的挑战，因为这些基于ML的工件具有不透明的性质。一个关键的相关问题是（在）这样的系统产生有用的解释，他们的输出的能力，我们认为，解释和评价问题是密切相关的。本文在涉及人工智能和人类智能的公共部门决策（PSD）应用的背景下对基于ML的AI系统的元素进行建模，并将这些元素映射到评估和解释中的问题，显示两者之间的关系。我们考虑了一些常见的PSD应用模式，根据我们的模型，并确定了一组关键问题连接到每种情况下的解释和评估。最后，我们提出了多种策略来促进PSD中AI/ML技术的广泛采用，其中每种策略都以关注我们模型的不同元素为特征，使PSD政策制定者能够采用最适合其背景和关注点的方法。
2018-10-19 cs.AI cs.CY
Why Machines Can't Be Moral: Turing's Halting Problem and the Moral Limits of Artificial Intelligence
University of Cambridge（剑桥大学）；Leverhulme Centre for the Future of Intelligence（利弗休姆智能未来中心）
本文论证了基于自下而上方法的显式伦理机器因图灵停机问题的计算不可处理性，无法复制人类道德推理并成为道德主体。
2024-07-24 cs.AI cs.CY
Cooperative Artificial Intelligence
University College London（伦敦大学学院）
在未来，人工学习代理可能会在我们的社会中变得越来越普遍。他们将在各种复杂的环境中与其他学习代理和人类互动，包括社会困境。我们认为，有必要对博弈论和人工智能之间的交叉点进行研究，目标是实现合作的人工智能，可以很好地导航社会困境。我们考虑的问题是，外部代理如何通过观察学习者的行为来分配额外的奖励和惩罚，从而促进人工学习者之间的合作。我们提出了一个规则，自动学习如何通过考虑每个代理的预期参数更新创建正确的激励。使用这种学习规则导致在矩阵博弈中具有高社会福利的合作，否则代理将以高概率学习背叛。我们表明，即使在给定的情节数后关闭规划代理，在某些游戏中所产生的合作结果是稳定的，而其他游戏需要持续的干预，以保持相互合作。最后，我们首先反思了多智能体强化学习的目标，并讨论了构建合作AI目标的必要构建模块。
2022-02-20 cs.AI cs.GT cs.MA
Trustless Autonomy: Understanding Motivations, Benefits, and Governance Dilemmas in Self-Sovereign Decentralized AI Agents
Reality Design Lab（现实设计实验室）；Princeton University（普林斯顿大学）；New York University Shanghai（纽约大学上海校区）
本文通过访谈DeAgents利益相关者，研究自主权去中心化AI智能体在无信任基础设施上的动机、收益及LLM不可靠性带来的治理困境，为未来系统设计和治理提供指导。
2025-09-17 cs.AI cs.CY cs.HC
Artificial Intelligence in Government: Why People Feel They Lose Control
LMU Munich（慕尼黑大学）；National Taiwan University（台湾大学）；University of Bamberg（班贝格大学）
本文应用委托-代理理论（PAT）将政府AI采用概念化为委托，通过析因调查实验证明效率提升虽增强信任但降低公民感知控制力，结构性风险凸显会急剧削弱制度信任，强调政策制定者需透明解决委托风险。
2025-05-02 cs.AI cs.CY
Access Controls Will Solve the Dual-Use Dilemma
ETH Zurich, Switzerland（苏黎世联邦理工学院）
本文提出基于访问控制的概念框架，通过验证用户访问双重用途输出，以解决人工智能安全系统在双重用途请求中的决策困境。
2025-11-25 cs.AI
Why Specialist Models Still Matter: A Heterogeneous Multi-Agent Paradigm for Medical Artificial Intelligence
Fudan University（复旦大学）
提出HetMedAgent异构多智能体框架，通过冲突感知证据融合、不确定性驱动的临床医生干预触发和自适应阈值校准，实现通用大语言模型与领域专家模型的协同，在三个临床决策任务中验证了专家模型在模态特定分析中的不可替代价值。
2026-05-28 cs.AI cs.CL cs.LG
Ethical Artificial Intelligence - An Open Question
Paris School of Business（巴黎商学院）；Usak University（乌沙克大学）
人工智能（AI）是一门有效的科学，它采用足够强大的方法，方法和技术来解决无法解决的现实世界中的问题。由于其不可阻挡的崛起，也有一些关于其道德和安全的讨论。为人类塑造一个对人工智能友好的环境，为人工智能塑造一个对人类友好的环境，可能是为人类和机器人找到共同价值观的一个可能答案。在这种背景下，本文的目标是解决人工智能的伦理问题，并探讨道德算法，从预设或后天的价值观所产生的道德困境。此外，本文还将重点关注AI安全问题。总的来说，本文将简要分析解决所提出的伦理问题的问题和潜在解决方案，并提高读者对人工智能安全的认识，这是另一个相关的研究兴趣。
2017-05-16 cs.AI cs.CY
Multi-Agent, Human-Agent and Beyond: A Survey on Cooperation in Social Dilemmas
Northwestern Polytechnical University（西北工业大学）；Tsinghua University（清华大学）；University of Auckland（奥克兰大学）；Kyushu University（九州大学）；The Hong Kong Polytechnic University（香港理工大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本综述探讨了AI在社会困境合作中的三个关键领域：多智能体合作的动机与策略、人机合作算法与人类偏见，以及利用AI增强人类间合作，并展望了未来研究方向。
2024-07-30 cs.AI cs.GT cs.HC
Automated Kantian Ethics: A Faithful Implementation
Harvard University（哈佛大学）
当我们赋予人工智能越来越多的权力和独立性，如医疗保健，警务和驾驶，人工智能面临道德困境，但缺乏解决这些问题的工具。来自监管机构、哲学家和计算机科学家关于不道德的人工智能的危险的警告激发了人们对自动化道德的兴趣--即，能够进行伦理推理的机器的发展。然而，以前的工作在自动化伦理学很少涉及哲学文献。哲学家们花了几个世纪的时间来辩论道德困境，所以当自动伦理学借鉴哲学文献时，它将是最微妙、一致和可靠的。在本文中，我提出了一个自动化的康德伦理学，是忠实于康德哲学传统的实现。我形式化康德的定言命令在二元道义逻辑，实现这种形式化的伊莎贝尔定理证明，并开发一个测试框架，以评估我的实现如何与康德伦理的预期属性相一致。我的系统是迈向道德成熟的人工智能智能体的早期步骤，它可以在复杂的道德困境中做出微妙的判断，因为它是基于哲学文献的。因为我使用交互式定理证明器，所以我的系统的判断是可以解释的。
2022-07-20 cs.AI cs.LO
Why Companies "Democratise" Artificial Intelligence: The Case of Open Source Software Donations
Oxford Internet Institute（牛津互联网研究所）；University of Oxford（牛津大学）
本研究采用混合方法调查了向Linux Foundation捐赠的43项AI开源软件的商业激励，提出了涵盖个人与组织的社会、经济和技术激励分类体系，强调开放治理与自下而上的推动作用，为AI民主化提供分析框架。
2024-09-26 cs.AI cs.CY cs.SE
Learning, Social Intelligence and the Turing Test - why an "out-of-the-box" Turing Machine will not pass the Turing Test
Centre for Policy Modelling, Manchester Metropolitan University（曼彻斯特城市大学政策建模中心）；Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas, Universidad Nacional Autónoma de México（墨西哥国立自治大学应用数学与系统研究所）
图灵测试（TT）检查人类的智力，而不是任何假定的一般智力。它涉及重复的互动，需要以适应人类对话伙伴的形式进行学习。它是一个宏观层次的事后测试，与图灵机（TM）的定义相反，这是一个先前的微观层次的定义。这就提出了一个问题，学习是否只是另一个计算过程，即可以实现为TM。在这里，我们认为，学习或适应是从根本上不同于计算，虽然它确实涉及的过程，可以被视为计算。为了说明这种差异，我们比较了（a）设计TM和（b）学习TM，并为论证的目的定义它们。我们表明，存在一系列定义明确的问题，这些问题无法有效设计，但可以学习，其形式为有界停机问题。本文综述了人类智能的一些特征，包括：交互性、学习能力、模仿倾向、语言能力和语境依赖性。一个解释这些问题的故事是社会智力假说。如果这是大致正确的，这表明如果一个人工智能要通过TT，就需要相当长的一段时间的文化适应（在上下文中的社会学习）。虽然总是可以将学习的结果“编译”成TM，但这不是设计的TM，并且不能持续适应（通过未来的TT）。我们得出三个结论，即：一个纯粹的“设计”TM永远不会通过TT;没有这样的事情作为一个一般的智能，因为它需要涉及学习;学习/适应和计算应该明确区分。
2012-03-15 cs.AI cs.LG nlin.AO
Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement Learning
University College London（伦敦大学学院）；University of Bologna（博洛尼亚大学）
本研究通过多智能体强化学习，设计基于道德理论的奖励函数，在三种迭代社交困境中分析智能体道德选择对合作与背叛涌现的影响，为伦理AI开发提供自下而上的方法。
2023-08-30 cs.AI cs.LG cs.MA
Reciprocal Trust and Distrust in Artificial Intelligence Systems: The Hard Problem of Regulation
Institute of Political Studies (IEP), University of Lausanne（洛桑大学政治研究所）
本文探讨人工智能系统信任与不信任的互惠动态，提出应将AI视为可行使代理的工具，分析其对监管的影响及未来监管面临的挑战。
2026-04-07 cs.AI cs.CY
Towards Artificial Virtuous Agents: Games, Dilemmas and Machine Learning
机器伦理在过去几年中受到越来越多的关注，因为需要确保安全可靠的人工智能（AI）。在机器伦理学中占主导地位的两个理论是义务论和功利主义伦理学。另一方面，美德伦理学经常被认为是一种替代性的伦理理论。虽然这种有趣的方法有一定的优势，流行的伦理理论，很少有人投入工程人工良性代理人，由于其形式化的挑战，编纂，并解决道德困境训练良性代理人。我们建议通过使用充满道德困境的角色扮演游戏来弥合这一差距。有几个这样的游戏存在，如论文，请和生活是奇怪的，其中主要人物遇到的情况下，他们必须选择正确的行动方针，放弃其他亲爱的他们。我们从这样的游戏中汲取灵感，展示如何设计一个系统性的角色扮演游戏，以发展人工代理人的美德。使用现代人工智能技术，如基于亲和力的强化学习和可解释的人工智能，我们激励实施玩这种角色扮演游戏的良性代理，并通过道德伦理镜头检查他们的决定。这种代理人和环境的发展是走向实际上正式化和证明美德伦理学在道德代理人发展中的价值的第一步。
2022-12-10 cs.AI
The Tragedy of the AI Commons
Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；University of Toronto（多伦多大学）；University of California, Irvine（加州大学欧文分校）
近年来，关于人工智能伦理研究的政策和指导方针提案激增。这些应该指导人工智能的社会责任发展，以实现共同利益。然而，通常存在不合作的动机（即，不遵守这些政策和准则）;而且，这些建议往往缺乏有效机制来执行其本身的规范要求。刚才描述的情况构成了一种社会困境;也就是说，在这种情况下，没有人有合作的个人动机，尽管相互合作将导致所有参与者的最佳结果。在本文中，我们使用随机进化博弈动力学模型的伦理发展的背景下，人工智能这一社会困境。这种形式主义使我们能够隔离可能被干预的变量，从而为人工智能中众多利益相关者之间的合作提供可行的建议。我们的研究结果表明，如何随机效应可以帮助在这种情况下，使合作可行。他们建议，为共同利益进行的协调应在较小的团体中进行，因为在这些团体中合作成本低，而且失败的风险很高。这为我们提供了深入了解的条件下，我们应该期待这样的道德建议是成功的，就其范围，规模和内容。
2021-01-18 cs.AI cs.CY cs.GT
Why We Need a New Framework for Emotional Intelligence in AI
本文探讨了现有AI情感智能评估框架的不足，提出需建立新框架以更全面地评估AI系统的情感智能能力。
2025-12-29 cs.AI
Why Artificial Intelligence Needs a Task Theory --- And What It Might Look Like
Icelandic Institute for Intelligent Machines（冰岛智能机器研究所）；Reykjavik University（雷克雅未克大学）；The Swiss AI Lab IDSIA（瑞士人工智能实验室IDSIA）
“任务”的概念是人工智能（AI）的核心：任务用于训练和评估人工智能系统，这些系统是按照内置的序构建的，用于执行和自动化我们认为有用的任务。在其他工程领域，理论基础允许通过对具有已知作用和重要性的众所周知的参数进行有条理的操作来对设计进行彻底的评估;这允许航空工程师，例如，系统地评估风速对飞机性能和稳定性的影响。在人工智能中不存在允许这种有条不紊的操作的框架：当前使用的少数任务的性能结果（参见。棋盘游戏，问答）不能很容易地比较，无论相似或不同。这个问题在人工智能系统方面更加尖锐，它必须处理无法预料的任务，这些任务的具体细节无法事先知道。任务理论将能够在类的层次上处理任务，绕过它们的细节，提供任务、环境及其参数的适当形式化和分类，从而产生更严格的测量、比较和评估智能行为的方法。即使在这个方向上进行适度的改进，也会超过当前机器学习和人工智能评估的特设性质。在这里，我们讨论了任务理论的主要论点，并提出了一个大纲，它可能看起来像物理任务。
2016-05-12 cs.AI
Augmenting Intelligence: A Hybrid Framework for Scalable and Stable Explanations
Department of Computing & Mathematical Sciences, University of Wolverhampton（计算机与数学科学系，沃尔夫汉普顿大学）
本文提出混合LRR-TED框架，通过自动化规则与少量人工规则结合，实现客户流失预测的高准确率和低人工成本。
2025-12-22 cs.AI
Why do networks have inhibitory/negative connections?
Johns Hopkins University（约翰斯·霍普金斯大学）；United States Military Academy（美国军事学院）
本文从表示能力视角解释大脑抑制性连接与深度网络负权重的必要性，证明非负权重网络在非递减激活下不具备通用逼近性，并揭示其无法表示的几何性质。
2023-08-17 cs.AI cs.LG cs.NE
Perfect AI Mimicry and the Epistemology of Consciousness: A Solipsistic Dilemma
本文探讨AI高保真拟态人类行为带来的意识判定认识论挑战，指出完美拟态体的出现会让意识归属陷入唯我论或推理不一致的两难，提出需基于经验一致性赋予其同等意识地位，对意识理论与AI伦理有重要意义。
2025-10-06 cs.AI
Equity and Artificial Intelligence in Education: Will "AIEd" Amplify or Alleviate Inequities in Education?
教育人工智能（AIEd）系统的开发往往是出于其促进教育公平和减少不同学习者群体之间成就差距的潜力，例如，通过扩大一对一人工辅导的好处，以更广泛的受众，或通过填补现有教育服务的空白。鉴于这些崇高的意图，为什么AIED系统在实践中会产生不公平的影响？在本章中，我们讨论了四个镜头，可以用来检查如何以及为什么AIED系统风险放大现有的不平等。从这些角度出发，我们概述了AIED走向更公平未来的可能途径，同时强调了围绕每个提案的辩论。通过这样做，我们希望围绕公平的AIED设计引发新的对话，并推动该领域正在进行的对话。
2021-04-27 cs.AI cs.CY cs.HC
Why machines will still not rule the world
本文驳斥了通用人工智能可行的两类论证，指出其核心论点为开放复杂环境下的认知模型无法实现，论证了机器不会统治世界。
2026-10-09 cs.AI
Why Flow Matching is Particle Swarm Optimization?
University of Science and Technology of China（中国科学技术大学）
本文从数学形式、演化框架和常微分方程动力系统角度揭示 flow matching 与 PSO 的对偶关系，为混合算法和统一分析框架提供理论基础。
2025-07-28 cs.AI cs.LG cs.NE
Privacy-preserving Crowd-guided AI Decision-making in Ethical Dilemmas
Xi’an Jiaotong University（西安交通大学）；Nanyang Technological University（南洋理工大学）；The University of Hong Kong（香港大学）；Nanjing University（南京大学）
随着人工智能（AI）的快速发展，围绕AI的伦理问题日益受到关注。特别是，自动驾驶汽车在事故场景中可能面临道德困境，例如保持路线导致伤害行人或转向导致伤害乘客。为了研究这种道德困境，最近的研究采用了偏好聚合，其中每个选民表达她/他的偏好超过可能的道德困境的情况下的决定，和一个集中的系统聚合这些偏好，以获得获胜的决定。虽然这是一种构建道德AI系统的有用方法，但这种方法可能会侵犯选民的隐私，因为道德偏好是敏感信息，并且它们的披露可能会被恶意方利用。在本文中，我们报告了一种在道德困境中保护隐私的人群引导人工智能决策方法。我们采用差分隐私的概念来量化隐私，并考虑四个粒度的隐私保护，考虑投票/记录级隐私保护和集中/分布式扰动，导致四种方法VLCP，RLCP，VLDP，和RLDP。此外，我们提出了不同的算法来实现这些隐私保护粒度，同时保留了学习的道德偏好模型的准确性。具体地说，VLCP和RLCP的实现与数据聚合器设置一个通用的隐私参数和扰动的平均道德偏好，以保护选民的数据的隐私。VLDP和RLDP是以这样一种方式实现的，即每个选民都用个性化的隐私参数来扰乱她/他的本地道德偏好。在人工数据和真实数据上的大量实验表明，该方法可以在保护个人投票者隐私的同时实现高精度的偏好聚合。
2019-09-27 cs.AI cs.CR
Why AI is Harder Than We Think
Santa Fe Institute（圣塔菲研究所）
自20世纪50年代开始以来，人工智能领域在乐观预测和大规模投资（“AI春天”）与失望、信心丧失和资金减少（“AI冬天”）之间循环了好几次。即使今天人工智能突破的步伐看起来很快，开发长期承诺的技术，如自动驾驶汽车，管家机器人和会话伴侣，也比许多人预期的要困难得多。这些重复循环的原因之一是我们对智能本身的性质和复杂性的理解有限。在本文中，我描述了人工智能研究人员常见假设中的四个谬误，这些谬误可能导致对该领域的过度自信的预测。最后，我讨论了这些谬论引发的开放性问题，包括给机器灌输人类常识的古老挑战。
2021-04-28 cs.AI
When Intelligence Fails: An Empirical Study on Why LLMs Struggle with Password Cracking
Future Data Minds Research Lab（未来数据智能研究实验室）
本研究发现LLMs在密码破解任务中表现不佳，指出其在领域适应和记忆能力上的不足，强调需要改进的密码推断方法。
2025-12-31 cs.AI cs.CR cs.LG
What is Implementation Science; and Why It Matters for Bridging the Artificial Intelligence Innovation-to-Application Gap in Medical Imaging
Tehran University of Medical Sciences（德黑兰医科大学）；Imperial College（帝国理工学院）；Washington University in St. Louis（圣路易斯华盛顿大学）；Sultan Qaboos University（苏丹卡布斯大学）；Universiti Sains Malaysia（马来西亚理科大学）；University of British Columbia（不列颠哥伦比亚大学）；BC Cancer Research Institute（不列颠哥伦比亚癌症研究所）
本文探讨了实施科学在弥合医学影像中人工智能创新与应用之间的差距中的重要性，强调通过系统化框架和混合研究设计加速临床应用。
2025-11-24 cs.AI physics.med-ph
Scaling Artificial Intelligence for Digital Wargaming in Support of Decision-Making
Naval Postgraduate School（美国海军研究生院）
该研究提出分层强化学习框架，结合多模型与维度不变观测抽象，以扩展AI在数字兵棋推演中支持决策的能力。
2024-02-08 cs.AI cs.LG
Why AI Alignment Failure Is Structural: Learned Human Interaction Structures and AGI as an Endogenous Evolutionary Shock
Institute of Risk Analysis, Prediction and Management (Risks-X)（风险分析、预测与管理研究所）；Southern University of Science and Technology (SUSTech)（南方科技大学）
本文探讨AI对齐失败的结构性问题，指出AGI作为内生性演化冲击，其风险源于放大人类智能、权力与矛盾，而非对抗意图。
2026-01-13 cs.AI cs.CY
Artificial intelligence is algorithmic mimicry: why artificial "agents" are not (and won't be) proper agents
University of Vienna（维也纳大学）；Complexity Science Hub (CSH) Vienna（维也纳复杂科学中心）；Ronin Institute（罗宁研究所）
本文通过比较生命系统与算法系统在自创生、具身性和问题世界三方面的根本差异，论证当前算法框架下不可能产生真正的 AGI 与能动性，主张聚焦窄 AI 的风险与机遇。
2024-02-22 cs.AI
On the (im)possibility of sustainable artificial intelligence. Why it does not make sense to move faster when heading the wrong way
Weizenbaum Institute for the Networked Society（魏岑鲍姆网络社会研究所）
本文借鉴多学科理论，从AI供应链的三类物质性切入，论证当前AI发展对可持续发展弊大于利，指出AI优化标准的政治性，提出践行“小即是美”原则，推动AI融入可持续发展的集体协商。
2025-03-22 cs.AI cs.CY
A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Tokyo（东京大学）；Tsinghua University（清华大学）
针对当前全自主AI智能体存在的可靠性、透明度等问题，本文提出应优先发展基于大语言模型的人类-智能体协作系统，通过人机协作提升任务处理能力与可信度，指出AI进步应以人机协作能力而非自主程度为衡量标准。
2025-06-11 cs.AI cs.CL cs.HC
Resolving Zadehs Paradox Axiomatic Possibility Theory as a Foundation for Reliable Artificial Intelligence
Taras Shevchenko National University of Kyiv（基辅塔拉斯·舍甫琴科国立大学）
本文通过可能性理论解决Zadeh悖论，构建了处理不确定性的公理化基础，展示了其在医疗诊断中正确处理矛盾数据的能力。
2025-12-04 cs.AI
The Continuity Layer: Why Intelligence Needs an Architecture for What It Carries Forward
Kenotic Labs（肯otic实验室）
本文探讨了AI中连续层的重要性，指出缺乏承载模型理解内容的层导致智能在会话间失去记忆。文章定义了连续性作为系统属性，提出Decomposed Trace Convergence Memory存储原语，并探讨了连续层与物理限制、治理架构的关系。
2026-04-19 cs.AI
The Collaboration Paradox: Why Generative AI Requires Both Strategic Intelligence and Operational Stability in Supply Chain Management
Department of Industrial & Systems Engineering（工业与系统工程系）；Indian Institute of Technology, Kharagpur (IIT-KGP)（印度理工学院，克拉格浦尔（IIT-KGP））
本文研究生成式AI在多级供应链中的协同行为，揭示其因库存积压导致的系统性失败，并提出通过战略智能与操作稳定性的结合实现供应链稳定的方法。
2026-03-25 cs.AI
Deep Learning and Artificial General Intelligence: Still a Long Way to Go
QED Software（QED软件公司）
近年来，使用神经网络架构的深度学习，即深度神经网络，一直处于计算机科学研究的前沿。它甚至在某些问题上导致了超人的表现，例如，在计算机视觉、游戏和生物学中，深度学习革命一词由此诞生。深度学习无可争议的成功和快速增长表明，在未来，它可能成为通用人工智能（AGI）的推动者。在这篇文章中，我们批判性地探讨了这一说法，并指出了目前深度神经网络还没有准备好成为实现AGI的首选技术的五个主要原因。
2022-04-05 cs.AI cs.LG
"Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas
University of New South Wales（新南威尔士大学）；Nanjing University of Information Science & Technology（南京信息工程大学）
本研究评估了14个领先LLM在27个电车难题场景中的道德推理，发现推理增强型模型更果断但未必更符合人类共识，道德提示可作为揭示模型潜在对齐哲学的诊断工具。
2025-08-10 cs.AI cs.CL cs.CY
Reviewing continual learning from the perspective of human-level intelligence
University of Science and Technology of China（中国科学技术大学）；Institute of Intelligent Machines, Chinese Academy of Sciences（中国科学院合肥智能机械研究所）；Mississippi State University（密西西比州立大学）；Sichuan University（四川大学）；Southwest Jiaotong University（西南交通大学）；Central South University（中南大学）
人类的持续学习（CL）能力与稳定性与可塑性困境密切相关，该困境描述了人类如何实现持续学习能力和对学习信息的保存。CL的概念自诞生以来一直存在于人工智能（AI）中。本文提出了一个全面的审查CL。与以往的研究主要关注合作学习中的灾难性遗忘现象不同，本文基于稳定性与可塑性机制，从更宏观的角度对合作学习进行了研究。类似于生物学上的对应物，“智能”人工智能智能体应该i）记住先前学习的信息（信息回顾）; ii）不断推断新的信息（信息展望）; iii）传递有用的信息（信息传递），以实现高水平的CL。根据分类法，介绍了评价指标、算法、应用以及一些尚待解决的问题。我们的主要贡献包括：i）从人工通用智能的层面重新审视CL; ii）对CL主题进行详细而广泛的概述; iii）提出一些关于CL潜在发展的新想法。
2021-11-23 cs.AI cs.LG cs.NE
The What, the Why, and the How of Artificial Explanations in Automated Decision-Making
City, University of London（伦敦大学城市学院）
越来越多的人工智能以自动化系统的形式融入决策过程，不仅突出了决策理论对自动化系统的重要性，而且还强调了这些决策过程对参与其中的人的解释的必要性。传统实在论对解释的解释是一种关系，这种关系在一个人和一个人之间永远保持（或不保持），不足以解释人为决策程序所需要的解释概念。我们提供了一个替代帐户的解释，用于自动决策的背景下，使解释的认知现象，是依赖于上下文。对解释的这种解释更好地说明了我们谈论和使用解释和衍生概念（如“解释力”）的方式，也使我们能够区分不需要具有认识方面的原因或原因与具有认识方面的解释。在此理论背景下，我们然后审查现有的方法来解释人工智能和机器学习，并建议desiderata真正可解释的决策系统应该履行。
2018-08-21 cs.AI cs.CY cs.HC
Scaling Spatial Reasoning in MLLMs through Programmatic Data Synthesis
Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Tsinghua University（清华大学）；Institute of Microelectronics of the Chinese Academy of Sciences（中国科学院电子学研究所）；Renmin University of China（中国人民大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Central South University（中南大学）
SPRITE通过程序化数据合成生成高质量空间推理数据，提升大规模语言模型的空间推理能力，并在多个基准测试中取得显著性能提升。
2025-12-18 cs.AI
CAISAR: A platform for Characterizing Artificial Intelligence Safety and Robustness
Université Paris-Saclay（巴黎-萨克雷大学）；CEA（法国原子能和替代能源委员会）；List（List实验室）
我们介绍CAISAR，一个正在积极开发的开源平台，用于表征AI系统的鲁棒性和安全性。CAISAR提供了一个统一的入口点，通过使用WhyML定义验证问题，Why3验证平台的成熟和表达语言。此外，CAISAR编排和组成了最先进的机器学习验证工具，这些工具单独使用无法有效地处理所有问题，但共同使用可以覆盖越来越多的属性。我们的目标是协助，一方面，V\&V过程中，通过减少选择的方法，适合于一个给定的验证问题的负担，另一方面，工具开发人员通过分解有用的功能，可视化，报告生成，属性解释，在一个平台。CAISAR将很快在https://git.frama-c.com/pub/caisar上提供。
2022-06-21 cs.AI cs.LO cs.NE
Uncertainty Aware AI ML: Why and How
ARL（陆军研究实验室）；Cardiff University（卡迪夫大学）；Ozyegin University（厄兹耶金大学）；Intelpoint Inc.（Intelpoint公司）
本文认为，需要研究实现不确定性感知的人工智能和机器学习（AI\&ML）系统的决策支持，通过描述一些激励方案。此外，本文定义了不确定性意识，并列出了挑战，以及调查一些有前途的研究方向。理论演示说明了两种新兴的不确定性感知ML和AI技术如何集成，并对路线规划操作具有价值。
2018-09-20 cs.AI
The limit of artificial intelligence: Can machines be rational?
University of Johannesburg（约翰内斯堡大学）
本文研究机器是否理性的问题。它观察到人类不理性的现有原因，这是由于不完美和有限的信息，有限的和不一致的处理能力，通过大脑和无法优化决策，实现最大效用。它研究人类的这些局限性是否会转移到机器的局限性上。得出的结论是，即使机器不是理性的，但技术的进步使这些机器变得更加理性。它还得出结论，机器可以比人类更理性。
2018-12-16 cs.AI
Responsible Artificial Intelligence -- from Principles to Practice
Umeå University（于默奥大学）
人工智能的影响不仅取决于基础研究和技术发展，而且在很大程度上取决于这些系统如何被引入社会并在日常生活中使用。人工智能正在改变我们工作、生活和解决挑战的方式，但对公平、透明度或隐私的担忧也在增加。确保负责任的、道德的人工智能不仅仅是设计结果可信的系统。这是关于我们设计它们的方式，我们为什么设计它们，以及谁参与设计它们。为了负责任地开发和使用人工智能，我们需要努力制定技术，社会，机构和法律方法和工具，为人工智能从业者提供具体支持，以及提高认识和培训，使所有人都能参与，以确保人工智能系统与我们社会的原则和价值观保持一致。
2022-05-22 cs.AI cs.CY
Building Ethics into Artificial Intelligence
Nanyang Technological University（南洋理工大学）；Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-新加坡南洋理工大学联合研究院）；The University of British Columbia（不列颠哥伦比亚大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Hong Kong University of Science and Technology（香港科技大学）
随着人工智能（AI）系统变得越来越普遍，人工智能伦理决策的AI治理话题引起了公众的想象。在人工智能研究界，这个话题对许多研究人员来说仍然不太熟悉。在本文中，我们补充了现有的调查，这些调查主要集中在该主题的心理，社会和法律讨论上，并分析了人工智能治理技术解决方案的最新进展。通过回顾包括AAAI、AAMAS、ECAI和IJCAI在内的主要人工智能会议的出版物，我们提出了一种分类法，将该领域分为四个领域：1）探索伦理困境; 2）个人伦理决策框架; 3）集体伦理决策框架; 4）人类与人工智能互动中的伦理。我们强调了每种方法中使用的直觉和关键技术，并讨论了将伦理AI系统成功融入人类社会的未来研究方向。
2018-12-07 cs.AI
Why we need biased AI -- How including cognitive and ethical machine biases can enhance AI systems
University of Tuebingen（图宾根大学）
本文从两个方面强调了偏见在人工智能（AI）领域的重要性。首先，为了在复杂、不稳定和不确定的现实环境中培养有效的算法决策，我们主张在学习算法中实现人类认知偏见的结构化。其次，我们认为，为了实现道德的机器行为，过滤器机制必须应用于选择有偏见的训练刺激，代表社会或行为特征，是道德上可取的。我们使用认知科学和伦理学的见解，并将其应用于人工智能领域，将理论考虑与描述有形偏见实施场景的七个案例研究相结合。最终，本文是明确追求重新评估机器偏见的伦理意义的想法，以及提出将认知偏见实施到机器中的想法的第一个尝试性步骤。
2022-03-18 cs.AI cs.LG
Cybercrime and Computer Forensics in Epoch of Artificial Intelligence in India
Guru Nanak Dev University（古鲁·那纳克·德夫大学）
本文探讨了人工智能时代印度网络犯罪与计算机取证的法律挑战，提出以可解释AI为核心的取证模型，以平衡数据最小化原则与取证需求。
2025-12-16 cs.AI cs.CR cs.CY
Promoting Cooperation in the Public Goods Game using Artificial Intelligent Agents
Department of MicroData Analytics（微数据分析系）；BEACON Center for the Study of Evolution in Action（行为进化研究中心）；Department of Microbiology, Genetics, and Immunology（微生物学、遗传学与免疫学系）；Program in Ecology, Evolution, and Behavior（生态、进化与行为项目）；Department of Physics and Astronomy（物理与天文学系）
本文研究了如何利用人工智能代理促进公共物品游戏中的合作，发现AI代理模仿玩家行为可降低合作临界阈值，解决集体行动困境。
2024-12-06 cs.AI cs.GT nlin.AO
