AI Must Embrace Specialization via Superhuman Adaptable Intelligence
Columbia University(哥伦比亚大学);New York University(纽约大学)
本文提出超人类适应性智能(SAI)概念,主张AI应通过专业化追求超人类表现,而非追求通用智能。
2026-02-27 cs.AI
Prosocial Behavior Detection in Player Game Chat: From Aligning Human-AI Definitions to Efficient Annotation at Scale
California Institute of Technology(加利福尼亚理工学院);Activision Publishing, Inc.(暴雪娱乐公司)
提出一种三阶段流程,通过人机协同优化循环对齐亲社会性定义,并利用GPT-4合成1万标签训练两阶段推理系统,在将推理成本降低约70%的同时实现约0.90的高精度。
2025-08-08 cs.AI cs.CL cs.CY
On the Definition of Appropriate Trust and the Tools that Come with it
Jönköping International Business School(延雪平国际商学院);Jönköping University(延雪平大学);University of Borås(布罗斯大学)
本文通过比较适当信任定义与模型性能评估的相似性,提出评估用户对模型适当信任的新方法,并给出面向用户表现及回归不确定性的具体评估工具。
2023-09-21 cs.AI
"I can assure you [$\ldots$] that it's going to be all right" -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado, Boulder(科罗拉多大学博尔德分校)
随着技术变得越来越先进,那些设计、使用和受其影响的人想知道它会正确地运行,并了解它为什么会这样做,以及如何正确地使用它。本质上,他们希望能够信任正在设计的系统。在这项调查中,我们提出的保证是用户可以理解如何信任这项技术的方法。人类和自治之间的信任进行审查,并强调设计的保证的影响。一项调查的研究,已经进行了保证方面,并提取了几个关键的想法,以完善的保证的定义。确定和讨论了未来研究的几个方向。
2017-09-04 cs.AI cs.CY cs.HC
Multi-Principal Assistance Games: Definition and Collegial Mechanisms
University of California, Berkeley(加州大学伯克利分校)
我们引入了多主体辅助博弈(MPAG)的概念,并通过使用一个充分的合议偏好推理机制,绕过了社会选择理论中的一个障碍,Gibbard定理。在MPAG中,单个代理协助N个可能具有广泛不同偏好的人类主体。MPAG概括了辅助游戏,也称为合作逆强化学习游戏。我们特别分析了学徒学习的泛化,其中人类首先执行一些工作以获得效用并展示他们的偏好,然后机器人采取行动以进一步最大化人类的收益之和。我们在这种情况下表明,如果游戏足够合议,即如果人类负责通过自己的行动获得足够的奖励,那么他们的偏好会直接通过他们的工作揭示出来。这种启示机制是非独裁的,不限制可能的结果,两个选项,是显性策略激励兼容。
2020-12-29 cs.AI cs.GT
A Black Swan Hypothesis: The Role of Human Irrationality in AI Safety
UC Berkeley(加州大学伯克利分校);MIT(麻省理工学院);Google DeepMind(谷歌DeepMind)
本文针对黑天鹅事件现有定义的不足,提出空间黑天鹅事件概念(不变环境中因人类认知偏差产生的高风险罕见事件),完成黑天鹅事件分类与数学形式化定义,为相关预防算法研发铺路。
2025-03-20 cs.AI cs.LG
On the Measure of Intelligence
Google, Inc.(谷歌公司)
为了朝着更智能、更人性化的人工系统迈进,我们需要遵循一个适当的反馈信号:我们需要能够以一种能够在两个系统之间进行比较以及与人类进行比较的方式来定义和评估智能。在过去的一百年里,在心理学和人工智能领域都有大量的尝试来定义和测量智力。我们总结和批判性地评估这些定义和评估方法,同时使明显的两个历史概念的智能,隐含地指导他们。我们注意到,在实践中,当代人工智能社区仍然倾向于通过比较人工智能和人类在特定任务(如棋盘游戏和视频游戏)中表现出的技能来对智能进行基准测试。我们认为,仅仅测量任何给定任务的技能都不足以测量智力,因为技能受到先验知识和经验的严重影响:无限的先验知识或无限的训练数据允许实验者为系统“购买”任意水平的技能,以掩盖系统自身的泛化能力。然后,我们阐明了一个新的正式定义的智能的基础上,数学信息论,描述智能的技能获取效率和突出的范围,概括困难,先验和经验的概念。使用这个定义,我们提出了一套通用AI基准应该是什么样子的指导方针。最后,我们提出了一个基准密切遵循这些准则,抽象和推理语料库(ARC),建立在一组明确的先验设计,尽可能接近先天人类先验。我们认为,ARC可以用来衡量一种类似人类的一般流体智力,并且它可以在AI系统和人类之间进行公平的一般智力比较。
2019-11-25 cs.AI
ControlMap: Controllable High-Definition Map Generation for Traffic Scenario Simulation
University of Stuttgart(斯图加特大学);Robert Bosch GmbH(博世公司);Motional, Inc(Motional公司)
提出基于潜在扩散和ControlNet的数据驱动管道,实现可控高清地图生成,支持空间引导、条件强度调整和城市风格迁移,并引入新指标评估控制信号遵循度和地图真实性。
2026-06-16 cs.AI cs.RO
"Dave...I can assure you...that it's going to be all right..." -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado Boulder(科罗拉多大学博尔德分校);Cooperative Human-Robot Intelligence Laboratory(人机协作智能实验室);Research and Engineering Center for Unmanned Vehicles(无人驾驶车辆研究与工程中心)
设计、使用和受自主人工智能代理影响的人希望能够\emph{trust}这样的代理--也就是说,知道这些代理将正确执行,理解其行为背后的推理,并知道如何适当地使用它们。已经设计了许多技术来评估和影响人类对人工智能代理的信任。然而,这些方法通常是临时的,并且没有正式地相互关联或正式的信任模型。本文提出了一种调查\emph{algorithmic assurances},即程序组件的代理操作,明确设计用于校准用户的信任,在人工智能代理。首先,从正式建模的人-人工智能代理信任关系的角度,对信任保证进行了正式定义和分类。在这些定义的基础上,对机器学习、人机交互、机器人技术、电子商务等领域的综合研究表明,保证算法自然会对代理的核心功能产生影响,有七个显著的类别,从整体保证(影响代理人的核心功能)到补充保证(对代理人的绩效没有直接影响)。这些类中的每一个共同的方法进行了确定和讨论,不同的方法的优点和缺点也进行了研究。
2018-08-28 cs.AI cs.CY cs.HC
Improving Labeling Consistency with Detailed Constitutional Definitions and AI-Driven Evaluation
Cisco AI Defense(思科AI防御)
提出一种AI驱动的工作流,通过为每个类别编写详细的宪法定义并由前沿LLM解释,以比人类更一致和准确地生成黄金标签,在三个内容审核类别上将跨模型不一致性降低高达57倍。
2026-05-22 cs.AI cs.CL
Did You Read the Instructions? Rethinking the Effectiveness of Task Definitions in Instruction Learning
UCLA(加州大学洛杉矶分校);Salesforce AI Research(赛富时人工智能研究院)
本文系统分析指令学习中任务定义的作用,发现输出与标签信息最关键,并提出自动压缩、结构化关键信息和元微调策略,在119个未知任务上提升4.2 Rouge-L。
2023-06-01 cs.AI cs.CL
Not only a lack of right definitions: Arguments for a shift in information-processing paradigm
机器意识和机器智能不仅仅是占据我们想象力的新流行语。在过去的几十年里,我们见证了创造具有人类特征和能力的机器的尝试前所未有的增长。然而,尽管有广泛的同情和充足的资金,这些企业的进展远远不能令人满意。原因有两个:首先,认知和智力的概念(通常从人类行为研究中借用)是众所周知的模糊和不明确的,其次,支撑整个论述的基本概念本身要么是未定义的,要么是定义得非常模糊。这导致了不适当和不充分的研究目标的确定,我将从DARPA和欧盟委员会最近发布的文件中引用一些例子来说明。另一方面,我想提出一些补救措施,我希望这些措施将改善目前最先进的耻辱。
2010-09-01 cs.AI q-bio.NC
Towards Auditing Unsupervised Learning Algorithms and Human Processes For Fairness
University of California, Davis(加州大学戴维斯分校);University of Virginia(弗吉尼亚大学);University at Albany – State University of New York(纽约州立大学奥尔巴尼分校)
关于公平性的现有工作通常集中在使已知的机器学习算法更公平。存在分类、聚类、离群值检测和其他类型的算法的公平变体。然而,一个未充分研究的领域是审计算法的输出以确定公平性的主题。现有的工作已经探讨了两组分类问题的二进制保护状态变量使用标准定义的统计奇偶校验。在这里,我们建立在审计领域,探索多组设置下更复杂的公平性定义。
2022-09-20 cs.AI cs.CY cs.LG
Event Stream based Human Action Recognition: A High-Definition Benchmark Dataset and Algorithms
School of Computer Science and Technology, Anhui University(安徽大学计算机科学与技术学院);Tsinghua University(清华大学);Beijing Institute of Technology(北京理工大学);Peng Cheng Laboratory(鹏城实验室);School of Computer Science, Peking University(北京大学计算机学院);Shenzhen Graduate School, Peking University(北京大学深圳研究生院)
针对现有事件相机人体动作识别数据集分辨率低的问题,本文构建了大规模高清基准数据集CeleX-HAR,并提出带时空扫描机制的EVMamba骨干网络,在多个数据集上取得优异效果。
2024-08-19 cs.AI cs.CV cs.NE
New Perspective of Interpretability of Deep Neural Networks
National Institute of Advanced Industrial Science and Technology(产业技术综合研究所);Tokyo Institute of Technology(东京工业大学)
深度神经网络(DNN)被称为黑箱模型。换句话说,很难解释模型的内部状态。提高DNN的可解释性是当前的研究热点之一。然而,目前,DNN的可解释性的定义是模糊的,什么是高度解释性模型的问题仍然存在争议。为了解决这个问题,我们提供了模型的人类可预测性的定义,作为DNN可解释性的一部分。本文提出的人类可预测性定义为在扰动DNN模型时预测推理变化的容易性。此外,我们还介绍了一个高度可预测的DNN的例子。我们讨论,我们的定义将有助于研究的DNN考虑各种类型的应用程序的可解释性。
2019-09-12 cs.AI cs.LG stat.ML
From Minimal Existence to Human Definition: The CES-IMU-HSG Theoretical Framework
Ehime University Graduate School of Science and Technology(爱媛大学科学与技术研究生院)
本研究提出CES-IMU-HSG理论框架,以最小公理定义存在,通过跨宇宙逻辑整合异质系统,并引入内部CES概念,为AI自主存在提供哲学与工程桥梁。
2025-10-15 cs.AI cs.LO cs.NE
A Decision Theoretic Framework for Measuring AI Reliance
本文提出基于统计决策理论的AI依赖正式定义,将依赖概率与信号区分能力分离,并构建框架以分离错误依赖和信号区分损失,指导人机互补研究。
2025-09-25 cs.AI cs.HC
Synthetic Data RL: Task Definition Is All You Need
Peking University(北京大学);MIT(麻省理工学院);UIUC(伊利诺伊大学香槟分校);MIT-IBM(麻省理工学院-IBM)
提出Synthetic Data RL框架,仅用任务定义生成合成数据强化微调模型,在多个基准上显著提升性能,接近甚至超越使用完整人类数据的RL,减少人工标注成本。
2025-05-18 cs.AI cs.CL cs.LG
Human-in-the-Loop and AI: Crowdsourcing Metadata Vocabulary for Materials Science
Metadata Research Center, College of Computing and Informatics, Drexel University(元数据研究中心、计算与信息学院、德雷塞尔大学);Penn State University(宾夕法尼亚州立大学);Colorado School of Mines(科罗拉多矿业学院)
本文提出MatSci-YAMZ平台,通过结合人工智能和人机协同方法,实现材料科学元数据词汇表的众包开发,验证了AI-HILT模型在跨学科领域的可行性与可扩展性。
2025-12-10 cs.AI cs.DL
ETDI: Mitigating Tool Squatting and Rug Pull Attacks in Model Context Protocol (MCP) by using OAuth-Enhanced Tool Definitions and Policy-Based Access Control
Amazon Independent Researcher(亚马逊独立研究者);Project Kuiper Security (KPES)(项目Kuiper安全);Proactive Security OWASP, Amazon Web Services(主动安全OWASP,亚马逊网络服务);Intuit Adversarial AI Security reSearch (A2RS)(Intuit对抗AI安全reSearch)
本文提出 ETDI 安全扩展,通过密码学身份验证、不可变版本化工具定义、OAuth 2.0 权限管理及基于策略的细粒度访问控制,缓解 MCP 中的工具投毒和 Rug Pull 攻击,构建更安全可控的 AI 工具交互生态。
2025-06-02 cs.AI cs.CR cs.ET
Vibe Coding as a Reconfiguration of Intent Mediation in Software Development: Definition, Implications, and Research Agenda
Ruhr University Bochum(波鸿鲁尔大学)
本文定义了vibe coding作为一种软件开发范式,探讨其意图调解机制、影响及未来研究方向。
2026-01-08 cs.AI cs.HC cs.SE
Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy
University of Maryland(马里兰大学)
设计良好的技术,提供高水平的人类控制和高水平的计算机自动化,可以提高人类的表现,导致更广泛的采用。以人为中心的人工智能(HCAI)框架阐明了如何(1)设计高水平的人类控制和高水平的计算机自动化,以提高人类的表现,(2)了解完全人类控制或完全计算机控制是必要的情况,以及(3)避免过度人类控制或过度计算机控制的危险。HCAI的方法更有可能产生可靠、安全和值得信赖的设计。实现这些目标将大大提高人类的表现,同时支持人类的自我效能,掌握,创造力和责任感。
2020-02-23 cs.AI cs.HC
Evaluating Interpretable Reinforcement Learning by Distilling Policies into Programs
Université de Lille(里尔大学);Inria(法国国家信息与自动化研究所);Centrale Lille(里尔中央理工学院);TU Darmstadt(达姆施塔特工业大学)
本文提出一种基于可模拟性代理指标、无需人类参与的策略可解释性评估方法,通过将专家网络蒸馏为小型程序进行大规模实证评估,发现提高可解释性未必降低性能,且不存在跨任务普适的最优策略类别。
2025-03-11 cs.AI cs.LG
Lean Atlas: An Integrated Proof Environment for Scalable Human-AI Collaborative Formalization
Nyx Foundation(Nyx基金会);Kyoto University(京都大学);Large Language Model Research and Development Center, National Institute of Informatics(信息处理国家研究所大型语言模型研究与开发中心)
本文提出Lean Atlas工具,通过人机协作验证形式化证明的语义正确性,利用Lean Compass算法减少大规模形式化中的语义审查候选集,提升AI生成形式化证明的质量。
2026-03-16 cs.AI cs.HC cs.LO
TokenMotion: Decoupled Motion Control via Token Disentanglement for Human-centric Video Generation
OPPO US AI Center(OPPO美国人工智能中心)
针对以人为中心的视频生成中相机与人体运动联合控制的挑战,提出首个基于DiT的TokenMotion框架,将二者表示为时空Token并通过人体感知动态掩码解耦融合,在两类范式中持续优于现有方法,推动可控视频生成进步。
2025-04-11 cs.AI cs.CV
Tensions Between the Proxies of Human Values in AI
Arthur(亚瑟公司)
为了减轻技术的潜在有害影响,人工智能社区已经制定并接受了某些问责制支柱的数学定义:例如隐私,公平和模型透明度。然而,我们认为这从根本上是被误导的,因为这些定义是不完美的,他们希望代理的人类价值观的孤立结构,同时给出了这些价值观充分嵌入我们技术的幌子。在普及的方法下,当从业者试图单独或同时实现公平、隐私和透明度的每一个支柱时,就会出现紧张局势。在这份立场文件中,我们推动重新定向。我们认为,人工智能社区需要考虑选择这些支柱的某些公式的所有后果-不仅仅是技术不兼容性,还有部署环境中的影响。我们指出,社会技术研究的框架,后者,但推动更广泛的努力,在实践中实施这些。
2022-12-14 cs.AI cs.CY cs.HC
Controllable Complementarity: Subjective Preferences in Human-AI Collaboration
Carnegie Mellon University(卡内基梅隆大学)
研究通过行为塑造算法探究人机协作中的可控性偏好,发现人类可直接控制AI行为时认为AI更有效且更愉悦,表明人机互补性应同时兼顾客观性能与主观偏好。
2025-03-07 cs.AI cs.HC cs.MA
Actor-Critic Reinforcement Learning with Simultaneous Human Control and Feedback
University of Alberta(阿尔伯塔大学)
本文首次研究了不同的人类用户如何在人机交互过程中同时提供控制和反馈信号。作为这项工作的一部分,我们正式提出了一个通用的交互式学习框架,人类和强化学习代理之间的在线合作。在许多人机交互环境中,复杂半自治系统的自由度与人类控制通道的数量之间存在越来越大的差距。需要简单的人类控制和反馈机制来缩小这一差距,并允许人类和机器在复杂任务上更好地协作。为了更好地通知并发控制和反馈接口的设计,我们提出了实验结果,从人-机器人协作域,其中人类必须同时提供控制和反馈信号,以交互方式训练的演员-评论家强化学习机器人。我们比较了三种实验条件:1)人类提供的控制信号,2)奖励整形反馈信号,3)同时控制和反馈。我们的研究结果表明,受试者提供较少的反馈时,同时提供反馈和控制信号和控制信号的质量并没有显着降低。我们的数据表明,受试者也可能会修改他们提供反馈的时间和方式。通过本研究提供的算法开发和调整,我们预计机器人代理的半自主行动可以通过人类反馈更好地塑造,从而实现无缝协作并提高困难交互领域的性能。
2017-03-15 cs.AI cs.HC cs.RO
Human-robot co-manipulation of extended objects: Data-driven models and control from analysis of human-human dyads
Brigham Young University(杨百翰大学)
人类团队能够轻松执行协作操作任务。然而,对于机器人和人类同时操纵扩展对象是一项艰巨的任务,使用现有的方法从文献中。在本文中,我们的方法是使用数据从人-人二进制的实验,以确定运动意图,我们使用的物理人机协同操作任务。我们首先提出和分析数据,从人-人二人组执行共同操纵任务。我们表明,我们的人与人的二元数据具有有趣的趋势,包括相互作用力与加速物体所需的力相比是不可忽略的,并且横向运动的开始的特征在于来自二元领导者的不同扭矩触发。我们还研究了不同的指标,以量化不同的二元体的性能。我们还开发了一个基于人-人试验的运动数据的深度神经网络,以根据过去的运动预测人类的意图。然后,我们将展示如何力和运动数据可以作为机器人控制的基础,在一个人-机器人二进制。最后,我们比较了两种控制器的性能,人-机器人协同操作的人-人二人性能。
2020-01-03 cs.AI cs.HC cs.LG