Mechanic Maker 2.0: Reinforcement Learning for Evaluating Generated Rules
University of Alberta(阿尔伯塔大学);Northeastern University(东北大学)
针对自动化游戏设计中现有人类游玩近似器静态、无法反映玩家学习能力的问题,研究将强化学习用于规则生成的人类游玩近似,复现并推出开源框架Mechanic Maker,实验证明其生成的规则集与A*基线不同且更便于人类使用。
2023-10-05 cs.AI cs.LG
Assisting Human Decisions in Document Matching
Carnegie Mellon University(卡内基梅隆大学);Amazon Web Services(亚马逊云科技)
许多实际应用,从同行评审中的论文评审员分配到招聘中的求职者匹配,都需要人类决策者通过将其专业知识与机器学习模型的预测相结合来识别相关匹配。在许多这样的模型辅助文档匹配任务中,决策者强调需要关于模型输出(或数据)的辅助信息来促进他们的决策。在本文中,我们设计了一个代理匹配任务,使我们能够评估哪种辅助信息提高决策者的性能(在准确性和时间方面)。通过一项众包(N=271名参与者)研究,我们发现,提供黑盒模型解释会降低用户在匹配任务上的准确性,这与人们普遍认为的通过更好地理解模型来帮助用户的观点相反。另一方面,定制的方法,旨在密切关注一些特定任务的desiderata被发现是有效的,在提高用户的性能。令人惊讶的是,我们还发现,用户的辅助信息的感知效用是不一致的,他们的客观效用(通过他们的任务性能测量)。
2023-02-16 cs.HC cs.LG
(Un)certainty of (Un)fairness: Preference-Based Selection of Certainly Fair Decision-Makers
Heinrich Heine University(海因里希·海涅大学)
本文提出用贝叶斯统计量化公平性差异的不确定性,基于偏好和效用函数选择最确定公平的决策者,以增强歧视评估。
2024-09-19 cs.AI cs.LG
Designing Algorithmic Recommendations to Achieve Human-AI Complementarity
Wharton(沃顿商学院);Stanford GSB(斯坦福大学商学院)
针对算法辅助工具常无法改善人类决策的问题,研究基于因果推断潜在结果框架形式化推荐算法设计,引入单调性假设分类人类反应,经招聘实验验证并推导出有限数据下可实现的极小极大最优算法,助力实现人机互补。
2024-10-30 cs.HC cs.LG econ.EM
Augmented Fairness: An Interpretable Model Augmenting Decision-Makers' Fairness
University of Iowa(爱荷华大学);University of Texas at Austin(得克萨斯大学奥斯汀分校)
我们提出了一种模型不可知的方法,用于减轻黑盒决策者,特别是人类决策者的预测偏差。我们的方法在特征空间中检测黑盒决策者有偏见的地方,并用一些简短的决策规则代替它,充当“公平代理”。基于规则的代理模型在两个目标下训练,预测性能和公平性。我们的模型侧重于一个设置,在实践中是常见的,但不同于其他文献的公平性。我们只能黑盒访问模型,并且在预算约束下只能查询有限的真标签集。我们制定了一个多目标优化建立一个代理模型,我们同时优化预测性能和偏差。为了训练模型,我们提出了一种新的训练算法,结合非支配排序遗传算法与主动学习。我们在公共数据集上测试我们的模型,在那里我们模拟各种有偏见的“黑盒”分类器(决策者),并将我们的方法应用于可解释的增强公平性。
2020-11-17 cs.HC cs.LG
Randomized Classifiers vs Human Decision-Makers: Trustworthy AI May Have to Act Randomly and Society Seems to Accept This
University of Canterbury(坎特伯雷大学);Corvinus University of Budapest(布达佩斯考维努斯大学);Soul Machines(Soul Machines公司);Universitat Pompeu Fabra(庞培法布拉大学)
随着\emph{artificial intelligence}(AI)系统越来越多地参与影响我们生活的决策,确保自动化决策的公平性和道德性已成为当务之急。直觉上,我们认为,类似于人类的决定,人工代理人的判断必须基于一些道德原则。然而,决策者(无论是人类还是人工)只有在决策时能够获得决策所依据的所有相关因素的全部信息,才能做出真正道德(基于任何道德理论)和公平(根据任何公平概念)的决策。这引发了两个问题:(1)在我们依赖于使用通过监督学习获得的分类器的AI系统的设置中,存在一些归纳/泛化,并且即使在学习期间也可能不存在一些相关属性。(2)将此类决策建模为博弈表明,任何纯粹的策略(无论多么符合道德)都不可避免地容易受到利用。此外,在许多博弈中,纳什均衡只能通过使用混合策略来获得,即,为了实现数学上的最佳结果,决策必须是随机的。在本文中,我们认为,在监督学习设置,存在随机分类器,执行至少以及确定性分类器,因此可能是在许多情况下的最佳选择。我们通过实证研究支持我们的理论结果,表明社会对随机人工决策者的积极态度,并讨论了与使用随机分类器相关的一些政策和实施问题,这些问题与当前的人工智能政策和标准化计划有关。
2021-11-15 cs.AI cs.CY cs.LG
Towards Human-AI Complementarity in Matching Tasks
ELLIS Alicante(ELLIS阿尔瓦尔费德大学);Max Planck Institute for Software Systems(软件系统马克斯·普朗克研究所)
本文提出协作匹配系统 comatch,通过只处理最有信心的匹配决策并将其余决策交由人类,实现可证明的人机互补,并在 800 人实验中验证其匹配结果优于单独使用人类或算法。
2025-08-18 cs.HC cs.LG
Conformal Prediction and Human Decision Making
本文构建决策论框架,分析conformal prediction集合作为人类决策支持信号的价值,形式化使用策略并指出其与人机决策目标的张力,提出未来研究建议。
2025-03-18 cs.AI cs.LG stat.ML
The Role of Time in the Creation of Knowledge
本文假设人类知识的创造依赖于一个离散的时间,或阶段,顺序决策过程受到随机的,信息传输环境。对于每个时间阶段,该环境随机地将香农类型的信息包发送给决策者,决策者检查每个信息包的相关性,然后确定他的最优选择。使用这组相关的信息包,决策者适应,随着时间的推移,他的环境的随机性,并优化主观预期的知识增长率。决策者的最佳行动,导致一个决策功能,涉及到,随着时间的推移,他的看法的主观熵的环境过程和其他重要参数在每个时间阶段的过程。利用这种人类行为模型,人们可以利用计算机模拟和真实的决策者进行心理测量实验,玩编程游戏来测量最终的人类表现。
2007-07-03 cs.AI cs.IT cs.LG
Designing Closed Human-in-the-loop Deferral Pipelines
Yale University(耶鲁大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon AWS AI(亚马逊云服务人工智能);Fiddler AI
在混合人机延迟框架中,分类器可以将不确定的情况推迟给人类决策者(他们自己往往也会犯错)。在同时训练这种分类器和延迟模型方面,以前的工作通常假设在训练期间可以访问oracle,以获得训练样本的真实类标签,但实际上通常没有这样的oracle。相比之下,我们考虑一个“封闭”的决策管道,其中在延迟中使用的相同的易犯错的人类决策者也提供训练标签。如何使用不完美和有偏见的人类专家标签来训练公平和准确的延期框架?我们的关键见解是,通过利用弱先验信息,我们可以将专家与输入示例相匹配,以确保所产生的延迟框架的公平性和准确性,即使在使用不完美和有偏见的专家代替地面真值标签时也是如此。理论分析和两个任务的评价都表明了我们方法的有效性。
2022-02-09 cs.HC cs.LG
On the Fairness of Machine-Assisted Human Decisions
Columbia University(哥伦比亚大学);Stanford University(斯坦福大学)
本文通过形式化模型和实验室实验研究机器辅助人类决策的公平性,发现纳入有偏见的人类决策者可能逆转算法结构与决策质量的关系,排除受保护群体信息甚至可能增加最终差异,表明公平性研究不能仅孤立关注算法预测。
2023-09-24 cs.CY cs.HC cs.LG
Bias In, Bias Out? Evaluating the Folk Wisdom
Harvard University(哈佛大学)
我们评估了民间智慧,即在有偏见的人类决策者产生的数据上训练的算法决策规则必然反映这种偏见。我们考虑这样一种设置,即只有在有偏见的决策者采取特定行动时才生成训练标签,因此由于对训练数据的歧视性选择,出现了“有偏见的”训练数据。在我们的基线模型中,决策者对一个群体的偏见越大,算法决策规则就越有利于这个群体。我们把这种现象称为“偏见逆转”。“然后,我们澄清了引起偏见逆转的条件。预测算法是逆转还是继承偏差,关键取决于决策者如何影响训练数据以及训练中使用的标签。我们说明了我们的主要理论结果在模拟研究中应用到纽约市停止,问题和弗里斯克数据集。
2020-12-19 cs.LG stat.ML
A Framework for Effective AI Recommendations in Cyber-Physical-Human Systems
The School of Civil and Environmental Engineering, Cornell University(康奈尔大学土木与环境工程学院)
针对信息物理人类系统中人类决策者可能偏离AI推荐的问题,提出一个严谨框架,建立最优推荐策略结构性质,开发近似人类模型并给出最优性差距的理论界限,数值示例验证有效性。
2024-03-08 cs.AI cs.HC cs.LG
Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making
Carnegie Mellon University(卡内基梅隆大学);Twitter(推特);IBM Research(IBM研究院);Onfido
几项研究旨在弥合人工智能(AI)和人类决策者在AI辅助决策方面的差距,人类是AI模型预测的消费者,也是高风险应用程序的最终决策者。然而,人们的感知和理解往往被他们的认知偏差所扭曲,如确认偏差、锚定偏差、可用性偏差等。在这项工作中,我们使用认知科学领域的知识来解释人类-人工智能协作决策环境中的认知偏见,并减轻其对协作绩效的负面影响。为此,我们对认知偏差进行了数学建模,并提供了一个通用框架,通过该框架,研究人员和从业者可以了解认知偏差与人类-AI准确性之间的相互作用。然后,我们特别关注锚定偏差,这是人类与人工智能合作中常见的偏差。我们实施了一种基于时间的去锚策略,并进行了第一次用户实验,以验证其在人类-人工智能协作决策中的有效性。有了这个结果,我们为资源受限的环境设计了一个时间分配策略,在一些假设下实现了最佳的人类-AI协作。然后,我们进行了第二次用户实验,结果表明,我们的时间分配策略与解释可以有效地脱锚人类和提高协作性能时,人工智能模型具有低置信度,是不正确的。
2022-04-04 cs.HC cs.LG
Rethinking Algorithmic Fairness for Human-AI Collaboration
Wharton AI & Analytics Initiative, Wharton School, University of Pennsylvania(沃顿商学院人工智能与分析倡议,沃顿商学院,宾夕法尼亚大学);Department of Operations, Information, and Decisions, Wharton School, University of Pennsylvania(运营、信息与决策系,沃顿商学院,宾夕法尼亚大学);Department of Computer and Information Science, University of Pennsylvania(计算机与信息科学系,宾夕法尼亚大学)
本文研究了人机协作中的算法公平性,提出了对人类遵从模式具有鲁棒性的遵从鲁棒公平算法推荐概念及优化策略,并证明传统公平约束可能不适用于改善协作公平性与准确性。
2025-06-29 cs.LG stat.ML
Modeling Human Decision-making in Generalized Gaussian Multi-armed Bandits
Princeton University(普林斯顿大学)
我们提出了一个正式的人类决策模型,在探索利用任务的背景下,多臂强盗问题,决策者必须选择多个选项与不确定的回报。我们解决了标准的多臂强盗问题,多臂强盗问题的转移成本,和多臂强盗问题的图。我们专注于高斯奖励的情况下,决策者使用贝叶斯推理来估计奖励值。我们的模型与贝叶斯先验的平均回报决策者的先验知识。我们开发的可信上限(UCL)算法的标准多臂强盗问题,并表明,这种确定性算法实现对数累积预期遗憾,这是最佳性能的无信息先验。我们展示了如何良好的先验和良好的假设武器之间的相关性结构可以大大提高决策性能,即使在很短的时间范围内。我们扩展到随机UCL算法,并得出几个连接到人类的决策行为。我们目前的经验数据,从人类的实验,并表明,人类的表现是有效地捕捉随机UCL算法与适当的参数。对于带转移费用的多臂强盗问题和图上的多臂强盗问题,分别将UCL算法推广为块UCL算法和图块UCL算法.我们表明,这些算法也实现了对数累积预期遗憾,并需要一个亚对数预期数量的武器之间的过渡。我们进一步说明了这些算法的性能与数值例子。注:本版本中包含的附录G详细说明了对先前发布的证明中的疏忽进行的微小修改。本书的其余部分反映了已发表的作品。
2019-12-20 cs.LG math.OC stat.ML
Comparative Explanations: Explanation Guided Decision Making for Human-in-the-Loop Preference Selection
Continental Automotive Technologies GmbH, AI Lab Berlin, Germany(大陆汽车技术有限公司,柏林AI实验室,德国);University of Marburg(马尔堡大学);Continental Automotive Technologies GmbH, Frankfurt, Germany(大陆汽车技术有限公司,法兰克福,德国)
本文提出比较性解释方法MOLONE,通过同时解释输入特征与输出目标在局部邻域内的重要性,帮助决策者理解多目标权衡,从而在人在回路偏好贝叶斯优化中加速偏好选择与收敛。
2025-08-22 cs.AI cs.LG
Learning to Decide with AI Assistance under Human-Alignment
本文研究了在高风险领域中,人工智能如何通过预测结果帮助决策者,并探讨了AI预测信心与决策者自身信心的对齐程度对决策学习复杂性的影响。
2026-06-17 cs.AI cs.HC cs.LG
Dynamic Information Sub-Selection for Decision Support
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本研究提出新型AI辅助框架DISS,通过按实例动态选择有效特征与选项供黑盒决策者处理,搭配可扩展频率派数据采集与决策者模拟技术提升预算效率,在多类应用中性能优于现有最优方法。
2024-10-30 cs.LG
Driver Modeling through Deep Reinforcement Learning and Behavioral Game Theory
Bilkent University(比尔肯特大学)
本文提出了一种深度强化学习和层次博弈论的协同组合,作为高速公路驾驶场景下驾驶员行为预测的建模框架。需要一个可以解决多个人与人和人与自动化交互的建模框架,其中所有代理都可以同时建模为决策者,这是这项工作背后的主要动机。这样的建模框架可以用于自动驾驶车辆的验证和确认:据估计,为了使自动驾驶车辆达到与有驾驶员的汽车相同的安全水平,需要数百万英里的驾驶测试。本文提出的建模框架可用于由多个人类决策者组成的高保真交通模拟器中,以通过允许安全和快速评估自动驾驶算法来减少测试所花费的时间和精力。为了证明所提出的建模框架的保真度,游戏理论的驱动程序模型进行比较,从交通数据中提取的真实人类驾驶员的行为模式。
2020-03-24 cs.LG cs.MA
Challenging the Human-in-the-loop in Algorithmic Decision-making
University of Vienna(维也纳大学)
本文从技术和哲学角度挑战人机协同在算法决策中的有效性,指出实践决策者的监督可能因价值观不一致和信息不足而阻碍战略目标,并强调需明确其角色与信息需求。
2024-08-20 cs.LG
Predict Responsibly: Improving Fairness and Accuracy by Learning to Defer
University of Toronto(多伦多大学);Vector Institute(向量研究所)
在许多机器学习应用中,涉及多个决策者,包括自动化和人工。在算法开发中,这些代理之间的交互往往没有得到解决。在这项工作中,我们探索了一个简单的版本,这种互动与一个两阶段的框架,包含一个自动化模型和一个外部决策者。该模型可以选择说“通过”,并将决策传递到下游,正如拒绝学习中所探讨的那样。我们扩展了这个概念,提出了“学习推迟”,它概括了拒绝学习,考虑其他代理人在决策过程中的影响。我们提出了一种学习算法,该算法考虑了系统中外部决策者持有的潜在偏见。实验表明,学习延迟不仅可以使系统更准确,而且可以减少偏差。即使在与不一致或有偏见的用户一起工作时,我们也表明延迟模型仍然大大提高了整个系统的准确性和/或公平性。
2018-09-07 cs.LG stat.ML
Explainability's Gain is Optimality's Loss? -- How Explanations Bias Decision-making
Rotterdam School of Management, Erasmus University(伊拉斯姆斯大学鹿特丹管理学院);Nova School of Business and Economics, Universidade Nova de Lisboa(里斯本新大学诺瓦商业与经济学院)
组织中的决策是关于评估备选方案并选择最适合组织目标的方案。在某种程度上,备选方案的评估可以被制定为具有适当度量的预测任务,机器学习算法越来越多地被用于提高该过程的效率。解释有助于促进算法和人类决策者之间的沟通,使后者更容易根据前者的预测进行解释和决策。然而,基于因果关系的解释的因果模型的语义,导致泄漏从决策者的先验信念。我们的研究结果从实地实验经验证明,这如何导致确认偏见和不同的影响决策者的信心的预测。这种差异可能导致次优和有偏见的决策结果。
2022-06-29 cs.HC cs.LG
Balancing Optimality and Diversity: Human-Centered Decision Making through Generative Curation
Technology and Operations Management, Harvard Business School(哈佛商学院技术与运营管理系);Heinz College of Information Systems and Public Policy, Carnegie Mellon University(卡内基梅隆大学海因兹学院)
该研究提出生成式策展框架,通过分解组合合意度、开发适配多行动空间的方法,在决策支持场景下大幅降低遗憾值,适用于警区重划等复杂运营规划问题。
2026-08-18 cs.HC cs.LG math.OC
A hybrid machine learning framework for analyzing human decision making through learning preferences
Xi’an Jiaotong University(西安交通大学);City University of Hong Kong(香港城市大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Arizona(亚利桑那大学)
机器学习近年来已被广泛用于解决管理决策问题,其中决策者需要能够以显式形式解释个体属性的贡献。然而,在性能和可解释性之间存在权衡。完全复杂性模型是不可追踪的黑盒,而经典的可解释模型通常被简化,准确性较低。这种权衡限制了最先进的机器学习模型在管理问题中的应用,这需要高预测性能,以及对单个属性对模型结果的贡献的理解。多准则决策辅助(MCDA)是描述人类决策原理的一系列分析方法。它也受到强有力的假设的限制。为了满足决策者对更可解释的机器学习模型的需求,我们提出了一种新的混合方法,即基于神经网络的多准则决策辅助,它结合了一个加性值模型和一个完全连接的多层感知器(MLP),以实现良好的性能,同时捕捉单个属性和预测之间的显式关系。NN-MCDA的线性部分通过提供显式的边缘价值函数来描述这种关系,而非线性部分则用于捕获属性之间的隐式高阶相互作用及其复杂的非线性变换。我们证明了NN-MCDA的有效性与广泛的模拟研究和三个真实世界的数据集。据我们所知,这项研究是第一个提高解释性的机器学习模型与MCDA技术。所提出的框架还阐明了如何使用机器学习技术来将MCDA从强假设中解放出来。
2019-10-25 cs.LG stat.ML
Human Choice Prediction in Language-based Persuasion Games: Simulation-based Off-Policy Evaluation
Faculty of Data and Decision Sciences, Technion - Israel Institute of Technology(以色列理工学院数据与决策科学学院)
本研究针对基于语言的劝说博弈,提出一种基于仿真的离线策略评估方法,通过模拟智能体空间交互提升人类决策预测准确率,在挑战性案例中提升7.1%。
2025-04-17 cs.AI cs.GT cs.LG
Learning Personalized Decision Support Policies
New York University(纽约大学);The Alan Turing Institute(阿兰·图灵研究所);Carnegie Mellon University(卡内基梅隆大学);University of Cambridge(剑桥大学)
本文提出学习个性化决策支持策略的问题,开发Modiste工具,利用随机上下文老虎机技术为每个决策者定制支持方式,实验表明个性化策略优于离线策略,并能以最小性能损失降低成本。
2025-01-23 cs.AI cs.CY cs.HC
Human-AI Collaboration in Decision-Making: Beyond Learning to Defer
Feedzai(Feedzai公司);Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等技术学院);Instituto de Telecomunicações(电信研究所)
决策中的人类-人工智能协作(HAIC)旨在在人类决策者和人工智能系统之间建立协同合作。学习延迟(L2 D)是一个很有前途的框架,可以确定人类和人工智能中的谁应该做出哪些决策,以优化组合系统的性能和公平性。然而,L2 D需要几个通常不可行的要求,例如每个实例的人类预测的可用性或独立于所述人类的地面实况标签。此外,L2 D和替代方法都不能解决在现实环境中部署HAIC系统的基本问题,例如容量管理或处理动态环境。在本文中,我们的目的是确定和审查这些和其他限制,指出在HAIC未来的研究可能存在的机会。
2022-07-13 cs.AI cs.HC cs.LG
LanguageMPC: Large Language Models as Decision Makers for Autonomous Driving
Tsinghua University(清华大学);University of Hong Kong(香港大学)
针对现有自动驾驶系统在高级信息理解等方面的挑战,提出LanguageMPC方法,将大语言模型用作决策组件,设计认知路径与转换算法实现与低级控制器的集成,实验表明其在单车任务中优于基线且能处理多车协调等复杂场景。
2025-04-15 cs.AI cs.CL cs.CV
Should I stay or should I show? Learning to selectively disclose information
University of Trento(特伦托大学);University of Pisa(比萨大学);ETH AI Center & ETH(苏黎世联邦理工学院AI中心及苏黎世联邦理工学院);University of Warwick(华威大学)
研究在预算约束下学习何时向人类决策者披露支持信息,提出基于信息价值的阈值策略,实验证明其优于不披露和完全披露,且能提升人机团队表现。
2026-10-01 cs.LG
Sample Efficient Learning of Predictors that Complement Humans
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Massachusetts Institute of Technology(麻省理工学院)
学习算法的目标之一是补充和减轻人类决策者的负担。专家延迟设置,其中算法可以自己预测或将决策推迟到下游专家,有助于实现这一目标。这种设置的一个基本方面是需要学习补充预测器,以改善人类的弱点,而不是学习针对平均误差优化的预测器。在这项工作中,我们提供了第一个理论分析的好处,学习互补的预测专家延期。为了能够有效地学习这样的预测,我们考虑了一个家庭的一致代理损失函数的专家推迟,并分析其理论性质。最后,我们设计主动学习计划,需要最少的人类专家预测的数据,以学习准确的延迟系统。
2022-07-19 cs.AI cs.HC cs.LG
Logic-Based Explainability in Machine Learning
IRIT(图卢兹计算机科学研究所);CNRS(法国国家科学研究中心)
在过去的十年里,机器学习(ML)取得了越来越多的成功。这些成功提供了明确的证据,表明ML必将在广泛的实际应用中变得普遍,包括许多直接影响人类的应用。不幸的是,人类决策者无法理解最成功的ML模型的操作。因此,ML模型的使用,特别是在高风险和安全关键环境中的使用并非没有问题。近年来,人们一直在努力设计解释ML模型的方法。这些努力大多集中在所谓的模型无关的方法。然而,所有与模型无关的和相关的方法都不能保证严格性,因此被称为非正式的。例如,这种非正式的解释可以与不同的预测相一致,这使得它们在实践中毫无用处。本文概述了正在进行的关于计算ML模型的严格的基于模型的解释的研究工作;这些被称为形式化解释。这些努力涵盖了各种主题,包括解释的实际定义,计算解释的复杂性的表征,当前用于推理不同ML模型的最佳逻辑编码,以及如何使解释可供人类决策者解释等。
2023-01-29 cs.AI cs.LG
Algorithmic Assistance with Recommendation-Dependent Preferences
Wharton School, University of Pennsylvania(宾夕法尼亚大学沃顿商学院);Graduate School of Business, Stanford University(斯坦福大学商学院)
针对决策者将算法推荐视为默认行动而难以偏离的问题,提出人机联合决策模型,证明策略性保留推荐(弃权(不执行))的算法能解决低效并实现极小化极大最优性。
2025-10-31 cs.HC cs.LG econ.GN
Distance-Restricted Explanations: Theoretical Underpinnings & Efficient Implementation
CREATE;NUS(新加坡国立大学);IST/INESC-ID(高等技术学院/ INESC-ID研究所);University of Lleida(莱里达大学);Monash University(莫纳什大学);ICREA(加泰罗尼亚研究与高级研究所)
本文提出新型算法以提升基于逻辑的解释器在处理大量输入的机器学习模型时的计算与枚举扩展性能,解决了距离限制解释的可扩展性瓶颈。
2024-12-24 cs.AI cs.CV cs.DC
Who Should I Trust: AI or Myself? Leveraging Human and AI Correctness Likelihood to Promote Appropriate Trust in AI-Assisted Decision-Making
The Hong Kong University of Science and Technology(香港科技大学);East China Normal University(华东师范大学);Purdue University(普渡大学)
在人工智能辅助决策中,人类决策者必须知道何时信任人工智能,何时信任自己。然而,之前的研究仅基于AI的正确性可能性(CL)的AI信心来校准人类信任,但忽略了人类的CL,阻碍了最佳团队决策。为了缩小这一差距,我们提出了在任务实例级别上基于双方的CL来促进人类的适当信任。我们首先通过近似他们的决策模型和计算他们在类似情况下的潜在表现来模拟人类的CL。我们通过两个初步研究证明了我们的模型的可行性和有效性。然后,我们提出了三个CL开发策略,以校准用户的信任显式/隐式在人工智能辅助决策过程。受试者间实验(N=293)的结果表明,与仅使用AI信心相比,我们的CL开发策略促进了更适当的人类对AI的信任。我们进一步为更具人性化的人工智能辅助决策提供了实际影响。
2023-01-14 cs.AI cs.HC cs.LG
Human strategic decision making in parametrized games
Ganzfried Research(甘兹弗里德研究)
本文提出一种框架,使人类能在无需实时求解器的情况下快速做出决策,适用于多玩家和不完全信息环境。
2026-03-24 cs.AI cs.GT cs.LG
Paradoxes in Fair Computer-Aided Decision Making
Cornell University(康奈尔大学);Cornell Tech(康奈尔科技学院)
计算机辅助决策--人类决策者在做出决策时得到计算分类器的帮助--正变得越来越普遍。例如,至少有九个州的法官在判决、假释或保释决定中使用算法工具来确定刑事被告的“累犯风险评分”。最近争论的一个主题是,这种算法工具是否“公平”,因为它们不歧视某些群体(例如,种族)的人。我们的主要结果表明,对于“非平凡”的计算机辅助决策,要么分类器必须是歧视性的,或者一个理性的决策者使用的分类器的输出是被迫歧视。我们进一步提供了一个完整的表征的情况下,公平的计算机辅助决策是可能的。
2018-01-31 cs.CY cs.LG
Modeling Cyber-Physical Human Systems via an Interplay Between Reinforcement Learning and Game Theory
Bilkent University(比尔肯特大学)
预测具有多种人类交互的网络物理系统的结果是一个具有挑战性的问题。本文回顾了一种博弈论方法来解决这个问题,其中强化学习是用来预测时间延长的互动动态。我们解释说,该方法最有吸引力的特点是提出了一种计算上可行的方法,同时模拟多个人作为决策者,而不是确定决策动态的智能代理的利益,并迫使其他人服从一定的运动学和动力学约束的环境。我们提出了两个最新的开发方法来建模1)无人驾驶飞机集成到国家空域系统和2)公路交通。最后,我们提供了正在进行的和未来的工作,采用,改进和验证的方法。我们还提供相关的开放问题和研究机会。
2019-10-11 cs.LG cs.MA
Aiding Humans in Financial Fraud Decision Making: Toward an XAI-Visualization Framework
Utrecht University(乌得勒支大学)
本文提出一个XAI可视化框架,使Visual Analytics系统贯穿金融欺诈调查的数据收集、信息综合与标准迭代全阶段,确保人类在决策中保持控制,同时减少偏见和繁重任务。
2024-08-26 cs.CY cs.HC cs.LG
2-Step Agent: How a Bayesian Decision Maker Learns from AI-Decision Support
Department of Medical Informatics, Amsterdam UMC University of Amsterdam(医学信息学系,阿姆斯特丹大学医学中心,阿姆斯特丹大学);Institute for Logic, Language and Computation, University of Amsterdam(逻辑、语言和计算研究所,阿姆斯特丹大学);Department of Mathematics and Earth Sciences, University of Trieste(数学与地球科学系,特里埃斯特大学)
本文提出2-Step Agent框架,用于研究决策者如何学习和利用基于机器学习的决策支持,并揭示了即使在理想条件下,ML-DS也可能导致更严重的负面影响。
2026-10-22 cs.AI cs.LG
Ignoring Directionality Leads to Compromised Graph Neural Network Explanations
National University of Singapore(新加坡国立大学);City University of Hong Kong(香港城市大学)
本文指出图对称化丢弃方向信息会损害GNN解释保真度,并通过理论与实验证明保留方向语义能显著提升解释质量,强调安全关键应用中需要方向感知的GNN可解释性。
2025-06-05 cs.LG
When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
该研究通过190名参与者的1330份回复,探究机器学习辅助公寓租金定价决策中预测不确定性的影响,发现展示后验预测分布可减少人与模型的分歧,且效应受专业知识水平影响,为决策辅助工具设计提供参考。
2023-06-12 cs.LG
Inverse Optimization for Routing Problems
Delft Center for Systems and Control(代尔夫特系统与控制中心);Delft University of Technology(代尔夫特理工大学)
本研究提出适配路径规划问题的逆优化方法,含定制假设函数、损失函数与随机一阶算法,在亚马逊最后一英里路径规划挑战赛数千真实案例上测试,于48个决赛模型中获第2名,展现实际应用潜力。
2024-06-18 cs.LG math.OC
On Prediction-Modelers and Decision-Makers: Why Fairness Requires More Than a Fair Prediction Model
Ca’ Foscari University of Venice(威尼斯大学);European Centre for Living Technology(欧洲生活技术中心);University of Zurich(苏黎世大学);Zurich University of Applied Sciences(苏黎世应用科技大学)
本文区分预测与决策概念,指出公平性应归于决策系统而非预测模型,并提出框架明确预测建模者与决策者的角色及责任,以更好地理解和实施基于预测的决策中的公平性。
2023-10-09 cs.CY cs.LG
Omega-Regular Decision Processes
University of Twente(特文特大学);University of Colorado Boulder(科罗拉多大学博尔德分校);University of Liverpool(利物浦大学)
该研究提出omega-正则决策过程(ODPs),将非马尔可夫决策的约束从过去正则性质扩展为未来omega-正则前瞻,未满足承诺则收益为最劣值,通过归约为有限MDP的字典序优化学习实现折扣奖励目标下的优化,实验验证了归约的有效性。
2023-12-14 cs.LG cs.LO