Using Artificial Intelligence to Accelerate Collective Intelligence: Policy Synth and Smarter Crowdsourcing
Citizens Foundation（公民基金会）；The Governance Lab（治理实验室）；Citizens Foundation America（美国公民基金会）
本研究提出 Policy Synth 工具包，结合 AI 智能体与 Smarter Crowdsourcing 方法，通过真实案例证明其能更高效、可扩展地整合专家集体智慧，增强公共问题解决流程。
2024-06-03 cs.AI cs.CY
Crowdsourcing Impacts: Exploring the Utility of Crowds for Anticipating Societal Impacts of Algorithmic Decision Making
随着算法在行业和政府中的日益普及，越来越多的工作都在努力了解它们的社会影响和道德影响。在算法开发的不同阶段使用了各种方法，以鼓励研究人员和设计人员考虑其研究的潜在社会影响。在这一领域，一个研究不足但很有前途的领域是利用参与式远见来预测这些不同的社会影响。我们采用众包作为一种参与式预见的手段，根据一套政府算法决策工具揭示四种不同类型的影响领域：（1）感知效价，（2）社会领域，（3）具体的抽象影响类型，（4）伦理算法问题。我们的研究结果表明，这种方法可以有效地利用人群的认知多样性来揭示一系列问题。我们进一步分析了影响领域相互作用的复杂性，以展示众包如何照亮影响之间联系的模式。最终，这项工作确立了众包作为预测算法影响的有效手段，通过利用参与性远见和认知多样性，补充了评估社会中算法的其他方法。
2022-07-19 cs.CY
On the mapping of Points of Interest through StreetView imagery and paid crowdsourcing
利用志愿人员已成为生成准确地理信息的低成本替代办法，这种办法被称为数字地理信息。然而，VGI受限于要绘制地图的区域中志愿者的数量和可用性，阻碍了大区域的可扩展性，并且难以在时间范围内绘制地图。幸运的是，街景图像的可用性使城市环境的虚拟探索成为可能，使招募不一定位于要绘制地图的地区的贡献者成为可能。在本文中，我们描述的设计，实施和评估的虚拟城市浏览器（VCE），一个系统来收集的坐标点的兴趣在一个有界的区域内的街景服务与使用付费众包。我们的评估表明，付费的众包工作者可以有效地找到POI，并且几乎覆盖了所有区域。关于完整性，我们的方法并不能找到专家或VGI社区发现的所有POI，但能够找到他们没有发现的POI，这表明互补性。我们还研究了将一定数量的工人\emph{taboo}已经发现的PoIs用于新工人的影响，发现它鼓励工人进行更多的探索，增加检测到的PoIs的数量，并降低成本。
2019-01-26 cs.CY
FairFare: A Tool for Crowdsourcing Rideshare Data to Empower Labor Organizers
Penn State University（宾夕法尼亚州立大学）；Center for Information Technology Policy, Princeton University（普林斯顿大学信息技术政策中心）；University of Colorado Boulder（科罗拉多大学丹佛分校）；Princeton University（普林斯顿大学）；Cornflower Labs（Cornflower实验室）
FairFare通过众包网约车司机数据估算平台抽成率，赋能劳工组织者推动立法，并成功影响了科罗拉多州参议院法案24-75的通过。
2025-07-06 cs.AI cs.CY cs.HC
Artificial Intelligence for EU Decision-Making. Effects on Citizens Perceptions of Input, Throughput and Output Legitimacy
缺乏政治合法性损害了欧洲联盟解决重大危机的能力，并威胁到整个体系的稳定。通过将数字数据纳入政治进程，欧盟寻求将决策越来越多地建立在可靠的经验证据基础上。特别是，人工智能系统有可能通过识别紧迫的社会问题、预测潜在的政策结果、为政策过程提供信息以及评估政策有效性来提高政治合法性。本文研究了公民对欧盟投入、产出和产出合法性的看法如何受到三种不同决策安排的影响。第一，独立的人类决策，HDM，第二，独立的算法决策，ADM，第三，欧盟政治家和基于AI的系统一起进行混合决策。一项有572名受访者参与的预先注册在线实验的结果表明，现有的欧盟决策安排仍被视为最民主的合法性。然而，关于决策过程本身-吞吐量的合法性-和其政策结果-输出的合法性，没有观察到的现状和混合决策涉及ADM和民主选举的欧盟机构之间的差异。如果ADM系统是唯一的决策者，受访者往往认为这些是非法的。本文讨论了这些研究结果对欧盟合法性和数据驱动决策的影响。
2020-03-25 cs.CY cs.HC
Subjective-objective policy making approach: Coupling of resident-values multiple regression analysis with value-indices, multi-agent-based simulation
针对现有主客观政策评估方法的缺陷，提出结合居民问卷多元回归与MABS的主客观耦合政策评估方法，经日本高城町可再生能源政策验证，可从2万候选方案中筛选符合居民福祉价值观的政策，助力共识构建。
2023-06-14 cs.CY cs.HC
Homophily and Incentive Effects in Use of Algorithms
随着算法工具越来越多地帮助专家做出重大决策，了解调解其影响的确切因素的需求也随之增长。在本文中，我们提出了一个众包小插曲研究，旨在评估两个合理的因素对人工智能知情决策的影响。首先，我们研究同质性--人们是否更倾向于认同他们的模型？--在培训期间操纵参与者与算法工具之间的协议。其次，我们考虑了激励措施--人们如何将（已知的）成本结构纳入混合决策环境中？--通过改变与真阳性和真阴性相关的奖励。令人惊讶的是，我们发现有限的影响，无论是同质性和没有证据的激励效果，尽管参与者表现类似于以前的研究。参与者和人工智能工具之间的更高水平的一致性产生了更自信的预测，但只有在没有结果反馈的情况下。这些结果强调了人类与算法交互的复杂性，并表明当人类与算法交互时，社会心理学的发现可能需要重新审视。
2022-05-19 cs.CY cs.HC
Improving City Life via Legitimate and Participatory Policy-making: A Data-driven Approach in Switzerland
本文提出一种数据驱动方法，通过新合法性度量优化瑞士阿劳市公共资金分配，并利用分类模型指导投资，以提升公民生活质量。
2023-06-23 cs.CY
Unravelling the Use of Digital Twins to Assist Decision- and Policy-Making in Smart Cities
本文通过系统性文献综述为智慧城市基于数字孪生的决策支持框架奠定基础，旨在构建特定情境模型辅助决策与政策制定，并指明未来将聚焦可持续智慧城市及治理挑战场景的开发。
2024-05-31 cs.CY
Beyond Ads: Sequential Decision-Making Algorithms in Law and Public Policy
我们探讨了在法律和公共政策中采用顺序决策算法的前景和挑战，如土匪，强化学习和主动学习。虽然这种算法在私营部门具有良好的特征化性能（例如，在线广告），天真地应用由一个领域（通常是在线广告）激发的算法的倾向可以被称为“广告谬误”。“我们的主要论点是，法律和公共政策提出了机器学习社区尚未解决的独特方法挑战。机器学习需要解决这些方法上的问题，以“超越广告”。例如，公法可以提出多个目标，需要批量和延迟反馈，并要求系统学习理性的因果决策政策，其中每一个都提出了研究前沿的新问题。我们讨论了顺序决策算法在监管和治理中的广泛潜在应用，包括公共卫生，环境保护，税务管理，职业安全和福利裁决。我们用这些例子来强调研究需要使顺序决策符合政策，适应性强，有效的公共部门。我们还注意到这种部署的潜在风险，并描述了顺序决策系统如何也可以促进危害的发现。我们希望我们的工作能激发更多对法律和公共政策中顺序决策的研究，这为机器学习研究人员提供了独特的挑战，并有可能带来重大的社会效益。
2022-11-29 cs.CY
How IT allows E-Participation in Policy-Making Process
随着政府决策、公共工作和公民参与的艺术和实践，许多政府采用信息和通信技术（ICT）作为促进与公民关系的工具。这种参与过程被广泛称为电子参与或电子参与。本文重点介绍不同的性能指标和每个级别的相关工具。尽管电子参与的科学和实际意义日益增加，但这一领域仍未能如预期的那样发展。我们各种各样的知识和电子参与政策及其执行非常有限。这就是电子参与倡议在实践中往往达不到预期的关键原因。本研究从各种跨学科科学文献中收集现有的观点，以确定一个统一的定义，并展示了电子参与和其他相关组件的强大能力，这些组件在未来几年中具有很大的潜力。
2019-03-18 cs.CY
Envisioning Stakeholder-Action Pairs to Mitigate Negative Impacts of AI: A Participatory Approach to Inform Policy Making
Northwestern University（西北大学）；University of Amsterdam（阿姆斯特丹大学）
针对现有AI风险缓解方法以专家为中心、缺乏普通利益相关方参与的问题，提出一种参与式前瞻方法，梳理分配责任的AI负面影响缓解策略、调研公众优先级并转化为政策情况说明书，为政策制定提供信息以丰富治理策略。
2025-01-24 cs.AI cs.CY cs.HC
A Provenance Framework for Policy Analytics in Smart Cities
基于物联网（IoT）技术的可持续城市环境需要适当的政策管理。然而，这些政策是作为潜在的、可能复杂的和长期的政策制定过程的结果而制定的。因此，更好的政策需要改进和可核查的规划进程。为了评估和评价规划过程，系统的透明度是关键，这可以通过跟踪决策过程的起源来实现。然而，目前还没有一个系统可以跟踪城市规划和决策的整个周期。我们建议捕捉政策制定的完整过程，并调查物联网起源的作用，以支持政策分析和实施的设计制定。这项研究将被证明的环境是智能城市，其要求将推动研究过程。
2018-03-19 cs.CY eess.SP
The Case for Temporal Transparency: Detecting Policy Change Events in Black-Box Decision Making Systems
近年来，为黑箱决策系统（DMS）带来透明度一直是越来越多的研究兴趣的主题。使这些系统透明的传统主动和被动方法通常受到可扩展性和/或可行性问题的限制。在本文中，我们提出了一个新的概念，黑盒DMS透明度，命名为，时间的透明度，其目标是检测如果/当DMS政策随着时间的推移而变化，并且大多是不变的传统方法的缺点。我们映射我们的概念的时间透明度的时间序列变点检测方法，并开发一个框架来检测政策的变化，在现实世界的DMS的。在纽约Stop-question-and-frisk数据集上的实验揭示了一些公开宣布和未宣布的政策变化，突出了我们框架的实用性。
2016-10-31 cs.CY stat.ML
An Adaptable System to Support Provenance Management for the Public Policy-Making Process in Smart Cities
政府政策旨在解决公共问题，因此在人民生活中发挥着关键作用。然而，公共政策的制定是复杂的，因为有大量不同的利益攸关方参与、相当多的人参与、漫长的过程、复杂的任务规定以及这一过程的不确定性。策略过程的固有复杂性给设计帮助支持和自动化与策略设置有关的业务过程的计算系统带来了挑战，这也引起了对在策略制定环境中设置跟踪服务的关注。跟踪服务告知在策略创建期间如何做出决策，并可以提供有关策略过程的有用和内在信息。目前，不存在帮助跟踪已经用于策略创建的完整过程的计算系统。要设计这样一个系统，重要的是要考虑政策环境的挑战，为此，一个新的网络和目标为基础的方法已经制定，并在本文中详细介绍。此外，还考虑了包括利益攸关方参与和公民参与在内的智能治理目标。因此，在设计拟议办法时考虑到了明智的治理原则和决策的知识环境，在这种环境中，任务在很大程度上取决于决策者的决定和个人的政策目标。我们的方法认为，决定和定义自主流程活动在运行时间的人的尺寸。此外，与基于网络的方法，所谓的起源数据跟踪，使政策过程的捕获。
2018-03-19 cs.CY cs.DB
Algorithmic Risk Assessments Can Alter Human Decision-Making Processes in High-Stakes Government Contexts
University of Michigan（密歇根大学）；Harvard University（哈佛大学）
各国政府在做出重要决策时越来越多地转向算法风险评估，比如是否在审判前释放刑事被告。政策制定者断言，为公务员提供算法建议将改善人类风险预测，从而导致更好的（例如，更公平的决定。然而，由于许多政策决策需要在降低风险与竞争目标之间取得平衡，因此提高预测的准确性并不一定会提高决策的质量。如果风险评估让人们更加关注以牺牲其他价值为代价来降低风险，那么这些算法将减少公共政策的实施，即使它们导致更准确的预测。通过一项有2,140名外行参与者模拟两个高风险政府环境的实验，我们提供了第一个直接证据，证明风险评估可以系统地改变人们如何将风险因素纳入决策。这些变化抵消了提高预测准确性的潜在好处。在我们实验的审前设置中，风险评估使参与者对感知风险的增加更加敏感;这种转变使审前拘留中的种族差异增加了1.9%。在我们实验中的政府贷款设置中，风险评估使参与者更加厌恶风险;这一转变使政府援助减少了8.3%。这些结果表明，试图通过将预测算法纳入多方面的政策决策来改善公共政策的潜在限制和危害。如果这些观察到的行为在实践中发生，向公务员提交风险评估将在公共政策中产生意想不到的和不公正的转变，而不受民主审议或监督。
2021-08-12 cs.AI cs.CY cs.HC
Unveiling and Mitigating Bias in Ride-Hailing Pricing for Equitable Policy Making
由于提供的便利性，叫车服务的受欢迎程度飙升，但最近的研究表明，他们的定价策略可能对一些乘客产生不同的影响，例如那些生活在弱势社区的有色人种或贫困线以下居民的比例更高。由于缺乏足够的公共交通，这些社区往往更加依赖叫车服务，因此必须解决这种不平等问题。为此，本文通过设计适用的公平措施和相应的公平定价机制，首次对网约车服务的公平定价进行了深入研究。通过提供可能由政府补贴的折扣，我们的方法为弱势群体提供了更多更实惠的乘车服务。芝加哥出租车数据的实验验证了我们的理论研究结果，为政府制定公平的乘车政策提供了依据。
2023-01-09 cs.CY
Enhancing Covid-19 Decision-Making by Creating an Assurance Case for Simulation Models
模拟模型一直在为COVID-19政策制定过程提供信息。因此，这些模型对社会危害的风险有重大影响。但是，基本的建模假设和局限性传达得有多清楚，以便决策者能够容易地理解它们？当对安全关键系统的风险提出索赔时，通常的做法是提出保证案例，这是一个由证据支持的结构化论点，旨在评估我们对基于风险的决策的信心。我们认为，任何用于指导关键政策决策的COVID-19模拟模型都将受益于这样一个案例的支持，以解释如何以及在多大程度上可以依赖模拟证据来证实政策结论。这将使人们能够对模型中隐含的假设和固有的不确定性进行严格审查，并使整个决策过程具有更大的透明度和问责制。
2020-05-17 cs.CY
Ethics-Based Auditing of Automated Decision-Making Systems: Intervention Points and Policy Implications
组织越来越多地使用自动决策系统（ADMS）来为影响人类及其环境的决策提供信息。虽然使用ADMS可以提高决策过程的准确性和效率，但它也伴随着道德挑战。不幸的是，目前用于监督人类决策的治理机制在应用于ADMS时经常失败。在以前的工作中，我们提出，基于道德的审计（EBA），即一个结构化的过程，通过它ADMS评估与相关原则或规范的一致性，可以（a）帮助组织验证其ADMS的索赔和（b）提供决策主体与ADMS产生的输出的理由。在这篇文章中，我们概述了EBA程序在实践中可行和有效的条件。首先，我们认为，EBA是最好的理解为“软”，但“正式”的治理机制。这意味着审计员的主要责任应该是在整个软件开发过程的关键干预点激发道德方面的审议，并确保有足够的文件来回应可能的询问。其次，我们将ADMS框架作为更大的社会技术系统的一部分，以证明EBA程序必须链接到跨越组织治理的所有级别和软件生命周期的所有阶段的干预点才是可行和有效的。因此，EBA的主要功能应该是为现有的治理结构提供信息、使其正规化、进行评估并使其相互联系。最后，我们讨论了我们的研究结果的政策含义。为了支持可行和有效的EBA程序的出现，政策制定者和监管机构可以提供标准化的报告格式，促进知识交流，就如何解决规范紧张局势提供指导，并建立一个独立的机构来监督ADMS的EBA。
2021-11-08 cs.CY
Mapping Climate Change Research via Open Repositories & AI: advantages and limitations for an evidence-based R&D policy-making
SIRIS Academic（SIRIS学术机构）
在过去几年中，有几项举措已开始以开放的方式提供研究成果数据和元数据。这些举措开发的平台正在向更广泛的公众开放科学成果，它们可以成为科学、技术和创新（科技创新）领域循证决策的宝贵资产。这些资源确实可以促进知识发现，并帮助确定现有的研发资产和感兴趣的具体研究领域内的相关行为者。理想的情况是，为了全面了解整个科学、技术和创新生态系统，应将每一种资源提供的信息合并起来，并进行相应的分析。为确保这一点，至少应保证各数据来源之间有一定程度的互操作性，以便更好地汇总和补充数据，并使为决策提供的证据更加完整和可靠。在这里，我们研究这是否是在整个丹麦STI生态系统的情况下，通过使用4个流行的开放获取STI数据源，即OpenAire，Open Alex，CORDIS和Kohesio的情况下，映射气候行动研究。
2022-09-19 cs.CL cs.CY cs.DL
Fair Off-Policy Learning from Observational Data
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对离策略学习公平性研究不足的问题，提出基于神经网络的公平离策略学习框架，形式化多种公平概念、给出有限样本泛化界，经实验验证有效，可支撑公平性要求下的算法决策应用。
2023-10-09 cs.CY cs.LG
Predictive Performance Comparison of Decision Policies Under Confounding
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
本文提出在混杂与不可观测因素下，利用因果推断及离策略评估方法比较决策策略预测性能，并通过可忽略的不确定性区域估计无参数形式假设的遗憾区间。
2024-06-12 cs.CY cs.LG stat.ME
Addressing the alignment problem in transportation policy making: an LLM approach
Department of Civil and Environmental Engineering, Northwestern University（土木与环境工程系，西北大学）
针对交通规划中出行者集体偏好与模型驱动政策错位的问题，提出基于LLM的多智能体模拟框架，通过思维链推理和IRV投票模拟民主共识，验证了其近似集体偏好的能力与局限性。
2025-10-15 cs.CE cs.CL cs.CY
Compounding Injustice: History and Prediction in Carceral Decision-Making
刑事司法中的风险评估算法将人们的生命置于一个简单的统计工具的决定之下。本文探讨了刑事政策中的算法决策如何表现出反馈效应，即劣势在国家认为的“高风险”人群中积累。来自费城的证据表明，风险--以及推而广之的犯罪行为--并不是政治决策的基本要素，也不是政治决策的外在因素。仔细研究风险的地理和人口特征，就会对目前刑事政策中的预测做法提出质疑。利用费城的法院摘要，我们发现了监禁的犯罪影响的证据，甚至控制了现有的“犯罪风险”的决定因素。有证据表明，刑事处理可以影响未来的刑事定罪，我们探讨复合效应在重复的监狱决定的理论含义。
2020-05-18 cs.CY stat.AP
System Cards for AI-Based Decision-Making for Public Policy
University of Houston（休斯顿大学）
影响人类生活的决策越来越多地由自动决策算法做出或辅助。其中许多算法处理个人数据，用于预测累犯，信用风险分析，使用面部识别识别个人等。虽然潜在地提高了效率和有效性，但这样的算法并非固有地没有偏见、不透明、缺乏可解释性、恶意等。鉴于这些算法的结果对个人和社会有重大影响，并且在部署后开放分析和验证，因此必须在部署前考虑这些问题。正式审计是确保算法符合适当的问责制标准的一种方式。这项工作的基础上，广泛的分析文献和专家焦点小组的研究，提出了一个统一的框架，正式审计的人工智能为基础的决策辅助系统的系统问责基准。这项工作还提出了系统卡，作为记分卡，介绍这种审计的结果。它由56个标准组成，这些标准被组织在一个四乘四的矩阵中，该矩阵由侧重于（i）数据，（ii）模型，（iii）代码，（iv）系统的行和侧重于（a）开发，（b）评估，（c）缓解和（d）保证的列组成。拟议的系统问责制基准反映了国家的最先进的发展问责制的系统，作为一个检查表的算法审计，并铺平了道路，在未来的研究顺序工作。
2022-08-31 cs.AI cs.CY
