The use of the open innovation paradigm in the public sector: a systematic review of published studies
本文系统综述37篇相关文献,梳理开放式创新在公共部门的实践类型、社交媒体参与作用及官僚体制挑战。
2024-04-09 cs.CY
An approach for a business-driven cloudcompliance analysis covering public sector process improvement requirements
改进程序的需要是一个重要的目标,它也影响到政府的程序。特别是在公共部门,有一些具体的挑战需要面对。政府流程中的新技术方法,如云服务,是应对这些挑战所必需的。根据当前对业务流程云化的讨论,所有流程在云中的可用性方面都被认为是相似的。事实上,对于云服务来说,所有流程都不具有相同的可用性,对于特定的公司来说,它们也不具有相同的重要性。公司内最全面的流程是企业价值链。在这篇文章中,一个关键的命题是使用企业价值链作为所有业务流程分析和改进活动的基本结构支柱。这是一个先决条件,以确定价值链的核心要素是必不可少的个别公司的业务和根本原因,任何公司的成功。在本文中,我们建议使用特定于公司的价值创造的云亲和力和云的可用性的业务流程在公共部门考虑到特定的挑战,解决过程中的云服务。因此,有必要在特定于公司的价值链(作为各种部署和治理备选方案的一部分)的上下文中,将具有相互依赖性的流程的文档化方式形式化。此外,在公共部门中,必须详细描述工艺的环境和外部限制。通过使用这种拟议的方法,在公共部门内识别适合云计算的流程变得相对容易,从而优化上市公司的价值生成,并密切关注这种新技术的使用。
2013-10-08 cs.CY
Public Technologies Transforming Work of the Public and the Public Sector
本研究通过访谈22位利益相关者,探讨了美国建筑部门部署的OneStop平台如何影响公众与公共部门员工的工作,发现其加剧了企业主的不公平并标准化了员工实践,进而提出技术转型中公平性的设计启示。
2024-05-28 cs.CY cs.HC
Discovering adoption barriers of Clinical Decision Support Systems in primary health care sector
采用良好的卫生信息系统(HIS)是提供高质量医疗保健的必要条件。随着近年来医疗行业技术的快速发展,医疗服务提供者寻求有效的选择来应对众多疾病和越来越多的患者,采用先进的HIS,例如用于临床决策支持。虽然临床决策支持系统(CDSS)可以帮助医务人员做出更好的决策,但由于缺乏对影响GP采用CDSS的因素的了解,它们可能会带来负面结果。本文的重点是发现障碍,可能有助于周围的CDSS采用的问题。来自沙特阿拉伯不同初级卫生中心的30名全科医生接受了采访,以确定该部门的挑战和障碍。虽然结果证实,存在影响这些方面的障碍,如时间风险、所用系统的质量、互联网速度慢、用户界面、缺乏培训、成本高、患者满意度、使用多个系统、技术支持、计算机技能、缺乏灵活性、系统更新、专业技能和知识、计算机效率以及数据的质量和准确性。
2022-07-24 cs.CY
Generative AI is already widespread in the public sector
通过对英国938名公共服务专业人员的调查,研究发现生成式AI已在公共部门广泛使用且受访者态度积极,但采用过程缺乏明确指导,亟需制定系统化方法以充分利用该技术。
2024-01-02 cs.CY
A Data Mining Approach to Predict Prospective Business Sectors for Lending in Retail Banking Using Decision Tree
每一个金融组织的潜在目标是保持现有的客户和获得新的潜在客户的长期。在手工银行业务中,客户的经济行为和组织的性质由一种称为"了解客户“的规定表格控制。某些行业(珠宝/黄金、军火、货币兑换等业务)的存款客户风险较高;而某些行业(运输运营商、自动取款机、宗教)的风险中等;其余行业(零售、企业、服务、农民等)的风险较低。目前,交易对手的信贷风险可大致分为定量及定性因素。虽然有许多现有的系统对客户保留以及客户流失系统在银行,这些严格的方法遭受明确和界定的方法来支付贷款的业务部门。在本文中,我们已经使用的商业记录的零售商业银行在城市,包括农村和城市地区(坦盖尔市)孟加拉国的主要交易决定因素的客户和预测的模型,在零售银行的前景部门进行分析。为了实现这一目标,数据采掘方法是通过分析具有挑战性的问题,修剪决策树分类技术已被用于开发模型,并最终测试其性能与Weka的结果。此外,本文试图建立一个模型来预测零售银行的未来业务部门。
2015-04-08 cs.CY
Prompts for Public-Sector LLMs Should Be Governed as Commons
Université de Montréal(蒙特利尔大学);Mila – Québec AI Institute(魁北克人工智能研究所)
本文提出公共部门部署大型语言模型时使用的提示应作为受治理的制品,而非私有临时输入,并设计了带版本控制、社区维护的提示模板仓库及协商集成方法。
2026-05-30 cs.CY
Sustainability of ICT hardware procurement in Switzerland -- A status-quo analysis of the public procurement sector
可持续采购要求组织将其采购行为与资源效率、气候变化、社会责任和其他可持续性标准等更广泛的目标相结合。分析信息和通信技术硬件采购的可持续性水平有两个原因:第一,信息和通信技术硬件属于可持续采购的六个关键产品组。第二,信通技术总体上有望成为低碳经济的重要推动力,为减少温室气体排放提供解决方案。虽然可持续采购的优势显而易见,但在日常采购中存在某些障碍。这份关于信通技术硬件的案例研究报告在深入分析瑞士公共部门信通技术硬件可持续采购情况的基础上,讨论了三个重要障碍:“缺乏对每个产品类别的明确定义”、“缺少关于可持续产品的市场情报”以及“阻碍创新办法的僵化程序和态度”。为此,使用通用采购词汇(CPV)术语对国家采购平台simap.ch上公布的投标数据进行可持续性标准筛选,以确定相关的信通技术项目。调查结果显示,目前在公开招标中列入这些标准及其决定因素的程度。采用两种不同的方法,发现只有少数投标书载有从基本到全面的各种可持续性标准。瑞士政府采购的总体绩效是通过将所确定的可持续性标准与可持续采购领域国际主要行为体的现有标准进行比较来衡量的。因此,这一分析提供了新的见解,公共机构今天如何考虑可持续性时,采购信息和通信技术硬件。
2020-06-09 cs.CY
Stakeholder-in-the-Loop Fair Decisions: A Framework to Design Decision Support Systems in Public and Private Organizations
针对机器学习决策支持系统的可解释性与公平性需求,本文提出“利益相关者在环的公平决策”框架,通过明确四类利益相关者特征并整合其价值观,设计出确保负责任决策的系统。
2023-08-02 cs.CY
Security and Privacy Considerations for Machine Learning Models Deployed in the Government and Public Sector (white paper)
随着机器学习成为一种更加主流的技术,政府和公共部门的目标是利用机器学习的力量,通过革新公共服务来推进其使命。鉴于其提供的服务的重要性,激励性政府用例需要在实施时进行特殊考虑。这些应用程序不仅将部署在需要保护机制的潜在敌对环境中,而且还受到政府透明度和问责制倡议的约束,这使这种保护更加复杂。在本文中,我们描述了一个未知的可信度和机器学习模型,部署在政府和公共部门的用户之间的不可避免的相互作用,可以危及系统在两个主要方面:通过损害的完整性或侵犯隐私。然后,我们简要概述了可能的攻击和防御方案,最后,提出建议和指导方针,一旦考虑可以提高所提供的服务的安全性和隐私。
2020-10-12 cs.CR cs.CY
Algorithmic Administration and the EU AI Act: Legal Principles for Public Sector Use of AI
Jean Monnet Center of Excellence AI-2-TRACE-CRIME(Jean Monnet中心卓越人工智能AI-2-TRACE-CRIME)
本文探讨欧盟人工智能法案与行政法基本原则的互动,分析公共部门高风险系统部署的监管义务,以及法案在自动化公共决策中的问责性、透明性和可审查性保障。
2026-03-24 cs.AI cs.CY
A short review of the main concerns in A.I. development and application within the public sector supported by NLP and TM
Faculty of Engineering University of Porto(波尔图大学工程学院);Center for AI and Digital Policy (CAIDP)(人工智能与数字政策中心)
本文利用NLP和TM技术回顾ACM和IEEE近两年文献,分析公共部门AI应用中的隐私、伦理、公平性等关注点,发现公平性最常见,可信度最突出。
2023-07-25 cs.AI cs.CY
Beyond Ads: Sequential Decision-Making Algorithms in Law and Public Policy
我们探讨了在法律和公共政策中采用顺序决策算法的前景和挑战,如土匪,强化学习和主动学习。虽然这种算法在私营部门具有良好的特征化性能(例如,在线广告),天真地应用由一个领域(通常是在线广告)激发的算法的倾向可以被称为“广告谬误”。“我们的主要论点是,法律和公共政策提出了机器学习社区尚未解决的独特方法挑战。机器学习需要解决这些方法上的问题,以“超越广告”。例如,公法可以提出多个目标,需要批量和延迟反馈,并要求系统学习理性的因果决策政策,其中每一个都提出了研究前沿的新问题。我们讨论了顺序决策算法在监管和治理中的广泛潜在应用,包括公共卫生,环境保护,税务管理,职业安全和福利裁决。我们用这些例子来强调研究需要使顺序决策符合政策,适应性强,有效的公共部门。我们还注意到这种部署的潜在风险,并描述了顺序决策系统如何也可以促进危害的发现。我们希望我们的工作能激发更多对法律和公共政策中顺序决策的研究,这为机器学习研究人员提供了独特的挑战,并有可能带来重大的社会效益。
2022-11-29 cs.CY
Perceptions of AI Across Sectors: A Comparative Review of Public Attitudes
The University of Manchester(曼彻斯特大学)
本文通过系统性文献综述分析251项研究,揭示公众对AI的态度受感知收益、担忧等因素及领域特性影响,为负责任AI治理提供针对性策略基础。
2025-09-22 cs.AI cs.CY
Logics and practices of transparency and opacity in real-world applications of public sector machine learning
University College London(伦敦大学学院)
机器学习系统越来越多地用于支持各个部门的公共部门决策。鉴于对这些领域问责制的关注,以及对有意或无意偏见的指责,人们越来越多地呼吁这些技术的透明度。然而,很少有人考虑过,那些参与机器学习系统的人是如何理解有关透明度的逻辑和实践的,这些系统已经在公共机构中试用和部署。这篇简短的论文从对5个经合组织国家的27个此类行为者(主要是公务员和相关承包商)的采访中提炼出关于透明度的见解。考虑到透明度和不透明与信任和买进,更好的决策,并避免游戏,它试图为那些希望开发社会技术方法的人提供有用的见解,这些方法可能对实地的从业人员有用。这篇论文的扩展存档版本可以作为Veale M.,Van Kleek M.,&宾斯河。(2018年)。“公平和问责制设计需要算法支持高风险公共部门决策”2018年CHI计算机系统人为因素会议(CHI'18),http://doi.org/10.1145/3173574.3174014。
2018-11-05 cs.CY cs.LG
A Trust Framework for Government Use of Artificial Intelligence and Automated Decision Making
本文确定了公共部门系统和流程的机械化,数字化和自动化的当前挑战,并提出了一个现代和实用的框架,以确保和保证道德和高准确性人工智能(AI)或自动决策(ADM)系统在公共机构。这一框架是根据澳大利亚的司法管辖和宪法背景,针对公共部门的具体情况设计的,但可扩展到其他司法管辖区和私营部门。该框架的目标是:(1)赢得公众信任,增强公众对政府系统的信心;(2)确保有效履行行政法规定的公共机构的独特责任和问责(包括对公众的责任和问责);(3)确保采用这种系统对人、社会和道德产生积极影响。该框架可以扩展,以确保积极的环境或其他影响,但本文侧重于人类/社会成果和公众信任。本文旨在补充基于原则的框架,如澳大利亚的人工智能伦理框架和欧盟可信人工智能评估清单。在许多国家,新冠肺炎制造了一个改善信任的泡沫,这个泡沫可以说已经破灭了,在一个对公共机构前所未有的不信任的时代(但即使在高度信任的时代),服务更快或更具成本效益是不够的。本文提出了针对政府系统(技术平台、运营、文化、治理、参与等)的建议。这将有助于提高公众对公共机构、政策和服务的信心和信任,同时履行公共部门的特殊义务和责任。
2022-08-22 cs.CY
A Framework of High-Stakes Algorithmic Decision-Making for the Public Sector Developed through a Case Study of Child-Welfare
算法已经渗透到整个公民政府和社会,在那里它们被用来做出关乎人类生命的高风险决策。在本文中,我们首先开发了一个有凝聚力的框架,算法决策适用于公共部门(ADMAPS),反映了复杂的社会技术之间的互动\textit{human discretion},\textit{bureaucratic processes},和\textit{algorithmic decision-making}通过合成不同的机构的工作领域的人机交互(HCI),科学和技术研究(STS),公共管理(PA)。然后,我们应用ADMAPS框架对一个儿童福利机构内日常使用的算法进行了深入的、为期八个月的人种学案例研究,该机构为美国中西部约900个家庭和1300名儿童提供服务。总的来说,我们发现有必要关注以社会生态框架为中心的基于实力的算法结果。此外,算法系统需要支持现有的官僚程序,增加人类的自由裁量权,而不是取代它。最后,算法系统的集体购买需要在实践者和官僚层面对目标结果的信任。作为我们的研究结果,我们提出了指导方针的设计高风险的算法决策工具,在儿童福利系统,更普遍的是,在公共部门。我们从经验上验证了理论推导的ADMAPS框架,以展示它如何有助于系统地为公共部门的算法设计做出务实的决策。
2021-10-12 cs.CY cs.HC
The Main Barrier to AI Adoption in the Public Sector Is Lack of Training: How a Structured Method Accompanied Productivity Gains in Two Brazilian Government Cases
Government of the Federal District(联邦区政府的);Federal District School of Government(联邦区政府学院)
本文通过巴西公共服务中的两个可审计案例,论证了公共部门采用生成式AI的主要障碍是培训不足而非技术问题,并提出了一种四层结构化教学方法,该方法在两家机构中显著提高了生产力且未发生安全事件。
2026-07-22 cs.CY
Illuminating a Blind Spot in Digitalization -- Software Development in Sweden's Private and Public Sector
正如Netscape联合创始人马克·安德森(Marc Andreessen)在2011年所说的那样,软件正在吞噬世界-成为一种无处不在的无形关键基础设施。软件的使用和开发在社会中的分布数据是稀缺的,但我们编译的结果从两个新的调查,以提供一个更全面的了解软件在瑞典的公共和私营部门发挥的作用,分别。在瑞典的各个行业中,十分之三的公司都在内部开发软件。瑞典政府机构的相应数字是十分之四,即,公营部门不应被低估。社会的数字化将继续,因此对软件开发人员的需求将进一步增加。许多私营公司报告说,瑞典软件开发人员的供应有限,直接影响了他们的扩张计划。根据我们的研究结果,我们概述了需要额外研究的方向,以允许循证决策。我们认为,这种工作最好由学术研究人员和国家统计机构合作进行。
2020-05-26 cs.CY cs.SE
Packaging code for reproducible research in the public sector
本文以英国交通部行程时间数据为例,介绍 jtstats 项目的 R 和 Python 包,展示领域专用代码打包如何促进公共部门开放数据的可复现分析并减少重复劳动。
2023-05-25 cs.CY stat.CO
From Pre-labeling to Production: Engineering Lessons from a Machine Learning Pipeline in the Public Sector
Federal University of Pará(帕拉联邦大学);Faculty of Gama, University of Brasília(巴西利亚大学加马学院)
研究公共部门机器学习流水线面临的约束,指出负责任的ML是制度工程问题,需结合数据治理与人工验证构建可信基础设施。
2025-11-03 cs.CY cs.SE
Human-AI Interaction Requirements in Public Sector Procurements
University of Jyväskylä(于韦斯屈莱大学);Tampere University(坦佩雷大学);N Solutions Oy(61N解决方案有限公司)
针对公共部门采购AI系统时人机交互原则未被明确要求的问题,提出一种交互需求分类法,支持通过采购工具规范交互属性,确保伦理合规与可持续价值。
2026-06-23 cs.CY cs.HC cs.SE
Oversight Structures for Agentic AI in Public-Sector Organizations
Centre for Digital Governance, Hertie School(数字治理中心,赫尔姆斯学校);Oxford Internet Institute, University of Oxford(牛津互联网研究所,牛津大学);Weizenbaum Institute Berlin, Germany(贝伦贝格Weizenbaum研究所);Technical University Munich, Germany(慕尼黑技术大学)
针对公共部门传统监督机制因智能体AI引入加剧的挑战,研究明确五大治理维度,经混合方法评估后发现三类加剧的治理难题,并提出适配公共部门约束的制度调整与智能体监督设计方案。
2025-06-05 cs.AI cs.CY
SAIF: A Comprehensive Framework for Evaluating the Risks of Generative AI in the Public Sector
Graduate School of Data Science, KAIST(韩国科学技术院数据科学研究生院);School of Computing, KAIST(韩国科学技术院计算机学院)
针对公共部门生成式AI风险,提出SAIF框架,通过四阶段系统生成提示数据,全面评估并适应新兴风险,助力安全整合。
2025-03-28 cs.AI cs.CL cs.CY
Governing frontier general-purpose AI in the public sector: adaptive risk management and policy capacity under uncertainty through 2030
本文探讨公共部门在2030年前应对前沿通用人工智能的治理挑战,提出基于适应性风险管理、情景感知监管和社会技术转型的治理框架,强调政策能力提升与责任分配的重要性。
2026-03-16 cs.AI cs.CY
Data mining and Privacy in Public Sector using Intelligent Agents (discussion paper)
公共部门包括政府机构、部委、教育机构、保健提供者和其他类型的政府、商业和非营利组织。与商业企业不同,这个环境在各个方面都是高度异构的。这形成了一个复杂的网络,并不总是最优化的。缺乏优化和通信阻碍了网络节点之间的信息共享,从而限制了信息流。另一限制方面是个人信息的隐私和网络的一些节点或段的操作的安全性。重组网络或改善通信以提供更多信息用于共享和分析的尝试可能会受到公众对隐私,政治议程,社会和技术障碍的担忧的阻碍或完全停止。本文讨论了一种信息共享的技术解决方案,同时解决了隐私问题,无需重组现有的公共部门基础设施。该解决方案是基于对数据采掘和分析的智能软件代理和知识库的附加层。
2003-11-28 cs.AI cs.CY cs.IR
Govern, Map, Measure, Absorb: The Legibility Trap in Public Sector Participatory AI Governance
The Information School, University of Wisconsin–Madison(威斯康星大学麦迪逊分校信息学院)
本文提出可读性陷阱概念,解释公共部门参与式AI治理中参与差距的持续存在,并通过三个案例的批判性话语分析揭示记录机制如何过滤约束国家权力的社区意见。
2026-10-06 cs.CY cs.HC
Data management for platform-mediated public services: Challenges and best practices
数据收集和分析已经成为数字经济中许多企业事实上的商业模式。通过使用私营部门平台对个人进行监视,对个人自主和民主体制产生了众所周知的影响。在这篇文章中,我们探讨了在公共部门实施数据丰富服务的后果,特别是破坏公共服务覆盖面普遍性的固有危险,政府对平台运营商的隐性认可,以及公众无法避免在实践中使用平台。我们以设计原则的形式提出了一套良好的实践,基础设施服务可以采用这些原则来减轻风险,我们还指定了一套设计原语,可用于支持遵循这些原则的基础设施的开发。我们认为,公共基础设施的提供者应该采取的做法,他们的技术选择的后果进行批判性评估。
2020-10-08 cs.CY
Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making
University College London(伦敦大学学院);University of Oxford(牛津大学)
在基于算法的公共决策(如税收、司法和儿童保护)中,呼吁加强对公平性和问责制的考虑现在已经司空见惯。设计师如何支持这样的人类价值观?我们采访了5个经合组织国家的27位公共部门机器学习从业者,了解他们在工作中理解和灌输公共价值观的挑战。结果表明,组织和机构的现实,限制和需求之间存在脱节,以及当前研究可用,透明和“歧视意识”的机器学习-如果不解决,可能会破坏实际举措。我们在这种脱节中看到了设计机会,例如支持跟踪二级数据源中的概念漂移,以及建立可用的透明度工具来识别风险并整合领域知识,针对管理人员和公共服务第一线的“街头官僚”。最后,我们概述了在这些高风险的应用程序中的合作的道德挑战和未来的方向。
2018-02-03 cs.CY cs.HC cs.LG
A Framework for Evaluating Vision-Language Model Safety: Building Trust in AI for Public Sector Applications
Baylor University(贝勒大学)
针对视觉语言模型在公共部门应用中的安全性问题,提出量化对抗性风险的框架,通过多种噪声分析识别脆弱区域并引入综合脆弱性评分,以全面评估模型鲁棒性。
2025-02-22 cs.CL cs.CV cs.CY
AI Systems as Digital Public Goods -- Evidence and Recommendations from a Multi-Stakeholder Assessment
United Nations University Institute in Macau(联合国大学澳门研究所)
探讨人工智能系统作为数字公共产品的现状,通过多方利益相关者评估,结合文献综述、专家访谈和全球调查,分析为何极少系统达标准及如何让“人工智能作为数字公共产品”可行。
2026-07-07 cs.CY
A Global Comparison of Schemas, Transparency, and Interoperability in Public-Sector AI Registers and Inventories
Cornell University(康奈尔大学);University of Toronto(多伦多大学)
本研究比较72国8,368条AI登记记录,发现模式缺乏互操作性和透明度,提出分层可见性框架以促进共享概念与来源保留。
2026-09-22 cs.AI cs.CY cs.HC
Component Mismatches Are a Critical Bottleneck to Fielding AI-Enabled Systems in the Public Sector
Carnegie Mellon Software Engineering Institute(卡内基梅隆大学软件工程研究所)
机器学习或人工智能(ML/AI)的使用在改善公共部门的许多功能和需求方面具有巨大的潜力。然而,在实践中,将ML/AI组件集成到公共部门应用程序中不仅受到这些组件及其算法的脆弱性的严重限制,而且还因为ML启用系统的组件之间的不匹配。例如,如果ML模型是在与操作环境中的数据不同的数据上训练的,则ML组件的现场性能将显著降低。与软件工程考虑因素分开,在系统中部署ML/AI组件所需的专业知识通常来自软件工程之外。因此,来自这些不同学科的从业者使用的假设甚至描述性语言可能会加剧将ML/AI组件集成到更大系统中的其他挑战。我们正在调查ML/AI系统集成中的不匹配类别,以确定不同领域的从业者(数据科学家,软件工程师,运营人员)所做的隐含假设,并找到明确传达适当信息的方法。我们将讨论几类不匹配,并提供每个类的示例。为了使ML/AI组件能够以有意义的方式部署,我们需要了解存在的不匹配并制定实践来减轻这些不匹配的影响。
2019-10-14 cs.CY cs.LG
How do "technical" design-choices made when building algorithmic decision-making tools for criminal justice authorities create constitutional dangers? Part II
这篇由两部分组成的论文认为,基于机器学习的算法工具的开发人员所做的看似“技术性”的选择可能会造成严重的宪法危险,增加滥用决策权的可能性以及不公正的范围和程度。利用正在使用或最近使用的三种算法工具来评估个人所构成的“风险”,以告知刑事司法当局应该如何对待他们,我们整合了数据科学和公法奖学金的见解,以展示公法原则和植根于这些原则的更具体的法律义务如何在算法工具的构建和实施中经常被忽视。我们认为,技术开发人员必须与公法专家密切合作,以确保如果算法决策支持工具要为刑事司法决策提供信息,则这些工具的配置和实施方式必须明显符合公法原则和学说,包括尊重人权。
2023-01-11 cs.CY
Two Means to an End Goal: Connecting Explainability and Contestability in the Regulation of Public Sector AI
University of Vienna, Faculty of Computer Science(维也纳大学计算机学院);Utrecht University, Information and Computing Sciences Department(乌得勒支大学信息与计算科学系);Delft University of Technology, Department of Sustainable Design Engineering(代尔夫特理工大学可持续设计工程系);i3, Télécom Paris, Institut Polytechnique de Paris(巴黎理工学院电信学院i3实验室)
探讨公共部门人工智能监管中可解释性与可争议性,通过对14位专家访谈研究其交叉与实施,明确相关差异及实现难点,从设计角度为人工智能政策提三条建议。
2026-07-07 cs.CY
Governance and Communication of Algorithmic Decision Making: A Case Study on Public Sector
Open Universiteit(开放大学)
军事决策已经渗透到社会的各个方面。政府机构也受到这一趋势的影响。然而,ADM的使用一直受到公众、媒体和利益集团的负面关注。有很少或没有可操作的指导方针,政府组织,通过ADM创造积极的影响。在这个案例研究中,我们检查了八个市政组织在荷兰关于他们的实际和打算使用ADM。我们采访了关键人员和决策者。我们的研究结果表明,市政当局主要以临时方式使用ADM,并且他们还没有系统地定义或制度化数据科学过程。它们的运作规避风险,明确表示需要国家一级的合作、指导甚至监督。第三方,大多数是商业性的,通常参与ADM开发生命周期,没有系统的治理。关于使用ADM的宣传通常是对媒体和公众的负面关注的回应。有强烈的迹象表明,需要一个ADM治理框架。在本文中,我们详细介绍了我们的研究结果,以及对ADM系统的治理,沟通和性能评估的可操作的见解。
2021-10-08 cs.AI cs.CY
Bridging the gap: Towards an Expanded Toolkit for AI-driven Decision-Making in the Public Sector
LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心);University of Maryland(马里兰大学);Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文分析了公共部门AI决策系统面临的分布偏移、标签偏差等五大挑战,提出从追求预测准确性转向改善决策结果,建议采用反事实预测和策略学习等框架,并强调领域专家外部输入对协调AI与政策目标的重要性。
2024-10-11 cs.CY cs.HC cs.LG
Public decision support for low population density areas: An imbalance-aware hyper-ensemble for spatio-temporal crime prediction
已知犯罪事件揭示时空模式,其可用于预测建模和随后的决策支持。虽然迄今为止的重点一直放在人口密度高的地区,但我们解决了在人口密度低和犯罪分布高度不均匀的地区预测犯罪热点的挑战性任务。这导致严重的稀疏性(即,类不平衡)的结果变量,这阻碍了预测建模。为了缓解这一点,我们开发了用于时空预测的机器学习模型,这些模型专门针对类别标签的不平衡分布进行了调整,并在实际环境中使用最先进的预测器(即,社会经济、地理、时间、气象和犯罪变量的精细分辨率)。当针对前5%的热点时,所提出的不平衡感知超集成将命中率从18.1%大幅提高到24.6%,当针对前20%的热点时,命中率从53.1%提高到60.4%。
2019-02-01 cs.CY
Fiduciary Responsibility: Facilitating Public Trust in Automated Decision Making
自动化决策系统正在越来越多地部署,并以多种积极和消极的方式影响公众。政府和私人机构使用这些系统根据某些人为设计的规则处理信息,以解决社会问题或组织挑战。研究和现实世界的经验都表明,公众对自动决策系统和部署它们的机构缺乏信任。软弱理论认为,如果管理自动化决策系统的机构履行其受托责任,公众更有可能信任和支持自动化决策系统做出的决策或受其影响。然而,公众往往从来不了解这些制度如何运作,也不了解由此产生的体制决定是如何作出的。自动决策系统的"黑箱“效应降低了公众对正直和可信度的看法。其结果是,公众失去了识别、质疑和纠正不公平或与公共产品或利益损失相关的成本的能力。本立场文件界定并解释了信托责任在自动化决策系统中的作用。我们将自动化决策系统定义为数据科学生命周期(DSL),并在DSL的背景下研究受托责任的影响。领域特定语言中的受托责任提供了一种方法,可以解决公众对自动决策系统和使用它们做出影响公众的决策的机构缺乏信任的问题。我们认为,信托责任体现在DSL的几个方面,每一个都需要自己的不信任来源的缓解。为了实例化受托责任,洛杉矶警察局(LAPD)预测警务案例研究。
2023-01-06 cs.AI cs.CY cs.HC
Responsible AI Adoption in the Public Sector: A Data-Centric Taxonomy of AI Adoption Challenges
University of Tartu(塔尔图大学);University of Hradec Kralove(赫拉德茨-克拉洛韦大学);UAEM(墨西哥州自治大学);University of Twente(特文特大学);TU Delft(代尔夫特理工大学);University of Warsaw(华沙大学);Fortinet(飞塔公司)
本研究通过系统回顾和专家评估,构建了公共部门负责任AI采纳的数据相关挑战分类法,识别出13项跨技术、组织和环境维度的关键挑战,为政策制定者提供了诊断高风险部署和建立数据治理条件的工具。
2025-09-29 cs.AI cs.CY
Artificial intelligence, rationalization, and the limits of control in the public sector: the case of tax policy optimization
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究院);Center for Information Technology Policy, Princeton University(普林斯顿大学信息技术政策中心);Center for Advanced Study in the Social Sciences, Stanford University(斯坦福大学社会科学高等研究中心)
本文以AI优化税收政策、减少经济不平等的思想实验为例,基于韦伯理性化理论揭示AI治理对多元政治价值、非工具性义务与人的自我决定的冲击,并指出科学只能提供手段而不能规定目的。
2024-07-07 cs.AI cs.CY
Hows and Whys of Artificial Intelligence for Public Sector Decisions: Explanation and Evaluation
Crime and Security Research Institute(犯罪与安全研究院);Cardiff University(卡迪夫大学);Y Lab(Y实验室);Nesta(内斯塔);IBM Research(IBM研究院)
评估一直是基于人工智能(AI)的软件开发中的一个关键挑战,这是由于软件工件的技术复杂性,并且通常嵌入在复杂的社会技术过程中。由深度神经网络实现的机器学习(ML)的最新进展加剧了评估此类软件的挑战,因为这些基于ML的工件具有不透明的性质。一个关键的相关问题是(在)这样的系统产生有用的解释,他们的输出的能力,我们认为,解释和评价问题是密切相关的。本文在涉及人工智能和人类智能的公共部门决策(PSD)应用的背景下对基于ML的AI系统的元素进行建模,并将这些元素映射到评估和解释中的问题,显示两者之间的关系。我们考虑了一些常见的PSD应用模式,根据我们的模型,并确定了一组关键问题连接到每种情况下的解释和评估。最后,我们提出了多种策略来促进PSD中AI/ML技术的广泛采用,其中每种策略都以关注我们模型的不同元素为特征,使PSD政策制定者能够采用最适合其背景和关注点的方法。
2018-10-19 cs.AI cs.CY
Fault Lines: Navigating Ethics and Responsible AI Where National Policy Meets Local Practice in Public Sector Transformation
Centre for Machine Intelligence, University of Sheffield(谢菲尔德大学人工智能中心);Blavatnik School of Government, University of Oxford(牛津大学布莱瓦尼克政府学院)
本文以英国特殊教育需求与残疾(SEND)为案例,通过17次半结构化访谈的主题分析,揭示了国家政策与地方实践在负责任AI实施中的五大挑战,并提出了政策与结构改革建议。
2026-06-12 cs.AI cs.CY cs.HC
Application of Text Analytics in Public Service Co-Creation: Literature Review and Research Framework
Gdańsk University of Technology(格但斯克工业大学);Brandenburg University of Applied Sciences(勃兰登堡应用技术大学);University for Continuing Education Krems(克雷姆斯继续教育大学)
本文系统综述了75篇相关论文,分析文本分析技术在公共服务共创中的应用现状,并提出研究框架以支持公共部门设计共创和以用户为中心的公共服务。
2023-05-20 cs.AI cs.CY cs.IR
Smart-optimism. Uncovering the Resilience of Romanian City Halls in Online Service Delivery
该研究通过23项指标评估罗马尼亚103个城市2014至2023年的在线服务数字化进展,揭示其转型成效与服务质量差异,并提出统一数字化标准的建议。
2024-10-19 cs.CY
A Neuro-Symbolic Framework for Accountability in Public-Sector AI
University of Maryland College Park MD USA;The Hebrew University of Jerusalem \& University of Maryland Jerusalem Israel;University of Maryland;The Hebrew University of Jerusalem \& University of Maryland
本文提出一个基于法律的可解释性框架,通过连接系统生成的决策依据与加州CalFresh计划的法律约束,提升公共AI系统的问责性与透明度。
2026-05-02 cs.AI cs.CY cs.LO
An Integration of UTAUT and Task-Technology Fit Frameworks for Assessing the Acceptance of Clinical Decision Support Systems in the Context of a Developing Country
本文旨在为临床决策支持系统(CDSS)接受领域的新博士论文的理论贡献奠定基础。在过去的三年里,我们进行了定性研究,分为三个不同的阶段,以开发一个扩展的任务-技术匹配(TTF)框架。这些阶段用于启动框架的需求生成,通过透视图发现框架的因素,以及评估新提出的框架。这种新情况与发展中国家有关,在这些国家,保健等各个部门大多受到关注。我们进行了一项新的检查,以协助决策,支持技术及其在这一领域的有用性,与其他框架相结合,以帮助医疗保健专业人员更好地接受价值,使用以及如何更好地接受。
2020-11-25 cs.CY cs.IR
The Impact of Big Five Personality Traits on AI Agent Decision-Making in Public Spaces: A Social Simulation Study
University of Science and Technology of China(中国科学技术大学)
本研究基于AgentVerse框架与GPT-3.5-turbo开展社会仿真,探究大五人格特质对公共空间中AI智能体决策的影响,发现不同人格特质与决策模式显著相关,且公开表达与私人想法存在差异,为开发情境感知的AI系统提供参考。
2025-01-15 cs.AI cs.CY cs.HC
Experimental Evaluation of Algorithm-Assisted Human Decision-Making: Application to Pretrial Public Safety Assessment
尽管在我们的日常生活中越来越依赖全自动算法决策,但人类仍然会做出非常重要的决策。正如在商业、医疗保健和公共政策中经常看到的那样,算法产生的建议被提供给人类决策者,以指导他们的决策。虽然有大量文献对这种算法推荐的偏见和公平性进行了评估,但一个被忽视的问题是,它们是否有助于人类做出更好的决策。我们开发了一种统计方法,用于实验评估算法建议对人类决策的因果影响。我们还展示了如何检查算法建议是否提高了人类决策的公平性,并在各种设置下得出最佳决策规则。我们将提出的方法应用于有史以来第一次随机对照试验的初步数据,该试验评估了刑事司法系统中的审前公共安全评估(PSA)。《公共安全法》的一个目标是帮助法官决定哪些被捕的人应该被释放。在现有的初步数据的基础上,我们发现,提供PSA的法官对法官的决定和随后的被捕者的行为几乎没有整体的影响。然而,我们的分析产生了一些潜在的暗示性证据表明,PSA可能有助于避免对女性被捕者做出不必要的严厉决定,而无论其风险水平如何,同时鼓励法官对被认为有风险的男性被捕者做出更严格的决定。在公平性方面,《公共服务法案》似乎增加了对男性的性别偏见,而对法官裁决中现有的种族差异几乎没有影响。最后,我们发现,除非新犯罪的成本足够高,否则PSA的建议可能会不必要地严厉。
2021-12-11 cs.CY stat.AP stat.ME
How do "technical" design-choices made when building algorithmic decision-making tools for criminal justice authorities create constitutional dangers?
University of Birmingham(伯明翰大学)
这篇由两部分组成的论文认为,基于机器学习的算法工具的开发人员所做的看似“技术性”的选择可能会造成严重的宪法危险,增加滥用决策权的可能性以及不公正的范围和程度。利用正在使用或最近使用的三种算法工具来评估个人所构成的“风险”,以告知刑事司法当局应该如何对待他们,我们整合了数据科学和公法奖学金的见解,以展示公法原则和植根于这些原则的更具体的法律义务如何在算法工具的构建和实施中经常被忽视。我们认为,技术开发人员必须与公法专家密切合作,以确保如果算法决策支持工具要为刑事司法决策提供信息,则这些工具的配置和实施方式必须明显符合公法原则和学说,包括尊重人权。
2023-01-11 cs.AI cs.CY
Auditing a Dutch Public Sector Risk Profiling Algorithm Using an Unsupervised Bias Detection Tool
University of Amsterdam(阿姆斯特丹大学);Northumbria University(北umbria大学);TU Munich(慕尼黑工业大学);Algorithm Audit(算法审计)
本文通过无监督偏见检测工具审计荷兰公共部门风险评估算法,揭示非欧洲移民学生与本地学生间的偏见差异,并提供开源工具用于后续偏见审计。
2026-02-15 cs.CY cs.LG
Retrofitters, pragmatists and activists: Public interest litigation for accountable automated decision-making
Queensland University of Technology, School of Law(昆士兰理工大学法学院);Centre for Automated Decision-Making and Society(自动化决策与社会研究中心);Queensland University of Technology, School of Communication(昆士兰理工大学传播学院)
本文探讨公益诉讼在澳大利亚促进AI和自动化决策问责中的作用,基于访谈分析策略与局限,强调制度安排对有效诉讼的关键性。
2026-09-01 cs.AI cs.CY
Democratizing Differential Privacy: A Participatory AI Framework for Public Decision-Making
University of Washington Tacoma(华盛顿大学塔科马分校)
本文提出一个会话式界面系统,通过自适应ε选择协议、可解释噪声注入和动态合规机制,实现公共部门差分隐私AI的参与式设计,平衡数学保障与民主问责。
2025-05-26 cs.AI cs.CY cs.ET
Aligning AI with Public Values: Deliberation and Decision-Making for Governing Multimodal LLMs in Political Video Analysis
本文通过专家访谈与114人参与的DAO审议平台InclusiveAI,研究政治视频分析中多模态大语言模型的治理机制,发现公众与专家在诠释优先级上存在差异,且二次方投票等机制显著影响用户对AI行为的决策,主张采用去中心化AI治理以更好地对齐公共价值观。
2025-07-22 cs.AI cs.CV cs.CY