Analyzing Privacy Policies Using Contextual Integrity Annotations
在本文中,我们证明了使用上下文完整性(CI)的理论来注释和评估隐私政策声明的有效性。我们使用CI注释进行案例研究,以比较剑桥分析丑闻前后Facebook的隐私政策。更新后的Facebook隐私政策提供了有关哪些信息正在被转移,从谁,由谁,向谁以及在什么条件下转移的更多细节。然而,一些隐私声明规定了一个难以理解的大量信息流,包括许多CI参数在单个语句。其他陈述由于使用模糊术语或完全省略上下文参数而导致不完整的信息流。然后,我们证明,众包可以有效地产生CI注释的隐私政策的规模。我们在来自17家公司的48份隐私政策摘录上测试了CI注释任务,其中包括141名众包工作者。由此产生的高精度的注释表明,众包可以用来产生一个大型语料库的注释隐私政策,为未来的研究。
2018-09-06 cs.CY
Privacy Protection Cache Policy on Hybrid Main Memory
我们首先建议隐私保护缓存政策适用于删除个人信息的责任在混合主存储器系统。该缓存策略包括生成随机数据并将随机数据缓存到个人信息中。提出的缓存策略在数据完全删除方面更经济有效。
2017-07-29 cs.CR cs.CY
PGLP: Customizable and Rigorous Location Privacy through Policy Graph
位置隐私在文献中得到了广泛的研究。然而,现有的位置隐私模型要么是不严格的或不可定制的,这限制了在许多现实世界的应用程序中的隐私和实用性之间的权衡。为了解决这个问题,我们提出了一个新的位置隐私概念,称为PGLP,即,\textit{Policy Graph based Location Privacy},提供丰富的界面,以发布具有可定制和严格隐私保证的私人位置。首先,我们通过扩展差分隐私设计了PGLP的隐私度量。具体来说,我们正式用户的位置隐私要求使用\textit{location policy graph},这是表达和可定制的。其次,我们研究如何满足任意给定的位置策略图下的对抗知识。我们发现,位置策略图可能并不总是可行的,可能会遭受\textit{location exposure}时,攻击者知道用户的移动模式。我们提出了有效的方法来检测位置暴露和修复策略图的最佳效用。第三,我们设计了一个私有位置跟踪释放框架,该框架通过可定制和严格的位置隐私来检测位置暴露、策略图修复和私有轨迹释放。最后,我们在真实世界的数据集上进行实验,以验证隐私效用权衡的有效性和所提出的算法的效率。
2020-07-15 cs.CR cs.CY
Health Advertising on Facebook: Privacy & Policy Considerations
在这项研究中,我们分析了数字医药公司的内容和营销策略,以评估各种类型的跨站点跟踪中间件,用于在未经许可的情况下从用户那里提取健康信息。更具体地说,我们研究了如何在数字医药公司和Facebook之间交换浏览数据,以用于广告和潜在客户开发。该分析的重点是一个小型生态系统的公司提供服务的患者在癌症社区,经常参与社交媒体。我们的内容分析中的一些公司可能符合联邦贸易委员会所涵盖的个人健康记录供应商的法律定义,其他公司则是HIPAA涵盖的实体。我们的分析结果提出了关于什么构成违反联邦贸易委员会的健康违规通知规则的政策问题。几个例子表明了隐私实践不一致的严重问题,并揭示了数字医学暗模式如何从患者和提供广告的公司那里获取未经授权的数据。此外,我们还讨论了这些常见的营销实践如何使医疗广告的监测和针对弱势患者群体,这可能是不明显的公司瞄准广告。
2022-02-01 cs.CY
What to Consider When Considering Differential Privacy for Policy
本文面向政策制定者,梳理将差分隐私从理论引入实践时面临的三类理解挑战,并提出可用于预判部署影响的关键问题,以辅助隐私相关政策决策。
2024-09-18 cs.CR cs.CY
(Mis-)Informed Consent: Predatory Apps and the Exploitation of Populations with Limited Literacy
Lahore University of Management Sciences(拉合尔管理科学大学);Aitchison college Lahore(拉合尔艾奇逊学院);University of Prince Murgin(穆尔金王子大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
本文研究了低识字率人群在使用掠夺性金融应用时的隐私风险,发现85%的用户无法理解基本权限,需加强监管和LLM驱动的隐私工具。
2026-09-28 cs.CY
Behavioural Sciences and the Regulation of Privacy on the Internet
本文探讨行为科学对互联网隐私监管的影响,主张通过禁止某些行为定向实践来保护隐私。
2025-11-25 cs.CY
Data Capsule: A New Paradigm for Automatic Compliance with Data Privacy Regulations
数据汇集的速度越来越快,导致人们对隐私风险的认识不断提高,从而产生了新的数据隐私法规,如《通用数据保护条例》(GDPR)。这些规定是重要的一步,但自动合规检查具有挑战性。在这项工作中,我们提出了一个新的范例,数据胶囊,在异构数据处理基础设施的数据隐私法规的自动合规性检查。我们的关键见解是将数据主体的数据与管理数据处理方式的策略配对。在我们的正式策略语言中指定:PrivPolicy,策略由数据主体与数据一起创建和提供,并在整个数据处理生命周期中与数据相关联(例如,通过数据处理系统的数据转换、多个数据主体的数据的数据聚合)。我们介绍了一种解决方案的静态执行的隐私策略的剩余策略的概念的基础上,并提出了一种新的算法的基础上抽象解释派生剩余策略在PrivPolicy。我们的解决方案可自动确保合规性,并专为与现有基础设施一起部署而设计。我们还设计和开发了PrivGuard,一个参考数据胶囊管理器,实现了数据胶囊范式的所有功能。
2019-08-30 cs.CY
Smile for the Camera: Privacy and Policy Implications of Emotion AI
在视觉图像上引入人工智能(AI)进行情感分析,消除了我们面部显示的自然主观性和上下文依赖性。情感人工智能将自己作为我们的数字工件和实时交互的算法镜头,创造了一种新的、客观的数据类别的错觉:我们的情感和精神状态。这些情感算法建立在现有公共照片的丰富网络上,以及来自监控录像或智能手机摄像头的新鲜信息,不需要额外的基础设施或图像质量的改进。为了研究情感人工智能作为一种新兴技术的潜在政策和法律补救措施,我们首先建立了一个演员,收集动机,时间尺度和空间考虑的框架,将情感人工智能与其他算法透镜区分开来。这些因素中的每一个都影响着可用的政策补救措施,并应形成对使情感人工智能在特定环境中可接受或不可接受的先决条件的持续讨论。基于我们的独特元素框架,我们研究了潜在的可用政策补救措施,以防止或补救损害。具体而言,我们的论文着眼于美国联邦贸易委员会的监管作用,欧盟一般数据保护条例(GDPR)允许情感数据汇集的差距,以及测谎技术在法律规定的证据和使用限制方面的先例。我们还研究了社会规范和适应的方式,也可以调节更广泛的使用。鉴于控制这些数据流的挑战,我们呼吁进一步研究和关注,因为情感人工智能技术仍然准备采用。
2017-09-01 cs.CY
Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach
The Ohio State University(俄亥俄州立大学)
现有的使隐私政策可访问的工作已经探索了新的呈现形式,例如基于风险因素或摘要的颜色编码,以帮助用户有意识地同意。为了促进更个性化的互动政策,在这项工作中,我们提出了一个自动化的隐私政策问答助理,提取摘要,响应输入的用户查询。这是一项具有挑战性的任务,因为用户用与政策的法律语言截然不同的语言表达他们的隐私相关问题,使系统难以理解他们的查询。此外,该领域现有的注释数据有限。我们通过解释来解决这些问题,使用户问题的风格和语言更接近隐私政策的语言。我们的内容评分模块使用现有的域内数据在策略中查找相关信息,并将其合并到摘要中。我们的管道能够为privacyQA数据集中89%的用户查询找到答案。
2021-09-29 cs.CL cs.CY cs.IR
Enabling Multilingual Privacy Policy Audits: Large-Scale Analysis of Spanish Mobile Apps
ETH Zurich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
研究多语言环境下隐私政策审计,利用大语言模型构建跨语言分类器,通过对西班牙谷歌应用商店应用的大规模审计,发现公共部门与商业应用语言使用差异及声明与实际做法的差异,揭示仅英语审计掩盖透明度差距的问题。
2026-07-22 cs.CL cs.CY
Principles and Policy Recommendations for Comprehensive Genetic Data Governance
本文针对遗传数据滥用及AI多模态系统加剧的隐私与歧视风险,提出包含四大支柱的风险评估框架,通过真实案例揭示监管漏洞,并给出三项保障个人权利的治理政策建议。
2025-05-30 cs.CY
Centering Policy and Practice: Research Gaps around Usable Differential Privacy
本文针对差分隐私理论优势与实际可用性之间的差距,梳理构建可用差分隐私的关键开放问题,并从风险框架、沟通、参数影响、界面和审计等方面提出政策与实践建议。
2024-06-17 cs.CR cs.CY cs.HC
Automating Governing Knowledge Commons and Contextual Integrity (GKC-CI) Privacy Policy Annotations with Large Language Models
University of Chicago(芝加哥大学);Colgate University(科尔盖特大学)
本文提出用大型语言模型自动完成隐私政策的GKC-CI参数标注,通过微调50个模型实现90.65%的专家级准确率,并规模化应用于456份政策。
2024-12-10 cs.CL cs.CY cs.LG
Tracking in apps' privacy policies
数据保护法,包括《通用数据保护条例》(GDPR),通常要求在收集个人数据之前制定隐私政策。我们在2019年5月(GDPR生效约一年后)分析了26,910个移动应用程序的15,145项隐私政策,发现仅打开政策网页就与第三方共享了48.5%的政策数据,这可能违反了GDPR。我们比较了不同国家、不同支付模式(免费、应用内购买、付费)和不同平台(Google Play Store、Apple App Store)之间的数据共享情况。我们进一步联系了52个没有提供隐私政策的应用程序开发人员,并询问了他们的数据实践。尽管法律要求开发人员回答此类问题,但仍有12名开发人员(23%)没有做出回应。
2021-11-26 cs.CR cs.CY
A Longitudinal Measurement of Privacy Policy Evolution for Large Language Models
Technical University of Munich(慕尼黑技术大学);Columbia University(哥伦比亚大学);New York University(纽约大学);CSIRO’s Data61(CSIRO的数据61)
本文首次对全球主流LLM提供者的隐私政策进行了纵向研究,揭示了隐私政策的演变趋势、内容特征及地区差异。
2025-11-24 cs.AI cs.CR cs.CY
Let's Measure the Elephant in the Room: Facilitating Personalized Automated Analysis of Privacy Policies at Scale
University of Oxford(牛津大学)
本文提出神经符号系统PoliAnalyzer,通过NLP提取隐私政策形式化表示并与用户偏好进行逻辑合规分析,在大规模网站隐私政策中实现高准确率的个性化自动分析,显著降低用户认知负担。
2025-07-15 cs.CL cs.CR cs.CY
Large Language Models: A New Approach for Privacy Policy Analysis at Scale
ETSI Telecomunicación Universidad Politécnica de Madrid Spain(马德里理工大学电信工程学院);School of Computer Science Carnegie Mellon University(计算机科学学院卡内基梅隆大学)
本文提出利用大型语言模型进行大规模隐私政策分析,通过高效提取隐私实践,实现高准确率和低资源消耗。
2024-05-31 cs.CL cs.CY
Privacy Policy Analysis through Prompt Engineering for LLMs
SINTEF(辛泰夫研究院)
本文提出PAPEL框架,利用LLMs和提示工程自动化分析隐私政策,通过零样本、少样本及思维链提示实现信息提取、标注与摘要,在OPP-115基准上F1达0.8以上,减少训练需求并提升适应性。
2024-09-23 cs.CL cs.CY cs.SE
The Privacy Policy Landscape After the GDPR
University of Wisconsin(威斯康星大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
欧盟《通用数据保护条例》(GDPR)是有史以来最严格、最全面的隐私法规之一。在它生效一年后,我们研究了它对在线隐私政策的影响。我们在GDPR前后对隐私政策进行了首次纵向、深入和大规模的评估。我们评估这些策略的完整消费周期,从第一次用户印象到合规评估。我们创建了一个多样化的语料库,包含欧盟内外的两套6,278个独特的英语隐私政策,涵盖其GDPR之前和之后的版本。我们的测试和分析结果表明,GDPR已经成为欧盟内外隐私政策重大改革的催化剂。这一政策的彻底改革,体现在广泛的文本变化,特别是对欧盟网站,对用户的好处好坏参半。虽然隐私政策变得相当长,但我们对Amazon MTurk上的470名参与者进行的用户研究表明,从用户的角度来看,欧盟网站的隐私政策的视觉表示有了显着的改进。我们进一步开发了一个新的工作流程,用于自动评估隐私政策中的要求。使用此工作流程,我们表明隐私政策涵盖了更多的数据实践,并且与GDPR后的七项合规要求更加一致。我们还通过执行特异性分析来评估组织在隐私实践方面的透明度。在这项分析中,我们发现了GDPR引发的积极变化的证据,平均特异性水平有所提高。尽管如此,我们发现隐私政策的格局仍处于过渡阶段;许多政策仍然不符合GDPR的几个关键要求,或者其覆盖范围的改善伴随着特定性的降低。
2019-06-24 cs.CL cs.CR cs.CY
DPFedBank: Crafting a Privacy-Preserving Federated Learning Framework for Financial Institutions with Policy Pillars
本文提出DPFedBank框架,通过自适应本地差分隐私与先进密码技术结合,并制定全面安全策略,解决金融机构在联邦学习协作中的隐私与安全问题。
2024-10-17 cs.CE cs.CR cs.CY
A Human-in-the-Loop Approach for Information Extraction from Privacy Policies under Data Scarcity
TU Berlin(柏林工业大学)
本文针对隐私政策标注中数据稀缺与人工成本高的问题,提出一种融合机器学习建议与人工决策的人在回路标注原型系统,并通过实验证明其提取性能优于现有法律文件提取模型。
2023-05-31 cs.AI cs.CY
Investigating Bystander Privacy in Chinese Smart Home Apps
King’s College London(伦敦国王学院);University of St Andrews(圣安德鲁斯大学);University of Warwick(华威大学);INGENIO (CSIC-Universitat Politècnica de València)(INGENIO(西班牙国家研究委员会-巴伦西亚理工大学))
本研究分析了中国49款智能家庭应用的隐私政策与实践,发现旁观者隐私保护不足,提出改进隐私透明度和可信度的设计建议。
2026-02-09 cs.CY cs.HC
Dynamically Adjusting Case Reporting Policy to Maximize Privacy and Utility in the Face of a Pandemic
在大流行期间支持公共卫生研究和公众对形势的认识需要持续传播传染病监测数据。立法,如1996年的健康保险可携带性和责任法案(HIPAA)和最近的州一级法规,允许共享去识别的个人数据;然而,目前的去识别方法是有限的。也就是说,它们效率低下,依赖于追溯性的披露风险评估,并且不随感染率或人口统计数据随时间的变化而变化。在本文中,我们介绍了一个框架,以动态适应去识别的近实时的共享的个人级监控数据。该框架利用模拟机制,能够在任何地理级别的应用程序,预测在广泛的泛化政策下共享数据的重新识别风险。这些估计为每周的预期策略选择提供信息,以将对应于小于11的组大小(PK 11)的记录比例保持在0.1或以下。在每周开始时修复策略有助于及时更新数据集,并支持共享粒度日期信息。我们使用约翰霍普金斯大学和疾病控制和预防中心2020年8月至2021年10月的病例数据来证明该框架在维持PK方面的有效性!阈值为0.01。当在美国所有县共享COVID-19县级病例数据时,该框架的方法满足96.2%的每日数据发布阈值,而基于当前去识别技术的政策满足32.3%的阈值。定期调整数据发布政策可以保护隐私,同时通过及时更新和共享流行病学关键特征来增强公共卫生效用。
2022-02-25 cs.CR cs.CY
Comment: The Essential Role of Policy Evaluation for the 2020 Census Disclosure Avoidance System
在“差异视角:围绕美国人口普查局使用差异隐私的认知脱节,“博伊德和萨拉蒂认为,对人口普查披露避免系统(DAS)的实证评估,包括我们发表的分析,未能认识到评估2020年DAS的基准数据从来都不是人口统计的基本事实。在这篇评论中,我们解释了为什么政策评估(我们分析的主要目标)在没有获得完美的基本事实的情况下仍然有意义。我们还指出,我们的评估利用了十年一次的人口普查和重新划分数据的特征,例如交换和选民文件种族识别下的块级人口不变性,更好地近似与地面真相的比较。最后,我们表明,基于贝叶斯改进姓氏地理编码的个人种族的准确统计预测,而不是违反差分隐私,大大增加了人口普查局寻求保护的私人信息的披露风险。最后,我们认为,政策制定者必须面对一个关键的数据效用和隐私保护之间的权衡,一个认识上的脱节是不够的,以解释政策选择之间的分歧。
2022-10-15 cs.CY stat.AP
"We'll Fix It Later": Education, AI, and the Deferral of Privacy in EdTech
New York University(纽约大学)
本研究通过访谈与政策审计揭示教育科技平台普遍延迟处理隐私问题,提出需依靠强制性制度与监管机制而非自愿承诺来实现有意义的改进。
2026-09-24 cs.AI cs.CY
What Are the Chances? Explaining the Epsilon Parameter in Differential Privacy
差分隐私(DP)是一个数学隐私概念,越来越多地部署在政府和行业。使用DP,隐私保护是概率性的:它们受隐私预算参数$ε$的限制。之前在健康和计算科学方面的工作发现,人们很难推理概率风险。然而,将$ε$的含义传达给贡献数据的人,对于避免隐私戏剧(将毫无意义的隐私保护表现为有意义)和授权更明智的数据共享决策至关重要。借鉴风险沟通和可用性方面的最佳实践,我们开发了三种方法来向最终用户传达概率DP保证:两种方法用于传达赔率,一种方法提供DP输出的具体示例。我们定量评估这些解释方法在一个小插曲调查研究($n=963$)通过三个指标:客观的风险理解,DP保证的主观隐私理解,自我效能。我们发现,基于概率的解释方法比(1)基于输出的方法和(2)掩盖有关$ε$的信息的最先进的方法更有效。此外,当提供有关$ε$的信息时,受访者比提供最先进的DP解释时更愿意分享他们的数据;这种分享意愿对$ε$价值观很敏感:随着隐私保护减弱,受访者不太可能分享数据。
2023-03-01 cs.CR cs.CY cs.HC
The Gradient of Health Data Privacy
Berkman Klein Center For Internet & Society, Harvard Law School(哈佛法学院伯克曼 Klein 互联网与社会中心);Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院)
本文提出健康数据治理的“隐私梯度”多维框架,通过政策、伦理与多场景案例分析,证明其可在保护隐私的同时改善照护并促进医学研究。
2024-10-01 cs.AI cs.CY cs.HC
Security and Privacy of performing Data Analytics in the cloud - A three-way handshake of Technology, Policy, and Management
云平台的出现主要是为了加速IT交付和促进创新。在这一点上,它在很大程度上表现良好,达到了技术人员、企业和客户的期望。这项技术的服务方面为初创公司和成熟组织更快地建立基础设施和相关目标铺平了道路。这进一步导致更快地向市场提供许多用户友好的应用程序,同时证明对资源有限的公司来说是一个商业上可行的选择。在技术方面,这个生态系统的创建和采用允许在一个地方轻松收集来自各种来源的大量数据,这个地方有时被称为云。可以对原始数据进行有效的数据采掘,以提取潜在的有用信息,这在以前的这种规模下是不可能的。有针对性的广告是一个常见的例子,可以帮助企业。尽管有这些有前途的产品,但对用户信息安全和隐私的担忧抑制了云平台的广泛接受和全面部署。在本文中,我们讨论了由于云服务提供商(CSP)和主要云用户(数据收集器)之间的数据交换而发生的安全和隐私问题。我们提供的解决方案涵盖了云服务的技术、政策和健全的管理,并声称这种方法有可能提供一个全面的解决方案。
2017-01-24 cs.CY cs.DC cs.NI
Navigating the United States Legislative Landscape on Voice Privacy: Existing Laws, Proposed Bills, Protection for Children, and Synthetic Data for AI
Center for Robust Speech Systems (CRSS), The University of Texas at Dallas, USA(稳健语音系统中心(CRSS),德克萨斯大学达拉斯分校)
本文系统梳理美国联邦及各州涉及语音数据和儿童保护的隐私立法现状,并前瞻性探讨合成数据在人工智能监管中的合规考量。
2024-07-29 cs.CR cs.CY cs.SD
Equity and Privacy: More Than Just a Tradeoff
虽然整个隐私保护数据分析领域都专注于隐私-效用权衡,但最近的研究表明,隐私保护数据发布可以在不同人群中引入不同程度的效用。重要的是要理解隐私和公平之间的这种新的权衡,因为隐私技术正在被部署在数据产品将用于研究和政策制定的情况下。边缘人群是否会从隐私技术中看到不成比例的效用?如果存在不平等,我们如何解决?
2021-11-08 cs.CR cs.CY
Exploring Consequences of Privacy Policies with Narrative Generation via Answer Set Programming
North Carolina State University(北卡罗来纳州立大学);Northeastern University(东北大学)
知情同意对于数据隐私及其监管变得越来越重要。从政府到营利性公司的实体都通过列举个人数据存储和传输条件的政策来解决对数据隐私的担忧。然而,增加数据隐私政策的列举和透明度并没有提高最终用户对其数据可能被如何使用的理解:不仅隐私政策是用用户可能难以理解的法律语言编写的,而且这些政策的内容可能以这样一种方式构成,即政策的后果并不立即明显。我们提出了一个框架,使用答案集编程(ASP)-一种逻辑编程-正式的隐私政策。因此,隐私政策成为一个叙事规划空间的约束,允许最终用户前瞻性地模拟政策的可能后果,在一个域中的角色和采取行动的演员。我们通过健康保险便携性和责任法案(HIPAA)的例子演示了如何以各种方式使用该系统,包括询问有关可能性的问题,并确定哪些法律条款被给定的事件序列所破坏。
2022-12-13 cs.AI cs.CY cs.PL
Biometric Technologies and the Law: Developing a Taxonomy for Guiding Policymakers
本文针对生物特征识别技术监管滞后问题,通过文献综述构建技术分类法,以帮助决策者理解技术并制定优先保护隐私和个人数据的法规。
2023-10-27 cs.CR cs.CY
Toward Youth-Centered Privacy-by-Design in Smart Devices: A Systematic Review
Vancouver Island University(温哥华岛大学)
本文系统综述了智能设备中保护青少年隐私的设计框架,指出技术方案为主但实施不足,建议多方合作构建隐私生态系统。
2026-02-28 cs.AI cs.CY cs.HC
Jurisdiction as Structural Barrier: How Privacy Policy Organization May Reduce Visibility of Substantive Disclosures
Independent Researcher(独立研究者)
研究发现隐私政策中管辖权标签部分的结构性披露问题,提出普遍实质性披露以提升透明度。
2026-01-28 cs.CL cs.CY cs.HC