Compliance Checking with NLI: Privacy Policies vs. Regulations
University of Maine(缅因大学)
隐私政策是一份说明公司打算如何处理和管理客户个人数据的文件。这些隐私政策产生的问题之一是,它们的内容可能违反数据隐私法规。由于存在大量的隐私政策,检查所有这些政策中法律不一致的唯一现实方法是通过自动化方法。在这项工作中,我们使用自然语言推理(NLI)技术来比较隐私法规对部分的隐私政策,从大公司的选择。我们的NLI模型在其注意力机制中使用预训练的嵌入以及BiLSTM。我们尝试了两个版本的模型:一个是在斯坦福自然语言推理(SNLI)上训练的,另一个是在多类型自然语言推理(MNLI)数据集上训练的。我们发现,在SNLI上训练的模型的测试准确率更高,但在实际执行真实世界隐私策略的NLI任务时,在MNLI上训练的模型泛化并表现得更好。
2022-03-01 cs.CL cs.CR cs.LG
Legally Binding but Unfair? Towards Assessing Fairness of Privacy Policies
Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI)(可扩展数据分析与人工智能中心(ScaDS.AI))
本文提出从信息公平性、表征公平性和伦理/道德三维度,结合文本统计、语言学方法与AI自动评估隐私政策,并通过德语政策实验验证其可行性。
2024-05-08 cs.AI cs.CL cs.CY
Natural Language Processing of Privacy Policies: A Survey
University of Denver(丹佛大学);George Mason University(乔治梅森大学)
该综述分析了109篇NLP与隐私政策交叉领域的论文,梳理了NLP在隐私政策传达中的应用现状,指出当前研究多聚焦隐私文本标注分类、对摘要等方向探索不足,并明确了该领域的多项潜在研究方向。
2025-01-17 cs.CL
The Privacy Policy Landscape After the GDPR
University of Wisconsin(威斯康星大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
欧盟《通用数据保护条例》(GDPR)是有史以来最严格、最全面的隐私法规之一。在它生效一年后,我们研究了它对在线隐私政策的影响。我们在GDPR前后对隐私政策进行了首次纵向、深入和大规模的评估。我们评估这些策略的完整消费周期,从第一次用户印象到合规评估。我们创建了一个多样化的语料库,包含欧盟内外的两套6,278个独特的英语隐私政策,涵盖其GDPR之前和之后的版本。我们的测试和分析结果表明,GDPR已经成为欧盟内外隐私政策重大改革的催化剂。这一政策的彻底改革,体现在广泛的文本变化,特别是对欧盟网站,对用户的好处好坏参半。虽然隐私政策变得相当长,但我们对Amazon MTurk上的470名参与者进行的用户研究表明,从用户的角度来看,欧盟网站的隐私政策的视觉表示有了显着的改进。我们进一步开发了一个新的工作流程,用于自动评估隐私政策中的要求。使用此工作流程,我们表明隐私政策涵盖了更多的数据实践,并且与GDPR后的七项合规要求更加一致。我们还通过执行特异性分析来评估组织在隐私实践方面的透明度。在这项分析中,我们发现了GDPR引发的积极变化的证据,平均特异性水平有所提高。尽管如此,我们发现隐私政策的格局仍处于过渡阶段;许多政策仍然不符合GDPR的几个关键要求,或者其覆盖范围的改善伴随着特定性的降低。
2019-06-24 cs.CL cs.CR cs.CY
C3PA: An Open Dataset of Expert-Annotated and Regulation-Aware Privacy Policies to Enable Scalable Regulatory Compliance Audits
University of Iowa(爱荷华大学)
针对现有隐私政策合规分析工具因数据集缺乏监管感知能力而受限的问题,本文推出首个专家标注的监管感知开放数据集C3PA,含411家组织的4.8万余条CCPA相关标注片段,可有效辅助CCPA披露要求的自动化合规审计。
2024-10-04 cs.CL cs.IR
Intent Classification and Slot Filling for Privacy Policies
University of California, Los Angeles(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学);Fordham University(福特汉姆大学)
了解隐私政策对用户至关重要,因为它使他们能够了解对他们重要的信息。隐私政策文档中的句子解释隐私惯例,组成文本跨度传达有关该惯例的进一步具体信息。我们将预测句子中解释的隐私实践称为意图分类,并将共享特定信息的文本跨度识别为槽填充。在这项工作中,我们提出了PolicyIE,一个英文语料库,包括5,250个意图和11,788槽注释跨越31个网站和移动应用程序的隐私政策。PolicyIE语料库是一个具有挑战性的现实世界的基准与有限的标记的例子,反映了从领域专家收集大规模注释的成本。我们提出了两种替代的神经方法作为基线,(1)意图分类和槽填充作为联合序列标记,(2)将它们建模为序列到序列(Seq 2Seq)学习任务。实验结果表明,这两种方法在意图分类上都有较好的效果,而Seq 2Seq方法在槽填充上的效果明显优于序列标记方法。我们进行了详细的错误分析,以揭示所提出的语料库的挑战。
2021-06-04 cs.CL
PolicyQA: A Reading Comprehension Dataset for Privacy Policies
University of California, Los Angeles(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学)
隐私政策文件冗长而冗长。问答(QA)系统可以帮助用户找到与他们相关且重要的信息。这一领域的先前研究将QA任务框架为从给定问题的政策文件中检索最相关的文本片段或句子列表。相反,我们认为,为用户提供一个短的文本跨度从政策文件减少了从一个冗长的文本段搜索目标信息的负担。在本文中,我们介绍了PolicyQA,一个包含25,017个阅读理解风格示例的数据集,这些示例来自115个网站隐私政策的现有语料库。PolicyQA提供了714个人工注释的问题,用于广泛的隐私实践。我们评估了两个现有的神经QA模型,并进行了严格的分析,以揭示PolicyQA提供的优势和挑战。
2020-10-06 cs.CL
PolicyGPT: Automated Analysis of Privacy Policies with Large Language Models
Shanghai Jiao Tong University(上海交通大学);The University of Georgia(佐治亚大学);Northwestern Polytechnical University(西北工业大学);Mayo Clinic(梅奥诊所);The University of Texas at Arlington(德克萨斯大学阿灵顿分校);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
本文提出基于大语言模型的PolicyGPT框架,用于自动分析隐私政策文本,在115个网站和304个移动应用数据集上分别取得97%和87%的准确率,优于基线机器学习与神经网络模型。
2023-09-19 cs.CL
Overcoming Language Barriers: Multilingual Analysis of the 2023 Swiss Privacy Law's Impact
ETH Zurich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
研究2023年瑞士隐私法与欧盟法规对齐对瑞士网站隐私政策的影响,开发基于大语言模型的管道提取法律信息,应用于超35000个网站隐私政策,发现政策中数据主体权利披露增加,还揭示了政策生成器对披露率的影响。
2026-07-16 cs.CL
Experts-in-the-Loop: Establishing an Effective Workflow in Crafting Privacy Q&A
Fraunhofer IIS(弗劳恩霍夫应用研究促进协会信息与通信技术研究所)
本文提出一种将隐私政策转化为隐私问答的动态工作流,通过法律专家与对话设计师的跨学科协作及专家在环方法,利用大语言模型并持续监控优化,使隐私政策能通过对话式AI被轻松获取。
2023-11-18 cs.CL
PolicyLR: A Logic Representation For Privacy Policies
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Langroid(朗格罗伊德)
提出PolicyLR范式,通过两阶段翻译与蕴含过程将隐私策略转换为机器可读的逻辑表示,实现0.91精确率和0.88召回率,支持合规性检查、不一致性检测和隐私比较购物等下游任务。
2024-08-27 cs.CL cs.CR
Retrieval Enhanced Data Augmentation for Question Answering on Privacy Policies
University of California, Los Angeles(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学)
针对隐私政策 QA 标注数据严重不平衡问题,提出集成检索器结合多预训练语言模型与降噪过滤的数据增强框架,在 PrivacyQA 上将 F1 提升 10% 至 50%,达到新最优。
2023-04-22 cs.CL
Let's Measure the Elephant in the Room: Facilitating Personalized Automated Analysis of Privacy Policies at Scale
University of Oxford(牛津大学)
本文提出神经符号系统PoliAnalyzer,通过NLP提取隐私政策形式化表示并与用户偏好进行逻辑合规分析,在大规模网站隐私政策中实现高准确率的个性化自动分析,显著降低用户认知负担。
2025-07-15 cs.CL cs.CR cs.CY
An LLM-enabled semantic-centric framework to consume privacy policies
University of Oxford(牛津大学)
针对用户难读隐私政策、形式化隐私政策大规模获取难的问题,提出基于LLM的语义化方法自动提取隐私信息并构建DPV grounding的Pr²Graph知识图谱,扩充数据集并测试多模型性能,发布相关资源支撑隐私审计等下游任务。
2025-09-01 cs.AI cs.CL
Automating Governing Knowledge Commons and Contextual Integrity (GKC-CI) Privacy Policy Annotations with Large Language Models
University of Chicago(芝加哥大学);Colgate University(科尔盖特大学)
本文提出用大型语言模型自动完成隐私政策的GKC-CI参数标注,通过微调50个模型实现90.65%的专家级准确率,并规模化应用于456份政策。
2024-12-10 cs.CL cs.CY cs.LG
Word-level Annotation of GDPR Transparency Compliance in Privacy Policies using Large Language Models
Erasmus University Rotterdam(埃因霍温大学)
本文提出基于LLM的隐私政策词级注释方法,用于评估GDPR透明性合规性,通过模块化管道和双层评估提升注释准确性。
2025-11-24 cs.AI cs.CL
Personalized Privacy Control in LLMs via Attention Head Intervention
IPAI, Seoul National University(首尔国立大学IPAI);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
针对大语言模型隐私控制的用户偏好差异问题,提出个性化隐私概念及P3Bench基准,发现提示策略执行效果差,进而提出Repair方法提升隐私策略依从性
2026-08-24 cs.AI cs.CL cs.LG
Privacy Washing: Detecting Internal Contradictions in Privacy Policies
Varitas(瓦里塔斯公司)
该研究定义“隐私清洗”,通过四阶段流程结合三模型LLM小组投票检测隐私政策内部矛盾,发现11年语料库中第三方共享矛盾占多数,还分析了流行率及配置对结果的影响。
2026-09-03 cs.CL cs.CY
Demystifying Legalese: An Automated Approach for Summarizing and Analyzing Overlaps in Privacy Policies and Terms of Service
The Pennsylvania State University(宾夕法尼亚州立大学)
本文旨在解决法律术语复杂导致用户不知情数据共享的问题,通过开发语言模型自动生成摘要和评分,发现RoBERTa表现最佳,并利用其识别GDPR文件重叠以揭示冗余和违规,强调合规必要性。
2024-04-17 cs.CL cs.LG
Calpric: Inclusive and Fine-grain Labeling of Privacy Policies with Crowdsourcing and Active Learning
University of Toronto(多伦多大学)
本文提出基于众包和主动学习的自动化隐私政策分类工具Calpric,通过主动选择信息量最大的片段标注,仅需62%标注工作量即可达到同等F1分数,并有效解决数据集类别不平衡问题。
2026-09-25 cs.CL cs.CR cs.LG
Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach
The Ohio State University(俄亥俄州立大学)
现有的使隐私政策可访问的工作已经探索了新的呈现形式,例如基于风险因素或摘要的颜色编码,以帮助用户有意识地同意。为了促进更个性化的互动政策,在这项工作中,我们提出了一个自动化的隐私政策问答助理,提取摘要,响应输入的用户查询。这是一项具有挑战性的任务,因为用户用与政策的法律语言截然不同的语言表达他们的隐私相关问题,使系统难以理解他们的查询。此外,该领域现有的注释数据有限。我们通过解释来解决这些问题,使用户问题的风格和语言更接近隐私政策的语言。我们的内容评分模块使用现有的域内数据在策略中查找相关信息,并将其合并到摘要中。我们的管道能够为privacyQA数据集中89%的用户查询找到答案。
2021-09-29 cs.CL cs.CY cs.IR
Privacy Policy Analysis through Prompt Engineering for LLMs
SINTEF(辛泰夫研究院)
本文提出PAPEL框架,利用LLMs和提示工程自动化分析隐私政策,通过零样本、少样本及思维链提示实现信息提取、标注与摘要,在OPP-115基准上F1达0.8以上,减少训练需求并提升适应性。
2024-09-23 cs.CL cs.CY cs.SE
Calpric: Inclusive and Fine-grain Labeling of Privacy Policies with Crowdsourcing and Active Learning
University of Toronto(多伦多大学)
针对隐私政策训练数据获取成本高的问题,提出Calpric,结合自动文本选择、主动学习与众包标注,低成本生成大规模平衡数据集,实现细粒度标注。
2026-09-22 cs.CL cs.CR cs.HC
Distilling Human-Aligned Privacy Sensitivity Assessment from Large Language Models
Hornetsecurity;Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189 - CRIStAL(里尔大学、法国国家信息与自动化研究所、法国国家科学研究中心、中央理工-里尔高等电力学院,UMR 9189 - CRIStAL)
本文提出通过轻量级编码器模型提炼大语言模型的隐私评估能力,降低计算成本并验证其在去标识化系统中的实用性。
2026-03-31 cs.CL
SoK: From Generation to Consumption of Privacy Documents in Software Systems
Columbia University(哥伦比亚大学);New York University(纽约大学);University of Maine(缅因大学);Technical University of Munich(慕尼黑工业大学)
本SoK从软件工程视角,系统分析2010-2025年290篇论文,梳理隐私文档全生命周期研究,识别趋势与开放机会,为相关研究提供统一基础。
2026-08-14 cs.CL cs.CR
Beyond The Text: Analysis of Privacy Statements through Syntactic and Semantic Role Labeling
New York University(纽约大学)
本文制定了一个新的任务,从隐私政策中提取隐私参数,通过上下文完整性,一个既定的社会理论框架推理隐私规范的镜头。由律师撰写的隐私政策篇幅冗长,往往包含不完整和模糊的陈述。在本文中,我们表明,传统的NLP任务,包括最近提出的基于加密的解决方案,不足以解决隐私参数提取问题,并提供较差的精度和召回率。我们描述了4种不同类型的传统方法,可以部分地适应于解决不同程度的成功的参数提取任务:隐马尔可夫模型,BERT微调模型,依赖类型解析(DP)和语义角色标注(SRL)。基于对36个现实世界的主要企业的隐私政策的详细评估,我们证明了一个解决方案,结合语法DP加上特定类型的SRL任务提供了最高的准确性,从隐私声明中检索上下文隐私参数。我们还观察到,结合特定领域的知识对于实现高精度和召回率至关重要,从而激发了新的NLP研究来解决隐私领域的这一重要问题。
2020-10-01 cs.CL cs.CY
Large Language Models: A New Approach for Privacy Policy Analysis at Scale
ETSI Telecomunicación Universidad Politécnica de Madrid Spain(马德里理工大学电信工程学院);School of Computer Science Carnegie Mellon University(计算机科学学院卡内基梅隆大学)
本文提出利用大型语言模型进行大规模隐私政策分析,通过高效提取隐私实践,实现高准确率和低资源消耗。
2024-05-31 cs.CL cs.CY
APPSI-139: A Parallel Corpus of English Application Privacy Policy Summarization and Interpretation
Tianjin University(天津大学);Zhejiang University(浙江大学);North University of China(北方工业大学);Institute of Science Tokyo(东京科学研究所);The Hong Kong Polytechnic University(香港理工大学);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新技术区(滨江)区块链与数据安全研究院)
本文提出APPSI-139平行语料库,包含139个隐私政策及15,692个改写语料,结合TCSI-pp-V2框架提升摘要与解释的可读性与可靠性,优于GPT-4o等大模型。
2026-04-30 cs.AI cs.CL