PolicyGPT: Automated Analysis of Privacy Policies with Large Language Models
Shanghai Jiao Tong University(上海交通大学);The University of Georgia(佐治亚大学);Northwestern Polytechnical University(西北工业大学);Mayo Clinic(梅奥诊所);The University of Texas at Arlington(德克萨斯大学阿灵顿分校);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
本文提出基于大语言模型的PolicyGPT框架,用于自动分析隐私政策文本,在115个网站和304个移动应用数据集上分别取得97%和87%的准确率,优于基线机器学习与神经网络模型。
2023-09-19 cs.CL
Overcoming Language Barriers: Multilingual Analysis of the 2023 Swiss Privacy Law's Impact
ETH Zurich(苏黎世联邦理工学院);Carnegie Mellon University(卡内基梅隆大学)
研究2023年瑞士隐私法与欧盟法规对齐对瑞士网站隐私政策的影响,开发基于大语言模型的管道提取法律信息,应用于超35000个网站隐私政策,发现政策中数据主体权利披露增加,还揭示了政策生成器对披露率的影响。
2026-07-16 cs.CL
Experts-in-the-Loop: Establishing an Effective Workflow in Crafting Privacy Q&A
Fraunhofer IIS(弗劳恩霍夫应用研究促进协会信息与通信技术研究所)
本文提出一种将隐私政策转化为隐私问答的动态工作流,通过法律专家与对话设计师的跨学科协作及专家在环方法,利用大语言模型并持续监控优化,使隐私政策能通过对话式AI被轻松获取。
2023-11-18 cs.CL
More Data Types More Problems: A Temporal Analysis of Complexity, Stability, and Sensitivity in Privacy Policies
University of Vermont(佛蒙特大学)
收集数据主体的个人身份信息(PII)已成为一项大业务。数据经纪人和数据处理器是一个价值数十亿美元的行业的一部分,该行业从收集、购买和出售消费者数据中获利。然而,数据汇集行业几乎没有透明度,这使得人们很难了解正在收集、使用和出售的数据类型,从而难以了解个人数据主体面临的风险。在这项研究中,我们检查了1997-2019年的隐私政策的大型文本数据集,以调查数据经纪人和数据处理者的数据汇集活动。我们还开发了一个原始的PII相关术语词典,代表从立法文本中精选的PII数据类型。这种中尺度分析在词、主题和网络级别上查看隐私策略,以了解隐私策略随时间推移的稳定性、复杂性和敏感性。我们发现:(1)隐私立法与隐私政策中PII数据类型的稳定性和动荡性的变化相关;(2)隐私政策的复杂性随着时间的推移而降低,并变得更加规范;(3)敏感性随着时间的推移而上升,并显示与新隐私立法引入时的事件相关的尖峰。
2023-02-17 cs.CL cs.SI
Detecting Compliance of Privacy Policies with Data Protection Laws
National University of Computer and Emerging Sciences(国家计算机与新兴科学大学)
隐私政策是描述组织或公司在处理其用户个人数据时所采取的做法的法律文件。但由于政策是一份法律文件,它们往往是用大量难以理解的法律术语写成的。虽然已经在隐私政策方面做了工作,但没有一项工作能够满足验证给定隐私政策是否符合给定国家或州的数据保护法律的问题。我们的目标是通过提供一个根据各种数据保护法律(如《通用数据保护条例》(GDPR))分析隐私政策的框架来弥合这一差距。为了实现这一目标,我们首先标记了隐私政策和法律。然后,一个相关的计划,制定映射的隐私政策的内容,以适当的法律部分,政策必须符合。然后,我们使用NLP技术检查隐私政策的文本与相应的法律文本的一致性。通过使用这样的工具,用户将更好地了解他们的个人数据是如何管理的。目前,我们已经为GDPR和PDPA提供了一个映射,但其他法律可以很容易地纳入已经建立的管道中。
2021-02-21 cs.CL cs.CR
Polisis: Automated Analysis and Presentation of Privacy Policies Using Deep Learning
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);University of Michigan(密歇根大学)
隐私政策是公司告知用户其数据汇集和共享做法的主要渠道。这些政策往往很长,难以理解。基于从隐私政策中提取的信息的简短通知已被证明是有用的,但面临着一个重大的可扩展性障碍,考虑到政策的数量及其随时间的演变。公司、用户、研究人员和监管机构仍然缺乏可用和可扩展的工具来应对隐私政策的广度和深度。为了解决这些障碍,我们提出了一个自动化的隐私政策分析框架(Polisis)。它支持对自然语言隐私策略的可扩展、动态和多维查询。Polisis的核心是一个以隐私为中心的语言模型,它由13万个隐私策略和一个新颖的神经网络分类器层次结构构建而成,该层次结构既考虑了隐私实践的高级方面,也考虑了隐私实践的细粒度细节。我们展示了Polisis的模块化和实用性,两个应用程序支持结构化和自由形式的查询。结构化查询应用程序是从隐私策略中自动分配隐私图标。使用Polisis,我们可以在这项任务中实现88.4%的准确率。第二个应用程序PriBot是第一个针对隐私政策的自由形式问答系统。我们表明,PriBot可以为82%的测试问题产生正确的答案。使用MTurk用户研究与700名参与者,我们表明,至少有一个PriBot的前3名答案是相关的用户89%的测试问题。
2018-06-29 cs.CL cs.CR cs.HC
Compliance Checking with NLI: Privacy Policies vs. Regulations
University of Maine(缅因大学)
隐私政策是一份说明公司打算如何处理和管理客户个人数据的文件。这些隐私政策产生的问题之一是,它们的内容可能违反数据隐私法规。由于存在大量的隐私政策,检查所有这些政策中法律不一致的唯一现实方法是通过自动化方法。在这项工作中,我们使用自然语言推理(NLI)技术来比较隐私法规对部分的隐私政策,从大公司的选择。我们的NLI模型在其注意力机制中使用预训练的嵌入以及BiLSTM。我们尝试了两个版本的模型:一个是在斯坦福自然语言推理(SNLI)上训练的,另一个是在多类型自然语言推理(MNLI)数据集上训练的。我们发现,在SNLI上训练的模型的测试准确率更高,但在实际执行真实世界隐私策略的NLI任务时,在MNLI上训练的模型泛化并表现得更好。
2022-03-01 cs.CL cs.CR cs.LG
Legally Binding but Unfair? Towards Assessing Fairness of Privacy Policies
Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI)(可扩展数据分析与人工智能中心(ScaDS.AI))
本文提出从信息公平性、表征公平性和伦理/道德三维度,结合文本统计、语言学方法与AI自动评估隐私政策,并通过德语政策实验验证其可行性。
2024-05-08 cs.AI cs.CL cs.CY
C3PA: An Open Dataset of Expert-Annotated and Regulation-Aware Privacy Policies to Enable Scalable Regulatory Compliance Audits
University of Iowa(爱荷华大学)
针对现有隐私政策合规分析工具因数据集缺乏监管感知能力而受限的问题,本文推出首个专家标注的监管感知开放数据集C3PA,含411家组织的4.8万余条CCPA相关标注片段,可有效辅助CCPA披露要求的自动化合规审计。
2024-10-04 cs.CL cs.IR
Retrieval Enhanced Data Augmentation for Question Answering on Privacy Policies
University of California, Los Angeles(加州大学洛杉矶分校);University of Virginia(弗吉尼亚大学)
针对隐私政策 QA 标注数据严重不平衡问题,提出集成检索器结合多预训练语言模型与降噪过滤的数据增强框架,在 PrivacyQA 上将 F1 提升 10% 至 50%,达到新最优。
2023-04-22 cs.CL
The Privacy Policy Landscape After the GDPR
University of Wisconsin(威斯康星大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
欧盟《通用数据保护条例》(GDPR)是有史以来最严格、最全面的隐私法规之一。在它生效一年后,我们研究了它对在线隐私政策的影响。我们在GDPR前后对隐私政策进行了首次纵向、深入和大规模的评估。我们评估这些策略的完整消费周期,从第一次用户印象到合规评估。我们创建了一个多样化的语料库,包含欧盟内外的两套6,278个独特的英语隐私政策,涵盖其GDPR之前和之后的版本。我们的测试和分析结果表明,GDPR已经成为欧盟内外隐私政策重大改革的催化剂。这一政策的彻底改革,体现在广泛的文本变化,特别是对欧盟网站,对用户的好处好坏参半。虽然隐私政策变得相当长,但我们对Amazon MTurk上的470名参与者进行的用户研究表明,从用户的角度来看,欧盟网站的隐私政策的视觉表示有了显着的改进。我们进一步开发了一个新的工作流程,用于自动评估隐私政策中的要求。使用此工作流程,我们表明隐私政策涵盖了更多的数据实践,并且与GDPR后的七项合规要求更加一致。我们还通过执行特异性分析来评估组织在隐私实践方面的透明度。在这项分析中,我们发现了GDPR引发的积极变化的证据,平均特异性水平有所提高。尽管如此,我们发现隐私政策的格局仍处于过渡阶段;许多政策仍然不符合GDPR的几个关键要求,或者其覆盖范围的改善伴随着特定性的降低。
2019-06-24 cs.CL cs.CR cs.CY
PolicyLR: A Logic Representation For Privacy Policies
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Langroid(朗格罗伊德)
提出PolicyLR范式,通过两阶段翻译与蕴含过程将隐私策略转换为机器可读的逻辑表示,实现0.91精确率和0.88召回率,支持合规性检查、不一致性检测和隐私比较购物等下游任务。
2024-08-27 cs.CL cs.CR
Differential Privacy in Natural Language Processing: The Story So Far
Technical University of Munich(慕尼黑工业大学)
随着大数据的浪潮继续影响自然语言处理(NLP)的格局,现代NLP方法的利用已经立足于这些数据,以解决各种基于文本的任务。这些方法无疑可以包括私人或其他个人身份信息。因此,近年来,NLP中的隐私问题越来越受到关注,与新的隐私增强技术(PET)的发展相吻合。在这些PET中,差分隐私在围绕数据隐私的对话中拥有几个理想的品质。自然,问题变成了差分隐私是否适用于NLP的大部分非结构化领域。这个主题引发了新的研究,这是统一的一个基本目标:如何适应差分隐私的NLP方法?本文旨在总结差分隐私解决的漏洞,当前的想法,最重要的是,必须考虑的关键后续步骤。
2022-08-17 cs.CL
An LLM-enabled semantic-centric framework to consume privacy policies
University of Oxford(牛津大学)
针对用户难读隐私政策、形式化隐私政策大规模获取难的问题,提出基于LLM的语义化方法自动提取隐私信息并构建DPV grounding的Pr²Graph知识图谱,扩充数据集并测试多模型性能,发布相关资源支撑隐私审计等下游任务。
2025-09-01 cs.AI cs.CL
Let's Measure the Elephant in the Room: Facilitating Personalized Automated Analysis of Privacy Policies at Scale
University of Oxford(牛津大学)
本文提出神经符号系统PoliAnalyzer,通过NLP提取隐私政策形式化表示并与用户偏好进行逻辑合规分析,在大规模网站隐私政策中实现高准确率的个性化自动分析,显著降低用户认知负担。
2025-07-15 cs.CL cs.CR cs.CY
Word-level Annotation of GDPR Transparency Compliance in Privacy Policies using Large Language Models
Erasmus University Rotterdam(埃因霍温大学)
本文提出基于LLM的隐私政策词级注释方法,用于评估GDPR透明性合规性,通过模块化管道和双层评估提升注释准确性。
2025-11-24 cs.AI cs.CL
How to keep text private? A systematic review of deep learning methods for privacy-preserving natural language processing
Know-Center GmbH(Know-Center有限公司);Graz University of Technology(格拉茨技术大学)
用于自然语言处理(NLP)任务的深度学习(DL)模型通常处理私人数据,需要保护以防止违规和泄露。数据保护法律,如欧盟的一般数据保护条例(GDPR),从而加强了对隐私的需求。虽然近年来提出了许多隐私保护的NLP方法,但尚未引入组织它们的类别,因此很难跟踪文献的进展。为了缩小这一差距,本文系统地回顾了2016年至2020年期间发表的60多种隐私保护NLP的DL方法,包括理论基础,隐私增强技术以及对现实场景的适用性分析。首先,我们引入了一种新的分类法,将现有的方法分为三类:数据保护方法,可信方法和验证方法。其次,我们对隐私威胁、应用程序数据集和隐私评估指标进行了广泛的总结。第三,在整个审查过程中,我们从整体上描述了NLP管道中的隐私问题。此外,我们还讨论了隐私保护NLP在数据可追溯性、计算开销、数据集大小、嵌入中人类偏见的普遍性以及隐私-效用权衡方面面临的挑战。最后,本文提出了未来的研究方向,以指导后续的研究和发展的隐私保护NLP模型。
2022-05-20 cs.CL
When Explainability Meets Privacy: An Investigation at the Intersection of Post-hoc Explainability and Differential Privacy in the Context of Natural Language Processing
本文针对自然语言处理中可解释性与隐私的交叉点缺乏研究的问题,基于差分隐私和事后可解释性方法实证调查了隐私-可解释性权衡,揭示了两者间复杂关系,并提出了共存潜力及未来研究的实用建议。
2025-08-15 cs.CL
Privacy Washing: Detecting Internal Contradictions in Privacy Policies
Varitas(瓦里塔斯公司)
该研究定义“隐私清洗”,通过四阶段流程结合三模型LLM小组投票检测隐私政策内部矛盾,发现11年语料库中第三方共享矛盾占多数,还分析了流行率及配置对结果的影响。
2026-09-03 cs.CL cs.CY
Demystifying Legalese: An Automated Approach for Summarizing and Analyzing Overlaps in Privacy Policies and Terms of Service
The Pennsylvania State University(宾夕法尼亚州立大学)
本文旨在解决法律术语复杂导致用户不知情数据共享的问题,通过开发语言模型自动生成摘要和评分,发现RoBERTa表现最佳,并利用其识别GDPR文件重叠以揭示冗余和违规,强调合规必要性。
2024-04-17 cs.CL cs.LG
Automating Governing Knowledge Commons and Contextual Integrity (GKC-CI) Privacy Policy Annotations with Large Language Models
University of Chicago(芝加哥大学);Colgate University(科尔盖特大学)
本文提出用大型语言模型自动完成隐私政策的GKC-CI参数标注,通过微调50个模型实现90.65%的专家级准确率,并规模化应用于456份政策。
2024-12-10 cs.CL cs.CY cs.LG
Personalized Privacy Control in LLMs via Attention Head Intervention
IPAI, Seoul National University(首尔国立大学IPAI);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
针对大语言模型隐私控制的用户偏好差异问题,提出个性化隐私概念及P3Bench基准,发现提示策略执行效果差,进而提出Repair方法提升隐私策略依从性
2026-08-24 cs.AI cs.CL cs.LG
Calpric: Inclusive and Fine-grain Labeling of Privacy Policies with Crowdsourcing and Active Learning
University of Toronto(多伦多大学)
本文提出基于众包和主动学习的自动化隐私政策分类工具Calpric,通过主动选择信息量最大的片段标注,仅需62%标注工作量即可达到同等F1分数,并有效解决数据集类别不平衡问题。
2026-09-25 cs.CL cs.CR cs.LG
Privacy Policy Question Answering Assistant: A Query-Guided Extractive Summarization Approach
The Ohio State University(俄亥俄州立大学)
现有的使隐私政策可访问的工作已经探索了新的呈现形式,例如基于风险因素或摘要的颜色编码,以帮助用户有意识地同意。为了促进更个性化的互动政策,在这项工作中,我们提出了一个自动化的隐私政策问答助理,提取摘要,响应输入的用户查询。这是一项具有挑战性的任务,因为用户用与政策的法律语言截然不同的语言表达他们的隐私相关问题,使系统难以理解他们的查询。此外,该领域现有的注释数据有限。我们通过解释来解决这些问题,使用户问题的风格和语言更接近隐私政策的语言。我们的内容评分模块使用现有的域内数据在策略中查找相关信息,并将其合并到摘要中。我们的管道能够为privacyQA数据集中89%的用户查询找到答案。
2021-09-29 cs.CL cs.CY cs.IR
Privacy Policy Analysis through Prompt Engineering for LLMs
SINTEF(辛泰夫研究院)
本文提出PAPEL框架,利用LLMs和提示工程自动化分析隐私政策,通过零样本、少样本及思维链提示实现信息提取、标注与摘要,在OPP-115基准上F1达0.8以上,减少训练需求并提升适应性。
2024-09-23 cs.CL cs.CY cs.SE
Calpric: Inclusive and Fine-grain Labeling of Privacy Policies with Crowdsourcing and Active Learning
University of Toronto(多伦多大学)
针对隐私政策训练数据获取成本高的问题,提出Calpric,结合自动文本选择、主动学习与众包标注,低成本生成大规模平衡数据集,实现细粒度标注。
2026-09-22 cs.CL cs.CR cs.HC
SoK: From Generation to Consumption of Privacy Documents in Software Systems
Columbia University(哥伦比亚大学);New York University(纽约大学);University of Maine(缅因大学);Technical University of Munich(慕尼黑工业大学)
本SoK从软件工程视角,系统分析2010-2025年290篇论文,梳理隐私文档全生命周期研究,识别趋势与开放机会,为相关研究提供统一基础。
2026-08-14 cs.CL cs.CR
Beyond The Text: Analysis of Privacy Statements through Syntactic and Semantic Role Labeling
New York University(纽约大学)
本文制定了一个新的任务,从隐私政策中提取隐私参数,通过上下文完整性,一个既定的社会理论框架推理隐私规范的镜头。由律师撰写的隐私政策篇幅冗长,往往包含不完整和模糊的陈述。在本文中,我们表明,传统的NLP任务,包括最近提出的基于加密的解决方案,不足以解决隐私参数提取问题,并提供较差的精度和召回率。我们描述了4种不同类型的传统方法,可以部分地适应于解决不同程度的成功的参数提取任务:隐马尔可夫模型,BERT微调模型,依赖类型解析(DP)和语义角色标注(SRL)。基于对36个现实世界的主要企业的隐私政策的详细评估,我们证明了一个解决方案,结合语法DP加上特定类型的SRL任务提供了最高的准确性,从隐私声明中检索上下文隐私参数。我们还观察到,结合特定领域的知识对于实现高精度和召回率至关重要,从而激发了新的NLP研究来解决隐私领域的这一重要问题。
2020-10-01 cs.CL cs.CY
Large Language Models: A New Approach for Privacy Policy Analysis at Scale
ETSI Telecomunicación Universidad Politécnica de Madrid Spain(马德里理工大学电信工程学院);School of Computer Science Carnegie Mellon University(计算机科学学院卡内基梅隆大学)
本文提出利用大型语言模型进行大规模隐私政策分析,通过高效提取隐私实践,实现高准确率和低资源消耗。
2024-05-31 cs.CL cs.CY
APPSI-139: A Parallel Corpus of English Application Privacy Policy Summarization and Interpretation
Tianjin University(天津大学);Zhejiang University(浙江大学);North University of China(北方工业大学);Institute of Science Tokyo(东京科学研究所);The Hong Kong Polytechnic University(香港理工大学);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新技术区(滨江)区块链与数据安全研究院)
本文提出APPSI-139平行语料库,包含139个隐私政策及15,692个改写语料,结合TCSI-pp-V2框架提升摘要与解释的可读性与可靠性,优于GPT-4o等大模型。
2026-04-30 cs.AI cs.CL