Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models
MedVisAI Lab, Singapore(新加坡MedVisAI实验室);Ruijin Hospital, Shanghai Jiao Tong University School of Medicine, China(中国上海交通大学医学院瑞金医院);Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore(新加坡南洋理工大学Lee Kong Chian医学院)
提出HERALD框架,通过令牌级密码学编辑仅加密敏感令牌,在保护隐私的同时保持下游模型效用,在分类和医疗问答任务上接近明文性能。
2026-06-02 cs.CL cs.CR
SurrogateShield: Beyond Redaction for High-Utility, Privacy-Preserving LLM Interactions
Arizona State University(亚利桑那州立大学)
提出客户端代理SurrogateShield,用本地生成的类型一致替代值替换检测到的PII,在保护隐私的同时保持语义效用,在1124条查询语料上F1达98.87%,BERTScore提升13.26个百分点。
2026-06-28 cs.CL cs.CR
Online publication of court records: circumventing the privacy-transparency trade-off
开放数据运动正在导致在线大规模发布法院记录,提高司法的透明度和可及性,并在现有丰富法律数据的基础上设计法律技术。然而,法律决策的敏感性也引发了重要的隐私问题。当前的实践通过将访问控制与(手动或半手动)文本编辑相结合来解决由此产生的隐私与透明度的权衡。在这项工作中,我们声称,目前的做法是不足以应付大规模访问的法律数据(限制性的访问控制政策是有害的开放性和实用性,而文本编辑是无法提供健全的隐私保护),并倡导一个整合的方法,可以受益于隐私保护的数据发布域的最新发展。我们提出了一个彻底的分析问题和当前的方法,并提出了一个稻草人多式联运架构铺平道路,一个成熟的隐私保护法律数据发布系统。
2020-07-03 cs.CR cs.CY
Toward sensitive document release with privacy guarantees
隐私已成为现代信息社会的一个严重问题。每天交换或向不受信任方发布的许多数据的敏感性要求负责任的组织采取适当的隐私保护措施。如今,这些数据中的大部分是文本(例如,电子邮件、社交媒体上发布的消息、医疗保健结果等)这由于其非结构化和语义性质而对自动数据保护方法构成了挑战。事实上,文本文档通常是手动保护的,这个过程称为文档编校或清理。为此,人类专家识别敏感术语(即,可能揭示身份和/或机密信息的术语)并相应地保护它们(例如,通过移除或优选地通过泛化)。为了减轻专家从这个繁重的任务,在以前的工作中,我们介绍了理论基础的C-消毒,一个固有的语义隐私模型,提供了基础的自动文档编辑/消毒算法的发展,并提供了明确的和先验的隐私保证数据保护;尽管它的潜在好处,C-消毒在应用于实践时仍然存在一些限制(主要是关于灵活性,效率和准确性)。在本文中,我们提出了一个新的更灵活的模型,命名为(C,g(C))-消毒,它使一个直观的配置之间的权衡所需的保护水平(即,受控的信息公开)和保存受保护数据的效用(即,要保留的语义量)。此外,我们还提出了一套技术解决方案和算法,提供了一个有效的和可扩展的实现模型,并提高其实际的准确性,我们也通过实证实验说明。
2017-01-02 cs.CR
Spatial K-anonymity: A Privacy-preserving Method for COVID-19 Related Geospatial Technologies
作为COVID-19相关问题的解决方案,许多地理空间技术越来越需要考虑空间隐私问题。虽然已经推出了有效的地理空间技术,但大多数技术都为了实用而牺牲了隐私。在本文中,我们探讨空间k-匿名,隐私保护的方法,可以解决这个不必要的权衡提供最好的隐私和效用。在评估其过去在地理空间用例中的影响后,我们提出了空间k-匿名在数据共享和管理COVID-19接触追踪技术以及显示用户旅行历史的热图中的应用。然后,我们证明我们的主张通过比较空间k-匿名与其他几个空间隐私的方法,包括差分隐私,地理不可侵犯性,和手动同意基于编辑。我们的希望是提高人们对与空间隐私相关的日益增长的风险的认识,以及如何通过空间K匿名来解决这些风险。
2021-01-04 cs.CR
OConsent -- Open Consent Protocol for Privacy and Consent Management with Blockchain
在当前的互联世界中-网站,移动应用程序,物联网设备收集大量用户的个人可识别活动数据。这些收集的数据用于分析、营销、服务个性化等各种目的。数据通过网站cookie、跟踪设备ID、嵌入式JavaScript、像素等进行同化。许多这些跟踪和使用收集的数据发生在幕后,对普通用户来说并不明显。因此,许多国家和地区制定了立法(例如,GDPR(欧盟)-允许用户能够控制其个人数据,以可理解和用户友好的方式知情并同意其处理。本文提出了一种基于区块链技术的协议和平台,可以在从捕获,沿袭到编辑的整个生命周期中透明地处理个人数据。该解决方案旨在帮助服务多个利益相关者,从个人最终用户到数据控制器和隐私官。它旨在提供关于如何以及何时捕获、访问和处理数据点的整体和明确的视图。该框架还设想了如何通过公共区块链创建和执行不同的访问控制策略,包括针对隐私数据泄露的实时的警报。
2022-01-04 cs.CR
Unintended Memorization and Timing Attacks in Named Entity Recognition Models
Macquarie University(麦考瑞大学)
命名实体识别模型(NER)被广泛用于识别命名实体(例如,个人、位置和其他信息)。基于机器学习的NER模型越来越多地应用于隐私敏感应用中,这些应用需要自动和可扩展地识别敏感信息以编辑文本以用于数据共享。在本文中,我们研究了设置时,NER模型可作为一个黑盒服务,用于识别用户文档中的敏感信息,并表明这些模型是脆弱的成员资格推断其训练数据集。通过更新spaCy的预训练NER模型,我们展示了对这些模型的两种不同的成员攻击。我们的第一次攻击利用了NER底层神经网络中的无意识记忆,这是一种已知的NN容易受到攻击的现象。我们的第二次攻击利用定时侧通道来针对维护从训练数据构建的词汇表的NER模型。我们发现,与以前没有看到的单词相比,训练数据集中单词的不同功能路径在执行时间上有可测量的差异。揭示训练样本的成员状态具有明显的隐私含义,例如,在文本编辑中,要被发现和移除的敏感词或短语有在训练数据集中被检测到的风险。我们的实验评估包括密码和健康数据的编辑,同时存在安全风险和隐私/监管问题。如果研究结果显示,学生只记住了一个短语,那么这种情况就更加严重了。我们在第一次攻击文本编辑用例时实现了70%的AUC。我们还显示了压倒性的成功,在99.23%的AUC的时间攻击。最后,我们讨论了潜在的缓解方法,以实现安全使用的NER模型的隐私和安全的影响,成员推断攻击。
2022-11-04 cs.AI cs.CR cs.LG
The Right to Be Forgotten under Correlation: Privacy-Utility Tradeoffs
Technical University of Munich(慕尼黑工业大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Rutgers University(罗格斯大学)
该研究针对关联数据集的隐私保护算法,分析局部机制与二元马尔可夫关联下隐私-效用的最优权衡,将机制设计分解为序列局部问题,最优机制为有限时域确定性马尔可夫决策过程的解。
2026-10-14 cs.CR cs.IT math.IT
PrivFED -- A Framework for Privacy-Preserving Federated Learning in Enhanced Breast Cancer Diagnosis
针对医疗数据交换的隐私安全及数据稀缺、不平衡问题,本研究提出隐私保护联邦学习框架PrivFED,结合SMOTE、孤立森林、Catboost与PCA,在Wisconsin数据集上实现边缘设备99.95%、中心服务器98%的乳腺癌诊断准确率。
2024-05-13 cs.CR
Real-time privacy preserving disease diagnosis using ECG signal
医疗物联网(IoMT)的快速发展为使用各种数据类型(如脑电图(EEG)和心电图(ECG))进行实时的【形】健康监测提供了机会。安全问题严重阻碍了电子医疗系统的实施。隐私保护系统需要解决三个重要的挑战:准确的诊断,隐私保护不影响准确性,计算效率。由于疾病诊断与健康和生命密切相关,因此保证预测准确性至关重要。通过实现矩阵加密的方法,我们提出了一个实时的【形】的疾病诊断方案,使用支持向量机(SVM)。由客户端提供的生物医学信号进行诊断,使得服务器不得到关于信号的任何信息以及诊断的最终结果,同时所提出的方案还实现了SVM分类器和服务器的医疗数据的机密性。所提出的方案没有精度下降。在真实数据集上的实验表明了该方法的高效性。使用4Gb RAM的设备得出疾病诊断结果所需时间小于1秒,表明实现实时的【形】隐私保护健康监测的可行性。
2023-03-23 cs.CR stat.OT
ECG-PPS: Privacy Preserving Disease Diagnosis and Monitoring System for Real-Time ECG Signal
本研究开发了名为ECG-PPS的实时心电监测分析系统,结合三导联采集硬件、AES加密与全同态加密技术,实现加密存储、同步可视化及密文统计分析,在保障数据隐私的同时提升健康监测的安全性与效率。
2024-11-02 cs.CR
Protecting User Prompts Via Character-Level Differential Privacy
Macquarie University(麦考瑞大学)
本文提出一种基于差分隐私的字符级扰动方法,用于保护用户提示中的敏感信息,通过远程LLM恢复非敏感词并完成下游任务,实验显示其在隐私与效用之间取得良好平衡。
2026-03-27 cs.CR
CLIOPATRA: Extracting Private Information from LLM Insights
University College London(伦敦大学学院);University of California, Riverside(加州大学河滨分校);Google Research(谷歌研究)
提出CLIOPATRA攻击,通过注入恶意聊天突破多层启发式隐私保护,从LLM洞察系统中提取目标用户敏感信息,在合成医疗聊天中高达65%成功率且几乎100%精确。
2026-10-13 cs.CR
Provably Confidential Language Modelling
University of California, Santa Barbara(加州大学圣巴巴拉分校)
大语言模型被证明可以记忆训练数据中的社会安全号码等隐私信息。考虑到训练语料库的庞大规模,手动或自动筛选和过滤这些隐私数据是一项挑战。在本文中,我们提出了机密编辑训练(CRT),训练语言生成模型,同时保护机密段的方法。我们借用了差分隐私(它解决了一个相关但不同的问题)的想法,并表明我们的方法能够通过随机化训练过程的一部分来防止意外的记忆。此外,我们表明,一个近似正确的筛选政策的节录放大了保密保证。我们为LSTM和GPT语言模型实现了该方法。我们的实验结果表明,CRT训练的模型获得几乎相同的困惑,同时保持强机密性。
2022-06-23 cs.CL cs.CR cs.LG
Need to Know: Contextual-Integrity-Grounded Query Rewriting for Privacy-Conscious LLM Delegation
Sun Yat-sen University(中山大学)
针对LLM委托中查询隐私泄露问题,提出基于语境完整性的查询重写框架,通过CI引导的强化学习训练重写器,在保留任务关键信息的同时抑制非必要敏感披露,实现最佳隐私-效用权衡。
2026-06-02 cs.AI cs.CR
Achieving Data Utility-Privacy Tradeoff in Internet of Medical Things: A Machine Learning Approach
物联网在医疗卫生领域的应用--医疗物联网(IoMT)的出现和快速发展,给现代医疗卫生系统带来了诸多变化和挑战。特别地,机器学习技术可用于处理IoMT中涉及的数据,用于医学分析和疾病诊断。然而,在这一过程中,个人隐私信息的披露必须得到相当的重视,特别是敏感的医疗数据。聚类分析是医学分析和疾病诊断的重要技术。为了在物联网中实现隐私保护的聚类分析,提出了一种基于MapReduce框架的高效差异私有数据聚类方案(EDPDCS)。在EDPDCS中,我们优化隐私预算的分配和初始质心的选择,以提高差分隐私K-means聚类算法的准确性。具体地,根据每次迭代的总隐私预算和最小隐私预算,将K-means算法的迭代次数设置为固定值。此外,提出了一种改进的初始质心选择方法,以提高聚类算法的准确性和效率。最后,我们证明了所提出的EDPDCS可以提高差分私有k-means算法的准确性,通过比较我们的算法在两个数据集上产生的归一化聚类内方差(NICV)与其他两种算法。
2019-02-08 cs.CR
Private Facial Diagnosis as an Edge Service for Parkinson's DBS Treatment Valuation
Lancaster University(兰卡斯特大学);Durham University(杜伦大学);Northumbria University(诺森比亚大学)
面部表型分析最近已被成功地用于医学诊断,作为诊断一系列疾病的新方法,其中面部生物识别技术已被揭示与潜在的遗传或医学原因有着丰富的联系。本文以帕金森病(Parkinson's Diseases,PD)为例,提出了一种面向医疗智能物联网(AIoT)边缘的隐私保护面部诊断框架,用于分析脑深部电刺激(Deep Brain Stimulation,DBS)对PD患者的治疗效果。在所提出的框架中,提出了一种新的基于边缘的信息理论安全框架,以在面向隐私保护的AIoT多方通信方案上实现隐私深度面部诊断作为服务,其中部分同态加密(PHE)被利用来直接在加密的面部模式上实现隐私保护的深度面部诊断。在我们对PD患者收集的面部数据集进行的实验中,我们首次证明面部模式可用于评估接受DBS治疗的PD患者的改善。我们进一步实现了一个隐私保护的深度面部诊断框架,可以实现与非加密框架相同的准确性,显示了我们的隐私保护面部诊断作为一种值得信赖的边缘服务的潜力,用于对患者的PD严重程度进行分级。
2021-05-16 cs.AI cs.CR cs.CV
Global Differential Privacy for Distributed Metaverse Healthcare Systems
针对分布式元宇宙医疗中数据不可共享且模型易泄露隐私的问题,提出在联邦模型共享前注入人工mix-up噪声的全局差分隐私机制,并在BCWD上验证隐私-效用权衡。
2023-08-20 cs.CR
BinaryShield: Cross-Service Threat Intelligence in LLM Services using Privacy-Preserving Fingerprints
Microsoft Redmond, USA(微软红mond分校);Microsoft New York, USA(微软纽约分校)
BinaryShield通过隐私保护技术实现跨服务威胁情报共享,提升LLM安全防护能力。
2026-02-28 cs.AI cs.CL cs.CR
Privacy-Preserving AI for Encrypted Medical Imaging: A Framework for Secure Diagnosis and Learning
Daffodil International University(达福国际大学)
针对医疗AI应用中的患者隐私问题,提出结合AES-CBC加密、JPEG2000压缩与Masked-CNN的加密医学影像隐私保护诊断框架,在公开数据集上验证其性能接近未加密模型,兼具实用性与可扩展性。
2025-05-17 cs.AI cs.CR eess.IV
MaskSQL: Safeguarding Privacy for LLM-Based Text-to-SQL via Abstraction
University of Waterloo(多伦多大学);Vector Institute(向量研究所);Layer 6 AI
针对基于LLM的text-to-SQL任务存在的隐私泄露风险,提出采用抽象机制保护敏感信息的MaskSQL框架,在保障隐私的同时实现了优于主流SLM模型、接近顶尖LLM模型的性能。
2025-09-30 cs.CL cs.CR
Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
University of Cincinnati(辛辛那提大学)
该研究针对AI教育系统中隐私与认知诊断精度难以平衡的问题,提出异构多LLM联邦推理框架,结合差分隐私与残差聚合,兼具强隐私保障与低精度损失,经多基准验证实用且可跨域推广。
2026-09-04 cs.AI cs.CL cs.CR
CyberCane: a privacy-bounded neuro-symbolic retrieval framework for phishing detection under distribution shift
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Bowie State University(鲍威州立大学)
CyberCane结合确定性符号分析与隐私保护RAG,通过形式本体推理实现高召回率的钓鱼检测,在隐私保护和抗AI攻击方面表现优异。
2026-10-20 cs.AI cs.CR cs.IR
Data Obfuscation through Latent Space Projection (LSP) for Privacy-Preserving AI Governance: Case Studies in Medical Diagnosis and Finance Fraud Detection
本文提出潜在空间投影(LSP)技术,通过自编码器与对抗训练将敏感数据投影到低维潜在空间,在保持模型性能的同时实现强隐私保护,并在医疗诊断和金融欺诈检测中验证其优于传统隐私方法。
2024-10-22 cs.AI cs.CR cs.CY
Empowering Patients for Disease Diagnosis and Clinical Treatment: A Smart Contract-Enabled Informed Consent Strategy
针对中心化医疗系统中患者知情同意管理不足、数据隐私存风险的问题,提出基于区块链与智能合约的知情同意管理系统,可保障同意完整性与问责性,且易与现有系统集成。
2024-12-13 cs.CR
Privacy-preserving Edit Distance on Genomic Data
假设Alice拥有一个DNA序列,Bob拥有一个DNA序列数据库。他们想要确定在Bob的数据库中是否存在与Alice的输入相匹配的用于任何目的(诸如诊断Alice的疾病)的输入。然而,Alice不想向Bob透露她的DNA模式,因为这将使他能够了解关于她的私人信息。出于类似的原因,Bob不想向Alice透露关于他的数据库的任何信息。为了保护用户的隐私,这个问题已经引起了生物信息学界的关注,并提出了几种解决方案。效率一直是密码学领域的一个瓶颈。在本文中,我们提出了ESCOT协议,以解决隐私保护编辑距离不经意传输(OT)的第一次。我们评估我们的方法在LAN和WAN网络上的基因组数据集。实验结果证实了我们的方法在现实世界中的场景的可行性。
2018-09-22 cs.CR
Robust Aggregation for Adaptive Privacy Preserving Federated Learning in Healthcare
联邦学习(FL)使来自多个数据拥有方的协作训练模型成为可能,而无需共享数据。考虑到患者医疗数据的隐私法规,医疗保健中基于学习的系统可以从隐私保护FL方法中受益匪浅。然而,典型的模型聚合方法在FL是敏感的局部模型更新,这可能会导致在学习一个强大的和准确的全局模型失败。在这项工作中,我们实现和评估不同的强大的聚合方法在FL应用于医疗数据。此外,我们表明,这种方法可以检测和丢弃错误或恶意的本地客户端在训练过程中。我们使用两个真实世界的医疗数据集进行两组实验,用于训练医疗诊断分类任务。每个数据集被用来模拟三种不同的鲁棒FL聚合策略面对不同的中毒攻击时的性能。结果表明,隐私保护方法可以成功地应用在一起拜占庭鲁棒聚合技术。我们特别观察到使用差分隐私(DP)不会显著影响不同聚合策略的最终学习收敛。
2020-09-17 cs.CR
Privacy-preserving Medical Treatment System through Nondeterministic Finite Automata
在本文中,我们提出了一个隐私保护的医疗系统,使用非确定性有限自动机(NFA),以下简称为P-Med,专为远程医疗环境。P-Med利用NFA的非确定性转换特性,灵活地表示医学模型,包括疾病状态、治疗方法以及应用不同治疗方法引起的状态转换。医疗模型被加密并外包到云端以提供远程医疗服务。使用P-Med,可以即时进行以患者为中心的诊断和治疗,同时保护患者病情和治疗建议结果的机密性。此外,在P-Med中给出了一种新的隐私保护NFA评估方法,使加密NFA和加密数据集的评估结果具有保密性,避免了繁琐的内部状态转移判定。我们证明了P-Med实现了治疗程序的建议,而不会向未经授权的各方泄露隐私。我们进行了大量的实验和分析,以评估效率。
2020-05-26 cs.CR
LLM-Redactor: An Empirical Evaluation of Eight Techniques for Privacy-Preserving LLM Requests
Sperix Labs VIA Cybersecurity Lab, KNUST(斯佩里克斯实验室VIA网络安全实验室,库马西科技大学);KNUST Quantum and Assistive Technologies Lab, KNUST(库马西科技大学量子与辅助技术实验室,库马西科技大学)
本文评估了八种隐私保护LLM请求技术,发现组合A+B+C在保护PII和专有代码方面效果最佳,提出基于威胁模型的决策规则。
2026-04-13 cs.CR cs.SE
PromptPET: Privacy-Utility Optimized Prompt Obfuscation
University of California, Irvine(加州大学 Irvine 分校);Washington University in St. Louis(圣路易斯华盛顿大学)
旨在通过用户端机制保护用户隐私,该机制转换用户提示中的敏感信息,在保护隐私和保留效用间权衡。考虑评估比较四种混淆动作,提出基于大语言模型的PROMPTPET,优于现有方法。
2026-07-07 cs.AI cs.CR cs.HC
Adaptive Federated Few-Shot Rare-Disease Diagnosis with Energy-Aware Secure Aggregation
School of Information, Computer, and Communication Technology(信息、计算机与通信技术学院);Sirindhorn International Institute of Technology, Thammasat University(泰国朱拉隆功大学国际技术学院)
针对罕见病诊断数据稀缺、隐私难保障、边缘设备资源有限的问题,提出整合少样本元学习联邦优化、能量感知调度、校准差分隐私安全聚合的AFFR框架,在准确率、掉线率、隐私权衡上均表现优异。
2025-10-01 cs.AI cs.CR cs.DC
Distributed Federated Learning-Based Deep Learning Model for Privacy MRI Brain Tumor Detection
Bazaarvoice Inc.(Bazaarvoice 公司);Newmark Group(纽马克集团);Zhejiang Future Technology LLC(浙江未来科技有限公司)
本文提出结合EfficientNet-B0与FedAvg的联邦学习框架,在不集中MRI数据的前提下进行脑肿瘤检测,实验表明其在数据异构条件下优于ResNet等模型。
2024-04-15 cs.CR cs.LG eess.IV
Batch-oriented Element-wise Approximate Activation for Privacy-Preserving Neural Networks
针对隐私保护神经网络中全同态加密难以处理非线性激活的问题,提出批量逐元素近似激活方法,以低阶多项式近似ReLU,结合知识蒸馏,在4096图像批量下精度提升1.65%,摊销时间降低99.5%。
2024-03-16 cs.CR
Privacy-Preserving Search for a Similar Genomic Makeup in the Cloud
在本文中,我们试图提供一个隐私保护和有效的解决方案,为“类似的病人搜索”问题之间的几个当事人(例如,医院),解决以前尝试的缺点。我们考虑一个场景,其中每个医院都有自己的基因组数据集,医生(或研究人员)的目标是在系统中的所有医院中搜索与给定患者相似的患者(基于基因组组成)。为了实现这种搜索,我们让每家医院用自己的密钥加密数据集,并将数据集的存储外包给公共云。医生可以从多家医院获得授权,并向云发送查询,云使用隐私保护索引结构在授权医院之间有效地执行搜索。我们提出了一个层次化的索引结构,索引每个医院的数据集,内存需求低。此外,我们开发了一种新的隐私保护索引合并机制,从每个医院的个人索引生成一个共同的搜索索引,以显着提高搜索效率。我们还考虑与患者的基因组数据相关联的医疗信息的存储(例如,诊断和治疗)。我们允许通过细粒度的访问控制策略访问这些信息,该策略是通过标准对称加密和密文策略基于属性的加密相结合开发的。使用这种机制,医生可以搜索类似的患者,并在访问策略保持不变的情况下获得关于匹配记录的医疗信息。我们进行了实验,大规模的基因组数据和所提出的计划的效率。值得注意的是,我们表明,在我们的实验设置下,所提出的计划是超过$60$倍比王等人。的协议和$95$倍快于Asharov等人。的解决方案。
2020-02-03 cs.CR
When Differential Privacy Meets Interpretability: A Case Study
Manipal Institute of Technology(马尼帕尔理工学院);Carnegie Mellon University(卡内基梅隆大学);OpenMined;University of Pennsylvania(宾夕法尼亚大学);IIT Jodhpur(印度理工学院焦特布尔分校);University of California, San Diego(加州大学圣地亚哥分校)
鉴于在医学成像和诊断等任务中使用个人数据训练深度神经网络(DNN)的情况越来越多,DNN的差异化私人训练的重要性正在激增,并且有大量工作专注于提供更好的隐私-效用权衡。然而,很少有人注意到这些模型的可解释性,以及DP的应用如何影响口译质量。我们建议在APTOS数据集上对DP训练对DNN的影响进行广泛的研究,特别是对医学成像应用的影响。
2021-06-25 cs.CR cs.CV
Secure Multi-Party Computation based Privacy Preserving Data Analysis in Healthcare IoT Systems
Istanbul Medipol University(伊斯坦布尔梅迪波尔大学);Simula Research Laboratory(西穆拉研究实验室)
最近,通过快速发展的物联网(IoT)技术,医疗保健领域经历了许多创新,为卫生部门提供了重大发展和设施,并改善了人类的日常生活。物联网连接了人与信息技术并加快了购物速度。由于这些原因,物联网技术已经开始大规模使用。由于物联网技术在健康服务中的应用,慢性病监测、健康监测、快速干预、早期诊断和治疗等促进了健康服务的提供。然而,传输到数字环境中的数据构成了隐私泄露的威胁。未经授权的人使用了它们,并对个人的健康和隐私进行了恶意攻击。在这项研究中,它的目的是提出一个模型来处理隐私问题的基础上联邦学习。此外,我们采用安全多方计算。我们提出的模型提供了广泛的隐私和数据分析,并实现了高性能。
2021-09-29 cs.AI cs.CR
Tokenized Key-Gated Adapter Routing: A Secure Access Control Mechanism Against Private Data Leakage in LLMs
Washington State University(华盛顿州立大学)
提出Locket框架,通过键控入口令牌和LoRA适配器实现LLM生成中的细粒度访问控制,在正确令牌下保持效用,缺失或无效时减少PII泄露。
2026-10-02 cs.AI cs.CL cs.CR
Privacy-preserving machine learning for healthcare: open challenges and future perspectives
New York University Abu Dhabi(纽约大学阿布扎比分校)
本文综述了面向医疗保健的隐私保护机器学习方法,重点分析隐私保护训练与推理即服务,梳理现有趋势、挑战与未来方向,以推动私有高效医疗ML模型的实际落地。
2023-03-27 cs.CR cs.LG
Accurate and Private Diagnosis of Rare Genetic Syndromes from Facial Images with Federated Deep Learning
Medical Data Privacy and Privacy Preserving Machine Learning (MDPPML)(医学数据隐私与隐私保护机器学习);University of Tübingen(图宾根大学);Institute for Bioinformatics and Medical Informatics (IBMI)(生物信息学与医学信息学研究所);Institute for Genomic Statistics and Bioinformatics(基因组统计与生物信息学研究所);University of Bonn(波恩大学)
提出基于跨孤岛横向联邦学习的联邦GestaltMatcher服务,使医院能在不共享图像下协作训练全局特征提取器,在保护隐私的同时保留超90%的集中式性能。
2025-09-12 cs.CR cs.CV cs.LG
Advancing COVID-19 Diagnosis with Privacy-Preserving Collaboration in Artificial Intelligence
Tongji Hospital and Medical College, Huazhong University of Science and Technology(华中科技大学同济医院与医学院);Huazhong University of Science and Technology(华中科技大学);University of Cambridge(剑桥大学);Union Hospital of Tongji Medical College, Huazhong University of Science and Technology(华中科技大学同济医学院附属协和医院);CalmCar Inc(CalmCar公司);Wuhan Blood Centre(武汉血液中心);MSA Capital;The National Centre for Drug Screening, Shanghai Institute of Materia Medica, Chinese Academy of Sciences(国家新药筛选中心,中国科学院上海药物研究所);Johns Hopkins Hospital & Medicine Institute(约翰斯·霍普金斯医院与医学研究所);Stanford University(斯坦福大学);Wuhan Central Hospital(武汉中心医院);Wuhan Children's Hospital(武汉儿童医院);Mahidol University(玛希隆大学);University of Texas MD Anderson Cancer Centre(德克萨斯大学MD安德森癌症中心);AstraZeneca(阿斯利康);Alan Turing Institute(艾伦·图灵研究所);Affiliated Tianyou Hospital, Wuhan University of Science and Technology(武汉科技大学附属天佑医院)
为解决医疗数据隐私顾虑导致的COVID-19 AI诊断模型训练数据不足问题,本研究发起UCADI倡议,基于联邦学习框架在23家医院分布式训练模型,性能优于本地模型且比肩放射科医生,推动了隐私保护AI在数字健康的应用。
2021-11-18 cs.AI cs.CR
COVID-19 Imaging Data Privacy by Federated Learning Design: A Theoretical Framework
Charles Sturt University(查尔斯特大学)
为应对COVID-19的医疗挑战,我们需要在全球范围内频繁共享健康数据、知识和资源。然而,在这个数字时代,数据隐私是一个大问题,需要将隐私保证安全地嵌入到使用健康数据的所有技术解决方案的设计中。在本文中,我们介绍了差分隐私的设计(dPbD)框架,并讨论其嵌入到联邦机器学习系统。为了限制我们的论文的范围,我们专注于通过计算机视觉和深度学习方法进行疾病诊断的COVID-19成像数据隐私的问题场景。我们讨论了评估联邦机器学习系统的设计,并讨论了如何差分隐私设计(dPbD)框架可以提高数据隐私的联邦学习系统的可扩展性和鲁棒性。我们认为,可扩展的差异私有联邦学习设计是一个很有前途的解决方案,用于建立一个安全,私有和协作的机器学习模型,如需要打击COVID 19的挑战。
2020-10-13 cs.CR cs.CV cs.LG
A Privacy-Preserving Outsourced Data Model in Cloud Environment
National Institute of Technology(国家理工学院)
如今,越来越多的机器学习应用,如医疗诊断、在线欺诈检测、垃圾邮件过滤等,服务由云计算提供。云服务提供商从各个所有者收集数据,以在云环境中对机器学习系统进行训练或分类。然而,多个数据所有者可能并不完全依赖第三方参与的云平台。因此,数据安全和隐私问题是使用机器学习工具的关键障碍之一,特别是对于多个数据所有者。此外,未经授权的实体可以检测统计输入数据并推断机器学习模型参数。因此,提出了一种隐私保护模型,该模型在不影响机器学习效率的情况下保护数据的隐私。为了保护数据所有者的数据,该方案采用了双差分隐私,并利用雾节点解决了网络带宽和延迟较低的问题。噪声由ε-差分机制产生,然后添加到数据中。此外,在数据所有者站点注入噪声以保护所有者数据。雾节点从数据所有者那里收集添加了噪声的数据,然后将其转移到云平台上进行存储,计算和执行分类任务。
2022-11-24 cs.CR cs.LG
Automated Remote Patient Monitoring: Data Sharing and Privacy Using Blockchain
物联网(IoT)设备和可穿戴技术的革命为远程患者监护开辟了巨大的可能性。为了简化诊断和治疗过程,医疗保健专业人员现在正在采用可穿戴技术。然而,这些技术也带来了严重的隐私风险,并对数据交易的传输和记录提出了安全问题。保护医疗保健隐私的一个解决方案是使用区块链技术。然而,区块链的主要问题之一是其高度有限的可扩展性。在这项工作中,我们提出利用基于区块链的协议来提供数据的安全管理和分析。在本文中,我们使用了最近推出的基于PoW的协议GHOSTDAG,该协议将中本聪的区块链推广为直接非循环块图(blockDAG),并提供了高吞吐量,同时还避免了安全可扩展性问题。我们使用两个基于原始GHOSTDAG协议的区块链,一个是私有的,一个是公共的。使用私有区块链,我们创建了一个使用智能合约分析患者健康数据的系统。如果智能合约出于任何原因发出异常读数警报,则系统会将该事件记录到公共区块链。这将解决与远程患者监控相关的隐私和安全漏洞,以及中本聪原始区块链有限的可扩展性问题。
2018-10-30 cs.CR cs.CY
Towards Blockchain-Assisted Privacy-Aware Data Sharing For Edge Intelligence: A Smart Healthcare Perspective
Data61, CSIRO(联邦科学与工业研究组织数据61研究所);Victoria University(维多利亚大学);University of Electronic Science and Technology of China(电子科技大学);University of Technology Sydney(悉尼科技大学);CNPIEC KEXIN LTD(中国图书进出口科信有限公司);Xidian University(西安电子科技大学)
针对智能医疗网络中数据共享的隐私泄露和投毒攻击风险,提出基于信任级别的个性化差分隐私模型,利用马尔可夫过程解耦噪声并构建区块链社区模型,有效抵御链接攻击与投毒攻击。
2023-06-29 cs.AI cs.CR
Federated Learning for Pediatric Pneumonia Detection: Enabling Collaborative Diagnosis Without Sharing Patient Data
针对儿童肺炎检测中数据分布分散、隐私限制等问题,本文使用Sherpa.ai联邦学习平台,基于儿童肺炎CXR数据集模拟non-IID跨医院协作训练,模型性能大幅提升,为低数据领域医疗诊断提供了隐私保护的协同解决方案。
2025-11-12 cs.CR cs.DC cs.LG
Protecting Privacy through Distributed Computation in Multi-agent Decision Making
Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
随着从公司服务器大规模窃取数据变得越来越普遍,研究将敏感数据集中到大型数据库中的范式的替代方案变得很有趣。相反,人们可以使用密码学和分布式计算,以便敏感数据可以以加密的形式提供和处理,并且只知道最终结果。在本文中,我们将研究如何使用这样的范例来实现约束满足,一种可以解决广泛的人工智能问题,如资源分配,规划,调度和诊断的技术。大多数之前关于约束满足中隐私的工作仅试图保护特定类型的信息,特别是特定决策组合的可行性。我们通过引入四种类型的私人信息,包括决策的可行性和最终决策,以及参与者的身份和问题的拓扑结构,来形式化和扩展这些受限制的隐私概念。我们提出了分布式算法,允许计算解决方案的约束满足问题,同时保持这四种类型的隐私。我们正式证明了这些算法的隐私属性,并显示实验,比较各自的性能基准问题。
2014-07-12 cs.AI cs.CR cs.MA
PrivGen: Preserving Privacy of Sequences Through Data Generation
Ben-Gurion University of the Negev(本-古里安大学)
顺序数据无处不在,它可以作为研究的基础,从而改进流程。例如,可以通过识别GPS数据中的瓶颈来改善道路基础设施,或者通过分析医疗数据中的疾病进展模式来改善早期诊断。主要障碍是,由于担心侵犯用户隐私,访问和使用这些数据通常受到限制或根本不允许,这是正确的。分析序列数据不是一项简单的任务,因为用户随着时间的推移创建了几乎唯一的签名。现有的匿名化方法降低了信息的质量,以保持所需的匿名水平。对质量的损害可能会破坏原始数据中出现的模式,并损害各种特征的保存。由于在许多情况下,研究人员不需要的数据,而是只感兴趣的模式存在于数据中,我们提出PrivGen,一种创新的方法,用于生成数据,保持模式和特性的源数据。我们证明,数据生成机制显着限制隐私侵权的风险。使用真实数据集评估我们的方法表明,其生成的数据保留了数据的许多特征,包括基于源数据训练的序列模型。这表明,我们的方法生成的数据可以代替实际数据用于各种类型的分析,同时维护用户隐私和数据的完整性。
2020-02-23 cs.CR cs.LG
Patient-Driven Privacy Control through Generalized Distillation
The Pennsylvania State University(宾夕法尼亚州立大学);Facebook AI Research(Facebook 人工智能研究院)
将数据分析引入医学改变了患者治疗的性质。在这种情况下,患者被要求披露个人信息,如遗传标记,生活习惯和临床病史。然后,统计模型使用这些数据来预测个性化治疗。然而,由于隐私问题,患者通常希望保留敏感信息。这种自我审查可能会妨碍适当的诊断和治疗,这可能导致严重的健康并发症,甚至随着时间的推移而死亡。在本文中,我们提出了隐私蒸馏,一种机制,允许患者控制他们希望披露给医疗保健提供者的信息的类型和数量,用于统计模型。同时,它保留了模型的准确性,这些模型可以在足够但不完整的隐私相关信息下访问所有患者数据。我们验证隐私蒸馏使用语料库的患者处方华法林的个性化剂量。我们使用深度神经网络来实现隐私蒸馏,以进行训练和剂量预测。我们发现,具有足够隐私相关信息的隐私蒸馏i)保留的准确性几乎与所有患者数据一样好(仅差3%),ii)有效防止引入健康相关风险的错误(仅差3.9%)。
2017-10-13 cs.CR cs.CY cs.LG
Privacy-preserving medical image analysis
Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院);Arkhn;INRIA(法国国家信息与自动化研究所);ENS(巴黎高等师范学院);PSL University(巴黎文理研究大学);University of Oxford(牛津大学);Universidade Federal de Campina Grande(坎皮纳格兰德联邦大学);Cape Privacy
人工智能在医学和医疗保健中的应用已经在多个领域取得了成功的临床应用。必须解决此类系统中数据使用与隐私保护要求之间的冲突,以获得最佳结果并遵守道德和法律规定。这需要创新的解决方案,如隐私保护机器学习(PPML)。我们提出了PriMIA(隐私保护医学图像分析),一个软件框架,专为PPML在医学成像。在现实生活中的案例研究中,我们展示了一个安全聚合的联邦学习模型的分类性能显着优于人类专家对看不见的数据集。此外,我们还展示了一个用于端到端加密诊断的推理即服务场景,其中既不显示数据也不显示模型。最后,我们经验评估框架的安全性对基于梯度的模型反演攻击,并证明没有可用的信息可以从模型中恢复。
2020-12-10 cs.CR cs.CV cs.LG
Scalable privacy-preserving cancer type prediction with homomorphic encryption
Tandon School of Engineering New York University(纽约大学坦登工程学院);New York University Abu Dhabi(纽约大学阿布扎比分校);Yale University(耶鲁大学)
机器学习(ML)解决了高维数据分析的挑战,并改善了医疗保健等关键应用的决策制定。如果识别出癌症类型之间的可区分模式,则来自高维基因突变数据的有效癌症类型可用于癌症诊断和治疗。与此同时,高维数据的分析在计算上是昂贵的,并且通常外包给云服务。外包ML中的隐私问题,特别是在遗传学领域,促使使用加密计算,如同态加密(HE)。但加密计算的限制性开销阻碍了它的使用。在这项工作中,我们探索了隐私保护癌症检测的挑战,使用一个真实世界的数据集,包括超过200万个遗传信息的几种癌症类型。由于数据本质上是高维的,因此我们探索了用于癌症预测的较小ML模型,以实现隐私保护领域的快速推理。我们开发了一种隐私保护癌症推断的解决方案,该解决方案首先利用关于体细胞突变的领域知识来有效地编码基因突变,然后使用统计测试进行特征选择。我们的逻辑回归模型,使用我们的新的编码方案,实现了0.98微平均曲线下面积与13%的测试精度比类似的研究。我们通过分析模型使用的基因来彻底测试模型的预测能力。此外,我们提出了一个快速矩阵乘法算法,可以有效地处理高维数据。实验结果表明,即使有40,000个特征,与标准矩阵乘法相比,我们提出的矩阵乘法算法可以将多个个体的并发推理速度提高约10倍,将单个个体的推理速度提高约550倍。
2022-04-12 cs.AI cs.CR
Differential Privacy for Secure Machine Learning in Healthcare IoT-Cloud Systems
JNTU Anantapur(贾瓦哈拉尔·尼赫鲁技术大学阿南塔普尔分校);C-DAC, India(印度计算机数据处理中心);University of Melbourne(墨尔本大学);UVCE, Bangalore(班加罗尔大学电子工程学院);Florida International University(佛罗里达国际大学);National Institute of Advanced Studies(高级研究所)
本文提出多层物联网-边缘-云架构,通过差分隐私框架保护患者隐私,提升应急医疗响应速度,同时通过区块链增强安全性和边缘计算降低延迟。
2026-04-02 cs.CR cs.DC
Assessing Privacy Leakage in Synthetic 3-D PET Imaging using Transversal GAN
Data Science Institute, University of British Columbia(不列颠哥伦比亚大学数据科学研究所);BC Cancer Research Institute(不列颠哥伦比亚癌症研究所);University of British Columbia(不列颠哥伦比亚大学)
在医学图像上训练用于疾病诊断或图像分割的计算机视觉相关算法在很大程度上是由于隐私问题而困难的。出于这个原因,生成图像模型非常受欢迎,以促进数据共享。然而,3-D生成模型的研究不足,他们的隐私泄漏的调查是必要的。我们介绍了我们的3-D生成模型,GAN(TrGAN),使用头部和颈部PET图像的肿瘤掩模作为一个案例研究。我们为我们的模型定义了图像保真度,实用性和隐私性的定量测量。这些指标在训练过程中进行评估,以确定理想的保真度,实用性和隐私权衡,并建立这些参数之间的关系。我们证明了TrGAN的训练样本容易受到攻击,并且攻击者可以以近乎完美的准确度(AUC = 0.99)识别出哪些样本用于训练。我们还表明,只访问生成器的攻击者无法可靠地分类样本是否用于训练(AUC = 0.51)。这表明,TrGAN发生器,而不是鉴别器,可以用于共享合成的3-D PET数据,具有最小的隐私风险,同时保持良好的实用性和保真度。
2023-10-31 cs.CR cs.CV cs.LG
Quantum-Inspired Privacy-Preserving Federated Learning Framework for Secure Dementia Classification
针对痴呆症分类中联邦学习(FL)易受梯度反转等攻击的问题,提出结合量子启发式加密技术的框架,利用量子密钥分发(QKD)保护模型权重传输,在OASIS数据集上实现与基线相同准确率且损失降近1%,提升隐私安全性并助力中低收入国家AI诊断普及。
2025-03-05 cs.CR cs.DC
A Two-Stage Federated Transfer Learning Framework in Medical Images Classification on Limited Data: A COVID-19 Case Study
New Mexico State University(新墨西哥州立大学)
COVID-19疫情迅速蔓延,导致全球医疗资源短缺。COVID-19诊断的效率变得非常重要。随着深度学习和卷积神经网络(CNN)在医学图像分析中的广泛应用和验证,它已成为计算机辅助诊断的有力工具。然而,在深度学习和神经网络的帮助下,医学图像分类存在两个最显著的挑战,其中之一是难以获得足够的样本,这可能导致模型过拟合。隐私问题主要带来了另一个挑战,因为医疗相关记录通常被视为患者的私人信息,并受到GDPR和HIPPA等法律的保护。联邦学习可以确保模型训练分散在不同的设备上,并且它们之间没有数据共享,这保证了隐私。然而,由于数据位于不同的设备上,每个设备的可访问数据可能受到限制。由于迁移学习已经在处理有限数据方面得到了良好的验证,因此,在本文中,我们尝试使用CNN实现联邦学习和迁移学习技术,以使用肺部CT扫描对COVID-19进行分类。我们还探讨了数据集分布在客户端对联邦学习的影响,以及模型训练的训练周期数。最后,我们通过联邦学习获得了非常高的性能,证明了我们在利用准确性和隐私方面的成功。
2022-05-26 cs.CR cs.CV cs.LG