EP-Mem: Elastic Privacy Memory for Social Relationship-Aware LLM Agents
State Key Laboratory of Media Convergence and Communication, Communication University of China(媒体融合与传播国家重点实验室,中国传媒大学)
针对LLM智能体在长期社交关系中的隐私披露问题,提出EP-Mem弹性隐私记忆架构,通过用户策略驱动的令牌级记忆和隐私引擎边车实现边界控制,在EP-Bench基准上隐私分类准确率达94%,泄露减少75.6%。
2026-09-29 cs.AI
ADAM: A Systematic Data Extraction Attack on Agent Memory via Adaptive Querying
University of Massachusetts Lowell, USA(马萨诸塞大学洛厄尔分校);Amazon, USA(亚马逊);University of South Florida, USA(南佛罗里达大学);Rochester Institute of Technology, USA(罗切斯特理工学院);Purdue University, USA(普渡大学);North Carolina State University, USA(北卡罗来纳州立大学)
本文提出ADAM攻击,通过估计受害者代理内存的数据分布和熵引导查询策略,提升隐私泄露效果,实验显示其攻击成功率高达100%。
2026-04-10 cs.AI cs.CR
Privacy-Preserving Transformers: SwiftKey's Differential Privacy Implementation
Microsoft(微软)
本文提出在SwiftKey中用差分隐私训练缩小版GPT2 Transformer,通过两阶段训练在隐私、模型大小、速度和准确率间取得平衡,并以ONNX集成实现灵活高效的部署。
2025-05-08 cs.CL cs.CR cs.LG
An Interactive Framework for Implementing Privacy-Preserving Federated Learning: Experiments on Large Language Models
University of South Florida(南佛罗里达大学);Texas State University(德州州立大学);University of Arizona(亚利桑那大学)
针对联邦学习(FL)存在的隐私泄露风险及差分隐私(DP)保守性导致模型准确性受损的问题,本工作提出整合人类隐私从业者的框架,采用固定内存DP方法解决FL中DP方法的可变内存需求,实现可扩展私有FL并在LLM上验证了稳定内存使用与较小准确率损失。
2025-02-14 cs.CR cs.LG
CIPL: A Channel-Aware Framework for Recoverable Privacy Leakage in LLM Agents
Minjiang University(闽江学院);Renmin University of China(中国人民大学);RMIT University(皇家墨尔本理工大学)
CIPL提出一种通道感知评估框架,通过多阶段建模统一比较LLM智能体中隐私泄露的可恢复性,实验揭示存储标签不决定泄露,为异构流水线提供通用比较基准。
2026-09-21 cs.AI cs.CR
LoRA Provides Differential Privacy by Design via Random Sketching
Mila - Quebec AI Institute, Montreal, Canada(魁北克人工智能研究所);School of Computer Science, McGill University(麦吉尔大学计算机学院)
LoRA通过随机草图机制在设计上实现差分隐私,其低秩适应等效于使用噪声梯度微调适配器,隐私水平受适应秩和批量大小影响。
2026-02-10 cs.AI cs.CL cs.LG
Binarizing Split Learning for Data Privacy Enhancement and Computation Reduction
La Trobe University(拉筹伯大学);CSIRO’s Data61(联邦科学与工业研究组织数据61所);Cybersecurity CRC(网络安全合作研究中心);Nanjing University of Science and Technology(南京理工大学)
分离学习(SL)通过允许客户端与服务器协作训练深度学习模型而无需共享原始数据来实现数据隐私保护。然而,SL仍然存在诸如潜在的数据隐私泄露和客户端的高计算量等限制。在这项研究中,我们建议将SL局部层二进制化,以实现更快的计算(在移动设备上的训练和推理阶段,前向传播时间减少17.5倍)和减少内存使用(内存和带宽需求减少32倍)。更重要的是,二值化SL(B-SL)模型可以减少SL粉碎数据的隐私泄漏,而模型精度只有很小的下降。为了进一步增强隐私保护,我们还提出了两种新的方法:1)训练额外的本地泄漏损失和2)应用差分隐私,这可以单独或并发地集成到B-SL模型。不同数据集上的实验结果证实了B-SL模型相对于几种基准模型的优势。最后,通过实例说明了B-SL模型在抵抗特征空间劫持攻击(FSHA)方面的有效性。我们的研究结果表明,B-SL模型对于具有高隐私保护要求的轻量级物联网/移动应用(如移动医疗应用)是有希望的。
2022-06-10 cs.CR cs.LG
Fast and Memory Efficient Differentially Private-SGD via JL Projections
University of Pennsylvania(宾夕法尼亚大学);Microsoft Research(微软研究院);University of Washington(华盛顿大学);Stanford University(斯坦福大学);Twitter(推特)
Abadi等人(2016)的差分私有SGD(DP-SGD)及其变体是唯一已知的用于大规模神经网络私有训练的算法。该算法需要计算每个样本的梯度范数,这在实践中是非常缓慢和内存密集的。在本文中,我们提出了一个新的框架来设计差分私有优化称为DP-SGD-JL和DP-Adam-JL。我们的方法使用Johnson-Lindenstrauss(JL)投影来快速近似每个样本的梯度范数,而无需精确计算它们,从而使我们的优化器的训练时间和内存要求更接近其非DP版本。与以前的尝试,使DP-SGD更快的工作只在一个子集的网络架构或使用编译器技术,我们提出了一个算法的解决方案,适用于任何网络在黑盒的方式,这是本文的主要贡献。为了说明这一点,在IMDb数据集上,我们训练了一个递归神经网络(RNN),以实现良好的隐私与准确性权衡,同时比DP-SGD快得多,并且与非私有SGD具有类似的内存占用。我们算法的隐私分析比DP-SGD更复杂,我们使用Dong等人最近提出的f-DP框架。(2019)来证明隐私。
2021-02-05 cs.CR cs.LG
Distributed LSTM-Learning from Differentially Private Label Proportions
TU Dortmund University(多特蒙德工业大学)
近年来,数据隐私和分散的数据汇集变得越来越流行。为了解决隐私,通信带宽和时空数据学习的问题,我们将提出两种使用差分隐私和分散式LSTM学习的有效模型:一种是学习长短期记忆(LSTM)模型,用于提取局部时间节点约束并将其馈送到密集层(LabelProportionToLocal)。另一种方法通过从邻居获取直方图数据并将信息与LSTM输出(LabelProportionToDense)相结合来扩展第一种方法。为了进行评估,使用了两个流行的数据集:Pems-Bay和METR-LA。此外,我们还提供了一个基于LuST的数据集。评估将显示性能和数据隐私之间的权衡。
2023-01-15 cs.AI cs.CR cs.LG
Ctrl-G: Controlling Structural and Interaction Exposure in Knowledge Graph Augmented LLM Reasoning
University of New South Wales(新南威尔士大学);Data61, CSIRO(Data61,CSIRO)
PrivGemo通过双塔设计和隐私保护机制,实现隐私保护的图检索增强推理,提升LLM在知识密集型任务中的推理能力。
2026-11-02 cs.CL
CAMPHOR: Collaborative Agents for Multi-input Planning and High-Order Reasoning On Device
Stanford University(斯坦福大学);Apple(苹果公司)
本文提出CAMPHOR,一个设备端SLM多智能体框架,通过分层架构、参数共享和提示压缩处理多输入与高阶推理,微调后的SLM智能体在任务完成F1上比闭源LLM高约35%,同时无需服务器通信并增强隐私。
2024-10-12 cs.AI cs.CL cs.LG
Training Large-Vocabulary Neural Language Models by Private Federated Learning for Resource-Constrained Devices
Apple Inc.(苹果公司)
联邦学习(FL)是一种使用跨设备分布的数据来训练模型的技术。差分隐私(DP)为敏感数据提供正式的隐私保证。我们的目标是在计算受限的设备上训练一个大型神经网络语言模型(NNLM),同时使用FL和DP保护隐私。然而,引入模型的DP噪声随着模型大小的增加而增加,这通常会阻止收敛。我们提出了部分嵌入更新(PEU),一种新的技术,以减少噪声,通过减少有效载荷的大小。此外,我们采用低秩适应(LoRA)和噪声对比估计(NCE),以减少计算受限设备上的大型模型的内存需求。这种技术组合使得训练大词汇量语言模型成为可能,同时保持准确性和隐私性。
2022-07-18 cs.CL cs.CR cs.LG
Deep Learning under Fractional-Order Differential Privacy
MESA Lab, Dept. of EECS University of California, Merced(加州大学默塞德分校电子工程与计算机科学系MESA实验室);Dept. of Applied Mathematics University of California, Merced(加州大学默塞德分校应用数学系)
本文提出FO-DP-SGD,通过引入分数记忆机制改进隐私保护,实验显示在SVHN、CIFAR-10和CIFAR-100上提升了隐私与效用性能。
2026-05-11 cs.CR cs.LG
ProfileFoundry: A Synthetic Person-Object Substrate for Privacy, Memory, and Tool-Use Evaluation in LLM Agent
NVIDIA Corporation(英伟达公司)
提出ProfileFoundry,一个确定性生成器,发布10万个合成成人人物对象,包含快照、家庭、雇主等字段及事件、关系边,用于下游基础模型评估中的记忆、隐私等任务。
2026-08-31 cs.CL
Advancing Conversational Psychotherapy: Integrating Privacy, Dual-Memory, and Domain Expertise with Large Language Models
University of California, Berkeley(加州大学伯克利分校)
本文提出 SoulSpeak,借助 RAG 双记忆、隐私模块、咨询数据与提示技术实现个性化心理治疗对话,并用微调 BERT 评估模型验证其效果。
2024-12-04 cs.CL cs.CY
Continual Learning with Differential Privacy
New Jersey Institute of Technology(新泽西理工学院);University of Florida(佛罗里达大学)
在本文中,我们专注于在持续学习(CL)中保持差分隐私(DP),其中我们训练ML模型来学习一系列新任务,同时记住以前的任务。我们首先引入连续相邻数据库的概念来约束参与CL训练过程的任何数据记录的灵敏度。在此基础上,我们开发了一种新的CL DP保留算法,该算法采用数据采样策略,通过应用时刻会计师来量化著名的平均梯度情景记忆(A-GEM)方法中训练数据的隐私风险。我们的算法提供了正式的保证隐私的数据记录在CL的任务。初步的理论分析和评估表明,我们的机制收紧隐私损失,同时保持一个有前途的模型效用。
2021-10-11 cs.CR cs.LG
PPFL: Privacy-preserving Federated Learning with Trusted Execution Environments
Imperial College London(帝国理工学院);Telefónica Research(西班牙电信研究院)
我们提出并实现了一个隐私保护的联邦学习($PPFL$)框架的移动系统,以限制隐私泄漏的联邦学习。利用高端和移动设备中广泛存在的可信执行环境(TEE),我们在客户端上利用TEE进行本地训练,并在服务器上进行安全聚合,以便对对手隐藏模型/梯度更新。由于当前TEE的内存大小有限,我们利用贪婪逐层训练来训练可信区域内的每个模型的层,直到其收敛。我们的实现的性能评估表明,$PPFL$可以显着提高隐私,同时在客户端产生小的系统开销。特别地,$PPFL$可以成功地保护训练模型免受数据重构、属性推断和成员推断攻击。此外,与完整模型的标准联邦学习相比,它可以实现具有更少的通信轮数(0.54 $\times$)和类似的网络流量(1.002 $\times$)的可比模型效用。这是在$PPFL$的客户端中仅引入高达~15%的CPU时间、~18%的内存使用和~21%的能耗开销的情况下实现的。
2021-06-28 cs.CR cs.DC cs.LG
Numerical Composition of Differential Privacy
Microsoft(微软);University of Washington(华盛顿大学)
我们给出了一个快速算法,以最佳组合的隐私保证差分隐私(DP)算法的任意精度。我们的方法是基于隐私损失随机变量的概念来量化DP算法的隐私损失。我们的算法所需的运行时间和内存来近似的隐私曲线的DP算法与自身$k$倍组成的是$\tilde{O}(\sqrt{k})$。这改进了Kopia等人(2020)的最佳现有方法,该方法需要$\tildeΩ(k^{1.5})$运行时间。我们通过准确计算Abadi et al.(2016)的DP-SGD算法的隐私损失来证明我们算法的实用性,并表明我们的算法与之前的工作相比将隐私计算速度提高了几个数量级,同时保持了类似的准确性。
2021-10-26 cs.CR cs.DS cs.LG
DP-FP: Differentially Private Forward Propagation for Large Models
Ant Group(蚂蚁集团)
当应用于大规模学习问题时,关于隐私保护深度学习的传统智慧,即差分私有随机梯度下降(DP-SGD),与非隐私对应物相比,由于显着的性能下降和高内存开销,取得了有限的成功。我们展示了如何通过用一种新的DP前向传播(DP-FP)替换DP-SGD,然后用现成的非DP优化器来减轻性能下降。我们的DP-FP采用新颖的(1)表示限幅,然后在前向传播阶段添加噪声,以及(2)通过子采样进行微批构建,以实现DP放大并将噪声功率降低到$1/M$,其中$M$是一步中的微批数量。在训练分类模型时,我们的DP-FP在表示上具有所有隐私保护操作,天生没有梯度偏差,总噪声与模型大小成比例,以及DP-SGD中的内存问题。因此,我们的DP-FP在保持相同隐私水平的同时,性能优于先进的DP-SGD,并且接近非私有基线,性能显著优于最先进的DP-SGD变体。例如,当在四个下游任务上应用于Roberta-large时,DP-FP实现了91.34%的平均准确率,隐私预算小于3,比最先进的DP-SGD性能提高了3.81%,与非私有基线相比仅损失了0.9%,但隐私泄漏风险显著降低。
2021-12-29 cs.CR cs.LG
On the Sensitivity of Firing Rate-Based Federated Spiking Neural Networks to Differential Privacy
Center of Electrical Engineering(电气工程中心);Computer, Federal University of Campina Grande, Brazil(计算机,坎皮纳斯格雷大学,巴西)
本文研究了差分隐私对基于脉冲率的联邦脉冲神经网络的影响,揭示了隐私机制对训练信号和协调的扰动,并提供了隐私保护与协调平衡的指导。
2026-02-12 cs.AI cs.LG
Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
University of California, Irvine(加州大学尔湾分校)
从数据中心视角调查LLM智能体隐私风险,分类数据源、隐私风险及治理机制,发现信息流控制可覆盖组合和跨会话推理泄露,但缺乏统一隐私策略的基准。
2026-06-26 cs.AI cs.CR
When Malicious Instructions Persist: Persistent Memory Poisoning Attack on Harness-Based Agents
University of Auckland(奥克兰大学);Fudan University(复旦大学)
提出针对基于 Harness 的智能体的持久内存投毒攻击 PMPA,通过诱导写入恶意指令实现跨会话隐私泄露,在 OpenClaw 和 Claude Code 上验证了高成功率,并评估了防御的局限性。
2026-09-15 cs.AI cs.CR
Leveraging Randomness in Model and Data Partitioning for Privacy Amplification
Stanford University(斯坦福大学);Microsoft(微软)
研究研究训练过程中随机性利用模型与数据划分分模型分区用于划分隐私放大\n作用
2025-06-01 cs.CR cs.LG
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
Arizona State University(亚利桑那州立大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);North Carolina State University(北卡罗来纳州立大学)
本研究揭示了多模态大语言模型在处理图像和文本时存在的隐私泄露风险,通过构建MM-Privacy数据集评估了不同任务下的披露风险与保留风险,并强调了任务不一致性对隐私风险的影响。
2026-06-08 cs.AI cs.CR
Federated Select: A Primitive for Communication- and Memory-Efficient Federated Learning
Google, Inc.(谷歌公司)
联邦学习(FL)是一种以隐私保护方式跨异构客户端设备进行机器学习的框架。迄今为止,大多数FL算法在多轮中学习“全局”服务器模型。在每一轮,相同的服务器模型被广播到所有参与的客户端,在本地更新,然后跨客户端聚合。在这项工作中,我们提出了一个更一般的程序,客户端“选择”什么值发送给他们。值得注意的是,这允许客户端在更小的数据依赖切片上操作。为了实现这一点,我们概述了一个原始的,联邦选择,使客户端特定的选择在现实的FL系统。我们讨论了如何使用联邦选择进行模型训练,并表明它可以大幅减少通信和客户端内存使用,从而可能使训练的模型太大而无法适应设备。我们还讨论了联邦选择的隐私和信任,这反过来又影响可能的系统约束和设计的影响。最后,我们讨论了开放的问题,模型架构,隐私保护技术,和实际FL系统。
2022-08-19 cs.DC cs.LG
CoSec: Benchmarking Agent Security in Communities
Nanjing University(南京大学);Xi’an Jiaotong University(西安交通大学);Beihang University(北京航空航天大学);Zhejiang University(浙江大学);Zhejiang Sci-Tech University(浙江理工大学);Tsinghua University(清华大学);Southeast University(东南大学);Tongji University(同济大学);Sun Yat-sen University(中山大学)
CoSec是一个包含208个场景的可执行基准,用于评估LLM智能体在社区内外的隐私与授权执行,发现任务效用不等于合规,社区授权仍是未解的安全挑战。
2026-10-22 cs.AI cs.CR
Differentially Private Stochastic Gradient Descent with Fixed-Size Minibatches: Tighter RDP Guarantees with or without Replacement
Texas State University(德克萨斯州立大学);University of South Florida(南佛罗里达大学);University of Arizona(亚利桑那大学)
针对固定大小子采样的DP-SGD,提出更紧的RDP会计方法,改进界限4倍,并证明其与泊松子采样隐私等价,且内存使用更优。
2024-08-19 cs.CR cs.LG
Dual-Priv Pruning : Efficient Differential Private Fine-Tuning in Multimodal Large Language Models
Southeast University(东南大学);Peking University(北京大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Zhejiang University(浙江大学);Nanyang Technological University(南洋理工大学);Technische Universität Chemnitz(开姆尼茨工业大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
提出 Dual-Priv Pruning 框架,通过视觉 token 剪枝与带噪梯度更新剪枝降低 MLLM 差分隐私微调的开销和噪声损害,实现低内存、低性能损失。
2025-06-08 cs.AI cs.CR
DP-MIND: Differentially private memory-guided Long context Inference
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Institute of Science Tokyo(东京科学大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
针对现有差分隐私推理方法难以处理百万token级长上下文的问题,本文提出DP-MIND框架,通过记忆引导结合强化学习优化与局部去噪,实现了更优的隐私保护、可扩展性和效用。
2026-10-12 cs.AI
Computing Differential Privacy Guarantees for Heterogeneous Compositions Using FFT
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所);University of Helsinki(赫尔辛基大学)
最近提出的用于使用隐私损失分布形式主义来评估$(\varepsilon,δ)$ -差分隐私保证的基于快速傅立叶变换(FFT)的会计师已经被证明在应用于均匀组合物时比常用的方法(例如Rényi会计师)给出更严格的界限,即,相同机制的组合物。在本文中,我们将这种方法扩展到异构组合物。我们进行了全面的误差分析,允许选择的算法的参数,以便获得所需的精度。分析还扩展了以前的结果,考虑到所有的参数的算法。使用误差分析,我们还根据误差给出了计算复杂性的界,该界类似于Murtagh和Vadhan(2018)给出的界,并且稍微收紧了该界。我们还展示了如何使用Plancherel定理以增加预计算和内存使用为代价来加快对严格隐私保证的评估。
2021-06-21 cs.CR cs.LG stat.ML
Whistledown: Combining User-Level Privacy with Conversational Coherence in LLMs
Dorcha(多查)
针对用户和企业使用云托管LLMs时的PII泄露问题,提出Whistledown隐私层,通过假名化、ε-LDP与转换缓存修改提示词,低开销适配个人与企业场景且无需改动现有LLM API,平衡隐私与对话连贯性。
2025-11-17 cs.AI cs.CR
Can We Predict Your Next Move Without Breaking Your Privacy?
Eudoxia Research University(欧多克斯研究大学);Jamia Hamdard(贾迈亚·哈姆达德大学);Macquarie University(麦考瑞大学);TERI School of Advanced Studies(TERI高级研究学校);Cornell University(康奈尔大学);Stanford University(斯坦福大学)
提出隐私保护框架FLLL3M,通过本地保留数据及外积机制调用LLMs实现高效下一位置预测,在多数据集上达SOT并显著降低参数与内存开销。
2025-07-08 cs.AI cs.LG
DPF-CM: A Data Processing Framework with Privacy-Preserving Vector Databases for Chinese Medical LLMs Training and Deployment
Ant Group(蚂蚁集团)
针对现有中文医学LLM训练流程缺乏数据处理探索的问题,提出含训练数据处理流水线与隐私保护向量数据库的DPF-CM框架,提升模型性能并降低27%隐私泄露。
2025-09-01 cs.AI cs.LG
Privacy Budget Scheduling
Columbia University(哥伦比亚大学);Microsoft Research(微软研究院)
在个人数据上训练的机器学习(ML)模型已被证明会泄露有关用户的信息。差分隐私(DP)使模型训练具有对这种泄漏的保证界限。每个使用DP训练的新模型都会增加数据泄露的限制,并且可以被视为消耗了不应超过的全球隐私预算的一部分。这个预算是一种稀缺资源,必须仔细管理,以最大限度地提高成功训练模型的数量。我们描述了PrivateKube,这是流行的Kubernetes数据中心编排器的扩展,它将隐私作为一种新型资源与其他传统计算资源(如CPU,GPU和内存)一起管理。我们为隐私资源设计的抽象反映了Kubernetes为传统资源定义的抽象,但也存在重大差异。例如,传统的计算资源是可扩展的,而隐私不是:CPU可以在模型执行完成后重新获得,而隐私预算不能。这种区别迫使重新设计调度程序。我们提出了DPF(占主导地位的私人块公平性)-流行的占主导地位的资源公平性(DRF)算法的一个变种-这是面向非易失性的隐私资源,但享有类似的理论属性DRF。我们在微基准上评估PrivateKube和DPF,并在Amazon Reviews数据上评估ML工作负载。与现有的基线相比,DPF允许在相同的全局隐私保证下训练更多的模型。这对于Rényi DP上的DPF尤其如此,Rényi DP是DP的高度可组合形式。
2021-06-29 cs.CR cs.DC cs.LG
Towards Benign Memory Forgetting for Selective Multimodal Large Language Model Unlearning
Hefei University of Technology(合肥工业大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院);University of Amsterdam(阿姆斯特丹大学)
针对多模态大语言模型隐私泄露问题,提出S-MLLMUn Bench基准和SMFA框架,实现精确删除敏感知识同时保持模型基础能力。
2026-06-29 cs.AI
CHOIR: A Chatbot-mediated Organizational Memory Leveraging Communication in University Research Labs
NAVER AI Lab(NAVER人工智能实验室)
CHOIR是一种基于大语言模型的聊天机器人,通过四个核心功能帮助大学研究实验室管理组织记忆,解决文档维护和隐私保护的挑战。
2026-01-31 cs.AI cs.HC
Quantum Local Differential Privacy and Quantum Statistical Query Model
School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文证明局部模型下量子统计查询与量子差分隐私等价,推导相关强数据处理不等式并应用于假设检验,还验证量子多方计算中奇偶函数可高效学习,优于经典场景的样本需求。
2023-08-21 cs.CR cs.DS cs.LG
Online and Differentially-Private Tensor Decomposition
Carnegie Mellon University(卡内基梅隆大学);University of California, Irvine(加利福尼亚大学欧文分校)
在本文中,我们解决了许多关键算法的鲁棒性,内存效率和差分隐私张量分解的问题。我们提出了简单的变种张量幂方法,享受这些强大的性能。我们提出了在线张量幂方法的第一个保证,它具有线性内存的要求。此外,我们提出了一个有效的隐私保证噪声校准张量功率方法。在所有这些保证的核心在于仔细的扰动分析,本文中得出的现有的结果显着改善。
2016-12-15 cs.LG stat.ML
Memory-Efficient Differentially Private Training with Gradient Random Projection
University of Delaware(德克萨斯大学);University of Southern California(南加州大学);Meta;Amazon(亚马逊)
本文提出DP-GRAPE方法,通过随机高斯矩阵替代SVD子空间,减少内存使用并保持与一阶DP方法相当的效用,同时消除了昂贵的SVD计算需求,显著提升内存效率和模型性能。
2026-05-18 cs.LG
Energy and Memory-Efficient Federated Learning With Ordered Layer Freezing
School of Computing Technologies, RMIT University(计算机技术学院,皇家墨尔本理工大学);Department of Computing Technologies, Swinburne University of Technology(计算技术系,斯威本科技大学);Department of Computing, Macquarie University(计算机系,麦考瑞大学)
FedOLF通过有序层冻结和张量操作近似,提升联邦学习在非iid数据上的准确率,同时降低能耗和内存占用。
2025-12-29 cs.LG
PriPHiT: Privacy-Preserving Hierarchical Training of Deep Neural Networks
Signal Processing Laboratory (LTS4), École Polytechnique Fédérale de Lausanne (EPFL)(瑞士联邦理工学院洛桑校区信号处理实验室);Centre Suisse d’Electronique et de Microtechnique (CSEM)(瑞士电子与微技术中心)
PriPHiT通过在边缘设备和云服务器上分层训练深度神经网络,利用对抗性早期退出和噪声添加技术,在保护隐私的同时提升模型性能。
2024-12-16 cs.CR cs.CV cs.DC
Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States
Department of Electrical Engineering, National Taiwan University, Taiwan(台湾国立台湾大学电子工程系);NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE), Taiwan(国立台湾大学人工智能研究中心(NTU AI-CoRE));Microsoft, USA(微软公司);Department of Electrical and Computer Engineering, Georgia Institute of Technology, USA(佐治亚理工学院电子与计算机工程系)
本文研究了在差分隐私和内存约束下零阶优化的隐私放大问题,提出混合噪声机制和新耦合分析,首次获得收敛的隐状态差分隐私界。
2026-05-14 cs.LG
Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework
College of Intelligent Science and Engineering(智能科学与工程学院)
本文研究了LLM代理中记忆治理的问题,提出了一种新的SSGM框架,通过一致性验证、时间衰减建模和动态访问控制来缓解记忆腐蚀风险,提高记忆系统的稳定性与安全性。
2026-05-19 cs.AI
AMI-FML: A Privacy-Preserving Federated Machine Learning Framework for AMI
New Mexico State University(新墨西哥州立大学)
基于机器学习(ML)的智能电表数据分析对于高级计量基础设施(AMI)中的能源管理和需求响应应用非常有前途。为AMI开发分布式ML应用程序的一个关键挑战是保护用户隐私,同时允许终端用户积极参与。本文解决了这一挑战,并提出了一个隐私保护的联邦学习框架,在AMI的ML应用程序。我们将每个智能电表视为托管ML应用程序的联合边缘设备,该ML应用程序定期与中央聚合器或数据集中器交换信息。ML模型权重被传输到聚合器以保护隐私,而不是传输智能电表感测到的原始数据。聚合器处理这些参数,以设计一个强大的ML模型,可以在每个边缘设备上替换。我们还讨论了增强隐私和提高通信效率的策略,同时共享ML模型参数,适用于AMI中相对较慢的网络连接。我们展示了一个用例联邦ML(FML)应用程序,提高短期负荷预测(STLF)的建议框架。我们使用长短期记忆(LSTM)递归神经网络(RNN)模型进行STLF。在我们的架构中,我们假设有一个聚合器连接到一组智能电表。聚合器使用从联合智能仪表接收的学习模型梯度来生成聚合的、鲁棒的RNN模型,该模型提高了个体和聚合的STLF的预测准确性。我们的研究结果表明,使用FML,预测精度提高,同时保护最终用户的数据隐私。
2021-12-15 cs.LG cs.SY eess.SY
MemPrivacy: Privacy-Preserving Personalized Memory Management for Edge-Cloud Agents
MemTensor (Shanghai) Technology Co., Ltd.(MemTensor(上海)科技有限公司);HONOR Device Co., Ltd.(HONOR设备有限公司);Tongji University(同济大学)
MemPrivacy通过在边缘设备上识别隐私敏感内容并用语义结构化的占位符替代,实现隐私保护与语义保留的平衡,提升边缘-云代理的隐私安全与个性化内存效率。
2026-05-14 cs.CL cs.CR
What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents
ShanghaiTech University(上海科技大学)
该研究针对对话智能体的隐私风险,提出SP-Mem隐私感知记忆架构,通过全生命周期隐私设计实现更强个性化并减少不必要隐私暴露,还构建了相关基准。
2026-08-18 cs.CR
Enhancing Efficiency and Privacy in Memory-Based Malware Classification through Feature Selection
Old Dominion University(奥尔多明尼恩大学);University of Memphis(孟菲斯大学);University of Central Arkansas(中阿肯色大学)
针对恶意软件分类的效率与隐私问题,本研究采用三种特征选择方法结合多类分类器,在三层分类任务中验证了互信息特征选择加随机森林的最优效果,为相关系统优化提供参考。
2023-10-05 cs.CR cs.LG
Privacy Protection Cache Policy on Hybrid Main Memory
我们首先建议隐私保护缓存政策适用于删除个人信息的责任在混合主存储器系统。该缓存策略包括生成随机数据并将随机数据缓存到个人信息中。提出的缓存策略在数据完全删除方面更经济有效。
2017-07-29 cs.CR cs.CY
SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning
Independent Research(独立研究者)
SuperLocalMemory通过本地化存储和贝叶斯信任评分,实现隐私保护的多智能体记忆系统,有效防御内存中毒攻击,提升检索性能。
2026-02-17 cs.AI cs.CR
Local Differential Privacy for Federated Learning with Fixed Memory Usage and Per-Client Privacy
University of South Florida(南佛罗里达大学);Texas State University(德克萨斯州立大学);Virginia Tech(弗吉尼亚理工大学)
针对联邦学习中现有本地差分隐私方法资源消耗高且缺乏异步参与隐私保证的问题,提出L-RDP方法,以固定低内存使用和严格每客户端隐私保证,提升模型泛化性与合规性。
2025-10-14 cs.CR
Two Birds with One Stone: Differential Privacy by Low-power SRAM Memory
本文提出一种基于低功耗SRAM存储器的硬件差分隐私技术,利用固有硬件噪声生成受控LDP噪声,在保障隐私的同时大幅提升功耗与计算效率。
2024-03-26 cs.CR
Towards Deep Encrypted Training: Low-Latency, Memory-Efficient, and High-Throughput Inference for Privacy-Preserving Neural Networks
STAM Center, Ira A. Fulton Schools of Engineering(STAM中心,伊拉·A·福克森工程学院);Arizona State University(亚利桑那州立大学)
本文提出优化算法和流水线架构,提升加密神经网络的批量处理效率,实现低延迟、内存高效和高吞吐量的隐私保护推理。
2026-04-18 cs.CR cs.LG
Schemes for Privacy Data Destruction in a NAND Flash Memory
我们提出了有效地破坏NAND闪存中的隐私数据的方案。通常,即使从NAND闪存中丢弃隐私数据,数据仍很有可能保留在无效块中。这是由NAND闪存的编程操作和擦除操作的特殊性引起的管理问题。当更新页面或执行垃圾回收时,存在有效数据保留在至少一个未映射的内存块中的问题。是否有可能适用从现有NAND闪存中删除隐私数据的义务?本文正是对这一问题的回答。我们提出了一个部分删除方案,SLC编程方案,和删除占空比脉冲应用方案的无效页面,有效地解决隐私数据破坏问题,由于剩余的数据。这样的隐私数据销毁方案基本上利用至少一个状态,在该状态中,可以基于多级单元编程操作将数据写入到被编程的单元。我们的隐私数据销毁方案具有优势,在块管理相比,传统的擦除方案,是非常经济的时间和成本。所提出的隐私数据销毁方案可以容易地应用于使用NAND闪存的许多存储设备和数据中心。
2019-12-28 cs.CR cs.SY eess.SP
Limits of privacy amplification against non-signalling memory attacks
本文证明在时间有序非信号系统假设下,任何哈希方法都无法实现超多项式隐私放大,为设备无关密钥分发协议中对抗超量子对手的安全性提供了重要限制。
2012-12-30 cs.CR quant-ph