大模型对齐与安全

Zero2Text: Zero-Training Cross-Domain Inversion Attacks on Textual Embeddings

Zero2Text: 无训练跨域反向攻击文本嵌入

Doohyun Kim, Donghwa Kang, Kyungjae Lee, Hyeongboo Baek, Brent Byunghoon Kang

机构 * School of Computing, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院计算学院） ； Graduate School of Information Security, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院信息安全研究生院） ； Department of Artificial Intelligence, University of Seoul, Seoul, Republic of Korea（首尔大学人工智能系） ； Department of Computer Science, University of Seoul, Seoul, Republic of Korea（首尔大学计算机科学系） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 Zero2Text通过递归在线对齐机制，在无训练情况下实现跨域文本嵌入反向攻击，有效对抗传统防御手段，实验显示其在恢复句子方面表现优异。

Comments 10 pages

A hierarchical approach for assessing the vulnerability of tree-based classification models to membership inference attack

一种用于评估基于树的分类模型对成员推断攻击脆弱性的分层方法

Richard J. Preen, Jim Smith

机构 * Department of Computer Science and Creative Technologies（计算机科学与创意技术系） ； University of the West of England（西英格兰大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.LG

AI总结 本文提出分层方法评估基于树的分类模型对成员推断攻击的脆弱性，通过前瞻性分析和后置检查减少昂贵评估需求。

Journal ref Transactions on Data Privacy 19:1 (2026) 29-55

Origin Lens: A Privacy-First Mobile Framework for Cryptographic Image Provenance and AI Detection

Origin Lens：面向隐私保护的移动框架，用于加密图像溯源与AI检测

Alexander Loth, Dominique Conceicao Rosario, Peter Ebinger, Martin Kappes, Marc-Oliver Pahl

机构 * Frankfurt University of Applied Sciences（应用科学弗赖堡大学） ； Doctoral Center for Applied Computer Science (PZAI)（应用计算机科学博士中心（PZAI）） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CY

AI总结 Origin Lens是一款以隐私为核心、基于移动设备的框架，通过加密图像溯源和AI检测技术，为用户提供本地化的视觉信息验证服务。

Comments Accepted at ACM TheWebConf '26 Companion