大模型对齐与安全

Ad Insertion in LLM-Generated Responses

在大语言模型生成响应中插入广告

Shengwei Xu, Zhaohua Chen, Xiaotie Deng, Zhiyi Huang, Grant Schoenebeck

机构 * University of Michigan（密歇根大学） ； Peking University（北京大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了解耦广告插入与响应生成、以及竞价与用户查询的框架，通过基于类型拍卖机制实现近最优的社会福利，同时提高计算效率和上下文一致性。

Comments 31 pages, 8 figures

CanaryBench: Stress Testing Privacy Leakage in Cluster-Level Conversation Summaries

CanaryBench: 集群级对话摘要中的隐私泄露压力测试

Deep Mehta

机构 * Adobe Inc（Adobe公司） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI

AI总结 CanaryBench通过生成包含秘密字符串的合成对话，测试集群级对话摘要中的隐私泄露风险，并提出最小防御措施以减少泄露。

Comments 13 pages, 4 figures. Code repository: https://github.com/researchaudio/canarybench