大模型对齐与安全

Unified Threat Detection and Mitigation Framework (UTDMF): Combating Prompt Injection, Deception, and Bias in Enterprise-Scale Transformers

Santhosh KumarRavindran

机构 * Microsoft Corporation（微软公司） 纠错

专题命中 AI治理与伦理 ：prompt injection(title,abstract)；分类 cs.AI

Moral Anchor System: A Predictive Framework for AI Value Alignment and Drift Prevention

Santhosh Kumar Ravindran

机构 * Microsoft Corporation（微软公司） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI

Comments 11 pages Includes simulations with over 4 million steps

On the Effectiveness and Generalization of Race Representations for Debiasing High-Stakes Decisions

Dang Nguyen, Chenhao Tan

机构 * Department of Computer Science University of Chicago（计算机科学系芝加哥大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments 21 pages, 15 figures, 14 tables. Accepted as a conference paper at COLM 2025. Camera-ready

Population-Aligned Persona Generation for LLM-based Social Simulation

Zhengyu Hu, Jianxun Lian, Zheyuan Xiao, Max Xiong, Yuxuan Lei, Tianfu Wang, Kaize Ding, Ziang Xiao, Nicholas Jing Yuan, Xing Xie

机构 * HKUST（香港科技大学） ； Microsoft Research Asia（微软亚洲研究院） ； Duke University（杜克大学） ； Northwestern University（西北大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Microsoft（微软） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

From Word to World: Evaluate and Mitigate Culture Bias in LLMs via Word Association Test

Xunlian Dai, Li Zhou, Benyou Wang, Haizhou Li

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract,comments)；分类 cs.CL、cs.AI

Comments Cultural Analysis, Cultural Alignment, Word Association Test, Large Language Models. Accepted by EMNLP 2025 (Oral)

Network Formation and Dynamics Among Multi-LLMs

Marios Papachristou, Yuan Yuan

机构 * Department of Information Systems, W.P. Carey School of Business, Arizona State University, Tempe, AZ, USA（亚利桑那州立大学信息系统系，W.P. Carey商学院，Tempe分校） ； Department of Computer Science, Cornell University, Ithaca, NY, USA（康奈尔大学计算机科学系） ； Graduate School of Management, University of California Davis, Davis, CA, USA（加州大学戴维斯分校管理研究生院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

Comments Accepted at PNAS Nexus

Journal ref PNAS Nexus 2025

An Adaptive Responsible AI Governance Framework for Decentralized Organizations

Kiana Jafari Meimandi, Anka Reuel, Gabriela Aranguiz-Dias, Hatim Rahama, Ala-Eddine Ayadi, Xavier Boullier, Jérémy Verdo, Louis Montanie, Mykel Kochenderfer

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

Language Model Based Text-to-Audio Generation: Anti-Causally Aligned Collaborative Residual Transformers

Juncheng Wang, Chao Xu, Cheng Yu, Zhe Hu, Haoyu Xie, Guoqi Yu, Lei Shang, Shujun Wang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

Comments Accepted to EMNLP 2025

Distributed MPC-based Coordination of Traffic Perimeter and Signal Control: A Lexicographic Optimization Approach

Viet Hoang Pham, Hyo-Sung Ahn

专题命中 AI治理与伦理 ：safety(abstract)