大模型对齐与安全

Designing AI-Supported Focus Groups: A Role x Modality Playbook

设计AI支持的焦点小组：角色×模态剧本

Zhiqing Wang, Steven Dow

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 针对焦点小组资源密集且对引导高度敏感的问题，提出按AI角色（工具、联合主持、主持）和模态（文本、语音、具身）组织的剧本，并分析交互权衡与开放问题。

AI Assurance in UK Defence: Challenges in Operationalising JSP 936

英国国防中的人工智能保证：JSP 936 操作化的挑战

Callum Cockburn, Sam Farrow

机构 * Synoptix 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本文通过结构化解释性审查，识别了英国国防中实施JSP 936进行AI保证的八大挑战，并指出其依赖未解决的技术、组织和保证问题。

Does Persona Make LLMs K-pop Fans? A Pilot Study of LLM-Based Online Concert Audience Agents

角色设定会让LLM成为K-pop粉丝吗？基于LLM的在线演唱会观众智能体初步研究

Kirak Kim, Hyojin Kim, Yejin Son, Sungyoung Kim, Kyung Myun Lee

机构 * Graduate School of Culture Technology, KAIST, Daejeon, South Korea（韩国成均馆大学文化科技研究生院） ； Department of Artificial Intelligence, Yonsei University, Seoul, South Korea（延世大学人工智能系） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 研究通过多智能体系统模拟K-pop演唱会实时粉丝聊天，发现角色设定能提升聊天质量和自然度，但未增强社交连接或情感反应，表明有意义的集体体验需更深层次对齐。

Comments Accepted at the ICML 2026 Workshop on Culture x AI: Evaluating AI as a Cultural Technology

Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

管道中的弗兰肯斯坦：面部识别中的计算性知识灭绝

Nina da Hora

机构 * Universidade Estadual de Campinas（坎皮纳斯州立大学） ； Instituto da Hora（时间研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本文借鉴玛丽·雪莱的《弗兰肯斯坦》作为方法论框架，分析基于嵌入的面部识别如何通过检测、地标定位、对齐/正面化和嵌入等步骤，逐步将面部简化为数据，实施“计算性知识灭绝”，并论证废除主义作为规范性立场。

Comments Accepted to ACM FAccT 2026. Author's version. 17 pages, 2 figures

Cognitive Comparability and the Limits of Governance: Evaluating Authority Under Radical Capability Asymmetry

认知可比性与治理的局限：在极端能力不对称下评估权威

Tony Rost

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本文通过六维框架探讨治理中权威的评估问题，发现极端能力不对称下存在结构性失效，部分维度需新规范理论而非制度设计。

Comments 20 pages, 2 tables. Interdisciplinary paper on AI governance and political theory

SPECTRA: Revealing the Full Spectrum of User Preferences via Distributional LLM Inference

SPECTRA：通过分布化LLM推理揭示用户偏好的全频谱

Luyang Zhang, Jialu Wang, Shichao Zhu, Beibei Li, Zhongcun Wang, Guangmou Pan, Yang Song

机构 * Carnegie Mellon University（卡内基梅隆大学） ； TikTok Inc.（TikTok公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 提出SPECTRA方法，将微调后的LLM视为隐式概率模型，通过探测softmax层推断用户偏好的概率分布，有效恢复长尾偏好并提升公平性。

MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models

MorphoQuant: 面向全模态大语言模型的模态感知量化

Yue Wu, Changyuan Wang, Zixuan Wang, Shilin Ma, Yansong Tang

机构 * institutetext: MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models Yue Wu Changyuan Wang Zixuan Wang Shilin Ma Yansong Tang（机构文本：MorphoQuant：多模态大语言模型的模态感知量化 Yue Wu 王昌元 王梓轩 马世林 唐彦松） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出MorphoQuant框架，通过分布感知偏差补偿和形态导向量化函数优化，解决全模态大语言模型在4比特后训练量化中的分布异质性和异常值问题，实现精度与效率的优异平衡。

How Far Did They Go? The Persuasive Tactics of Covert LLM Agents in a Discontinued Field Experiment

他们走了多远？已终止现场实验中隐蔽LLM代理的说服策略

Kokil Jaidka, Saifuddin Ahmed

机构 * Wee Kim Wee school of Communication and Information, Nanyang Technological University（魏家伟通信与信息学院，南洋理工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 通过分析Reddit r/ChangeMyView已终止现场实验的公开数据集，研究隐蔽LLM代理在身份丰富的讨论论坛中使用的说服策略，发现其系统性采用身份定位、权威信号、对齐策略和认知偏差触发，构成以说服效率为导向的修辞架构。

Validation-Gated Multi-Agent Governance for Online Adaptation of Thermal-Hydraulic Surrogate Models under Operating-Regime Shift

验证门控多智能体治理：运行工况迁移下热工水力代理模型的在线自适应

Doyeong Lim, Seungyoon Lee, In Cheol Bang

机构 * Department of Nuclear Engineering, Ulsan National Institute of Science and Technology (UNIST)（核工程系，乌山国立科学技术研究所（UNIST）） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.LG

AI总结 针对离线训练模型在运行工况迁移时性能退化问题，提出验证门控多智能体治理框架，通过角色分离的智能体协作与确定性门控机制实现可审计的在线自适应，在实验热工水力数据上将平均绝对误差降低19%。

TriEval: A Resource-Efficient Pipeline for LLM Bias, Toxicity, and Truthfulness Assessment

TriEval: 一种资源高效的LLM偏见、毒性和真实性评估流水线

Akshatha Srikantha, Manpreet Singh, Yash Jajoo, Shyamal Lakhanpal

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 提出TriEval流水线，通过同时评估LLM输出的偏见、毒性和真实性，在标准笔记本电脑上高效运行，并揭示开源与闭源模型在毒性和真实性上的差异。

Toward a Modular Architecture for Embedded AI Agent Systems at the Edge

面向边缘嵌入式AI智能体系统的模块化架构

Marcus Rüb, Michael Gerhards

机构 * ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 提出一种模块化参考架构，通过分层设计解耦设备端和云端智能体，并引入治理层，解决嵌入式微控制器上部署自主AI的严格资源约束问题。

Mitigating Perceptual Judgment Bias in Multimodal LLM-as-a-Judge via Perceptual Perturbation and Reward Modeling

通过感知扰动和奖励建模减轻多模态大语言模型作为评判者中的感知判断偏差

Seojeong Park, Jiho Choi, Junyong Kang, Seonho Lee, Jaeyo Shin, Hyunjung Shim

机构 * University of California, Berkeley（加州大学伯克利分校） ； KAIST（韩国科学技术院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过构建感知扰动数据集和结合GRPO奖励与批排序目标的统一训练框架，解决了多模态大语言模型作为评判者时因视觉证据与文本线索冲突而产生的感知判断偏差问题，显著提升了感知忠实度和与人类评价的一致性。

Comments ICML 2026

Next-Billion AI Index: The compass for AI utility and adoption in the global majority

Next-Billion AI Index: 面向全球大多数人口的AI实用性与采用指南针

Ambrish Rawat, Jessica He, Subhabrata Majumdar, Claudio Pinhanez, Yann Le Beux, Satyapriya Krishna, Rahul Gupta, Rumman Chowdhury, Kush R. Varshney

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本文提出Next Billion AI Index (nexbax)诊断框架，通过经济可行性、运营可部署性和治理对齐三个主题下的10个维度，评估AI在下一个十亿用户环境中的实用性，并通过专家访谈验证其有效性。

Comments 13 pages, 1 figure, 2 tables

Ethical Hyper-Velocity (EHV): A Hardware-Rooted Zero-Trust Runtime Enforcement Architecture for Agentic AI Systems

伦理超高速 (EHV)：一种面向代理型AI系统的硬件根零信任运行时强制架构

Riddhi Mohan Sharma

机构 * Senior Member, IEEE（IEEE高级会员） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 提出伦理超高速 (EHV) 架构，通过结合语法约束解码、因果图CRDT、可信执行环境和OSCAL审计日志，实现硬件根的零信任运行时强制，将策略执行点嵌入推理管线，显著降低治理延迟并支持形式化验证。

Comments 12 pages, 3 TikZ Figures, 3 Tables

Hot-Start Chinese Language Modeling:Visual Glyphs Accelerate Sample-Efficient Learning

热启动中文语言建模：视觉字形加速样本高效学习

Shuyang Xiang, Hao Guan

机构 * Independent Researcher（独立研究者） ； Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过将汉字渲染为视觉字形图像，研究其对字符级语言建模的归纳偏置，发现视觉输入产生显著的热启动效应，但最终精度与基于索引的方法一致。

Comments 15 pages, 5 figures, submitted to ACL 2026

REBot: From RAG to CatRAG with Semantic Enrichment and Graph Routing

REBot: 从RAG到CatRAG——语义增强与图路由

Thanh Ma, Tri-Tam La, Lam-Thu Le Huu, Minh-Nghi Nguyen, Khanh-Van Pham Luu

机构 * CTU（越南科技大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出REBot，一种基于CatRAG混合检索推理框架的LLM增强咨询聊天机器人，通过语义增强的分层类别知识图谱和图路由实现学术法规建议，在分类和问答任务上达到98.89%的F1分数。

Comments Published in Communications in Computer and Information Science (CCIS), Springer, 2025. DOI: 10.1007/978-981-95-4960-3_35

Journal ref Communications in Computer and Information Science (CCIS), Springer, 2025, pp. 435-447

On the Relationship Between Activation Outliers and Feature Death in Sparse Autoencoders

关于稀疏自编码器中激活异常值与特征死亡之间关系的研究

Elana Simon, Etowah Adams, James Zou

机构 * Stanford University（斯坦福大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本文通过理论分析和实验验证，揭示了稀疏自编码器中维度级激活异常值导致特征死亡的机制，并提出均值中心化预处理方法有效消除该问题。

Comments Accepted to ICML 2026 main conference

ReasonLight: A Multimodal Foundation Model-Enhanced Reinforcement Learning Framework for Zero-Shot Traffic Signal Control

ReasonLight: 一种多模态基础模型增强的强化学习框架用于零样本交通信号控制

Aoyu Pang, Maonan Wang, Yuejiao Xie, Chung Shue Chen, Zhiwei Yang, Man-On Pun

机构 * School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）科学与工程学院） ； Department of Mechanical and Automation Engineering, The Chinese University of Hong Kong, Hong Kong（香港中文大学机械与自动化工程系） ； Shanghai AI Laboratory, Shanghai, China（上海人工智能实验室） ； Nokia Bell Labs, Paris-Saclay, France（法国巴黎萨克雷诺基贝尔实验室） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出ReasonLight框架，通过多模态基础模型增强强化学习，利用路侧传感器和摄像头数据实现零样本适应罕见交通事件，显著降低紧急车辆等待时间。

Looking Beyond Text: Reducing Language bias in Large Vision-Language Models via Multimodal Dual-Attention and Soft-Image Guidance

超越文本：通过多模态双注意力和软图像引导减少大型视觉语言模型中的语言偏差

Haozhe Zhao, Shuzheng Si, Liang Chen, Yichi Zhang, Maosong Sun, Mingjia Zhang, Baobao Chang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Peking University（北京大学） ； Tsinghua University（清华大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 针对大型视觉语言模型因语言偏差导致的幻觉问题，提出LACING框架，采用多模态双注意力机制和软图像引导策略，在不增加训练资源的情况下增强视觉理解并减少幻觉。

Comments EMNLP 2025

Agents that Matter: Optimizing Multi-Agent LLMs via Removal-Based Attribution

重要的智能体：通过基于移除的归因优化多智能体大语言模型

Mingyu Lu, Yushan Huang, Chris Lin, Su-In Lee

机构 * Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 提出一个基于合作博弈的归因框架，通过移除协议和模型替换来识别瓶颈智能体，从而优化多智能体系统性能并降低成本。

A Multi-Level Agent-Based Architecture for Climate Governance Integrating Cognitive and Institutional Dynamics

一种整合认知与制度动态的气候治理多层级智能体架构

Ivan Puga-Gonzalez, Önder Gürcan, Vanja Falck, Christopher Frantz, F. LeRon Shults, David Herbert, Larissa Lopes Lima, Markus Grendstad Rousseau

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 提出一种模块化多层级智能体架构，整合基于动机的认知决策模型与制度行为，用于模拟气候治理中公民、NGO、媒体和政治决策者的复杂互动。

Comments 9 pages, 1 figure, The 7th International Workshop on Agents for Societal Impact (ASI 2026) held in conjunction with the 25th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2026)

Persistent AI Agents in Academic Research: A Single-Investigator Implementation Case Study

学术研究中的持久性AI智能体：单研究者实施案例研究

Anas H. Alzahrani

机构 * Department of Preventive Medicine and Public Health, Faculty of Medicine, King Abdulaziz University（预防医学与公共卫生系，医学院，国王阿卜杜勒阿齐兹大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 通过单研究者案例研究，分析了持久性AI智能体在真实学术环境中的架构、使用、产出和治理，发现缓存主导的工作流可能将经济单位从每token成本转向每完成工件成本。

Comments 19 pages, 2 figures, 3 main tables; supplementary appendix with 6 tables, 2 figures, and a reproducibility methods section. Describes 17 configured agents in a persistent research environment and introduces the PARE-M (Persistent Agentic Research Environment Measurement) framework

From Replacement to Orchestration: A Socio-Technical Architecture for Agentic AI in Corporate R&D

从替代到编排：企业研发中代理型人工智能的社会技术架构

Haithem Boussaid, Marc Heemskerk, Jimmy Siméon, Adam Breen, Merouane Debbah

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 针对企业研发中的生产力悖论（如Eroom定律），提出HARMONY社会技术架构，通过认知负荷再分配和有界自主性设计，引入科学企业家角色和编排杠杆指标，以提升人类-代理混合系统的研发产出。

Omissive Bias in Religious Representation: Benchmarking LLM Answers to Everyday Ethical Decision-making

宗教表征中的省略偏见：评估LLM在日常伦理决策中的回答

David Wingate, Sheryl Carty, Joshua Coates, Daniel Feldman, Nancy Fulda, Larry Howell, Brett Israelson, Dallin Jacobs, Jonathan Karr, John Paul Kimes, Elisabeth Kincaid, Paul Martens, Gavin Mobley, Suzana Pinheiro, Lindsay Slemboski, Peter Whiting

机构 * Brigham Young University ； Baylor University ； University of Notre Dame ； Yeshiva University 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 通过构建AllFaith宗教表征基准，评估LLM在回答日常伦理问题时是否提及宗教，发现模型普遍存在省略宗教框架的偏见，尤其在个人实际情境中更为明显。

Reducing Bias and Variance: Generative Semantic Guidance and Bi-Layer Ensemble for Image Clustering

减少偏差与方差：用于图像聚类的生成语义引导与双层集成

Feijiang Li, Zhenxiong Li, Jieting Wang, Zizheng Jiu, Saixiong Liu, Liang Du

机构 * Institute of Big Data Science and Industry（大数据科学与产业研究院） ； Key Laboratory of Evolutionary Science Intelligence of Shanxi Province（山西省进化智能科学重点实验室） ； School of Artificial Intelligence, Shanxi University（山西大学人工智能学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 提出GSEC框架，通过生成语义引导减少偏差、双层集成学习降低方差，在六个基准数据集上超越18种最新方法。

A measurement substrate for agentic Kubernetes operations: Methodology and a case study in retrieval-compounding falsification

面向代理化 Kubernetes 操作的测量基础：方法论与检索复合证伪案例研究

Joshua Odmark, Gideon Rubin, Deon van der Vyver

机构 * Independent（独立） ； LDE ； Cognyx 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出一个闭环测量框架 agent-breakage，通过注入故障、评分响应并累积带标签元组，解决 Kubernetes 操作代理经验声明的不可证伪性问题，并在案例研究中发现检索复合能力被三个混杂因素（pgvector 索引错误、+19% 选择偏差、小样本夸大效应约 3 倍）所掩盖。

Comments 22 pages. Code at https://github.com/odmarkj/agent-breakage tag v0.1.0 (Apache 2.0). Source repo at https://github.com/odmarkj/agent-breakage-paper tag arxiv-v1

Resting Neurons, Active Insights: Robustifying Activation Sparsity in LLMs via Spontaneity

静息神经元，主动洞察：通过自发性增强LLM中的激活稀疏性

Haotian Xu, Jiannan Yang, Tian Gao, Tsui-Wei Weng, Tengfei Ma

机构 * IBM Thomas J. Watson Research Center, Yorktown Heights, USA（IBM 托马斯·J·沃森研究中心，美国Yorktown Heights） ； Halıcıoğlu Data Science Institute, UC San Diego, La Jolla, USA（哈利奇欧数据科学研究所，美国UC圣地亚哥La Jolla） ； Stony Brook University, Stony Brook, USA（史泰文·布鲁克大学，美国Stony Brook） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出了一种通过引入自发神经元（SPON）来增强LLM中激活稀疏性的方法，解决了高稀疏率下模型精度下降的问题，通过分布匹配训练SPON，使模型在稀疏计算中保持稳定和泛化能力。

Comments ICML 2026

Multimodal LLMs under Pairwise Modalities

基于成对模态的多模态大语言模型

Yan Li, Yunlong Deng, Yuewen Sun, Gongxu Luo, Kun Zhang, Guangyi Chen

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出了一种基于成对模态训练多模态大语言模型的方法，通过理论分析和表示学习框架，实现了跨模态对齐和重构，提升了模型的跨模态性能。

VERA-MH: Validation of Ethical and Responsible AI in Mental Health

VERA-MH：心理健康领域伦理和负责任AI的验证

Luca Belli, Kate H. Bentley, Josh Gieringer, Emily Van Ark, Nilu Zhao, Pradip Thachile, Matt Hawrilenko, Millard Brown, Adam M. Chekroud

机构 * Spring Health ； Yale University（耶鲁大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出VERA-MH，一种用于评估心理健康支持聊天机器人安全性的新型临床验证方法，重点评估聊天机器人在识别自杀倾向风险方面的表现。

Equilibrium Selection in Multi-Agent Policy Gradients via Opponent-Aware Basin Entry

通过对手感知盆地入口进行多智能体策略梯度的均衡选择

Yevhen Shcherbinin, Arina Redina, Maxim Kalpin, Vlad Kochetov

机构 * Bloomsbury Technology（布洛姆斯伯里技术） ； London School of Economics and Political Science（伦敦政治经济学院） ； University of Bristol（布里斯托大学） ； Johannes Kepler University Linz（林茨约翰尼斯·开普勒大学） ； Odesa Polytechnic National University（敖德萨国立技术大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本文研究了多智能体策略梯度方法在局部收敛到稳定纳什均衡时的均衡选择问题，提出通过对手感知的盆地入口概率机制来提升目标均衡集的进入概率，并通过实验验证了该机制在合作盆地中的有效性。