大模型对齐与安全

SPECTRA: Revealing the Full Spectrum of User Preferences via Distributional LLM Inference

SPECTRA：通过分布化LLM推理揭示用户偏好的全频谱

Luyang Zhang, Jialu Wang, Shichao Zhu, Beibei Li, Zhongcun Wang, Guangmou Pan, Yang Song

机构 * Carnegie Mellon University（卡内基梅隆大学） ； TikTok Inc.（TikTok公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 提出SPECTRA方法，将微调后的LLM视为隐式概率模型，通过探测softmax层推断用户偏好的概率分布，有效恢复长尾偏好并提升公平性。

MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models

MorphoQuant: 面向全模态大语言模型的模态感知量化

Yue Wu, Changyuan Wang, Zixuan Wang, Shilin Ma, Yansong Tang

机构 * institutetext: MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models Yue Wu Changyuan Wang Zixuan Wang Shilin Ma Yansong Tang（机构文本：MorphoQuant：多模态大语言模型的模态感知量化 Yue Wu 王昌元 王梓轩 马世林 唐彦松） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出MorphoQuant框架，通过分布感知偏差补偿和形态导向量化函数优化，解决全模态大语言模型在4比特后训练量化中的分布异质性和异常值问题，实现精度与效率的优异平衡。

PILOT Technical Report

PILOT技术报告

Jiuning Lin, Ruiquan Lan, Xiaodong Zhu, Bin Zhang, Chengyu Lai, Chuxin Chen, Dimin Wang, Han Zhu, Hongtao Cheng, Jialin Zhu, Lingqing Zhang, Shuai Zhong, Tao Wang, Weipeng Huang, Yinjiang Cai, Yinnan Song, Yuan Liu, Zhibo Xiao, Zhixin Ma, Zihong Huang

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 该研究针对现有推荐系统优化智能体方法的反应式缺陷，提出PILOT框架，通过三类角色构建控制循环，在淘宝平台对比ROAM验证，实现多项指标提升且搜索效率显著提高，无需人工干预。

Comments Technical Report, 42 pages, 10 figures

Organizational Control Layer: Governance Infrastructure at the Execution Boundary of LLM Agent Systems

组织控制层：LLM代理系统执行边界的治理基础设施

Tianyu Shi, Yang Mo, Yiou Liu, Zhuonan Hao, Yin Wang, Wenzhuo Hu, Nan Yu, Meng Zhou, Jiangbo Yu

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对LLM代理在执行边界产生的动作治理问题，提出组织控制层（OCL），通过策略执行和升级机制拦截生成动作，在不修改底层LLM生成器的情况下将不安全执行从88%降至接近零，同时将有效成功率从12%提升至96%。

Comments 13 pages, 2 figures

Reinforcement Learning for Freeway Lane-Change Regulation via Connected Vehicles

基于网联车辆的高速公路车道变更调控强化学习方法

Ke Sun, Huan Yu

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对低自动驾驶渗透率下车道变更控制适用性受限的问题，提出基于多智能体强化学习的网联车辆高速公路车道变更调控框架，可提升交通效率并保障安全。

Improving ASR Fairness for Cleft Lip and Palate Speech: A Study on Severity-Aware Data Mixing

改善唇腭裂语音的自动语音识别公平性：一项关于严重程度感知数据混合的研究

Susmita Bhattacharjee, Jagabandhu Mishra, H. S. Shekhawat, Ravi Jasuja, S. R. Mahadeva Prasanna

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 该研究针对唇腭裂（CLP）语音的ASR公平性问题，提出严重程度感知的CLP与正常语音混合策略，在AIISH和NMCPC数据集上使GMM-HMM、Whisper等模型的词错误率显著降低，提升了ASR公平性。

Comments Submitted to Speech Communication

SMSP: A Plug-and-Play Strategy of Multi-Scale Perception for MLLMs to Perceive Visual Illusions

SMSP：多尺度感知的插件策略用于MLLMs感知视觉错觉

Jinzhe Tu, Ruilei Guo, Zihan Guo, Junxiao Yang, Shiyao Cui, Minlie Huang

机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University（清华人工智能（CoAI）小组，DCST，清华大学） ； Tsinghua University（清华大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文提出SMSP策略，通过抑制高频背景以提升MLLMs对视觉错觉的识别能力，实验表明其显著提高模型性能。

Recognition Without Mitigation: Ethical Frameworks in Autonomous Offensive-LLM Agent Research

自主渗透测试代理研究中的伦理声明

Andreas Happe, Jürgen Cito

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文分析利用大语言模型进行进攻性安全研究的论文，探讨伦理考量的表达与合理性，揭示学术社区在创新与伦理责任之间的平衡现状。

Comments Accepted at AutonomousCyber 2026

Bridging the Gap on AI-Assisted Scientific Software Development Through Transparency and Traceability

通过透明性和可追溯性弥合人工智能辅助科学软件开发的差距

Chaitanya Bhave, Pierre-Clément A. Simon, Casey Icenhour, Lin Yang, Cody J. Permann, Daniel Schwen, Christopher S. Ritter

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文探讨了在严格软件质量保证背景下如何负责任地使用人工智能辅助科学软件开发，提出了一种结构化框架用于AI辅助的验证与验证案例开发，以确保软件质量。

Comments 11 figures, 25 main pages (42 total pages including supplementary materials)

DobicVLM: Aligning Chest X-Ray Report Generation with Clinically-Grounded Programmatic Rewards via Group Relative Policy Optimization

DobicVLM：通过群体相对策略优化使胸部X光报告生成与临床基础的程序化奖励保持一致

Thanni Adewuyi, Angelica Obayi, Andem Aniekan, Samuel Okoko, Angel Ezendu, Ephraim Usani, Ademide Animasaun, Philip Chibundu, Christian Maurice, Mary Donald Essien, Oluwaseun Odunsi, Oluwasegun Oguntuase, Abiodun Adereni

机构 * Dobic Health（多比克健康公司） ； University of Ibadan（伊巴丹大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 研究针对自动胸部X光报告生成难题，提出DobicVLM模型，结合监督微调、GRPO及临床奖励，用可解释规则组件执行标准，经训练和评估，该模型多数标准优于Gemini 2.5 Flash，证明GRPO在资源受限设置中的价值。

Move-Then-Operate: Behavioral Phasing for Human-Like Robotic Manipulation

移动-然后-操作：用于类人机器人操作的行为相位

Haoming Xu, Lei Lei, Jie Gu, Chu Tang, Jingmin Chen, Ruiqi Wang

机构 * Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences, Hangzhou, China.（杭州高等研究院，中国科学院大学，中国杭州） ； University of Science and Technology of China, Hefei, China.（中国科学技术大学，中国合肥） ； School of Aritificial intelligence, Institute of Artificial Intelligence, University of Science and Technology Beijing, Beijing, China（人工智能学院，人工智能研究院，北京科技大学，中国北京） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 本文提出Move-Then-Operate框架，将机器人操作分为粗略移动和接触关键交互两个阶段，通过双专家策略提升操作精度与效率。

Comments 15 pages, 10 figures

Multi-Agent LLM Governance for Safe Two-Timescale Reinforcement Learning in SDN-IoT Defense

多智能体LLM治理：SDN-IoT防御中安全的两时间尺度强化学习

Saeid Jamshidi, Negar Shahabi, Foutse Khomh, Carol Fung, Mohammad Hamdaqa

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 提出两时间尺度SDN-IoT防御方案，快时间尺度使用PPO智能体进行控制器感知的缓解，慢时间尺度使用多智能体LLM治理引擎生成可审计的策略更新，在保证安全约束下提升防御性能。

Ablation Study of a Fairness Auditing Agentic System for Bias Mitigation in Early-Onset Colorectal Cancer Detection

公平性审计代理系统在早发性结直肠癌检测中缓解偏见的消融研究

Amalia Ionescu, Jose Guadalupe Hernandez, Jui-Hsuan Chang, Emily F. Wong, Paul Wang, Jason H. Moore, Tiffani J. Bright

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 提出双代理架构（领域专家代理+公平性顾问代理），通过消融实验比较不同配置下大语言模型在公平性审计中的表现，发现带RAG的代理系统在识别差异方面语义相似度最高。

Harnessing Embodied Agents: Runtime Governance for Policy-Constrained Execution

利用具身体 agent：运行时治理以实现政策约束执行

Xue Qin, Simin Luan, John See, Zeyd Boukhers, Cong Yang, Zhijun Li

机构 * School of Software, Harbin Institute of Technology（哈尔滨工业大学软件学院） ； School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院） ； School of Mathematical and Computer Sciences, Heriot-Watt University, Malaysia Campus（赫瑞-沃德大学马来西亚校区数学与计算机科学学院） ； School of Future Science and Engineering, Soochow University（苏州大学未来科学与工程学院） ； Fraunhofer Institute for Applied Information Technology（弗劳恩霍夫应用信息技术研究所） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文提出了一种政策约束执行框架，通过将 agent 认知与执行监督分离，增强了具身体 agent 的运行时治理能力，通过 1000 次随机模拟验证，显著提高了对未经授权动作的拦截率和系统恢复成功率。

Comments 36 pages, 3 figures, 10 tables