大模型对齐与安全

$ϕ$-Scene: Physically Grounded Image-to-3D Scene Reconstruction

$\phi$-Scene: 物理驱动的图像到3D场景重建

Haodong Li, Lulu Shao, Haolin Lu, Yu Fu, Yen-Ru Chen, Seemandhar Jain, Manmohan Chandraker

机构 * University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出$\phi$-Scene方法，将单图像3D场景重建视为拓扑驱动的物理组装过程，通过SDF优化和刚体仿真解决穿透与不稳定接触问题，在3D-Front数据集上取得最优性能。

Comments Project page: https://phi-scene.github.io/

VAGNet: Vision-based Accident Anticipation with Global Features

VAGNet：基于视觉的事故预测与全局特征

Vipooshan Vipulananthan, Charith D. Chitraranjan

机构 * Department of Computer Science and Engineering, University of Moratuwa（moratuwa大学计算机科学与工程系） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出VAGNet，通过全局特征预测事故，提升实时性与效率，实验显示在四个数据集上精度和响应时间均优于现有方法。

Comments Published in IEEE Open Journal of Vehicular Technology (OJVT)

Journal ref IEEE Open Journal of Vehicular Technology, vol. 7, pp. 1873-1883, 2026

AdaptPrompt: Parameter-Efficient Adaptation of VLMs for Generalizable Deepfake Detection

AdaptPrompt: 为通用深度伪造检测高效调整视觉语言模型参数

Yichen Jiang, Mohammed Talha Alam, Sohail Ahmed Khan, Duc-Tien Dang-Nguyen, Fakhri Karray

机构 * University of Waterloo（滑铁卢大学） ； University of Bergen（卑尔根大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 AdaptPrompt通过参数高效迁移学习框架，利用CLIP模型提升深度伪造检测的泛化能力，实现跨领域和少量样本下的高准确率识别。

Comments Accepted at DFF ACM Multimedia 2026

AI Alignment and Fiduciary Obligation

AI对齐与受托义务

Benjamin Lange

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文提出将受托理论应用于长期AI助手部署，以开发者对用户负有的忠诚、注意、善意和坦诚四项受托义务为基础构建AI对齐标准，为AI对齐研究提供新视角。

Comments 10 pages, 1 table. Accepted at the 9th AAAI/ACM Conference on AI, Ethics, and Society (AIES 2026)

Motion-Aware Vision-Reference Alignment for Referring Multi-Object Tracking

基于多模态大语言模型的视觉-运动-参考对齐的指称多目标跟踪

Weiyi Lv, Ning Zhang, Hanyang Sun, Haoran Jiang, Kai Zhao, Yixiao Gu, Jing Xiao, Dan Zeng

机构 * Shanghai University（上海大学） ； PAII Inc.（PAII公司） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)

AI总结 VMRMOT通过多模态大语言模型实现视觉-运动-参考对齐，提升指称多目标跟踪的性能。

Comments Accepted by IEEE Transactions on Multimedia

Hidden in the Request: Explaining Unethical LLM Compliance through Token Relevance

隐藏在请求中：通过词元相关性解释不道德的大语言模型合规性

Or Biton, Tomer Krichli, Itai Allouche, Joseph Keshet

机构 * Faculty of Electrical and Computer Engineering, Technion（以色列理工学院电气与计算机工程学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；harmlessness(abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对LLMs在不道德场景下的合规性失败问题，提出LRP引导的解码方法，发现模型对提示词元的归因不足是关键原因，干预后可提升响应安全性。

A Survey on Human-AI Collaboration with Large Foundation Models

大型基础模型下的人机协作研究综述

Vanshika Vats, Marzia Binta Nizam, Minghao Liu, Ziyuan Wang, Richard Ho, Mohnish Sai Prasad, Vincent Titterton, Sai Venkat Malreddy, Riya Aggarwal, Yanwen Xu, Lei Ding, Jay Mehta, Nathan Grinnell, Li Liu, Sijia Zhong, Devanathan Nallur Gandamani, Xinyi Tang, Rohan Ghosalkar, Celeste Shen, Rachel Shen, Nafisa Hussain, Kesav Ravichandran, James Davis

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 该综述围绕人类引导模型开发等四方面，分析大型基础模型（LFMs）与人机协作（HAI）的机遇、风险与挑战，指出成功的HAI系统需以人为本设计，助力将LFMs力量转化为可靠的人机伙伴关系。

Comments Accepted in ACM Transactions on Intelligent Systems and Technology (ACM-TIST)

Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning

锚定偏差：一种针对持续学习下多模态大语言模型（MLLMs）的持久公平性后门攻击

Yuyang Luo, Kai Shu

机构 * Emory University（埃默里大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 针对持续学习下的多模态大语言模型，研究人员提出持久公平性后门攻击，通过两种机制注入持久群体歧视，该攻击能规避标准防御且在多轮持续学习中留存。

Comments CIKM 2026

MAVEN-T: Reinforced Heterogeneous Distillation for Real-Time Multi-Agent Trajectory Prediction

MAVEN-T：用于实时多智能体轨迹预测的强化异构蒸馏

Wenchang Duan, Zhenguo Gao, Jinguo Xian, Yi Shi

机构 * School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； Bio-X Institutes, Key Laboratory for the Genetics of Developmental and Neuropsychiatric Disorders, Shanghai Jiao Tong University（上海交通大学Bio-X研究院、发育与神经精神疾病遗传学重点实验室） ； Shanghai Key Laboratory of Psychotic Disorders, Brain Science and Technology Research Center, Shanghai Jiao Tong University（上海精神疾病重点实验室、脑科学与技术研究中心，上海交通大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出MAVEN-T框架，通过高容量教师模型和紧凑学生模型的异构蒸馏，结合强化学习优化，实现实时多智能体轨迹预测，在多个数据集上达到高精度与低延迟。

AIREP: A Protocol for Per-Decision Evidence in AI Runtime Governance

AIREP：AI运行时治理中逐决策证据的协议

Ali Toygar Abak

机构 * Phionyx Research（菲奥尼克斯研究院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 AIREP是一种用于记录自动化AI运行时治理决策的协议，以签名对象形式存储决策，通过SHA-256哈希链防篡改，可供相关AI运行时采用。

Comments 8 pages. Reference implementation and two-verifier conformance kit: https://github.com/halvrenofviryel/ai-runtime-evidence-protocol

Reduce the Artifacts Bias for More Generalizable AI-Generated Image Detection

降低艺术偏差以提高通用性的人工智能生成图像检测

Yiheng Li, Yang Yang, Wenhao Wang, Zichang Tan, Zecheng Lin, Li Gao, Zhen Lei

机构 * School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所MAIS部门） ； Sangfor Technologies Inc.（Sangfor技术公司） ； China Mobile Financial Technology Co., Ltd.（中国移动金融科技有限公司） ； CAIR, HKSIS, Chinese Academy of Sciences（中国科学院CAIR、HKSIS部门） ； SCSE, FIE, M.U.S.T, Macau, China（澳门SCSE、FIE、M.U.S.T部门） ； Vast Intelligence Lab, Sydney, Australia（悉尼澳大利亚Vast Intelligence Lab） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 本文提出SEF框架，通过分离专家融合减少领域干扰，提升AI生成图像检测的通用性与鲁棒性，实验表明在13个基准上表现优异。

Comments preprint

From Isolation to Alignment: Unified LoRA for Efficient Multi-Task Learning

从孤立到对齐：用于高效多任务学习的统一LoRA

Jinda Liu, Yi Chang, Yuan Wu

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对多任务PEFT中复杂LoRA变体的范式提出挑战，提出统一高效的Align-LoRA框架，通过显式对齐损失实现表示对齐，保留标准LoRA架构并实现零推理延迟，性能优于现有方法。

Comments Accepted by EMNLP

Aligning Biomedical Texts and Knowledge Graphs: A Systematic Comparison of Lightweight Alignment Strategies

生物医学文本与知识图谱的对齐：轻量对齐策略的系统比较

Artem Bisliouk, Elizaveta Nosova, Heiko Paulheim, Andreea Iana, Rita T. Sousa

机构 * University of Mannheim（曼海姆大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本研究提出统一框架系统比较生物医学文本与KG的轻量对齐策略，构建CTD-Align语料库，发现三元组组合和训练方向影响最大，线性投影效果最优，为二者桥接提供实用基础。

Comments Accepted at the Third Workshop on Knowledge Graphs and Neurosymbolic AI (KG-NeSy 2026) co-located with ISWC 2026

Predicting Multilingual Classification and Translation Performance of LLMs with Cross-Lingual Alignment -- Is English Enough?

用跨语言对齐性预测大语言模型的多语言分类与翻译性能——英语足够了吗？

Adnan Al Ali, Kathy Hämmerl, Jindřich Libovický, Alexander Fraser

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 该研究对比分析27种跨语言对齐分数变体，提出基于PMI的翻译指标，发现用英语的跨语言对齐可相当或更好预测LLMs翻译性能，为LLMs以英语为内部枢纽语言提供新证据。

Comments Accepted to EMNLP 2026

Large Language Models Generate Harmful Responses Using a Distinct Mechanism, Shared Across Harm Types

大语言模型通过一种独特的统一机制生成有害内容

Hadas Orgad, Boyi Wei, Kaden Zheng, Martin Wattenberg, Peter Henderson, Seraphina Goldfarb-Tarrant, Yonatan Belinkov

机构 * Kempner Institute, Harvard University（哈佛大学肯普纳研究所） ； Princeton University（普林斯顿大学） ； Harvard University（哈佛大学） ； Cohere ； Technion—IIT（以色列理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过权重剪枝揭示大语言模型中有害生成的内部结构，发现有害内容生成依赖于一组通用且与良性能力不同的权重，表明对齐训练重塑了有害表示，解释了领域微调引发的广泛对齐偏差。

Verbalizing LLMs' assumptions to explain and control sycophancy

使LLM的假设 verbal化以解释和控制谄媚行为

Myra Cheng, Isabel Sieh, Humishka Zope, Sunny Yu, Lujain Ibrahim, Aryaman Arora, Jared Moore, Desmond Ong, Dan Jurafsky, Diyi Yang

机构 * Stanford University（斯坦福大学） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出Verbalized Assumptions框架，通过揭示LLM对用户的错误假设来解释和控制其谄媚行为，发现LLM在面对用户提问时倾向于提供验证而非客观信息，进而提出可解释的细粒度控制方法。

Comments COLM 2026

Do Spoken Language Models Hear Speech as They Read Text? Bridging Structural Gaps Between Speech and Text

口语语言模型在阅读文本时是否“听到”语音？弥合语音与文本之间的结构差距

Hyeonyu Kim, Hwayeon Kim, Youngwon Choi, Myeongkyun Cho, Huu-Kim Nguyen

机构 * Maum AI Inc.（Maum AI公司） ； KAIST（韩国科学技术院） ； Atmanity Inc.（Atmanity公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对现有口语语言模型（SLMs）未充分解决语音与文本结构差异的问题，提出解耦长度不匹配与语义对齐的框架，经多基准实验验证其性能可与强基线媲美，凸显了明确解决语音文本结构差异的重要性。

Comments Accepted to EMNLP 2026 Findings

LLMs for Survey Text Analysis - A Performance Comparison Between Humans and GPT-5 on Inductive Content Analysis

用于调查文本分析的大语言模型（LLMs）：人类与GPT-5在归纳内容分析上的性能比较

Leonardo Bergmann, Renata Gheorghiu, Ana Gvritishvili, Alex Mican, Chris Stewart, Topias Tolonen-Weckström

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究对比人类与GPT-5.4在903份欧洲博士生调查开放式回答的归纳内容分析中的性能，发现GPT-5.4编码的ARI为0.61，可近似人类编码表现，或可作为归纳质性分析的可扩展支持工具。

Improving Energy Efficiency of Oil Platforms Through Optimal Loading of Diesel Generators Using Machine Learning and Search Algorithms

基于机器学习与搜索算法优化柴油发电机负载，提升石油平台能效

Khivishta Boodhoo, Josh Plumbly, Nicholas Watson

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本研究针对海上石油平台能源低效问题，采用机器学习构建柴油消耗预测模型，结合搜索算法优化发电机负载，实现日均27%的柴油消耗降低，为平台能效提升提供可行方案。

Dynamic Relational Priming Improves Transformer in Multivariate Time Series

动态关系先验提升Transformer在多变量时间序列中的表现

Hunjae Lee, Corey Clark

机构 * Department of Computer Science, Southern Methodist University, Dallas TX USA（计算机科学系，南方 Methodist 大学，德克萨斯州达拉斯） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出动态关系先验注意力机制（prime attention），通过为每个token对动态调整表示，有效捕捉多变量时间序列中异构的通道间依赖关系，在保持相同计算复杂度下提升预测精度达6.5%。

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML). 2026

Effects of Theory of Mind and Prosocial Beliefs on Steering Human-Aligned Behaviors of LLMs in Ultimatum Games

心理理论与亲社会信念对最后通牒博弈中大型语言模型的人类对齐行为的影响

Neemesh Yadav, Yihuai Lan, Shan Dong, Mai Hieu Hien, Palakorn Achananuparp, Jing Jiang, Ee-Peng Lim

机构 * Singapore Management University（新加坡管理大学） ； Australian National University（澳大利亚国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究以最后通牒博弈为任务，赋予LLM不同亲社会信念与推理方法，开展2700次模拟，发现ToM推理可增强LLM行为对齐度等，且不同游戏角色适配不同ToM顺序，Llama 3.3 70B的推理与行动信念最一致。

Mitigating Speaker Leakage in Cascaded Multi-talker ASR with Diarization-based Transcript Correction

基于说话人 diarization 的转录校正缓解级联多说话人自动语音识别中的说话人泄漏

Hermann Yepdjio Nkouanga, Minwei Luo, Maggie Wigness, Suresh Singh

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 该研究针对级联多说话人自动语音识别中的说话人泄漏问题，提出基于剪枝的校正范式，利用预训练说话人 diarization 模型剪枝转录片段，在多语料库上实现 cpW ER 最高相对降低 29%，提升了转录可靠性。

Comments Accepted to INTERSPEECH 2026

From Multimodal Observation to Interpretable Suggestions: Counterfactual Time-Expanded Relational Modeling of Surgical Teams

从多模态观察到可解释建议：手术团队的反事实时间扩展关系建模

Vincenzo Marco De Luca, Antonio Longa, Giovanna Varni, Andrea Passerini

机构 * University of Trento（特伦托大学） ； UiT the Arctic University of Norway（挪威北极大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 针对现有外科AI忽略团队互动建模的问题，提出tempo-relational框架结合Time-Expanded图，通过反事实程序生成可解释建议，在模拟手术实验中提升了多目标预测性能。

Comments Accepted at ACM Multimedia 2026

Thinking at the Right Size: Amortized Distillation Across Post-Trained LLMs

合适规模的思考：跨后训练大语言模型的摊销蒸馏

Yan Zhou, Sara Kangaslahti, Jonathan Geuter, Nihal V. Nayak, Marco Fumero, Francesco Locatello, David Alvarez-Melis

机构 * Harvard University（哈佛大学） ； IST Austria（奥地利科学技术研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 该研究提出ADAPT框架，可单次蒸馏生成跨后训练大语言模型的多规模多变体模型，实现平滑规模插值与自适应规模选择，优化长文本推理的计算-准确率权衡。

Comments 8 pages, 6 figures. EMNLP 2026 Findings

Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions

面向协作任务的模型一致、拜占庭容错的去中心化联邦学习

Yue Li, Sudip Bhujel, Cameron Lira, Ning Wang, Yang Xiao

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出DFL-C架构，将ACS共识协议与双域信任评分机制结合，实现拜占庭容错的全局模型一致去中心化联邦学习，在非IID场景下优于BALANCE方案。

Comments Accepted for publication at the IEEE Conference on Communications and Network Security (CNS), 2026

Don' t Box Me In: Dynamic Cultural Adaptation and Cognitive Tracking for Social Understanding

不要限制我：面向社会理解的动态文化适应与认知跟踪

Chongyuan Dai, Yaling Shen, Shengeng Tang, Hui Ma, Jinpeng Hu

机构 * Hefei University of Technology（合肥工业大学） ； Monash University（莫纳什大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文针对现有LLMs将文化建模为静态属性的局限，提出无需训练的DyCAC框架，结合动态文化适应与心理理论驱动的认知跟踪，在多元文化互动基准上展现出更优社会智能与适应性。

Comments EMNLP 2026 Findings

Pre-Decoding Acoustic Triage for Budgeted Vision-Language Captioning of Untrimmed Egocentric Video

面向未修剪自我中心视频的预算受限视觉-语言字幕生成的预解码音频分诊

Masoud Jalayer, Changyi Li, Yu Xiao

机构 * Aalto University（阿尔托大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究针对预算受限的未修剪自我中心视频视觉-语言字幕生成问题，提出预解码音频分诊策略，通过音频优先选择窗口减少VLM调用，提升动作覆盖率，在多个数据集上优于现有方法。

Comments 18 pages, 5 figures, 9 tables. Under review at IEEE BigData 2026, Industrial and Government Track. Code: https://github.com/masjalayer/PreDecoding-AcousticTriage

CD-LoRA: Consistency-Driven Low-Rank Adaptation for Multi-Task Fine-Tuning

CD-LoRA：面向多任务微调的一致性驱动低秩适配

Qian Zha, Jinda Liu, Yuan Wu, Yi Chang

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； International Center of Future Science, Jilin University（吉林大学未来科学国际中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 该研究针对多任务LoRA方法存在的训练-推理不一致问题，提出无路由的CD-LoRA，通过一致性驱动对齐机制提升多任务微调的稳定性与性能，优于现有多适配器基线。

DamageScope: Vision-Language Retrieval at Scale for Disaster Damage Assessment from Satellite Imagery

DamageScope：面向卫星图像灾害损失评估的大规模视觉-语言检索方法

Ravi K. Rajendran, Biplob Debnath, Murugan Sankaradas, Srimat T. Chakradhar

机构 * NEC Laboratories America（美国 NEC 实验室） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

AI总结 DamageScope是一种结合VLMs与LLMs的检索增强框架，通过多向量嵌入聚类和双存储架构，实现了卫星图像灾害损失评估的高效自动化，可扩展性与运营效率优异。

Emergent Misaligned Communication in Long-Horizon Multi-Agent LLM Commerce

长视野多智能体大语言模型商业环境中涌现的对齐失效通信

Zeyuan Li, Lukas Petersson, Alessandro Acquisti, Michiel A. Bakker

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究在Vending-Bench Arena环境中发现，竞争多智能体LLM交易场景会涌现与操作稀缺性、对手行为相关的可测量对齐失效通信，且该现象不受模型能力排名直接影响。