大模型对齐与安全

RealityTest: How People Probe AI Identity and Whether Models Disclose It

RealityTest: 人们如何探查AI身份以及模型是否披露它

Anna Gausen, Sarenne Wallbridge, Bessie O'Dell, Christopher Summerfield, Hannah Rose Kirk

机构 * AI Security Institute（人工智能安全研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 通过收集来自49个国家约750名参与者的3152个身份探查查询，构建首个大规模多模态多语言基准RealityTest，发现仅31%的人在模糊场景中直接询问身份，且问题多样性远超机器生成查询，测试17个文本和6个语音模型后发现，问题措辞和对话上下文比模型本身对披露行为影响更大。

Comments 9 pages, 4 figures

From Parliamentary Rhetoric to Enacted Law: An NLP Pipeline for Semantic Auditing of the Greek Legislative Process

从议会修辞到制定法：用于希腊立法过程语义审计的NLP流水线

Despoina Antonakaki, Sotiris Ioannidis

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 提出一个多模态计算流水线，通过NLP分析议会辩论和立法文本，揭示法律复杂性、模糊性以及政治承诺与法律实施之间的差距。

Casual as an Anchor: Resolving Supervision Misalignment in Formality Transfer Dataset

Casual 作为锚点：解决语体转换数据集中的监督偏差

Hyojeong Yu, Hyukhun Koh, Minsung Kim, Kyomin Jung

机构 * Seoul National University（首尔国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出将语体转换重新概念化为一个分级维度，引入三层次谱系（非正式、随意、正式），并构建3LF数据集以解决现有基准中监督信号偏差导致的非正式到正式转换失败问题。

Comments HEAL@CHI 2026 Workshop Paper

LISTEN to Your Preferences: An LLM Framework for Multi-Objective Selection

LISTEN 你的偏好：面向多目标选择的LLM框架

Adam S. Jovine, Tinghan Ye, Francis Bahk, Jingjing Wang, Matthew Ford, David B. Shmoys, Peter I. Frazier

机构 * Cornell University（康奈尔大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出LISTEN框架，利用LLM作为决策代理，通过迭代优化内部偏好模型（LISTEN-U参数法或LISTEN-T非参数法）从自然语言中学习用户隐含偏好，实现多目标选择。

Comments Accepted at IJCAI-ECAI 2026 (the 35th International Joint Conference on Artificial Intelligence)

SHERLOCK: Towards Dynamic Knowledge Adaptation in LLM-enhanced E-commerce Risk Management

SHERLOCK：面向LLM增强电商风险管理的动态知识适应

Nan Lu, Yurong Hu, Jiaquan Fang, Yan Liu, Rui Dong, Yiming Wang, Rui Lin, Shaoyi Xu

机构 * Beijing Jiaotong University（北京交通大学） ； JD.com（京东公司） ； Southeast University（东南大学） ； Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出Sherlock框架，通过构建领域知识库、两阶段检索增强生成和自演化数据飞轮，将结构化知识与LLM推理结合，提升电商风险案例调查的效率和准确性。

Rethinking Scientific Modeling: Toward Physically Consistent and Simulation-Executable Programmatic Generation

重新思考科学建模：迈向物理一致且可模拟执行的程序化生成

Yongqing Jiang, Jianze Wang, Zhiqi Shen, Zhenghong Lin, Jiayuan Wang, Yijian Yang, Kaoshan Dai, Haoran Luo

机构 * Sichuan University（四川大学） ； Nanyang Technological University（南洋理工大学） ； Fuzhou University（福州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对大型语言模型在工程建模中生成代码的物理不一致问题，提出结合领域知识构建、约束对齐和验证驱动的框架，并引入CivilInstruct数据集和MBEval基准，通过两阶段微调提升模型生成的可执行性和物理一致性。

Matter to Mechanism: A Benchmark for AI Co-Scientists in Materials and Battery Research

物质到机制：材料与电池研究中AI合作科学家的基准

Shashwat Sourav, Tanjin. He, Maria K. Y. Chan, Anubhav Jain, Tirthankar Ghosal

专题命中 安全评测 ：alignment(abstract)

AI总结 提出Matter to Mechanism基准，通过结构化问题-假设推理任务评估AI合作科学家在材料科学（特别是电池研究）中的表现，并引入复合评分体系。

Comments 18 pages, 2 figures

DECKER: Domain-invariant Embedding for Cross-Keyboard Extraction and Recognition

DECKER: 跨键盘提取与识别的域不变嵌入

Bikrant Bikram Pratap Maurya, Nitin Choudhury, Daksh Agarwal, Arun Balaji Buduru

机构 * IIIT-Delhi（印度德里理工学院） ； Guru Gobind Singh Indraprastha University（戈克辛格印度教大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对键盘声学侧信道攻击的跨键盘、跨用户和噪声环境泛化问题，提出包含四阶段域不变击键推理框架DECKER，并构建了多维度数据集HEAR，实验表明该方法在跨键盘和跨用户场景下显著提升击键识别性能。

Comments Accepted to AsiaCCS'26

FlowOVD: Learning Generative Latent Flows for Zero-shot Open-vocabulary Detection

FlowOVD: 学习生成式潜在流用于零样本开放词汇检测

Yao Wei, Andrea Cavallaro, Changjae Oh

机构 * Queen Mary University of London（伦敦女王学院） ； EPFL（瑞士联邦理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出FlowOVD，基于修正流的文本条件查询生成框架，通过连续潜在查询动态实现开放词汇检测，在COCO和LVIS上分别达到49.5 AP和31.5 AP，优于GroundingDINO。

Wavelet-Fusion Diffusion Model for Multimodal Brain MRI Synthesis with Modality and Metadata Conditioning

小波融合扩散模型用于多模态脑MRI合成，具有模态和元数据条件

Muhammad Nabi Yasinzai, Remika Mito, Mangor Pedersen

机构 * Department of Psychology & Neuroscience, Auckland University of Technology（心理学与神经科学系，奥克兰技术大学） ； Department of Psychiatry, University of Melbourne（精神病学系，墨尔本大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出一种小波融合扩散模型（WFDM），结合小波融合变分自编码器（WF-VAE）和条件3D U-Net扩散模型，通过显式模态和元数据条件实现多模态脑MRI合成，解决了数据集模态覆盖不均和异质性问题，在分布对齐上优于现有方法。

Comments 51 pages, 7 figures, including supplementary material. Submitted to Imaging Neuroscience

NeuroLog: Reasoning You Can Audit -- Neuro-Symbolic Vulnerability Discovery via LLM Facts, Datalog, and SMT

NeuroLog: 可审计的推理——通过LLM事实、Datalog和SMT进行神经符号漏洞发现

Sanjay Rawat

专题命中 安全评测 ：safety(abstract)

AI总结 提出NeuroLog流水线，结合LLM提取事实、Souffle规则组合和Z3后处理，实现无需构建的漏洞发现，并在多个真实项目中重新发现CVE级漏洞。

Through the PRISM: Principle-Aware, Interpretable, and Multi-Scale Evaluation of Visual Designs

通过PRISM：原则感知、可解释和多尺度的视觉设计评估

Mona Gandhi, KJ Joseph, Srinivasan Parthasarathy, Sayan Nag

机构 * Ohio State University（俄亥俄州立大学） ； Adobe Research（Adobe研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出PRISM基准和一种多尺度评估框架，通过原则扰动和分层分析实现可解释的设计质量评估。

Journal ref CVPR 2026 Findings

Specification-Driven Development Benchmark: Security Knowledge Transition

规范驱动开发基准：安全知识迁移

Oleg Grynets, Andrii Salyk, Vasyl Lyashkevych, Oleh Kaskun, Danyil Zhuravchak

专题命中 安全评测 ：safety(abstract)

AI总结 针对AI辅助规范驱动开发中安全行为隐式化的问题，提出多层规范安全模型和安全知识迁移方法，通过结构化安全知识提升生成系统的安全性。

Comments 15 pages, 7 figures, 8 tables, 32 references

Beyond Rigid: Benchmarking Non-Rigid Video Editing

超越刚性：非刚性视频编辑基准测试

Bingzheng Qu, Xuefeng Bai, Kehai Chen, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出NRVBench诊断基准，通过物理感知评估框架揭示传统指标在非刚性视频编辑中的不足，并引入VM-Edit基线分析稳定性-可塑性权衡。

Between a Rock and a Hard Place: The Tension Between Ethical Reasoning and Safety Alignment in LLMs

进退维谷：大型语言模型中伦理推理与安全对齐之间的张力

Shei Pern Chua, Zhen Leng Thai, Kai Jun Teh, Xiao Li, Qibing Ren, Xiaolin Hu

机构 * Department of Computer Science and Technology, Institute for AI, BNRist, Tsinghua University（计算机科学与技术系，人工智能研究院，BNRist，清华大学） ； IDG/McGovern Institute for Brain Research, Tsinghua University（IDG/麦克戈文脑科学研究院，清华大学） ； Chinese Institute for Brain Research (CIBR)（中国脑科学研究院（CIBR）） ； Shanghai Jiao Tong University（上海交通大学） ； ByteDance（字节跳动） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI

AI总结 本文提出TRIAL多轮红队方法，通过将有害请求嵌入伦理框架来利用模型伦理推理能力，并引入ERR防御框架（分层有害门控LoRA架构）以区分工具性回应与解释性回应，实现鲁棒防御。

Algorithmic Fragility and Persona Bias in LLM-Generated Autistic Communication

LLM生成的自闭症交流中的算法脆弱性与人格偏见

Naba Rizvi, Mohammed Rizvi, Harper Strickland, Saleha Ahmedi, Nedjma Ousidhoum

机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Georgia Institute of Technology（佐治亚理工学院） ； Cornell University（康奈尔大学） ； Cardiff University（卡迪夫大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 通过双人格改写范式，发现LLM在生成自闭症人格文本时存在词汇与情感偏离、输出坍塌等系统性失败，且对齐策略而非参数规模主导这些失败，表明当前对齐训练导致深层表征鸿沟。

Comments main paper: 9 pages; total: 19 pages; 2 figures; 5 tables

Learning from Mistakes: Can LLM Self-Recover after Misalignment?

从错误中学习：LLM 在错位后能否自我恢复？

Olga E. Sorokoletova, Francesco Giarrusso, Vincenzo Suriani, Daniele Nardi

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CY

AI总结 研究大语言模型在遭受恶意攻击后，是否具有内在的自我对齐恢复能力，并提出一种建模用户-助手交互安全轨迹并检测恢复趋势的方法。

Comments AAAI'26 Workshop (WS37), Machine Ethics: from formal methods to emergent machine ethics, January 20--27, 2026, Singapore

SafeMCP: Proactive Power Regulation for LLM Agent Defense via Environment-Grounded Look-Ahead Reasoning

SafeMCP：基于环境接地前瞻推理的LLM智能体防御主动功率调节

Lichao Wang, Zhaoxing Ren, Tianzhuo Yang, Jiaming Ji, Chi Harold Liu, Yaodong Yang, Juntao Dai

机构 * Beijing Institute of Technology（北京理工大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 针对LLM智能体因动作空间扩大而面临功率寻求风险，提出SafeMCP服务器端防御插件，通过内部世界模型进行前瞻推理，实现主动工具过滤和即时干预两级防御，在保持智能体效用的同时有效降低风险。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026), Main Conference

CSRP: Chain-of-Thought Reasoning for Chinese Text Correction via Reinforcement Learning with Efficiency-Aware Rewards

CSRP：基于效率感知奖励的强化学习链式推理中文文本纠错

Wei Tian, Yuhao Zhou, Man Lan

机构 * School of Computer Science and Technology, East China Normal University（东华大学计算机科学与技术学院） ； Shanghai Institute of Artificial Intelligence for Education, East China Normal University（东华大学教育人工智能研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出CSRP三阶段框架，通过连续预训练、链式推理监督微调和基于效率感知奖励的组相对策略优化，在NACGEC基准上实现最优性能，有效缓解过度纠正偏差。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026, Main conference)

LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition

LC-ERD：通过一致性调节奖励分解挖掘潜在逻辑以实现自我进化推理

Yanyu Chen, Jiyue Jiang, Dianzhi Yu, Zheng Wu, Jiahong Liu, Jiaming Han, Xiao Guo, Jinhu Qi, Yu Li, Yifei Zhang, Irwin King

机构 * The Chinese University of Hong Kong（香港中文大学） ； Shanghai Jiaotong University（上海交通大学） ； Fudan University（复旦大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对大语言模型推理中高质量过程数据稀缺的问题，提出LC-ERD框架，通过潜在逻辑挖掘和一致性调节的奖励分解，实现自我对齐与推理进化。

Comments Accepted in SIGKDD 2026 Research Track

Enhancing Trust Through Standards: A Comparative Risk-Impact Framework for Aligning ISO AI Standards with Global Ethical and Regulatory Contexts

通过标准增强信任：一种用于对齐ISO AI标准与全球伦理和监管背景的比较风险-影响框架

Sridharan Sankaran

机构 * Research and Innovation Group（研究与创新组） ； Tata Consultancy Services（塔塔咨询服务） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出比较风险-影响评估框架，分析ISO AI标准在不同监管环境下的伦理风险覆盖情况，并建议通过强制审计、区域附件和隐私模块增强其全球适用性。

Mitigating Perceptual Judgment Bias in Multimodal LLM-as-a-Judge via Perceptual Perturbation and Reward Modeling

通过感知扰动和奖励建模减轻多模态大语言模型作为评判者中的感知判断偏差

Seojeong Park, Jiho Choi, Junyong Kang, Seonho Lee, Jaeyo Shin, Hyunjung Shim

机构 * University of California, Berkeley（加州大学伯克利分校） ； KAIST（韩国科学技术院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过构建感知扰动数据集和结合GRPO奖励与批排序目标的统一训练框架，解决了多模态大语言模型作为评判者时因视觉证据与文本线索冲突而产生的感知判断偏差问题，显著提升了感知忠实度和与人类评价的一致性。

Comments ICML 2026

Next-Billion AI Index: The compass for AI utility and adoption in the global majority

Next-Billion AI Index: 面向全球大多数人口的AI实用性与采用指南针

Ambrish Rawat, Jessica He, Subhabrata Majumdar, Claudio Pinhanez, Yann Le Beux, Satyapriya Krishna, Rahul Gupta, Rumman Chowdhury, Kush R. Varshney

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本文提出Next Billion AI Index (nexbax)诊断框架，通过经济可行性、运营可部署性和治理对齐三个主题下的10个维度，评估AI在下一个十亿用户环境中的实用性，并通过专家访谈验证其有效性。

Comments 13 pages, 1 figure, 2 tables

Ethical Hyper-Velocity (EHV): A Hardware-Rooted Zero-Trust Runtime Enforcement Architecture for Agentic AI Systems

伦理超高速 (EHV)：一种面向代理型AI系统的硬件根零信任运行时强制架构

Riddhi Mohan Sharma

机构 * Senior Member, IEEE（IEEE高级会员） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 提出伦理超高速 (EHV) 架构，通过结合语法约束解码、因果图CRDT、可信执行环境和OSCAL审计日志，实现硬件根的零信任运行时强制，将策略执行点嵌入推理管线，显著降低治理延迟并支持形式化验证。

Comments 12 pages, 3 TikZ Figures, 3 Tables

Hot-Start Chinese Language Modeling:Visual Glyphs Accelerate Sample-Efficient Learning

热启动中文语言建模：视觉字形加速样本高效学习

Shuyang Xiang, Hao Guan

机构 * Independent Researcher（独立研究者） ； Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过将汉字渲染为视觉字形图像，研究其对字符级语言建模的归纳偏置，发现视觉输入产生显著的热启动效应，但最终精度与基于索引的方法一致。

Comments 15 pages, 5 figures, submitted to ACL 2026

REBot: From RAG to CatRAG with Semantic Enrichment and Graph Routing

REBot: 从RAG到CatRAG——语义增强与图路由

Thanh Ma, Tri-Tam La, Lam-Thu Le Huu, Minh-Nghi Nguyen, Khanh-Van Pham Luu

机构 * CTU（越南科技大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出REBot，一种基于CatRAG混合检索推理框架的LLM增强咨询聊天机器人，通过语义增强的分层类别知识图谱和图路由实现学术法规建议，在分类和问答任务上达到98.89%的F1分数。

Comments Published in Communications in Computer and Information Science (CCIS), Springer, 2025. DOI: 10.1007/978-981-95-4960-3_35

Journal ref Communications in Computer and Information Science (CCIS), Springer, 2025, pp. 435-447

MESA: Improving MoE Safety Alignment via Decentralized Expertise

MESA: 通过去中心化专家提升MoE安全对齐

Yitong Sun, Yao Huang, Teng Li, Ranjie Duan, Yichi Zhang, Xingjun Ma, Hui Xue, Xingxing Wei

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对MoE架构中安全能力集中于少数专家导致的脆弱性，提出MESA框架，通过最优传输理论实现专家安全职责去中心化分配与路由细化，在保持实用性的同时提升防御性能。

Comments 18 pages, 8 figures, accepted by ICML 2026

An NLP-Driven Framework for Curriculum-Labor Market Alignment: Schema-Constrained LLM Extraction, ESCO-Anchored Semantic Matching, and Multi-Dimensional Gap Quantification

一种基于NLP的课程-劳动力市场对齐框架：模式约束的LLM抽取、ESCO锚定的语义匹配和多维差距量化

Sherzod Turaev, Mary John, Mamoun Awad, Nazar Zaki, Khaled Shuaib

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出一个四阶段NLP框架，通过模式约束的LLM抽取、ESCO语义匹配、仲裁协议和验证机制，实现课程与劳动力市场的对齐，并量化多维供需差距。

Comments 53 pages, 9 figures, 4 tables

ANDES: Agent Native Data Evolving Synthesis Tool for Autonomous Instruction Alignment

ANDES：用于自主指令对齐的智能体原生数据演化合成工具

Zhengyang Zhao, Shengjie Ye, Lu Ma, Hao Liang, Hengyi Feng, Wentao Zhang

机构 * Peking University（北京大学） ； Sichuan University, Chengdu（四川大学，成都） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出ANDES框架，通过自进化世界树路由和可操作诊断报告，将数据生成重构为即插即用的智能体技能，使基础较弱的智能体在严格计算约束下实现自动对齐，在PostTrainBench上取得最先进性能。

Feature Alignment Determines Fusion Strategy: A Comparative Study of Cross-Attention and Concatenation in Multimodal Learning

特征对齐决定融合策略：多模态学习中交叉注意力与拼接的比较研究

Zhiqiang Zhou, Xuezhen Xie

机构 * Hunan Chemical Industry Vocational and Technical College（湖南化学工业职业技术学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 通过实验和理论分析，证明特征对齐质量而非数据规模是决定多模态融合策略优劣的关键因素，当特征预对齐时拼接优于交叉注意力。

Comments 8 pages,6 figures,4 tables