大模型对齐与安全

Towards Knowledge Alignment in Code LLMs: Contrastive Unlearning for Evolving APIs

面向代码大语言模型的知识对齐：针对演化API的对比性遗忘

Huy Q. Tran, Dang H. Vu, Tuyen N. Dinh, Anh H. D. Nguyen, Anh N. H. Vu, Anh M. T. Bui, Phuong T. Nguyen

专题命中 安全评测 ：alignment(title)

AI总结 提出对比性遗忘方法CURE，在抑制废弃API的同时鼓励正确替代，使代码LLM适应演化库，实验表明该方法优于现有基线。

Comments The paper has been peer reviewed and accepted to the 42nd International Conference on Software Maintenance and Evolution (ICSME 2026)

VIGOR: VIdeo Geometry-Oriented Reward for Temporal Generative Alignment

VIGOR: 面向视频几何的时序生成对齐奖励

Tengjiao Yin, Jinglei Shi, Heng Guo, Xi Wang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 安全评测 ：alignment(title)

AI总结 提出基于几何的奖励模型，利用预训练几何基础模型通过跨帧重投影误差评估多视图一致性，以点方式计算误差，并引入几何感知采样策略，通过后训练和推理时优化对齐视频扩散模型，提升生成视频的几何一致性。

Comments Project Page: https://vigor-geometry-reward.com/

TextDS: Parameter-Efficient Representation Alignment for Scene Text Detection under Distribution Shifts

TextDS: 分布偏移下场景文本检测的参数高效表示对齐

Boyuan Chen, Zichen Dang, Chuang Yang, Lap-Pui Chau, Yi Wang

机构 * School of Electrical Engineering, Xi’an Jiaotong University（西安交通大学电气工程学院） ； Department of Electrical and Electronic Engineering, The Hong Kong Polytechnic University（香港理工大学电机及电子工程学系） 纠错

专题命中 安全评测 ：alignment(title)

AI总结 提出TextDS框架，通过视觉基础模型、逐步LoRA适应和公共子空间融合，仅用4.9M参数实现跨域和退化条件下的鲁棒场景文本检测。

Comments Accepted by ECCV 2026. Project page: https://github.com/ZChenDang/TextDS

LALM-as-a-Judge: Benchmarking Large Audio-Language Models for Safety Evaluation in Multi-Turn Spoken Dialogues

LALM-as-a-Judge：用于多轮口语对话安全评估的大型音频语言模型基准测试

Amir Ivry, Shinji Watanabe

机构 * Computer Engineering, Technion--Israel Institute of Technology, Haifa, Israel（技术学院电子工程系，技术离子技术研究所，以色列海法） ； Language Technologies Institute, Carnegie Mellon University, Pittsburgh, PA, USA（语言技术研究所，卡内基梅隆大学，美国匹兹堡） 纠错

专题命中 安全评测 ：safety(title)

AI总结 针对口语对话中社会不安全内容评估仍以文本为中心、忽略韵律和转录失败的问题，提出包含24000个多轮口语对话的开放基准，评估6种大型音频语言模型在文本、音频和多模态设置下的敏感性、严重性顺序特异性和轮次位置偏差，发现音频提供非词汇证据，多模态增益非普遍且存在多种模式。

Comments Accepted to ICML 2026

Toward Trustworthy Portrait Editing: Evaluation of Demographic Misrepresentation in I2I Models

迈向可信的人像编辑：评估 I2I 模型中的人口统计误表示

Huichan Seo, Minki Hong, Sieun Choi, Jihie Kim, Jean Oh

专题命中 安全评测 ：trustworthy(title)

AI总结 本文通过控制基准测试，评估了指令引导的图像到图像编辑器中身份保留失败的两个模式（软擦除和刻板印象替换），发现肤色变浅等偏差普遍存在且人口统计不均，并提出提示级约束作为缓解措施。

Comments 22 pages, 10 figures. Huichan Seo, Minki Hong and Sieun Choi contributed equally

Dependency-Guided Repository-Level C-to-Rust Translation with Reinforcement Alignment

依赖引导的仓库级C到Rust翻译与强化对齐

Jia Feng, Wenjie Gan, Cuiyun Gao, Chaozheng Wang, Feng Luo, Xin Xia, Ge Li, Kui Liu

专题命中 安全评测 ：alignment(title)

AI总结 提出DepTrans框架，通过强化对齐语法训练和依赖引导迭代精炼，实现仓库级C到Rust的高效翻译，编译成功率和计算准确性分别提升22.8和17.3个百分点。

Comments Accepted by FSE 2026 Industry

Trustworthy AI/ML Regression and Unbiased Causal Inference for Real-World Data

可信赖的AI/ML回归与真实世界数据的无偏因果推断

Yifei Xu, Hwiyoung Lee, Zhenyao Ye, Yezhi Pan, Jingsong Zhou, Yun Yang, Chixiang Chen, Shuo Chen

专题命中 安全评测 ：trustworthy(title)

AI总结 针对真实世界数据中高维混杂导致的AI/ML回归系统性预测偏差，提出无偏的ML/AI回归因果推断框架，确保平均处理效应的无偏估计。

Comments 17 pages, 4 figures, 4 tables; includes supplementary material

Trustworthy Software Project Generation : a Case Study with an Interactive Theorem Prover

可信软件项目生成：以交互式定理证明器为例的案例研究

Jian Fang, Yingfei Xiong

专题命中 安全评测 ：trustworthy(title)

AI总结 本文研究利用交互式定理证明器（ITP）从自然语言需求自动生成大规模可信软件项目，通过将纯逻辑与有副作用的代码分离，在Rocq中完成验证并提取C++代码，成功生成一个RISC-V RV32I CPU解释器，证明了ITP作为LLM生成软件验证后端的可行性。

CapCLIP: A Vision-Language Representation Alignment Approach for Wireless Capsule Endoscopy Analysis

CapCLIP：一种用于无线胶囊内镜分析的视觉-语言表示对齐方法

Haroon Wahab, Irfan Mehmood, Hassan Ugail

机构 * School of Computer Science, AI and Electronics Faculty of Engineering and Digital Technologies（计算机科学与电子工程学院，工程与数字技术学院） ； School of Management Faculty of Mgmt, Law & Social Sciences（管理学院，管理、法律与社会科学学院） ； Centre for Visual Computing and Intelligent Systems（视觉计算与智能系统中心） 纠错

专题命中 安全评测 ：alignment(title)

AI总结 CapCLIP通过将内镜图像与临床标准术语生成的文本描述对齐，提升无线胶囊内镜分析的泛化能力和语义解释性，优于现有方法。

MultEval: Supporting Collaborative Alignment for LLM-as-a-Judge Evaluation Criteria

MultEval: 支持LLM-as-a-Judge评估标准的协作对齐

Charles Chiang, Simret Gebreegziabher, Annalisa Szymanski, Yukun Yang, Hyo Jin Do, Zahra Ashktorab, Werner Geyer, Toby Li, Diego Gomez-Zara

专题命中 安全评测 ：alignment(title)

AI总结 研究探讨了LLM-as-a-Judge评估标准的协作制定过程，提出MultEval系统支持多方协商和迭代修订标准，提升评估透明度与一致性。

Comments 17 pages, 5 figures

Journal ref Proceedings of the 5th Annual Symposium on Human-Computer Interaction for Work (CHIWORK '26), June 22--25, 2026, Linz, Austria

LARY: A Latent Action Representation Yielding Benchmark for Generalizable Vision-to-Action Alignment

LARY：一种产生通用视觉到动作对齐基准的潜在动作表示

Dujun Nie, Fengjiao Chen, Qi Lv, Jun Kuang, Xiaoyu Li, Xuezhi Cao, Xunliang Cai

机构 * Meituan（美团） 纠错

专题命中 安全评测 ：alignment(title)

AI总结 本文提出LARY基准，通过大规模人类视频数据评估潜在动作表示，发现通用视觉模型在动作控制上优于专用模型，且潜在空间比像素空间更符合物理动作空间。

Comments Project: https://meituan-longcat.github.io/LARYBench Code: https://github.com/meituan-longcat/LARYBench Dataset: https://huggingface.co/datasets/meituan-longcat/LARYBench

ReplicateAnyScene: Zero-Shot Video-to-3D Composition via Textual-Visual-Spatial Alignment

ReplicateAnyScene：通过文本-视觉-空间对齐实现零样本视频到3D场景的合成

Mingyu Dong, Chong Xia, Mingyuan Jia, Weichen Lyu, Long Xu, Zheng Zhu, Yueqi Duan

机构 * Tsinghua University（清华大学） ； Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(title)

AI总结 本文提出ReplicateAnyScene框架，通过五阶段流水线实现视频到结构化3D场景的零样本合成，引入C3DR基准评估重建质量，实验表明其在生成高质量3D场景方面优于现有方法。

Comments Project Page: https://xiac20.github.io/ReplicateAnyScene/

AVATAAR: Agentic Video Answering via Temporal Adaptive Alignment and Reasoning

AVATAAR：通过时间自适应对齐和推理实现代理视频回答

Urjitkumar Patel, Fang-Chun Yeh, Chinmay Gondhalekar

专题命中 安全评测 ：alignment(title)

AI总结 AVATAAR通过结合全局和局部视频上下文，以及预检索思考代理和重思模块，提升长视频问答的准确性和可解释性，实验显示在CinePile基准上显著提升各类问答任务性能。

Comments Accepted in the 5th IEEE Big Data Workshop on Multimodal AI (MMAI 2025), Dec 8-11, Macau, China, 2025 (Preprint Copy)

Journal ref 2025 IEEE International Conference on Big Data (BigData), Macau, China

Why Cognitive Robotics Matters: Lessons from OntoAgent and LLM Deployment in HARMONIC for Safety-Critical Robot Teaming

为何认知机器人很重要：来自OntoAgent和HARMONIC中LLM部署的启示

Sanjay Oruganti, Sergei Nirenburg, Marjorie McShane, Jesse English, Michael Roberts, Christian Arndt, Ramviyas Parasuraman, Luis Sentis

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； University of Georgia（佐治亚大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 安全评测 ：safety(title)

AI总结 研究探讨了在物理世界部署具身体AI代理所需的认知能力，通过HARMONIC架构评估LLM是否能复制OntoAgent的认知能力，发现LLM在知识状态评估上存在缺陷。

Pixels Don't Lie (But Your Detector Might): Bootstrapping MLLM-as-a-Judge for Trustworthy Deepfake Detection and Reasoning Supervision

像素不会说谎（但你的检测器可能会）：通过生成器-评估器过程构建MLLM作为判断者以实现可信的深度伪造检测和推理监督

Kartik Kuckreja, Parul Gupta, Muhammad Haris Khan, Abhinav Dhall

机构 * MBZUAI ； Monash University（墨尔本大学） 纠错

专题命中 安全评测 ：trustworthy(title)

AI总结 本文提出DeepfakeJudge框架，通过生成器-评估器过程提升深度伪造检测的推理忠实性，实现高准确率和高一致性的推理监督。

Comments CVPR-2026, Code is available here: https://github.com/KjAeRsTuIsK/DeepfakeJudge

Trustworthy Decentralized Autonomous Machines: A New Paradigm in Automation Economy

可信去中心化自主机器：自动化经济的新范式

Fernando Castillo, Oscar Castillo, Eduardo Brito, Simon Espinola

专题命中 安全评测 ：trustworthy(title)

AI总结 本文提出去中心化自主机器（DAMs）作为自动化经济的新范式，通过整合AI、区块链和物联网技术，实现无信任的资产管理和经济机会民主化。

Comments To be published in IEEE International Workshop on Decentralized Physical Infrastructure Networks 2025, in conjunction with ICBC'25. 7 pages. 3 figures

A Survey of LLM Alignment: Instruction Understanding, Intention Reasoning, and Reliable Generation

大型语言模型对齐综述：指令理解、意图推理和可靠生成

Zongyu Chang, Feihong Lu, Ziqin Zhu, Qian Li, Cheng Ji, Tao Yang, Zhuo Chen, Hao Peng, Yang Liu, Ruifeng Xu, Yangqiu Song, Jianxin Li, Shangguang Wang

专题命中 安全评测 ：alignment(title)

AI总结 本文综述了大型语言模型在指令理解、意图推理和可靠生成方面的挑战与解决方案，旨在提升模型在现实应用中的可靠性与适应性。

Comments 37 pages, 11 figures

Trustworthy Scheduling for Big Data Applications

大数据应用中的可信调度

Dimitrios Tomaras, Vana Kalogeraki, Dimitrios Gunopulos

专题命中 安全评测 ：trustworthy(title)

AI总结 X-Sched通过整合反事实解释与机器学习模型，提供可操作的资源配置指导，提升容器化环境中的任务执行效率和透明度。

Comments 6 pages

Human-AI Alignment of Multimodal Large Language Models with Speech-Language Pathologists in Parent-Child Interactions

与语言病理学家在亲子互动中的人机对齐多模态大语言模型

Weiyan Shi, Kenny Tsu Wei Choo

专题命中 安全评测 ：alignment(title)

AI总结 本研究通过多模态大语言模型与语言病理学家的对齐，开发了支持亲子互动分析的系统，实现了85%的感知线索提取准确率和75%的判断精确率，并提出了行为观察-判断系统的构建指南。

Comments This is an earlier version of the work released in May 2025. The version accepted at CHI 2026 is available as a separate preprint at arXiv:2511.04366

MMLGNet: Cross-Modal Alignment of Remote Sensing Data using CLIP

MMLGNet: 利用CLIP实现遥感数据的跨模态对齐

Aditya Chaudhary, Sneha Barman, Mainak Singha, Ankit Jha, Girish Mishra, Biplab Banerjee

专题命中 安全评测 ：alignment(title)

AI总结 MMLGNet通过CLIP实现遥感数据的跨模态对齐，利用多模态语言引导网络有效融合光谱、空间和几何信息，提升语义理解能力。

Comments Accepted at InGARSS 2025

ChartAB: A Benchmark for Chart Grounding & Dense Alignment

Aniruddh Bansal, Davit Soselia, Dang Nguyen, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 安全评测 ：alignment(title)

Safe-LLaVA: A Privacy-Preserving Vision-Language Dataset and Benchmark for Biometric Safety

Younggun Kim, Sirnam Swetha, Fazil Kagdi, Mubarak Shah

机构 * Center For Research in Computer Vision, University of Central Florida, USA（计算机视觉研究中心，中央佛罗里达大学） ； Department of Civil Environmental and Construction Engineering, University of Central Florida, USA（土木环境与建设工程系，中央佛罗里达大学） ； Department of Computer Science, University of Central Florida, USA（计算机科学系，中央佛罗里达大学） 纠错

专题命中 安全评测 ：safety(title)

Friend or Foe: Delegating to an AI Whose Alignment is Unknown

Drew Fudenberg, Annie Liang

专题命中 安全评测 ：alignment(title)

Measuring Image-Relation Alignment: Reference-Free Evaluation of VLMs and Synthetic Pre-training for Open-Vocabulary Scene Graph Generation

Maëlic Neau, Zoe Falomir, Cédric Buche, Akihiro Sugimoto

机构 * Computing Science Department, Umeå University（乌梅大学计算科学系） ； CNRS IRL 2010 CROSSING（法国CNRS IRL 2010 CROSSING） ； IMT Atlantique（IMT阿蒂昂大学） ； National Institute of Informatics（日本信息机构） 纠错

专题命中 安全评测 ：alignment(title)

Towards a Framework for Operationalizing the Specification of Trustworthy AI Requirements

Hugo Villamizar, Daniel Mendez, Marcos Kalinowski

专题命中 安全评测 ：trustworthy(title)

Comments This paper has been accepted for presentation at the 2025 IEEE 33rd International Requirements Engineering Conference Workshops (REW-RETRAI 2025)

Trustworthy Few-Shot Transfer of Medical VLMs through Split Conformal Prediction

Julio Silva-Rodríguez, Ismail Ben Ayed, Jose Dolz

机构 * ÉTS Montréal（蒙特利尔ÉTS学院） 纠错

专题命中 安全评测 ：trustworthy(title)

Comments MICCAI 2025. Code: https://github.com/jusiro/SCA-T

ProxyGPT: Enabling User Anonymity in LLM Chatbots via (Un)Trustworthy Volunteer Proxies

Dzung Pham, Jade Sheffey, Chau Minh Pham, Amir Houmansadr

专题命中 安全评测 ：trustworthy(title)

Hummingbird: High Fidelity Image Generation via Multimodal Context Alignment

Minh-Quan Le, Gaurav Mittal, Tianjian Meng, A S M Iftekhar, Vishwas Suryanarayanan, Barun Patra, Dimitris Samaras, Mei Chen

机构 * Microsoft（微软公司） ； Stony Brook University（史蒂文尼森布鲁克大学） 纠错

专题命中 安全评测 ：alignment(title)

Comments Accepted to ICLR 2025. Project page with code release: https://roar-ai.github.io/hummingbird

Building a Human-Verified Clinical Reasoning Dataset via a Human LLM Hybrid Pipeline for Trustworthy Medical AI

Chao Ding, Mouxiao Bian, Pengcheng Chen, Hongliang Zhang, Tianbin Li, Lihao Liu, Jiayuan Chen, Zhuoran Li, Yabei Zhong, Yongqi Liu, Haiqing Huang, Dongming Shan, Junjun He, Jie Xu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Kupas Technology Limited Company（上海库帕斯科技有限公司） 纠错

专题命中 安全评测 ：trustworthy(title)

MeDSLIP: Medical Dual-Stream Language-Image Pre-training with Pathology-Anatomy Semantic Alignment

Wenrui Fan, Mohammod N. I. Suvon, Shuo Zhou, Xianyuan Liu, Samer Alabed, Venet Osmani, Andrew J. Swift, Chen Chen, Haiping Lu

机构 * Centre for Machine Intelligence and School of Computer Science, University of Sheffield（智能中心和计算机科学学院，谢菲尔德大学） ； School of Medicine and Population Health, and INSIGNEO, Institute for in Silico Medicine, University of Sheffield（医学与人口健康学院，INSIGNEO，虚拟医学研究所，谢菲尔德大学） ； Digital Environment Research Institute, Queen Mary University of London（数字环境研究所，伦敦大学玛丽女王学院） ； School of Computer Science, University of Sheffield（计算机科学学院，谢菲尔德大学） ； Department of Computing, Imperial College London（计算系，伦敦帝国学院） 纠错

专题命中 安全评测 ：alignment(title)