大模型对齐与安全

When CQs Go Wrong: Challenges in CQ Verification with OE-Assist

当CQ出错时：OE辅助下CQ验证中的挑战

Anna Sofia Lippolis, Mohammad Javad Saeedizade, Robin Keskisärkkä, Aldo Gangemi, Eva Blomqvist, Andrea Giovanni Nuzzolese

机构 * University of Bologna（博洛尼亚大学） ； ISTC-CNR（意大利国家研究委员会认知科学与技术研究所） ； Linköping University（林雪平大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究能力问题（CQ）验证中的挑战，通过19名参与者使用LLM助手进行20项任务的实验，发现CQ的歧义和复杂性导致验证困难，提出需在发布前优化CQ以避免问题。

Comments Acceted poster at accepted-papers/poster-demo/" target="_blank" rel="noopener">https://2026.eswc-conferences.org/program/accepted-papers/poster-demo/ 23rd European Semantic Web Conference (Satellite Event)

Quant Convergence: Bridging Classical Value Investing and Modern Factor Models for Systematic Equity Selection

量化收敛：连接经典价值投资与现代因子模型进行系统性股票选择

Augusto Eiji Yamazaki, Hugo Garrido-Lestache Belinchon

机构 * Milwaukee School of Engineering（密尔沃基工程学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究通过将格雷厄姆经典价值投资规则作为数学低通滤波器，结合现代因子模型，在S&P 500数据上测试XGBoost和AutoGluon等复杂模型，发现纯格雷厄姆随机森林实现了最高收益（232.13%）和较低风险，证明了价值投资规则能有效约束现代AI过度冒险。

Beyond Logprobs: A Multi-Signal Confidence Engine for LLM-Based Document Field Extraction

超越Logprobs：基于LLM的文档字段提取的多信号置信度引擎

Nitesh Kumar

机构 * Perfios Software Solutions Pvt. Ltd.（Perfios软件解决方案私人有限公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 提出ExtractConf，通过双视角文档解析（字段引导与文档引导）的不一致性，融合多信号实现高可靠置信度估计，在DocILE上AUC达0.928，准确率99.1%。

Comments Extended version of a paper accepted (Oral) at the RobustifAI Workshop, IJCAI-ECAI 2026, Bremen, Germany. 9 pages, 5 figures, 2 tables

T2D-Bench: Evidence-Gated Evaluation of LLM Outputs for Type 2 Diabetes Using a Multi-Layer Clinical-Lifestyle Knowledge Graph

T2D-Bench：基于多层临床-生活方式知识图谱的2型糖尿病LLM输出证据门控评估

Saba A. Farahani, Hung Cao, Ramesh Jain, Amir M. Rahmani

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出T2D-Bench基准，通过多层知识图谱和证据门控机制，检测LLM输出中未满足指南约束的临床遗漏，并在2型糖尿病诊断、用药安全等场景中实现可测量纠正。

Comments 7 pages, 2 figures, 2 tables. Accepted as a poster at AMIA 2026 Annual Symposium

Listening makes Vision Clear for VLMs

倾听使VLMs视觉清晰

Yiyang Chen, Yixin Tan, Binrui Shen

机构 * Beijing Normal University（北京师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对视觉语言模型解码漂移导致注意力分布与语义不一致的问题，提出基于提示侧语义的PV-TAM方法，通过过滤模态边界标记偏差并利用注意力峰值分布评估提示与视觉区域对齐，显著提升定位指标。

Comments 18pages,3 figures

Light-weight Pronunciation Assessment via Discrete Speech Token Surprisal

轻量级发音评估：基于离散语音标记的意外度

Syeda Faiza Ahmed Sara, Shammur Absar Chowdhury

机构 * Qatar Computing Research Institute, Doha, Qatar（卡塔尔计算研究所，多哈，卡塔尔） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出仅使用母语语音资源训练的轻量级发音评估框架，通过离散化语音标记和语言模型计算意外度，结合文本引导对齐特征，在无监督或少量校准下达到接近监督方法的性能。

Comments Accepted to Interspeech 2026

VISTA: An End-to-End Benchmark for Visual Spec-to-Web-App Coding Agents

VISTA：面向视觉规格到网页应用编码智能体的端到端基准

JunJia Guo, Yuhang Yao, Jiawei, Zhou, Jingdi Chen

机构 * University of Arizona（亚利桑那大学） ； Zoom ； Stony Brook University（石溪大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出VISTA基准，通过多维度输入条件和评估指标，衡量基于LLM的智能体从视觉规格生成功能完整、视觉一致的网页应用的能力。

Comments Project page: https://kaboider.github.io/VIS_APP/

Business as Rulesual: A Benchmark and Framework for Business Rule Flow Modeling with LLMs

业务即规则：面向LLM的业务规则流建模基准与框架

Chen Yang, Ruping Xu, Ruizhe Li, Bin Cao, Jing Fan

机构 * Zhejiang University of Technology（浙江工业大学） ； Zhejiang Key Laboratory of Visual Information Intelligent Processing（浙江省视觉信息智能处理重点实验室） ； University of Aberdeen（阿伯丁大学） ； University of Birmingham（伯明翰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出BREX基准（409份真实业务文档与2855条专家标注规则）和ExIde框架，通过可执行伪代码生成显式建模规则依赖，在13个LLM上验证了可执行接地作为归纳偏置的有效性。

AI-Empowered UAV-Assisted Backscatter Localization and ISAC for Zero-Energy IoT: A Comprehensive Survey

AI赋能的无人机辅助反向散射定位与通感一体化技术用于零能耗物联网：综述

Ruhul Amin Khalil

机构 * Engineering Requirements Unit (ERU), College of Engineering, United Arab Emirates University（工程需求单位（ERU）、工程学院、阿联酋大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文综述了AI赋能的无人机辅助反向散射定位与通感一体化技术在零能耗物联网中的应用，梳理了网络架构、无人机角色、反向散射模式等关键技术，并分析了开放挑战与未来方向。

Comments 33 pages, 19 figures, 7 tables. Submitted to Elsevier for Possible Publication

Evaluation Awareness Is Not One Capability: Evidence from Open Language Models

评估意识并非单一能力：来自开放语言模型的证据

Nilesh Nayan, Aishwarya Sampath Kumar, Rishiraj Girmal, Shivani Anilkumar, Sankaran Vaidyanathan, David A. Nader Palacio, Reshmi Ghosh, Soundararajan Srinivasan

机构 * University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校） ； Microsoft Corp.（微软公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 通过37个开放权重模型实验，发现语言模型对评估线索的检测、行为变化和表征可控性三个维度弱耦合，表明评估意识是多维的，单一分数无法可靠预测部署安全。

EEG Benchmarking Needs a Task Specification Layer: NeuroDoc for Rulebook-Guided, Executable Benchmark Construction

EEG基准测试需要一个任务规范层：NeuroDoc用于基于规则手册的可执行基准构建

Chengxuan Qin, Zhige Chen, Shu Peng, Rui Yang, Jiping Cui, Yikai Dong, Jun Li, Liu Peng, Zhida Shang, Mingze Tang, Kay Chen Tan, Jibin Wu

机构 * School of Advanced Technology, Xi’an Jiaotong-Liverpool University（西交利物浦大学先进技术学院） ； School of Electrical Engineering, Electronics and Computer Science, University of Liverpool（利物浦大学电气工程、电子与计算机科学学院） ； School of Computer Science and Informatics, University of Liverpool（利物浦大学计算机科学与信息学学院） ； Department of Data Science and Artificial Intelligence, Hong Kong Polytechnic University（香港理工大学数据科学与人工智能系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 提出NeuroDoc框架，通过结构化任务规范语言和共享规则手册，将异构EEG数据集标准化为可重用基准单元，并发布包含53个条目、245个任务定义的社区审查基准语料库。

SkillAudit: From Fixed-Suite Benchmarking to Skill-Centered Assessment

SkillAudit：从固定套件基准测试到以技能为中心的评估

Dexu Yu, Youhua Li, Zhaoyang Guan, Xianhao Lin, Jining Luan, Zihao Rao, Xuanqi Lan, Yang Ran, Bo Lan, Nai-Xin Zhai, Hanwen Du, Junchen Fu, Wenhao Deng, Yongxin Ni, Chunxiao Li

机构 * Northeastern University（东北大学） ； City University of Hong Kong（香港城市大学） ； Northwestern University（西北大学） ； Fudan University（复旦大学） ； University of Science and Technology of China（中国科学技术大学） ； Santa Clara University（圣克拉拉大学） ； Fenz AI ； Ohio State University（俄亥俄州立大学） ； University of Glasgow（格拉斯哥大学） ； National University of Singapore（新加坡国立大学） ； DeciLix Lab（DeciLix实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出SkillAudit框架，自动生成技能的多维度评估报告，涵盖效用、效率/成本和安全性，通过基线比较和两阶段检测解决固定套件评估的不足。

Comments Preprint. Project page: https://skillaudit.github.io/. Code and evaluation artifacts: https://github.com/SkillAudit/skillaudit

AutoRAS: Learning Robust Agentic Systems with Primitive Representations

AutoRAS: 学习具有原始表示的鲁棒智能系统

Yang Yue, Xuancheng Zhu, Yuyang Ma, Guoshun Nan, Zihan Dou, Jingru Shan, Congyu Guo, Ji Zhang, Hua Wang, Jingfeng Zhang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Guangxi Transportation Science and Technology Group Co., Ltd.（广西交通科技集团有限公司） ； Fudan University（复旦大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出AutoRAS框架，通过生成符号原始序列并利用执行安全信号和流式序列级目标优化，自动设计鲁棒智能系统，在正常和对抗设置下均表现最佳。

Comments Accepted by ICML2026

Incoherent Values? Probing LLM Preferences Through Parametric Variation

不一致的价值？通过参数变化探测LLM的偏好

Elena Ajayi, Angelica Chowdhury, Seth Lazar

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY

AI总结 本文通过参数化变体测试LLM的价值一致性，发现即使最强模型也存在显著不一致，且一致性不随能力提升而出现，但允许推理时间可减少不一致。

A Validation-Gated Mechanistic Account of Suicidality Detection in LLMs

一种验证门控机制的自杀检测在LLMs中的解释

Nafiz Ahmed, Sarah Sharif, Dingjing Shi, Mike Banad

机构 * Intelligent Neuromorphic and Quantum Understanding for Innovative Research and Engineering (INQUIRE) Lab（智能神经形态与量子理解创新研究与工程实验室） ； School of Electrical and Computer Engineering（电气与计算机工程学院） ； University of Oklahoma（俄克拉荷马大学） ； School of Psychology（心理学学院） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 提出验证门控框架，通过因果分析发现Llama-3.1-8B-Instruct在自杀检测中依赖语义特征而非关键词，且该特征在多个模型和数据集中一致出现。

The AI Evaluability Gap: The Missing Layer for Managing Risk and Sustaining Value

AI可评估性差距：管理风险和维持价值缺失的层面

Vishal Srivastava, Tanmay Sah

机构 * Harrisburg University of Science and Technology（哈里斯堡科技大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出AI可评估性差距概念，指组织缺乏足够证据支持高风险治理决策，引入可评估性框架，区分运营认证和投资认证，强调证据充分性是AI治理缺失的层面。

Comments 24 pages, 9 figures. Conceptual framework paper introducing the AI Evaluability Gap, Evaluability as evidence sufficiency for governance decisions, Operational Certification, Investment Certification, and a six-property evidence lifecycle for AI governance

Formally Verified Code Synthesis for Structured Data Translation in a Medical Internet of Things

医疗物联网中结构化数据翻译的形式化验证代码合成

Colin Samplawski, Adam D. Cobb

机构 * Computer Science Laboratory, SRI International（SRI国际计算机科学实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出一种基于LLM的进化代码合成系统，集成形式化验证步骤，用于医疗物联网中结构化数据翻译，确保生成代码满足预定义需求，并以脉搏血氧仪集成案例展示其低开销生成正确翻译的能力。

Comments Spotlight Paper at the Workshop on Structured Data for Health at ICML 2026

JAMER: Project-Level Code Framework Dataset and Benchmark on Professional Game Engines

JAMER：专业游戏引擎上的项目级代码框架数据集与基准测试

Jianwen Sun, Chuanhao Li, Zizhen Li, Yukang Feng, Fanrui Zhang, Yifei Huang, Yu Dai, Kaipeng Zhang

机构 * Nankai University（南开大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出首个基于专业游戏引擎的项目级代码框架数据集JamSet和基准JamBench，通过设计确定性验证流程，从24万仓库中筛选出8133个已验证项目，评估9个前沿模型发现项目规模增大时能力急剧下降。

Learning What to Remember: A Cognitively Grounded Multi-Factor Value Model for Agentic Memory

学习该记住什么：一种基于认知的多因素记忆价值模型

Zhibao Chen, Qian Cheng

机构 * Huatai Securities（华泰证券） ； OneBeget.com 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对长期LLM代理的记忆管理问题，提出一种基于认知心理学的多因素记忆价值函数，通过无梯度优化学习权重，统一控制编码深度、遗忘风险和检索排名，在LongMemEval上显著优于单一因素和近因策略。

Comments 11 pages, 3 figures

Beyond Averages: Evaluating LLMs on Human Survey Replication at the Distributional Level

超越平均值：在分布层面评估LLM对人类调查的复现能力

Jeonghyeon Moon, Jiwon Kim, Yeheum Lah, Yoonju Han, Yuncheol Kang

机构 * Ewha Womans University（梨花女子大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本研究通过非公开的韩国方便面购买实验，在分布层面评估LLM复现人类调查响应的能力，发现均值匹配的模型可能产生更偏离人类的分布，且结构化角色和多模态输入提升对齐度，而推理提示则降低。

CHUCKLE -- When Humans Teach AI To Learn Emotions The Easy Way

CHUCKLE -- 当人类教AI学习情感的简便方式

Ankush Pratap Singh, Houwei Cao, Yong Liu

机构 * New York Institute of Technology, Department of Computer Science（纽约理工学院计算机科学系） ； New York University, Electrical and Computer Engineering Department（纽约大学电气与计算机工程系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 CHUCKLE提出一种基于人类感知的课程学习框架，通过众包数据集中的标注者一致性和共识定义样本难度，提升LSTM和Transformer的性能，同时减少梯度更新次数，提高训练效率和模型鲁棒性。

Journal ref Proc. Interspeech 2026, Sydney, Australia, Aug. 2026

"I Said Things I Needed to Hear Myself": Peer Support as an Emotional, Organisational, and Sociotechnical Practice in Singapore

“我说了那些我自己需要听到的话”：新加坡的同伴支持作为情感、组织和社会技术实践

Kellie Yu Hui Sim, Kenny Tsu Wei Choo

机构 * Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 通过访谈20名新加坡同伴支持者，揭示其动机、情感劳动和社会文化维度，提出文化响应式数字工具设计方向，并探讨AI如何负责任地增强同伴支持。

Comments 20 pages, 3 tables

SARLO-80: Worldwide Slant SAR Language Optic Dataset 80cm

SARLO-80：全球斜距SAR语言光学数据集80cm

Solène Debuysère, Nicolas Trouvé, Nathan Letheule, Elise Colin, Georgia Channing

机构 * DEMR-ONERA – The French Aerospace Lab, Université Paris-Saclay（法国航空航天实验室DEMR-ONERA，巴黎-萨克雷大学） ； DTIS-ONERA – The French Aerospace Lab, Université Paris-Saclay（法国航空航天实验室DTIS-ONERA，巴黎-萨克雷大学） ； Hugging Face 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 为解决高分辨率SAR与光学图像及文本对齐的数据稀缺问题，基于Umbra SLC数据构建了80cm斜距网格的SAR-光学-文本三元组数据集，支持跨模态检索与生成任务。

FreeStyle: Free Control of Style-Content Dual-Reference Generation from Community LoRA Mining

FreeStyle: 从社区LoRA挖掘中实现风格-内容双参考生成的自由控制

Jinghong Lan, Wei Cheng, Yunuo Chen, Ziqi Ye, Peng Xing, Yixiao Fang, Rui Wang, Yufeng Yang, Xuanyang Zhang, Xianfang Zeng, Difan Zou, Gang Yu, Chi Zhang

机构 * Fudan University（复旦大学） ； StepFun ； Westlake University（西湖大学） ； University of Hong Kong（香港大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出FreeStyle框架，利用社区LoRA作为锚点，通过两阶段课程学习（注意力级约束和频率感知RoPE调制）解决双参考生成中的内容泄露问题，并引入新基准和评估指标，实现风格对齐、内容保持与泄露抑制的平衡。

Comments 35 pages, 26figures. Project page: https://github.com/Blue2Giant/FreeStyle

See-and-Reach: Precise Vision-Language Navigation for UAVs within the Field of View

See-and-Reach: 视场内的精确视觉语言导航用于无人机

Fanfu Xue, En Yu, Yantian Shen, Zhikun Hu, Hongjun Wang, Yang Yang, Xindi Wang, Jiande Sun

机构 * School of Information Science and Engineering, Shandong University（山东大学信息科学与工程学院） ； Faculty of Engineering and Information Technology, University of Technology Sydney（悉尼科技大学工程与信息技术学院） ； School of Computer Science and Technology, Shandong University（山东大学计算机科学与技术学院） ； School of Artificial Intelligence, Shandong University（山东大学人工智能学院） ； School of Computer Science and Artificial Intelligence, Shandong Normal University（山东师范大学计算机科学与人工智能学院） ； Interdisciplinary Research Center of General Artificial Intelligence, Shandong Normal University（山东师范大学通用人工智能跨学科研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 针对无人机视觉语言导航中目标可见后精确到达能力评估不足的问题，提出UAV-VLN-FOV任务和3DG-VLN框架，通过动态3D方向线索增强细粒度视觉定位与空间对齐，在基准和真实实验中显著提升成功率。

Comments 12 pages, 7 figures

A Systematic Evaluation of Black-Box Uncertainty Estimation Methods for Large Language Models

大型语言模型黑盒不确定性估计方法的系统评估

Jiayi Wang, Xu-Yao Zhang

机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所多模态人工智能系统国家重点实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 系统评估了24种黑盒不确定性估计方法在4个模型和4个数据集上的表现，发现无单一方法普遍最优，但基于答案空间推理和比较的方法通常有效，混合方法在多数条件下表现良好。

Agentic Electronic Design Automation: A Handoff Perspective

代理式电子设计自动化：一种交接视角

Jiawei Liu, Peiyi Han, Yuntao Lu, Su Zheng, Fengyu Yan, Bei Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Primarius Technologies（Primarius技术公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文从交接有效性角度出发，将EDA流程中的代理系统分为三类，并提出五层代理通信协议，以解决多阶段、多工具间的状态传递和验证问题。

Predicting Mergeability of Parameter-Efficient Fine-Tuning Updates

预测参数高效微调更新的可合并性

Lin Tang, Wei Zhang, Jing Li, Hongyu Chen, Ming Zhao, Yuxuan Wang

机构 * Sichuan University（四川大学） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出MergeProbe，通过训练初期信号预测LoRA适配器的可合并性，在MERGE-PEFT基准上实现最佳平均和最差保留性能。

DynAMO:Dynamic Asset Management Orchestration via Topological Multi-Agent Scheduling

DynAMO：基于拓扑多智能体调度的动态资产管理编排

Kanishk Kushwaha, Vikrant Vinod Bansode, Harsh Vardhan, Dhaval C. Patel

机构 * Gati Shakti Vishwavidyalaya（加蒂·沙克蒂大学） ； IBM Research（IBM研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出DynAMO引擎，采用先规划后执行架构生成可验证工作流图，支持顺序与并行执行，通过动态识别独立任务提升效率，在工业基准上实现1.6倍延迟降低，并保持正确性与安全性。

Comments 11 pages, 2 figures, 7 tables, 4 algorithms. Evaluated on the AssetOpsBench industrial benchmark. Code: https://github.com/kushwaha001/DynAMO

Closing the Social-Semantic Gap: SPSD for Edge-Based Prompt Compression in Cloud LLM Inference

缩小社会-语义差距：SPSD用于云LLM推理中的边缘端提示压缩

Abhinit Sen, Ajeet Kumar, Manaranjan Pradhan

机构 * Indian School of Business（印度管理学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 针对云LLM推理中提示词预填充阶段能耗高的问题，提出SPSD边缘端管道，利用4比特量化小语言模型压缩用户提示，在保持响应质量非劣效的前提下，平均节省99.9个输入token，每调用净节能70-270 uWh。

Comments 19 pages, 7 tables, 1 figure, includes appendix