大模型对齐与安全

Lost in the Noise: How Reasoning Models Fail with Contextual Distractors

陷入噪声中：推理模型在上下文干扰中的失败

Seongyun Lee, Yongrae Jo, Minju Seo, Moontae Lee, Minjoon Seo

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RARE方法，通过激励识别噪声中的有用信息，提升模型在上下文干扰下的鲁棒性，揭示增加计算量反而导致噪声环境下性能下降的反比例趋势。

Comments Preprint

Enhancing Binary Encoded Crime Linkage Analysis Using Siamese Network

利用孪生网络增强二进制编码的犯罪关联分析

Yicheng Zhan, Fahim Ahmed, Amy Burrell, Matthew J. Tonkin, Sarah Galambos, Jessica Woodhams, Dalal Alrajeh

专题命中 安全评测 ：safety(abstract)；分类 cs.CY、cs.LG

AI总结 本文提出利用孪生网络增强二进制编码的犯罪关联分析，通过学习潜在表示和整合地理时间特征，提升关联准确性并提供可解释的见解。

Comments AAAI 2026, 7 pages, 4 figures

Deployability-Centric Infrastructure-as-Code Generation: Fail, Learn, Refine, and Succeed through LLM-Empowered DevOps Simulation

以部署为中心的基础设施即代码生成：通过LLM赋能的DevOps模拟实现失败、学习、细化和成功

Tianyi Zhang, Shidong Pan, Zejun Zhang, Zhenchang Xing, Xiaoyu Sun

机构 * Australian National University Canberra Australia ； New York University \& Columbia University USA ； Nanyang Technological University Singapore ； Australian National University Australia ； Australian National University ； New York University \& Columbia University ； Nanyang Technological University 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出IaCGen框架，通过迭代反馈机制提升IaC模板的部署性，实验表明其在10次迭代内可使模板部署成功率提升至91.6%，并进一步通过人工反馈将性能提升至90%以上。

Comments Accepted by FSE 2026

Benchmarking Egocentric Clinical Intent Understanding Capability for Medical Multimodal Large Language Models

医疗多模态大语言模型的视点临床意图理解能力基准测试

Shaonan Liu, Guo Yu, Xiaoling Luo, Shiyi Zheng, Wenting Chen, Jie Liu, Linlin Shen

机构 * Shenzhen University（深圳大学） ； Stanford University（斯坦福大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MedGaze-Bench，首个评估医疗多模态大语言模型视点临床意图理解能力的基准测试，通过三维意图框架和陷阱QA机制，揭示现有模型在手术、急救和诊断任务中对意图理解的不足。

Comments 16 pages, 4 figures

Can AI mediation improve democratic deliberation?

人工智能调解能否提升民主讨论？

Michael Henry Tessler, Georgina Evans, Michiel A. Bakker, Iason Gabriel, Sophie Bridgers, Rishub Jain, Raphael Koster, Verena Rieser, Anca Dragan, Matthew Botvinick, Christopher Summerfield

机构 * Google DeepMind（谷歌DeepMind） ； Massachusetts Institute of Technology（麻省理工学院） ； Yale Law School（耶鲁法学院） ； Department of Experimental Psychology, University of Oxford（牛津大学实验心理学系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨人工智能如何通过增强参与、公平调解和有意义讨论来提升民主讨论的质量。

Journal ref Knight Institute for the First Amendment at Columbia University Symposium on "AI and Democratic Freedoms", April 10-11, 2025

TIME: Temporally Intelligent Meta-reasoning Engine for Context Triggered Explicit Reasoning

TIME：面向上下文触发的显式推理的时序智能元推理引擎

Susmit Das

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 TIME通过引入时序智能元推理引擎，改进对话模型的显式推理能力，提升时间感知和推理效率。

Comments 14 pages, 3 figures with 27 page appendix. See https://github.com/The-Coherence-Initiative/TIME and https://github.com/The-Coherence-Initiative/TIMEBench for associated code

PILOT-Bench: A Benchmark for Legal Reasoning in the Patent Domain with IRAC-Aligned Classification Tasks

PILOT-Bench：一个以专利领域法律推理为核心的基准，包含与IRAC对齐的分类任务

Yehoon Jang, Chaewon Lee, Hyun-seok Min, Sungchul Choi

机构 * Pukyong National University（浦项国立大学） ； Tomocube Inc.（Tomocube公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 PILOT-Bench通过IRAC对齐的分类任务评估专利领域法律推理能力，揭示闭源与开源模型在推理性能上的显著差异。

Comments Accepted at the NLLP Workshop at EMNLP 2025

MedPI: Evaluating AI Systems in Medical Patient-facing Interactions

MedPI：评估医疗患者交互中的人工智能系统

Diego Fajardo V., Oleksii Proniakin, Victoria-Elisabeth Gruber, Razvan Marinescu

机构 * Lumos 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 MedPI是一个评估医疗患者交互中AI系统表现的高维基准，通过105个维度评估医疗对话质量，发现主流LLM在鉴别诊断上表现不佳。

Comments 24 pages, 6 figures

O-Researcher: An Open Ended Deep Research Model via Multi-Agent Distillation and Agentic RL

O-Researcher: 通过多智能体蒸馏和智能体强化学习构建开放式深度研究模型

Yi Yao, He Zhu, Piaohong Wang, Jincheng Ren, Xinlong Yang, Qianben Chen, Xiaowan Li, Dingfeng Shi, Jiaxian Li, Qiexiang Wang, Sinuo Wang, Xinpeng Liu, Jiaqi Wu, Minghao Liu, Wangchunshu Zhou

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 O-Researcher通过多智能体蒸馏和智能体强化学习，构建开放式深度研究模型，实现开源模型在多个基准上的性能提升。

Comments 22 pages

Are Vision Language Models Cross-Cultural Theory of Mind Reasoners?

视觉语言模型是否是跨文化理论思维推理者？

Zabir Al Nazi, GM Shahariar, Md. Abrar Hossain, Wei Peng

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 本文提出CulturalToM-VQA基准测试集，评估视觉语言模型在跨文化理论思维推理中的表现，发现前沿模型在准确性上显著提升，但存在假信念推理和区域差异等局限，揭示模型的社会可取性偏差问题。

BiPrompt: Bilateral Prompt Optimization for Visual and Textual Debiasing in Vision-Language Models

BiPrompt：面向视觉与文本去偏的双重视觉语言模型双向提示优化

Sunny Gupta, Shounak Das, Amit Sethi

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 BiPrompt通过双重视觉语言模型双向提示优化，同时减轻视觉和文本中的非因果特征依赖，提升模型在分布偏移下的鲁棒性和因果推理能力。

Comments Accepted at the AAAI 2026 Workshop AIR-FM, Assessing and Improving Reliability of Foundation Models in the Real World

Refinement Provenance Inference: Detecting LLM-Refined Training Prompts from Model Behavior

细化溯源推断：从模型行为检测LLM细化训练提示

Bo Yin, Qi Li, Runpeng Yu, Xinchao Wang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RePro框架，通过教师强制的似然特征与logit排名信号融合，实现对LLM细化训练提示的溯源推断，具有跨模型和训练设置的泛化能力。

Anytime-Valid Answer Sufficiency Certificates for LLM Generation via Sequential Information Lift

通过顺序信息提升实现LLM生成的任何时间有效性答案充分性证书

Sanjeda Akter, Ibne Farabi Shihab, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学） ； Department of Civil, Construction & Environmental Engineering, Iowa State University（土木、建设与环境工程系，爱荷华州立大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 通过顺序信息提升实现LLM生成的任何时间有效性答案充分性证书，利用经验动态形式提升方法，在减少生成长度的同时保持delta级误差控制，并通过轻量级正确性门提升端任务正确性。

Autoregressive Semantic Visual Reconstruction Helps VLMs Understand Better

自回归语义视觉重建有助于VLMs更好地理解

Dianyi Wang, Wei Song, Yikun Wang, Siyuan Wang, Kaicheng Yu, Zhongyu Wei, Jiaqi Wang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； AutoLab, Westlake University（西湖大学AutoLab） ； Zhejiang University（浙江大学） ； Shanghai AI Lab（上海人工智能实验室） ； University of Southern California（美国南加州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 自回归语义视觉重建通过提升多模态理解能力，改进了VLMs对视觉信息的把握

Knowledge Distillation and Dataset Distillation of Large Language Models: Emerging Trends, Challenges, and Future Directions

大型语言模型的知识蒸馏与数据集蒸馏：新兴趋势、挑战与未来方向

Luyang Fang, Xiaowei Yu, Jiazhang Cai, Yongkai Chen, Shushan Wu, Zhengliang Liu, Zhenyuan Yang, Haoran Lu, Xilin Gong, Yufang Liu, Terry Ma, Wei Ruan, Ali Abbasi, Jing Zhang, Tao Wang, Ehsan Latif, Weihang You, Hanqi Jiang, Wei Liu, Wei Zhang, Soheil Kolouri, Xiaoming Zhai, Dajiang Zhu, Wenxuan Zhong, Tianming Liu, Ping Ma

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文综述了大型语言模型的知识蒸馏与数据集蒸馏技术，探讨了其在压缩模型、保持推理能力及语言多样性方面的挑战与未来发展方向。

When F1 Fails: Granularity-Aware Evaluation for Dialogue Topic Segmentation

当F1失效时：面向对话主题分段的粒度感知评估

Michael H. Coen

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出粒度感知评估框架，用于对话主题分段，强调粒度选择而非单一边界预测。

Comments 34 pages, 4 figures. Evaluation and methodology study on dialogue topic segmentation

Improving Reliability and Explainability of Medical Question Answering through Atomic Fact Checking in Retrieval-Augmented LLMs

通过检索增强的大语言模型中的原子事实核查来提高医疗问答的可靠性与可解释性

Juraj Vladika, Annika Domres, Mai Nguyen, Rebecca Moser, Jana Nano, Felix Busch, Lisa C. Adams, Keno K. Bressem, Denise Bernhardt, Stephanie E. Combs, Kai J. Borm, Florian Matthes, Jan C. Peeken

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 通过原子事实核查提升医疗问答的可靠性与可解释性，减少幻觉并提高事实准确性。

Comments 18 pages, 7 figures and tables

State-of-the-art Small Language Coder Model: Mify-Coder

最先进的小型语言编码器模型：Mify-Coder

Abhinav Parmar, Abhisek Panigrahi, Abhishek Kumar Dwivedi, Abhishek Bhattacharya, Adarsh Ramachandra, Aditya Choudhary, Aditya Garg, Aditya Raj, Alankrit Bhatt, Alpesh Yadav, Anant Vishnu, Ananthu Pillai, Ankush Kumar, Aryan Patnaik, Aswatha Narayanan S, Avanish Raj Singh, Bhavya Shree Gadda, Brijesh Pankajbhai Kachhadiya, Buggala Jahnavi, Chidurala Nithin Krishna, Chintan Shah, Chunduru Akshaya, Debarshi Banerjee, Debrup Dey, Deepa R., Deepika B G, Faiz ur Rahman, Gagan Gayari, Gudhi Jagadeesh Kumar Naidu, Gursimar Singh, Harshal Tyagi, Harshini K, James Mani Vathalloor, Jayarama Nettar, Jayashree Gajjam, Joe Walter Sugil George, Kamalakara Sri Krishna Tadepalli, Kamalkumar Rathinasamy, Karan Chaurasia, Karthikeyan S, Kashish Arora, Kaushal Desai, Khushboo Buwade, Kiran Manjrekar, Malikireddy Venkata Sai Likhitha, Manjunath A, Mitali Mahavir Bedmutha, Mohammed Rafee Tarafdar, Nikhil Tiwari, Nikitha K Gigi, Pavan Ravikumar, Pendyala Swarnanjali, Piyush Anand, Prakash Chandrasekar, Prasanna Bhalchandra Gawade, Prasanth Sivan, Preeti Khurana, Priyanshi Babbar, Rajab Ali Mondal, Rajesh Kumar Vissapragada, Rajeshwari Ganesan, Rajeswari Koppisetti, Ramjee R., Ramkumar Thiruppathisamy, Rani G. S., S Reka, Samarth Gupta, Sandeep Reddy Kothakota, Sarathy K, Sathyanarayana Sampath Kumar, Saurabh Kumar, Shashank Khasare, Shenbaga Devi Venkatesh Kumar, Shiva Rama Krishna Parvatham, Shoeb Shaikh, Shrishanmathi A, Shubham Pathak, Sree Samhita Koppaka, Sreenivasa Raghavan K S, Sreeram Venkatasubramanian, Suprabha Desai Bojja, Swetha R, Syed Ahmed, Chinmai Harshitha Thota, Tushar Yadav, Veeravelly Kusumitha, V V S S Prasanth Patnaik, Vidya Sri Sesetti, Vijayakeerthi K, Vikram Raj Bakshi, Vinay K K, Vinoth Kumar Loganathan, Vipin Tiwari, Vivek Kumar Shrivastav, V Venkata Sri Datta Charan, Wasim Akhtar Khan

机构 * Infosys AI Research（英矽斯人工智能研究院） ； Mify Team（Mify团队） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 Mify-Coder通过高效训练策略和数据优化，在保持高准确性和安全性的同时，实现了比更大模型更优的代码生成性能。

Fair Class-Incremental Learning using Sample Weighting

基于样本加权的公平类增量学习

Jaeyoung Park, Minsu Kim, Steven Euijong Whang

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于样本加权的公平类增量学习框架，通过调整训练权重减少敏感群体的遗忘，提升模型公平性。

Comments 30 pages, 30 figures

Valori: A Deterministic Memory Substrate for AI Systems

Valori：一种用于人工智能系统的确定性内存基质

Varshith Gudur

机构 * Valori Kernel Project（Valori内核项目） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 Valori通过使用固定点算术和可重放状态机，为人工智能系统提供确定性内存解决方案，解决浮点运算导致的非确定性问题。

Comments 7 pages, 1 figure. systems paper with empirical evaluation and determinism validation experiments. Code available at https://github.com/varshith-Git/Valori-Kernel

Logic Sketch Prompting (LSP): A Deterministic and Interpretable Prompting Method

逻辑草图提示（LSP）：一种确定性和可解释的提示方法

Satvik Tripathi

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 逻辑草图提示（LSP）通过引入类型变量、确定性条件评估器和规则验证器，提升了大语言模型在需要严格规则遵守、确定性和可审计性任务中的性能和可解释性。

Wireless Traffic Prediction with Large Language Model

基于大语言模型的无线交通预测

Chuanting Zhang, Haixia Zhang, Jingping Qiao, Zongzhang Li, Mohamed-Slim Alouini

机构 * Shandong Key Laboratory of Intelligent Communication and Sensing-Computing Integration, Shandong University（山东大学智能通信与感知-计算整合重点实验室） ； School of Information Science and Engineering, Shandong Normal University（山东师范大学信息科学与工程学院） ； China Mobile Communications Group Shandong Co., Ltd（中国移动通信集团山东有限公司） ； Computer, Electrical and Mathematical Science and Engineering Division, King Abdullah University of Science and Technology (KAUST)（卡布斯大学科学与工程学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TIDES框架，利用大语言模型和DeepSeek模块，通过空间对齐和个性化模型提升无线交通预测的精度和鲁棒性。

Secure and Explainable Fraud Detection in Finance via Hierarchical Multi-source Dataset Distillation

通过分层多源数据集蒸馏实现金融领域的安全可解释欺诈检测

Yiming Qian, Thorsten Neumann, Xueyining Huang, David Hardoon, Fei Gao, Yong Liu, Siow Mong Rick Goh

机构 * Institute of High Performance Computing, A*STAR（高性能计算研究所） ； Xi'an Jiaotong--Liverpool University（西安交通大学利物浦大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 通过分层多源数据集蒸馏实现金融欺诈检测的可解释性和隐私保护，提升跨机构的欺诈检测性能与隐私安全性。

Journal ref The ACM International Conference on AI in Finance (ICAIF) Workshop, 2025

EEG Foundation Models: A Critical Review of Current Progress and Future Directions

EEG基础模型：对当前进展和未来方向的批判性回顾

Gayal Kuruppu, Neeraj Wagh, Vaclav Kremen, Sandipan Pati, Gregory Worrell, Yogatheesan Varatharajah

机构 * Department of Computer Science & Engineering, University of Minnesota Twin Cities（计算机科学与工程系，明尼苏达大学双城分校） ； Department of Bioengineering, University of Illinois at Urbana-Champaign（生物工程系，伊利诺伊大学厄巴纳-香槟分校） ； Department of Neurology, Mayo Clinic（神经病学系，梅奥诊所） ； Department of Neurology, University of Minnesota Twin Cities（神经病学系，明尼苏达大学双城分校） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文回顾了EEG基础模型的当前进展，分析了其在自监督建模中的方法和评估策略，指出未来需加强可扩展性和可信度以提升实际应用价值。

Comments 22 pages (main), 5 figures (main), 4 tables (main + supplement)

Let Androids Dream of Electric Sheep: A Human-Inspired Image Implication Understanding and Reasoning Framework

让安卓梦见电羊：一种受人类启发的图像隐喻理解和推理框架

Chenhao Zhang, Yazhe Niu

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Huazhong University of Science and Technology（华中科技大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究提出LAD框架，通过三阶段方法解决图像隐喻理解问题，在多个基准测试中取得优异成绩，推动视觉语言推理和人机交互发展。

Comments 19 pages, 9 figures, 7 tables. Code & Dataset: https://github.com/MING-ZCH/Let-Androids-Dream-of-Electric-Sheep

QE-Catalytic: A Graph-Language Multimodal Base Model for Relaxed-Energy Prediction in Catalytic Adsorption

QE-Catalytic: 一种图-语言多模态基础模型，用于催化吸附中放松能量的预测

Yanjie Li, Jian Xu, Xueqing Chen, Lina Yu, Shiming Xiang, Weijun Li, Cheng-lin Liu

机构 * AnnLab（安实验室） ； Institute of Semiconductors, Chinese Academy of Sciences（半导体研究所，中国科学院） ； Zhongguancun Academy（中关村学院） ； State Key Laboratory of Multimodal Artificial Intelligence Systems（多模态人工智能系统国家重点实验室） ； Institute of Automation, Chinese Academy of Sciences（自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Computer Network Information Center（计算机网络信息中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 QE-Catalytic结合语言模型与图Transformer，实现高精度催化吸附能量预测及逆向设计

Comments 25 pages

Exploring the features used for summary evaluation by Human and GPT

探索人类和GPT用于摘要评估所用的特征

Zahra Sadeghi, Evangelos Milios, Frank Rudzicz

机构 * Faculty of Computer Science, Dalhousie University, Canada（达尔豪斯大学计算机科学学院） ； Vector Institute for Artificial Intelligence, Canada（人工智能向量研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了人类和GPT在摘要评估中使用的特征，并通过统计和机器学习指标发现与人类响应相匹配的特征，同时展示了通过使用人类指标改进GPT判断能力的方法。

Epistemological Fault Lines Between Human and Artificial Intelligence

人类与人工智能之间的知识论断层

Walter Quattrociocchi, Valerio Capraro, Matjaž Perc

机构 * Department of Computer Science, Sapienza University of Rome, Rome, Italy ； Department of Psychology, University of Milan Bicocca, Milan, Italy ； Faculty of Natural Sciences ； Mathematics, University of Maribor, Maribor, Slovenia ； Community Healthcare Center Dr. Adolf Drolc Maribor, Maribor, Slovenia ； University College, Korea University, Seoul, Republic of Korea ； Department of Physics, Kyung Hee University, Seoul, Republic of Korea 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 本文揭示大型语言模型与人类认知在知识生成机制上的结构性差异，指出LLMs是随机模式完成系统而非知识代理，并识别七种知识断层，对社会评估、治理及知识素养提出影响。

Comments 16 pages, 1 figure

Large Language Models as Pokémon Battle Agents: Strategic Play and Content Generation

大型语言模型作为宝可梦战斗代理：战略玩法与内容生成

Daksh Jain, Aarya Jain, Ashutosh Desai, Avyakt Verma, Ishan Bhanuka, Pratik Narang, Dhruv Kumar

机构 * Birla Institute of Technology and Science, Pilani, India（比拉理工学院和科学学院，比兰） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大型语言模型在宝可梦战斗中的战略决策能力及内容生成能力，展示了其作为动态游戏对手和设计者的潜力。

Comments Under Review

GinSign: Grounding Natural Language Into System Signatures for Temporal Logic Translation

GinSign：将自然语言接地到系统签名以进行时序逻辑翻译

William English, Chase Walker, Dominic Simon, Rickard Ewetz

机构 * University of Florida（佛罗里达大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 GinSign通过将自然语言接地到系统签名，提升时序逻辑翻译的准确性和下游模型检查能力，实现95.5%的逻辑等价分数。