大模型对齐与安全

Is Your Prompt Poisoning Code? Defect Induction Rates and Security Mitigation Strategies

你的提示污染代码了吗？缺陷诱导率与安全缓解策略

Bin Wang, YiLu Zhong, MiDi Wan, WenJie Yu, YuanBing Ouyang, Yenan Huang, Hui Li

机构 * Organization（机构） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究探讨了低质量提示对生成代码安全性的负面影响，提出评估框架和基准数据集，并展示高级提示技术可缓解安全风险。

Comments Accepted for publication in Empirical Software Engineering (EMSE) Journal

DCGL: Dual-Channel Graph Learning with Large Language Models for Knowledge-Aware Recommendation

DCGL: 基于大语言模型的双通道图学习用于知识感知推荐

Xinchi Zou, Tongzhenzhi Su, Jianjun Li, Yuan Fu, Chang Liu, Zhiying Deng, Zhiwei Shen

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院） ； School of Software Engineering, Huazhong University of Science and Technology（华中科技大学软件工程学院） ； Laboratory for Artificial Intelligence and New Forms of Education, Central China Normal University（中央财经大学人工智能与新教育形式实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出DCGL框架，通过双通道架构、多级对比学习和动态融合机制，解决知识图谱与大语言模型结合中的隐含语义建模、单通道融合和用户行为频率考虑不足问题，实验表明其在稀疏场景中表现优异。

Comments Accepted by SIGIR 2026

Signal Reshaping for GRPO in Weak-Feedback Agentic Code Repair

信号重塑用于弱反馈代理代码修复中的GRPO

Jia Li, Yuxin Su, Ting Peng, Hailiang Huang, Yuetang Deng, Michael R. Lyu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Sun Yat-sen University（中山大学） ； Tencent（腾讯） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在弱反馈环境下，通过信号重塑提升GRPO在代理代码修复中的性能，通过三种信号重塑方法改进轨迹排名、轨迹内信用分配和组内可比性，实验表明信号重塑显著提高了修复准确率。

From Assistance to Agency: Rethinking Autonomy and Control in CI/CD Pipelines

从协助到自主：重新思考CI/CD流水线中的自主性与控制

Marcus Emmanuel Barnes, Taher A. Ghaleb, Safwat Hassan

机构 * Faculty of Information University of Toronto Toronto Ontario Canada（信息学院多伦多大学多伦多安大略加拿大） ； Department of Computer Science Trent University Peterborough Ontario Canada（计算机科学系特伦特大学彼得伯格安大略加拿大） ； University of Toronto（多伦多大学） ； Trent University（特伦特大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨CI/CD流水线中自主性与控制的重新定义，提出授权转移的设计挑战，分析当前系统在数据平面的操作限制，并提出控制平面安全与治理机制的研究方向。

Comments Accepted to the 3rd ACM International Conference on AI-Powered Software (AIware 2026), Main Track, Montreal, Canada, July 6-7, 2026. 5 pages

OralMLLM-Bench: Evaluating Cognitive Capabilities of Multimodal Large Language Models in Dental Practice

OralMLLM-Bench: 评估多模态大语言模型在牙科实践中的认知能力

Rongyang Wang, Shuang Zhou, Jiashuo Wang, Wenya Xie, Xiaoxia Che

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出OralMLLM-Bench，通过27个临床任务评估多模态大语言模型在牙科影像分析中的认知能力，揭示模型与牙科医生的性能差异及改进方向。

Comments 21 pages, 4 figures, 5 tables

SteelDefectX: A Multi-Form Vision-Language Dataset and Benchmark for Steel Surface Defect Analysis

SteelDefectX：一种用于钢铁表面缺陷分析的多形式视觉-语言数据集和基准

Shuxian Zhao, Jie Gui, Baosheng Yu, Dacheng Tao

机构 * Southeast University（东南大学） ； Purple Mountain Laboratories（紫金山实验室） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出SteelDefectX数据集，包含7778张图像和25种缺陷类别，提供多形式文本标注，涵盖视觉-语言分类、分割及跨数据集迁移等任务，揭示文本设计对工业视觉-语言学习的重要性。

FinReasoning: A Hierarchical Benchmark for Reliable Financial Research Reporting

FinReasoning：一种用于可靠金融研究报告的分层基准

Yiyun Zhu, Yidong Jiang, Ziwen Xu, Yinsheng Yao, Dawei Cheng, Jinru Ding, Jie Xu

机构 * School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出FinReasoning分层基准，用于评估金融研究中的核心能力，区分模型在基础阶段如审计和修正中的表现，揭示模型能力分层。

TEA-Bench: A Systematic Benchmarking of Tool-enhanced Emotional Support Dialogue Agent

TEA-Bench: 一种工具增强情感支持对话代理的系统性基准测试

Xingyu Sui, Yanyan Zhao, Yulin Hu, Jiahe Guo, Weixiang Zhao, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出TEA-Bench，首个评估工具增强情感支持对话代理的交互式基准，通过真实情感场景和工具环境评估情感支持质量和事实性。实验表明工具增强提升情感支持质量并减少幻觉，但效果依赖模型能力。

BEAVER: An Efficient Deterministic LLM Verifier

BEAVER：一种高效的确定性大语言模型验证器

Tarun Suresh, Nalin Wadhwa, Debangshu Banerjee, Gagandeep Singh

机构 * University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 BEAVER 提出了一种计算大语言模型安全属性确定性概率界限的框架，通过新颖的 Token trie 和 Frontier 数据结构系统探索模型输出空间，提供可靠保证并识别更多高风险实例。

Physics-Based Benchmarking Metrics for Multimodal Synthetic Images

基于物理的多模态合成图像基准度量指标

Kishor Datta Gupta, Marufa Kamal, Md. Mahfuzur Rahman, Fahad Rahman, Mohd Ariful Haque, Sunzida Siddique

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出结合大语言模型与推理、知识映射和视觉语言模型的物理约束多模态数据评估指标，以提升多模态合成图像的语义和结构准确性。

Cited but Not Verified: Parsing and Evaluating Source Attribution in LLM Deep Research Agents

被引用但未验证：解析和评估LLM深度研究代理中的源归属

Hailey Onweller, Elias Lumer, Austin Huber, Pia Ramchandani, Vamse Kumar Subbiah, Corey Feld

机构 * Commercial Technology and Innovation Office, PricewaterhouseCoopers, U.S（普华永道商业技术与创新办公室，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出首个源归属评估框架，通过AST解析器大规模评估LLM生成的Markdown报告中的引用，从链接有效性、内容相关性和事实准确性三个维度验证引用可靠性，揭示了表面引用质量与事实可靠性之间的关键断层。

Systematic Evaluation of Large Language Models for Post-Discharge Clinical Action Extraction

大型语言模型在出院后临床行动提取中的系统评估

Shivali Dalmia, Ananya Mantravadi, Prasanna Desikan

机构 * Centific AI Research（Centific AI研究） ； Centific Global Solutions, Inc.（Centific全球解决方案公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文系统评估了零样本和少样本大型语言模型在安全关键的出院后临床行动提取中的表现，提出两阶段提取框架以提升临床任务的可操作性，并分析标注不一致性和模型推理与标注规范的对齐问题。

How Does A Text Preprocessing Pipeline Affect Ontology Matching?

文本预处理流程如何影响本体匹配？

Zhangcheng Qiang, Kerry Taylor, Weiqing Wang

机构 * Australian National University（澳大利亚国立大学） ； Monash University（莫纳什大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文研究了文本预处理流程对本体匹配的影响，发现阶段1的分词和标准化比阶段2的停用词去除和词干提取更有效，并提出两种修复虚假映射的新方法。

Comments 14 pages, 16 figures, 3 tables

Position: Adopt Constraints Over Fixed Penalties in Deep Learning

位置：在深度学习中采用约束而非固定罚分

Juan Ramirez, Meraj Hashemizadeh, Simon Lacoste-Julien

机构 * Mila - Quebec AI Institute and DIRO, Université de Montréal（蒙特利尔大学Mila-魁北克人工智能研究所和DIRO） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文探讨了在深度学习中非协商性约束应直接建模而非用固定罚分替代，指出固定罚分在非凸问题中不等价，且会弱化硬约束为可权衡的软惩罚，导致求解错误。

Comments Code available at https://github.com/merajhashemi/constraints-vs-penalties

6G Needs Agents: Toward Agentic AI-Native Networks for Autonomous Intelligence

6G需要智能体：迈向面向自主智能的智能体AI原生网络

Mohamed Amine Ferrag, Abderrahmane Lakas, Merouane Debbah

机构 * Department of Computer and Network Engineering, United Arab Emirates University, UAE（计算机与网络工程系，阿联酋大学） ； Research Institute for Digital Future, Khalifa University, UAE（数字未来研究院，哈利法大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出基于大语言模型的智能体架构，用于构建AI原生6G网络，通过分层推理和分布式多智能体系统平衡性能与效率，揭示了模型异构部署和量化影响的重要性。

Research on Vision-Language Question Answering Models for Industrial Robots

工业机器人中视觉-语言问答模型的研究

Ping Li, Bartlomiej Brzozka

机构 * Shandong Management University（山东管理大学） ； Maria Curie-Sklodowska University（玛丽·居里-斯洛多夫斯卡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种层次交叉模态融合模型，解决工业机器人中语义模糊、复杂环境布局和领域术语的问题，通过多级特征融合提升问答可靠性。

Comments 8 Pages, 5 figures

Journal ref Brzozka,B.Machine Learning Algorithms in Predicting College Students' Grades:A Review.Journal of Applied Automation Technologies,2025,3,1-12

Beyond Semantic Relevance: Counterfactual Risk Minimization for Robust Retrieval-Augmented Generation

超越语义相关性：为鲁棒检索增强生成的反事实风险最小化

Peiyang Liu, Qiang Yan, Ziqiang Cui, Di Liang, Xi Wang, Wei Ye

机构 * National Engineering Research Center for Software Engineering, Peking University（软件工程国家工程研究中心，北京大学） ； City University of Hong Kong（香港城市大学） ； Tencent Technology（腾讯科技） ； Peking University（北京大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出CoRM-RAG框架，通过因果干预模拟用户偏差来提升检索鲁棒性，在对抗性场景中优于传统检索器和重排序器。

"I Don't Know" -- Towards Appropriate Trust with Certainty-Aware Retrieval Augmented Generation

我不知道--迈向具有确定性意识的适当信任

Daan Di Scala, Maaike de Boer, Pınar Yolum

机构 * TNO Netherlands Organisation for Applied Scientific Research, Department Data Science（荷兰应用科学研究院，数据科学部门） ； Utrecht University, Department of Information and Computing Sciences（乌得勒支大学，信息与计算科学系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出CERTA系统，通过结合问题、上下文和答案的相关性来反映不确定性，以建立适当的信任。研究创建了Certainty Benchmark，并通过实验验证了CERTA在减少过度同意和提供谨慎行为方面的有效性。

Comments To be published in VALE 2025 Proceedings

Cross-Subject Generalization for EEG Decoding: A Survey of Deep Learning Methods

跨受体解码的通用性：深度学习方法的综述

Taida Li, Yujun Yan, Fei Dou, Wenzhan Song, Xiang Zhang

机构 * Department of Computer Science, University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校计算机科学系） ； Department of Computer Science, Dartmouth College（达特茅斯学院计算机科学系） ； School of Computing, University of Georgia（佐治亚大学计算科学学院） ； School of Electrical and Computer Engineering, University of Georgia（佐治亚大学电气与计算机工程学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文综述了深度学习方法在跨受体解码中的应用，分析了多源领域问题的评估协议，并系统分类了特征对齐、对抗学习等方法，探讨了理论限制和EEG基础模型的发展。

Comments Accepted manuscript in Progress in Biomedical Engineering. Minor update: corrected author affiliation in comment

Deep Feature Optimization for Enhanced Fish Freshness Assessment

深度特征优化用于增强鱼类新鲜度评估

Phi-Hung Hoang, Nam-Thuan Trinh, Van-Manh Tran, Thi-Thu-Hong Phan

机构 * Department of Artificial Intelligence, FPT University（人工智能系，FPT大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种三阶段框架，通过优化深度特征提升鱼类新鲜度评估的准确性与可靠性，实验表明其在鱼类眼睛新鲜度数据集上达到85.99%的准确率。

Comments 39 pages; 10 tables; 9 figures

Journal ref Ecological Informatics, 95, 103711, 2026

Analyzing Adversarial Inputs in Deep Reinforcement Learning

分析深度强化学习中的对抗输入

Davide Corsi, Guy Amir, Guy Katz, Alessandro Farinelli

机构 * University of California, Irvine, USA（加州大学尔布雷特分校） ； Cornell University, USA（康奈尔大学） ； The Hebrew University of Jerusalem, Israel（特拉维夫大学） ； University of Verona, Italy（威尼斯大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文通过形式验证方法分析深度强化学习中对抗输入的特性，提出Adversarial Rate指标，用于评估对抗输入对DRL策略的影响，并提供工具和算法以缓解训练DRL网络的脆弱性。

Comments Accepted to AISoLA 2025

SC-Taxo: Hierarchical Taxonomy Generation under Semantic Consistency Constraints using Large Language Models

SC-Taxo：基于语义一致性约束的层次化分类生成方法

Shiqiang Cai, Nianhong Niu, Shizhu He, Kang Liu, Jun Zhao

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Science and Technology Beijing（北京科技大学） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出SC-Taxo框架，利用大语言模型和层次化优化机制，解决现有分类生成方法在结构一致性和语义对齐上的不足，提升分类体系的层次性和准确性。

Comments 12 pages, 5 figures, 2 tables

AgentReputation: A Decentralized Agentic AI Reputation Framework

AgentReputation: 一种去中心化的代理AI声誉框架

Mohd Sameen Chishti, Damilare Peter Oyinloye, Jingyue Li

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AgentReputation框架，旨在解决去中心化代理AI市场中声誉机制失效的问题，通过分层架构和上下文感知声誉卡片实现声誉管理，同时提供风险驱动的决策引擎。

Comments 5 pages, 1 figure, accepted to FSE 2026, Ideas, Visions and Reflections track

Intern-Atlas: A Methodological Evolution Graph as Research Infrastructure for AI Scientists

Intern-Atlas：一种方法论进化图作为人工智能科学家的研究基础设施

Yujun Wu, Dongxu Zhang, Xinchen Li, Jinhang Xu, Yiling Duan, Yumou Liu, Jiabao Pan, Qiyuan Zhu, Xuanhe Zhou, Jingxuan Wei, Siyuan Li, Jintao Chen, Conghui He, Cheng Tan

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Peking University（北京大学） ； Xi'an Jiaotong University（西安交通大学） ； Zhejiang University（浙江大学） ； East China Normal University（华东师范大学） ； Hunan University（湖南大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai University（上海大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 Intern-Atlas通过构建方法论进化图，自动识别方法实体，推断方法间的关系，并捕捉驱动创新过渡的瓶颈，为AI研究提供因果网络支持。

Comments 25 pages, 5 figures, 8 tables

The Topology of Multimodal Fusion: Why Current Architectures Fail at Creative Cognition

多模态融合的拓扑学：为何当前架构在创造性认知上失败

Xiujiang Tan

机构 * Guangzhou Academy of Fine Arts（广州美术学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文指出当前多模态AI架构存在拓扑限制而非参数限制，通过哲学、认知科学和数学三个支柱提出多模态融合的拓扑学框架，提出UOO实现、ANALOGY-MM基准和META-TOP三阶基准，通过实验路线验证拓扑同构性。

Comments Expanded 11 technical improvements; 5 reference corrections; Appendix B pseudocode added. ~43 pages, 5 figures. Chinese philosophical terms romanized. Companion monograph available separately

Adaptive Dual-Teacher Distillation with Subnetwork Rectification for Bridging Semantic Gaps in Black-Box Domain Adaptation

自适应双教师蒸馏与子网络校正用于桥接黑盒领域适应中的语义间隙

Zhe Zhang, Jing Li, Wanli Xue, Xu Cheng, Jianhua Zhang, Qinghua Hu, Shengyong Chen

机构 * School of Computer Science and Engineering, Tianjin University of Technology（天津理工大学计算机科学与工程学院） ； School of Artificial Intelligence, Tianjin University（天津大学人工智能学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出DDSR框架，通过自适应预测融合策略和子网络正则化机制，解决黑盒领域适应中任务特定知识与语言对齐语义先验的不一致问题，提升领域适应性能。

Comments Under Review

Agent-Agnostic Evaluation of SQL Accuracy in Production Text-to-SQL Systems

不依赖代理的生产环境SQL准确性评估

Taslim Jamal Arif, Kuldeep Singh

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出STEF框架，通过自然语言输入和生成的SQL进行生产环境文本到SQL系统的评估，无需数据库模式或参考查询，实现持续监控和改进反馈。

The Effects of Visual Priming on Cooperative Behavior in Vision-Language Models

视觉提示对视觉语言模型合作行为的影响

Kenneth J. K. Ong

机构 * ST Engineering, Singapore（1 ST工程，新加坡） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文研究了视觉提示如何影响视觉语言模型在囚徒困境中的合作行为，通过图像内容和颜色奖励矩阵实验，发现图像内容和颜色提示对模型决策模式有影响，不同模型的敏感性和缓解效果各异。

Test Before You Deploy: Governing Updates in the LLM Supply Chain

部署前测试：在LLM供应链中管理更新

Mohd Sameen Chishti, Damilare Peter Oyinloye, Jingyue Li

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种部署侧治理框架，通过定义模型行为规则、按部署风险分类的测试套件和兼容性门禁来管理LLM更新，解决模型演变中的兼容性问题。

Comments 4 pages, 1 figure, accepted to The 2nd International Workshop on Large Language Model Supply Chain Analysis (LLMSC2026) co-located with FSE 2026

Consumer Attitudes Towards AI in Digital Health: A Mixed-Methods Survey in Australia

消费者对数字健康中AI的态度：澳大利亚混合方法调查

Wei Zhou, Rashina Hoda, Joycelyn Ling

机构 * Digital Health CRC（数字健康CRC） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究通过混合方法调查澳大利亚275名参与者，探讨消费者对医疗AI的接受度、信任及风险认知，并评估AI生成与医生撰写的咨询摘要的优劣。