大模型对齐与安全

An LLM Agentic Approach for Legal-Critical Software: A Case Study for Tax Prep Software

一种针对法律关键软件的LLM代理方法：以税务准备软件为例

Sina Gogani-Khiabani, Ashutosh Trivedi, Diptikalyan Saha, Saeid Tizpaz-Niari

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Colorado Boulder（科罗拉多大学波德分校） ； IBM Research（IBM研究院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种基于LLM的代理方法，用于开发法律关键软件，通过税务准备软件案例研究，展示了如何利用多代理系统和元测试技术提升法律规范到可执行代码的可靠性。

Comments To appear at ICSE 26. 12 pages

AI-for-Science Low-code Platform with Bayesian Adversarial Multi-Agent Framework

面向科学的AI低代码平台与贝叶斯对抗多智能体框架

Zihang Zeng, Jiaquan Zhang, Pengze Li, Yuan Qi, Xi Chen

机构 * Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化院） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出一种面向科学的AI低代码平台，通过贝叶斯对抗多智能体框架实现代码生成与评估的协同优化，提升科学任务的可靠性和效率。

LLM-MLFFN: Multi-Level Autonomous Driving Behavior Feature Fusion via Large Language Model

LLM-MLFFN: 通过大语言模型的多级自动驾驶行为特征融合

Xiangyu Li, Tianyi Wang, Xi Cheng, Rakesh Chowdary Machineni, Zhaomiao Guo, Sikai Chen, Junfeng Jiao, Christian Claudel

机构 * Department of Civil, Architectural, and Environmental Engineering, The University of Texas at Austin（德克萨斯大学奥斯汀分校土木、建筑与环境工程系） ； Systems Engineering Program, Cornell University（康奈尔大学系统工程项目） ； Department of Electrical and Computer Engineering, University of Michigan（密歇根大学电气与计算机工程系） ； Department of Civil and Environmental Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校土木与环境工程系） ； School of Architecture, The University of Texas at Austin（德克萨斯大学奥斯汀分校建筑学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 LLM-MLFFN通过大语言模型的多级特征融合提升自动驾驶行为分类的准确性和鲁棒性。

RubricBench: Aligning Model-Generated Rubrics with Human Standards

RubricBench: 对齐模型生成的评分标准与人类标准

Qiyuan Zhang, Junyi Zhou, Yufei Wang, Fuyuan Lyu, Yidong Ming, Can Xu, Qingfeng Sun, Kai Zheng, Peng Kang, Xue Liu, Chen Ma

机构 * City University of Hong Kong（城市大学） ； Tencent Hunyuan（腾讯文英） ； MBZUAI ； McGill - Mila & Quebec AI Institute（麦吉尔-米拉与魁北克人工智能研究所） ； University of Illinois Springfield（伊利诺伊大学斯普林菲尔德分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 RubricBench通过精心设计的基准测试，评估基于评分标准的评估可靠性，揭示模型生成评分标准与人类标注之间存在显著差距。

Scalable Multilingual Multimodal Machine Translation with Speech-Text Fusion

可扩展的多语言多模态机器翻译与语音-文本融合

Yexing Du, Youcheng Pan, Zekun Wang, Zheng Chu, Yichong Huang, Kaiyuan Liu, Bo Yang, Yang Xiang, Ming Liu, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种语音引导的机器翻译框架，通过融合语音和文本提升多语言翻译性能，并在多个基准上取得新突破。

Comments Accepted in ICLR 2026

Rethinking the Role of LLMs in Time Series Forecasting

重新思考LLMs在时间序列预测中的作用

Xin Qiu, Junlong Tong, Yirong Sun, Yunpu Ma, Wei Zhang, Xiaoyu Shen

机构 * Ningbo Key Laboratory of Spatial Intelligence（空间智能 Ningbo 关键实验室） ； Digital Derivative, Institute of Digital Twin, Eastern Institute of Technology, Ningbo（数字衍生，数字孪生研究所，东部技术研究所，Ningbo） ； Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文研究了LLMs在时间序列预测中的作用，发现其在跨域泛化和复杂动态建模中表现优异，提供了有效模型设计的指导。

Personal Health Data Integration and Intelligence through Semantic Web and Blockchain Technologies

通过语义网络和区块链技术实现个人健康数据的整合与智能

Oshani Seneviratne, Manan Shukla, Jianjing Lin

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CY

AI总结 本文提出利用语义网络和区块链技术，解决医疗数据整合与去中心化存储问题，提升患者日常活动监测的智能化水平。

Benchmarking Overton Pluralism in LLMs

对大语言模型中Overton多元主义的基准测试

Elinor Poole-Dayan, Jiayi Wu, Taylor Sorensen, Jiaxin Pei, Michiel A. Bakker

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Brown University（布朗大学） ； University of Washington（华盛顿大学） ； Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出OVERTONBENCH框架，通过集合覆盖度量评估大语言模型中多元观点的代表性，揭示模型在多元主义对齐上的改进空间。

Comments Paper accepted to ICLR 2026

The Illusion of Understanding: How Middle-Schoolers Fail to Regulate Inquiry with ChatGPT in a Science Task

理解的幻觉：中学学生在科学任务中如何无法用ChatGPT调节探究

Rania Abdelghani, Kou Murayama, Celeste Kidd, Hélène Sauzéon, Pierre-Yves Oudeyer

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 本研究发现中学学生在使用ChatGPT进行科学探究时，难以有效调节探究过程，表现出过度依赖和缺乏批判性评估，需加强元认知策略训练以提升学习效果。

Comments This is a revised version of the previous preprint "Investigating middle school students question-asking and answer-evaluation skills when using ChatGPT for science investigation". Changes includes: - Title - Updated literature and framing of research questions - Additional descriptive statistics in the results section - Clearer description of limitations and future work

Benchmarking LLM Summaries of Multimodal Clinical Time Series for Remote Monitoring

对多模态临床时间序列远程监测的LLM摘要进行基准测试

Aditya Shukla, Yining Yuan, Ben Tamo, Yifei Wang, Micky Nnamdi, Shaun Tan, Jieru Li, Benoit Marteau, Brad Willingham, May Wang

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Shepherd Center（Shepherd中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于事件的评估框架，评估多模态临床时间序列摘要的可靠性，发现视觉方法在事件对齐上表现最佳。

LaSER: Internalizing Explicit Reasoning into Latent Space for Dense Retrieval

LaSER: 将显式推理内化到潜在空间以实现密集检索

Jiajie Jin, Yanzhao Zhang, Mingxin Li, Dingkun Long, Pengjun Xie, Yutao Zhu, Zhicheng Dou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高陵人工智能学院） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 LaSER通过将显式推理内化到潜在空间，提升密集检索性能，结合推理深度与推理效率。

Comments Under Review

Quantifying Conversational Reliability of Large Language Models under Multi-Turn Interaction

量化大型语言模型在多轮交互中的对话可靠性

Jiyoon Myung

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究评估了大型语言模型在多轮对话中的可靠性，发现其在复杂交互中存在显著下降，揭示了指令漂移、意图混淆等失败模式，强调了对LLM进行压力测试和改进评估方法的重要性。

Comments Accepted at the Workshop on Assessing and Improving Reliability of Foundation Models in the Real World (AAAI 2026)

From Conversation to Query Execution: Benchmarking User and Tool Interactions for EHR Database Agents

从对话到查询执行：为电子健康记录数据库代理构建用户和工具交互基准

Gyubok Lee, Woosog Chay, Heeyoung Kwak, Yeong Hwa Kim, Haanju Yoo, Oksoon Jeong, Meong Hi Son, Edward Choi

机构 * KAIST（韩国科学技术院） ； NAVER Cloud（NAVER云） ； Samsung Medical Center（三星医疗中心） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 EHR-ChatQA通过模拟环境评估数据库代理在处理用户查询模糊性和价值不匹配时的性能，揭示了构建安全关键EHR领域中鲁棒代理的重要性。

Comments ICLR 2026

Evaluating AI Grading on Real-World Handwritten College Mathematics: A Large-Scale Study Toward a Benchmark

评估AI在真实世界中的大学数学手写作业评分：迈向基准的大型研究

Zhiqi Yu, Xingping Liu, Haobin Mao, Mingshuo Liu, Long Chen, Jack Xin, Yifeng Yu

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出了一种基于OCR条件的大语言模型，用于评估真实手写数学作业的AI评分，并建立了一个标准化的基准以支持未来研究。

RTLocating: Intent-aware RTL Localization for Hardware Design Iteration

RTLocating：面向硬件设计迭代的意图感知RTL定位

Changwen Xing, Yanfeng Lu, Lei Qi, Chenxu Niu, Jie Li, Xi Wang, Yong Chen, Jun Yang

机构 * School of Integrated Circuits, Southeast University, Nanjing, China（东南大学集成电路学院） ； National Center of Technology Innovation for EDA, Nanjing, China（EDA技术创新国家中心） ； School of Computer Science and Engineering, Southeast University, Nanjing, China（东南大学计算机科学与工程学院） ； Department of Computer Science, Texas Tech University, Lubbock, USA（塔拉斯大学计算机科学系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 RTLocating通过意图感知的RTL定位框架，实现了工业级硬件设计迭代中意图驱动的高效定位，显著提升了变更请求与RTL代码的匹配精度。

FaithCoT-Bench: Benchmarking Instance-Level Faithfulness of Chain-of-Thought Reasoning

FaithCoT-Bench: 对链式推理实例级忠实度的基准测试

Xu Shen, Song Wang, Zhen Tan, Laura Yao, Xinyu Zhao, Kaidi Xu, Xin Wang, Tianlong Chen

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 FaithCoT-Bench提出了一种统一的基准，用于评估链式推理在实例级的忠实度，通过专家标注的轨迹和系统评估揭示了现有方法的优缺点。

LiaisonAgent: An Multi-Agent Framework for Autonomous Risk Investigation and Governance

LiaisonAgent: 一个用于自主风险调查与治理的多智能体框架

Chuanming Tang, Ling Qing, Shifeng Chen

机构 * Shenzhen Institute of Advanced Technology, CAS（深圳先进技术研究院, 中国科学院） ； Sangfor Technologies Inc.（Sangfor技术有限公司） ； College of Management Science（管理科学学院） ； Chengdu University of Technology（成都理工大学） ； Shenzhen University of Advanced Technology（深圳大学先进技术学院） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 LiaisonAgent通过多智能体系统实现自主风险调查与治理，结合QWQ-32B模型和混合规划架构，提升安全响应效率与准确性。

Comments Under Review

Reverse CAPTCHA: Evaluating LLM Susceptibility to Invisible Unicode Instruction Injection

反CAPTCHA：评估LLM对不可见Unicode指令注入的易感性

Marcus Graves

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 反CAPTCHA通过测试LLM对不可见Unicode指令的响应，揭示了模型在处理隐藏编码时的易感性及攻击面。

Comments 5 pages, 2 figures, 3 tables. Code and data: https://github.com/canonicalmg/reverse-captcha-eval

OPTIAGENT: A Physics-Driven Agentic Framework for Automated Optical Design

OPTIAGENT：一种基于物理的代理框架用于自动光学设计

Yuyu Geng, Lei Sun, Yao Gao, Xinxin Hu, Zhonghua Yi, Xiaolong Qian, Weijian Hu, Jian Bai, Kaiwei Wang

机构 * Zhejiang University（浙江大学） ； INSAIT, Sofia University（INSAIT，索菲亚大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 OPTIAGENT通过结合LLM与物理驱动的优化方法，首次实现了无需专业光学知识即可自动设计光学系统，提升了光学设计的自动化水平和精度。

DRL-ORA: Distributional Reinforcement Learning with Online Risk Adaption

DRL-ORA: 带在线风险适应的分布式强化学习

Yupeng Wu, Wenyun Li, Wenjie Huang, Chin Pang Ho

机构 * London Business School（伦敦商学院） ； The University of Hong Kong（香港大学） ； City University of Hong Kong（城市大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 DRL-ORA通过动态调整风险水平，在安全关键任务中提升强化学习的效率和可靠性。

Toward Expert Investment Teams:A Multi-Agent LLM System with Fine-Grained Trading Tasks

迈向专家投资团队：一个具有细粒度交易任务的多智能体LLM系统

Kunihiro Miyazaki, Takanobu Kawahara, Stephen Roberts, Stefan Zohren

机构 * Japan Digital Design, Inc.（日本数字设计公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种多智能体LLM交易框架，通过细粒度任务分解提升风险调整后的回报，并通过分析输出与决策偏好的一致性提高系统性能。

Comments 14 pages, 3 figures

A Mixture-of-Experts Model for Multimodal Emotion Recognition in Conversations

一种用于对话中多模态情绪识别的专家混合模型

Soumya Dutta, Smruthi Balaji, Sriram Ganapathy

机构 * LEAP Lab, Department of Electrical Engineering（LEAP实验室，电气工程系） ； Microsoft（微软） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 MiSTER-E通过专家混合框架提升对话中多模态情绪识别的准确率，实现跨模态一致性与融合。

Comments Accepted to Elsevier Computer Speech and Language. 30 pages, 9 figures, 5 tables

Effective QA-driven Annotation of Predicate-Argument Relations Across Languages

跨语言有效的问题回答驱动的谓词-论元关系标注

Jonathan Davidov, Aviv Slobodkin, Shmuel Tomi Klein, Reut Tsarfaty, Ido Dagan, Ayal Klein

机构 * Bar-Ilan University（巴伊兰大学） ； Ariel University（阿里尔大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种跨语言问题回答驱动的谓词-论元关系标注方法，通过重用英语QA-SRL解析器生成多语言高质量标注数据，提升语义解析效率。

Comments Accepted to EACL 2026 (Main Conference)

ClinDet-Bench: Beyond Abstention, Evaluating Judgment Determinability of LLMs in Clinical Decision-Making

ClinDet-Bench: 超越回避，评估大语言模型在临床决策中的判断可确定性

Yusuke Watanabe, Yohei Kobashi, Takeshi Kojima, Yusuke Iwasawa, Yasushi Okuno, Yutaka Matsuo

机构 * Kyoto University, Department of Biomedical Data Intelligence（京都大学生物医学数据智能系） ； Kyoto University, Department of Cardiovascular Medicine（京都大学心血管医学系） ； The University of Tokyo（东京大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 ClinDet-Bench通过评估大语言模型在临床决策中判断可确定性的能力，揭示其在不完整信息下的局限性，并提供评估框架以提高医疗决策的安全性。

Comments 17 pages, 3 figures, 10 tables

ViCLIP-OT: The First Foundation Vision-Language Model for Vietnamese Image-Text Retrieval with Optimal Transport

ViCLIP-OT：首个面向越南语图像-文本检索的视觉-语言基础模型，结合最优传输

Quoc-Khang Tran, Minh-Thien Nguyen, Nguyen-Khang Pham

机构 * Can Tho University（金兰大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 ViCLIP-OT通过整合CLIP对比学习与SIGROT损失，提升越南语图像-文本检索性能，实现域内和零样本设置下的显著改进。

Comments Preprint submitted to Expert Systems with Applications

CWM: Contrastive World Models for Action Feasibility Learning in Embodied Agent Pipelines

CWM: 用于具身智能体流水线中动作可行性学习的对比世界模型

Chayan Banerjee

机构 * School of Electrical Engineering and Robotics, Queensland University of Technology（电气工程与机器人学学院，昆士兰理工大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 CWM通过对比训练提升动作可行性评分，优于SFT方法，提升精度并增强安全性。

CrossLLM-Mamba: Multimodal State Space Fusion of LLMs for RNA Interaction Prediction

CrossLLM-Mamba: LLMs多模态状态空间融合用于RNA相互作用预测

Rabeya Tus Sadia, Qiang Ye, Qiang Cheng

机构 * Department of Computer Science, University of Kentucky, Lexington, KY, USA（计算机科学系，肯塔基大学，路易斯维尔，KY，美国） ； Department of Mathematics, University of Kentucky, Lexington, KY, USA（数学系，肯塔基大学，路易斯维尔，KY，美国） ； Institute for Biomedical Informatics, University of Kentucky, Lexington, KY, USA（生物医学信息学研究所，肯塔基大学，路易斯维尔，KY，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 CrossLLM-Mamba通过多模态状态空间融合实现RNA相互作用预测，采用双向Mamba编码器和动态序列转换模型，达到高精度性能。

Resilient Federated Chain: Transforming Blockchain Consensus into an Active Defense Layer for Federated Learning

容错联邦链：将区块链共识转变为联邦学习的主动防御层

Mario García-Márquez, Nuria Rodríguez-Barroso, M. Victoria Luzón, Francisco Herrera

机构 * Department of Computer Science and Artificial Intelligence（计算机科学与人工智能系） ； Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（数据科学与计算智能安达卢西亚研究 institute） ； University of Granada（格拉纳达大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 Resilient Federated Chain通过区块链技术增强联邦学习的对抗性攻击防御能力，提供更安全的去中心化学习环境。

Comments This work has been submitted to the IEEE for possible publication

AgenticTyper: Automated Typing of Legacy Software Projects Using Agentic AI

AgenticTyper: 使用代理AI自动类型化遗留软件项目

Clemens Pohle

机构 * Darmstadt University of Applied Sciences（达姆斯塔德应用技术大学） ； MaibornWolff GmbH（马本沃尔夫公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 AgenticTyper利用代理AI自动类型化遗留软件项目，通过迭代错误纠正和行为保留技术，高效解决类型错误问题。

Comments Accepted at ICSE 2026 Student Research Competition (SRC)

SoK: Agentic Skills -- Beyond Tool Use in LLM Agents

SoK: 代理技能——超越LLM代理中的工具使用

Yanna Jiang, Delong Li, Haiyu Deng, Baihe Ma, Xu Wang, Qin Wang, Guangsheng Yu

机构 * University of Technology Sydney（悉尼科技大学） ； CSIRO Data61（CSIRO数据61） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文探讨了代理技能在LLM代理中的应用，分析了技能的生命周期管理、分类方法及其安全影响，并提出了未来研究挑战。