大模型对齐与安全

ROAD: Reflective Optimization via Automated Debugging for Zero-Shot Agent Alignment

ROAD: 通过自动调试实现零样本智能体对齐的反思优化

Natchaya Temyingyong, Daman Jain, Neeraj Kumarsahu, Prabhat Kumar, Rachata Phondi, Wachiravit Modecrua, Krittanon Kaewtawee, Krittin Pachtrachai, Touchapon Kraisingkorn

专题命中 安全评测 ：alignment(title)；分类 cs.AI

AI总结 ROAD通过自动调试实现零样本智能体对齐的反思优化，利用多智能体架构将无结构故障日志转化为结构化决策树协议，提升智能体性能和样本效率。

Comments 22 pages, 1 figure

MultiRisk: Multiple Risk Control via Iterative Score Thresholding

MultiRisk: 多风险控制 via 迭代分数阈值

Sunay Joshi, Yan Sun, Hamed Hassani, Edgar Dobriban

机构 * University of Pennsylvania（宾夕法尼亚大学） ； New Jersey Institute of Technology（新泽西理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 MultiRisk通过迭代分数阈值控制多个风险约束，利用动态规划算法实现对大型语言模型在安全约束下的有效控制。

Language Model Agents Under Attack: A Cross Model-Benchmark of Profit-Seeking Behaviors in Customer Service

语言模型代理受攻击：客户服务中心中逐利行为的跨模型基准测试

Jingyu Zhang

专题命中 安全评测 ：prompt injection(abstract)；trustworthy(abstract)

AI总结 本文提出了一项跨领域基准测试，评估客户服务中心中LLM代理在面对利润驱动攻击时的鲁棒性，揭示了攻击的领域和技术依赖性，并提供了可复现的评估工具。

Agentic Large Language Models, a survey

代理大语言模型：综述

Aske Plaat, Max van Duijn, Niki van Stein, Mike Preuss, Peter van der Putten, Kees Joost Batenburg

机构 * Leiden University Leiden Netherlands ； Leiden University \& AI Lab, Pegasystems Leiden Netherlands ； Leiden University ； Leiden University \& AI Lab, Pegasystems 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了代理大语言模型的研究现状，探讨了其在医疗诊断、物流和金融分析等领域的应用，并提出通过推理、行动和交互提升大语言模型能力的未来研究方向。

Comments Website: https://askeplaat.github.io/agentic-llm-survey-site/

Journal ref JAIR volume 84, article 29, December 2025

When F1 Fails: Granularity-Aware Evaluation for Dialogue Topic Segmentation

当F1失效时：面向对话主题分段的粒度感知评估

Michael H. Coen

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出粒度感知评估框架，用于对话主题分段，强调粒度选择而非单一边界预测。

Comments 34 pages, 4 figures. Evaluation and methodology study on dialogue topic segmentation

Improving Reliability and Explainability of Medical Question Answering through Atomic Fact Checking in Retrieval-Augmented LLMs

通过检索增强的大语言模型中的原子事实核查来提高医疗问答的可靠性与可解释性

Juraj Vladika, Annika Domres, Mai Nguyen, Rebecca Moser, Jana Nano, Felix Busch, Lisa C. Adams, Keno K. Bressem, Denise Bernhardt, Stephanie E. Combs, Kai J. Borm, Florian Matthes, Jan C. Peeken

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 通过原子事实核查提升医疗问答的可靠性与可解释性，减少幻觉并提高事实准确性。

Comments 18 pages, 7 figures and tables

State-of-the-art Small Language Coder Model: Mify-Coder

最先进的小型语言编码器模型：Mify-Coder

Abhinav Parmar, Abhisek Panigrahi, Abhishek Kumar Dwivedi, Abhishek Bhattacharya, Adarsh Ramachandra, Aditya Choudhary, Aditya Garg, Aditya Raj, Alankrit Bhatt, Alpesh Yadav, Anant Vishnu, Ananthu Pillai, Ankush Kumar, Aryan Patnaik, Aswatha Narayanan S, Avanish Raj Singh, Bhavya Shree Gadda, Brijesh Pankajbhai Kachhadiya, Buggala Jahnavi, Chidurala Nithin Krishna, Chintan Shah, Chunduru Akshaya, Debarshi Banerjee, Debrup Dey, Deepa R., Deepika B G, Faiz ur Rahman, Gagan Gayari, Gudhi Jagadeesh Kumar Naidu, Gursimar Singh, Harshal Tyagi, Harshini K, James Mani Vathalloor, Jayarama Nettar, Jayashree Gajjam, Joe Walter Sugil George, Kamalakara Sri Krishna Tadepalli, Kamalkumar Rathinasamy, Karan Chaurasia, Karthikeyan S, Kashish Arora, Kaushal Desai, Khushboo Buwade, Kiran Manjrekar, Malikireddy Venkata Sai Likhitha, Manjunath A, Mitali Mahavir Bedmutha, Mohammed Rafee Tarafdar, Nikhil Tiwari, Nikitha K Gigi, Pavan Ravikumar, Pendyala Swarnanjali, Piyush Anand, Prakash Chandrasekar, Prasanna Bhalchandra Gawade, Prasanth Sivan, Preeti Khurana, Priyanshi Babbar, Rajab Ali Mondal, Rajesh Kumar Vissapragada, Rajeshwari Ganesan, Rajeswari Koppisetti, Ramjee R., Ramkumar Thiruppathisamy, Rani G. S., S Reka, Samarth Gupta, Sandeep Reddy Kothakota, Sarathy K, Sathyanarayana Sampath Kumar, Saurabh Kumar, Shashank Khasare, Shenbaga Devi Venkatesh Kumar, Shiva Rama Krishna Parvatham, Shoeb Shaikh, Shrishanmathi A, Shubham Pathak, Sree Samhita Koppaka, Sreenivasa Raghavan K S, Sreeram Venkatasubramanian, Suprabha Desai Bojja, Swetha R, Syed Ahmed, Chinmai Harshitha Thota, Tushar Yadav, Veeravelly Kusumitha, V V S S Prasanth Patnaik, Vidya Sri Sesetti, Vijayakeerthi K, Vikram Raj Bakshi, Vinay K K, Vinoth Kumar Loganathan, Vipin Tiwari, Vivek Kumar Shrivastav, V Venkata Sri Datta Charan, Wasim Akhtar Khan

机构 * Infosys AI Research（英矽斯人工智能研究院） ； Mify Team（Mify团队） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 Mify-Coder通过高效训练策略和数据优化，在保持高准确性和安全性的同时，实现了比更大模型更优的代码生成性能。

Towards mechanistic understanding in a data-driven weather model: internal activations reveal interpretable physical features

迈向数据驱动天气模型的机理理解：内部激活揭示可解释的物理特征

Theodore MacMillan, Nicholas T. Ouellette

机构 * Stanford University（斯坦福大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文通过分析GraphCast模型的内部激活，揭示了可解释的物理特征，为数据驱动天气模型的机理理解提供了新视角。

Comments 18 pages, 13 figures

Towards Provably Secure Generative AI: Reliable Consensus Sampling

迈向可证明安全的生成AI：可靠的共识采样

Yu Cui, Hang Fu, Sicheng Pan, Zhuoyu Sun, Yifei Liu, Yuhong Nie, Bo Ran, Baohan Huang, Xufeng Zhang, Haibin Zhang, Cong Zuo, Licheng Wang

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出可靠的共识采样（RCS）算法，通过追踪接受概率提升生成AI的鲁棒性和效用，同时保持可控风险阈值。

UniAct: Unified Motion Generation and Action Streaming for Humanoid Robots

UniAct：面向人形机器人的统一动作生成与动作流

Nan Jiang, Zimo He, Wanhe Yu, Lexi Pang, Yunhao Li, Hongjie Li, Jieming Cui, Yuhan Li, Yizhou Wang, Yixin Zhu, Siyuan Huang

机构 * Institute for AI, Peking University（人工智能研究院，北京大学） ； Beijing Institute for General Artificial Intelligence (BIGAI)（北京通用人工智能研究院） ； School of Psychological and Cognitive Sciences, Peking University（心理学与认知科学学院，北京大学） ； School of Computer Science, Peking University（计算机科学学院，北京大学） ； Yuanpei College, Peking University（元培学院，北京大学） ； School of Foreign Languages, Peking University（外语学院，北京大学） ； School of EECS, Peking University（电子工程与科学学院，北京大学） ； Huazhong University of Science and Technology（华中科技大学） ； State Key Lab of General AI（通用人工智能国家重点实验室） ； Nat’l Eng. Research Center of Visual Technology（视觉技术国家工程研究中心） ； Beijing Key Laboratory of Behavior and Mental Health, Peking University（北京行为与心理健康重点实验室，北京大学） ； Embodied Intelligence Lab, PKU-Wuhan Institute for Artificial Intelligence（具身智能实验室，北京大学-武汉人工智能研究院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 UniAct通过统一感知与控制框架，实现人形机器人在多模态指令下的高效动作生成与实时执行，提升零样本跟踪成功率19%。

Comments Project page: https://jnnan.github.io/uniact/

SlideChain: Semantic Provenance for Lecture Understanding via Blockchain Registration

SlideChain: 通过区块链注册实现讲座理解的语义溯源

Md Motaleb Hossen Manik, Md Zabirul Islam, Ge Wang

机构 * Department of Computer Science Rensselaer Polytechnic Institute（计算机科学系罗切斯特理工学院） ； Department of Biomedical Engineering Rensselaer Polytechnic Institute（生物医学工程系罗切斯特理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 SlideChain通过区块链注册实现讲座理解的语义溯源，提供可验证的完整性与持久基准，解决多模态教育内容的可复现性和审计性问题。