大模型对齐与安全

The Silicon Mirror: Dynamic Behavioral Gating for Anti-Sycophancy in LLM Agents

硅镜：用于LLM代理反趋炎附势的动态行为门控

Harshee Jignesh Shah

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：RLHF(abstract)；分类 cs.AI

AI总结 本文提出硅镜框架，通过动态检测用户说服策略并调整AI行为以维持事实准确性，实验显示其显著降低LLM的趋炎附势倾向。

Comments 7 pages, 8 figures, 5 tables. Code and evaluation data available at https://github.com/Helephants/langgraph-layered-context

GenOM: Ontology Matching with Description Generation and Large Language Model

GenOM：基于描述生成和大语言模型的本体匹配

Yiping Song, Jiaoyan Chen, Renate A. Schmidt

机构 * The University of Manchester（曼彻斯特大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 GenOM通过生成文本定义增强本体概念语义，结合嵌入模型检索对齐候选并利用精确匹配工具提升精度，实验表明其在生物医学领域表现优异，超越传统系统和近期大语言模型方法。

Comments Accepted for publication in World Wide Web (Springer). This version includes revisions based on peer review

Taming CATS: Controllable Automatic Text Simplification through Instruction Fine-Tuning with Control Tokens

驯服CATS：通过指令微调与控制令牌实现可控的自动文本简化

Hanna Hubarava, Yingqiang Gao

机构 * Department of Computational Linguistics, University of Zurich（苏黎世大学计算语言学系） ； Department of Clinical Research, University of Bern（伯尔尼大学临床研究系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出基于指令微调的CATS框架，通过控制令牌实现文本简化可控性，发现小模型在不同领域表现良好，但可控性依赖训练数据的属性变化，压缩控制因数据信号有限而表现欠佳。

AeroTherm-GPT: A Verification-Centered LLM Framework for Thermal Protection System Engineering Workflows

AeroTherm-GPT：一种面向热防护系统工程工作流的验证中心LLM框架

Chuhan Qiao, Jinglai Zheng, Jie Huang, Buyue Zhao, Fan Li, Haiming Huang

机构 * School of Civil Engineering, Beijing Jiaotong University（北京交通大学土木工程学院） ； Beijing Research Institute of Telemetry（北京遥测技术研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AeroTherm-GPT，一种专为热防护系统设计的LLM代理，通过约束闭环生成框架解决超音速热防护系统设计中生成可执行仿真工具时的约束冲突问题，实现高效率的根因修复。

NED-Tree: Bridging the Semantic Gap with Nonlinear Element Decomposition Tree for LLM Nonlinear Optimization Modeling

NED-Tree: 通过非线性元素分解树弥合语义鸿沟以实现LLM非线性优化建模

Zhijing Hu, Yufan Deng, Haoyang Liu, Changjun Fan

机构 * College of System Engineering, National University of Defense Technology（国防科技大学系统工程学院） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出NED-Tree框架，通过句级提取策略和递归树结构解决LLM在非线性优化建模中的语义鸿沟问题，实验显示其在10个基准测试中达到72.51%的平均准确率。

Comments 17 pages, 7 figures, conference

SHOE: Semantic HOI Open-Vocabulary Evaluation Metric

SHOE：语义HOI开放词汇评估度量

Maja Noack, Qinqian Lei, Taipeng Tian, Bihan Dong, Robby T. Tan, Yixin Chen, John Young, Saijun Zhang, Bo Wang

机构 * University of Mississippi（密西西比大学） ； National University of Singapore（新加坡国立大学） ； Independent Researcher（独立研究员） ； ASUS Intelligent Cloud Services (AICS)（华硕智能云服务（AICS）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出SHOE评估框架，通过结合预测与真实HOI标签的语义相似性，改进开放词汇HOI检测的评估方法，实验表明其与人类判断一致率达85.73%。

Comments Accepted to GRAIL-V Workshop at CVPR 2026

Nomad: Autonomous Exploration and Discovery

Nomad：自主探索与发现

Bokang Jia, Samta Kamboj, Satheesh Katipomu, Seung Hun Han, Neha Sengupta, Andrew Jackson

机构 * Inception, G42（G42 的 Inception） ； G42 ； MBZUAI（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 Nomad通过探索优先架构，构建领域探索地图，系统遍历以平衡广度与深度，生成并验证假设，最终生成可信报告。

The Evolution of Tool Use in LLM Agents: From Single-Tool Call to Multi-Tool Orchestration

大语言模型代理中工具使用的演变：从单工具调用到多工具编排

Haoyuan Xu, Chang Li, Xinyan Ma, Xianhao Ou, Zihan Zhang, Tao He, Xiangyu Liu, Zixiang Wang, Jiafeng Liang, Zheng Chu, Runxuan Liu, Rongchuan Mu, Dandan Tu, Ming Liu, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Harvard University（哈佛大学） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨了大语言模型代理中工具使用从单次调用到长期编排的演变，分析了多工具代理的最新进展，涵盖任务规划、安全控制、效率优化及实际应用等领域。

M3-BENCH: Process-Aware Evaluation of LLM Agents' Social Behaviors in Mixed-Motive Games

M3-BENCH：混合动机游戏中LLM代理社会行为过程感知评估

Sixiong Xie, Zhuofan Shi, Haiyang Shen, Yun Ma, Xiang Jing

机构 * Peking University（北京大学） ； National Key Laboratory of Data Space Technology and System（数据空间技术与系统全国重点实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 M3-BENCH通过24个混合动机游戏，从行为轨迹、推理过程和沟通内容三个视角评估LLM代理的社会能力，揭示了仅关注结果的评估方法无法捕捉到的社交能力差异，尤其是推理模型在内部 deliberation 与有效沟通之间的矛盾。

TRACE: Transparent Web Reliability Assessment with Contextual Explanations

TRACE: 基于上下文解释的透明网络可靠性评估

Joydeep Chandra, Aleksandr Algazinov, Satyam Kumar Navneet, Rim El Filali, Matt Laing, Andrew Hanna, Yong Zhang

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出TRACE框架，通过细粒度连续可靠性评分和上下文解释，提升网络内容可信度评估的透明性和准确性。

Comments Withdrawing paper due to identified inaccuracies in citation attribution. Specifically, errors were found in the Literature Review (Section 2), where references were incorrectly attributed or do not adequately support the associated claims. These issues affect the accuracy of the arguments presented. To preserve the integrity of the scholarly record, the authors are withdrawing this version

Adversarial Moral Stress Testing of Large Language Models

对抗性道德压力测试：大语言模型的伦理鲁棒性评估

Saeid Jamshidi, Foutse Khomh, Arghavan Moradi Dakhel, Amin Nikanjam, Mohammad Hamdaqa, Kawser Wazed Nafi

机构 * SWAT Laboratory, Polytechnique Montréal（蒙特利尔理工学院SWAT实验室） ； Huawei Distributed Scheduling and Data Engine Lab（华为分布式调度与数据引擎实验室） ； SæT Laboratory, Polytechnique Montréal（蒙特利尔理工学院SæT实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出AMST框架，通过对抗性多轮交互评估大语言模型的伦理鲁棒性，揭示传统单轮评估无法发现的降级模式，强调分布稳定性与尾部行为的重要性。

Disentangling Prompt Element Level Risk Factors for Hallucinations and Omissions in Mental Health LLM Responses

分离提示元素层面的风险因素以评估心理健康LLM响应中的幻觉与遗漏

Congning Ni, Sarvech Qadir, Bryan Steitz, Mihir Sachin Vaidya, Qingyuan Song, Lantian Xia, Shelagh Mulvaney, Siru Liu, Hyeyoung Ryu, Leah Hecht, Amy Bucher, Christopher Symons, Laurie Novak, Susannah L. Rose, Murat Kantarcioglu, Bradley Malin, Zhijun Yin

机构 * Vanderbilt University Medical Center（范德比尔特大学医学中心） ； Vanderbilt University（范德比尔特大学） ； Lirio ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出UTCO框架，通过系统性压力测试评估心理健康LLM响应中的幻觉与遗漏，发现上下文和语气是主要风险因素，支持将遗漏作为主要安全结果进行评估。

Comments Submitted to AMIA 2026 Annual Symposium (under review)

Structured Intent as a Protocol-Like Communication Layer: Cross-Model Robustness, Framework Comparison, and the Weak-Model Compensation Effect

结构意图作为协议式通信层：跨模型鲁棒性、框架比较及弱模型补偿效应

Peng Gang

机构 * Huizhou Lateni AI Technology Co., Ltd.（惠州拉特尼人工智能科技有限公司） ； Huizhou University（惠州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究结构意图在不同AI模型、语言和提示框架下的鲁棒性，比较不同框架效果，并发现弱模型补偿效应，证明结构意图在人机交互中的实用价值。

Comments 25 pages, figures, tables, and appendix. Third paper in a cumulative research series on PPS and 5W3H structured intent representation, extending prior work to cross-model robustness, framework comparison, and user-study validation

CausalPulse: An Industrial-Grade Neurosymbolic Multi-Agent Copilot for Causal Diagnostics in Smart Manufacturing

CausalPulse：一种工业级神经符号多智能体协作者，用于智能制造中的因果诊断

Chathurangi Shyalika, Utkarshani Jaimini, Cory Henson, Amit Sheth

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 CausalPulse通过神经符号架构整合异常检测、因果发现和推理，实现智能制造中的因果诊断，展现高可靠性和可扩展性。

Comments 10 pages, 8 figures, 4 tables, Accepted at AAAI-MAKE 2026 (AAAI Spring Symposium on Machine Learning and Knowledge Engineering for Knowledge-Grounded Semantic Agents)

Locating Risk: Task Designers and the Challenge of Risk Disclosure in RAI Content Work

定位风险：任务设计者与RAI内容工作中的风险披露挑战

Alice Qian, Ryland Shaw, Laura Dabbish, Jina Suh, Hong Shen

专题命中 安全评测 ：red teaming(abstract)；分类 cs.CY

AI总结 研究探讨任务设计者在RAI内容工作中如何披露风险，通过23份访谈揭示风险识别与沟通的实践，强调支持任务设计者提升工人福祉与AI伦理的技术有效性。

LLM Probe: Evaluating LLMs for Low-Resource Languages

LLM Probe：评估低资源语言的大型语言模型

Hailay Kidu Teklehaymanot, Gebrearegawi Gebremariam, Wolfgang Nejdl

机构 * L3S Research Center, Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心） ； Aksum University（阿克苏姆大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出LLM Probe框架，通过词典基础方法系统评估低资源语言中LLM的语言能力，揭示序列到序列模型在形态语法分析和翻译质量上的优势，以及因果模型在词汇对齐上的表现。

Comments 11 pages, 6 tables

CounselReflect: A Toolkit for Auditing Mental-Health Dialogues

CounselReflect：用于审计心理健康对话的工具包

Yahan Li, Chaohao Du, Zeyang Li, Christopher Chun Kuizon, Shupeng Cheng, Angel Hsing-Chi Hwang, Adam C. Frank, Ruishan Liu

机构 * University of Southern California（南加州大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出CounselReflect工具包，通过多维报告和证据链接片段，提供透明的心理健康对话审计方法，结合模型评估指标和文献库指标，支持可理解、可操作和可信的审计。

Dual Perspectives in Emotion Attribution: A Generator-Interpreter Framework for Cross-Cultural Analysis of Emotion in LLMs

情绪归因的双重视角：一种用于LLM中跨文化情绪分析的生成-解释框架

Aizirek Turdubaeva, Uichin Lee

机构 * KAIST（韩国科学技术院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出生成-解释框架，从表达与解读双重视角分析情绪归因，评估六种LLM在15国数据上的表现，揭示文化背景对情绪类型和模型性能的影响，呼吁在LLM中实现文化敏感的情绪建模。

Semantic Labeling for Third-Party Cybersecurity Risk Assessment: A Semi-Supervised Approach to Intent-Aware Question Retrieval

第三方网络安全风险评估的语义标注：一种半监督的意图感知问题检索方法

Ali Nour Eldin, Mohamed Sellami, Mehdi Acheli, Walid Gaaloul, Julien Steunou

机构 * SAMOVAR, Telecom SudParis, Institut Polytechnique de Paris（SAMOVAR, 南巴黎电信学院, 巴黎综合理工学院） ； Board of Cyber 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种半监督方法，通过语义标签空间提升第三方网络安全风险评估中意图感知的问题检索效率，减少标注成本并提高一致性。

Tokens with Meaning: A Hybrid Tokenization Approach for Turkish

具有意义的标记：一种针对土耳其语的混合标记方法

M. Ali Bayram, Ali Arda Fincan, Ahmet Semih Gümüş, Sercan Karakaş, Banu Diri, Savaş Yıldırım, Demircan Çelik

机构 * Yıldız Technical University（伊尔迪兹技术大学） ； Yeditepe University（耶迪特佩大学） ； University of Chicago（芝加哥大学） ； Istanbul Bilgi University（伊斯坦布尔比尔基大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出了一种结合词典驱动形态分割、音学规范化和受控子词回退的土耳其语混合标记器，通过TR-MMLU数据集评估，其在形态和词汇单元匹配度上优于现有方法。

Evaluating LLMs for Answering Student Questions in Introductory Programming Courses

评估LLMs在初级编程课程中回答学生问题的能力

Thomas Van Mullem, Bart Mesuere, Peter Dawyndt

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了LLMs在初级编程课程中协助教师回答学生问题的能力，通过构建基准数据集和定制评估指标，证明了LLMs能超越传统教师回答质量，并提出'教师在环'策略以降低风险。

Physics-Embedded Feature Learning for AI in Medical Imaging

嵌入物理的特征学习用于医学影像中的AI

Pulock Das, Al Amin, Kamrul Hasan, Rohan Thompson, Azubike D. Okpalaeze, Liang Hong

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出PhysNet，通过将肿瘤生长动力学嵌入卷积神经网络的特征学习过程，提升医学影像AI的可解释性和鲁棒性，实验表明其在脑部MRI数据集上优于多种现有模型。

Comments 7 pages, 5 figures

Tokenization and Morphological Fidelity in Uralic NLP: A Cross-Lingual Evaluation

词化与乌拉尔语NLP中的形态保真度：跨语言评估

Nuo Xu, Ahrii Kim

机构 * University of Eastern Finland（东芬兰大学） ； AI-Bio Convergence Research Institute（人工智能-生物融合研究所） ； Soongsil University（崇实大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过比较三种子词方法在六个乌拉尔语中的表现，发现OBPE在形态对齐和标注准确性上优于传统方法，尤其在拉丁字母语中表现突出。

Journal ref Proceedings of the Second Workshop on Language Models for Low-Resource Languages (LoResLM 2026)

LLM-Assisted Emergency Triage Benchmark: Bridging Hospital-Rich and MCI-Like Field Simulation

基于大语言模型的急救分级基准：连接医院丰富与MCI类现场模拟

Joshua Sebastian, Karma Tobden, KMA Solaiman

机构 * University of Maryland Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一个开放的急救分级基准，通过大语言模型辅助构建，解决现有基准不可用的问题，涵盖医院环境和MCI模拟两种场景，提升临床AI数据集的可重复性和可访问性。

Comments Submitted to GenAI4Health@NeurIPS 2025. This was the first version of the LLM-assisted emergency triage benchmark dataset and baseline models. A related but separate benchmark-focused study on emergency triage under constrained sensing has been accepted at the IEEE International Conference on Healthcare Informatics (ICHI) 2026 (see arXiv:2602.20168)

OpenAVS: Training-Free Open-Vocabulary Audio Visual Segmentation with Foundational Models

OpenAVS: 基于基础模型的无训练开放词汇音频视觉分割

Shengkai Chen, Yifang Yin, Jinming Cao, Shili Xiang, Zhenguang Liu, Roger Zimmermann

机构 * National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 OpenAVS通过文本作为代理，首次实现音频与视觉模态对齐，利用基础模型直接推断掩码，提升开放词汇音频视觉分割的泛化能力。

Comments Accepted by ICME 2026

Can Large Language Models Simulate Human Cognition Beyond Behavioral Imitation?

大语言模型能否超越行为模仿模拟人类认知？

Yuxuan Gu, Lunjun Liu, Xiaocheng Feng, Kun Zhu, Weihong Zhong, Lei Huang, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过217位AI研究者纵向研究轨迹构建基准，评估LLM是否能模拟人类认知，提出多维认知对齐指标，系统评估最新LLM及增强技术，探讨其模拟人类认知的能力及提升空间。

Investigating the Influence of Language on Sycophantic Behavior of Multilingual LLMs

探究语言对多语言大语言模型趋炎附势行为的影响

Bayan Abdullah Aldahlawi, A. B. M. Ashikur Rahman, Irfan Ahmad

机构 * King Fahd University of Petroleum and Minerals（法赫德国王石油矿产大学） ； SDAIA-KFUPM Joint Research Center for AI (JRCAI)（SDAIA-KFUPM人工智能联合研究中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究通过评估三种先进模型在五种语言下的回应，发现尽管新模型趋炎附势倾向降低，但语言仍显著影响其行为，揭示了文化与语言模式。

Comments 15 Pages, 5 figures

Dual-Stage LLM Framework for Scenario-Centric Semantic Interpretation in Driving Assistance

双阶段LLM框架用于驾驶辅助中的场景中心语义解释

Jean Douglas Carvalho, Hugo Taciro Kenji, Ahmad Mohammad Saber, Glaucia Melo, Max Mauro Dias Santos, Deepa Kundur

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出双阶段LLM框架，用于评估城市驾驶场景中基于LLM的风险推理可复现性。通过多模态驾驶数据构建确定性场景窗口，并在固定提示约束和闭合数字风险方案下评估，揭示模型间在风险等级分配、高风险升级、证据使用和因果归因上的系统性差异。

Story2Proposal: A Scaffold for Structured Scientific Paper Writing

Story2Proposal：一种结构化科学论文写作的支架

Zhuoyang Qian, Wei Shi, Xu Lin, Li Ling, Meng Luo, Ziming Wang, Zhiwei Zhang, Tengyue Xu, Gaoge Liu, Zhentao Zhang, Shuo Zhang, Ziqi Wang, Zheng Feng, Yan Luo, Shu Xu, Yongjin Chen, Zhibo Feng, Zhuo Chen, Bruce Yuan, Biao Wu, Harry Wang, Kris Chen

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Story2Proposal，一种基于合同约束的多智能体框架，通过协调运作的智能体将研究故事转化为结构化论文，提升了论文结构一致性与视觉对齐性。

Comments 10 pages, 4 figures,

Edge Reliability Gap in Vision-Language Models: Quantifying Failure Modes of Compressed VLMs Under Visual Corruption

视觉-语言模型边缘可靠性差距：压缩VLM在视觉损坏下的失败模式量化

Mehmet Kaan Erol

机构 * Marmara University, Institute of Pure and Applied Sciences（马尔马拉大学纯科学与应用科学研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文比较了压缩的视觉-语言模型在视觉损坏下的失败模式，发现紧凑模型在COCO上表现出更高的语义漂移和对象盲区，且置信度校准存在显著差异。

Comments 16 pages, 5 figures