Co-Sight: Enhancing LLM-Based Agents via Conflict-Aware Meta-Verification and Trustworthy Reasoning with Structured Facts
机构 * Zhongxing Telecom Equipment (ZTE), China（中兴通讯设备（ZTE），中国）
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.AI
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全评测 12 篇
Interpretable Multimodal Zero-Shot ECG Diagnosis via Structured Clinical Knowledge Alignment
机构 * Eindhoven University of Technology（埃因霍温理工大学） ； Singapore Management University（新加坡管理大学） ； Maxima Medical Center（马克斯医疗中心） ； Erasmus Medical Center（埃因霍温医学院）
专题命中 安全评测 ：alignment(title)；trustworthy(abstract)；分类 cs.LG
Modest-Align: Data-Efficient Alignment for Vision-Language Models
机构 * Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； ZJU-Angelalign R&D Center for Intelligence Healthcare（浙大天使align智能医疗研发中心） ； Centre for Frontier AI Research (CFAR)（前沿人工智能研究中心） ； Agency for Science, Technology and Research (A*STAR)（科技研究局） ； Institute of High Performance Computing (IHPC)（高性能计算研究所）
专题命中 安全评测 ：alignment(title,abstract)
SafetyPairs: Isolating Safety Critical Image Features with Counterfactual Image Generation
机构 * Georgia Tech（佐治亚理工学院） ； Apple（苹果公司）
专题命中 安全评测 ：safety(title,abstract)
EU-Agent-Bench: Measuring Illegal Behavior of LLM Agents Under EU Law
机构 * AI Safety Initiative Groningen（格罗宁根人工智能安全倡议）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI
Comments Accepted at the Workshop on Regulatable ML at the 39th Conference on Neural Information Processing Systems (NeurIPS 2025)
Quantifying CBRN Risk in Frontier Models
机构 * Enkrypt AI
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI
FAITH: A Framework for Assessing Intrinsic Tabular Hallucinations in Finance
机构 * Asian Institute of Digital Finance, National University of Singapore（亚洲数字金融研究所，新加坡国立大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments 9 pages, AMC ICAIF'25
Self-Rewarding PPO: Aligning Large Language Models with Demonstrations Only
机构 * Georgia Institute of Technology（佐治亚理工学院） ； Amazon（亚马逊）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Accepted by COLM 2025
Assessing the Real-World Utility of Explainable AI for Arousal Diagnostics: An Application-Grounded User Study
机构 * IT-Designers Gruppe Esslingen am Neckar（埃斯林根内卡尔IT设计组） ； University of Tübingen（图宾根大学） ； University of Giessen（吉森大学） ； Klinikum Esslingen, Klinik für Kardiologie, Pneumologie und Angilologie（埃斯林根克林克医院，心内科、呼吸科和内科） ； Technical University of Munich（慕尼黑技术大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
Photorealistic Inpainting for Perturbation-based Explanations in Ecological Monitoring
机构 * Duke University（杜克大学） ； University of Agder（阿格德大学） ； University of Cambridge（剑桥大学） ； U.S. National Park Service Department of Interior（美国国家公园管理局） ； Alaska Spatial Science（阿拉斯加空间科学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments NeurIPS 2025 Imageomics Workshop
HypRL: Reinforcement Learning of Control Policies for Hyperproperties
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
L^2M^3OF: A Large Language Multimodal Model for Metal-Organic Frameworks
机构 * Department of Chemistry, University of Liverpool（利兹大学化学系） ； Leverhulme Research Centre for Functional Materials Design, University of Liverpool（利兹大学功能性材料设计研究所以） ； Department of Computer Science, University of Stanford（斯坦福大学计算机科学系） ； School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
Comments 18 pages, 7 figures
