Impartial Selection with Predictions
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全评测 9434 篇
Robustness Assessment and Enhancement of Text Watermarking for Google's SynthID
机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； School of Computing（计算机学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
Comments Accepted by TrustCom2025
Automated urban waterlogging assessment and early warning through a mixture of foundation models
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
Comments Submitted to Nature
On AI Verification in Open RAN
机构 * Tejas Networks ； IMDEA Networks Institute ； Northeastern University
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Proof2Silicon: Prompt Repair for Verified Code and Hardware Generation via Reinforcement Learning
机构 * Electrical and Computer Engineering（电气与计算机工程系） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
The Impact of Coreset Selection on Spurious Correlations and Group Robustness
机构 * Princeton University（普林斯顿大学） ； FAIR at Meta（Meta 的 FAIR 实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
Comments 10 pages, 9 additional pages for Appendix
Multilingual Text-to-Image Person Retrieval via Bidirectional Relation Reasoning and Aligning
机构 * School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） ； School of Computer Science, Wuhan University（武汉大学计算机学院） ； Key Laboratory of New Generation Artificial Intelligence Technology & Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新 generation 人工智能技术及交叉应用重点实验室（东南大学），教育部，中国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
Comments Final version published in IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI). Xplore link: https://ieeexplore.ieee.org/document/11199360
Empowering Real-World: A Survey on the Technology, Practice, and Evaluation of LLM-driven Industry Agents
机构 * School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen, China（计算机科学与技术学院，哈尔滨工业大学，深圳，中国） ； Huawei Technologies Co., Ltd.（华为技术有限公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
TaxoAlign: Scholarly Taxonomy Generation Using Language Models
机构 * Indian Association for the Cultivation of Science（印度科学培养协会） ； IT:U Interdisciplinary Transformation University Austria（奥地利 interdisciplinary Transformation University）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
Comments This paper has been accepted at the EMNLP 2025 Main Conference
Combining ECG Foundation Model and XGBoost to Predict In-Hospital Malignant Ventricular Arrhythmias in AMI Patients
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Physics-Informed Large Language Models for HVAC Anomaly Detection with Autonomous Rule Generation
机构 * Department of the Built Environment（环境学院） ； National University of Singapore（新加坡国立大学） ； InnoCore PRISM-AI ； KAIST（韩国科学技术院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments NeurIPS 2025 Workshop of UrbanAI (Oral)
Evolution of AI Agent Registry Solutions: Centralized, Enterprise, and Distributed Approaches
机构 * Cleveland State University（克利夫兰州立大学） ； Kent State University（肯特州立大学） ； Independent Researcher（独立研究者） ； Massachusetts Institute of Technology（麻省理工学院） ； Northeastern University（东北大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
SketchMind: A Multi-Agent Cognitive Framework for Assessing Student-Drawn Scientific Sketches
机构 * AI4STEM Education Center University of Georgia（AI4STEM教育中心乔治亚大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
Comments Submitted to NeurIPS2025
A Controllable Examination for Long-Context Language Models
机构 * University of Edinburgh（爱丁堡大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Nanjing University（南京大学） ； Alibaba Group（阿里巴巴集团） ； University of Amsterdam（阿姆斯特丹大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
Comments NeurIPS 2025 Dataset and Benchmark Track Spotlight
ARCO-BO: Adaptive Resource-aware COllaborative Bayesian Optimization for Heterogeneous Multi-Agent Design
机构 * Department of Mechanical Engineering, Northwestern University（机械工程系，西北大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
A Deep Learning Framework for Real-Time Image Processing in Medical Diagnostics: Enhancing Accuracy and Speed in Clinical Applications
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments 20 pages, 4 figures
AsyncVoice Agent: Real-Time Explanation for LLM Planning and Reasoning
机构 * Duke University（杜克大学） ； Adobe Research（Adobe研究）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments Accepted to the IEEE ASRU 2025 Demo Track
Reliability of Large Language Model Generated Clinical Reasoning in Assisted Reproductive Technology: Blinded Comparative Evaluation Study
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Subjective Evaluation Profile Analysis of Science Fiction Short Stories and its Critical-Theoretical Significance
机构 * Independent Researcher（独立研究者）
专题命中 安全评测 ：RLHF(abstract)；分类 cs.CL
Comments 38 pages. Manuscript submitted for review to the Journal of Computational Literary Studies (JCLS)
MergeBench: A Benchmark for Merging Domain-Specialized LLMs
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
Comments NeurIPS 2025 Track on Datasets and Benchmarks
HCR-Reasoner: Synergizing Large Language Models and Theory for Human-like Causal Reasoning
机构 * Center for Data Science, AAIS, Peking University（数据科学中心，AAIS，北京大学） ； Wangxuan Institute of Computer Technology, Peking University（王轩计算机技术研究所，北京大学） ； Tsinghua University（清华大学） ； State Key Laboratory of General Artificial Intelligence（通用人工智能国家重点实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AURA: An Agent Autonomy Risk Assessment Framework
机构 * University of Exeter（埃克塞特大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
Comments 10 pages, 2 figures. Submitted for open-access preprint on arXiv. Based on the AAMAS 2026 paper template
SQuAI: Scientific Question-Answering with Multi-Agent Retrieval-Augmented Generation
机构 * TU Dresden（德累斯顿理工大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
Comments Accepted at CIKM 2025
Temporal Referential Consistency: Do LLMs Favor Sequences Over Absolute Time References?
机构 * Indian Institute of Technology Delhi（印度理工学院德里分校） ； MongoDB, Inc.（MongoDB公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
Comments EMNLP Main Long Paper 2025
Information Theory in Open-world Machine Learning Foundations, Frameworks, and Future Direction
机构 * Shenzhen Key Laboratory of Neuropsychiatric Modulation（深圳心理行为调控重点实验室） ； Shenzhen-Hong Kong Institute of Brain Science（深圳-香港脑科学研究院） ； Shenzhen Institutes of Advanced Technology（深圳先进技术研究院） ； Chinese Academy of Sciences（中国科学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
WebGen-V Bench: Structured Representation for Enhancing Visual Design in LLM-based Web Generation and Evaluation
机构 * National Yang Ming Chiao Tung University, Sony Group Corporation（National Yang Ming Chiao Tung University, Sony集团） ； Sony Group Corporation（Sony集团）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
PoTS: Proof-of-Training-Steps for Backdoor Detection in Large Language Models
机构 * Université Paris-Saclay（巴黎-萨克雷大学） ； CEA LIST（法国原子能委员会列表中心） ； Palaiseau, France（法国Palaiseau）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
Comments 10 pages, 6 figures, 1 table. Accepted for presentation at FLLM 2025 (Vienna, Nov 2025)
Internet of Agents: Fundamentals, Applications, and Challenges
机构 * School of Cyber Science and Engineering, Xi'an Jiaotong University（网络安全科学与工程学院，西安交通大学） ； School of Artificial Intelligence, Shandong University（人工智能学院，山东大学） ； School of Automation, Guangdong University of Technology（自动化学院，广东技术大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments 25 pages,10 figures, 10 tables. Accepted by IEEE TCCN in Oct. 2025
Methods and Trends in Detecting AI-Generated Images: A Comprehensive Review
机构 * Knight Foundation School of Computing and Information Sciences, Florida International University（骑士基金会计算与信息科学学院，佛罗里达国际大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
Comments 34 pages, 4 Figures, 10 Tables
Real-Time Surgical Instrument Defect Detection via Non-Destructive Testing
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
