arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

共收录 9419 信号源:cs.CL, cs.AI, cs.CY, cs.LG

1. 安全评测 9419 篇

2510.05431 2026-05-20 cs.CL 57%

Self-Filtered Distillation with LLMs-generated Trust Indicators for Reliable Patent Classification

基于LLM生成信任指标的自过滤蒸馏用于可靠专利分类

Yongmin Yoo, Xu Zhang, Longbing Cao

机构 * Frontier AI Research Centre, School of Computing, Faculty of Science and Engineering, Macquarie University(前沿人工智能研究中心,计算机学院,科学与工程学院,麦考瑞大学)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文提出自过滤蒸馏方法,通过将LLM生成的推理作为信任指标而非真实标签,提升专利分类的可靠性,实验显示在USPTO-2M数据集上宏F1指标提升了38.7%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.00470 2026-05-20 cs.LG cs.CV 57%

Less is More: Efficient Black-box Attribution via Minimal Interpretable Subset Selection

少即是多:通过最小可解释子集选择实现高效的黑盒属性分析

Ruoyu Chen, Siyuan Liang, Jingzhi Li, Shiming Liu, Li Liu, Hua Zhang, Xiaochun Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) University of Chinese Academy of Sciences(中国科学院大学) College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算机与数据科学学院) School of Artificial Intelligence, University of Science and Technology Beijing(北京科技大学人工智能学院) Department of Mechanical Engineering, Imperial College London(伦敦帝国理工学院机械工程系) Center for Machine Vision and Signal Analysis (CMVS), University of Oulu(奥卢大学机器视觉与信号分析中心) School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区计算机科学与技术学院)

专题命中 安全评测 :trustworthy(abstract);分类 cs.LG

AI总结 本文提出了一种高效的黑盒属性分析方法LiMA,通过将重要区域的属性分析转化为子模函数子集选择的优化问题,以更少的区域提供更准确的解释,并在多个基准模型上展示了显著的改进。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18791 2026-05-20 eess.IV cs.CV cs.LG q-bio.OT 57%

SpecX: A Large-Scale Benchmark for Multi-Modal Spectroscopy and Cross-Paradigm Evaluation

SpecX:多模态光谱的大规模基准及跨范式评估

Chengrui Xiang, Tengfei Ma, Yujie Chen, Tong Wang, Haowen Chen, Xiangxiang Zeng

机构 * College of Computer Science and Technology, Hunan University(湖南大学计算机科学与技术学院)

专题命中 安全评测 :alignment(abstract);分类 cs.LG

AI总结 本文提出SpecX,一个用于多模态光谱的大规模基准,通过不同层级的数据集支持分子解析、光谱模拟和理解任务,揭示了专用光谱模型和多模态语言模型在光谱智能中的不同优势。

Comments 9 pages,1 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18593 2026-05-19 cs.CR cs.AI cs.RO 57%

Not What You Asked For: Typographic Attacks in Household Robot Manipulation

并非你所要求的:家庭机器人操作中的字体攻击

Ali Iranmanesh, Peng Liu

机构 * Cyber Security Lab(网络安全实验室) The Pennsylvania State University(宾夕法尼亚州立大学) State College, USA(州立学院,美国)

专题命中 安全评测 :safety(abstract);分类 cs.AI

AI总结 本研究探讨了字体攻击对家庭机器人操作全流程的影响,提出了一种解耦感知架构,并发现感知错误会通过持久的3D语义地图导致物理性故障,揭示了字体误分类对机器人安全性的实际威胁。

Comments 10 pages, 1 figure, IEEE conference format

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18504 2026-05-19 cs.CL 57%

Ancient Greek to Modern Greek Machine Translation: A Novel Benchmark and Fine-Tuning Experiments on LLMs and NMT Models

古希腊语到现代希腊语机器翻译:一种新的基准和对LLM和NMT模型的微调实验

Spyridon Mavromatis, Sokratis Sofianopoulos, Prokopis Prokopidis, Maria Giagkou

机构 * National and Kapodistrian University of Athens, Department of Informatics and Telecommunications(雅典国家和卡普迪斯特里亚大学信息与电信系) Institute for Language and Speech Processing, Athena RC(语言与语音处理研究所,雅典RC)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文提出了一种新的基准测试,并对LLM和NMT模型进行了微调实验,以解决古希腊语到现代希腊语的低资源机器翻译问题,展示了微调在提升翻译性能上的显著效果。

Comments 14 pages. Accepted for presentation at the 15th Language Resources and Evaluation Conference (LREC 2026), Palma, Mallorca, Spain

Journal ref Proceedings of the Fifteenth Language Resources and Evaluation Conference (LREC 2026), pp. 8685-8698. European Language Resources Association (ELRA)

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.08080 2026-05-19 cs.LG cs.NE stat.AP 57%

Symbolic Quantile Regression for the Interpretable Prediction of Conditional Quantiles

符号量化回归用于条件量化可解释性预测

Cas Oude Hoekstra, Floris den Hengst

机构 * Independent researcher(独立研究者) Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)

专题命中 安全评测 :safety(abstract);分类 cs.LG

AI总结 本文提出了一种符号量化回归方法,用于预测条件量化并解释预测变量对结果的影响,通过在航空燃料使用案例中比较预测极值和中央结果的模型,展示了SQR在高风险应用中的有效性。

Journal ref Transactions on Machine Learning Research, May 2026, https://openreview.net/pdf?id=x9OYbyPJOG

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18025 2026-05-19 cs.AI 57%

TeleCom-Bench: How Far Are Large Language Models from Industrial Telecommunication Applications?

TeleCom-Bench: 大型语言模型在工业电信应用中还有多远?

Jieting Xiao, Yun Lin, Huizhen Qiu, Rui Ma, Chen Zhong, Dongyang Xu, Xiao Long, Chaoyu Zhang, Qiaobo Hao, Ding Zou, Zhiguo Yang, Yanqin Gao, Fang Tan

机构 * ZTE Corporation(中兴通讯)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文提出TeleCom-Bench,一个包含12个评估集和22678个精选样本的全面基准,旨在评估大型语言模型在电信领域的综合能力,揭示其在工业流程中的执行能力缺口。

Comments Accepted by KDD 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17911 2026-05-19 cs.CL 57%

A Pilot Benchmark for NL-to-FOL Translation in Planetary Exploration

行星探测中自然语言到一阶逻辑翻译的试点基准

Hayden Moore, Suman Saha, Mahfuza Farooque

机构 * Department of Computer Science and Engineering, College of Engineering, The Pennsylvania State University(计算机科学与工程系,工程学院,宾夕法尼亚州立大学)

专题命中 安全评测 :safety(abstract);分类 cs.CL

AI总结 本文提出一个试点基准,用于在行星探测领域将自然语言转换为一阶逻辑,通过NASA PDS的实测文档构建数据集,并手动标注FOL表示,以支持语言理解和形式推理的交叉研究。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17611 2026-05-19 cs.SE cs.LG 57%

A Feature-Driven Framework for Software Fault Prediction

基于特征的软件故障预测框架

Ahmad Nauman Ghazi, Nagajyothi Devarapalli, Ashir Javeed, Sadi Alawadi, Fahed Alkhabbas, Khalid AlKharabsheh

机构 * Department of Software Engineering(软件工程系) Blekinge Institute of Technology(布莱金厄理工大学) Department of Computer Science(计算机科学系) Malmö University(马尔默大学) Al-Balqa Applied University(阿尔巴卡应用大学)

专题命中 安全评测 :alignment(abstract);分类 cs.LG

AI总结 本文研究了特征选择和参数调优对机器学习模型在软件故障预测中的性能影响,通过结合相关性特征选择、递归特征消除、互信息和L1正则化等方法,以及网格搜索、随机搜索和遗传算法等优化技术,提升了故障预测的准确性,达到了88.40%的准确率,比基线模型提高了18%。

Comments Pages 1-9, Preprint, Accepted for publication in FLICS2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09609 2026-05-19 cs.AI cs.RO 57%

General-purpose LLMs as Models of Human Driver Behavior: The Case of Simplified Merging

通用大语言模型作为人类驾驶员行为模型:简化合并案例

Samir H. A. Mohammad, Wouter Mooi, Arkady Zgonnikov

机构 * Department of Transport and Planning, Delft University of Technology(代尔夫特理工大学交通与规划系) Department of Cognitive Robotics(认知机器人学系)

专题命中 安全评测 :safety(abstract);分类 cs.AI

AI总结 本文研究了通用大语言模型在模拟人类驾驶员行为中的应用,通过在简化的一维合并场景中嵌入两个通用大语言模型,并与人类数据进行定量和定性分析,发现模型在间歇性操作控制和空间线索战术依赖方面能再现人类行为,但在动态速度线索响应和安全性能方面存在差异,提示未来需进一步研究其失效模式以确保其作为人类驾驶行为模型的有效性。

Comments To be published in proceedings of IEEE ITSC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.16990 2026-05-19 cs.AI cs.CE 57%

Conv-FinRe: A Conversational and Longitudinal Benchmark for Utility-Grounded Financial Recommendation

Conv-FinRe:一种用于实用导向财务推荐的对话和纵向基准

Yan Wang, Yi Han, Lingfei Qian, Yueru He, Xueqing Peng, Dongji Feng, Zhuohan Xie, Vincent Jim Zhang, Rosie Guo, Fengran Mo, Jimin Huang, Yankai Chen, Xue Liu, Jian-Yun Nie

机构 * Georgia Institute of Technology(佐治亚理工学院) Columbia University(哥伦比亚大学) California State University(加州州立大学) University of Montreal(蒙特利尔大学) The University of Manchester(曼彻斯特大学) McGill University(麦吉尔大学)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本研究提出Conv-FinRe基准,用于评估金融推荐模型在对话和长期视角下的实用性,通过多视角参考区分描述性行为与基于投资者风险偏好的规范性效用,揭示理性决策与行为一致性的张力。

Comments Accepted by SIGIR 2026 Resource Track. Pre-camera-ready version

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.04070 2026-05-19 cs.CL 57%

T-FIX: Text-Based Explanations with Features Interpretable to eXperts

T-FIX:基于文本的可解释性方法,具备可解释的专家特征

Shreya Havaldar, Weiqiu You, Chaehyeon Kim, Anton Xue, Helen Jin, Marco Gatti, Bhuvnesh Jain, Helen Qu, Amin Madani, Daniel A. Hashimoto, Gary E. Weissman, Rajat Deo, Sameed Khatana, Lyle Ungar, Eric Wong

机构 * Department of Computer and Information Science, University of Pennsylvania(宾夕法尼亚大学计算机与信息科学系) Department of Computer Science, University of Texas at Austin(德克萨斯大学奥斯汀分校计算机科学系) Department of Physics and Astronomy, University of Pennsylvania(宾夕法尼亚大学物理与天文学系) Flatiron Institute(Flatiron研究所) Department of Surgery, Perelman School of Medicine, University of Pennsylvania(宾夕法尼亚大学佩雷尔曼医学院外科系) Division of Pulmonary, Allergy, and Critical Care, Perelman School of Medicine, University of Pennsylvania(宾夕菲亚大学佩雷尔曼医学院呼吸、过敏与危重医学科) Division of Cardiovascular Medicine, Perelman School of Medicine, University of Pennsylvania(宾夕法尼亚大学佩雷尔曼医学院心血管医学科) Department of Surgery, University of Toronto(多伦多大学外科系) University Health Network(大学健康网络)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文提出T-FIX框架,用于评估LLM生成的解释是否符合专家的推理方式,通过七个科学任务和三个领域进行验证,实现了自动且可定制的专家对齐评估。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.08886 2026-05-19 cs.CL cs.CE cs.IR 57%

FinAuditing: A Financial Taxonomy-Structured Multi-Document Benchmark for Evaluating LLMs

FinAuditing: 一个基于财务分类结构的多文档基准,用于评估LLMs

Yan Wang, Keyi Wang, Shanshan Yang, Jaisal Patel, Jeff Zhao, Fengran Mo, Xueqing Peng, Lingfei Qian, Yankai Chen, Víctor Gutiérrez-Basulto, Jimin Huang, Guojun Xiong, Xiao-Yang Liu, Xue Liu, Jian-Yun Nie

机构 * Columbia University(哥伦比亚大学) Stevens Institute of Technology(史蒂文斯理工学院) Rensselaer Polytechnic Institute(拉特格斯理工学院) University of Montreal(蒙特利尔大学) McGill University(麦吉尔大学) MBZUAI(麦吉尔大学人工智能研究所) Cardiff University(卡迪夫大学) The University of Manchester(曼彻斯特大学) Harvard University(哈佛大学)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文提出FinAuditing,一个基于财务分类结构的多文档基准,用于评估大型语言模型在财务审计任务中的能力,通过三个任务:财务语义匹配、财务关系提取和财务数学推理,揭示了现有LLMs在概念检索、分类感知关系建模和跨文档一致性推理方面的显著差距。

Comments Accepted by SIGIR 2026 Resource Track. Pre-camera-ready version

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17292 2026-05-19 cs.AI cs.MA 57%

MetaCogAgent: A Metacognitive Multi-Agent LLM Framework with Self-Aware Task Delegation

MetaCogAgent: 一种具有自我意识的任务委托多智能体大语言模型框架

Chenyu Wang, Yang Shu

机构 * School of Computer and Artificial Intelligence, Zhengzhou University, Zhengzhou, China(郑州大学计算机与人工智能学院) Zhejiang University, Hangzhou, China(浙江大学)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文提出MetaCogAgent框架,通过引入元认知自我评估单元,使每个智能体在执行任务前评估自身能力边界,从而提升任务准确性并减少API调用次数。

Comments 6 pages, submitted to IEEE SMC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17255 2026-05-19 cs.AI math.OC 57%

CAM-Bench: A Benchmark for Computational and Applied Mathematics in Lean

CAM-Bench: 一个用于Lean中的计算与应用数学的基准测试

Wentao Long, Yunfei Zhang, Chenyi Li, Li Zhou, Chumin Sun, Zaiwen Wen

机构 * Fudan University(复旦大学) Qingdao University(青岛大学) Peking University(北京大学) Huawei Technologies Ltd.(华为技术有限公司)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文提出CAM-Bench,一个包含1000个Lean证明目标的基准测试,涵盖优化、数值线性代数和数值分析等领域,旨在补充现有形式化数学基准测试,通过针对依赖教科书概念和基本定理的应用数学问题进行评估。

Comments Preprint. 44 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17203 2026-05-19 cs.CY 57%

Beyond Model Readiness: Institutional Readiness for AI Deployment in Public Systems

超越模型准备:公共系统中人工智能部署的机构准备

Erika Fille Legara, Elmo Domino Jose, Paula Joy Martinez

专题命中 安全评测 :alignment(abstract);分类 cs.CY

AI总结 本文提出了一种评估公共系统中人工智能部署准备性的框架,重点在于机构层面的准备而非模型本身,通过两个实际案例展示了机构准备不足导致部署受阻的问题。

Comments 9 pages, 2 figures, 2 tables. Accepted at the 2nd Workshop on Technical AI Governance Research (TAIGR) at ICML 2026, Seoul, South Korea

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17152 2026-05-19 cs.CL 57%

Multilingual and Multimodal LLMs in the Wild: Building for Low-Resource Languages

多语言和多模态大语言模型在野:为低资源语言构建

Firoj Alam, Shammur Absar Chowdhury, Enamul Hoque Prince

机构 * Qatar Computing Research Institute(卡塔尔计算研究所) HBKU(哈马德大学) York University(约克大学)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文探讨了在有限数据和计算资源下构建多语言多模态大语言模型的方法,涵盖了低成本数据创建、三模态对齐适配器堆栈以及文化感知评估等核心技术和资源。

Comments Multimodal Foundation Models, Large Language Models, Native, Multilingual, Language Diversity, Low-resources-language

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16881 2026-05-19 cs.CL 57%

PaliBench: A Multi-Reference Blueprint for Classical Language Translation Benchmarks

PaliBench: 一种多参考框架用于经典语言翻译基准测试

Máté Metzger, Nadnapang Phophichit

机构 * Independent Researcher(独立研究者) International Buddhist Studies College(国际佛教研究学院) Mahachulalongkornrajavidyalaya University(玛哈切通拉翁皇家师范大学)

专题命中 安全评测 :alignment(abstract);分类 cs.CL

AI总结 本文提出PaliBench,一种用于巴利语到英语翻译的基准测试,以及构建多参考翻译基准测试的方法,通过结合LLM辅助对齐、自动化验证、质量过滤、去重和多指标评估,生成包含1700段文本、8389个段落和约345,000个token的基准测试数据集,评估了十个现代大语言模型的性能。

Comments Preprint. This manuscript has not yet been peer reviewed

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16859 2026-05-19 cs.CV cs.AI 57%

VGGT-CD: Training-Free Robust Registration for 3D Change Detection

VGGT-CD:无训练的鲁棒三维变化检测注册

Wei Zhang, Songhua Li, Yihang Wu, Qiang Li, Qi Wang

机构 * Northwestern Polytechnical University(西北工业大学)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文提出VGGT-CD方法,通过解耦跨时间注册与动态变化干扰,实现无训练的鲁棒三维变化检测注册,有效减少轨迹误差并提升注册速度。

Comments 13 pages, 5 figures. Code is available at: https://github.com/WZ-CS/VGGT-CD

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16858 2026-05-19 cs.RO cs.AI 57%

Pedestrian-Aware LLM-Driven Behavioral Planning for Autonomous Vehicles

面向行人的LLM驱动行为规划用于自动驾驶车辆

Aidana Baimbetova, Haruki Yonekura, Hamada Rizk, Hirozumi Yamaguchi

机构 * The University of Osaka, Japan(大阪大学,日本) RIKEN Center for Computational Science, Japan(日本计算科学研究中心) Tanta University, Egypt(埃及塔塔大学)

专题命中 安全评测 :safety(abstract);分类 cs.AI

AI总结 本文提出了一种基于大型语言模型的决策框架,用于自动驾驶车辆在复杂城市环境中考虑行人行为,通过自然语言推理提示将结构化场景观测转换为语言推理,从而生成安全的驾驶决策。

Comments This paper has been accepted for presentation at the 29th IEEE International Conference on Intelligent Transportation Systems (ITSC)

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16725 2026-05-19 cs.AI 57%

Baba in Wonderland: Online Self-Supervised Dynamics Discovery for Executable World Models

《白兔在奇幻世界:在线自监督动态发现用于可执行世界模型》

SeungWon Seo, DongHeun Han, SeongRae Noh, HyeongYeop Kang

机构 * Korea University(韩国大学) Kyung Hee University(庆熙大学)

专题命中 安全评测 :trustworthy(abstract);分类 cs.AI

AI总结 该研究探讨了在先验错配情况下,如何通过交互证据自监督学习可执行世界模型,引入了Alice系统,通过失败的候选更新作为结构信号,发现并改进动态,从而提升可执行世界模型的学习效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.07098 2026-05-19 cs.LG physics.comp-ph 57%

CarCrashNet: A Large-Scale Dataset and Hierarchical Neural Solver for Data-Driven Structural Crash Simulation

CarCrashNet:一个大规模数据集和分层神经求解器用于数据驱动的结构碰撞仿真

Mohamed Elrefaie, Dule Shu, Matthew Klenk, Faez Ahmed

机构 * MIT(麻省理工学院) Toyota Research Institute(丰田研究院) Future Product Innovation(未来产品创新)

专题命中 安全评测 :safety(abstract);分类 cs.LG

AI总结 本文提出CarCrashNet数据集和分层神经求解器,用于数据驱动的结构碰撞仿真,包含14000多个碰撞模拟和825辆整车碰撞模拟,通过开源求解器验证并评估了基于机器学习的求解器性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01674 2026-05-19 cs.AI 57%

Can Heterogeneous Language Models Be Fused?

异构语言模型能否融合?

Shilian Chen, Jie Zhou, Qin Chen, Wen Wu, Xin Li, Qi Feng, Liang He

机构 * School of Computer Science and Technology, East China Normal University(东华大学计算机科学与技术学院) Shanghai AI Laboratory(上海人工智能实验室)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文提出HeteroFusion方法,解决异构语言模型融合中的架构不匹配和冲突问题,通过功能模块对齐和冲突感知去噪,实现稳定高效的模型融合。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21531 2026-05-19 cs.CR cs.AI cs.CV 57%

On the Adversarial Robustness of Large Vision-Language Models under Visual Token Compression

大型视觉-语言模型在视觉标记压缩下的对抗鲁棒性研究

Xinwei Zhang, Hangcheng Liu, Li Bai, Hao Wang, Qingqing Ye, Tianwei Zhang, Haibo Hu

机构 * The Hong Kong Polytechnic University, Hong Kong(香港理工大学) Nanyang Technological University, Singapore(南洋理工大学) Chongqing University, Chongqing, China(重庆大学) Research Centre for Privacy and Security Technologies in Future Smart Systems, PolyU(未来智能系统中的隐私与安全技术研究中心)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 本文研究了视觉标记压缩对大型视觉-语言模型对抗鲁棒性的影响,提出CAGE攻击方法,通过优化与压缩推理对齐,揭示压缩机制下的鲁棒性漏洞。

Comments Accepted by ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.23978 2026-05-19 cs.LG math.OC stat.ML 57%

Assured autonomy: How operations research powers and orchestrates generative AI systems

保障自主性:如何用运筹学赋能和协调生成式AI系统

Tinglong Dai, David Simchi-Levi, Michelle Xiao Wu, Yao Xie

机构 * Carey Business School, Johns Hopkins University(约翰霍普金斯大学卡里商学院) Data Science and AI Institute, Johns Hopkins University(约翰霍普金斯大学数据科学与人工智能研究院) Institute for Data, Systems and Society, Operations Research Center, Department of Civil and Environmental Engineering, Massachusetts Institute of Technology(麻省理工学院数据、系统与社会研究所,运筹学中心,土木与环境工程系) Purdue University(普渡大学) H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院H.米尔顿·斯图尔特工业与系统工程学院)

专题命中 安全评测 :safety(abstract);分类 cs.LG

AI总结 本文探讨生成式AI在向自主决策系统转变过程中,如何通过运筹学方法提升系统的可行性、鲁棒性和风险控制能力。

Comments Authors are listed alphabetically; Production and Operations Management (POM), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.07191 2026-05-19 cs.RO cs.LG stat.ME 57%

Curb Your Attention: Causal Attention Gating for Robust Trajectory Prediction in Autonomous Driving

抑制注意力:因果注意力门控用于自动驾驶中的鲁棒轨迹预测

Ehsan Ahmadi, Ray Mercurius, Soheil Alizadeh, Kasra Rezaee, Amir Rasouli

机构 * University of Alberta(阿尔伯塔大学) Noah’s Ark Laboratory, Huawei Technologies Canada(华为加拿大诺亚实验室) Cornell University(康奈尔大学)

专题命中 安全评测 :safety(abstract);分类 cs.LG

AI总结 本文提出CRiTIC模型,通过因果发现网络识别agent间因果关系,并引入因果注意力门控机制提升轨迹预测的鲁棒性和泛化能力,实验表明模型在对抗非因果扰动时鲁棒性提升54%。

Comments Accepted ICRA 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16616 2026-05-19 cs.LG 57%

MLReplicate: Benchmarking Autonomous Research Systems for Machine Learning Reproducibility

MLReplicate:用于机器学习可重复性自主研究系统的基准测试

Sasi Kiran Gaddipati, Diyana Muhammed, Farhana Keya, Gollam Rabby, Sören Auer

机构 * TIB—Leibniz Information Centre for Science and Technology(蒂宾根-莱比锡信息科学与技术研究中心) L3S Research Center, Leibniz University Hannover(莱比锡大学汉诺威分校L3S研究中心)

专题命中 安全评测 :trustworthy(abstract);分类 cs.LG

AI总结 本文提出MLReplicate基准测试,评估自主研究系统在机器学习可重复性方面的性能,发现计算规模并非决定性因素,且系统间存在显著差距。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20421 2026-05-19 cs.CR cs.AR cs.LG cs.NA math.NA 57%

Hawkeye: Reproducing GPU-Level Non-Determinism

Hawkeye:重现GPU级非确定性

Erez Badash, Dan Boneh, Ilan Komargodski, Megha Srivastava

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country(匿名机构,匿名城市,匿名地区,匿名国家)

专题命中 安全评测 :trustworthy(abstract);分类 cs.LG

AI总结 Hawkeye系统通过在CPU上重现GPU矩阵乘法运算,实现机器学习模型训练和推理流程的精确复现,解决了传统验证方法的计算开销和鲁棒性问题。

Comments Accepted to MLSys 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08464 2026-05-18 cs.LG 57%

The Geometric Structure of Models Learning Sparse Data

学习稀疏数据的模型几何结构

Thomas Walker, T. Mitchell Roddenberry, Ahmed Imtiaz Humayun, Randall Balestriero, Richard Baraniuk

机构 * Rice University(里士大学) Brown University(布朗大学)

专题命中 安全评测 :alignment(abstract);分类 cs.LG

AI总结 本文研究了在稀疏条件下模型通过局部几何结构实现成功学习的机制,提出正常对齐概念,并引入GrokAlign正则化策略提升深度网络训练效率,同时改进递归特征机以增强对抗鲁棒性。

Comments 27 pages, 7 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15736 2026-05-18 cs.CV cs.AI 57%

BiomedAP: A Vision-Informed Dual-Anchor Framework with Gated Cross-Modal Fusion for Robust Medical Vision-Language Adaptation

BiomedAP: 一种基于视觉的双锚框架与门控跨模态融合用于鲁棒的医学视觉-语言适应

Huanyang Tong, Kai Liu, Fangjun Kuang, Huiling Chen

机构 * Wenzhou University(温州大学) Wenzhou Business College(温州商务学院)

专题命中 安全评测 :alignment(abstract);分类 cs.AI

AI总结 BiomedAP通过门控跨模态融合和双锚约束机制,提升医学视觉-语言模型在提示变化下的鲁棒性,实验显示其在多个基准上均优于基线方法。

Comments CVPR2026 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏