AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-12-17 至 2025-12-17 共收录 3 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 幻觉与事实性 3 篇

2512.12012 2025-12-17 cs.CV cs.AI cs.CL cs.RO 73%

Semantic-Drive: Democratizing Long-Tail Data Curation via Open-Vocabulary Grounding and Neuro-Symbolic VLM Consensus

语义驱动：通过开放词汇锚定和神经符号视觉语言共识民主化长尾数据整理

Antonio Guillen-Perez

机构 * Independent Researcher（独立研究者）

专题命中幻觉与事实性：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI

AI总结 Semantic-Drive通过开放词汇锚定和神经符号视觉语言共识，提升自动驾驶中长尾数据整理的效率与隐私保护。

2512.14220 2025-12-17 cs.LG cs.AI 62%

Estimating problem difficulty without ground truth using Large Language Model comparisons

无需真实数据即可利用大语言模型比较估计问题难度

Marthe Ballon, Andres Algaba, Brecht Verbeken, Vincent Ginis

专题命中幻觉与事实性：alignment(abstract)；分类 cs.AI、cs.LG

AI总结本文提出LLM compare方法，通过大语言模型的成对比较估计问题难度，克服传统方法在分布外问题上的局限性，具有高一致性与鲁棒性。

Comments 19 pages, 10 figures

2512.04566 2025-12-17 cs.LG physics.data-an stat.ML 57%

Reliable Statistical Guarantees for Conformal Predictors with Small Datasets

在小数据集上为符合预测器提供可靠的统计保证

Miguel Sánchez-Domínguez, Lucas Lacasa, Javier de Vicente, Gonzalo Rubio, Eusebio Valero

机构 * ETSIAE-UPM - School of Aeronautics, Universidad Politécnica de Madrid（西班牙马德里理工大学航空航天学院）； Institute for Cross-Disciplinary Physics and Complex Systems (IFISC), CSIC-UIB（交叉学科物理与复杂系统研究所（IFISC），CSIC-UIB）； Center for Computational Simulation, Universidad Politécnica de Madrid, Campus de Montegancedo, Boadilla del Monte（计算模拟中心，马德里理工大学蒙特加森多校区，博阿迪利亚德尔蒙特）

专题命中幻觉与事实性：safety(abstract)；分类 cs.LG

AI总结本文提出了一种新的统计保证方法，用于在小数据集上提高符合预测器的可靠性，通过提供覆盖概率信息并验证其有效性。