大模型对齐与安全

Automatic Model Card Generation Using an LLM

基于大语言模型的自动模型卡片生成

Tajkia Rahman Toma, Balreet Grewal, Cor-Paul Bezemer

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本研究提出基于LLM的MCTidy与MCGenie，前者重组模型卡片为标准化模板，后者从仓库数据直接生成，经48个Hugging Face模型验证，可实现标准化、可扩展的模型卡片文档生成。

Calibration-Family Overfit: Why Trusted Sabotage Monitors Don't Transfer Across Lineages

校准家族过拟合：为何可信破坏监测器不能跨谱系转移

Lucas Pinto

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 研究可信监测器跨谱系转移问题，以不可信策略家族为受控轴，通过拟合和应用监测器分解跨家族AUROC，发现相互作用为正且差距几何，给出四步协议，指出控制评估应报告跨家族转移矩阵，单一配对准确性高估安全性。

Comments 28 pages, 11 figures. Accepted at the COLM 2026 AI Measurement Science workshop. Code: this https URL (https://github.com/digdoug/calibration-family-overfit)