大模型对齐与安全

RFEval: Benchmarking Reasoning Faithfulness under Counterfactual Reasoning Intervention in Large Reasoning Models

RFEval: 在大推理模型中评估推理忠实性下的反事实推理干预基准测试

Yunseok Han, Yejoon Lee, Jaeyoung Do

机构 * AIDAS Laboratory（AIDAS实验室） ； IPAI ； ECE（电子工程系） ； Seoul National University（首尔国立大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 RFEval通过反事实推理干预评估大推理模型的推理忠实性，发现49.7%的输出不忠实，主要源于立场不一致，强调准确性不能作为忠实性的可靠代理。

Comments Accepted in ICLR 2026 Poster: https://iclr.cc/virtual/2026/poster/10011763

TAG: Thinking with Action Unit Grounding for Facial Expression Recognition

TAG:基于动作单元的面部表情识别中的思维

Haobo Lin, Tianyi Bai, Jiajun Zhang, Xuanhao Chang, Sheng Lu, Fangming Gu, Zengjie Hu, Wentao Zhang

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 TAG通过基于动作单元的视觉-语言框架，提升面部表情识别的推理可信度和视觉一致性。

Comments 33 pages, 8 figures

Probabilistic Photonic Computing

概率光子计算

Frank Brückerhoff-Plückelmann, Anna P. Ovvyan, Akhil Varri, Hendrik Borras, Bernhard Klein, C. David Wright, Harish Bhaskaran, Ghazi Sarwat Syed, Abu Sebastian, Holger Fröning, Wolfram Pernice

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出利用光子计算实现低延迟、低能耗的概率计算架构，以解决传统确定性硬件在概率建模中的不足，并探讨其在人工智能系统中的应用与挑战。

Conversational AI for Automated Patient Questionnaire Completion: Development Insights and Design Principles

用于自动患者问卷完成的对话式AI：开发见解与设计原则

David Fraile Navarro, Mor Peleg

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出了一种基于生成式AI的对话代理，用于自动完成患者问卷，通过主题对话提高数据收集效率，并总结了设计原则和开发经验。

Comments 13 pages