AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
PDE的流学习器：迈向科学计算的物理到物理范式
机构 * The University of Alabama（阿拉巴马大学） ； University of Pittsburgh（匹兹堡大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出流学习器（flow learners）范式，通过参数化传输向量场并积分生成轨迹，将PDE求解从状态预测转向物理上允许的未来传输建模，实现连续时间预测、不确定性量化及物理感知求解器设计。
基于上下文感知保形预测的增强型可再生能源预测
机构 * EPFL, Switzerland（瑞士联邦理工学院） ； Ghent University, Belgium（比利时根特大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 提出上下文感知保形预测（CACP）框架，通过加权历史观测校准预测区间，无需重新训练模型，提升可再生能源预测的可靠性和效率。
零样本VLM中虚假相关性的密度感知转换
机构 * School of Computing and Information Systems, The University of Melbourne, Victoria, Australia（计算与信息系统学院，墨尔本大学，维多利亚，澳大利亚）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 提出密度感知转换（DAT）方法，利用局部几何密度项修正图像-文本相似度，以缓解CLIP等视觉语言模型在零样本分类中因虚假相关性导致的性能下降。
Comments ICML 2026
面向负责任且基于认识论的多语言大语言模型在计算社会科学与人文学科中的应用
机构 * Northwestern University in Qatar（卡塔尔西北大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文重新概念化多语言推理大语言模型为解释学工具，提出一个基于理论框架来评估其在社会科学与人文学科研究中的文化对齐、跨语言稳定性和推理忠实性。
Journal ref Proceedings of LLMs4SSH Workshop at LREC 2026, Palma de Mallorca, Spain, 2026
Evi-Steer：通过高效且可泛化的证据调优学习引导生物医学视觉-语言模型
机构 * Concordia University（康科迪亚大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出Evi-Steer框架，通过证据跨模态低维引导实现BiomedCLIP的不确定性感知参数高效微调，仅更新0.11%参数，在15个生物医学数据集上少样本学习和域泛化设置中优于现有方法。
Comments MICCAI 2026 Early Accept; Project Page: https://tahakoleilat.github.io/Evi-Steer. This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this contribution will be published as part of the MICCAI 2026 proceedings in October
基于视觉线索检测手语翻译中的幻觉：是依据视觉信息还是猜测？
机构 * German Research Center for Artificial Intelligence (DFKI GmbH)（德国人工智能研究中心（DFKI GmbH）） ； Saarland Informatics Campus（萨尔兰州信息学校园） ； Barcelona Supercomputing Center (BSC-CNS)（巴塞罗那超级计算中心（BSC-CNS））
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 针对手语翻译中模型依赖语言先验而非视觉输入导致幻觉的问题，提出一种基于特征敏感性和反事实信号的令牌级可靠性度量，用于量化视觉信息利用程度，并在两个基准上验证其预测幻觉率、跨数据集泛化及与文本信号结合提升风险评估的效果。
Comments Published at ICLR2026 Code available at \url{https://github.com/yhamidullah/hallucination-slt}
通用健康查询的共情适用性建模
机构 * University of Michigan（密歇根大学） ； Lahore University of Management Sciences（拉合尔管理科学大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出共情适用性框架（EAF），基于临床、语境和语言线索对患者查询的情感反应和解释适用性进行分类，以支持异步医疗中的共情沟通。
Comments Accepted at Findings of ACL 2026
什么使LVLMs更少产生幻觉？揭示影响幻觉鲁棒性的架构因素
机构 * School of Computer Science, Engineering Research Center of Machine Learning and Industry Intelligence, Sichuan University（计算机科学学院，机器学习与产业智能工程研究中心，四川大学） ； School of Computer and Information Engineering, Xiamen University of Technology（计算机与信息工程学院，厦门理工大学） ； Department of Electrical and Computer Engineering, University of Hong Kong（电气与计算机工程系，香港大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过将架构设计分解为语言基础、视觉表示和语义对齐三个维度，并引入CoSimUE基准，系统探索了架构因素对LVLMs幻觉鲁棒性的影响，发现模型参数扩展效果有限，而增强视觉编码器、语言基础和语义对齐能分别减少不同类型的幻觉。
面向数据敏感领域的LLM输出的神经符号验证（扩展预印本）
机构 * University of Bamberg（巴姆堡大学） ； Free University of Berlin（柏林自由大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 提出一种结合形式符号方法与神经语义分析的混合验证架构，用于检测LLM输出中的幻觉、不一致和隐私漏洞，在医疗设备损伤评估系统中实现83%的结构化实体幻觉检测率和72%的语义虚构检测率。
Comments Extended preprint version of accepted technical communication at KI 2026. 22 pages, 3 figures
多标签胸部X光分类中的不确定性及其解缠基准测试
机构 * Fraunhofer Heinrich-Hertz-Institut（弗劳恩霍夫海因里希-赫兹研究所） ； Technische Universität Berlin（柏林技术大学） ； The Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本研究使用MIMIC-CXR-JPG数据集，对多标签胸部X光分类任务中的13种不确定性量化方法进行基准测试，评估了卷积和Transformer架构，并扩展了三种方法到多标签设置，揭示了不同方法和架构在不确定性估计和解缠认知与偶然不确定性方面的优缺点。
物理学就是一切？物理学家监督人工智能开发科学软件的案例研究
机构 * Kavli IPMU (WPI), UTIAS, The University of Tokyo（Kavli研究所（WPI）、UTIAS、东京大学） ； Center for Data-Driven Discovery（数据驱动发现中心） ； Institute For Interdisciplinary Research in Science（科学跨学科研究中心）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI
AI总结 通过一个物理学家监督AI编码代理开发可微扰动理论模块的案例，研究AI代理在科学软件开发中的可靠性，发现监督设计比模型能力更能决定输出可信度。
Comments 10 pages, 2 figures, 2 tables, 1 physicist and a few AI agents. Accepted by ICML 2026 AI for Science Workshop. Code and development log are available at this repo: https://github.com/MinhMPA/clax-pt
ActTraitBench: 通过人类行为验证量化大型语言模型中的知识-决策差距
机构 * Peking University（北京大学） ； Baidu Inc（百度公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出ActTraitBench框架，基于人类数据建立心理测量方面与行为范式的一一映射，并通过分位数映射校准LLM评分分布，揭示LLM在自我报告与行为决策之间的知识-决策差距，并引入CoCA干预来缓解该差距。
面向情感支持对话的用户感知主动知识获取
机构 * Harbin Institute of Technology, China（哈尔滨工业大学） ； Baidu Inc., Beijing, China（百度公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出用户感知主动知识获取（UKA）框架，通过理论心智不确定性估计和主动学习，在情感支持对话中高效获取用户对齐的对话知识，提升对话质量和用户对齐。
DiffSpot：VLM能发现网页界面中的细微视觉差异吗？
机构 * WeChat AI, Tencent Inc（腾讯公司）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出DiffSpot基准，通过CSS属性突变生成可控图像对，评估视觉语言模型在网页界面中检测细微视觉差异的能力，发现最佳模型仅识别40.7%的真实变化。
面向LLM群体的任意有效联邦共形RAG
机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（H.米尔顿·斯图尔特工业与系统工程学院，佐治亚理工学院）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 提出Anytime-FC-RAG，通过可累积的逐步校准偏差预算和截断投注e过程，将联邦共形RAG扩展到任意停止时间均有效的序贯覆盖，并保证时间均匀报警有效性、Hoeffding拼接累积误覆盖包络及自适应控制下的安全性。
校准还不够：评估语言变化下的置信度估计
机构 * Faculty of Computer Science, UniVie Doctoral School Computer Science（计算机科学系，维也纳大学计算机科学博士学院） ； Faculty of Philological and Cultural Studies, University of Vienna, Austria（文学与文化研究系，维也纳大学，奥地利） ； ILLC, University of Amsterdam, Netherlands（阿姆斯特丹大学ILLC，荷兰） ； Khoury College of Computer Sciences, Northeastern University, USA（东北大学计算机科学学院，美国） ； LMU Munich, Munich Center for Machine Learning (MCML), Germany（慕尼黑大学，慕尼黑机器学习中心（MCML），德国）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出一个基于鲁棒性、稳定性和敏感性的新评估框架，揭示现有置信度估计方法在区分语义不同答案方面的不足。
用于视觉语音识别的扩散大语言模型
机构 * Integrated Vision Language Lab, KAIST, South Korea（韩国加耶大学集成视觉语言实验室）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 提出首个基于扩散大语言模型（DLLM）的视觉语音识别框架DLLM-VSR，通过迭代掩码去噪和灵活顺序解码，结合置信度引导的解掩码策略及两阶段训练，并引入长度引导候选解码以降低目标长度不确定性，在LRS3上取得19.5%的词错误率。
Comments Code: https://github.com/JeongHun0716/dllm-vsr
通过Shapley值为大型语言模型定位输入不确定性量化
机构 * Department of Artificial Intelligence, Korea University（韩国大学人工智能系）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 提出ShaQ框架，利用Shapley值将输入中的模糊跨度建模为合作博弈参与者，通过条件熵的边际减少加权平均量化每个跨度对输入不确定性的贡献，实现跨度级归因，在AmbigQA、AmbiEnt和MediTOD基准上取得最先进性能。
Comments Codes are available https://anonymous.4open.science/r/ShaQ-0E39/README.md
真实图像，更差判断：评估视觉-语言模型在具体性和意象性上的表现
机构 * University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文通过具体性和意象性评分任务，发现真实图像上下文不仅未提升视觉-语言模型与人类判断的一致性，反而在视觉证据相关性低时加剧偏差，并表明推理时聚焦文本指令可缓解退化。
学习在不确定性下编排智能体
机构 * Department of Applied Mathematics and Theoretical Physics, University of Cambridge（应用数学与理论物理系，剑桥大学） ； Centre for Human-Inspired Artificial Intelligence, University of Cambridge（启发式人工智能中心，剑桥大学） ； African Institute for Mathematical Sciences, South Africa（南非数学科学研究所） ； Department of Engineering Science, University of Oxford（工程科学系，牛津大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 提出BOT-Orch框架，将编排问题转化为带正则化的多臂赌博机问题，在不确定性下实现异构智能体的自适应编排，理论保证遗憾界为O(√T)并优于基线。
一种不确定性感知的贝叶斯机器学习分类模型框架：以土地覆盖分类为例
机构 * National Physical Laboratory, Teddington, UK（英国国家物理实验室，Teddington） ； Department of Data Science（数据科学系） ； Department of Thermal & Radiometric Metrology（热学与辐射计量学系） ； School of Geography, Geology & the Environment（地理、地质与环境学院）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 提出一种考虑输入测量不确定性的贝叶斯生成式分类模型框架，通过贝叶斯二次判别分析模型在土地覆盖数据集上验证，该模型在可解释性、不确定性建模和计算效率方面优于随机森林和神经网络。
Comments 38 pages, 16 figures
基于大语言模型的不确定性推理用于可解释疾病诊断
机构 * National University of Singapore（新加坡国立大学） ； Griffith University（格里菲斯大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出一种神经符号推理框架，将大语言模型与模糊逻辑和声明式规则结合，实现可解释且形式可验证的医学诊断。
通用增强，特定抑制：基于稀疏自编码器引导的医学视觉语言模型
机构 * University of Zurich and University Hospital of Zurich（苏黎世大学及苏黎世大学医院） ； Kobe University（Kobe大学） ； ETH AI Center（苏黎世联邦理工学院人工智能中心） ； ETH Zurich（苏黎世联邦理工学院） ； Stanford University（斯坦福大学） ； Zurich University of Applied Sciences（苏黎世应用科学大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出一种无需权重更新的解码时残差引导方法，通过每token稀疏自编码器（SAE）对医学视觉语言模型进行干预，抑制幻觉并提升报告质量，在多个模型上取得显著改进。
HawkesLLM：智能体文本模拟中的语义不确定性传播
机构 * Department of Industrial and Systems Engineering, University of Minnesota（工业与系统工程系，明尼苏达大学） ； H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（H. Milton Stewart工业与系统工程学院，佐治亚理工学院）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出HawkesLLM框架，通过多变量Hawkes过程建模时间影响与文本生成分离，解决智能体文本模拟中语义不确定性路径依赖问题，在GDELT新闻级联案例中提升后期语义对齐。
Comments 10 pages, 4 figures, Accepted at the ICML 2026 Workshop on Statistical Frameworks for Uncertainty in Agentic Systems
多模态临床状况分类中的校准与选择性预测的实证分析
机构 * New York University（纽约大学） ； University of Toronto（多伦多大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 本研究通过实证分析多标签临床状况分类中基于不确定性的选择性预测，发现其性能可能严重下降，原因是类别依赖的误校准，尤其对少数类别，并强调需要校准感知评估来确保临床AI的安全性。
Comments 40 pages, 14 figures, 16 tables. Accepted as a conference paper at AHLI Conference on Health, Inference, and Learning (CHIL) 2026
任务感知提升大语言模型生成与不确定性
机构 * School of Computation, Information \& Technology, Technical University of Munich ； Munich Data Science Institute ； Munich Center for Machine Learning
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 提出在任务依赖的潜在结构中直接建模LLM输出，通过贝叶斯最优响应合成和贝叶斯风险量化不确定性，优于标准解码方法并改善与输出质量的校准。
自动化自我测试作为质量门：基于证据的LLM应用发布管理
机构 * Lumytics
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 本文提出了一种自动化自我测试框架，通过五个实证基础的维度（任务成功率、研究环境保持、P95延迟、安全通过率和证据覆盖）实现基于证据的发布决策（PROMOTE/HOLD/ROLLBACK），并通过长期案例研究评估了该框架在多代理对话AI系统中的有效性。
Comments 20 pages, 6 figures, 12 tables
AURORA：用于医疗基础模型中几何表示学习的上下文正交化
机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出AURORA框架，通过上下文潜在几何进行正交化，以解决医疗基础模型中潜在表示的语义模糊和上下文变化不稳定性问题，提升了模型在不同机构分布变化下的鲁棒性和预测性能。
可检验且可操作的全面交换懊悔校准
机构 * Department of Computer Science, Aarhus University（阿arhus大学计算机科学系） ； Khoury College of Computer Sciences, Northeastern University（东北大学计算机科学学院） ； Northeastern University（东北大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文提出了一种新的校准度量标准SCDL，该度量标准在不削弱任何要求的前提下，既可操作又可检验，同时具备连续性和一致性等理想特性，并通过实验验证了其在实际中的优越性能。
你无法欺骗我们：理解由LLM驱动的代理社区对谣言的韧性
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY
AI总结 本文研究了由LLM驱动的代理社区在面对可信谣言冲击时的韧性，通过构建基于LLM的代理模拟，从主动开放思维(AOT)和政治意识形态(PI)两个维度分析社区对谣言的反应机制，发现高AOT提升抗谣言冲击能力和恢复力，而PI影响恢复路径，中等意识形态社区恢复更可靠，极化社区则保留更多支持。
Comments 26 pages, 7 figures, 1 table
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈