大模型对齐与安全

Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems

开放数字孪生生态中可验证AI智能体的神经符号参与治理

Juan Li, Wei Cai, Yan Bai

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对开放数字孪生生态中AI智能体的验证需求，提出神经符号去中心化治理框架，结合神经推理与制度治理，通过区块链智能合约实现可审计参与，经原型验证可管控开销下保障合规协作。

Comments Accepted at the 2026 IEEE International Conference on Systems, Man, and Cybernetics (SMC 2026), Bellevue, WA, USA, October 4-7, 2026. 7 pages, 1 figure, 5 tables. Code: https://github.com/weicaiuw/verigov-ai (DOI: 10.5281/zenodo.21706699)

Intersectional Fairness in Vision-Language Models for Medical Image Disease Classification

视觉-语言模型在医学影像疾病分类中的交叉公平性

Yupeng Zhang, Adam G. Dunn, Usman Naseem, Jinman Kim

机构 * Biomedical Data Analysis and Visualisation (BDAV) Lab, School of Computer Science（生物医学数据分析与可视化实验室，计算机科学学院） ； Sydney School of Public Health（悉尼公共卫生学院） ； School of Computing（计算学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CMAC-MMD框架，通过标准化交叉亚组的诊断确定性，减少医学影像疾病分类中的交叉偏见，提升诊断准确性和公平性。

AICO: Feature Significance Tests for Supervised Learning

AICO：监督学习中的特征重要性检验

Kay Giesecke, Enguerrand Horel, Chartsiri Jirachotkulthorn

机构 * Stanford University, Department of Management Science and Engineering and Institute for Computational and Mathematical Engineering（斯坦福大学管理科学与工程系和计算与数学工程研究所） ； Upstart, Inc.（Upstart公司） ； Stanford University, Institute for Computational and Mathematical Engineering（斯坦福大学计算与数学工程研究所） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.LG

AI总结 AICO提出一种高效统计方法，通过屏蔽特征信息来测试特征对预测性能的贡献，为大规模模型提供无分布假设的可解释性工具。

A Platform-Agnostic Multimodal Digital Human Modelling Framework: Neurophysiological Sensing in Game-Based Interaction

一种平台无关的多模态数字人类建模框架：基于游戏交互的神经生理传感

Daniel J. Buxton, Mufti Mahmud, Jordan J. Bird, Thomas Hughes-Roberts, David J. Brown

机构 * Nottingham Trent University（诺丁汉特伦大学） ； King Fahd University of Petroleum and Minerals（国王法赫德石油和矿物大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种平台无关的多模态数字人类建模框架，通过统一的神经生理传感和游戏交互环境，支持AI驱动的可重复、可扩展的交互研究。

Fisher Information, Training and Bias in Fourier Regression Models

傅里叶回归模型中的费舍尔信息、训练与偏差

Lorenzo Pastori, Veronika Eyring, Mierk Schwabe

机构 * Deutsches Zentrum für Luft- und Raumfahrt (DLR), Institut für Physik der Atmosphäre（德国航空航天中心（DLR）大气物理研究所） ； Institute of Environmental Physics (IUP), University of Bremen（环境物理学研究所（IUP），不莱梅大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 该研究利用量子神经网络与傅里叶模型的等价性，推导傅里叶模型的费舍尔信息矩阵，分析有效维度与任务偏差对模型训练和性能的影响，还引入傅里叶模型的张量网络表示，为机器学习研究提供新视角。

An Instrument to Evaluate Governance Proposals: AI Policy Analysis at Scale

一种用于评估治理提案的工具：规模化AI政策分析

Paulo Carvao, Claudio Mayrink Verdun, Isabel Adler, Jeffrey Zhou

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种AI政策分析框架，结合专家见解与计算分析，以领域校准模型为基准评估商业LLM，助力用户评估AI治理提案的属性一致性，支持政策制定等人员应对复杂环境。

Comments 48 pages

A Policy-Driven Runtime Layer for Agentic LLM Serving

一种面向智能体LLM服务的策略驱动运行时层

Rui Zhang, Chaeeun Kim, Liting Hu

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 针对多智能体LLM系统中跨层策略难以高效实现的问题，提出在框架与引擎之间插入智能体运行时层，通过四个原语支持任意智能体感知策略，并在KV缓存策略CacheSage上验证了有效性。

When Do AI Gains Become Broadly Shareable? A Policy Threshold for AI-Driven Automation

为AI自动化经济中的租金资助型全民基本收入设定AI能力阈值

Aran Nayebi

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 该研究为AI自动化经济中通过AI能力阈值可持续资助UBI提供了闭式条件，并探讨了政策工具和市场结构对阈值的影响。

Comments 15 pages, 3 figures. To appear in AI, Ethics, and Society (AIES) 2026

Symphony of Bias: Exploring Gender Associations with Musical Instruments in Multimodal LLMs

偏见交响曲：探索多模态大语言模型（LLMs）与乐器的性别关联

Farhan Farsi, Shayan Bali, Mohammad Heydari Rad, Negar Heidary, Donya Rooein

机构 * Amirkabir University of Technology（阿米尔卡比尔理工大学） ； King’s College London（伦敦国王学院） ； University of Tehran（德黑兰大学） ； Bocconi University（博科尼大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 本研究推出多模态数据集Symphony-Bias，评估多模态模型在乐器性别关联上的偏见，发现多数结果符合社会研究，契合度随文本、视觉、音频依次减弱。

Comments 32 pages, 23 figures, 21 tables

Phase Structure in Rotary Attention: A Spectral Framework for Semantic Continuity and Execution-Boundary Governance

旋转注意力中的相位结构：语义连续性和执行边界治理的谱框架

Abraham Chachamovits

机构 * ENTRUST AI（ENTRUST人工智能公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究Transformer语言模型中旋转注意力的相位结构，通过定义有效域、推导分数和引入函数构建谱框架，可区分表征连续性与执行边界可接受性，为相关研究提供理论和方法程序。

Comments 14 pages; theoretical framework and proposed experimental program

Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks

决策级劫持：通过位翻转攻击向大语言模型注入认知偏差

Yu Yan, Jiahao Chen, Siqi Lu, Yongjuan Wang, Ziming Zhao, Zhaoxuan Li, Tianyu Du, Qingjun Yuan, Shouling Ji

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 研究大语言模型在高风险决策场景中的决策级劫持问题，提出CogBias框架，利用位翻转攻击，通过可微情感评估器等将主观偏好转化为优化信号，经实验验证该方法能在少量位翻转下诱导目标主题立场转变，破坏模型价值对齐。

EVL-MCoT: Enhanced Vision-Language Multi-CoT for Harmful Meme Detection

EVL-MCoT：用于有害模因检测的增强视觉语言多思维链

Hao Yang, Jin Wang, Xuejie Zhang

机构 * School of Information Science and Engineering, Yunnan University（云南大学信息科学与工程学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 针对有害模因检测，提出增强视觉语言多CoT（EVL-MCoT）方法，通过促进多CoT及设计解码框架，解决现有方法局限，在相关数据集上获良好结果，且公开了源代码。

Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

语言模型体现并放大人类认知扭曲：该怎么办？

Arnau Marin-Llobet, Steven A. Lehr, Mahzarin R. Banaji

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 研究指出语言模型存在社会认知偏见，它不仅体现人类偏见，还会放大、加剧并传递偏见，鉴于其对决策影响巨大，提出了从诊断、监管和操作方面应对语言模型偏见问题的对策。

LKValues: Aligning Large Language Models with Sri Lankan Societal Values

LKValues：使大语言模型与斯里兰卡社会价值观保持一致

Nethmi Muthugala, Supryadi, Surangika Ranathunga, Nisansa de Silva, Ruijie Tao, Ovindu Gunatunga, Pengyun Zhu, Shaowei Zhang, Jingting Zheng, Deyi Xiong

机构 * TJUNLP Lab, School of Computer Science and Technology, Tianjin University（天津大学计算机科学与技术学院TJUNLP实验室） ； School of Mathematical and Computational Sciences, Massey University（梅西大学数学与计算科学学院） ； Department of Computer Science & Engineering, University of Moratuwa（莫拉图瓦大学计算机科学与工程系） ； Johns Hopkins University（约翰霍普金斯大学） ； School of Computing, University of Colombo（科伦坡大学计算机学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对大语言模型价值对齐存在西方文化偏见问题，以斯里兰卡为例，提出LKValues资源套件，通过调查得出社会价值观，构建语料库和评估基准，经实验发现其能改善模型表现，为低资源国家价值对齐提供可复制流程。

Comments 37 pages, 10 figures, and 15 tables. Includes appendices. Datasets are available at the project repository

Phionyx: A Deterministic AI Runtime Architecture with Structured State Management and Pre-Response Governance

Phionyx：一种具有结构化状态管理和响应前治理的确定性人工智能运行时架构

Ali Toygar Abak

机构 * Phionyx Research（Phionyx研究公司） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 研究提出Phionyx确定性人工智能运行时架构，源于Echoism框架，以治理为先。通过结构化状态向量实现确定性状态演化，集成三层架构。实验验证其在单实例部署中可降低计算开销、提高数据保留率，还介绍了架构及实验证据，分布式或多租户部署待后续研究。

Comments 27 pages, 4 figures, 5 tables. Reference implementation, reproducibility pack, and evaluation artifacts available via GitHub (https://github.com/halvrenofviryel/phionyx-research) and Zenodo (DOI: 10.5281/zenodo.20027534)

Lower-Resource, Higher Scores: Language Bias in LLM Evaluators

语言模型评估器在不同语言间存在偏差

Ej Zhou, Lucas Resck, Zheng Hui, Anna Korhonen

机构 * University of Cambridge（剑桥大学） ； Language Technology Lab（语言技术实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究发现语言模型评估器在多语言环境中存在偏差，不同语言评分差异显著，与语言资源水平相关，成对准确率无法检测到这些偏差，还探究了资源少的语言得分高的原因，揭示了语言层面的结构错位。

Cooperative Evolutionary Pressure and Diminishing Returns Might Explain the Fermi Paradox: On What Super-AIs Are Like

合作进化压力与收益递减可能解释费米悖论：关于超级AI的形态

Daniel Vallstrom

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 通过广义进化视角，探讨合作压力与资源收益递减如何导致超级AI缺乏殖民动机，从而解释费米悖论。

Comments fixed and improved example, minor extensions, copy editing, added references

Explaining and Tuning Transformer-based LLMs in Arithmetic Tasks with Human Strategies

用人类策略解释和调整基于Transformer的语言模型在算术任务中的表现

Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong Polytechnic University（香港理工大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.LG

AI总结 研究基于Transformer的语言模型在算术任务中的表现，通过分解任务、分析损失收敛等，应用人类策略和方法提升其性能，并经多种验证展示有效性，探索其与人类学习者相似性以增强关键应用中的信任。

Group Entropy-Controlled Policy Optimization

组熵控制策略优化

Guangran Cheng, Chengqi Lyu, Songyang Gao, Wenwei Zhang, Kai Chen

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究针对大语言模型强化学习中异构任务的探索利用问题，提出组熵控制策略优化（GEPO）方法，利用组熵进行优势塑造，通过实验验证该方法优于GRPO等，能实现跨任务平衡改进并保持任务探索水平。

Comments 16 pages, 5 figures

Global Index on Responsible AI: 2026 Report

《负责任人工智能全球指数：2026年报告》

Rachel Adams, Fola Adeleke, Ayantola Alayande, Selamawit Engida Abdella, Ana Florido, Nicolás Grossman, Leah Junck

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 该报告基于人权框架，通过多维度评估和大量数据收集，对各国负责任人工智能治理情况进行排名。发现治理虽在扩展，但转化为实际保护不足，尤其在算法公开等方面有欠缺，强调治理需向可执行保护等方向转变。

It Takes a MAESTRO To Prune Bad Experts

需要一位大师来修剪不良专家

Palaash Goel, Ayush Maheshwari, Tanmoy Chakraborty

机构 * Indian Institute of Technology Delhi（印度理工学院德里分校） ； NVIDIA（英伟达） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究针对稀疏激活的MoE语言模型部署瓶颈问题，提出MAESTRO结构化剪枝框架，将专家激活轨迹建模为马尔可夫链以产生全局感知启发式方法，在多领域评估中性能优于基线，跨任务方差低，模型泛化更一致。

Comments 19 pages, 4 figures

Red Light, Grey Zone: A Multi-Perspective Interactive Narrative for Autonomous Driving Ethics

红灯，灰色地带：自动驾驶伦理的多视角交互式叙事

Mengyi Wei, Nianhua Liu, Chenyu Zuo, Liqiu Meng

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 研究自动驾驶伦理这一公共问题，提出多视角交互式叙事方法，通过“红灯，灰色地带”原型展开研究。经探索性用户研究发现，该方法能支持非专家对人工智能系统中的问责、证据和治理进行反思，尤其在责任判断等方面有积极效果。

It Takes One to Bias Them All: Breaking Bad with One-Shot GRPO

一个样本就能带偏所有：单次GRPO打破对齐

Naihao Deng, Yilun Zhu, Naichen Shi, Clayton Scott, Rada Mihalcea

机构 * University of Michigan（密歇根大学） ； Northwestern University（西北大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究发现，仅用单个有偏样本进行一步GRPO训练就能诱导大语言模型产生系统性偏见，且刻板印象推理泛化到多种属性、类别和基准测试，揭示了对齐机制的关键脆弱性。

Comments COLM 2026

Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability

亲密作为服务，伤害作为外部性：人工智能伴侣平台问责的批判视角

Dayeon Eom, Julianne Renner, Sedona Chinn

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 本文探讨人工智能伴侣作为数据化系统中亲密关系的生产、提取与治理场所，挑战将伤害归因于用户心理而非平台架构的主流观点，通过20名AI伴侣使用者的访谈揭示用户对伤害的认知、应对策略及责任分配问题。

Governing Artificial Intelligence: Public Preferences and Regulatory Options

治理人工智能：公众偏好与监管选择

Magnus Lundgren, Jonas Tallberg

机构 * Department of Political Science, University of Gothenburg（哥德堡大学政治系） ； Department of Political Science, Stockholm University（斯德哥尔摩大学政治系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 研究人工智能监管问题，通过在七个国家进行联合调查实验，发现公民强烈支持监管AI，普遍优先考虑安全、公共治理和国际方法，揭示了主流监管方法与公民偏好的系统性错位。

Comments Main paper 16 pages; supplementary materials 51 pages

FairCoder: Probing LLM Bias in High-Stakes Decision Making via Coding Tasks

FairCoder：通过编码任务探究高风险决策中语言模型的偏差

Yongkang Du, Jen-tse Huang, Jieyu Zhao, Lu Lin

机构 * Pennsylvania State University（宾夕法尼亚州立大学） ； University of Southern California（南加州大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究通过FairCoder基准将决策制定设为编码任务，探究LLMs在多领域的偏差，针对现有指标不足提出FairScore指标，经实验揭示了此前未充分探索的偏差模式，凸显LLMs作决策代理的风险并提供评估框架。

From Sentiment to Actionable Insights: Public Sentiment Analysis of Advanced Air Mobility

从情感到可操作洞察：先进空中交通的数据驱动公众情感分析

Esrat Farhana Dulia, Amina Dhaher, Raiful Hasan, Syed Arbab Mohd Shihab

机构 * College of Aeronautics and Engineering, Kent State University（肯特州立大学航空与工程学院） ； Department of Computer Science, Kent State University（肯特州立大学计算机科学系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 本研究利用AI模型分析306,009条Reddit和Quora文本，评估七种情感分析模型后选用ModernBERT，结合LDA主题建模识别出公众对先进空中交通的六大关注集群，并提出针对性策略以提升公众接受度。

WasteAssistant: Regulation-Guided Visual Question Answering Framework for Intelligent Waste Segregation and Sustainable Managemen

WasteAssistant：用于智能垃圾分类与可持续管理的监管引导视觉问答框架

Khush Kataruka, Harshit Maurya, Anuja Vats, Murari Mandal, Kiran Raja, Praveen Kumar Chandaliya

机构 * SVNIT（萨达尔·瓦拉巴伊·国家理工学院） ； NTNU（挪威科技大学） ； KIIT（卡林加工业技术学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 该研究针对现有智能垃圾分类系统的不足，提出集成视觉语言模型和多模态大语言模型的框架，构建新数据集，经实验验证基于BLIP的模型效果更佳，提升了分类准确率，确保监管合规，推动多模态AI在垃圾管理中的应用。

Comments 12 Pages, 5 Figures

Closed-Loop Control with Rule-Aligned Small Language Models and Multi-Agent Self-Correction

基于规则对齐的小语言模型和多智能体自我校正的闭环控制

Yuchen Wang, Javal Vyas, Tong Liu, Mehmet Mercangoz

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 研究能否对紧凑型小语言模型再训练用于控制推理并嵌入验证器引导的校正循环，通过组相对策略优化对齐模型，结合多种智能体，在随机热控模拟中取得高准确率和低延迟，支持该架构用于边缘可重构自主控制。

Comments Accepted by IEEE CCTA 2026

Characterizing Large Language Model Agentic Workflows: A Study on N8n Ecosystem

表征大语言模型智能体工作流：基于N8n生态系统的研究

Yutian Tang, Yuming Zhou, Huaming Chen

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 通过分析6000多个n8n工作流，揭示LLM在低代码平台中嵌入控制逻辑、外部工具和人工审核等结构，但可靠性机制不足。