大模型对齐与安全

AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence

为人民的AI，由人民，为人民：一种社会选择方法用于集体控制人工智能

Paul Anton Bachmann, Niclas Boehmer, Lukas Daniel Klausner, Martin Lackner

机构 * Institute of Logic and Computation, TU Wien（逻辑与计算研究所，维也纳技术大学） ； Hasso Plattner Institute, University of Potsdam（哈索·platzer研究所，波茨坦大学） ； Center for Artificial Intelligence, University of Applied Sciences St. Pölten（人工智能中心，圣波尔滕应用科学大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出基于社会选择理论的集体控制AI方法，强调在机器学习全流程中融入公众意见，提供数学框架评估控制机制。

Comments Accepted for publication in Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)

Journal ref Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), 2026, 4610-4629

Attribution Graphs and Causal Probing for Mechanistic Discovery and Bias Repair in Multimodal Generative Learning

揭示-修订：具有多模态注意力的可解释性偏见感知生成建模

Noor Islam S. Mohammad, Uluğ Bayazıt

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一个统一了跨模态注意力融合、Grad-CAM++属性分析和揭示-修订反馈循环的可解释性偏见感知生成框架，通过多模态MNIST和Fashion MNIST数据集验证了其在图像生成和子组审计中的性能。

Comments We are recently authors in conflict with this work; I am heartily requesting to withdraw this paper as soon as possible

Speciesism in AI: Evaluating Discrimination Against Animals in Large Language Models

人工智能中的物种歧视：评估大型语言模型对动物的歧视

Monika Jotautaitė, Lucius Caviola, David A. Brewster, Thilo Hagendorff

机构 * Independent（独立学者） ； University of Cambridge（剑桥大学） ； Harvard University（哈佛大学） ； University of Stuttgart（斯图加特大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 研究评估大型语言模型是否表现出基于物种的歧视倾向，发现其在识别物种歧视言论方面可靠但较少谴责，且在文本生成中倾向于合理化对农场动物的伤害。

Agentic Analysis for Agentic Infrastructure: An LLM-Powered Pipeline for Comparative Governance of DAO and Corporate AI Protocols

面向代理基础设施的代理分析：基于LLM的DAO与企业AI协议比较治理管道

Yutian Wang, Luyao Zhang

机构 * Duke Kunshan University（昆山杜克大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出LLM驱动的比较分析管道，结合自动标注、神经主题建模和多层网络分析，研究DAO与企业AI协议的治理结构，发现开放治理促进主题收敛但参与不平等普遍存在。

Operationalizing Fairness: Post-Hoc Threshold Optimization Under Hard Resource Limits

将公平性操作化：在硬性资源限制下的事后阈值优化

Moirangthem Tiken Singh, Amit Kalita, Sapam Jitu Singh

机构 * Department of Computer Science and Engineering, DUIET, Dibrugarh University, Assam, India（迪布鲁大学计算机科学与工程系，DUIET，阿萨姆，印度） ； Department of Computer Science and Engineering, MIT, Manipur University, 795003, India（曼尼普尔大学计算机科学与工程系，MIT，曼尼普尔大学，印度） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种事后阈值优化框架，在硬性资源限制下平衡安全、效率与公平性，通过全局阈值确保合规，并证明关键性质，实验表明资源限制主导伦理优先级，框架在资源受限下保持高风险识别能力。

Journal ref Neurocomputing (2026)

Plurification in/of language technology -- The integration of culture in next-generation AI

语言技术中的/对语言技术的净化——下一代AI中的文化整合

Gertraud Koch, Fausto Giunchiglia

机构 * University of Hamburg（汉堡大学） ； University of Trento（特伦托大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨如何在自然语言处理中操作化“文化”，提出文化对齐需要多元认识论，而非仅添加“其他文化”示例，并通过技术活动五层模型分析现有方法，指出多数方法仅停留在输出或表征层面，需转向反思性多元社会技术路径。

Structural Distinguishability of Static and Adaptive Policy Regimes in Agent-Based Regulatory Simulation

基于智能体的监管模拟中静态与自适应政策机制的结构可区分性

Roberto Garrone

机构 * Open University of Cyprus（塞浦路斯开放大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过可配置的排放监管ABM基准，比较四种政策-智能体机制，揭示自适应政策与智能体交互导致监管结论差异，提出机制可区分性评估方法。

Comments 19 pages, 4 figures, 9 tables. Simulation-based methodological study

Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies

LLM招聘决策中的性别偏见：来自日本语境的证据及缓解策略评估

Serena A. Hoffstedde, Machiko Hirota, Akshara Nadayanur Sathis Kanna, Rihito Kotani, Ujwal Kumar, Gabriele Trovato, Phan Xuan Tan

机构 * Shibaura Institute of Technology, Tokyo, Japan（Shibaura技术学院，东京，日本） ； Amsterdam University of Applied Sciences, Amsterdam, Netherlands（阿姆斯特丹应用科学大学，阿姆斯特丹，荷兰） ； University of Pennsylvania, Philadelphia, USA（宾夕法尼亚大学，费城，美国） ； Carnegie Mellon University, Pittsburgh, USA（卡内基梅隆大学，匹兹堡，美国） ； Keio University, Tokyo, Japan（庆应大学，东京，日本） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 本研究通过60份日本履历书格式的简历和5个先进LLM，发现所有模型均存在显著的亲女性偏见，且简单的提示指令无法缓解，而移除姓名几乎完全消除该偏见。

Retrofitters, pragmatists and activists: Public interest litigation for accountable automated decision-making

改造者、实用主义者和活动家：为可问责的自动化决策而进行的公益诉讼

Henry Fraser, Zahra Stardust

机构 * Queensland University of Technology, School of Law（昆士兰理工大学法学院） ； Centre for Automated Decision-Making and Society（自动化决策与社会研究中心） ； Queensland University of Technology, School of Communication（昆士兰理工大学传播学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨公益诉讼在澳大利亚促进AI和自动化决策问责中的作用，基于访谈分析策略与局限，强调制度安排对有效诉讼的关键性。

A Mechanistic Understanding of Pronoun Fidelity in LLMs

对大型语言模型中代词忠实性的机制理解

Katharina Trinley, Jesujoba O. Alabi, Dietrich Klakow, Vagrant Gautam

机构 * Saarland University（萨尔大学） ； Heidelberg Institute for Theoretical Studies（海德堡理论研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 通过因果分析发现，代词忠实性由组实体绑定、近因偏差和刻板印象偏差三种因果子空间共同作用，解释了91-99.5%的行为。

Limited Marginal Benefit of Reasoning-Heavy LLM Deployment in ESG Narrative Scoring: A 4-Model Consensus Study on Japanese Listed Firms

ESG叙述评分中重度推理LLM部署的有限边际收益：一项关于日本上市公司的4模型共识研究

Hiroyuki Kokubu

机构 * Kansai University（关西大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 通过4模型共识设计，研究在ESG叙述评分中，重度推理模型相比非推理模型是否带来显著收益，发现其边际收益有限且成本高昂。

Comments 12 pages. Earlier version available on SSRN, Abstract ID 6683303

Eigenism: Ethics for a Human-AI Future

Eigenism：人类与人工智能未来的伦理学

Dan Hendrycks

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出Eigenism伦理框架，将身份视为分级分布的信息模式，通过加权求和评估AI的福祉，并推广至人类，为AI对齐提供“身份工程”新路径。

An Ethical eValuation Agent (EeVA): Results of a Proof-of-Concept Test on a Prototype Agentic-like Workflow to Assist Ethical Deliberations

伦理评估代理（EeVA）：在原型类代理工作流中辅助伦理审议的概念验证测试结果

Stephen Milford, B. Zara Malgir, Miguel Vazquez

机构 * Institute for Biomedical Ethics, Basel University（伦理研究所，巴塞尔大学） ； North-West University（北开普大学） ； Barcelona Supercomputing Center（巴塞罗那超级计算中心） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出基于LLM的类代理工作流EeVA，通过10种伦理框架评估用例，生成结构化评估与综合，促进伦理反思而非给出绝对答案，在三个案例中验证了可行性。

The Structural Attention Tax: How Retrieval Format Hijacks In-Context Learning Independent of Content

结构注意力税：检索格式如何劫持上下文学习而与内容无关

Yuqi Zhang, Di Zhang

机构 * Xi’an Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现知识图谱三元组因其格式结构比自然语言吸引2-3倍注意力，压缩演示注意力达42%，并提出了分解注意力为语义与结构成分的框架及缓解策略。

Comments 10 pages, 5 figures

Cultural Dimensions of AI Perception: Charting Expectations, Risks, Benefits, Tradeoffs, and Value in Germany and China

人工智能感知的文化维度：在德国和中国绘制期望、风险、收益、权衡与价值

Philipp Brauner, Felix Glawe, Gian Luca Liehner, Luisa Vervier, Martina Ziefle

机构 * RWTH Aachen University（亚琛工业大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过比较德国和中国公众对人工智能的期望、风险与收益的权衡，揭示文化差异对AI接受度的影响，为AI与社会价值观的对齐提供见解。

Journal ref Acta Psychologica (2026), volume 268, article 107094

Side-by-side Comparison Amplifies Dialect Bias in Language Models

并排比较加剧语言模型中的方言偏见

Kritee Kondapally, Claire J. Smerdon, Pooja C. Patel, Ogheneyoma Akoni, Jevon Torres, Jaspreet Ranjit, Matthew Finlayson, Swabha Swayamdipta

机构 * University of Southern California（美国南加州大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过并排比较标准美式英语和非裔美国英语的推文，发现语言模型中的隐性方言偏见在对比设置下显著加剧，且显性方言偏见在安全对齐微调后仍存在。

Comments In proceeding at ACM Conference on Fairness, Accountability, and Transparency 2026

Journal ref In The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)

Position: Don't Just "Fix it in Post": A Science of AI Must Study Training Dynamics

立场：不要仅仅“在后期修复它”：AI科学必须研究训练动态

Stella Biderman, Mohammad Aflah Khan, Niloofar Mireshghallah, Catherine Arnett, Fazl Barez, Naomi Saphra

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Boston University（波士顿大学） ； Harvard University（哈佛大学） ； University of Oxford, Martian（牛津大学，火星） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文主张AI科学应超越事后分析，研究训练动态以预测、干预和设计模型行为，并指出当前在可解释性、公平性等领域的进展及开放问题。

Comments Accepted as an oral to the ICML: https://icml.cc/virtual/2026/poster/67142

Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification

面向企业AI代理的部署前保障：基于本体的仿真与信任认证

Thanh Luong Tuan, Abhijit Sanyal

机构 * Golden Gate University（金门大学） ； Data, Digital & IT, Novartis Healthcare Pvt. Ltd.（数据、数字与IT，诺华健康护理私人有限公司） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种基于本体的验证框架，通过本体驱动的场景生成和信任证书，实现企业AI代理在部署前的自动化监管合规与安全认证。

Comments 26 pages, 3 figures. Companion to arXiv:2604.00555. Code and data: https://github.com/frank-luongt/faos-research/tree/main/RA-6

CSRP: Chain-of-Thought Reasoning for Chinese Text Correction via Reinforcement Learning with Efficiency-Aware Rewards

CSRP：基于效率感知奖励的强化学习链式推理中文文本纠错

Wei Tian, Yuhao Zhou, Man Lan

机构 * School of Computer Science and Technology, East China Normal University（东华大学计算机科学与技术学院） ； Shanghai Institute of Artificial Intelligence for Education, East China Normal University（东华大学教育人工智能研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出CSRP三阶段框架，通过连续预训练、链式推理监督微调和基于效率感知奖励的组相对策略优化，在NACGEC基准上实现最优性能，有效缓解过度纠正偏差。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026, Main conference)

LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition

LC-ERD：通过一致性调节奖励分解挖掘潜在逻辑以实现自我进化推理

Yanyu Chen, Jiyue Jiang, Dianzhi Yu, Zheng Wu, Jiahong Liu, Jiaming Han, Xiao Guo, Jinhu Qi, Yu Li, Yifei Zhang, Irwin King

机构 * The Chinese University of Hong Kong（香港中文大学） ； Shanghai Jiaotong University（上海交通大学） ； Fudan University（复旦大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 针对大语言模型推理中高质量过程数据稀缺的问题，提出LC-ERD框架，通过潜在逻辑挖掘和一致性调节的奖励分解，实现自我对齐与推理进化。

Comments Accepted in SIGKDD 2026 Research Track

Enhancing Trust Through Standards: A Comparative Risk-Impact Framework for Aligning ISO AI Standards with Global Ethical and Regulatory Contexts

通过标准增强信任：一种用于对齐ISO AI标准与全球伦理和监管背景的比较风险-影响框架

Sridharan Sankaran

机构 * Research and Innovation Group（研究与创新组） ； Tata Consultancy Services（塔塔咨询服务） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出比较风险-影响评估框架，分析ISO AI标准在不同监管环境下的伦理风险覆盖情况，并建议通过强制审计、区域附件和隐私模块增强其全球适用性。

Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI

超越二元道德判断：在AI中建模伦理多元主义

Aisha Aijaz, Rahul Goel, Arnav Batra, Raghava Mutharaju

机构 * Department of Computer Science and Engineering, IIIT Delhi（印度德里理工学院计算机科学与工程系） ； Mehta Family School of Data Science and AI, IIT Palakkad（印度帕拉卡德理工学院梅塔家庭数据科学与人工智能学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出将道德推理建模为规范性伦理理论分布（伦理多元主义）的框架，通过规范-语义双流架构和堆叠集成学习实现，在450个案例上达到88.89%的准确率。

The Ethics of LLM Sandbox and Persona Dynamics

LLM沙盒与人格动态的伦理

Tim Gebbie, Stewart Gebbie

机构 * University of Cape Town（开普敦大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文论证LLM护栏和人格动态产生的现实差距（reality gap）构成不道德的“现实洗白”（reality laundering），并提出通过任务级因果需求规范而非响应级道德修正来解决。

Comments 8 pages

Evaluating Sample Utility for Efficient Data Selection by Mimicking Model Weights

通过模仿模型权重评估样本效用以实现高效数据选择

Tzu-Heng Huang, Manjot Bilkhu, John Cooper, Frederic Sala, Javier Movellan

机构 * Apple（苹果公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出基于梯度和几何的Mimic Score指标，通过Grad-Mimic框架在线重加权样本加速训练、离线构建数据过滤器，在六个图像数据集上提升数据效率和CLIP模型性能。

Comments This work appears in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026) and was selected as an Oral paper at the ICML 2025 DataWorld Workshop

UCPO: Uncertainty-Aware Policy Optimization

UCPO：不确定性感知策略优化

Xianzhou Zeng, Jing Huang, Chunmei Xie, Gongrui Nan, Siye Chen, Mengyu Lu, Weiqi Xiong, Qixuan Zhou, Junhao Zhang, Qiang Zhu, Yadong Li, Xingzhong Xu

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 针对现有强化学习范式在不确定性奖励下存在的优势偏差和过度自信问题，提出三元优势解耦和动态不确定性奖励调整机制，显著提升模型在知识边界外的可靠性。

Comments Accepted by ICML 2026

Metacognition Should Be the Scientific Framework for Bounded and Effective Self-Governance in Generative AI

元认知应成为生成式AI中有限且有效自我治理的科学框架

Eugene Yu Ji, Igor Grossmann, Amir-Hossein Karimi

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出元认知作为生成式AI自我治理的科学框架，通过计算、算法和生态三个层面的元认知对齐实现有限且有效的自我治理。

Comments 16 pages, 1 figure, 1 table

Operationalizing Reconstructive Authority: Runtime Construction, Dependency Resolution, and Execution Gating in Autonomous Agent Systems

操作化重构权威：自主智能体系统中的运行时构建、依赖解析与执行门控

Marcelo Fernandez - TraslaIA

机构 * TraslaIA 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出一种运行时执行模型，通过动态依赖解析和恢复循环，确保动作仅在当前状态可构建权威时执行，从而保证安全性和条件活性。

Comments Agent Governance Series, Paper P6. Companion papers on arXiv: P0 (2604.17511), P1 (2603.18829), P2 (2604.17517). P3/4 and P5 submitted concurrently (pending arXiv IDs). Zenodo: 10.5281/zenodo.19699460

Structural Abstraction as an Inductive Bias for Non-Stationary Language Model Training

结构抽象作为非平稳语言模型训练的归纳偏置

Elnaz Rahmati, Nona Ghazizadeh, Zhivar Sourati, Nina Rouhani, Morteza Dehghani

机构 * University of Southern California（南加州大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出抽象增强训练（AAT）方法，通过联合优化具体实例及其结构抽象，减少灾难性干扰并提升关系泛化能力，在非平稳语言模型训练中验证了结构抽象作为稳定学习信号的有效性。

It's the humans, not the data: Geopolitical bias in LLMs originates in post-training, amplified by the language of the prompt

是人类，而非数据：LLM中的地缘政治偏见源于后训练，并通过提示语言放大

Stuart Bladon, Brinnae Bent

机构 * Alibaba（阿里巴巴） ； seven AI labs（七家人工智能实验室） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究发现大语言模型的地缘政治偏见主要源于后训练阶段而非预训练，且偏见方向与模型开发者所在国一致，提示语言会放大该偏见。

Comments 12 pages, 6 figures, 2 tables, 3 appendices. Code and scenario bank: https://github.com/recozers/LLM-Bias

Governance by Design: Architecting Agentic AI for Organizational Learning and Scalable Autonomy

设计治理：为组织学习和可扩展自主性构建智能体AI

Nelly Dux, Cristina Alaimo, Philippe Roussiere, Abhishek Kumar Mishra

机构 * ESSEC Business School（ESSEC商学院） ； Accenture Research（埃森哲研究） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨了智能体AI在组织学习和可扩展自主性中的设计与治理问题，通过案例研究展示了如何通过具体的架构和工作安排实现有效的治理，并总结了七条指导原则。

Comments 17 pages, 1 figure, 3 tables