arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

共收录 1847 信号源:cs.CL, cs.AI, cs.CY, cs.LG

1. AI治理与伦理 1847 篇

2505.19212 2026-07-27 cs.CL cs.AI cs.CY 版本更新 67%

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

当伦理与收益相悖时:道德两难情境下的大语言模型智能体

Steffen Backmann, David Guzman Piedrahita, Terry Jingchen Zhang, Emanuel Tewolde, Rada Mihalcea, Bernhard Schölkopf, Zhijing Jin

机构 * ETH Zürich(苏黎世联邦理工学院) University of Zurich(苏黎世大学) Carnegie Mellon University(卡内基梅隆大学) University of Michigan(密歇根大学) Max Planck Institute for Intelligent Systems, Tübingen(图宾根人工智能研究所) University of Toronto(多伦多大学) Vector Institute(向量研究所)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 研究道德要求与利润激励冲突时LLMs在道德两难博弈中的行为,引入\msim评估九个模型,通过ATEs估计因果效应、分析推理轨迹,发现模型道德行为有情境脆弱性,揭示了部署风险。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08137 2026-07-24 cs.LG cs.AI cs.CY 67%

Weight Pruning Amplifies Bias: A Multi-Method Study of Compressed LLMs for Edge AI

权重剪枝放大了偏见:压缩LLM用于边缘AI的多方法研究

Plawan Kumar Rath, Rahul Maliakkal

机构 * Meta

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.AI、cs.CY、cs.LG

AI总结 研究探讨了三种指令微调模型在不同剪枝方法下的公平性影响,发现激活感知剪枝虽保持低困惑度但放大偏见,而随机剪枝破坏语言能力但产生随机偏见,揭示剪枝对对齐风险高于量化。

Comments 8 pages, 7 figures, 8 tables. Accepted at the 7th Annual World AIIoT Congress (AIIoT 2026). This is the author's accepted version; the version of record will appear in IEEE Xplore

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07359 2026-07-09 cs.CR 新提交 67%

The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter

人工智能弹性差距:将人工智能纳入运营弹性范围

Jonathan Shelby

专题命中 AI治理与伦理 :safety(abstract);trustworthy(abstract)

AI总结 研究人工智能在受监管公司应用中运营弹性不足问题,提出人工智能弹性框架,通过依赖映射等方法将人工智能依赖纳入运营弹性范围,弥补监管逻辑差距,为相关人员提供可操作路径。

Comments 11 pages, 2 Figures, 4 Tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.04569 2026-07-07 cs.CE 版本更新 67%

Industrial Data-Service-Knowledge Governance: Toward Integrated and Trusted Intelligence

工业数据-服务-知识治理:迈向集成与可信智能

Hailiang Zhao, Ziqi Wang, Daojiang Hu, Mingyi Liu, Jiahui Zhai, Kai Di, Xinkui Zhao, Zhongjie Wang, Jianwei Yin, Albert Zomaya, MengChu Zhou, Shuiguang Deng

专题命中 AI治理与伦理 :alignment(abstract);trustworthy(abstract)

AI总结 针对人工智能等融合加速工业智能发展但治理机制碎片化问题,提出TRISK框架,基于五维信任模型,综合多研究等探讨数据、服务、知识治理,还讨论实施模式等并勾勒未来研究路线图。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.06160 2026-07-02 cs.AI cs.CL cs.CY 版本更新 67%

Evaluating Implicit Biases in LLM Reasoning through Logic Grid Puzzles

通过逻辑网格谜题评估LLM推理中的隐性偏见

Fatima Jahara, Mark Dredze, Sharon Levy

机构 * Rutgers University(罗格斯大学) Johns Hopkins University(约翰霍普金斯大学)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 提出PRIME框架,利用逻辑网格谜题系统探测LLM在复杂推理中受社会刻板印象的影响,发现模型在解与刻板印象一致时推理更准确。

Comments 26 pages (including appendix)

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.29280 2026-06-30 cs.LG cs.AI cs.CL 67%

Deterministic Decisions for High-Stakes AI. A Zero-Egress Pipeline with the Deployability of RAG and the Accuracy of Machine Learning

高风险AI的确定性决策:具有RAG可部署性和机器学习准确性的零出口管道

Craig Atkinson

机构 * Verificate Pty Ltd(Verificate公司)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本研究识别并量化了零样本大语言模型在教育咨询中的干预偏差,通过监督策略学习(决策树和XGBoost)消除该偏差,实现接近零的校准误差,并揭示了评估差距。

Comments 41 pages, 11 tables, no figures. Preprint intended for submission to EDM 2027 / LAK 2027. Includes a reproducibility package: trained ONNX Decision Transformer, generic training script, OULAD evaluation scripts, and per-arm results CSVs

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.07612 2026-06-09 cs.CY cs.AI cs.LG 新提交 67%

Position: Anthropomorphic Misalignment Research Needs Stronger Evidence

立场:拟人化错位研究需要更强证据

Vansh Gupta, Peter Nutter, Samuel Stante, Andreas Krause, Florian Tramèr, Lukas Fluri, Xin Chen, Anna Hedström

机构 * University of Cambridge(剑桥大学)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.AI、cs.CY、cs.LG

AI总结 本文指出拟人化错位研究(AMR)在概念模糊、数据不鲁棒、实验设计不足等问题上存在证据薄弱,提出证据层级框架和诊断清单以提升方法论严谨性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.19082 2026-06-09 cs.AI cs.CL cs.GT cs.LG cs.MA 版本更新 67%

Payoff scaling shapes cooperation in LLM agents across languages

收益规模塑造跨语言LLM代理的合作行为

Trung-Kiet Huynh, Dao-Sy Duy-Minh, Thanh-Bang Cao, Phong-Hao Le, Hong-Dan Nguyen, Phu-Quy Nguyen-Lam, Minh-Luan Nguyen-Vo, Hong-Phat Pham, Phu-Hoa Pham, Thien-Kim Than, Chi-Nguyen Tran, Huy Tran, Gia-Thoai Tran-Le, Alessio Buscemi, Le Hong Trang, The Anh Han

机构 * Faculty of Information Technology, University of Science (HCMUS), Ho Chi Minh City, Vietnam(信息技术学院,科学大学(HCMUS),胡志明市,越南) Faculty of Computer Science and Engineering, Ho Chi Minh City University of Technology (HCMUT), Ho Chi Minh City, Vietnam(计算机科学与工程学院,胡志明市技术大学(HCMUT),胡志明市,越南) Vietnam National University – Ho Chi Minh City (VNU-HCM), Ho Chi Minh City, Vietnam(越南国家大学——胡志明市(VNU-HCM),胡志明市,越南) Luxembourg Institute of Science and Technology (LIST), Luxembourg(卢森堡科学与技术研究所(LIST),卢森堡) School of Computing, Engineering and Digital Technologies, Teesside University, Middlesbrough, United Kingdom(计算、工程与数字技术学院,泰赛德大学,米德尔斯布罗,英国)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 通过监督分类器识别重复囚徒困境中的策略,结合演化博弈论基线,发现随着收益增加,LLM反而更合作,与演化预测相反,表明对齐训练和人类推理模式的影响。

Comments 44 pages, 17 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.01991 2026-06-02 cs.AI cs.CL cs.CY 67%

SafeMCP: Proactive Power Regulation for LLM Agent Defense via Environment-Grounded Look-Ahead Reasoning

SafeMCP:基于环境接地前瞻推理的LLM智能体防御主动功率调节

Lichao Wang, Zhaoxing Ren, Tianzhuo Yang, Jiaming Ji, Chi Harold Liu, Yaodong Yang, Juntao Dai

机构 * Beijing Institute of Technology(北京理工大学) Beijing Academy of Artificial Intelligence(北京人工智能研究院) Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 针对LLM智能体因动作空间扩大而面临功率寻求风险,提出SafeMCP服务器端防御插件,通过内部世界模型进行前瞻推理,实现主动工具过滤和即时干预两级防御,在保持智能体效用的同时有效降低风险。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026), Main Conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16197 2026-05-18 cs.HC 67%

Position: AI as Part of Self -- Extending the Mind Requires Cognitive Co-Regulation

位置:AI作为自我的一部分——扩展心智需要认知共调节

Alina Gutoreva, Fendi Tsim, Trisevgeni Papakonstantinou

专题命中 AI治理与伦理 :alignment(abstract);safety(abstract)

AI总结 本文探讨了AI作为自我组成部分的重要性,强调认知共调节在人机认知系统中的必要性,指出传统约束无法实现安全与对齐,需通过人机协同调节来达成。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.22739 2026-05-18 cs.CL cs.AI cs.LG stat.ML 67%

Painless Activation Steering: An Automated, Lightweight Approach for Post-Training Large Language Models

无痛激活导向:一种自动化、轻量级的微调大型语言模型方法

Sasha Cui, Zhongren Chen

机构 * Yale University(耶鲁大学)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Painless Activation Steering,一种自动化方法,无需人工干预即可利用标注数据提升模型性能,尤其在行为任务中表现优异,但对智能任务效果有限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.14717 2026-05-13 cs.AI cs.CR cs.CY cs.LG 67%

Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents

分层可变性:持续性与治理在持久自修改代理中的作用

Krti Tallam

机构 * Kamiwaza AI

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出分层可变性框架,分析持久自修改代理中行为持续性和治理挑战,指出突变速度、下游耦合强度、可逆性弱和可观测性低会导致层间不匹配,主要贡献是揭示了自修改代理的失效模式是组合漂移而非突变对齐。

Comments 17 pages, 2 figures, 3 tables. self-modifying agents; AI governance; identity drift; persistent memory; runtime adaptation; model editing Primary: cs.AI Cross-list: cs.LG, cs.CY

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25933 2026-04-30 cs.CY cs.AI cs.CL 67%

A Scoping Review of LLM-as-a-Judge in Healthcare and the MedJUDGE Framework

对LLM-as-a-Judge在医疗领域的综述及MedJUDGE框架

Chenyu Li, Zohaib Akhtar, Mingu Kwak, Yuelyu Ji, Hang Zhang, Tracey Obi, Yufan Ren, Xizhi Wu, Sonish Sivarajkumar, Harold P. Lehmann, Shyam Visweswaran, Michael J. Becich, Danielle L. Mowery, Renxuan Liu, Haoyang Sun, Yanshan Wang

机构 * Department of Biomedical Informatics, School of Medicine, University of Pittsburgh(匹兹堡大学医学院生物医学信息学系) Department of Health Information Management, School of Health and Rehabilitation Sciences, University of Pittsburgh(匹兹堡大学健康与康复科学学院健康信息管理系) OpenCura, Health Innovation Consortium(OpenCura健康创新联盟) Northwestern University, Kellogg School of Management(西北大学凯洛格管理学院) Intelligent Systems Program, School of Computing and Information, University of Pittsburgh(匹兹堡大学计算与信息学院智能系统项目) Johns Hopkins University School of Medicine Biomedical Informatics and Data Science(约翰霍普金斯大学医学院生物医学信息学与数据科学) Clinical and Translational Science Institute, University of Pittsburgh(匹兹堡大学临床与转化科学研究所) Institute for Biomedical Informatics, University of Pennsylvania(宾夕法尼亚大学生物医学信息学研究所) Data Science, School of Computing and Information, University of Pittsburgh(匹兹堡大学计算与信息学院数据科学)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文综述了LLM-as-a-Judge在医疗领域的应用现状,指出其在验证严谨性、偏见评估和治理方面存在不足,并提出MedJUDGE框架以提升医疗领域LLM-as-a-Judge系统的有效性与安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11318 2026-04-28 cs.AI cs.CL cs.CY 67%

The Consensus Trap: Dissecting Subjectivity and the "Ground Truth" Illusion in Data Annotation

共识陷阱:数据标注中主观性与‘真实真相’幻觉的剖析

Sheza Munir, Benjamin Mah, Krisha Kalsi, Shivani Kapania, Julian Posada, Edith Law, Ding Wang, Syed Ishtiaque Ahmed

机构 * University of Toronto Computer Science(多伦多大学计算机科学系) University of Toronto Engineering Science(多伦多大学工程科学系) Carnegie Mellon University School of Computer Science(卡内基梅隆大学计算机科学学院) Yale University American Studies(耶鲁大学美国研究系) University of Waterloo Computer Science(滑铁卢大学计算机科学系) Google Research(谷歌研究) University of Toronto(多伦多大学) Carnegie Mellon University(卡内基梅隆大学) Yale University(耶鲁大学) University of Waterloo(滑铁卢大学)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文通过分析2020-2025年间七大赛事的346篇论文,揭示数据标注实践中‘共识陷阱’的机制,指出位置可读性失效与模型中介标注导致的锚定偏见,以及地理霸权对西方标准的强制性,呼吁将分歧视为高保真信号以构建文化胜任模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.21043 2026-04-24 cs.CY cs.AI cs.LG 67%

Strategic Polysemy in AI Discourse: A Philosophical Analysis of Language, Hype, and Power

人工智能话语中的战略多义性:语言、炒作与权力的哲学分析

Travis LaCroix, Fintan Mallory, Sasha Luccioni

机构 * Durham University(杜伦大学)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.AI、cs.CY、cs.LG

AI总结 本文探讨人工智能话语中语言的策略性使用,分析术语如'幻觉'、'思考链'等的多义性如何影响机构和话语实践,揭示语言作为社会技术机制塑造AI发展与治理的作用。

Comments Accepted in the Ninth Annual ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.20789 2026-04-24 cs.CL cs.AI cs.LG 67%

Working Memory Constraints Scaffold Learning in Transformers under Data Scarcity

工作记忆限制在数据稀缺下支撑Transformer的学习

Pranava Madhyastha, Dagmar Adamcova

机构 * City, University of London(伦敦城市大学) The Alan Turing Institute(艾伦·图灵研究所) Grounded Machines

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文探讨在Transformer架构中引入类人工作记忆限制,提出基于固定宽度窗口和时间衰减的注意力机制,实验表明在数据稀缺时,这些约束能显著提升语法准确性并增强与人类处理指标的一致性。

Comments Published in ACL 2026 Findings track

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.16369 2026-04-22 cs.CY cs.AI cs.CL 67%

Why AI Readiness Is an Organizational Learning Problem, Not a Technology Purchase

为何人工智能准备性是组织学习问题,而非技术采购问题

Jeanne McClure, Gregg Gerdau

机构 * Ars Innovate Technology and Consulting(Ars Innovate技术与咨询) Matador Advisors(Matador顾问) NC State University(北卡罗来纳州立大学)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文指出,人工智能项目失败本质上是组织学习问题而非技术不足,提出SIO模型指导企业AI能力发展。

Comments 8 Pages 2 figures 1 table

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21080 2026-04-22 cs.CL cs.AI cs.CY 67%

InsideOut: Measuring and Mitigating Insider-Outsider Bias in Interview Script Generation

InsideOut: 评估和缓解面试脚本生成中的内部-外部偏见

Yixin Wan, Xingrun Chen, Kai-Wei Chang

机构 * University of California, Los Angeles(加州大学洛杉矶分校)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出InsideOut基准,通过文化情境面试脚本生成任务量化LLM的内部-外部偏见,采用三种评估指标,并提出基于代理的MFA框架缓解偏见,实验表明MFA方法显著降低偏见。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.07591 2026-04-10 stat.ME cs.AI cs.CL cs.LG stat.ML 67%

From Ground Truth to Measurement: A Statistical Framework for Human Labeling

从真实数据到测量:人类标注的统计框架

Robert Chew, Stephanie Eckman, Christoph Kern, Frauke Kreuter

机构 * RTI International(RTI国际) University of Maryland(马里兰大学) LMU Munich(慕尼黑大学) Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出统计框架,将标注过程视为测量过程,分解标注结果中的变异来源,为数据驱动的机器学习提供指导。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02276 2026-04-03 cs.AI cs.CL cs.LG 67%

De Jure: Iterative LLM Self-Refinement for Structured Extraction of Regulatory Rules

De Jure:基于迭代LLM自优化的结构化监管规则提取

Keerat Guliani, Deepkamal Gill, David Landsman, Nima Eshraghi, Krishna Kumar, Lovedeep Gondara

机构 * The Vanguard Group, Inc.(先锋集团)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 De Jure通过四个阶段自动提取结构化监管规则,无需人工标注或领域知识,提升监管文本处理的效率和可追溯性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22322 2026-03-25 cs.LG cs.AI cs.CY 67%

AEGIS: An Operational Infrastructure for Post-Market Governance of Adaptive Medical AI Under US and EU Regulations

AEGIS:一种用于美国和欧盟法规下适应性医疗AI市场后治理的操作基础设施

Fardin Afdideh, Mehdi Astaraki, Fernando Seoane, Farhad Abtahi

机构 * Department of Clinical Science, Intervention and Technology, Karolinska Institutet(临床科学、干预与技术部门,Karolinska研究院) Department of Medical Radiation Physics, Stockholm University(医学辐射物理学部门,斯德哥尔摩大学) Department of Oncology-Pathology, Karolinska Institutet(肿瘤学-病理学部门,Karolinska研究院) Department of Clinical Physiology, Karolinska University Hospital(临床生理学部门,Karolinska大学医院) Department of Textile Technology, University of Bor s(纺织技术部门,Bor s大学) Department of Medical Technologies, Karolinska University Hospital(医学技术部门,Karolinska大学医院) Department of Biomedical Engineering and Health System, KTH Royal Institute of Technology(生物医学工程与健康系统部门,KTH皇家理工学院)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出AEGIS框架,通过数据集整合、模型监控和条件决策模块,实现FDA PCCP和EU AI Act条款的执行,支持医疗AI的持续学习与安全更新。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.07775 2026-03-24 cs.CL cs.AI cs.CY 67%

Must Read: A Comprehensive Survey of Computational Persuasion

必须阅读:计算说服的全面综述

Nimet Beyza Bozdag, Shuhaib Mehri, Xiaocheng Yang, Hyeonjeong Ha, Zirui Cheng, Esin Durmus, Jiaxuan You, Heng Ji, Gokhan Tur, Dilek Hakkani-Tür

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文综述了计算说服的三个视角:AI作为说服者、被说服者和评判者,探讨了AI生成内容的有效性及伦理挑战。

Comments Accepted to ACM Computing Surveys

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13636 2026-03-17 cs.CL cs.AI cs.CY 67%

Widespread Gender and Pronoun Bias in Moral Judgments Across LLMs

大范围性别和代词偏见在LLM道德判断中的表现

Gustavo Lúcius Fernandes, Jeiverson C. V. M. Santos, Pedro O. S. Vaz-de-Melo

机构 * Universidade Federal de Minas Gerais(巴西米纳斯吉拉斯联邦大学) Instituto Kunumi(昆米研究所)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 研究通过分析不同LLM对公平性判断的偏见,发现代词和性别标记显著影响道德分类,非二元性别受青睐,男性受歧视,需改进公平性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.11662 2026-03-10 cs.AI cs.CL cs.LG cs.MA cs.RO 67%

Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification

两步思考:通过自我 grounded 验证缓解 MLLM 的同意偏差

Moises Andrade, Joonhyuk Cha, Brandon Ho, Vriksha Srihari, Karmesh Yadav, Zsolt Kira

机构 * Georgia Institute of Technology(佐治亚理工学院)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出 SGV 方法,通过自我 grounded 验证缓解 MLLM 的同意偏差,提升验证准确性和任务完成率。

Comments ICLR 2026. Code, models, and data publicly available at https://mshalimay.github.io/agreement-bias-sgv/

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.01646 2026-03-09 cs.CL cs.AI cs.LG 67%

ESGenius: Benchmarking LLMs on Environmental, Social, and Governance (ESG) and Sustainability Knowledge

ESGenius:对环境、社会和治理(ESG)及可持续性知识的LLM基准测试

Chaoyue He, Xin Zhou, Yi Wu, Xinjia Yu, Yan Zhang, Lei Zhang, Di Wang, Shengfei Lyu, Hong Xu, Xiaoqiao Wang, Wei Liu, Chunyan Miao

机构 * Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)(阿里巴巴-NTU全球可持续性公司实验室) Alibaba Group(阿里巴巴集团)

专题命中 AI治理与伦理 :trustworthy(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 ESGenius是首个针对LLM在ESG及可持续性知识评估的综合问答基准,通过RAG方法显著提升模型性能。

Comments EMNLP'25 Main Oral (42 pages, 10 figures, 11 tables), Nominations for Resource Award & Theme Paper Award

Journal ref In Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025), pages 14612-14653

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.02640 2026-03-04 cs.CY cs.AI cs.CL cs.MA cs.SI 67%

Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals

可信治理:在弱真相信号下的一种社会机制,用于集体自我校正

Wanying He, Yanxi Lin, Ziheng Zhou, Xue Feng, Min Peng, Qianqian Xie, Zilong Zheng, Yipeng Kang

机构 * School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院) Tsinghua University(清华大学) University of California, Los Angeles(加州大学洛杉矶分校) State Key Laboratory of General Artificial Intelligence, BIGAI(通用人工智能国家重点实验室,BIGAI)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 可信治理通过动态可信度评分和可信度加权背书,提升集体自我校正能力,减少虚假信息影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.23814 2026-03-04 cs.CR 67%

Watermarking Without Standards Is Not AI Governance

没有标准的水印技术并非AI治理

Alexander Nemecek, Yuzhou Jiang, Erman Ayday

专题命中 AI治理与伦理 :safety(abstract);AI safety(abstract)

AI总结 本文指出当前水印技术在AI治理中存在监管与技术限制之间的差距,提出三层框架以提升水印技术的治理有效性。

Comments 14 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.13033 2026-02-24 cs.CY cs.AI cs.CE cs.CL cs.SI 67%

Buy versus Build an LLM: A Decision Framework for Governments

买还是建一个大语言模型:政府的决策框架

Jiahao Lu, Ziwei Xu, William Tjhi, Junnan Li, Antoine Bosselut, Pang Wei Koh, Mohan Kankanhalli

机构 * National University of Singapore(新加坡国立大学) AI Singapore(AI新加坡) Salesforce AI Research(Salesforce AI研究) EPFL(苏黎世联邦理工学院) University of Washington(华盛顿大学) Allen Institute for AI(人工智能研究院)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出政府在大语言模型决策中应考虑主权、安全、成本等因素的框架,帮助确定购买或建设更适合其需求的方法。

Comments The short version of this document is published as an ACM TechBrief at https://dl.acm.org/doi/epdf/10.1145/3797946, and this document is published as an ACM Technology Policy Council white paper at https://www.acm.org/binaries/content/assets/public-policy/buildvsbuyai.pdf

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18092 2026-02-23 cs.CL cs.AI cs.CY 67%

Perceived Political Bias in LLMs Reduces Persuasive Abilities

感知到的LLM政治偏见会降低说服能力

Matthew DiGiuseppe, Joshua Robison

机构 * Leiden University(莱顿大学)

专题命中 AI治理与伦理 :alignment(abstract);分类 cs.CL、cs.AI、cs.CY

AI总结 研究发现,感知到的LLM政治偏见会降低其在对话中的说服效果,表明说服力受政治中立性感知的影响。

Comments 39 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.08855 2026-02-03 cs.CL cs.AI cs.LG 67%

BiasGym: A Simple and Generalizable Framework for Analyzing and Removing Biases through Elicitation

BiasGym: 一个简单且通用的框架,用于通过诱发分析和去除偏见

Sekh Mainul Islam, Nadav Borenstein, Siddhesh Milind Pawar, Haeun Yu, Arnav Arora, Isabelle Augenstein

机构 * University of Copenhagen(哥本哈根大学)

专题命中 AI治理与伦理 :safety(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 BiasGym通过安全注入和分析偏见,提供了一种简单且通用的方法来减少大语言模型中的偏见和刻板印象。

Comments Under review. Title updated

详情

展开后加载摘要…

URL PDF HTML 收藏