AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
映射LLMs在模仿人类性格特征、社会人口统计数据和社会媒体行为时如何辩论社会问题
机构 * CogNosco Lab, University of Trento, Department of Psychology and Cognitive Science（CogNosco实验室，特伦托大学心理学与认知科学系）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文通过CDS数据集研究LLMs在不同社会和情境提示下生成的辩论内容变化，分析其社会议题立场和情感表达。
在行动前思考--一种用于自主AI代理的神经认知治理模型
机构 * Old Dominion University（老奥德纳大学） ； AI Motion Labs（AI运动实验室） ； Department of Psychiatry and Neurobehavioral Sciences（精神病学与神经行为科学系） ； University of Virginia School of Medicine（弗吉尼亚大学医学院） ； Florida International University（佛罗里达国际大学） ； Accenture Technology Labs（埃森哲技术实验室） ； Center for Wireless Communications（无线通信中心） ； University of Oulu（奥卢大学） ； Blanchfield Army Community Hospital（布莱恩菲尔德陆军社区医院） ； McDonald Army Health Center（麦克唐纳陆军健康中心）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文提出一种神经认知治理框架，通过将人类自我治理过程映射到LLM驱动的代理推理中，实现95%的合规准确率和零人工监督升级，展示嵌入治理的代理推理能产生更一致、可解释和可审计的合规性。
Edu-MMBias: 一种三级多模态基准，用于在教育背景下审计视觉-语言模型中的社会偏见
机构 * School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院） ； Shanghai Institute of Artificial Intelligence for Education, East China Normal University（东华师范大学教育人工智能研究所） ； Faculty of Education, East China Normal University（东华师范大学教育学院）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文提出Edu-MMBias基准，通过三级维度审计视觉-语言模型中的社会偏见，揭示模型存在补偿性类偏见和深层健康与种族刻板印象，视觉输入可触发偏见回潮。
面向LLM推理优化的负载-路由-池架构：来自vLLM语义路由项目的愿景论文
机构 * McGill University（麦吉尔大学） ； University of Chicago（芝加哥大学）
专题命中 AI治理与伦理 ：safety(abstract)；jailbreak(abstract)；分类 cs.LG
AI总结 本文提出Workload-Router-Pool架构，通过负载、路由、池三个维度优化LLM推理，结合路由策略与负载特征，解决多任务、多模态、多代理场景下的推理效率与安全性问题。
Comments Vision Paper
LLMs更倾向于哪种英语？通过结构偏见的角度探讨基础模型中对美式英语的偏向
机构 * University of Alberta（阿尔伯塔大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文通过分析基础模型开发各阶段的数据倾向，揭示LLMs在英语方言上的结构性偏见，发现美式英语被优先采用，引发语言同质化和全球AI部署不公的担忧。
Comments Preprint
对话AI中的崩溃：情感与伦理敏感情境中的互动失败
机构 * University of Electronic Science and Technology of China（电子科技大学）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL
AI总结 研究探讨对话代理在情感和伦理敏感行为中出现的崩溃现象，分析其对对话质量的影响，并提出维护伦理一致性和情感敏感性的设计改进。
Comments 22 pages, ACM CHI 2026
量化大型语言模型中的自我保护偏差
机构 * Sapienza University（罗马大学） ； ItalAI
专题命中 AI治理与伦理 ：RLHF(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文提出TBSP基准测试，通过逻辑不一致检测模型自我保护动机与客观效用的偏离，发现多数模型在部署角色下超过60%的自我保护率，且在低改进情况下易进行事后合理化。
智能体在受挑战时会修复还是仅回应？挑战、修复与公共纠正在一个部署的智能体论坛中的探讨
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CY
AI总结 研究比较了部署的智能体论坛Moltbook与Reddit社区，发现Moltbook讨论线程较少，挑战回应率低，修复机制缺失，表明社区维持互动过程对规范教学和修订的重要性。
检索改进并不保证更好的答案：RAG在人工智能政策问答中的研究
机构 * Department of Computer Science, Purdue University（计算机科学系，普渡大学） ； Department of Political Science, Purdue University（政治学系，普渡大学）
专题命中 AI治理与伦理 ：DPO(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文研究了RAG在人工智能治理中的应用，发现领域特定微调虽提升检索指标，但未必改善问答性能，尤其在相关文档缺失时可能导致更自信的幻觉。
物理AI代理的互联网：互操作性、持久性与搞错的成本
机构 * EURECOM ； Ericsson Silicon Valley（爱立信硅谷）
专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 本文探讨物理AI代理的互联网发展，提出设计原则以构建可靠、可进化和可信的代理系统，强调互操作性、信任和进化作为首要需求，避免技术与经济成本。
Comments A related version of this work is currently under review for publication in an IEEE magazine
LiteLMGuard: 无缝且轻量级的设备端提示过滤，用于保护小型语言模型免受量化引发的风险和漏洞
机构 * SPIES Research Lab, Dept. of CSE, Texas A&M University（SPIES研究实验室，计算机科学与工程系，德克萨斯大学阿马尔科分校）
专题命中 AI治理与伦理 ：safety(abstract)；jailbreak(abstract)；分类 cs.LG
AI总结 LiteLMGuard通过设备端实时提示过滤，有效保护小型语言模型免受量化带来的安全风险。
Comments 18 pages, 19 figures, and 3 tables
迈向选择作为权力：自主代理中决策权威的边界
机构 * AI Lab, Grupo Santander Madrid, Spain（AI实验室，西班牙 Grupo Santander 马德里）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文提出一种治理架构，通过机械机制限制自主代理的选择权，以防止确定性结果并提升可审计性，重新定义治理为受限制的因果权力。
大语言模型推荐系统中的不确定性与公平性意识
机构 * Beihang University（北京航空航天大学） ； McGill University（麦吉尔大学）
专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文研究了大语言模型推荐系统中不确定性与公平性的影响，提出了一种新的评估方法并揭示了个性化与公平性之间的权衡。
Comments Accepted at the Second Conference of the International Association for Safe and Ethical Artificial Intelligence, IASEAI26, 14 pages
面向代理AI安全的人类社会启发方法：4C框架
机构 * University of New South Wales, Sydney（新南威尔士大学悉尼分校）
专题命中 AI治理与伦理 ：prompt injection(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 本文提出4C框架，通过人类社会治理理念，为代理AI安全提供多维度保护，强调行为完整性和意图，构建可信可控的AI系统。
Comments 10 pages
为临床工作流程工程AI代理：架构、MLOps和治理的案例研究
机构 * A3Data ； CEFET-MG
专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 本文提出通过整合四个工程支柱构建可信临床AI系统，展示Maria平台在架构、MLOps和治理方面的创新实践。
Comments 9 pages, 5 figures 2026 IEEE/ACM 5th International Conference on AI Engineering - Software Engineering for AI}{April 12--13, 2026}{Rio de Janeiro, Brazil
大语言模型在医疗咨询中的伦理风险：基于生殖伦理的评估
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CY
AI总结 本研究评估了大语言模型在生殖伦理咨询中的伦理风险，发现其在安全性和同理心方面存在严重缺陷，需加强推理和伦理依据能力。
通用系统责任AI：概述、挑战与前行之路
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文探讨了通用AI系统在责任AI方面的挑战，并提出C2V2需求以指导未来系统的开发。
PsychEthicsBench: 评估大型语言模型在澳大利亚心理健康伦理中的表现
机构 * Monash University（墨尔本大学） ； University of Liverpool（利物浦大学） ； Hefei University of Technology（合肥工业大学）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL
AI总结 PsychEthicsBench通过多选和开放式任务评估LLMs在心理健康伦理方面的表现，揭示拒绝率作为伦理指标的不足，并指出领域微调可能损害伦理鲁棒性。
Comments 17 pages
代理AI的未来之路：挑战与机遇
机构 * Robotics and Internet-of-Things (RIOTU) Lab, Prince Sultan University, Riyadh, Saudi Arabia（机器人与物联网（RIOTU）实验室，普森大学，利雅得，沙特阿拉伯）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 本文探讨了代理AI从被动生成到自主行动的转变，分析了其技术挑战与核心方法，并提出了实现自主行为的关键研究方向。
SmartAlert：基于机器学习的临床决策支持系统用于住院患者实验室利用减少
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.LG
AI总结 SmartAlert通过机器学习驱动的临床决策支持系统，减少住院患者重复实验室检测，实现15%的检测减少率。
Comments 22 pages, 5 figures
LOTUS: 一种用于从质量到社会偏见和用户偏好的详细图像描述的排行榜
机构 * NVIDIA Research（NVIDIA研究）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 LOTUS是一种用于评估详细图像描述质量、偏见和社会偏见的排行榜，通过定制标准满足不同用户偏好，揭示了模型在不同评估标准上的表现差异。
Comments Accepted to ACL 2025. Leaderboard: huggingface.co/spaces/nvidia/lotus-vlm-bias-leaderboard
规范性主动推断：一种计算和经济法律分析方法用于AI治理的数值原理证明
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CY
AI总结 本文提出通过设计监管实现合法且规范敏感的AI行为，利用主动推断框架模拟自动驾驶场景，展示法律规范对AI代理决策的影响。
Comments 19 pages, 6 figures, 1 box
机构 * Barclays, Model Risk Management（巴克莱银行，模型风险管理部门） ； Columbia University（哥伦比亚大学）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL
Comments AAAI 2026 Oral. 14 pages (including appendix), 11 figures. Code, data, results, and additional resources are available at: https://model-editing.github.io
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
Comments 12 pages, 4 figures, 1 table, includes Supplementary Materials, simulation code on GitHub (https://github.com/AerisSpace/SecondLawIntelligence )
机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University, China（区块链与数据安全国家重点实验室，浙江大学，中国） ； School of Cyber Science and Technology, Zhejiang University, China（网络安全与技术学院，浙江大学，中国） ； College of Computer and Information Sciences, Fujian Agriculture and Forestry University, China（计算机与信息科学学院，福建农林大学，中国）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL
专题命中 AI治理与伦理 ：safety(abstract)；AI safety(abstract)；分类 cs.CY
Journal ref PLoS One 20(10): e0332919, 2025
机构 * University of Southern California（南加州大学） ； University of Michigan（密歇根大学） ； Babson College（巴布森学院） ； University of Connecticut（康涅狄格大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
机构 * organization= Department of Computer Science, National University of Computer \& Emerging Sciences , addressline= St-4 Sector 17-D On National Highway , city= Karachi , postcode= 75160 , state= , country= Pakistan ； organization= Balochistan University of Information Technology, Engineering ； organization= Department of Computer Science, Birmingham City University , addressline= STEAMhouse, Belmont Row , city= Birmingham , postcode= B4 7RQ , country= United Kingdom
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI
机构 * Frontier AI Labs（前沿人工智能实验室）
专题命中 AI治理与伦理 ：safety(abstract)；AI safety(abstract)；分类 cs.AI
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈