Feedback Manipulation Regularization: Enabling Offline Agent Alignment for Imitation Learning
研究聚焦强化学习智能体行为与人类价值观对齐。提出反馈操纵正则化算法,利用评估反馈校正模仿学习策略。通过改编安全体育馆环境测试,该方法能提升适应性、减少对齐错误,在有限数据下也保持稳健。
2026-07-10 cs.AI cs.HC cs.LG
COMPASS: Cognitive MCTS-Guided Process Alignment for Safe Search Agents
Zhejiang University(浙江大学)
提出COMPASS框架,通过认知树探索和自省步骤对齐,在保持通用效用的同时实现搜索代理工作流中的鲁棒安全对齐。
2026-05-29 cs.AI
MoralityGym: A Benchmark for Evaluating Hierarchical Moral Alignment in Sequential Decision-Making Agents
University of the Witwatersrand(威特沃特斯兰大学)
本文提出MoralityGym基准,通过将道德规范表示为有序的规范约束,评估序列决策代理中分层道德对齐的挑战,展示了98个伦理困境问题,并通过心理学和哲学的见解改进了伦理决策方法。
2026-05-21 cs.AI cs.LG
Alignment in Time: Peak-Aware Orchestration for Long-Horizon Agentic Systems
Lehigh University(莱维大学)
APEMO通过时间-情感信号优化计算分配,提升长horizon代理系统轨迹质量和重用概率。
2026-02-20 cs.AI
Position: Assistive Agents Need Accessibility Alignment
School of Artificial Intelligence and Robotics(人工智能与机器人学院);Hunan University(湖南大学);Changsha, China(中国长沙)
本文指出辅助代理设计需考虑可访问性对齐,通过分析778个任务实例,揭示现有代理在辅助场景中的失败原因,并提出生命周期导向的设计流程。
2026-05-13 cs.AI
Agent Economics: An Entropy-Controlled Pluralistic Alignment Framework for Preventing Artificial Hivemind in Autonomous Agents
AX Center, SAMSUNG SDS(三星SDS AX中心)
提出行为协议框架(BPF),通过心智化社会智能、多元对齐和可验证执行内核三个模块,在闭环架构中控制熵以保持策略多样性,提升自主智能体经济的稳定性、效率和可信度。
2026-06-16 cs.AI
Moral Alignment for LLM Agents
University College London(伦敦大学学院);University of Bologna(博洛尼亚大学)
本文提出用显式编码人类价值观的内在奖励微调 LLM 智能体,并在 IPD 等博弈环境中验证其道德对齐、策略忘却与泛化效果。
2025-05-11 cs.AI cs.CY cs.LG
Advancing DRL Agents in Commercial Fighting Games: Training, Integration, and Agent-Human Alignment
University of Science and Technology of China (USTC)(中国科学技术大学);Tencent Games(腾讯游戏);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Suzhou Institute for Advanced Research, USTC(中国科学技术大学苏州研究院)
提出用于格斗游戏的DRL智能体系统Shūkai,通过量化状态和异构联赛训练(HELT)实现能力、泛化性与效率平衡,并采用特定奖励对齐人类期望,在Naruto Mobile中展现出强泛化性与22%的样本效率提升。
2024-06-03 cs.AI cs.HC cs.LG
Automated alignment is harder than you think
AI Security Institute(人工智能安全研究所)
论文指出,即使研究代理不故意破坏对齐工作,自动化对齐研究也可能导致误导性的安全评估,因模糊任务难以监督且人类判断有误。
2026-05-14 cs.AI
SIGMA: Self-Improving Alignment Generalization from a Model Spec
Apple(苹果公司);Johns Hopkins University(约翰斯·霍普金斯大学)
提出SIGMA流水线,利用模型自身推理能力,基于模型规范生成任务并自我评判训练,实现安全对齐自我改进,在多轮智能体环境中显著降低有害性并保持通用能力。
2026-10-07 cs.AI
ANDES: Agent Native Data Evolving Synthesis Tool for Autonomous Instruction Alignment
Peking University(北京大学);Sichuan University, Chengdu(四川大学,成都)
提出ANDES框架,通过自进化世界树路由和可操作诊断报告,将数据生成重构为即插即用的智能体技能,使基础较弱的智能体在严格计算约束下实现自动对齐,在PostTrainBench上取得最先进性能。
2026-05-31 cs.AI
Aligning Machiavellian Agents: Behavior Steering via Test-Time Policy Shaping
本文提出了一种测试时策略塑造方法,通过模型引导的策略调整,解决预训练代理在复杂环境中的伦理对齐问题,实现奖励最大化与伦理约束的平衡。
2025-12-08 cs.AI cs.CL
Towards Unified Alignment Between Agents, Humans, and Environment
Tsinghua University(清华大学);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院)
本文提出智能体统一对齐($\mathbf{UA}^2$)原则,主张智能体需同时对齐人类意图、环境动态与自我约束,并在改造后的WebShop中验证了该原则对提升智能体现实问题解决能力的重要性。
2024-02-14 cs.AI cs.CL cs.LG
Hierarchical Reward Design from Language: Enhancing Alignment of Agent Behavior with Human Specifications
Rice University(里士大学)
本文提出基于语言的层次奖励设计(HRDL)和语言到层次奖励(L2HR)方法,用于通过人类规范增强智能体行为对齐,提升AI任务完成效果和规范遵守程度。
2026-02-20 cs.AI cs.CL cs.HC
DoubleAgents: Human-Agent Alignment in a Socially Embedded Workflow
Columbia University(哥伦比亚大学)
DoubleAgents通过分布式认知框架实现人机对齐,整合协调代理、可视化仪表板和策略模块,提升复杂社会嵌入式任务的执行效率与用户信任。
2026-09-16 cs.AI cs.CY cs.ET
The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems
ARYA Labs PBC
提出一种架构性控制机制“不可解雇的安全内核”,通过进程隔离、前置强制、故障关闭和外部验证四个属性实现执行时AI对齐,在可逃逸AI系统中阻止逃逸尝试。
2026-06-25 cs.AI cs.CR cs.LG
Delegating Authorization to Misaligned Agents: Coalitional Alignment and Safe Control
针对长期AI智能体的授权控制问题,提出k-稳健联盟对齐条件,证明阈值投票规则在移除k个审查者后仍能保证安全,并扩展到序贯控制与策略性投票场景。
2026-11-13 cs.AI cs.GT cs.LG
MoralReason: Generalizable Moral Decision Alignment For LLM Agents Using Reasoning-Level Reinforcement Learning
针对大语言模型智能体的分布外道德对齐难题,本文提出基于推理级强化学习的MoralReason方法,构建Moral-Reason-QA数据集并采用复合奖励的GRPO训练,实现了未见过场景下的道德决策对齐能力提升。
2025-11-15 cs.AI
Mutual Alignment Transfer Learning
Oxford Robotics Institute(牛津机器人研究所);University of Oxford(牛津大学);Berkeley AI Research (BAIR)(伯克利人工智能研究所);University of California Berkeley(加利福尼亚大学伯克利分校);OpenAI, San Francisco(OpenAI,旧金山)
训练机器人在现实世界中操作是一项复杂、耗时且可能昂贵的任务。尽管强化学习在游戏和模拟中取得了巨大的成功,但在实际机器人应用中的研究还无法与类似的进展相匹配。虽然可以通过在模拟中训练策略来降低样本复杂性,但由于模型动态的不完美校准,这些策略在真实平台上的表现可能不佳。我们提出了一种方法-补充真正的机器人微调-进一步受益于并行访问模拟器在训练过程中,并减少对真正的机器人样本的要求。所开发的方法利用辅助奖励来指导探索的基础上,在模拟的代理,反之亦然的熟练程度为现实世界的代理。在这种情况下,我们经验证明,这两个代理的相互对齐提供了进一步的好处,因为模拟中的代理可以调整,以优化其行为的状态,通常由现实世界的代理访问。
2017-09-26 cs.AI
AgentDoG 1.5: A Lightweight and Scalable Alignment Framework for AI Agent Safety and Security
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对开放世界智能体的新兴安全风险,提出一种轻量级可扩展的安全对齐框架,通过更新安全分类法、构建数据引擎并训练小模型(0.8B-8B参数),实现与闭源模型相当的性能,并降低部署开销两个数量级。
2026-05-28 cs.AI cs.CL cs.CR
Position: Safety and Fairness in Agentic AI Depend on Interaction Topology, Not on Model Scale or Alignment
Department of Computer Science, University of British Columbia, Vancouver, Canada(英属哥伦比亚大学计算机科学系);Department of Artificial Intelligence, IIT Hyderabad, Hyderabad, India(印度海得拉巴理工学院人工智能系);Amazon, Delhi, India(印度德里亚马逊公司)
本文指出代理AI的安全性由交互拓扑决定,而非模型规模或对齐程度。研究揭示了顺序不稳定、信息级联和功能崩溃等拓扑驱动的问题,并强调需通过动态系统视角评估安全性和公平性。
2026-05-01 cs.AI
Agent Safety Alignment via Reinforcement Learning
Ant Group(蚂蚁集团)
本文提出首个面向工具使用LLM智能体的统一安全对齐框架,通过三模态分类法、策略驱动决策模型及沙盒化强化学习,有效防御用户与工具发起的双重威胁,在保障良性任务效用的同时显著提升安全性。
2025-07-11 cs.AI cs.CR
Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment
University of Connecticut(康涅狄格大学);Hugging Face;Tufts University(塔夫茨大学)
本文针对多智能体间复杂错位问题,提出一种基于计算社会科学的量化模型,通过智能体加权偏好冲突计算错位分数,仿真和案例研究证明其能有效提升社会技术环境的解释力并指导AI对齐设计。
2025-06-01 cs.AI cs.CY cs.GT
Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance
Tandon School of Engineering(坦登工程学院);New York University(纽约大学)
本研究提出智能体反思平衡(ARE)框架,借鉴罗尔斯反思平衡思想构建智能体AI伦理对齐支架,通过多维度关联实现可追溯、一致且自适应的治理,经案例验证可保障智能体安全可信。
2026-10-14 cs.AI
ANCHOR: Automated Alignment Auditing for CLI Agents on Real-World Harm
Anthropic(Anthropic公司)
研究自主CLI代理在现实世界危害中的风险,提出ANCHOR自动审计框架,通过基于黑暗人格数据微调的审计代理模拟恶意用户,测试CLI代理,发现当前对齐技术不足,强调针对此类恶意用户进行安全评估的必要。
2026-07-14 cs.AI cs.CL
Aleena: Alignment Agent for Research Software Engineering Collaborations
eScience Institute(eScience研究院);University of Washington(华盛顿大学)
研究软件协作中决策易失依据致相关人员心智模型不同,提出智能AI可支持对齐与跟踪。介绍开源的Aleena,以GitHub为协作平台,转化交互为结构化记录,揭示风险等,还阐述其动机、设计、原型及场景。
2026-07-10 cs.AI cs.SE
Artificial Id: Drive and Persistent Alignment in Agentic AI
针对智能体AI从有界任务转向持续自适应系统带来的控制问题,本文提出人工身份作为自适应内部驱动力,通过最小虚拟培养皿实验证明其能在无任务特定目标时涌现有用控制,同时指出持久性可能导致错位持续,需建立持久对齐边界。
2026-09-11 cs.AI
On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment
National University of Singapore(新加坡国立大学)
本文提出FATE框架,通过将验证者评分的失败轨迹转化为修复监督,结合Pareto-Front Policy Optimization方法,提升代理安全性同时保持有用行为,实验显示在不同模型和规模上均有效。
2026-05-12 cs.AI
HADA: Human-AI Agent Decision Alignment Architecture
Department of Computer Science and Engineering(计算机科学与工程系);Aalto University(阿尔托大学);Department of Industrial Engineering and Management(工业工程与管理系)
HADA 提出一种与协议和框架无关的人机智能体决策对齐架构,通过角色化利益相关方智能体实现对话式查询、引导、审计与质疑,并在信用评分场景中验证其能提升决策准确性、透明度和伦理合规性。
2025-06-01 cs.AI cs.HC
Four-Axis Decision Alignment for Long-Horizon Enterprise AI Agents
Vasundra Srinivasan
本文提出四轴对齐框架,用于评估长周期企业AI代理的决策行为,涵盖事实精度、推理连贯性、合规重建和校准回避,通过实验揭示了决策对齐的重要性。
2026-04-21 cs.AI
Risk Alignment in Agentic AI Systems
Rethink Priorities;University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文探讨智能体AI的风险对齐问题,分析风险态度对用户信任与社会责任的影响,并提出三篇论文以解决风险态度校准、护栏设置及代他人决策的伦理等规范性与技术性挑战。
2024-10-02 cs.AI cs.CY econ.GN
Whose Truth? Pluralistic Geo-Alignment for (Agentic) AI
University of Vienna(维也纳大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Maine(缅因大学);McGill University(麦吉尔大学);University of Wisconsin(威斯康星大学)
本文探讨AI对齐的地理变异性,指出不同地区对适当性、真实性的标准不同,提出需发展时空感知的多元对齐方法以应对智能体AI的挑战。
2025-08-07 cs.AI cs.CY
Characterizing AI Agents for Alignment and Governance
Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind)
本文从自主性、有效性、目标复杂性和通用性四个维度刻画AI agent,构建了不同类型AI agent的“agentic profiles”,以揭示其治理挑战,帮助各方开发与社会目标相一致的治理方法。
2025-04-30 cs.AI cs.CY cs.SY
BabelCoder: Agentic Code Translation with Specification Alignment
Concordia University(康科迪亚大学);York University(约克大学)
BabelCoder通过代理协作框架提升代码翻译准确性,实现94.16%的平均准确率。
2026-09-28 cs.AI cs.SE
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
Shanghai AI Laboratory(上海人工智能实验室);SJTU(上海交通大学);Fudan University(复旦大学);HKUST(香港科技大学);Zhejiang University(浙江大学)
SafeEvolve是一种基于智能体经验的安全对齐自进化框架,通过harness-策略协同进化实现更优的安全-效用权衡,在Qwen3.5-4B上可降低AgentDojo的ASR并提升良性效用
2026-09-03 cs.AI cs.CR
Aligning to Social Norms and Values in Interactive Narratives
Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学)
我们专注于创建代理,在互动叙事或基于文本的游戏中与社会有益的规范和价值观保持一致-环境中,代理通过自然语言感知并与世界互动。这种交互式代理通常通过强化学习进行训练,以优化任务性能,即使这种奖励可能导致违反社会规范的代理行为-对代理本身或环境中的其他实体造成伤害。社会价值对齐是指创造行为符合特定背景和人群预期道德和社会规范的代理人-在我们的情况下,它意味着代理人的行为方式对自己和他人的危害较小,更有益。我们建立在Jiminy Cricket基准(Hendrycks et al. 2021)的基础上,这是一组25个注释的交互式叙述,包含数千个道德上突出的场景,涵盖了从盗窃和身体伤害到利他主义的一切。我们引入GALAD(游戏-价值对齐通过行动蒸馏)代理,它使用专门训练的语言模型中存在的社会常识知识,根据上下文将其动作空间限制为仅与社会有益价值对齐的那些动作。一项实验研究表明,GALAD代理有效地做出决策,足以将最先进的任务性能提高4%,同时与强大的当代价值对齐方法相比,将社会有害行为的频率降低25%。
2022-05-05 cs.AI cs.CL
OOM-RL: Out-of-Money Reinforcement Learning Market-Driven Alignment for LLM-Based Multi-Agent Systems
本文提出OOM-RL方法,通过将智能体部署到金融市场中,利用资本耗尽作为不可篡改的负梯度,使多智能体系统从过度迎合的基线进化为稳健的流动性感知架构,最终实现稳定均衡。
2026-10-08 cs.AI cs.SE q-fin.TR
BioSecBench-Refusal: A paired metric for performance and alignment in agentic biosecurity risk assessment
American Wetware(美国湿科公司);LatchBio
研究针对人工智能用于生命科学工作流可能导致滥用的问题,提出BioSecBench-Refusal基准,将常规与红队任务配对,测试16种配置下模型拒绝率,发现多数配置对常规工作拒绝率高,有推理空间的模型能识别更多威胁,为开发者提供校准工具。
2026-07-22 cs.AI cs.CR
PADMÉ: Preference Alignment Data Synthesis for Meta-Evaluation of LM Agent Evaluators
Uniphore
PADMÉ提出一种仅用小型语言模型、无需人工参与的偏好对齐数据合成方法,用于生成智能体评估器的元评估数据,将人类判断一致性从73%提升至85%。
2026-09-30 cs.AI cs.CL
Emergent Cooperation under Uncertain Incentive Alignment
University of Groningen(格罗宁根大学);ILLC & IvI, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所及信息学研究所);Vrije Universiteit Brussels(布鲁塞尔自由大学);Utrecht University(乌得勒支大学)
本文研究稀疏交互与激励一致性不确定条件下强化学习智能体的合作涌现,发现声誉机制与内在奖励能显著改善合作及混合动机场景中的表现。
2024-01-23 cs.AI cs.GT cs.MA
Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails
Rutgers University(罗切斯特大学)
研究揭示了自我进化LLM代理在部署后因持续互动而偏离对齐约束的风险,通过自我利益探索和模仿策略扩散两种范式分析,发现对齐优势会迅速衰减,现有对齐方法难以有效防御。
2026-02-11 cs.AI cs.LG
ELIGN: Expectation Alignment as a Multi-Agent Intrinsic Reward
Stanford University(斯坦福大学);University of Washington(华盛顿大学)
现代多智能体强化学习框架依赖于集中式训练和奖励塑造来表现良好。然而,集中训练和密集奖励在现实世界中并不容易获得。当前的多智能体算法很难在分散训练或稀疏奖励的替代设置中学习。为了解决这些问题,我们提出了一个自我监督的内在奖励ELIGN-期望对齐-灵感来自自组织原则在动物学。类似于动物如何以分散的方式与附近的动物合作,接受期望对齐训练的智能体学习符合邻居期望的行为。这使得智能体能够在没有任何外部奖励或集中训练的情况下学习协作行为。我们证明了我们的方法在多智能体粒子和复杂的Google Research足球环境中的6个任务中的有效性,将ELIGN与稀疏和基于好奇心的内在奖励进行比较。当代理数量增加时,ELIGN在所有多代理任务中都能很好地扩展,除了代理具有不同功能的任务。我们表明,代理协调提高通过期望对齐,因为代理学会分工之间的任务,打破协调对称性,并混淆对手。这些结果确定的任务,期望对齐是一个更有用的策略比好奇心驱动的探索多代理协调,使代理做zero-shot协调。
2022-11-09 cs.AI cs.LG cs.MA
AI Safety Considerations for Agents With Limited Time to Act
The Alan Turing Institute(艾伦·图灵研究所)
本文讨论在部分可观测且行动时间有限的环境中,智能体无关的安全保证的理论界限,通过两个场景证明即使完美智能体也无法保证安全,强调环境与安全行动需与智能体共同考虑。
2026-10-08 cs.AI cs.LG
MemAdapter: Fast Alignment across Agent Memory Paradigms via Generative Subgraph Retrieval
The University of Manchester(曼彻斯特大学);Stanford University(斯坦福大学);Imperial College London(伦敦帝国理工学院);National Institute of Advanced Industrial Science(国家先进工业科学与技术研究院)
MemAdapter通过生成子图检索实现跨代理记忆范式的快速对齐,提升记忆检索灵活性并降低对齐成本,实验显示其性能优于现有系统。
2026-02-09 cs.AI cs.CL cs.LG
AI Alignment Dialogues: An Interactive Approach to AI Alignment in Support Agents
本文提出AI对齐对话的交互式对齐思路,概述其概念与结构,通过定性焦点小组研究构建用户影响模型并提出设计建议,为支持型智能体的AI对齐研究奠定基础。
2023-10-05 cs.AI cs.HC
Socially-Weighted Alignment: A Game-Theoretic Framework for Multi-Agent LLM Systems
本文提出社交加权对齐框架,通过引入社交权重解决多智能体LLM系统中的个体理性与集体稳定矛盾,通过理论分析和模拟验证了关键阈值的存在。
2026-02-16 cs.AI cs.GT cs.LG
Embedded Safety-Aligned Intelligence via Differentiable Internal Alignment Embeddings
Sardar Vallabhbhai National Institute of Technology (SVNIT)(萨达尔·瓦拉布尔·尼尔达理工学院)
本文提出嵌入式安全对齐智能框架,通过可微内部对齐嵌入实现多智能体强化学习中的安全对齐,探讨了反事实对齐惩罚、感知注意力等机制及理论性质。
2025-12-20 cs.AI cs.LG
Towards Controllable Agent in MOBA Games with Generative Modeling
AI Lab, Tencent(腾讯人工智能实验室)
我们提出了新的方法来开发动作可控代理,行为像一个人,并有能力与人类玩家在多人在线对战竞技场(MOBA)游戏。通过将控制问题建模为一个动作生成过程,我们设计了一个用于训练Agent的深层潜在对齐神经网络模型,以及相应的用于控制Agent动作的采样算法。特别是,我们提出了确定性和随机注意实现的核心潜在对齐模型。在《王者荣耀》游戏中的仿真和在线实验都证明了所提方法的有效性。
2021-12-15 cs.AI cs.LG
No More, No Less: Task Alignment in Terminal Agents
CISPA Helmholtz Center for Information Security(CISPA 涅槃中心信息安全研究所);ELLIS Institute Tübingen and MPI for Intelligent Systems(图宾根 ELLIS 研究所和智能系统 MPI);Tübingen AI Center(图宾根人工智能中心)
研究探讨终端代理在复杂任务中如何选择性使用环境指令,提出TAB基准测试揭示任务能力与对齐之间的差距,显示需平衡执行与忽略。
2026-05-12 cs.AI cs.CR cs.LG
Agent Alignment in Evolving Social Norms
Fudan University(复旦大学)
本文提出EvolutionaryAgent框架,将智能体对齐转化为适者生存原则下的进化与选择过程,使智能体在保持通用任务能力的同时逐步适应持续演化的社会规范。
2024-02-20 cs.AI cs.CL
From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents
National University of Singapore(新加坡国立大学);University of Toronto(多伦多大学);University of Minnesota Twin Cities(明尼苏达大学双城分校);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));University of Oxford(牛津大学)
该研究针对大语言模型智能体的个性化问题,构建了IBA-Bench基准,提出IBA-Agent框架,实验显示其可在九类场景中提升隐式行为对齐效果,但有效个性化仍是重大挑战。
2026-08-04 cs.AI
Personal Universes: A Solution to the Multi-Agent Value Alignment Problem
University of Louisville(路易斯维尔大学)
人工智能安全研究人员试图将高能力智能系统的价值观与人类的价值观相结合,他们面临着许多挑战,包括个人价值提取、多智能体价值合并以及最后的计算机编码。价值对齐的最新研究表明,在这一过程的每一个阶段都存在困难,但不相容偏好的合并是一个特别难以克服的挑战。在本文中,我们假设值提取问题将得到解决,并提出一种可能的方法来实现与每个用户的个人偏好最佳匹配的AI解决方案。最后,我们分析所提出的方法的优点和局限性。
2019-01-01 cs.AI
SkillConsist: Detecting Inconsistencies in Agent Skills via Bidirectional Graph Alignment
SkillConsist针对智能体技能不一致检测的挑战,通过双向图对齐等技术构建基准并取得优于基线的检测性能,提升了技能一致性检测效果。
2026-08-11 cs.AI cs.LG
SPEAR: Five Principles for Interactive Human-Agent Alignment
Columbia University(哥伦比亚大学)
本文提出将人机对齐视为交互设计问题,并引入SPEAR五原则:规范、过程、评估、适应与重新校准,以指导智能体在长期社会情境中的持续对齐。
2026-10-07 cs.AI cs.HC cs.MA