TMLR

A Close Look At World Model Recovery In Supervised Fine-Tuned LLM Planners

监督微调的大语言模型规划器中世界模型恢复的深入探究

Patrick Emami, Nan Qiang, Peter Graf

机构 * National Laboratory of the Rockies（落基山国家实验室） 纠错

AI总结 通过可解释性实验，研究监督微调如何影响大语言模型在经典规划任务中恢复世界模型的能力，发现微调使模型线性编码动作有效性和状态谓词，且更广泛的状态空间覆盖有助于更准确的世界模型恢复。

Comments 17 pages. Under review at TMLR

Inference-Time Scaling for Joint Audio-Video Generation

联合音视频生成的推理时缩放

Jaemin Jung, Kyeongha Rho, Inkyu Shin, Joon Son Chung

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； Luma AI 纠错

AI总结 针对联合音视频生成中多目标优化的挑战，提出多验证器框架与自适应奖励加权算法，在无需额外训练的情况下显著提升语义对齐、感知质量和音视频同步。

Comments Accepted by Transactions on Machine Learning Research (TMLR). Project page: https://jung-jaemin.github.io/ITS-AVGen-Proj/

Legal Alignment for Safe and Ethical AI

安全与伦理人工智能的法律对齐

Noam Kolt, Nicholas Caputo, Jack Boeglin, Cullen O'Keefe, Rishi Bommasani, Stephen Casper, Mariano-Florentino Cuéllar, Noah Feldman, Iason Gabriel, Gillian K. Hadfield, Lewis Hammond, Peter Henderson, Atoosa Kasirzadeh, Seth Lazar, Anka Reuel, Kevin L. Wei, Jonathan Zittrain

AI总结 本文通过调查法律对齐的新兴领域，提出三种核心研究路径（合规、解释方法、概念蓝图），以利用法律规则、原则和方法解决AI对齐问题，确保AI系统安全且合乎伦理地运行。

Comments Published in TMLR

ParaBlock: Communication-Computation Parallel Block Coordinate Federated Learning for Large Language Models

ParaBlock：面向大语言模型的通信-计算并行块坐标联邦学习

Yujia Wang, Yuanpu Cao, Jinghui Chen

机构 * College of Information Sciences and Technology（信息科学与技术学院） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

AI总结 提出ParaBlock方法，通过并行化通信与计算线程，在联邦学习大语言模型时提升通信效率，并理论证明其收敛率与标准方法相同，实验验证其性能与效率优势。

Comments Accepted by TMLR

Evaluating the Reversal Curse in Model Editing

评估模型编辑中的逆转诅咒

Hao-Xiang Xu, Jun-Yu Ma, Zhen-Hua Ling, Quan Liu, Cong Liu, Jia-Chen Gu

机构 * National Engineering Research Center of Speech and Language Information Processing（语音与语言信息处理国家级工程研究中心） ； University of Science and Technology of China（中国科学技术大学） ； iFLYTEK Research（iFLYTEK研究院） ； University of California, Los Angeles（美国加州大学洛杉矶分校） 纠错

AI总结 本文研究双向语言模型编辑，提出反向泛化指标并构建BAKE基准，发现多数编辑方法在反向评估中存在系统性缺陷，并分析逆转诅咒的成因及缓解策略。

Comments Accepted by TMLR

Weighted Risk Invariance: Domain Generalization under Invariant Feature Shift

加权风险不变性：不变特征偏移下的领域泛化

Gina Wong, Joshua Gleason, Rama Chellappa, Yoav Wald, Anqi Liu

机构 * Johns Hopkins University（约翰霍普金斯大学） ； University of Maryland, College Park（马里兰大学学院公园分校） ； New York University（纽约大学） ； Center for Data Science（数据科学中心） 纠错

AI总结 针对不变协变量偏移下现有不变学习方法性能不佳的问题，提出加权风险不变性（WRI）框架，通过环境间损失的不变性并加权训练样本，在理论上保证学习到不变模型，并在实验中优于先前方法。

Journal ref TMLR 2024