Differentiable Scaffolding Tree for Molecular Optimization
Amplitude（Amplitude公司）；Massachusetts Institute of Technology（麻省理工学院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Georgia Institute of Technology（佐治亚理工学院）
Tianfan Fu, Wenhao Gao, Cao Xiao, Jacob Yasonik, Connor W. Coley, Jimeng Sun
The structural design of functional molecules, also called molecular optimization, is an essential chemical science and engineering task with important applications, such as drug discovery. Deep generative models and combinatorial optimization methods achieve initial success but still struggle with directly modeling discrete chemical structures and often heavily rely on brute-force enumeration. The challenge comes from the discrete and non-differentiable nature of molecule structures. To address this, we propose differentiable scaffolding tree (DST) that utilizes a learned knowledge network to convert discrete chemical structures to locally differentiable ones. DST enables a gradient-based optimization on a chemical graph structure by back-propagating the derivatives from the target properties through a graph neural network (GNN). Our empirical studies show the gradient-based molecular optimizations are both effective and sample efficient. Furthermore, the learned graph parameters can also provide an explanation that helps domain experts understand the model output.
TreeQN and ATreeC: Differentiable Tree-Structured Models for Deep Reinforcement Learning
University of Oxford（牛津大学）
将深度无模型强化学习无模型强化学习与在线规划相结合是建立在深度强化学习成功基础上的一种有前途的方法。事实证明，在先验已知过渡模型的环境中，使用前瞻树的在线规划是成功的。然而，在需要从数据中学习过渡模型的复杂环境中，学习模型的缺陷限制了它们在规划中的实用性。为了解决这些挑战，我们提出了TreeQN，这是一种可微分的递归树结构模型，可以作为深度RL中任何具有离散动作的价值函数网络的替代品。TreeQN通过在学习的抽象状态空间中递归地应用转换模型来动态地构建树，然后使用树备份来聚合预测的奖励和状态值以估计Q值。我们还提出了ATreeC，这是一个演员-评论家变体，它用softmax层增强了TreeQN，形成了一个随机策略网络。这两种方法都是端到端训练的，因此学习的模型在树中的实际使用中得到了优化。我们发现，TreeQN和ATreeC在推箱子任务上的表现优于n步DQN和A2 C，以及在多个Atari游戏上的n步DQN和价值预测网络（Oh et al. 2017）。此外，我们提出了消融研究，证明了不同的辅助损失对学习过渡模型的影响。
Bridging Arbitrary and Tree Metrics via Differentiable Gromov Hyperbolicity
Université Bretagne Sud IRISA, UMR 6074, CNRS（勃艮第大学 IRISA 实验室，UMR 6074，CNRS）；Université de Rennes IRMAR, UMR 6625, CNRS（雷恩大学 IRMAR 实验室，UMR 6625，CNRS）；L’Institut Agro Rennes-Angers IRISA, UMR 6074, CNRS（农业研究所雷恩-昂热 IRISA 实验室，UMR 6074，CNRS）；INRIA, ENS de Lyon, CNRS, Université Claude Bernard Lyon 1 LIP, UMR 5668（INRIA，里昂大学，CNRS，里昂第一大学 LIP 实验室，UMR 5668）
TorchOpt: An Efficient Library for Differentiable Optimization
University of Edinburgh（爱丁堡大学）；University College London（伦敦大学学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Institute for AI, Peking University（北京大学人工智能研究院）
DOMAC: Differentiable Optimization for High-Speed Multipliers and Multiply-Accumulators
School of Software and Microelectronics, Peking University（北京大学软件与微电子学院）；School of Integrated Circuits, Anhui Polytechnic University（安徽工程大学集成电路学院）；The Chinese University of Hong Kong（香港中文大学）；Shanghai Jiao Tong University（上海交通大学）；Institute of Electronic Design Automation, Peking University（北京大学电子设计自动化研究所）；Beijing Advanced Innovation Center for Integrated Circuits（北京集成电路高精尖创新中心）；School of Electronic and Computer Engineering, Peking University（北京大学电子与计算机工程学院）；National Center of Technology Innovation for EDA（国家电子设计自动化技术创新中心）
Finding Syntactic Representations in Neural Stacks
Yale University（耶鲁大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
神经网络体系结构已经用可微堆栈进行了扩充，以便引入对学习层次敏感的神经网络的偏好。然而，事实证明，很难评估这种偏差的有效程度，因为可微堆栈的操作并不总是可解释的。在本文中，我们试图通过对选区结构的无监督学习的探索来检测分层结构的潜在表征的存在。使用Shen et al.（2018a，b）的技术，我们从基于语言建模和分类目标训练的堆栈RNN的推送行为中提取语法树。我们发现，我们的模型产生的解析，反映了自然语言句法选区，证明堆栈RNN确实推断语言相关的层次结构。
Differentiable Quadratic Optimization For The Maximum Independent Set Problem
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；Michigan State University（密歇根州立大学）；Ohio State University（俄亥俄州立大学）；University of Maryland, College Park（马里兰大学学院市分校）；University of Colorado, Boulder（科罗拉多大学博尔德分校）
本文提出 pCQO-MIS，通过融合最大团项的可微二次优化、并行动量梯度下降及理论驱动的 MIS 检查来求解最大独立集，在规模、运行时间和数据依赖方面优于多类方法。
