An Examination on the Effectiveness of Divide-and-Conquer Prompting in Large Language Models
University of Southern California（南加州大学）；Coupang, Inc（Coupang公司）；Microsoft Research, Asia（微软亚洲研究院）
本文通过理论分析考察大语言模型中分而治之提示策略的适用任务类型，并以大整数算术和事实验证两个案例验证了该策略在特定任务上的性能提升。
2024-07-02 cs.AI cs.CL cs.LG
Deep Hierarchical Machine: a Flexible Divide-and-Conquer Architecture
Hong Kong University of Science and Technology（香港科技大学）；Huazhong University of Science and Technology（华中科技大学）
我们提出了深度层次机器（DHM），这是一种受到分治策略启发的模型，同时强调表示学习能力和灵活性。最近的深度神经决策/回归森林所使用的随机路由框架被纳入，但我们通过利用不同的拓扑结构并引入概率修剪技术来消除评估不必要的计算路径的需要。我们还展示了一个指定版本的DHM（DSHM）的效率，它继承了稀疏的特征提取过程中，在传统的决策树与像素差异功能。为了实现稀疏特征提取，我们提出了利用稀疏卷积操作在DSHM和显示一种可能性，通过使用本地二进制卷积层引入稀疏卷积核。DHM可以应用于分类和回归问题，我们验证了它的标准图像分类和人脸对齐任务，以显示其优势，比过去的架构。
2018-12-03 cs.AI cs.CV cs.LG
Divide and Conquer Local Average Regression
Wenzhou University（温州大学）
分而治之的策略，它打破了一个巨大的数据集成一系列的可管理的数据块，然后结合数据块的独立结果，以获得最终的决定，已被公认为一个国家的最先进的方法，以克服大规模数据分析的挑战。本文将分治策略与局部平均回归方法相结合，从海量数据中推断出输入输出对之间的回归关系。在理论上分析了其优缺点后，我们发现分治局部平均回归虽然可以达到最优的学习率，但对数据块数目的限制有点强，这使得它只适用于少量的数据块。然后，我们提出了两个变体来减少（或删除）这个限制。我们的结果表明，这些变体可以实现最佳的学习率与更温和的限制（或没有这样的限制）。进行了大量的实验研究，以验证我们的理论断言。
2016-03-13 cs.LG math.ST stat.TH
Oversampling Divide-and-conquer for Response-skewed Kernel Ridge Regression
Tsinghua University（清华大学）；The University of Arizona（亚利桑那大学）
分而治之的方法已被广泛用于估计大规模核岭回归估计。不幸的是，当响应变量高度倾斜时，分而治之核岭回归（dacKRR）可能会忽略代表性不足的区域，并导致不可接受的结果。我们结合了一种新的响应自适应分区策略与过采样技术协同克服的限制。通过所提出的新算法，我们分配一些仔细识别的信息观测到多个节点（本地处理器）。虽然过采样技术已被广泛用于解决离散标签偏度，但将其扩展到dacKRR设置并非易事。我们就如何在dacKRR设置下有效地对观测值进行过采样提供了理论和实践指导。此外，我们还证明了在较弱的条件下，该估计比经典的dacKRR估计具有更小的风险。我们的理论研究结果支持模拟和真实数据分析。
2021-11-10 cs.LG stat.ML
Divide-and-conquer based Large-Scale Spectral Clustering
University of Tsukuba（筑波大学）
谱聚类是最常用的聚类方法之一。然而，如何在有限的计算资源下平衡大规模谱聚类的效率和效果，一直以来都没有得到很好的解决。在本文中，我们提出了一个分而治之的大规模谱聚类方法，取得了很好的平衡之间的效率和效果。在该方法中，基于分治的地标选择算法和一种新的近似相似性矩阵的方法被设计来构造一个稀疏的相似性矩阵在低的计算复杂性。然后通过二分图划分过程快速计算聚类结果。该方法实现了较低的计算复杂性比大多数现有的大规模谱聚类方法。在10个大规模数据集上的实验结果证明了该方法的有效性。所提出的方法和实验数据集的MATLAB代码可在https://github.com/Li-Hongmin/MyPaperWithCode上获得。
2022-04-22 cs.LG
Diffusion Generative Modelling for Divide-and-Conquer MCMC
Lancaster University（兰卡斯特大学）
针对分治MCMC中子后验合并难以避免分布假设的问题，本文提出用扩散生成建模拟合子后验密度近似，在挑战性合并任务上优于现有方法，并更适用于高维场景。
2024-06-17 cs.LG stat.CO stat.ML
FPGA Divide-and-Conquer Placement using Deep Reinforcement Learning
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所（Amii））
本文研究 FPGA 逻辑块布局问题，提出一种基于深度强化学习以最小化线长的方法，并引入新颖的分解策略应对大搜索空间，实验验证了其有效性。
2024-04-11 cs.AI cs.AR cs.LG
Theoretical Analysis of Divide-and-Conquer ERM: Beyond Square Loss and RKHS
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Inception Institute of Artificial Intelligence（起源人工智能研究院）
在学习理论的框架下，对再生核希尔伯特空间（RKHS）中基于分治的最小平方损失分布式学习算法进行了理论分析.然而，对于一般损失函数和假设空间的学习理论研究仍然有限。为了填补这一空白，我们研究了一般损失函数和假设空间下分布式经验风险最小化（ERM）的风险性能。主要贡献有两方面。首先，在一定的基本假设下，在假设空间上得到了两个紧风险界，以及损失函数的光滑性、Lipschitz连续性、强凸性。其次，我们进一步发展了一个更一般的风险界的分布式ERM没有强凸性的限制。
2020-04-21 cs.LG stat.ML
A Short Note on Batch-efficient Divide-and-Conquer Algorithm for EigenDecomposition
College of AI, Tsinghua University, China（人工智能学院，清华大学，中国）
本文提出一种适用于大矩阵的批高效分治特征分解算法，针对深度神经网络中矩阵批次计算成本高的问题，通过数值测试展示其在小尺寸矩阵批次中优于Pytorch SVD性能。
2026-04-30 cs.LG cs.NA math.NA
Simplifying Reward Design through Divide-and-Conquer
设计一个好的奖励函数对于机器人规划和强化学习至关重要，但它也可能具有挑战性和令人沮丧。奖励需要在多个不同的环境中工作，这通常需要多次迭代调优。我们引入了一种新颖的分治方法，使设计师能够为每个环境单独指定奖励。通过将这些单独的奖励函数视为对潜在真实奖励的观察，我们推导出一种在所有环境中推断共同奖励的方法。我们进行用户研究，在一个抽象的网格世界域和运动规划域的7自由度机械手，衡量用户的努力和解决方案的质量。我们表明，我们的方法更快，更容易使用，并产生更高质量的解决方案比典型的方法设计一个奖励联合在所有环境中。我们还进行了一系列实验，测量这些结果对奖励设计任务的不同属性的敏感性，例如环境的数量，每个环境的可行解决方案的数量，以及每个环境中变化的总特征的比例。我们发现，独立的奖励设计优于标准的，联合的，奖励设计过程中，但最好的工作时，设计问题可以分为更简单的子问题。
2018-06-07 cs.AI cs.LG cs.RO
Efficient Divide-And-Conquer Classification Based on Feature-Space Decomposition
Tsinghua University（清华大学）；Princeton University（普林斯顿大学）；Harbin Institute of Technology（哈尔滨工业大学）
提出了一种基于特征空间分解的分治分类方法。当存在大规模数据集时，典型的方法通常采用特征空间上的截断核方法或样本空间上的DC方法。然而，由于过度拟合，这并不能保证类之间的可分性。为了克服这些问题，这项工作提出了一种新的DC方法的特征空间，包括三个步骤。首先，我们使用本文提出的分解方法将特征空间划分为若干个子空间。随后，这些特征子空间被发送到各个局部分类器进行训练。最后，将局部分类器的结果融合在一起以生成最终的分类结果。在大规模数据集上进行了性能评估实验。结果表明，与最先进的快速SVM求解器相比，所提出的DC方法的出错率降低，例如，在RCV 1和covtype数据集上分别降低了10.53%和7.53%的出错率。
2015-01-29 cs.LG
A Divide-and-Conquer Solver for Kernel Support Vector Machines
University of Texas, Austin（德克萨斯大学奥斯汀分校）
核支持向量机（SVM）是应用最广泛的分类方法之一，但当面对数百万样本时，所需的计算量成为瓶颈。在本文中，我们提出并分析了一种新的分治求解核支持向量机（DC-SVM）。在划分步骤中，我们通过对数据进行聚类，将核支持向量机问题划分为更小的子问题，使得每个子问题都可以独立有效地求解。我们从理论上表明，子问题的解决方案所确定的支持向量很可能是整个核SVM问题的支持向量，只要该问题是适当划分的核聚类。在征服步骤中，从子问题的局部解决方案被用来初始化一个全球坐标下降求解器，收敛速度很快，我们的分析建议。通过扩展这一思想，我们开发了一种具有自适应聚类和早期预测策略的多级Divide-and-Conquer SVM算法，该算法在训练速度，测试精度和内存使用方面优于最先进的方法。例如，在具有50万个样本的covtype数据集上，DC-SVM在获得精确的SVM解（在$10^{-6}$相对误差内）方面比LIBSVM快7倍，其实现了96.15%的预测准确度。此外，使用我们提出的早期预测策略，DC-SVM在12分钟内实现了约96%的准确率，比LIBSVM快100倍以上。
2013-11-04 cs.LG
Divide-and-Conquer Reinforcement Learning
University of California Berkeley（加州大学伯克利分校）；University of Washington Seattle（华盛顿大学西雅图分校）
标准的无模型深度强化学习（RL）算法为每次试验采样一个新的初始状态，使它们能够优化即使在高度随机的环境中也能表现良好的策略。然而，表现出相当大的初始状态变化的问题通常会产生高方差梯度估计的无模型RL，使直接的政策或价值函数优化的挑战。在本文中，我们开发了一种新的算法，而不是分区的初始状态空间成“片”，并优化了合奏的政策，每个不同的切片。该集合逐渐统一为可以在整个状态空间上成功的单个策略。这种方法，我们称之为分治RL，能够解决传统深度RL方法无效的复杂任务。我们的研究结果表明，分治RL大大优于传统的策略梯度方法具有挑战性的抓取，操作和运动任务，并超过了各种先前的方法的性能。通过我们的算法学习的策略的视频可以在http://bit.ly/dnc-rl上查看
2018-04-27 cs.LG cs.RO
Causal Discovery for Cross-Sectional Data Based on Super-Structure and Divide-and-Conquer
School of Computer Science University of South China（计算机科学学院 南方大学）
本文提出一种轻量框架，通过整合弱约束超结构与高效图划分策略，降低CI测试开销，提升大规模因果发现效率。
2026-02-03 cs.LG stat.ME
GTRL: Grounding Divide-and-Conquer Value Learning with Temporal Differences
GTRL通过将一步TD目标融入分治更新，解决了离线GCRL中随机动态下的估值偏差和状态-目标对无更新问题，在OGBench任务上取得最高平均成功率。
2026-09-30 cs.LG
PairRank: Online Pairwise Learning to Rank by Divide-and-Conquer
University of Virginia（弗吉尼亚大学）；Walmart Labs（沃尔玛实验室）
在线学习排序（OL2R）通过直接优化排名器与用户的交互，消除了显式相关性注释的需要。然而，所需的探索驱使它远离离线学习排序的成功实践，这限制了OL2R的经验性能和实际适用性。在这项工作中，我们提出了估计成对学习排序模型在线。在每一轮中，根据模型对估计的成对排序顺序的置信度对候选文档进行划分和排序，并且仅对不确定的文档对执行探索，即，\emph{divide-and-conquer}。证明了直接定义在错序对数量上的后悔，它将在线解的理论收敛性与其预期的排序性能联系起来。在两个公共学习排序基准数据集上对大量OL2R基线进行比较，证明了所提出的解决方案的有效性。
2021-06-01 cs.IR cs.LG
$DC^2$: A Divide-and-conquer Algorithm for Large-scale Kernel Learning with Application to Clustering
Shanghai Jiao Tong University（上海交通大学）；Zhejiang University（浙江大学）；University of Massachusetts Dartmouth（马萨诸塞大学达特茅斯分校）；Cornell University（康奈尔大学）
分而治之是处理大规模问题的一般策略。它通常用于生成集成实例，这可能会限制它可以处理的问题大小。此外，数据通常被随机抽样划分，这可能是次优的。为了解决这些问题，我们提出了$DC^2$算法。而不是合奏的情况下，我们产生的结构保持签名件组装和征服。$DC^2$实现了基于采样的大规模内核方法的效率，同时支持并行多核或集群计算。通过递归随机投影将数据划分和后续压缩统一起来。经验划分的数据随机投影诱导较小的均方近似误差比传统的随机抽样。我们的聚类算法$rpfCluster^+$证明了$DC^2$的强大功能，该算法与一些最快的近似谱聚类算法一样准确，同时保持接近K均值聚类的运行时间。对$DC^2$应用于谱聚类的分析表明，由于数据分割和约简而导致的聚类精度损失的上界为数据逼近误差，而数据逼近误差在递归随机投影下将消失.由于其易于实现和灵活性，我们希望$DC^2$适用于一般的大规模学习问题。
2019-11-16 cs.DC cs.LG stat.CO
Divide and Conquer Networks
Courant Institute of Mathematical Sciences（库朗数学科学研究所）；Center for Data Science（数据科学中心）；New York University（纽约大学）
我们认为学习的算法任务仅仅是通过观察输入输出对。而不是研究这个黑箱离散回归问题，没有任何假设的输入输出映射，我们专注于任务，服从分而治之的原则，并研究它的含义在学习方面。这一原则创造了一个强大的归纳偏差，我们通过学习两个尺度不变的原子操作，利用递归和动态定义的神经架构：如何将给定的输入拆分为较小的集合，以及如何将两个部分解决的任务合并为更大的部分解决方案。我们的模型可以在弱监督环境中训练，即只观察输入输出对，甚至在更弱的环境中，使用不可微的奖励信号。此外，由于我们的架构的动态方面，我们可以将计算复杂性作为正则化项，可以通过反向传播进行优化。我们展示了灵活性和效率的分治网络上的几个组合和几何任务：凸包，聚类，背包和欧几里德TSP。由于我们的模型的动态规划的性质，我们表现出显着的改善，在泛化误差和计算复杂性。
2018-10-14 cs.LG stat.ML
A Divide-and-Conquer Approach to Geometric Sampling for Active Learning
主动学习（AL）利用最小标记预算重复训练分类器以改进当前分类模型。训练过程通常由不确定性评估策略监督。然而，不确定性评估总是遭受性能退化时，初始标签集有不足的标签。为了完全消除AL中对不确定性评估抽样的依赖，本文提出了一种分治的思想，直接将AL抽样转换为聚类上的几何抽样。通过将聚类中的点划分为聚类边界点和聚类核心点，从理论上讨论了它们之间的边缘距离和假设关系。利用聚类边界点在上述两个性质上的优势，提出了一种基于骑士巡游的几何主动学习算法。实验研究的两个实验任务，包括聚类边界检测和AL分类表明，建议GAL方法显着优于国家的最先进的基线。
2020-09-25 cs.LG stat.ML
Divide, Conquer, and Combine: a New Inference Strategy for Probabilistic Programs with Stochastic Support
University of Oxford（牛津大学）；KAIST（韩国科学技术院）
通用概率编程系统（PPS）提供了一个强大的框架，指定丰富的概率模型。他们进一步尝试自动化从这些模型中得出推论的过程，但成功地做到这一点受到他们可以表达的广泛的非标准模型的严重阻碍。因此，尽管可以在通用PPS中指定复杂的模型，但所提供的推理引擎通常远远达不到所需的程度。特别是，我们表明，他们产生令人惊讶的不满意的性能模型的支持不同的执行，往往没有比重要性抽样从以前更好。为了解决这个问题，我们引入了一个新的推理框架：划分，征服和合并，这仍然是有效的，这样的模型，并显示它如何可以实现为一个自动化和通用的PPS推理引擎。我们经验证明，现有的方法在三个例子的性能大幅改善。
2020-07-16 cs.LG cs.PL stat.ML
Divide-and-Conquer Adversarial Learning for High-Resolution Image and Video Enhancement
ETH Zurich（苏黎世联邦理工学院）；KU Leuven（鲁汶大学）
本文介绍了一种用于照片增强的分治启发对抗学习（DACAL）方法。其核心思想是将照片增强过程分解为层次化的多个子问题，自下而上可以更好地解决。在顶层，我们提出了一个基于感知的划分来学习加法和乘法分量，这是将低质量图像或视频转换为高质量图像或视频所需的。在中间层面，我们使用基于频率的划分与生成对抗网络（GAN）来弱监督照片增强过程。在底层，我们设计了一种基于维度的划分，使GAN模型能够更好地近似多个独立一维数据上的分布距离，以训练GAN模型。在考虑所有三个层次的同时，我们开发了多尺度和循环训练方法，以弱监督的方式优化图像和视频增强过程。定量和定性的结果都清楚地表明，所提出的DACAL实现了高分辨率图像和视频增强的最先进的性能。
2019-10-23 cs.CV cs.LG eess.IV
A recursive divide-and-conquer approach for sparse principal component analysis
Xi'an Jiaotong University（西安交通大学）
本文提出了一种基于递归分治法的稀疏主成分分析新方法。其主要思想是将原始稀疏PCA问题分离成一系列更简单的子问题，每个子问题都有一个封闭形式的解决方案。通过递归求解这些子问题的解析方法，构造了求解稀疏PCA问题的有效算法。该算法只涉及简单的计算，因此易于实现。所提出的方法也可以很容易地扩展到其他稀疏PCA的问题，如非负稀疏PCA的问题有一定的约束。此外，我们已经表明，该算法收敛到问题的一个稳定点，其计算复杂性是近似线性的数据大小和维数。通过对一系列合成数据和真实数据的大量实验，从重建误差最小化和数据方差最大化的角度验证了该方法的有效性。
2012-11-30 cs.CV cs.LG stat.ML
Divide-Fuse-Conquer: Eliciting "Aha Moments" in Multi-Scenario Games
Renmin University of China（中国人民大学）；Moonshot AI（月之暗面）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对大语言模型在多场景游戏强化学习中泛化性差、多场景混合训练不稳定的问题，提出Divide-Fuse-Conquer框架，通过分组训练、参数融合再训练的方式提升泛化能力，在18款TextArena游戏中达到与Claude3.5相当的性能。
2025-06-12 cs.LG
A divide-and-conquer algorithm for quantum state preparation
Centro de Informática, Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）；Sungkyunkwan University Advanced Institute of Nanotechnology（成均馆大学纳米技术高级研究所）；Quantum Research Group, School of Chemistry and Physics, University of KwaZulu-Natal（夸祖鲁-纳塔尔大学化学与物理学院量子研究组）；National Institute for Theoretical Physics (NITheP)（国家理论物理研究所）
随着量子计算机的兴起，预计将在几个研究和工业领域取得优势。然而，在量子计算机中加载经典数据的计算成本可能会对可能的量子加速造成限制。创建任意量子态的已知算法需要深度为O（N）的量子线路来加载N维向量。在这里，我们表明，它是可能的加载一个N维矢量与量子线路与多对数深度和纠缠信息的辅助量子比特。结果表明，我们可以有效地加载数据的量子设备使用分而治之的策略，以交换计算时间的空间。我们在一个真实的量子设备上演示了概念证明，并提出了量子机器学习的两个应用。我们预计，这种新的加载策略可以实现需要将大量信息加载到量子设备的任务的量子加速。
2021-09-09 cs.LG quant-ph
Divide-and-Conquer Learning by Anchoring a Conical Hull
University of Washington, Seattle（华盛顿大学（西雅图））
我们减少了广泛的一类机器学习问题，通常由EM或采样，找到的问题的$k$极值射线跨越圆锥壳的数据点集。这些$k$“锚点”导致全局解决方案和更可解释的模型，甚至可以在泛化误差上优于EM和采样。为了找到$k$锚点，我们提出了一种新的分治学习方案“DCA”，该方案将问题分配到不同低维随机超平面上的$\mathcal O(k\log k)$相同类型的子问题，每个子问题都可以由任何求解器求解。对于2D子问题，我们提出了一个非迭代求解器，只需要计算一个数组的余弦值和它的最大/最小条目。DCA还为其他方法提供了一个更快的子程序来检查一个点是否被圆锥壳覆盖，这在多个维度上改进了算法设计，并为学习带来了显着的加速。我们将该方法应用于GMM、HMM、LDA、NMF和子空间聚类，并在丰富的数据集上展示了其与其他方法相比的竞争性能和可扩展性。
2014-06-22 cs.LG stat.ML
Divide-and-Conquer for Enhancing Unlabeled Learning, Stability, and Plasticity in Semi-supervised Continual Learning
Nanjing University（南京大学）；Southeast University（东南大学）
提出USP分而治之框架，通过特征空间预留、分而治之伪标签和类均值锚定蒸馏，协同增强半监督持续学习中的可塑性、无标签学习和稳定性，最后准确率提升达5.94%。
2025-08-07 cs.CV cs.LG
Divide-and-Conquer: Towards Generalizable Amortized Bayesian Inference for the Drift Diffusion Model
KU Leuven（鲁汶大学）；Heidelberg University（海德堡大学）
本文针对摊销贝叶斯推断无法推广至不同研究设计的局限，提出分而治之框架，将DDM数据集分解为成对数据片后单独推断再用共识MCMC结合，在保持与MCMC相当性能的同时大幅降低计算成本，为ABI方法提供通用优化策略。
2026-08-05 cs.LG stat.AP stat.ME
Divide and Conquer: Leveraging Intermediate Feature Representations for Quantized Training of Neural Networks
University of California San Diego（加利福尼亚大学圣地亚哥分校）
现代神经网络的深层在输入通过网络传播时提取相当丰富的特征集。本文旨在以最小的精度损失收获这些丰富的中间表示进行量化，同时显着降低DNN的内存占用和计算强度。本文通过师生范式利用知识蒸馏（Hinton等人，2015）在一种新颖的设置中，该设置利用DNN的特征提取能力进行更高精度的量化。因此，我们的算法在逻辑上将预训练的全精度DNN划分为多个部分，每个部分都暴露了中间特征，以便在量化域中独立地训练一组学生。事实上，这种分而治之的策略使得每个学生部分的训练可以孤立进行，而所有这些独立训练的部分随后被缝合在一起以形成等效的完全量化的网络。我们的算法是一种面向知识蒸馏的分段方法，并且在整个网络上进行一次知识蒸馏之前，不将中间表示视为预训练的提示（Romero等人，2015年）。在各种DNN（AlexNet、LeNet、MobileNet、ResNet-18、ResNet-20、SVHN和VGG-11）上的实验表明，这种称为DCQ（Divide and Conquer Quantization）的方法平均而言提高了最先进的量化训练技术DoReFa-Net（Zhou et al.，2016年），分别为21.6%和9.3%的二进制和三进制量化。此外，我们表明，将DCQ纳入现有的量化训练方法，导致提高精度相比，以前报道的多个国家的最先进的量化训练方法。
2020-03-02 cs.LG stat.ML
Divide and Conquer: A Deep CASA Approach to Talker-independent Monaural Speaker Separation
The Ohio State University（俄亥俄州立大学）
我们从深度学习和计算听觉景物分析（CASA）的角度解决与说话者无关的单耳说话者分离。具体来说，我们将多说话人分离任务分解为同时分组和顺序分组两个阶段。同时分组首先在每个时间帧中进行分离的频谱不同的发言人与排列不变的训练神经网络。在第二阶段中，帧级分离的频谱通过聚类网络顺序地分组到不同的扬声器。所提出的深度CASA方法依次优化了帧级分离和说话人跟踪，并为这两个目标产生了良好的效果。在WSJ 0 - 2 mix基准数据库上的实验结果表明，该方法在模型规模较小的情况下取得了较好的效果.
2019-04-25 cs.LG cs.SD eess.AS
Divide-and-Conquer Posterior Sampling for Denoising Diffusion Priors
Ecole polytechnique（巴黎综合理工学院）；KTH Royal Institute of Technology（皇家理工学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
针对去噪扩散模型先验下后验分布难以采样的问题，提出分治后验采样框架，利用模型内在结构构建中间后验序列引导采样，在无需重训练的情况下显著降低近似误差并提升准确性。
2024-11-11 cs.LG stat.ML
DC-NAS: Divide-and-Conquer Neural Architecture Search
The University of Sydney（悉尼大学）
大多数应用需要高性能的深度神经架构，而这些架构的资源有限。神经结构搜索是一种在给定的巨大搜索空间中自动探索最优深度神经网络的方法。然而，所有子网络通常使用相同的标准进行评估;也就是说，在一小部分训练数据集上提前停止，这是一种不准确且高度复杂的方法。与传统方法相比，我们在这里提出了一种分而治之（DC）方法来有效地搜索深度神经架构。在给定任意搜索空间的情况下，首先根据各层参数或输出特征的变化提取所有子网络的特征表示，然后根据这些表示计算两个不同采样网络之间的相似度。然后，进行k-means聚类，将相似的架构聚合到同一个簇中，在每个簇中单独执行子网络评估。每个集群中的最佳架构稍后被合并以获得最佳神经架构。在几个基准测试上进行的实验结果表明，DC-NAS可以克服不准确的评估问题，在ImageNet数据集上实现$75.1\%$ top-1准确度，这高于使用相同搜索空间的最先进方法。
2020-05-29 cs.LG stat.ML
Analyzing an Imitation Learning Network for Fundus Image Registration Using a Divide-and-Conquer Approach
FAU Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）；University of Leeds（利兹大学）
眼底镜图像上微血管循环的比较是用于诊断和监测疾病（例如糖尿病和高血压）的非侵入性临床指征。患者内图像之间的差异可以通过配准连续采集来定量评估。由于图像的可变性（即对比度、亮度）和视网膜的解剖学变化，眼底图像的配准仍然是一项具有挑战性的任务。最近，已经提出了几种深度学习方法来以端到端的方式配准眼底图像，取得了显着的效果。然而，结果很难解释和分析。在这项工作中，我们提出了一个模仿学习框架，用于注册的二维彩色眼底图像的疾病监测，图像拼接和超分辨率等广泛的应用。我们遵循分而治之的方法来提高所提出的网络的可解释性，并分析了输入图像和超参数对配准结果的影响。结果表明，该配准网络将初始目标配准误差降低到95%.
2019-12-19 cs.CV cs.LG eess.IV
