东南大学虞文武教授团队 | 面向约束优化的分布式算法：在节省存储资源的情况下实现线性收敛

研究团队

刘洪喆, 成明沁, 虞文武：东南大学

Wei Xing ZHENG：西悉尼大学

#约束优化

，#分布式算法，#线性收敛，#信息存储

引用本文： Liu H Z, Cheng M Q, Yu W W, et al. Distributed constrained optimization algorithm for achieving linear convergence with less information storage. Sci China Inf Sci, 2026, 69(6): 162206, https://doi.org/10.1007/s11432-025-4887-6

研究意义

随着智能交通、智能电网、分布式机器学习等复杂网络系统的快速发展，如何利用分散节点的局部信息实现全局协同优化可实现大规模网络优化问题的高效求解，因此成为了研究热点。经典分布式优化算法在实现线性收敛的过程中需存储迭代变量前一步的状态信息，给大规模网络的决策求解带来了巨大的存储压力。此外，现有的可节省存储资源及可实现线性收敛的分布式优化算法主要聚焦于求解无约束优化问题，尚难以求解约束优化问题。因此，研究如何在节省存储资源的情况下，设计可求解约束优化问题的分布式优化算法并完成线性收敛分析，不仅能够推动分布式优化相关理论的创新，还能应用于各类系统，在降低存储负担的同时提升系统各类性能，具有重要的理论和现实意义。

本文工作

面向带有全局闭凸集约束的优化问题，本文提出了一种基于隐式梯度跟踪（IGT）的分布式约束优化算法（DCOAIGT）。与传统显式梯度跟踪算法相比，DCOAIGT仅需要更新后决策变量的状态信息即可进行迭代，无需存储前一步迭代变量的信息，大幅减少了存储资源需求。此外，为了克服IGT框架与经典闭凸集约束处理方法-投影方法的兼容难题，本文引入了间接投影方法，成功实现了在IGT框架下对于闭凸集约束的有效处理。在标准假设条件下，本文严格证明了DCOAIGT的线性收敛性，并明确给出了可行步长区间。最后，针对逻辑回归问题的仿真研究进一步验证了所提出分布式方法的有效性。

本文的创新点如下：

(1) 提出基于间接投影机制的分布式优化算法，实现带闭凸集约束优化问题的线性求解。

(2) 建立严格收敛性分析框架，证明算法线性收敛性，并给出明确的步长选取范围。

(3) 减少对历史信息的存储需求，降低算法存储资源开销。

实验结果

本文在包含10个节点的分布式系统上，对带闭凸集约束的逻辑回归优化问题进行了仿真，验证了理论成果的有效性。

结果显示：在由10个节点组成的网络中，所有节点的状态变量均能够收敛到最优解，验证了算法的有效性。

本文进一步与现有的线性收敛分布式约束优化算法进行了仿真对比，并发现，本文提出的算法在理论分析可减少存储开销的情况下，具有与经典线性收敛分布式约束优化算法类似的收敛速度。此外，本文通过改进信息交互方式，有效消除了收敛过程中出现的振荡现象，进一步提升了算法的稳定性和收敛性能。