distributed_replicated将每个GPU上的训练参数的副本与参数服务器上的主副本一起放置。正向和反向计算可以立即开始,因为变量数据立即可用。
Docker堆栈和分布式应用程序包 | Docker stacks and distributed application bundles (Compose)
{distributed,Dist} 如果日志在当前节点上是本地的,则Dist具有该值local,否则将分发日志的所有节点作为列表返回。

扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059
粤公网安备44030502008569号
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号
