TensorFlow分布式环境源码解析到第8部分，有何疑问？
- 内容介绍
- 文章标签
- 相关推荐
本文共计10367个文字，预计阅读时间需要42分钟。
当计算图在设备间划分之后，跨设备的+PartitionGraph+间可能存在数据依赖关系，因为TF在这些图之间插入Send/Recv节点，这样便实现了数据交互。而在分布式模式中，Send/Recv节点通过进行传递。
当计算图在设备之间划分之后，跨设备的 PartitionGraph 之间可能存在着数据依赖关系，因此 TF 在它们之间插入 Send/Recv 节点，这样就完成数据交互。而在分布式模式之中，Send/Recv 通过 RpcRemoteRendezvous 完成数据交换，所以我们需要先看看 TF 之中的数据交换机制 Rendezvous。本文共计10367个文字，预计阅读时间需要42分钟。
当计算图在设备间划分之后，跨设备的+PartitionGraph+间可能存在数据依赖关系，因为TF在这些图之间插入Send/Recv节点，这样便实现了数据交互。而在分布式模式中，Send/Recv节点通过进行传递。
当计算图在设备之间划分之后，跨设备的 PartitionGraph 之间可能存在着数据依赖关系，因此 TF 在它们之间插入 Send/Recv 节点，这样就完成数据交互。而在分布式模式之中，Send/Recv 通过 RpcRemoteRendezvous 完成数据交换，所以我们需要先看看 TF 之中的数据交换机制 Rendezvous。