首页
首页
沸点
课程
直播
活动
竞赛
商城
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
罗西的思考
掘友等级
架构,设计 @ 公众号 : 罗西的思考
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
8
文章 8
沸点 0
赞
8
返回
|
搜索文章
最新
热门
新书出版:《分布式机器学习——系统、工程与实战》
经过一年多的努力,我的书 《分布式机器学习——系统、工程与实战》终于上架了,在这里打个广告,希望大家支持。
[源码解析] TensorFlow 分布式之 ClusterCoordinator
本文我们主要来看看ParameterServerStrategy如何分发计算,也就是ClusterCoordinator如何运作。这是TF分布式的最后一篇。
[源码解析] TensorFlow 分布式之 ParameterServerStrategy V2
对于 ParameterServerStrategy V2,本文主要看看如何使用,如何初始化。在下一篇之中会重点看看如何分发计算。
[源码解析] TensorFlow 分布式之 ParameterServerStrategy V1
本文我们看看 ParameterServerStrategy,就是第一版代码。研究这个是因为目前工业界还有很多公司在使用,而且其内部机制也比较清晰易懂,值得我们分析。
[源码解析] TensorFlow 分布式之 MirroredStrategy 分发计算
本文我们来看看 MirroredStrategy 如何运行。具体希望了解的是,MirroredStrategy 通过什么方式在远端设备节点上运行训练方法(如何分发计算)。
[源码解析] TensorFlow 分布式之 MirroredStrategy
MirroredStrategy 策略通常用于在一台机器上用多个GPU进行训练。其主要难点就是:如何更新 Mirrored 变量?如何分发计算?本文我们看看其总体思路和如何更新变量。
[源码解析] TensorFlow 之 分布式变量
在 TensorFlow 之中,分布式变量是在多个设备上创建的变量。Mirrored variable 和 SyncOnRead variable 是两个例子。本文就对分布式变量进行分析。
[源码解析] TensorFlow 分布式 DistributedStrategy 之基础篇
我们接下来介绍TensorFlow分布式Strategy的基础,本文会先看看Strategy的类体系和如何处理数据,下一篇看看如何处理变量。
[翻译] 使用 TensorFlow 进行分布式训练
本文以两篇官方文档为基础来学习TensorFlow如何进行分布式训练,借此进入Strategy世界。
[源码解析] TensorFlow 分布式环境(8) --- 通信机制
在 TF 分布式模式之中,Send/Recv 通过 RpcRemoteRendezvous 完成数据交换,所以我们本文来看看 TF 之中的数据交换机制 Rendezvous。
下一页
个人成就
优秀创作者
文章被点赞
493
文章被阅读
279,724
掘力值
9,800
关注了
13
关注者
288
收藏集
0
关注标签
0
加入于
2020-10-22