直播详情
讲师
Kubeflow 贡献者，FTLib 作者，热衷于 GPU、深度学习分布式训练和推理加速。目前负责腾讯云 TKE 在 AI 场景的研发和支持工作。
内容纲要
分享主题：
多种模式下的深度学习弹性训练
主题简介：
在深度学习的模型训练中，分布式训练作为应对海量数据和巨型模型的解决方案正在被越来越多的团队采用。随着分布式训练逐渐向 Kubernetes 集群迁移，无论是模型并行亦或数据并行模式都对容错、可热迁移、弹性伸缩提出了新的需求，希望以此来协助解决集群遇到的资源利用率提升问题。
本次直播会与听众分享两种分布式训练实现容错和弹性训练的意义、遇到的来自训练框架、Operator 和算法上的困难。针对采用 AllReduce 的数据并行分布式训练，我们将介绍elastic horovod、腾讯云 TKE 团队对mpi-operator 的修改·。同时，我们也会探讨基于 TensorFlow ParameterServerStrategyV2 面向 PS-Worker 模式的弹性训练。
听众收益：
· 了解 TensorFlow、PyTorch 以及基于 Horovod 的分布式训练上云时，Kubeflow 中的各种 Operator 的工作原理；
· 了解在支持 AllReduce 和 PS-Worker 两种模式的弹性训练过程中，分布式训练框架和 Operator 分别做了哪些功能增强；
· 弹性训练能够带来的一系列收益与仍需解决的问题，如数据集再切分、收敛保障、优化的任务调度策略
直播流程
19:30-20:15讲师分享
20:15-20:30 互动问答
关注【腾讯云原生】公众号，回复“直播”二字获取讲师PPT及交流群码。
活动方
主办方
腾讯云原生
汇聚云原生领域前沿趋势、技术干货、最佳实践和案例分享。
相关活动
【云原生正发声】第32期——服务网格在腾讯 IT 的落地实践
【云原生正发声】第31讲——云原生在高并发游戏推荐系统中的实践
《原动力 x 云原生正发声 降本增效大讲堂》第十讲 Eunomia 云原生资源编排优化
《原动力 x 云原生正发声 降本增效大讲堂》第九讲——京东 云原生大规模实践之路
《原动力 x 云原生正发声 降本增效大讲堂》第八讲——游戏平台上云是花钱还是省钱
《原动力 x 云原生正发声 降本增效大讲堂》第七讲——作业帮云原生降本增效实践之路
《原动力 x 云原生正发声 降本增效大讲堂》第六讲——Kubernetes资源拓扑感知调度
《原动力 x 云原生正发声 降本增效大讲堂》第五讲——通过云原生管理KubernetesGPU资源
互动评论
腾讯云开发者
我来说两句