FleetX
ps_doc

分布式训练概述

  • 整体介绍与内容概览

如何设计分布式训练的搭建方案

  • 1. 公有云配置
  • 2. K8S部署
  • 3. 安装Paddle与FleetX

前置基础配置

  • 1. 优化算法

配置分布式训练

  • Collective训练
  • ParameterServer训练

高阶内容

  • 1. 大规模蒸馏
  • 2. 自监督训练
  • 3. 弹性训练
  • 4. FleetX扩展工具包

分布式训练FAQ

  • 1. 用户FAQ
FleetX
  • »
  • 欢迎来到飞桨分布式技术文档主页
  • Edit on GitHub

欢迎来到飞桨分布式技术文档主页¶

  • 欢迎您关注飞桨分布式训练,我们希望能帮助每一个用户走上大规模工业化生产之路!

分布式训练概述¶

  • 整体介绍与内容概览

如何设计分布式训练的搭建方案¶

  • 1. 公有云配置
  • 2. K8S部署
  • 3. 安装Paddle与FleetX

前置基础配置¶

  • 1. 优化算法

配置分布式训练¶

  • Collective训练
    • 1. 静态图分布式训练快速开始
    • 2. 性能基准
    • 3. 设计思想综述
    • 4. 性能优化
    • 超大Batch训练
    • 5. 模型并行
    • 6. 流水线并行
    • 7. 二次开发
    • 8. 整体示例
  • ParameterServer训练
    • 1. 快速开始
    • 2. 性能基准
    • 3. 设计思想综述
    • 性能优化
    • 4. 增量训练
    • 5. 流式训练
    • 6. 分布式指标
    • 7. 分布式预估
    • 8. 二次开发
    • 9. 整体示例

高阶内容¶

  • 1. 大规模蒸馏
  • 2. 自监督训练
  • 3. 弹性训练
  • 4. FleetX扩展工具包

分布式训练FAQ

  • 1. 用户FAQ

Fleet使用Apache License 2.0开源协议

Next

© Copyright 2020, PaddlePaddle. Revision 096aecd7.

Built with Sphinx using a theme provided by Read the Docs.