深度学习 AMI
开发人员指南
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

优化

要充分利用您的 GPU,您可以优化数据管道并调整深度学习网络。如以下图表所述,神经网络的简单或基本实施可能会不一致地使用 GPU 而不是充分使用它。当您优化预处理和数据加载时,您可以从您的 CPU 到 GPU 减少瓶颈。您可以通过使用混合化(该框架支持时)、调整批大小并同步调用来调整神经网络本身。您也可以在大多数框架中使用多精度(float16 或 int8)训练,从而可以显著提高吞吐量。

以下图表显示应用不同优化时的累积性能提升。您的结果将取决于要处理的数据和要优化的网络。


                  GPU 的性能增强

示例 GPU 性能优化。图表来源:MXNet Gluon 的性能技巧

以下指南介绍将适用于您的 DLAMI 并帮助您提升 GPU 性能的选项。

主题