选择 DLAMI 的实例类型 - 深度学习 AMI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

选择 DLAMI 的实例类型

为 DLAMI 选择实例类型时,请考虑以下事项。

  • 如果您不熟悉深度学习,那么具有单一 GPU 的实例可能满足您的需求。

  • 如果您注重预算,那么您可以使用仅使用 CPU 的实例。

  • 对于大容量推理服务,具有大量内存的单个 CPU 实例或这样的实例集群可能是更好的解决方案。

  • 如果您使用的是具有大量数据或较大批处理大小的大型模型,那么您需要具有更多内存的大型实例。您也可以将模型分发到 GPU 集群。您可能会发现,如果减小批处理大小,则使用内存较少的实例将是更好的选择。这可能会影响您的准确性和训练速度。

  • 如果您有兴趣使用 NVIDIA 集体通信库 (NCCL) 运行 Machine Learning 应用程序,且需要大规模的节点间通信,那么您可能需要使用Elastic Fabric Adapter (EFA)

有关实例的更多详细信息,请参阅EC2 实例类型

以下主题提供了有关实例类型注意事项的信息。

重要

Deep Learning AMI 包含由 NVIDIA Corporation 开发、拥有或提供的驱动程序、软件或工具包。您同意仅在包含 NVIDIA 硬件的 Amazon EC2 实例上使用这些 NVIDIA 驱动程序、软件或工具包。

DLAMI 的定价

DLAMI 包含的深度学习框架是免费的,每个都有自己的开源许可证。尽管 DLAMI 中包含的软件是免费的,但您仍需为底层 Amazon EC2 实例硬件付费。

某些 Amazon EC2 实例类型被标记为免费。可以在这些免费的实例上运行 DLAMI。这意味着当您只使用该实例的容量时,使用 DLAMI 是完全免费的。如果您需要具有更多 CPU 核心、更多磁盘空间、更多 RAM 或一个或多个 GPU 的实例,那么您需要一个不在免费套餐实例类中的实例。

有关实例选择和定价的更多信息,请参阅Amazon EC2 定价

DLAMI 区域可用性

每个区域支持不同范围的实例类型,而且不同区域的实例类型成本通常稍有不同。DLAMI 并非在每个区域都可用,但可以将 DLAMI 复制到您选择的区域。请参阅复制 AMI,了解更多信息。请注意区域选择列表,并确保您选择一个靠近您或您的客户的区域。如果您打算使用多个 DLAMI 且可能创建一个集群,请确保为集群中的所有节点使用相同的区域。

有关区域的更多信息,请访问EC2 区域

后续步骤

推荐的 GPU 实例