选择 DLAMI 的实例类型 - 深度学习 AMI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

选择 DLAMI 的实例类型

请参阅Amazon Deep Learning AMI目录适用于与特定 dLAMI 兼容的推荐 Amazon EC2 实例系列。

更一般而言,在为 DLAMI 选择实例类型时,请考虑以下事项。

  • 如果您不熟悉深度学习,那么具有单一 GPU 的实例可能满足您的需求。

  • 如果您注重预算,则您可以使用仅限 CPU 的实例。

  • 如果您希望为深度学习模型推断优化高性能和成本效率,那么您可以将实例用于Amazon推理芯片。

  • 如果您希望为深度学习模型训练优化高性能和成本效率,那么您可以将实例与哈瓦那加速器一起使用。

  • 如果您正在寻找具有基于 ARM 的 CPU 架构的高性能 GPU 实例,则可以使用 g5G 实例类型。

  • 对于大量推理服务,具有大量内存的单个 CPU 实例(或这些实例的集群)可能是更佳的解决方案。

  • 如果您使用的是具有大量数据或较大批处理大小的大型模型,则您需要具有更多内存的大型实例。您也可以将模型分发到 GPU 集群。您可能会发现,如果减小批处理大小,则使用内存较少的实例将是更好的选择。这可能会影响您的准确性和训练速度。

  • 如果您有兴趣使用 NVIDIA 集体通信库 (NCCL) 运行机器学习应用程序,且需要大规模的节点间通信,那么您可能需要使用Elastic Fabric Adapter (EFA).

有关实例的更多信息,请参阅。EC2 实例类型.

以下主题提供有关实例类型注意事项的信息。

重要

Deep Learning AMI 包含由 NVIDIA Corporation 开发、拥有或提供的驱动程序、软件或工具包。您同意仅在包含 NVIDIA 硬件的 Amazon EC2 实例上使用这些 NVIDIA 驱动程序、软件或工具包。

DLAMI 的定价

DLAMI 中包含的深度学习框架是免费的,每个都有自己的开源许可证。尽管 DLAMI 中包含的软件是免费的,但您仍然需要为底层 Amazon EC2 实例硬件付费。

一些 Amazon EC2 实例类型被标记为免费。可以在这些免费的实例上运行 DLAMI。这意味着当您只使用该实例的容量时,使用 DLAMI 是完全免费的。如果您需要具有更多 CPU 核心、更多磁盘空间、更多 RAM 或一个或多个 GPU 的功能更强大的实例,那么您需要一个不在免费套餐实例类中的实例。

有关实例选择和定价的更多信息,请参阅。Amazon EC2 定价.

DLAMI 区域可用性

每个区域支持不同范围的实例类型,而且不同区域的实例类型成本通常稍有不同。DLAMI 并非在每个区域都可用,但可以将 DLAMI 复制到您选择的区域。请参阅复制 AMI有关更多信息。请注意区域选择列表,并确保您选择一个靠近您或您的客户的区域。如果您打算使用多个 DLAMI 且可能创建一个集群,请确保为集群中的所有节点使用相同的 Region。

有关区域的更多信息,请访问EC2 地区.

后续步骤

推荐的 GPU 实例