选择 DLAMI 的实例类型 - 深度学习 AMI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

选择 DLAMI 的实例类型

更一般情况下,在为 DLAMI 选择实例类型时,请考虑以下几点。

  • 如果您不熟悉深度学习,那么具有单个 GPU 的实例可能适合您的需求。

  • 如果您注重预算,则可以使用仅含 CPU 的实例。

  • 如果您希望优化深度学习模型推断的高性能和成本效益,则可以使用带有 Amazon Inferentia 芯片的实例。

  • 如果您正在寻找具有基于 ARM64 的 CPU 架构的高性能 GPU 实例,则可以使用 g5G 实例类型。

  • 对于高容量推理服务,具有大量内存的单个 CPU 实例或此类实例的集群可能是更好的解决方案。

  • 如果您使用的是具有大量数据或较大批处理大小的大型模型,那么您需要具有更多内存的大型实例。您也可以将模型分发到 GPU 集群。您可能会发现,如果减小批处理大小,则使用内存较少的实例将是更好的选择。这可能会影响您的准确性和训练速度。

  • 如果您有兴趣使用 NVIDIA 集体通信库 (NCCL) 来运行机器学习应用程序,且需要大规模的节点间通信,那么您可能需要使用 Elastic Fabric Adapter (EFA)

有关实例的更多详细信息,请参阅 EC2 实例类型

以下主题提供有关实例类型注意事项的信息。

重要

Deep Learning AMI 包含由 NVIDIA Corporation 开发、拥有或提供的驱动程序、软件或工具包。您同意仅在包含 NVIDIA 硬件的 Amazon EC2 实例上使用这些 NVIDIA 驱动程序、软件或工具包。

DLAMI 的定价

DLAMI 中包含的深度学习框架是免费的,每个都有自己的开源许可证。尽管 DLAMI 中包含的软件是免费的,但您仍然需要为底层 Amazon EC2 实例硬件付费。

一些 Amazon EC2 实例类型被标记为免费。可以在其中一个免费实例上运行 DLAMI。这意味着,当您只使用该实例的容量时,使用 DLAMI 是完全免费的。如果您需要一个功能更强大、具有更多 CPU 核心、更多磁盘空间、更多 RAM,或者一个或多个 GPU 的实例,那么您就需要一个不在免费套餐实例类中的实例。

有关实例选择和定价的更多信息,请参阅 Amazon EC2 定价

DLAMI 区域可用性

每个区域支持不同范围的实例类型,而且不同区域的实例类型成本通常稍有不同。DLAMI 并非在每个区域都可用,但可以将 DLAMI 复制到您选择的区域。有关更多信息,请参阅复制 AMI。请注意区域选择列表,并确保您选择一个靠近您或您客户的区域。如果您打算使用不止一个 DLAMI 并且可能创建一个集群,请确保为集群中的所有节点使用相同的区域。

有关区域的更多信息,请访问 EC2 区域

后续步骤

推荐的 GPU 实例