本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
为 DLAMI 选择实例类型
有关与特定 DLAMI 兼容的推荐 Amazon EC2 实例系列,请参阅Amazon Deep Learning AMI目录
更笼统地说,在为 DLAMI 选择实例类型时,请考虑以下几点。
如果您不熟悉深度学习,那么具有单 GPU 的实例可能适合您的需求。
如果您精打细算,则可以使用仅限 CPU 的实例。
如果您想优化深度学习模型推理的高性能和成本效率,则可以使用带有 Amazon Inferentia 芯片的实例。
如果您想优化深度学习模型训练的高性能和成本效率,则可以使用带有 Habana 加速器的实例。
如果您正在寻找具有基于 ARM 的 CPU 架构的高性能 GPU 实例,则可以使用 g5G 实例类型。
-
对于高容量推理服务,具有大量内存的单个 CPU 实例或此类实例的集群可能是更好的解决方案。
如果您使用的是包含大量数据或批量大小较高的大型模型,则需要一个具有更多内存的更大实例。您也可以将模型分发到 GPU 集群。您可能会发现,如果减小批处理大小,则使用内存较少的实例将是更好的选择。这可能会影响您的准确性和训练速度。
如果您有兴趣使用 NVIDIA Collective Collective Communication Libraction (NCCL) 运行要求大规模高级别节点间通信的机器学习应用程序,则可能需要使用 Elastic Fabric Adapter (EFA)。
有关实例的更多详细信息,请参阅 EC2 实例类型
以下主题提供有关实例类型注意事项的信息。
重要
Deep Learning AMI 包含由 NVIDIA Corporation 开发、拥有或提供的驱动程序、软件或工具包。您同意仅在包含 NVIDIA 硬件的 Amazon EC2 实例上使用这些 NVIDIA 驱动程序、软件或工具包。
DLAMI 的定价
DLAMI 中包含的深度学习框架是免费的,每个框架都有自己的开源许可证。尽管 DLAMI 中包含的软件是免费的,但您仍然需要为底层 Amazon EC2 实例硬件付费。
某些 Amazon EC2 实例类型被标记为免费。可以在其中一个免费实例上运行 DLAMI。这意味着,当您仅使用该实例的容量时,使用 DLAMI 是完全免费的。如果您需要具有更多 CPU 内核、更多磁盘空间、更多 RAM 或一个或多个 GPU 的更强大的实例,则需要一个不在免费套餐实例类中的实例。
有关实例选择和定价的更多信息,请参阅 Amazon EC2 定价
DLAMI 区域可用性
每个区域支持不同范围的实例类型,并且在不同的区域,实例类型的成本通常略有不同。DLAMI 并非在每个地区都可用,但可以将 DLAMI 复制到您选择的区域。有关更多信息,请参阅复制 AMI。请注意区域选择列表,并确保选择离您或您的客户最近的区域。如果您计划使用多个 DLAMI 并可能创建集群,请务必为群集中的所有节点使用相同的区域。
有关区域的更多信息,请访问 EC2 区域 。