适用于 ML 的容量块

适用于 ML 的容量块允许您在未来某个日期预留抢手的 GPU 实例，从而支持您的短期机器学习（ML）工作负载。在容量块内运行的实例会自动紧密放置在 Amazon EC2 UltraClusters 中，以实现低延迟、PB 级非阻塞联网。

使用容量块，您可以了解 GPU 实例容量在未来何时可用，并安排容量块在最适合您的时间启动。当您预留容量块时，您可以获得 GPU 实例的可预测容量保证，同时只需为所需的时间付费。如果您需要 GPU 一次支持几天或几周的 ML 工作负载，并且不想在未使用 GPU 实例时支付预留费用，我们建议您使用容量块。

以下是容量块的一些常见使用案例。

容量块目前可用于 p5.48xlarge 和 p4d.24xlarge 实例。p5.48xlarge 实例在美国东部俄亥俄州区域和美国东部弗吉尼亚州北部区域提供。p4d.24xlarge 实例在美国东部俄亥俄州区域和美国西部俄勒冈州区域提供。您可以预留容量块，预留开始时间最长为未来 8 周。

您可以使用容量块预留 p5 和 p4d 实例，这些实例具有以下预留持续时间和实例数量选项。

要预留容量块，首先要指定容量需求，包括所需的实例类型、实例数量、时间、最早开始日期和最晚结束日期。然后，您可以看到符合您要求的可用容量块产品。容量块产品包括开始时间、可用区和预留价格等详细信息。容量块产品的价格取决于产品交付时的供需情况。预留容量块后，价格不会改变。有关更多信息，请参阅 容量块定价和计费。

当您购买容量块产品时，系统会根据您选择的日期和实例数创建预留。当容量块预留开始时，您可以通过在启动请求中指定预留 ID 来定位实例启动。

您可以在容量块结束时间前 30 分钟之前使用您预留的所有实例。在您的容量块预留还剩 30 分钟时，系统将开始终止在容量块中运行的所有实例。我们会利用这段时间清理您的实例，然后将容量块交付给下一个客户。预留的最后 30 分钟不计入容量块的价格。系统将在终止过程开始前 10 分钟通过 EventBridge 发布一个事件。有关更多信息，请参阅 使用 EventBridge 监控容量块。

支持的平台

适用于 ML 的容量块目前支持具有默认租赁的 p5.48xlarge 和 p4d.24xlarge 实例。当您使用 Amazon Web Services Management Console 购买容量块时，默认平台选项为 Linux/UNIX。当您使用 Amazon Command Line Interface（Amazon CLI）或 Amazon SDK 购买容量块时，可以使用以下平台选项：

注意事项

在使用容量块之前，请考虑以下细节和限制。

相关资源

创建容量块后，您可以使用容量块执行以下操作：

如果使用 Amazon EC2 Auto Scaling 或 Amazon EKS，则您可以将扩展计划为在容量块预留开始时运行。计划扩展时，Amazon 会自动为您处理重试，让您无需担心实现重试逻辑来处理暂时性故障。