模型并行和大型模型推理 - 亚马逊 SageMaker AI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

模型并行和大型模型推理

Amazon SageMaker AI 包括专门的深度学习容器 (DLCs)、库以及用于模型并行性和大型模型推理 (LMI) 的工具。在以下各节中,您可以找到在 SageMaker AI 上开始使用 LMI 的资源。