在亚马逊 AI 上自定义 Amazon Nova 车型 SageMaker - 亚马逊 SageMaker AI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在亚马逊 AI 上自定义 Amazon Nova 车型 SageMaker

你可以通过食谱自定义 Amazon Nova 模型,然后在 SageMaker AI 上对其进行训练。这些配方支持诸如监督微调 (SFT) 和直接偏好优化 (DPO) 之类的技术,同时具有全等级和低等级适应 (LoRa) 选项。

end-to-end自定义工作流程包括模型训练、模型评估和推理部署等阶段。这种基于 SageMaker 人工智能的模型自定义方法提供了更大的灵活性和控制力,可以微调其支持的Amazon Nova模型,精确地优化超参数,并实现诸如LoRa参数高效微调(PEFT)、全等级SFT、DPO、持续预训练(CPT)、近端策略优化(PPO)等技术。

SageMaker AI 提供了两种用于自定义 Amazon Nova 模型的环境。

  • Amazon SageMaker 训练作业提供了一个完全托管的环境,用于自定义 Nova 模型,您无需创建或维护任何集群。该服务会自动处理所有基础设施配置、扩展和资源管理,使您能够专注于配置训练参数和提交作业。您可以使用参数高效微调 (PEFT)、全等级微调以及直接偏好优化 (DPO) 等技术在 SageMaker 训练作业中自定义 Nova 模型。有关更多信息,请参阅 Amazon Nova 对 SageMaker 训练作业进行自定义

  • Amazon 要求您创建和管理带有受限实例组(RIGs)的 SageMaker HyperPod EKS 集群,从而 SageMaker HyperPod提供了一个专门的环境来训练 Nova 模型。该环境使您可以灵活地使用专用 GPU 实例和集成 Amazon FSx for Lustre 存储来配置训练环境,使其特别适合高级分布式训练场景和正在进行的模型开发。有关更多信息,请参阅 亚马逊上的 Amazon Nova 定制 SageMaker HyperPod