模型来源和许可协议 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

模型来源和许可协议

Amaz SageMaker JumpStart on 允许访问来自第三方来源和合作伙伴的数百种公开和专有的基础模型。您可以直接在 SageMaker 控制台、Studio 或 Studio Classic 中浏览 JumpStart 基础模型选择。

许可证和模型来源

Amazon SageMaker JumpStart 提供对公开和专有基础模型的访问权限。基础模型由第三方开源和专有提供商载入和维护。因此,它们在根据模型来源指定的不同许可证下发布。请确保检查您使用的任何基础模型的许可证。在下载或使用内容之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。常见基础模型许可证的一些示例包括:

  • Alexa Teacher Model

  • Apache 2.0

  • BigScience 负责任的人工智能许可证 v1.0

  • CreativeML Open RAIL++-M 许可证

同样,对于任何专有基础模型,请确保查看并遵守模型提供商的任何使用条款和使用指南。如果您对特定专有模型的许可证信息有疑问,请直接联系模型提供商。在 Amazon Web Services Marketplace中,您可以在每个模型的支持选项卡中找到模型提供商的联系信息。

最终用户许可协议

某些 JumpStart 基础模型要求在使用前明确接受最终用户许可协议 (EULA)。

亚马逊 SageMaker Studio 接受最终用户许可协议

在 Studio 中微调、部署或评估 JumpStart 基础模型之前,系统可能会提示您接受最终用户许可协议。要开始使用 Studio 中的 JumpStart 基础模型,请参阅在 Studio 中使用基础模型

重要

截至 2023 年 11 月 30 日,之前的亚马逊 SageMaker Studio 体验现在被命名为 Amazon St SageMaker udio Classic。以下部分专门介绍如何使用更新后的 Studio 体验。有关使用 Studio Classic 应用程序的信息,请参见亚马逊 SageMaker Studio 经典版

某些 JumpStart 基础模型要求在部署之前接受最终用户许可协议。如果这适用于您选择使用的基础模型,Studio 会提示您显示一个包含最终用户许可协议内容的窗口。在下载或使用模型之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。

亚马逊 SageMaker Studio 经典版接受最终用户许可协议

在 Studio Classic 中部署 JumpStart 基础模型或打开基础型号笔记本电脑之前, JumpStart 系统可能会提示您接受最终用户许可协议。要开始使用 Studio Classic 中的 JumpStart 基础模型,请参阅在 Amazon SageMaker Studio 经典版中使用基础模型

重要

截至 2023 年 11 月 30 日,之前的亚马逊 SageMaker Studio 体验现在被命名为 Amazon St SageMaker udio Classic。以下部分专门介绍如何使用 Studio Classic 应用程序。有关使用更新后的 Studio 体验的信息,请参阅亚马逊 SageMaker Studio

某些 JumpStart 基础模型要求在部署之前接受最终用户许可协议。如果这适用于您选择使用的基础模型,则在您选择 “部署” 或 “打开笔记本” 之后,Studio Classic 会在下面显示一个标题为 “查看最终用户许可协议 (EULA)” 和 “可接受使用政策 (AUP)” 的窗口。在下载或使用模型之前,您有责任查看和遵守任何适用的许可证条款,并确保您的使用案例可以接受这些条款。

使用 SDK 接受最终用户许可协议 SageMaker Python

以下各节介绍如何在使用 SDK 部署或微调 JumpStart 模型时明确声明接受 EULA。 SageMaker Python有关使用 SageMaker Python SDK 开始使用 JumpStart 基础模型的更多信息,请参阅在 SageMaker Python SDK 中使用基础模型

在开始之前,请确保完成了以下操作:

  • 升级到您使用的模型的最新版本。

  • 安装最新版本的 SageMaker Python SDK。

重要

要使用以下工作流程,必须安装版本为 2.198.0 或更高版本的 SDK。 SageMaker Python

部署模型时接受 EULA JumpStart

对于需要接受最终用户许可协议的型号,您必须在部署 JumpStart模型时明确声明接受 EULA。

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

默认情况下 accept_eula 的值为 None,并且必须明确重新定义为 True 以接受最终用户许可协议。有关更多信息,请参阅JumpStart模型

微调模型时接受 EULA JumpStart

对于需要接受最终用户许可协议的微调模型,您必须在定义估算器时明确声明接受最终用户许可协议。 JumpStart 对预训练模型进行微调后,原始模型的权重会发生变化。因此,稍后部署经过微调的模型时,无需接受 EULA。

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

accept_eula值是None默认值,必须像"true"在估算器环境中那样明确重新定义才能接受最终用户许可协议。有关更多信息,请参阅JumpStart估算器

EULA 接受 SageMaker Python SDK 版本低于 2.198.0

重要

使用低于 2.198.0 的 SageMaker Python SDK 版本时,必须使用 SageMakerPredictor类来接受模型最终用户许可协议。

使用 SageMaker Python SDK 以编程方式部署 JumpStart 基础模型后,您可以使用类对已部署的终端节点进行推理。 SageMaker Predictor对于需要接受最终用户许可协议的型号,您必须在致电同Predictor类产品时明确声明接受最终用户许可协议:

predictor.predict(payload, custom_attributes="accept_eula=true")

默认情况下 accept_eula 的值为 false,并且必须明确重新定义为 true 以接受最终用户许可协议。如果您尝试在设置为时运行推理,则预测变量会返回错误。accept_eula false有关使用 SageMaker Python SDK 开始使用 JumpStart 基础模型的更多信息,请参阅在 SageMaker Python SDK 中使用基础模型

重要

custom_attributes参数接受格式为的键值对。"key1=value1;key2=value2"如果您多次使用同一个键,则推理服务器将使用与该键关联的最后一个值。例如,如果您将 "accept_eula=false;accept_eula=true" 传递给 custom_attributes 参数,则推理服务器会将值 trueaccept_eula 键相关联。