如何使用 JumpStart 基础模型 - Amazon SageMaker
在 Amazon SageMaker Studio 中使用基础模型通过 SageMaker Python SDK 使用基础模型在 SageMaker 控制台中探索基础模型
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

如何使用 JumpStart 基础模型

通过 Amazon SageMaker Studio 选择、训练或部署基础模型，通过 SageMaker Python SDK 以编程方式使用 JumpStart 基础模型，以及直接通过 SageMaker 控制台探索 JumpStart 基础模型。

在 Amazon SageMaker Studio 中使用基础模型

您可以直接通过 Studio UI 部署、训练和微调专有及公开可用的 JumpStart 基础模型。要通过 Studio 开始使用，请参阅启动 Amazon SageMaker Studio。

JumpStart foundation models available to deploy, train, and fine-tune directly in Amazon SageMaker Studio.

打开 Amazon SageMaker Studio 后，在导航窗格的 SageMaker JumpStart 部分选择模型、笔记本、解决方案。然后，根据您的使用案例，向下滚动以找到基础模型：文本生成或基础模型：图像生成部分。

您可以在建议的基础模型卡片上选择查看模型，也可以选择浏览所有模型以查看所有可用于文本生成或图像生成的基础模型。如果您选择查看所有可用模型，则可以按任务、数据类型、内容类型或框架进一步筛选可用模型。您还可以直接在搜索栏中搜索模型名称。如果您需要有关选择模型的指导，请参阅选择基础模型。

重要

某些基础模型要求明确接受最终用户许可协议 (EULA)。有关更多信息，请参阅 在 Amazon SageMaker Studio 中接受 EULA。

当您在 Studio 中为所选基础模型选择了查看模型后，可以部署该模型。有关更多信息，请参阅 部署模型。

您也可以选择在笔记本中运行部分中的打开笔记本，直接在 Studio 中运行基础模型的示例笔记本。

注意

要在 Studio 中部署专有基础模型，您必须先在 Amazon Web Services Marketplace 中订阅该模型。Amazon Web Services Marketplace 链接在 Studio 中的相关示例笔记本中提供。

如果模型可以微调，您也可以对模型进行微调。有关更多信息，请参阅 微调模型。有关哪些 JumpStart 基础模型可进行微调的列表，请参阅微调基础模型。

通过 SageMaker Python SDK 使用基础模型

所有 JumpStart 基础模型均可使用 SageMaker Python SDK 以编程方式部署。在 Amazon Web Services Marketplace 中订阅模型后，必须使用模型软件包信息部署专有模型，而公开可用的基础模型可以使用带有预训练模型的内置算法表中的模型 ID 进行部署。要通过 SageMaker Python SDK 开始使用 JumpStart 基础模型，请在 Studio 中选择一个基础模型，然后运行和浏览任何相关的示例笔记本。

重要

某些基础模型要求明确接受最终用户许可协议 (EULA)。有关更多信息，请参阅 使用 SageMaker Python SDK 时接受 EULA。

通过 SageMaker Python SDK 使用专有基础模型

在 Amazon Web Services Marketplace 中订阅模型后，必须使用模型软件包信息部署专有模型。有关 SageMaker 和 Amazon Web Services Marketplace 的更多信息，请参阅在 Amazon Web Services Marketplace 中购买和销售 Amazon SageMaker 算法和模型。要查找最新专有模型的 Amazon Web Services Marketplace 链接，请参阅 Amazon SageMaker JumpStart 入门。

在 Amazon Web Services Marketplace 中订阅您选择的模型后，您可以使用 SageMaker Python SDK 和与模型提供商相关的 SDK 来部署基础模型。例如，AI21 Labs、Cohere 和 LightOn 分别使用 "ai21[SM]"、cohere-sagemaker 和 lightonsage 软件包。

对于分步示例，请在 SageMaker Studio 中查找并运行与您选择的专有基础模型相关的笔记本。请参阅在 Amazon SageMaker Studio 中使用基础模型了解更多信息。

通过 SageMaker Python SDK 使用公开可用的基础模型

有关以编程方式部署公开可用 JumpStart 基础模型的更多信息，请参阅将预训练模型直接部署到 SageMaker 端点。有关以编程方式微调 JumpStart 基础模型的信息，请参阅微调模型并部署到 SageMaker 端点。

要引用公开可用的基础模型的可用模型 ID，请参阅带有预训练模型的内置算法表。在搜索栏中搜索您选择的基础模型的名称，使用显示条目下拉菜单更改显示的条目数量，或者选择页面左侧以蓝色突出显示的下一个文本来浏览可用模型。

有关示例笔记本以及通过 SageMaker Python SDK 使用公开可用的 JumpStart 基础模型的详细步骤，请参阅示例笔记本。您还可以在 SageMaker JumpStart Studio UI 中浏览可用的示例笔记本。

在 SageMaker 控制台中探索基础模型

您可以直接通过 Amazon SageMaker 控制台浏览 JumpStart 基础模型。

  1. 通过 https://console.aws.amazon.com/sagemaker/ 打开 Amazon SageMaker 控制台。

  2. 在左侧导航面板上找到 JumpStart，然后选择基础模型。

  3. 浏览模型或搜索特定模型。如果您需要有关选择模型的指导，请参阅选择基础模型。选择查看模型可查看所选基础模型的模型详情页面。

  4. 如果模型是专有模型，请在模型详细信息页面右上角选择订阅以在 Amazon Web Services Marketplace 中订阅该模型。您应该会收到一封确认您订阅了所选模型的电子邮件。有关 SageMaker 和 Amazon Web Services Marketplace 的更多信息，请参阅在 Amazon Web Services Marketplace 中购买和销售 Amazon SageMaker 算法和模型。公开可用的基础模型不需要订阅。

    注意

    专有基础模型可发现性目前在 SageMaker 控制台中为预览版。控制台中专有基础模型的预览访问权限包括操场可用性。在模型详细信息页面中，选择操场来测试专有模型，无需设置或部署任何模型软件包。

  5. 要在 GitHub 中查看示例笔记本，请选择模型详细信息页面右上角的查看代码。

  6. 要直接在 Amazon SageMaker Studio 中查看和运行示例笔记本，请选择模型详细信息页面右上角的在 Studio 中打开笔记本。