使用 ModelPackage 类部署专有基础模型 - 亚马逊 SageMaker AI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用 ModelPackage 类部署专有基础模型

在 Amazon Web Services Marketplace中订阅模型后,必须使用模型软件包信息部署专有模型。有关 SageMaker 人工智能和的更多信息 Amazon Web Services Marketplace,请参阅中的买入和出售 Amazon SageMaker AI 算法和模型 Amazon Web Services Marketplace。要查找最新专有机型的 Amazon Web Services Marketplace 链接,请参阅 Amazon 入门 SageMaker JumpStart

在中订阅您选择的模型后 Amazon Web Services Marketplace,您可以使用部署基础模型 SageMaker Python SDK 和与模型提供者关联的 SDK。例如, AI21 Labs、Cohere 和 Cohere 分别 LightOn 使用"ai21[SM]"cohere-sagemaker、和lightonsage软件包。

例如,要使用 AI21实验室中的 Jurassic-2 Jumbo Instruct 定义 JumpStart 模型,请使用以下代码:

import sagemaker import ai21 role = get_execution_role() sagemaker_session = sagemaker.Session() model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35" my_model = ModelPackage( role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session )

step-by-step例如,在 SageMaker Studio Classic 中查找并运行与您选择的专有基础型号相关的笔记本电脑。请参阅在 Amazon SageMaker Studio 经典版中使用基础模型了解更多信息。有关以下内容的更多信息 SageMaker Python 软件开发工具包,请参阅ModelPackage