添加或删除模型 - Amazon SageMaker
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

添加或删除模型

您可以将其他模型部署到多模型终端节点,并立即通过该终端节点调用这些模型。添加新模型时,您无需更新或关闭终端节点,因此可以避免为每个新模型创建和运行单独的终端节点的成本。

当实例达到内存容量且需要在容器中下载更多模型时,SageMaker 将从容器中卸载未使用的模型。SageMaker 还会在达到卷容量且需要下载新模型时从实例存储卷中删除未使用的模型构件。首次调用新添加的模型需要较长时间,因为终端节点需要一定时间才能将模型从 S3 下载到托管终端节点的实例中的容器内存

如果终端节点已在运行,请将新的模型构件集复制到存储模型的 Amazon S3 位置。

# Add an AdditionalModel to the endpoint and exercise it aws s3 cp AdditionalModel.tar.gz s3://my-bucket/path/to/artifacts/
重要

请按照添加新模型的方式继续操作以便更新模型。使用新的唯一名称。不要覆盖 Amazon S3 中的模型构件,这是因为仍可能在容器中或在终端节点的实例存储卷上加载旧版模型。然后,调用新模型可能会调用旧版模型。

在 S3 中存储其他目标模型后,客户端应用程序即可从这些模型请求预测。

response = runtime_sm_client.invoke_endpoint( EndpointName='endpoint_name', ContentType='text/csv', TargetModel='AdditionalModel.tar.gz', Body=body)

要从多模型终端节点删除模型,请停止从客户端调用该模型,并将其从存储模型构件的 S3 位置中删除。