完成影子测试 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

完成影子测试

您的测试将在预定时长结束时自动完成,或者您可以提早停止正在进行的测试。测试完成后,影子测试页面的影子测试部分中的测试状态显示为完成。然后,您可以查看和分析测试的最终指标。

您可以使用指标仪表板来决定是否将影子变体推广到生产环境。有关分析测试指标仪表板的更多信息,请参阅监控影子测试

有关如何在预定完成时间结束之前完成测试的说明,请参阅尽早完成影子测试

有关将影子变体升级到生产环境的说明,请参阅提升 Candoster

尽早完成影子测试

你可能想要完成正在进行的影子测试的原因之一是,如果你认为你的影子变体的指标看起来不错,你想将其推广到生产环境中。如果一个或多个变体表现不佳,你也可以决定完成测试。

要在预定结束日期之前完成测试,请执行以下操作:

  1. 从 “影子测试” 页面的 “影子测试” 部分中选择要标记为已完成的测试

  2. 从 “操作” 下拉列表中选择 “完成”,此时将出现 “完成影子测试” 对话框。

  3. 在此对话框中,选择下列选项之一:

    • 是的,部署影子变体

    • 不,移除暗影变体

  4. (可选)在评论文本框中,输入您在预定结束时间之前完成测试的原因。

    1. 如果您决定部署影子变体,请选择 “完成” 并继续部署。将出现 “部署影子变体” 页面。有关如何填写本页的说明,请参阅提升 Candoster

    2. 如果您决定移除影子变体,请选择 “确认”。

提升 Candoster

如果您决定要用影子变体替换生产变体,则可以更新终端节点并升级影子变体以响应推理请求。这会将你当前的生产变体从生产中移除,取而代之的是你的影子变体。

如果您的影子测试仍在进行中,则必须先完成测试。要在影子测试的预定结束时间之前完成影子测试,尽早完成影子测试请在继续本节之前按照中的说明进行操作。

将影子变体升级到生产环境时,您可以选择以下选项来计算影子变体的实例数。

  • 您可以保留生产变体中的实例数量和类型。如果您选择此选项,则您的影子变体将使用当前实例数在生产环境中启动,从而确保您的模型能够继续以相同的规模处理请求流量。

  • 您可以保留影子变体的实例数和类型。如果您想使用此选项,我们建议您使用 100% 的流量采样进行影子测试,以确保影子变体能够以当前规模处理请求流量。

  • 您可以将自定义值用于实例计数和类型。如果您想使用此选项,我们建议您使用 100% 的流量采样进行影子测试,以确保影子变体能够以当前规模处理请求流量。

除非您验证影子变体的实例类型或数量或两者兼而有之,否则我们强烈建议您在推广影子变体时保留生产变体的实例计数和类型。

要提升 Sadow 版本,请执行以下操作:

  1. 如果您的测试已完成,请执行以下操作:

    1. 从 “影子测试” 页面的影子测试部分中选择测试

    2. 从 “操作” 下拉列表中,选择 “查看”。此时将显示。

    3. 在 “环境” 部分中选择 “部署影子变体”。将出现 “部署影子变体” 页面。

    如果您的测试尚未完成,尽早完成影子测试请查看完成测试。

  2. 变体设置部分中,选择下列选项之一:

    • 保留制作设置

    • 保留阴影设置

    • 自定义实例设置

    如果您选择自定义实例设置,请执行以下操作:

    1. 从实例类型下拉列表中选择实例类型

    2. 实例数下,输入实例数。

  3. 输入 “部署” 确认部署文本框中,输入deploy

  4. 选择部署影子变体

您的 SageMaker 推理端点现在正在使用影子变体作为您的生产变体,并且您的生产变体已从终端节点中删除。