编译模型(Amazon SageMaker 开发工具包) - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

编译模型(Amazon SageMaker 开发工具包)

您可以使用compile_model中的 API适用于 Python 的 Amazon SageMaker 开发工具包来编译经过培训的模型并针对特定的目标硬件进行优化。应在模型训练期间使用的估计器对象上调用 API。

注意

您必须设置MMS_DEFAULT_RESPONSE_TIMEOUT环境变量设置为500当使用 MxNet 或 PyTorch 编译模型时。环境变量是不需要的。

下面是说明用法的示例,介绍如何使用trained_model_estimator对象:

# Replace the value of expected_trained_model_input below and # specify the name & shape of the expected inputs for your trained model # in json dictionary form expected_trained_model_input = {'data':[1, 784]} # Replace the example target_instance_family below to your preferred target_instance_family compiled_model = trained_model_estimator.compile_model(target_instance_family='ml_c5', input_shape=expected_trained_model_input, output_path='insert s3 output path', env={'MMS_DEFAULT_RESPONSE_TIMEOUT': '500'})

代码会编译模型,将优化过的模型保存在output_path,并创建 SageMaker 模型,以部署到终端节点中。使用适用于 Python 的开发工具包的示例笔记本在Neo 模型编译示例笔记本部分。