训练、编译和打包模型

在本部分中，您将创建 SageMaker 和 Amazon IoT 客户端对象、下载预训练的机器学习模型、将模型上传到 Amazon S3 存储桶、使用 SageMaker Neo 为目标设备编译模型，然后打包模型以便可以使用 Edge Manager 代理进行部署。

导入库并创建客户端对象。

本教程使用 Amazon SDK for Python (Boto3) 创建用于与 SageMaker、Amazon S3 和 Amazon IoT 交互的客户端。

导入 Boto3，指定您的区域，然后初始化所需的客户端对象，如以下示例所示：


import boto3
import json
import time

AWS_REGION = 'us-west-2'# Specify your Region
bucket = 'bucket-name'

sagemaker_client = boto3.client('sagemaker', region_name=AWS_REGION)
iot_client = boto3.client('iot', region_name=AWS_REGION)

定义变量并以字符串的形式为其分配您为 SageMaker 和 Amazon IoT 创建的角色 ARN：


# Replace with the role ARN you created for SageMaker
sagemaker_role_arn = "arn:aws:iam::<account>:role/*"

# Replace with the role ARN you created for Amazon IoT. 
# Note: The name must start with 'SageMaker'
iot_role_arn = "arn:aws:iam::<account>:role/SageMaker*"

训练机器学习模型。

有关如何使用 SageMaker 训练机器学习模型的更多信息，请参阅使用 Amazon SageMaker 训练模型。您可以选择将在本地训练的模型直接上传到 Amazon S3 URI 存储桶中。

如果您还没有模型，可以在本教程的后续步骤中使用预训练模型。例如，您可以保存来自 TensorFlow 框架的 MobileNet V2 模型。MobileNet V2 是一款针对移动应用程序进行优化的图像分类模型。有关 MobileNet V2 的更多信息，请参阅 MobileNet GitHub 自述文件。

在 Jupyter 笔记本中键入以下内容以保存预训练的 MobileNet V2 模型：
```
# Save the MobileNet V2 model to local storage
   import tensorflow as tf
   model = tf.keras.applications.MobileNetV2()
   model.save(“mobilenet_v2.h5”)
```
注意
- 如果您未安装 TensorFlow，可以运行 pip install tensorflow=2.4 命令来安装
- 在本教程中使用 TensorFlow 2.4 或更低版本。
模型将保存到 mobilenet_v2.h5 文件中。在打包模型之前，您需要先使用 SageMaker Neo 编译模型。要查看您的 TensorFlow 版本（或其他选择的框架）目前是否受 SageMaker Neo 的支持，请参阅支持的框架、设备、系统和架构。

SageMaker Neo 要求将模型存储为压缩的 TAR 文件。将其重新打包为压缩的 TAR 文件 (*.tar.gz)：
```
# Package MobileNet V2 model into a TAR file 
   import tarfile
   
   tarfile_name='mobilenet-v2.tar.gz'
   
   with tarfile.open(tarfile_name, mode='w:gz') as archive:
       archive.add('mobilenet-v2.h5')
```
将您的模型上传到 Amazon S3。

有了机器学习模型后，请将其存储在 Amazon S3 存储桶中。以下示例使用 Amazon CLI 命令将模型上传到您之前在名为 models 的目录中创建的 Amazon S3 存储桶。在您的 Jupyter 笔记本中键入以下内容：
```
!aws s3 cp mobilenet-v2.tar.gz s3://{bucket}/models/
```

使用 SageMaker Neo 编译模型。

使用 SageMaker Neo 为边缘设备编译机器学习模型。您需要了解存储已训练模型的 Amazon S3 存储桶 URI、用于训练模型的机器学习框架、模型输入的形状以及目标设备。

对于 MobileNet V2 模型，请使用以下内容：


framework = 'tensorflow'
target_device = 'jetson_nano'
data_shape = '{"data":[1,3,224,224]}'

SageMaker Neo 需要基于您使用的深度学习框架的特定模型输入形状和模型格式。有关如何保存模型的更多信息，请参阅SageMaker Neo 需要什么输入数据形状？。有关 Neo 支持的设备和框架的更多信息，请参阅支持的框架、设备、系统和架构。

使用 CreateCompilationJob API 以使用 SageMaker Neo 创建编译作业。提供编译作业的名称、SageMaker 角色 ARN、存储模型的 Amazon S3 URI、模型的输入形状、框架的名称、您希望 SageMaker 存储已编译模型的 Amazon S3 URI 以及您的边缘设备目标。


# Specify the path where your model is stored
model_directory = 'models'
s3_model_uri = 's3://{}/{}/{}'.format(bucket, model_directory, tarfile_name)

# Store compiled model in S3 within the 'compiled-models' directory
compilation_output_dir = 'compiled-models'
s3_output_location = 's3://{}/{}/'.format(bucket, compilation_output_dir)

# Give your compilation job a name
compilation_job_name = 'getting-started-demo'

sagemaker_client.create_compilation_job(CompilationJobName=compilation_job_name,
                                        RoleArn=sagemaker_role_arn,
                                        InputConfig={
                                            'S3Uri': s3_model_uri,
                                            'DataInputConfig': data_shape,
                                            'Framework' : framework.upper()},
                                        OutputConfig={
                                            'S3OutputLocation': s3_output_location,
                                            'TargetDevice': target_device},
                                        StoppingCondition={'MaxRuntimeInSeconds': 900})

打包已编译的模型。

打包作业需要使用 SageMaker Neo 编译的模型，并进行任何必要的更改，以便使用推理引擎和 Edge Manager 代理来部署模型。要打包模型，请使用 create_edge_packaging API 或 SageMaker 控制台创建打包作业。

您需要提供用于 Neo 编译作业的名称、打包作业的名称、角色 ARN（请参阅设置部分）、模型的名称、模型版本以及用于打包作业输出的 Amazon S3 存储桶 URI。请注意，Edge Manager 打包作业名称区分大小写。以下是介绍如何使用 API 创建打包作业的示例。
```
edge_packaging_name='edge-packaging-demo'
model_name="sample-model"
model_version="1.1"
```
定义要存储打包模型的 Amazon S3 URI。
```
# Output directory where you want to store the output of the packaging job
packaging_output_dir = 'packaged_models'
packaging_s3_output = 's3://{}/{}'.format(bucket, packaging_output_dir)
```
使用 CreateEdgePackagingJob 来打包通过 Neo 编译的模型。提供边缘打包作业的名称以及为编译作业提供的名称（在本例中，该名称存储在变量 compilation_job_name 中）。还需提供模型的名称、模型的版本（用于帮助您跟踪所使用的模型版本）以及希望 SageMaker 存储打包模型的 S3 URI。
```
sagemaker_client.create_edge_packaging_job(
                    EdgePackagingJobName=edge_packaging_name,
                    CompilationJobName=compilation_job_name,
                    RoleArn=sagemaker_role_arn,
                    ModelName=model_name,
                    ModelVersion=model_version,
                    OutputConfig={
                        "S3OutputLocation": packaging_s3_output
                        }
                    )
```

Javascript 在您的浏览器中被禁用或不可用。

要使用 Amazon Web Services 文档，必须启用 Javascript。请参阅浏览器的帮助页面以了解相关说明。

设置

训练、编译和打包模型

注意