在边缘设备上使用 Neo 入门
本 Amazon SageMaker Neo 入门指南向您展示了如何编译模型、设置设备以及在设备上进行推理。大多数代码示例都使用 Boto3。我们在适用的情况下使用 Amazon CLI 提供命令,以及有关如何满足 Neo 先决条件的指令。
注意
您可以在本地计算机、SageMaker 笔记本、SageMaker Studio 或者(取决于您的边缘设备)边缘设备上运行以下代码段。设置是相似的;但如果您在 SageMaker 笔记本实例或 SageMaker Studio 会话中运行本指南,则有两个主要的例外情况:
-
您不需要安装 Boto3。
-
您不需要添加
‘AmazonSageMakerFullAccess’
IAM 策略
本指南假设您在边缘设备上运行以下指令。
先决条件
-
安装 Boto3
如果您在边缘设备上运行这些命令,则必须安装 Amazon SDK for Python (Boto3)。在 Python 环境(最好是虚拟环境)中,在边缘设备的终端本地或 Jupyter 笔记本实例中运行以下命令:
-
设置 Amazon 凭证
您需要在设备上设置 Amazon Web Services 凭证才能运行 SDK for Python (Boto3)。默认情况下,Amazon 凭证应存储在边缘设备上的
~/.aws/credentials
文件中。在凭证文件中,您应该看到两个环境变量:aws_access_key_id
和aws_secret_access_key
。在终端中运行:
$ more ~/.aws/credentials [default] aws_access_key_id =
YOUR_ACCESS_KEY
aws_secret_access_key =YOUR_SECRET_KEY
《Amazon 通用参考指南》提供有关如何获取必需的
aws_access_key_id
和aws_secret_access_key
的说明。有关如何在设备上设置凭证的更多信息,请参阅 Boto3文档。 -
设置 IAM 角色并附加策略。
Neo 需要访问您的 S3 存储桶 URI。创建一个可运行 SageMaker 并有权访问 S3 URI 的 IAM 角色。您可以使用 SDK for Python (Boto3)、控制台或 Amazon CLI 创建 IAM 角色。以下示例说明如何使用 SDK for Python (Boto3) 创建 IAM 角色:
import boto3 AWS_REGION =
'aws-region'
# Create an IAM client to interact with IAM iam_client = boto3.client('iam', region_name=AWS_REGION) role_name ='role-name'
有关如何使用控制台、Amazon CLI 或通过 Amazon API 创建 IAM 角色的更多信息,请参阅在您的 Amazon 账户中创建 IAM 用户。
创建字典,用于描述您要附加的 IAM 策略。该策略用于创建新的 IAM 角色。
policy = { 'Statement': [ { 'Action': 'sts:AssumeRole', 'Effect': 'Allow', 'Principal': {'Service': 'sagemaker.amazonaws.com'}, }], 'Version': '2012-10-17' }
使用您在上面定义的策略创建新的 IAM 角色:
import json new_role = iam_client.create_role( AssumeRolePolicyDocument=json.dumps(policy), Path='/', RoleName=role_name )
当您在后续步骤中创建编译作业时,需要知道您的 Amazon 资源名称 (ARN) 是什么,因此也将其存储在变量中。
role_arn = new_role['Role']['Arn']
现在,您已经创建了一个新角色,请附加该角色与 Amazon SageMaker 和 Amazon S3 交互所需的权限:
iam_client.attach_role_policy( RoleName=role_name, PolicyArn='arn:aws:iam::aws:policy/AmazonSageMakerFullAccess' ) iam_client.attach_role_policy( RoleName=role_name, PolicyArn='arn:aws:iam::aws:policy/AmazonS3FullAccess' );
-
创建 Amazon S3 存储桶以存储您的模型构件
SageMaker Neo 将从 Amazon S3 访问您的模型构件
-
训练机器学习模型
请参阅使用 Amazon SageMaker 训练模型,了解有关如何使用 Amazon SageMaker 训练机器学习模型的更多信息。您可以选择将在本地训练的模型直接上传到 Amazon S3 URI 存储桶中。
注意
确保模型的格式正确,具体取决于您使用的框架。请参阅 SageMaker Neo 需要什么输入数据形状?
如果您还没有模型,请使用
curl
命令从 TensorFlow 网站获取coco_ssd_mobilenet
模型的本地副本。您刚刚复制的模型是根据 COCO 数据集训练的对象检测模型。在 Jupyter 笔记本中键入以下内容: model_zip_filename = './coco_ssd_mobilenet_v1_1.0.zip' !curl http://storage.googleapis.com/download.tensorflow.org/models/tflite/coco_ssd_mobilenet_v1_1.0_quant_2018_06_29.zip \ --output {model_zip_filename}
请注意,此特定示例打包在 .zip 文件中。解压缩此文件并将其重新打包为压缩的 tarfile (
.tar.gz
),然后在后续步骤中使用。在 Jupyter 笔记本中键入以下内容:# Extract model from zip file !unzip -u {model_zip_filename} model_filename = 'detect.tflite' model_name = model_filename.split('.')[0] # Compress model into .tar.gz so SageMaker Neo can use it model_tar = model_name + '.tar.gz' !tar -czf {model_tar} {model_filename}
-
将训练过的模型上传到 S3 存储桶
完成机器学习模式的训练后,将其存储在 S3 存储桶中。