对实时推理容器使用私有 Docker 注册表

将存储在私有 Docker 注册表中的图像用于推理容器

1. 创建映像配置对象并指定Vpc(对于 )RepositoryAccessMode字段中返回的子位置类型。

   image_config = {
                       'RepositoryAccessMode': 'Vpc'
                  }

2. 如果您的私有 Docker 注册表需要身份验证，请添加RepositoryAuthConfig对象添加到映像配置对象。对于RepositoryCredentialsProviderArn字段中的RepositoryAuthConfig对象，请指定 Amazon 资源名称 (ARN)Amazon Lambda函数，该函数提供允许 SageMaker 对您的私有 Docker 注册表进行身份验证的凭据。有关如何创建 Lambda 函数以提供身份验证的信息，请参阅允许 SageMaker 对私有 Docker 注册表进行身份验证.

   image_config = {
                       'RepositoryAccessMode': 'Vpc',
                       'RepositoryAuthConfig': {
                          'RepositoryCredentialsProviderArn': 'arn:aws:lambda:Region:Acct:function:FunctionName'
                        }
                  }

3. 创建您要传递到的主容器对象create_model，使用您在上一步创建的映像配置对象。

   提供您的图片摘要形式。如果您使用:latest标签，则存在 SageMaker 拉取比预期更新的图像版本的风险。使用摘要表单可确保 SageMaker 拉出预期的图像版本。

   primary_container = {
       'ContainerHostname': 'ModelContainer',
       'Image': 'myteam.myorg.com/docker-local/my-inference-image:<IMAGE-TAG>',
       'ImageConfig': image_config
   }

4. 指定模型名称和您要传递给的执行角色create_model.

   model_name = 'vpc-model'
   execution_role_arn = 'arn:aws:iam::123456789012:role/SageMakerExecutionRole'

5. 为模型的 VPC 配置指定一个或多个安全组和子网。您的私有 Docker 注册表必须允许来自您指定的安全组的入站流量。您指定的子网必须与您的私有 Docker 注册表位于同一 VPC 中。

   vpc_config = {
       'SecurityGroupIds': ['sg-0123456789abcdef0'],
       'Subnets': ['subnet-0123456789abcdef0','subnet-0123456789abcdef1']
   }

6. 获取一个肉体 3 SageMaker 的客户端。

   import boto3
   sm = boto3.client('sagemaker')

7. 通过调用create_model，使用您在前面的步骤中为PrimaryContainer和VpcConfig参数。

   try:
       resp = sm.create_model(
           ModelName=model_name,
           PrimaryContainer=primary_container,
           ExecutionRoleArn=execution_role_arn,
           VpcConfig=vpc_config,
       )
   except Exception as e:
       print(f'error calling CreateModel operation: {e}')
   else:
       print(resp)

8. 最后，调用创建终端节点配置和创建终端节点以使用您在上一步中创建的模型创建托管终端节点。

   endpoint_config_name = 'my-endpoint-config'
   sm.create_endpoint_config(
       EndpointConfigName=endpoint_config_name,
       ProductionVariants=[
           {
               'VariantName': 'MyVariant',
               'ModelName': model_name,
               'InitialInstanceCount': 1,
               'InstanceType': 'ml.t2.medium'
           },
       ],
   )
   
   endpoint_name = 'my-endpoint'
   sm.create_endpoint(
       EndpointName=endpoint_name,
       EndpointConfigName=endpoint_config_name,
   )
   
   sm.describe_endpoint(EndpointName=endpoint_name)