对实时推理容器使用私有 Docker 注册表

将存储在私有 Docker 注册表中的图像用于推理容器

1. 创建映像配置对象并指定一个值Vpc(对于 )RepositoryAccessMode字段中返回的子位置类型。

   image_config = {
                       'RepositoryAccessMode': 'Vpc'
                  }

2. 如果您的私人 Docker 注册表需要身份验证，请添加RepositoryAuthConfig对象转换到映像配置对象。对于RepositoryCredentialsProviderArn字段中的RepositoryAuthConfig对象中，指定对象的 Amazon 资源名称 (ARN)Amazon Lambda函数，提供凭据，允许 SageMaker 向您的私有 Docker 注册表进行身份验证。有关如何创建 Lambda 函数来提供身份验证的信息，请参阅允许 SageMaker 对私有 Docker 注册表进行身份验证.

   image_config = {
                       'RepositoryAccessMode': 'Vpc',
                       'RepositoryAuthConfig': {
                          'RepositoryCredentialsProviderArn': 'arn:aws:lambda:Region:Acct:function:FunctionName'
                        }
                  }

3. 创建您要传递到的主容器对象。create_model，使用您在上一步中创建的映像配置对象。

   在中提供你的图片摘要形式。如果您使用:latest标签，则存在 SageMaker 提取比预期更新版本的图像的风险。使用摘要表格可确保 SageMaker 提取预期的映像版本。

   primary_container = {
       'ContainerHostname': 'ModelContainer',
       'Image': 'myteam.myorg.com/docker-local/my-inference-image:<IMAGE-TAG>',
       'ImageConfig': image_config
   }

4. 指定您要传递到的模型名称和执行角色。create_model.

   model_name = 'vpc-model'
   execution_role_arn = 'arn:aws:iam::123456789012:role/SageMakerExecutionRole'

5. 为您的模型的 VPC 配置指定一个或多个安全组和子网。您的私有 Docker 注册表必须允许来自您指定的安全组的入站流量。您指定的子网必须与私有 Docker 注册表位于同一 VPC 中。

   vpc_config = {
       'SecurityGroupIds': ['sg-0123456789abcdef0'],
       'Subnets': ['subnet-0123456789abcdef0','subnet-0123456789abcdef1']
   }

6. 获取 Boto3 SageMaker 客户端。

   import boto3
   sm = boto3.client('sagemaker')

7. 通过调用来创建模型create_model，使用您在之前步骤中为PrimaryContainer和VpcConfig参数。

   try:
       resp = sm.create_model(
           ModelName=model_name,
           PrimaryContainer=primary_container,
           ExecutionRoleArn=execution_role_arn,
           VpcConfig=vpc_config,
       )
   except Exception as e:
       print(f'error calling CreateModel operation: {e}')
   else:
       print(resp)

8. 最后，打电话创建 _endpoint_config和创建 _终端点使用您在上一步中创建的模型来创建托管终端节点。

   endpoint_config_name = 'my-endpoint-config'
   sm.create_endpoint_config(
       EndpointConfigName=endpoint_config_name,
       ProductionVariants=[
           {
               'VariantName': 'MyVariant',
               'ModelName': model_name,
               'InitialInstanceCount': 1,
               'InstanceType': 'ml.t2.medium'
           },
       ],
   )
   
   endpoint_name = 'my-endpoint'
   sm.create_endpoint(
       EndpointName=endpoint_name,
       EndpointConfigName=endpoint_config_name,
   )
   
   sm.describe_endpoint(EndpointName=endpoint_name)