使用 endpoints 命令管理推理端点 - Amazon Neptune
创建推理端点获取端点状态。删除端点列出推理端点
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

使用 endpoints 命令管理推理端点

您可以使用 Neptune ML endpoints 命令创建推理端点、检查其状态、将其删除或列出现有推理端点。

使用 Neptune ML endpoints 命令创建推理端点

用于根据训练任务创建的模型创建推理端点的 Neptune ML endpoints 命令如下所示：

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "mlModelTrainingJobId": "(the model-training job-id of a completed job)"
      }'

用于根据训练任务创建的模型更新现有推理端点的 Neptune ML endpoints 命令如下所示：

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "update" : "true",
        "mlModelTrainingJobId": "(the model-training job-id of a completed job)"
      }'

用于根据模型转换任务创建的模型创建推理端点的 Neptune ML endpoints 命令如下所示：

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "mlModelTransformJobId": "(the model-training job-id of a completed job)"
      }'

用于根据模型转换任务创建的模型更新现有推理端点的 Neptune ML endpoints 命令如下所示：

curl \
  -X POST https://(your Neptune endpoint)/ml/endpoints
  -H 'Content-Type: application/json' \
  -d '{
        "id" : "(a unique ID for the new endpoint)",
        "update" : "true",
        "mlModelTransformJobId": "(the model-training job-id of a completed job)"
      }'
用于创建 endpoints 推理端点的参数

  • id –（可选）新推理端点的唯一标识符。

    类型：字符串。默认：自动生成的带有时间戳的名称。

  • mlModelTrainingJobId – 已完成的模型训练任务的任务 ID，该任务创建了推理端点将指向的模型。

    类型：字符串。

    注意：您必须提供 mlModelTrainingJobId 或 mlModelTransformJobId。

  • mlModelTransformJobId – 已完成的模型转换任务的任务 ID。

    类型：字符串。

    注意：您必须提供 mlModelTrainingJobId 或 mlModelTransformJobId。

  • update –（可选）如果存在，则此参数表示这是更新请求。

    类型：布尔值。默认值：false

    注意：您必须提供 mlModelTrainingJobId 或 mlModelTransformJobId。

  • neptuneIamRoleArn –（可选）向 Neptune 提供对 SageMaker 和 Amazon S3 资源的访问权限的 IAM 角色的 ARN。

    类型：字符串。注意：必须将其列在您的数据库集群参数组中，否则将引发错误。

  • modelName –（可选）训练的模型类型。默认情况下，机器学习模型是根据数据处理中使用的 modelType 自动生成的，但您可以在此处指定不同的模型类型。

    类型：字符串。默认：rgcn 用于异构图形，kge 用于知识图谱。有效值：对于异构图形：rgcn。对于知识图谱：kge、transe、distmult 或 rotate。

  • instanceType –（可选）用于在线服务的机器学习实例的类型。

    类型：字符串。默认值：ml.m5.xlarge。

    注意：为推理端点选择 ML 实例取决于任务类型、图形大小和预算。请参阅为推理端点选择实例。

  • instanceCount –（可选）部署到端点以进行预测的最少 Amazon EC2 实例数量。

    类型：整数。默认值：1。

  • volumeEncryptionKMSKey –（可选）Amazon Key Management Service (Amazon KMS) 密钥，SageMaker 使用它来加密附加到运行端点的 ML 计算实例的存储卷上的数据。

    类型：字符串。默认值：无。

使用 Neptune ML endpoints 命令获取推理端点的状态

用于显示实例端点状态的示例 Neptune ML endpoints 命令如下所示：

curl -s \
  "https://(your Neptune endpoint)/ml/endpoints/(the inference endpoint ID)" \
  | python -m json.tool
endpoints 实例端点状态的参数

  • id –（必需）推理端点的唯一标识符。

    类型：字符串。

  • neptuneIamRoleArn –（可选）向 Neptune 提供对 SageMaker 和 Amazon S3 资源的访问权限的 IAM 角色的 ARN。

    类型：字符串。注意：必须将其列在您的数据库集群参数组中，否则将引发错误。

使用 Neptune ML endpoints 命令删除实例端点

用于删除实例端点的 Neptune ML endpoints 命令示例如下所示：

curl -s \
  -X DELETE "https://(your Neptune endpoint)/ml/endpoints/(the inference endpoint ID)"

或者：

curl -s \
  -X DELETE "https://(your Neptune endpoint)/ml/endpoints/(the inference endpoint ID)?clean=true"
endpoints 删除推理端点的参数

  • id –（必需）推理端点的唯一标识符。

    类型：字符串。

  • neptuneIamRoleArn –（可选）向 Neptune 提供对 SageMaker 和 Amazon S3 资源的访问权限的 IAM 角色的 ARN。

    类型：字符串。注意：必须将其列在您的数据库集群参数组中，否则将引发错误。

  • clean –（可选）表示还应删除与此端点相关的所有构件。

    类型：布尔值。默认值：FALSE。

使用 Neptune ML endpoints 命令列出推理端点

用于列出推理端点的 Neptune ML endpoints 命令如下所示：

curl -s "https://(your Neptune endpoint)/ml/endpoints" \
  | python -m json.tool

或者：

curl -s "https://(your Neptune endpoint)/ml/endpoints?maxItems=3" \
  | python -m json.tool
dataprocessing 列出推理端点的参数

  • maxItems –（可选），表示要返回的最大项目数。

    类型：整数。默认值：10。允许的最大值：1024。

  • neptuneIamRoleArn –（可选）向 Neptune 提供对 SageMaker 和 Amazon S3 资源的访问权限的 IAM 角色的 ARN。

    类型：字符串。注意：必须将其列在您的数据库集群参数组中，否则将引发错误。