Amazon SageMaker 终端节点和配额 - AWS 一般参考
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon SageMaker 终端节点和配额

以下是此服务的服务终端节点和服务配额。要通过编程方式连接到 AWS 服务,您需要使用终端节点。除了标准 AWS 终端节点之外,一些 AWS 服务还在选定区域提供 FIPS 终端节点。有关更多信息,请参阅 AWS 服务终端节点。服务配额(也称为限制)是您的 AWS 账户使用的服务资源或操作的最大数量。有关更多信息,请参阅AWS 服务配额

服务终端节点

下表提供了 SageMaker 支持培训和部署模型的特定于区域的终端节点列表。这包括创建和管理笔记本实例、训练作业、模型、终端节点配置和终端节点。

区域名称 区域 终端节点 协议
美国东部 (俄亥俄) us-east-2

api.sagemaker.us-east-2.amazonaws.com

api-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美国东部 (弗吉尼亚北部) us-east-1

api.sagemaker.us-east-1.amazonaws.com

api-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美国西部 (加利福尼亚北部) us-west-1

api.sagemaker.us-west-1.amazonaws.com

api-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美国西部 (俄勒冈) us-west-2

api.sagemaker.us-west-2.amazonaws.com

api-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

非洲(开普敦) af-south-1 api.sagemaker.af-south-1.amazonaws.com HTTPS
亚太区域 (香港) ap-east-1 api.sagemaker.ap-east-1.amazonaws.com HTTPS
亚太区域 (孟买) ap-south-1 api.sagemaker.ap-south-1.amazonaws.com HTTPS
亚太区域 (首尔) ap-northeast-2 api.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亚太地区 (新加坡) ap-southeast-1 api.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亚太地区 (悉尼) ap-southeast-2 api.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亚太地区 (东京) ap-northeast-1 api.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大(中部) ca-central-1 api.sagemaker.ca-central-1.amazonaws.com HTTPS
中国 (北京) cn-north-1 api.sagemaker.cn-north-1.amazonaws.com.cn HTTPS
中国(宁夏) cn-northwest-1 api.sagemaker.cn-northwest-1.amazonaws.com.cn HTTPS
歐洲 (法蘭克福) eu-central-1 api.sagemaker.eu-central-1.amazonaws.com HTTPS
歐洲 (愛爾蘭) eu-west-1 api.sagemaker.eu-west-1.amazonaws.com HTTPS
歐洲 (倫敦) eu-west-2 api.sagemaker.eu-west-2.amazonaws.com HTTPS
「歐洲」(米蘭) eu-south-1 api.sagemaker.eu-south-1.amazonaws.com HTTPS
歐洲 (巴黎) eu-west-3 api.sagemaker.eu-west-3.amazonaws.com HTTPS
歐洲 (斯德哥爾摩) eu-north-1 api.sagemaker.eu-north-1.amazonaws.com HTTPS
中东 (巴林) me-south-1 api.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲 (圣保罗) sa-east-1 api.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud (美国西部) us-gov-west-1

api.sagemaker.us-gov-west-1.amazonaws.com

api-fips.sagemaker.us-gov-west-1.amazonaws.com

api.sagemaker.us-gov-west-1.amazonaws.com

HTTPS

HTTPS

HTTPS

下表提供了 Amazon SageMaker 支持针对在 SageMaker 中托管的模型发出推理请求的特定于区域的终端节点列表。

区域名称 区域 终端节点 协议
美国东部 (俄亥俄) us-east-2

runtime.sagemaker.us-east-2.amazonaws.com

runtime-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美国东部 (弗吉尼亚北部) us-east-1

runtime.sagemaker.us-east-1.amazonaws.com

runtime-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美国西部 (加利福尼亚北部) us-west-1

runtime.sagemaker.us-west-1.amazonaws.com

runtime-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美国西部 (俄勒冈) us-west-2

runtime.sagemaker.us-west-2.amazonaws.com

runtime-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

非洲(开普敦) af-south-1 runtime.sagemaker.af-south-1.amazonaws.com HTTPS
亚太区域 (香港) ap-east-1 runtime.sagemaker.ap-east-1.amazonaws.com HTTPS
亚太区域 (孟买) ap-south-1 runtime.sagemaker.ap-south-1.amazonaws.com HTTPS
亚太区域 (首尔) ap-northeast-2 runtime.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亚太地区 (新加坡) ap-southeast-1 runtime.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亚太地区 (悉尼) ap-southeast-2 runtime.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亚太地区 (东京) ap-northeast-1 runtime.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大(中部) ca-central-1 runtime.sagemaker.ca-central-1.amazonaws.com HTTPS
中国 (北京) cn-north-1 runtime.sagemaker.cn-north-1.amazonaws.com.cn HTTPS
中国(宁夏) cn-northwest-1 runtime.sagemaker.cn-northwest-1.amazonaws.com.cn HTTPS
歐洲 (法蘭克福) eu-central-1 runtime.sagemaker.eu-central-1.amazonaws.com HTTPS
歐洲 (愛爾蘭) eu-west-1 runtime.sagemaker.eu-west-1.amazonaws.com HTTPS
歐洲 (倫敦) eu-west-2 runtime.sagemaker.eu-west-2.amazonaws.com HTTPS
「歐洲」(米蘭) eu-south-1 runtime.sagemaker.eu-south-1.amazonaws.com HTTPS
歐洲 (巴黎) eu-west-3 runtime.sagemaker.eu-west-3.amazonaws.com HTTPS
歐洲 (斯德哥爾摩) eu-north-1 runtime.sagemaker.eu-north-1.amazonaws.com HTTPS
中东 (巴林) me-south-1 runtime.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲 (圣保罗) sa-east-1 runtime.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud (美国西部) us-gov-west-1 runtime.sagemaker.us-gov-west-1.amazonaws.com HTTPS

Service Quotas

新账户的 SageMaker 配额可能不同于此处列出的默认配额。如果您收到提醒您已超出配额的错误,请联系客户服务以请求为您要使用的资源提高配额。

单独跟踪和修改按需实例和 Spot 实例配额。例如,利用默认配额,您可以同时运行最多 20 个具有按需 ml.m4.xlarge 实例的训练作业和最多 20 个具有托管 Spot ml.m4.xlarge 实例的训练作业。单独请求提高按需实例和 Spot 实例的配额。

Amazon SageMaker 笔记本
资源 默认值
ml.t2.medium 实例 20
ml.t2.large 实例 20
ml.t2.xlarge 实例 20
ml.t2.2xlarge 实例 20
ml.t3.medium 实例 20
ml.t3.large 实例 20
ml.t3.xlarge 实例 20
ml.t3.2xlarge 实例 20
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.c5d.xlarge 实例 20
ml.c5d.2xlarge 实例 20
ml.c5d.4xlarge 实例 5
ml.c5d.9xlarge 实例 5
ml.c5d.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2
笔记本电脑实例数 20
Amazon SageMaker 自动模型优化
资源 默认值
并发超级参数优化作业数 100
可搜索的超级参数的数量(分类超级参数中的每一个可能值都会计入此配额) 20
每个超级参数优化作业的定义的指标数 20
每个超级参数优化作业的并发训练作业数 10
每个超级参数优化作业的训练作业数 500
超参数调整任务的最大运行时间 30 天
Amazon SageMaker 处理
资源 默认值
ml.c4.2xlarge 20
ml.c4.4xlarge 20
ml.c4.8xlarge 20
ml.c4.xlarge 20
ml.c5.18xlarge 5
ml.c5.2xlarge 20
ml.c5.4xlarge 5
ml.c5.9xlarge 5
ml.c5.xlarge 20
ml.m4.10xlarge 5
ml.m4.16xlarge 5
ml.m4.2xlarge 20
ml.m4.4xlarge 10
ml.m4.xlarge 20
ml.m5.12xlarge 4
ml.m5.24xlarge 4
ml.m5.2xlarge 20
ml.m5.4xlarge 10
ml.m5.large 20
ml.m5.xlarge 65
ml.p2.16xlarge 4
ml.p2.8xlarge 4
ml.p2.xlarge 4
ml.p3.16xlarge 4
ml.p3.2xlarge 4
ml.p3.8xlarge 4
ml.r5.12xlarge 20
ml.r5.16xlarge 20
ml.r5.24xlarge 20
ml.r5.2xlarge 20
ml.r5.4xlarge 20
ml.r5.8xlarge 20
ml.r5.large 20
ml.r5.xlarge 20
ml.t3.2xlarge 5
ml.t3.large 20
ml.t3.medium 50
ml.t3.xlarge 10
处理作业的最长运行时间 5 天
所有处理作业的实例数 75
处理作业的实例数 20
实例的 EBS 卷大小 1TB
Amazon SageMaker 训练和托管的 Spot 训练
资源 默认值
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2
训练作业的最长运行时间 5 天
所有训练作业的实例数 20
训练作业的实例数 20
实例的 EBS 卷大小 1TB
Amazon SageMaker 托管
资源 默认值
ml.t2.medium 实例 20
ml.t2.large 实例 20
ml.t2.xlarge 实例 20
ml.t2.2xlarge 实例 20
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.m5d.large 实例 20
ml.m5d.xlarge 实例 20
ml.m5d.2xlarge 实例 20
ml.m5d.4xlarge 实例 10
ml.m5d.12xlarge 实例 3
ml.m5d.24xlarge 实例 2
ml.c4.large 实例 20
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.large 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.c5d.large 实例 20
ml.c5d.xlarge 实例 20
ml.c5d.2xlarge 实例 20
ml.c5d.4xlarge 实例 5
ml.c5d.9xlarge 实例 5
ml.c5d.18xlarge 实例 5
ml.p2.xlarge 实例 2
ml.p2.8xlarge 实例 2
ml.p2.16xlarge 实例 2
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2
ml.g4dn.xlarge 实例 2
ml.g4dn.2xlarge 实例 2
ml.g4dn.4xlarge 实例 2
ml.g4dn.8xlarge 实例 2
ml.g4dn.12xlarge 实例 2
ml.g4dn.16xlarge 实例 2
ml.r5.large 实例 5
ml.r5.xlarge 实例 5
ml.r5.2xlarge 实例 4
ml.r5.4xlarge 实例 4
ml.r5.12xlarge 实例 3
ml.r5.24xlarge 实例 3
ml.r5d.large 实例 5
ml.r5d.xlarge 实例 5
ml.r5d.2xlarge 实例 4
ml.r5d.4xlarge 实例 4
ml.r5d.12xlarge 实例 3
ml.r5d.24xlarge 实例 3
所有活动终端节点的实例数 20
终端节点的实例数 20
所有终端节点的 TPS 总和 10000
终端节点调用的最大负载大小 5MB
终端节点调用的推理超时 60 秒
Amazon SageMaker 批量转换
资源 默认值
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2
转换作业的最长运行时间 5 天
一个转换作业的实例数 20
小批量推理的最大负载大小 100MB
小批量推理的推理超时 60 分钟
Amazon SageMaker Ground Truth
资源 默认值
并发贴标作业 20
每个贴标作业的数据集对象 100000