Amazon SageMaker 终端节点和配额 - AWS 一般参考
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

如果我们为英文版本指南提供翻译,那么如果存在任何冲突,将以英文版本指南为准。在提供翻译时使用机器翻译。

Amazon SageMaker 终端节点和配额

以下是此服务的服务终端节点和服务配额。要通过编程方式连接到 AWS 服务,您需要使用终端节点。有关更多信息,请参阅 AWS 服务终端节点。服务配额(也称为限制)是您的 AWS 账户的最大服务资源或操作数量。有关更多信息,请参阅 AWS 服务配额

Service Endpoints

下表提供了 SageMaker 支持培训和部署模型的特定于区域的终端节点列表。这包括创建和管理笔记本实例、训练作业、模型、终端节点配置和终端节点。

区域名称 区域 终端节点 协议
美國東部 (俄亥俄) us-east-2

api.sagemaker.us-east-2.amazonaws.com

api-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美國東部 (維吉尼亞北部) us-east-1

api.sagemaker.us-east-1.amazonaws.com

api-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美國西部 (加利佛尼亞北部) us-west-1

api.sagemaker.us-west-1.amazonaws.com

api-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美國西部 (奧勒岡) us-west-2

api.sagemaker.us-west-2.amazonaws.com

api-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

亞太區域 (香港) ap-east-1 api.sagemaker.ap-east-1.amazonaws.com HTTPS
亞太區域 (孟買) ap-south-1 api.sagemaker.ap-south-1.amazonaws.com HTTPS
亞太區域 (首爾) ap-northeast-2 api.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亞太區域 (新加坡) ap-southeast-1 api.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亞太區域 (雪梨) ap-southeast-2 api.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亞太區域 (東京) ap-northeast-1 api.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大 (中部) ca-central-1 api.sagemaker.ca-central-1.amazonaws.com HTTPS
中國 (北京) cn-north-1 api.sagemaker.cn-north-1.amazonaws.com.cn HTTPS
中國 (寧夏) cn-northwest-1 api.sagemaker.cn-northwest-1.amazonaws.com.cn HTTPS
歐洲 (法蘭克福) eu-central-1 api.sagemaker.eu-central-1.amazonaws.com HTTPS
歐洲 (愛爾蘭) eu-west-1 api.sagemaker.eu-west-1.amazonaws.com HTTPS
歐洲 (倫敦) eu-west-2 api.sagemaker.eu-west-2.amazonaws.com HTTPS
歐洲 (巴黎) eu-west-3 api.sagemaker.eu-west-3.amazonaws.com HTTPS
歐洲 (斯德哥爾摩) eu-north-1 api.sagemaker.eu-north-1.amazonaws.com HTTPS
中東 (巴林) me-south-1 api.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲 (聖保羅) sa-east-1 api.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud (美國) us-gov-west-1

api.sagemaker.us-gov-west-1.amazonaws.com

api-fips.sagemaker.us-gov-west-1.amazonaws.com

api.sagemaker.us-gov-west-1.amazonaws.com

HTTPS

HTTPS

HTTPS

下表提供了 Amazon SageMaker 支持针对在 SageMaker 中托管的模型发出推理请求的特定于区域的终端节点列表。

区域名称 区域 终端节点 协议
美國東部 (俄亥俄) us-east-2

runtime.sagemaker.us-east-2.amazonaws.com

runtime-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美國東部 (維吉尼亞北部) us-east-1

runtime.sagemaker.us-east-1.amazonaws.com

runtime-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美國西部 (加利佛尼亞北部) us-west-1

runtime.sagemaker.us-west-1.amazonaws.com

runtime-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美國西部 (奧勒岡) us-west-2

runtime.sagemaker.us-west-2.amazonaws.com

runtime-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

亞太區域 (香港) ap-east-1 runtime.sagemaker.ap-east-1.amazonaws.com HTTPS
亞太區域 (孟買) ap-south-1 runtime.sagemaker.ap-south-1.amazonaws.com HTTPS
亞太區域 (首爾) ap-northeast-2 runtime.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亞太區域 (新加坡) ap-southeast-1 runtime.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亞太區域 (雪梨) ap-southeast-2 runtime.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亞太區域 (東京) ap-northeast-1 runtime.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大 (中部) ca-central-1 runtime.sagemaker.ca-central-1.amazonaws.com HTTPS
中國 (北京) cn-north-1 runtime.sagemaker.cn-north-1.amazonaws.com.cn HTTPS
中國 (寧夏) cn-northwest-1 runtime.sagemaker.cn-northwest-1.amazonaws.com.cn HTTPS
歐洲 (法蘭克福) eu-central-1 runtime.sagemaker.eu-central-1.amazonaws.com HTTPS
歐洲 (愛爾蘭) eu-west-1 runtime.sagemaker.eu-west-1.amazonaws.com HTTPS
歐洲 (倫敦) eu-west-2 runtime.sagemaker.eu-west-2.amazonaws.com HTTPS
歐洲 (巴黎) eu-west-3 runtime.sagemaker.eu-west-3.amazonaws.com HTTPS
歐洲 (斯德哥爾摩) eu-north-1 runtime.sagemaker.eu-north-1.amazonaws.com HTTPS
中東 (巴林) me-south-1 runtime.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲 (聖保羅) sa-east-1 runtime.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud (美國) us-gov-west-1 runtime.sagemaker.us-gov-west-1.amazonaws.com HTTPS

Service Quotas

新账户的 SageMaker 配额可能不同于此处列出的默认配额。如果您收到提醒您已超出配额的错误,请联系客户服务以请求为您要使用的资源提高配额。

单独跟踪和修改按需实例和 Spot 实例配额。例如,利用默认配额,您可以同时运行最多 20 个具有按需 ml.m4.xlarge 实例的训练作业和最多 20 个具有托管 Spot ml.m4.xlarge 实例的训练作业。单独请求提高按需实例和 Spot 实例的配额。

Amazon SageMaker 笔记本
Resource 默认值:
ml.t2.medium 实例 20
ml.t2.large 实例 20
ml.t2.xlarge 实例 20
ml.t2.2xlarge 实例 20
ml.t3.medium 实例 20
ml.t3.large 实例 20
ml.t3.xlarge 实例 20
ml.t3.2xlarge 实例 20
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.c5d.xlarge 实例 20
ml.c5d.2xlarge 实例 20
ml.c5d.4xlarge 实例 5
ml.c5d.9xlarge 实例 5
ml.c5d.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2.
笔记本电脑实例数 20
Amazon SageMaker 自动模型优化
Resource 默认值:
并发超级参数优化作业数 -100
可搜索的超级参数的数量(分类超级参数中的每一个可能值都会计入此配额) 20
每个超级参数优化作业的定义的指标数 20
每个超级参数优化作业的并发训练作业数 10*
每个超级参数优化作业的训练作业数 500**
超参数调整任务的最大运行时间 30 天
Amazon SageMaker 处理
Resource 默认值:
ml.c4.2xlarge 20
ml.c4.4xlarge 20
ml.c4.8xlarge 20
ml.c4.xlarge 20
ml.c5.18xlarge 5
ml.c5.2xlarge 20
ml.c5.4xlarge 5
ml.c5.9xlarge 5
ml.c5.xlarge 20
ml.m4.10xlarge 5
ml.m4.16xlarge 5
ml.m4.2xlarge 20
ml.m4.4xlarge 10
ml.m4.xlarge 20
ml.m5.12xlarge 4
ml.m5.24xlarge 4
ml.m5.2xlarge 20
ml.m5.4xlarge 10
ml.m5.large 20
ml.m5.xlarge 65
ml.p2.16xlarge 4
ml.p2.8xlarge 4
ml.p2.xlarge 4
ml.p3.16xlarge 4
ml.p3.2large 4
ml.p3.8xlarge 4
ml.r5.12xlarge 20
ml.r5.16xlarge 20
ml.r5.24xlarge 20
ml.r5.2xlarge 20
ml.r5.4xlarge 20
ml.r5.8xlarge 20
ml.r5.large 20
ml.r5.xlarge 20
ml.t3.2xlarge 5
ml.t3.large 20
ml.t3.medium 50
ml.t3.xlarge 10*
处理作业的最长运行时间 5 天
所有处理作业的实例数 75*
处理作业的实例数 20
实例的 EBS 卷大小 1TB
Amazon SageMaker 培训和托管现场培训
Resource 默认值:
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2.
训练作业的最长运行时间 5 天
所有训练作业的实例数 20
训练作业的实例数 20
实例的 EBS 卷大小 1TB
Amazon SageMaker 托管
Resource 默认值:
ml.t2.medium 实例 20
ml.t2.large 实例 20
ml.t2.xlarge 实例 20
ml.t2.2xlarge 实例 20
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.m5d.large 实例 20
ml.m5d.xlarge 实例 20
ml.m5d.2xlarge 实例 20
ml.m5d.4xlarge 实例 10
ml.m5d.12xlarge 实例 3
ml.m5d.24xlarge 实例 2
ml.c4.large 实例 20
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.large 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.c5d.large 实例 20
ml.c5d.xlarge 实例 20
ml.c5d.2xlarge 实例 20
ml.c5d.4xlarge 实例 5
ml.c5d.9xlarge 实例 5
ml.c5d.18xlarge 实例 5
ml.p2.xlarge 实例 2
ml.p2.8xlarge 实例 2
ml.p2.16xlarge 实例 2
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2
ml.g4dn.xlarge 实例 2
ml.g4dn.2xlarge 实例 2
ml.g4dn.4xlarge 实例 2
ml.g4dn.8xlarge 实例 2
ml.g4dn.12xlarge 实例 2
ml.g4dn.16xlarge 实例 2
ml.r5.large 实例 5
ml.r5.xlarge 实例 5
ml.r5.2xlarge 实例 4
ml.r5.4xlarge 实例 4
ml.r5.12xlarge 实例 3
ml.r5.24xlarge 实例 3
ml.r5d.large 实例 5
ml.r5d.xlarge 实例 5
ml.r5d.2xlarge 实例 4
ml.r5d.4xlarge 实例 4
ml.r5d.12xlarge 实例 3
ml.r5d.24xlarge 实例 3
所有活动终端节点的实例数 20
终端节点的实例数 20
所有终端节点的 TPS 总和 10,000*
终端节点调用的最大负载大小 25MB
端点调用的推论超时 60 秒
Amazon SageMaker 批量转换
Resource 默认值:
ml.m4.xlarge 实例 20
ml.m4.2xlarge 实例 20
ml.m4.4xlarge 实例 10
ml.m4.10xlarge 实例 5
ml.m4.16xlarge 实例 5
ml.m5.large 实例 20
ml.m5.xlarge 实例 20
ml.m5.2xlarge 实例 20
ml.m5.4xlarge 实例 10
ml.m5.12xlarge 实例 3
ml.m5.24xlarge 实例 2
ml.c4.xlarge 实例 20
ml.c4.2xlarge 实例 20
ml.c4.4xlarge 实例 20
ml.c4.8xlarge 实例 20
ml.c5.xlarge 实例 20
ml.c5.2xlarge 实例 20
ml.c5.4xlarge 实例 5
ml.c5.9xlarge 实例 5
ml.c5.18xlarge 实例 5
ml.p2.xlarge 实例 1
ml.p2.8xlarge 实例 1
ml.p2.16xlarge 实例 1
ml.p3.2xlarge 实例 2
ml.p3.8xlarge 实例 2
ml.p3.16xlarge 实例 2.
转换作业的最长运行时间 5 天
一个转换作业的实例数 20
迷你批次推论的最大有效载荷大小 100MB
迷你批次推论推断超时 60 minutes
Amazon SageMaker Ground Truth
Resource 默认值:
并发贴标作业 20
每个贴标作业的数据集对象 100,000