Amazon SageMaker 终端节点和配额 - AWS 一般参考
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon SageMaker 终端节点和配额

以下是此服务的服务终端节点和服务配额。要以编程方式连接到 AWS 服务,您需要使用终端节点。除了标准 AWS 终端节点之外,一些 AWS 服务还在选定区域中提供 FIPS 终端节点。有关更多信息,请参阅 AWS 服务终端节点。服务配额(也称为限制)是您的 AWS 账户使用的服务资源或操作的最大数量。有关更多信息,请参阅 AWS Service Quoas

服务终端节点

下表提供了 SageMaker 支持培训和部署模型的特定于区域的终端节点列表。这包括创建和管理笔记本实例、训练作业、模型、终端节点配置和终端节点。

区域名称 区域 Endpoint 协议
美国东部 (俄亥俄) us-east-2

api.sagemaker.us-east-2.amazonaws.com

api-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美国东部 (弗吉尼亚北部) us-east-1

api.sagemaker.us-east-1.amazonaws.com

api-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美国西部 (加利福尼亚北部) us-west-1

api.sagemaker.us-west-1.amazonaws.com

api-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美国西部 (俄勒冈) us-west-2

api.sagemaker.us-west-2.amazonaws.com

api-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

非洲(开普敦) af-south-1 api.sagemaker.af-south-1.amazonaws.com HTTPS
亚太地区(香港) ap-east-1 api.sagemaker.ap-east-1.amazonaws.com HTTPS
亚太地区 (孟买) ap-south-1 api.sagemaker.ap-south-1.amazonaws.com HTTPS
亚太地区 (首尔) ap-northeast-2 api.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亚太地区 (新加坡) ap-southeast-1 api.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亚太地区 (悉尼) ap-southeast-2 api.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亚太地区 (东京) ap-northeast-1 api.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大(中部) ca-central-1 api.sagemaker.ca-central-1.amazonaws.com HTTPS
中国(北京) cn-north-1 api.sagemaker.cn-nor1.amazonaws.com.cn HTTPS
中国 (宁夏) cn-northwest-1 api.sagemaker.cn-west-1.amazonaws.com.cn HTTPS
欧洲(法兰克福) eu-central-1 api.sagemaker.eu-central-1.amazonaws.com HTTPS
欧洲(爱尔兰) eu-west-1 api.sagemaker.eu-west-1.amazonaws.com HTTPS
欧洲(伦敦) eu-west-2 api.sagemaker.eu-west-2.amazonaws.com HTTPS
欧洲(米兰) eu-south-1 api.sagemaker.eu-south-1.amazonaws.com HTTPS
欧洲(巴黎) eu-west-3 api.sagemaker.eu-west-3.amazonaws.com HTTPS
欧洲(斯德哥尔摩) eu-north-1 api.sagemaker.eu-south-1.amazonaws.com HTTPS
中东(巴林) me-south-1 api.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲(圣保罗) sa-east-1 api.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud(美国西部) us-gov-west-1

api.sagemaker.us-gov-west-1.amazonaws.com

api-fips.sagemaker.us-gov-west-1.amazonaws.com

api.sagemaker.us-gov-west-1.amazonaws.com

HTTPS

HTTPS

HTTPS

下表提供了 Amazon SageMaker 支持针对 SageMaker 中托管的模型发出推理请求的特定于区域的终端节点列表。

区域名称 区域 Endpoint 协议
美国东部 (俄亥俄) us-east-2

runtime.sagemaker.us-east-2.amazonaws.com

runtime-fips.sagemaker.us-east-2.amazonaws.com

HTTPS

HTTPS

美国东部 (弗吉尼亚北部) us-east-1

runtime.sagemaker.us-east-1.amazonaws.com

runtime-fips.sagemaker.us-east-1.amazonaws.com

HTTPS

HTTPS

美国西部 (加利福尼亚北部) us-west-1

runtime.sagemaker.us-west-1.amazonaws.com

runtime-fips.sagemaker.us-west-1.amazonaws.com

HTTPS

HTTPS

美国西部 (俄勒冈) us-west-2

runtime.sagemaker.us-west-2.amazonaws.com

runtime-fips.sagemaker.us-west-2.amazonaws.com

HTTPS

HTTPS

非洲(开普敦) af-south-1 runtime.sagemaker.af-south-1.amazonaws.com HTTPS
亚太地区(香港) ap-east-1 runtime.sagemaker.ap-east-1.amazonaws.com HTTPS
亚太地区 (孟买) ap-south-1 runtime.sagemaker.ap-south-1.amazonaws.com HTTPS
亚太地区 (首尔) ap-northeast-2 runtime.sagemaker.ap-northeast-2.amazonaws.com HTTPS
亚太地区 (新加坡) ap-southeast-1 runtime.sagemaker.ap-southeast-1.amazonaws.com HTTPS
亚太地区 (悉尼) ap-southeast-2 runtime.sagemaker.ap-southeast-2.amazonaws.com HTTPS
亚太地区 (东京) ap-northeast-1 runtime.sagemaker.ap-northeast-1.amazonaws.com HTTPS
加拿大(中部) ca-central-1 runtime.sagemaker.ca-central-1.amazonaws.com HTTPS
中国(北京) cn-north-1 runtime.sagemaker.cn-nor1.amazonaws.com.cn HTTPS
中国 (宁夏) cn-northwest-1 runtime.sagemaker.cn-west-1.amazonaws.com.cn HTTPS
欧洲(法兰克福) eu-central-1 runtime.sagemaker.eu-central-1.amazonaws.com HTTPS
欧洲(爱尔兰) eu-west-1 runtime.sagemaker.eu-west-1.amazonaws.com HTTPS
欧洲(伦敦) eu-west-2 runtime.sagemaker.eu-west-2.amazonaws.com HTTPS
欧洲(米兰) eu-south-1 runtime.sagemaker.eu-south-1.amazonaws.com HTTPS
欧洲(巴黎) eu-west-3 runtime.sagemaker.eu-west-3.amazonaws.com HTTPS
欧洲(斯德哥尔摩) eu-north-1 runtime.sagemaker.eu-北1.amazonaws.com HTTPS
中东(巴林) me-south-1 runtime.sagemaker.me-south-1.amazonaws.com HTTPS
南美洲(圣保罗) sa-east-1 runtime.sagemaker.sa-east-1.amazonaws.com HTTPS
AWS GovCloud(美国西部) us-gov-west-1

runtime.sagemaker.us-gov-west-1.amazonaws.com

runtime.sagemaker.us-gov-west-1.amazonaws.com

HTTPS

HTTPS

Service Quotas

您的 SageMaker 配额可能与下表中列出的默认 SageMaker 配额不同,具体取决于您的活动和资源使用情况。此页中的默认配额基于新帐户。如果您遇到超出配额的错误消息,请使用AWS Support,请求提高要向上扩展的 SageMaker 资源的服务限制。有关如何请求提高服务限制的说明,请参阅支持的区域和配额Amazon SageMaker 开发人员指南

SageMaker Studio
资源 默认值
内核网关-ml.c5.large 0
内核网关-ml.c5.xlarge 0
内核网关-ml.c5.2xlarge 0
内核网关-ml.c5.4xlarge 0
内核网关-ml.c5.9xlarge 0
内核网关-ml.c5.12xlarge 0
内核网关-ml.c5.18xlarge 0
内核网关-ml.c5.24xlarge 0
内核网关-ml.g4dn.xlarge 0
内核网关-ml.g4dn.2xlarge 0
内核网关-ml.g4dn.4xlarge 0
内核网关-ml.g4dn.8xlarge 0
内核网关-ml.g4dn.12xlarge 0
内核网关-ml.g4dn.16xlarge 0
内核网关-ml.m5.large 0
内核网关-ml.m5.xlarge 0
内核网关-ml.m5.2xlarge 0
内核网关-ml.m5.4xlarge 1
内核网关-ml.m5.8xlarge 0
内核网关-ml.m5.12xlarge 0
内核网关-ml.m5.16xlarge 0
内核网关-ml.m5.24xlarge 0
内核网关-ml.p3.2xlarge 0

内核网关-ml.p3.8xlarge

0
内核网关-ml.p3.16xlarge 0

内核网关-ml.t3.medium

2

内核网关-ml.t3.large

0

内核网关-ml.t3.xlarge

0

内核网关 ml.t3.2xlarge

0

每个账户运行的应用程序数

20

每个账户的用户配置文件数

2
SageMaker 映像
资源 默认值
SageMaker 映像数 250
每个 SageMaker 映像的图像版本数 1000
SageMaker 笔记本
资源 默认值
ml.t2.medium 实例 2
ml.t2.large 实例 0
ml.t2.xlarge 实例 0
ml.t2.2xlarge 实例 0
ml.t3.medium 实例 2
ml.t3.large 实例 0
ml.t3.xlarge 实例 0
ml.t3.2xlarge 实例 0
ml.m4.xlarge 实例 0
ml.m4.2xlarge 实例 0
ml.m4.4xlarge 实例 0
ml.m4.10xlarge 实例 0
ml.m4.16xlarge 实例 0
ml.m5.xlarge 实例 0
ml.m5.2xlarge 实例 0
ml.m5.4xlarge 实例 0
ml.m5.12xlarge 实例 0
ml.m5.24xlarge 实例 0
ml.c4.xlarge 实例 0
ml.c4.2xlarge 实例 0
ml.c4.4xlarge 实例 0
ml.c4.8xlarge 实例 0
ml.c5.xlarge 实例 0
ml.c5.2xlarge 实例 0
ml.c5.4xlarge 实例 0
ml.c5.9xlarge 实例 0
ml.c5.18xlarge 实例 0
ml.c5d.xlarge 实例 0
ml.c5d.2xlarge 实例 0
ml.c5d.4xlarge 实例 0
ml.c5d.9xlarge 实例 0
ml.c5d.18xlarge 实例 0
ml.p2.xlarge 实例 0
ml.p2.8xlarge 实例 0
ml.p2.16xlarge 实例 0
ml.p3.2xlarge 实例 0
ml.p3.8xlarge 实例 0
ml.p3.16xlarge 实例 0
ml.eia1.medium 实例 0
ml.eia1.large 实例 0
ml.eia1.xlarge 实例 0
ml.eia2.medium 实例 0
ml.eia2.large 实例 0
ml.eia2.xlarge 实例 0
加速器数 0
笔记本电脑实例数 4
实例的 EBS 卷大小(以 GB 为单位) 102400
SageMaker Ground Truth
资源 默认值
贴标作业总数 1
流式传输贴标作业总数 0
每个贴标作业的最大数据集对象 10000
工作团队数 25
SageMaker 项目
资源 默认值
项目数 500
SageMaker 管道
资源 默认值
管线数量 500
SageMaker 管道执行
资源 默认值
管道执行数 20
SageMaker 功能店
资源 默认值
要素组的数量 10
SageMaker 处理
资源 默认值
ml.c4.xlarge 4
ml.c4.2xlarge 4
ml.c4.4xlarge 4
ml.c4.8xlarge 4
ml.c5.xlarge 4
ml.c5.2xlarge 4
ml.c5.4xlarge 1
ml.c5.9xlarge 1
ml.c5.18xlarge 1
ml.m4.xlarge 4
ml.m4.2xlarge 4
ml.m4.4xlarge 2
ml.m4.10xlarge 1
ml.m4.16xlarge 1
ml.m5.large 4
ml.m5.xlarge 4
ml.m5.2xlarge 4
ml.m5.4xlarge 2
ml.m5.12xlarge 0
ml.m5.24xlarge 0
ml.p2.xlarge 0
ml.p2.8xlarge 0
ml.p2.16xlarge 0
ml.p3.2xlarge 0
ml.p3.8xlarge 0
ml.p3.16xlarge 0
ml.r5.large 4
ml.r5.xlarge 4
ml.r5.2xlarge 4
ml.r5.4xlarge 1
ml.r5.8xlarge 1
ml.r5.12xlarge 1
ml.r5.16xlarge 1
ml.r5.24xlarge 0
ml.t3.medium 4
ml.t3.large 4
ml.t3.xlarge 2
ml.t3.2xlarge 0
处理作业的最长运行时间 5 天
所有处理作业的实例数 4
每个处理作业的实例数 20
实例的 EBS 卷大小 1TB
注意

在 SageMaker 培训的情况下,单独跟踪和修改按需实例和 SageMaker 实例配额。例如,利用默认配额,您可以同时运行最多 20 个具有 ml.m4.xlarge 按需实例的训练作业和最多 20 个具有 ml.m4.xlarge 竞价型实例的训练作业。

SageMaker 培训
资源 默认值
ml.c4.xlarge 实例 4
ml.c4.2xlarge 实例 4
ml.c4.4xlarge 实例 4
ml.c4.8xlarge 实例 4
ml.c5.xlarge 实例 4
ml.c5.2xlarge 实例 4
ml.c5.4xlarge 实例 1
ml.c5.9xlarge 实例 1
ml.c5.18xlarge 实例 0
ml.c5n.xlarge 实例 0
ml.c5n.2xlarge 实例 0
ml.c5n.4xlarge 实例 0
ml.c5n.9xlarge 实例 0
ml.c5n.18xlarge 实例 0
ml.g4dn.xlarge 实例 0
ml.g4dn.2xlarge 实例 0
ml.g4dn.4xlarge 实例 0
ml.g4dn.8xlarge 实例 0
ml.g4dn.12xlarge 实例 0
ml.g4dn.16xlarge 实例 0
ml.m4.xlarge 实例 4
ml.m4.2xlarge 实例 4
ml.m4.4xlarge 实例 2
ml.m4.10xlarge 实例 0
ml.m4.16xlarge 实例 0
ml.m5.large 实例 4
ml.m5.xlarge 实例 4
ml.m5.2xlarge 实例 4
ml.m5.4xlarge 实例 20
ml.m5.12xlarge 实例 0
ml.m5.24xlarge 实例 0
ml.p2.xlarge 实例 0
ml.p2.8xlarge 实例 0
ml.p2.16xlarge 实例 0
ml.p3.2xlarge 实例 0
ml.p3.8xlarge 实例 0
ml.p3.16xlarge 实例 0
ml.p3dn.24xlarge 实例 0
ml.p4d.24xlarge 实例 0
训练作业的最长运行时间 5 天
所有训练作业的实例数 4
每个训练作业的实例数 20
实例的 EBS 卷大小 1TB
SageMaker 托管的 SageMaker S
资源 默认值
ml.c4.xlarge 实例 4
ml.c4.2xlarge 实例 4
ml.c4.4xlarge 实例 4
ml.c4.8xlarge 实例 4
ml.c5.xlarge 实例 4
ml.c5.2xlarge 实例 4
ml.c5.4xlarge 实例 1
ml.c5.9xlarge 实例 1
ml.c5.18xlarge 实例 0
ml.c5n.xlarge 实例 0
ml.c5n.2xlarge 实例 0
ml.c5n.4xlarge 实例 0
ml.c5n.9xlarge 实例 0
ml.c5n.18xlarge 实例 0
ml.g4dn.xlarge 实例 0
ml.g4dn.2xlarge 实例 0
ml.g4dn.4xlarge 实例 0
ml.g4dn.8xlarge 实例 0
ml.g4dn.12xlarge 实例 0
ml.g4dn.16xlarge 实例 0
ml.m4.xlarge 实例 4
ml.m4.2xlarge 实例 4
ml.m4.4xlarge 实例 2
ml.m4.10xlarge 实例 0
ml.m4.16xlarge 实例 0
ml.m5.large 实例 4
ml.m5.xlarge 实例 4
ml.m5.2xlarge 实例 4
ml.m5.4xlarge 实例 2
ml.m5.12xlarge 实例 0
ml.m5.24xlarge 实例 0
ml.p2.xlarge 实例 0
ml.p2.8xlarge 实例 0
ml.p2.16xlarge 实例 0
ml.p3.2xlarge 实例 0
ml.p3.8xlarge 实例 0
ml.p3.16xlarge 实例 0
ml.p3dn.24xlarge 实例 0
ml.p4d.24xlarge 实例 0
所有训练作业的实例数 4
每个训练作业的实例数 20
SageMaker Autopilot
资源 默认值
最大数据集大小(GB) 5
最大并行自动驾驶仪作业数 1
SageMaker 自动模型超参数优化
资源 默认值
并发超级参数优化作业数 100
每个超级参数优化作业的并发训练作业数 10
每个超级参数优化作业的训练作业数 500
SageMaker 实验(世系跟踪/实验跟踪)
资源 默认值
试用次数 300
实验数 5000
用于实验的试验组件数量 50
实验试验组件的试验关联数量 500
实验试验组件的试验组件数量 20000
操作数量 3000
构件的数量 6000
协会的数量 6000
上下文的数量 500
SageMaker 托管
资源 默认值
ml.c4.large 实例 0
ml.c4.xlarge 实例 0
ml.c4.2xlarge 实例 0
ml.c4.4xlarge 实例 0
ml.c4.8xlarge 实例 0
ml.c5.large 实例 0
ml.c5.xlarge 实例 0
ml.c5.2xlarge 实例 0
ml.c5.4xlarge 实例 0
ml.c5.9xlarge 实例 0
ml.c5.12xlarge 实例 0
ml.c5.18xlarge 实例 0
ml.c5.24xlarge 实例 0
ml.c5d.large 实例 0
ml.c5d.xlarge 实例 0
ml.c5d.2xlarge 实例 0
ml.c5d.4xlarge 实例 0
ml.c5d.9xlarge 实例 0
ml.c5d.18xlarge 实例 0
ml.c5n 个大型实例 0
ml.c5n.xlarge 实例 0
ml.c5n.2xlarge 实例 0
ml.c5n.4xlarge 实例 0
ml.c5n.9xlarge 实例 0
ml.c5n.18xlarge 实例 0
ml.g4dn.xlarge 实例 0
ml.g4dn.2xlarge 实例 0
ml.g4dn.4xlarge 实例 0
ml.g4dn.8xlarge 实例 0
ml.g4dn.12xlarge 实例 0
ml.g4dn.16xlarge 实例 0
ml.m4.xlarge 实例 2
ml.m4.2xlarge 实例 0
ml.m4.4xlarge 实例 0
ml.m4.10xlarge 实例 0
ml.m4.16xlarge 实例 0
ml.m5.large 实例 2
ml.m5.xlarge 实例 0
ml.m5.2xlarge 实例 0
ml.m5.4xlarge 实例 0
ml.m5.8xlarge 实例 0
ml.m5.12xlarge 实例 0
ml.m5.16xlarge 实例 0
ml.m5.24xlarge 实例 0
ml.m5d.large 实例 0
ml.m5d.xlarge 实例 0
ml.m5d.2xlarge 实例 0
ml.m5d.4xlarge 实例 0
ml.m5d.8xlarge 实例 0
ml.m5d.12xlarge 实例 0
ml.m5d.16xlarge 实例 0
ml.m5d.24xlarge 实例 0
ml.m5dn 大型实例 0
ml.m5dn.xlarge 实例 0
ml.m5dn.2xlarge 实例 0
ml.m5dn.4xlarge 实例 0
ml.m5dn.8xlarge 实例 0
ml.m5dn.12xlarge 实例 0
ml.m5dn.16xlarge 实例 0
ml.m5dn.24xlarge 实例 0
ml.m5n 个大型实例 0
ml.m5n.xlarge 实例 0
ml.m5n.2xlarge 实例 0
ml.m5n.4xlarge 实例 0
ml.m5n.8 个大型实例 0
ml.m5n.12xlarge 实例 0
ml.m5n.16 个大型实例 0
ml.m5n.24xlarge 实例 0
ml.p2.xlarge 实例 0
ml.p2.8xlarge 实例 0
ml.p2.16xlarge 实例 0
ml.p3.2xlarge 实例 0
ml.p3.8xlarge 实例 0
ml.p3.16xlarge 实例 0
ml.r5.large 实例 0
ml.r5.xlarge 实例 0
ml.r5.2xlarge 实例 0
ml.r5.4xlarge 实例 0
ml.r5.8xlarge 实例 0
ml.r5.12xlarge 实例 0
ml.r5.16xlarge 实例 0
ml.r5.24xlarge 实例 0
ml.r5d.large 实例 0
ml.r5d.xlarge 实例 0
ml.r5d.2xlarge 实例 0
ml.r5d.4xlarge 实例 0
ml.r5d.8xlarge 实例 0
ml.r5d.12xlarge 实例 0
ml.r5d.16xlarge 实例 0
ml.r5d.24xlarge 实例 0
ml.r5dn 大型实例 0
ml.r5dn.xlarge 实例 0
ml.r5dn.2xlarge 实例 0
ml.r5dn.4xlarge 实例 0
ml.r5dn.8xlarge 实例 0
ml.r5dn.12xlarge 实例 0
ml.r5dn.16xlarge 实例 0
ml.r5dn.24xlarge 实例 0
ml.r5n 个大型实例 0
ml.r5n.xlarge 实例 0
ml.r5n.2xlarge 实例 0
ml.r5n.4xlarge 实例 0
ml.r5n.8 个大型实例 0
ml.r5n.12xlarge 实例 0
ml.r5n.16 个大型实例 0
ml.r5n.24xlarge 实例 0
ml.t2.medium 实例 2
ml.t2.large 实例 0
ml.t2.xlarge 实例 0
ml.t2.2xlarge 实例 0
ml.t3.medium 实例 2
ml.t3.large 实例 0
ml.t3.xlarge 实例 0
ml.t3.2xlarge 实例 0
所有终端节点的实例数 2
每个终端节点的实例数 0
每个终端节点的加速器数 4
SageMaker Batch 转换
资源 默认值
ml.c4.xlarge 实例 4
ml.c4.2xlarge 实例 4
ml.c4.4xlarge 实例 4
ml.c4.8xlarge 实例 4
ml.c5.xlarge 实例 4
ml.c5.2xlarge 实例 4
ml.c5.4xlarge 实例 1
ml.c5.9xlarge 实例 1
ml.c5.18xlarge 实例 1
ml.m4.xlarge 实例 4
ml.m4.2xlarge 实例 4
ml.m4.4xlarge 实例 2
ml.m4.10xlarge 实例 1
ml.m4.16xlarge 实例 1
ml.m5.large 实例 4
ml.m5.xlarge 实例 4
ml.m5.2xlarge 实例 4
ml.m5.4xlarge 实例 2
ml.m5.12xlarge 实例 0
ml.m5.24xlarge 实例 0
ml.p2.xlarge 实例 0
ml.p2.8xlarge 实例 0
ml.p2.16xlarge 实例 0
ml.p3.2xlarge 实例 0
ml.p3.8xlarge 实例 0
ml.p3.16xlarge 实例 0
每个转换作业的实例数 4
SageMaker 人工任务用户界面
资源 默认值
人工任务 UI 数 100