本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。
使用 Amazon SageMaker 监控 Amazon CloudWatch
您可以使用 Amazon SageMaker 监控 Amazon CloudWatch，此工具可收集原始数据，并将数据处理为便于读取的近乎实时的指标。这些统计数据会保存 15 个月，从而使您能够访问历史信息，并能够更好地了解您的 Web 应用程序或服务的执行情况。但是，Amazon CloudWatch 控制台将搜索限制最近 2 周内更新过的指标。此限制可确保显示您命名空间中最新的作业。要列出指标图形而不使用搜索，请在源视图中指定其确切名称。此外，可以设置用于监测特定阈值的警报，并在达到相应阈值时发送通知或执行操作。有关更多信息，请参阅 Amazon CloudWatch 用户指南.
SageMaker 模型训练作业和终端节点写入 CloudWatch 指标和日志。以下各表列出 的指标和维度。SageMaker.
终端节点调用指标
AWS/SageMaker 命名空间包括来自对 的调用的以下请求指标InvokeEndpoint。
指标按 1 分钟一次的频率提供。
有关保留CloudWatch指标的时间长度的信息，请参阅 GetMetricStatistics API 参考Amazon CloudWatch中的 。
| 指标 | 描述 |
|---|---|
Invocation4XXErrors |
模型在其中返回 4xx HTTP 响应代码的 单位：无 有效统计数据：平均值、总计 |
Invocation5XXErrors |
模型在其中返回 5xx HTTP 响应代码的 单位：无 有效统计数据：平均值、总计 |
Invocations |
发送到模型终端节点的 要获取发送到模型终端节点的请求总数，请使用 Sum 统计数据。 单位：无 有效统计数据：Sum |
InvocationsPerInstance |
发送到模型的调用数，由每个 单位：无 有效统计数据：Sum |
ModelLatency |
从 查看时模型做出响应所用的时间间隔。SageMaker. 此时间间隔包括发送请求以及从模型容器提取响应的本地通信时间，以及在容器中完成推理所用的时间。 单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
OverheadLatency |
由于 SageMaker 开销添加到对客户端的响应用时中的时间间隔。此时间间隔计算从 SageMaker 收到请求到它向客户端返回响应的时间减去 单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
终端节点调用指标的维度
| 维度 | 描述 |
|---|---|
EndpointName, VariantName |
针对指定终端节点和变体的 |
Multi-Model Endpoint Model Loading Metrics (多模型终端节点模型加载指标)
AWS/SageMaker 命名空间包含通过调用 InvokeEndpoint . 获得的以下模型加载指标。
指标按 1 分钟一次的频率提供。
有关保留CloudWatch指标的时间长度的信息，请参阅 GetMetricStatistics API 参考Amazon CloudWatch中的 。
| 指标 | 描述 |
|---|---|
ModelLoadingWaitTime |
调用请求等待下载和/或加载目标模型以执行推理的间隔时间。 单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
ModelUnloadingTime |
通过容器的 单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
ModelDownloadingTime |
从 Amazon Simple Storage Service ( (Amazon S3).) 下载模型所用的间隔时间。
单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
ModelLoadingTime |
通过容器的 单位：微秒 有效统计数据：Average、Sum、Min、Max、Sample Count |
ModelCacheHit |
发送到已加载模型的多模型终端节点的 “Average”统计数据显示已加载模型的请求的比率。 单位：无 有效统计数据：Average、Sum、Sample Count |
Dimensions for Multi-Model Endpoint Model Loading Metrics (多模型终端节点模型加载指标的维度)
| 维度 | 描述 |
|---|---|
EndpointName, VariantName |
针对指定终端节点和变体的 |
Multi-Model Endpoint Model Instance Metrics (多模型终端节点模型实例指标)
/aws/sagemaker/Endpoints 命名空间包含通过调用 InvokeEndpoint. 获得的以下实例指标。
指标按 1 分钟一次的频率提供。
有关保留CloudWatch指标的时间长度的信息，请参阅 GetMetricStatistics API 参考Amazon CloudWatch中的 。
| 指标 | 描述 |
|---|---|
LoadedModelCount |
多模型终端节点的容器中加载的模型数。此指标是按实例发射的。 周期为 1 分钟的“Average”统计数据指示每个实例加载的平均模型数。 “Sum”统计数据指示在终端节点中的所有实例上加载的模型总数。 此指标跟踪的模型不一定是唯一的，因为可能在终端节点的多个容器中加载模型。 单位：无 有效统计数据：Average、Sum、Min、Max、Sample Count |
Dimensions for Multi-Model Endpoint Model Loading Metrics (多模型终端节点模型加载指标的维度)
| 维度 | 描述 |
|---|---|
EndpointName, VariantName |
针对指定终端节点和变体的 |
处理作业、训练作业、批量转换作业和终端节点实例指标
/aws/sagemaker/ProcessingJobs/aws/sagemaker/TrainingJobs/aws/sagemaker/TransformJobs 和 /aws/sagemaker/Endpoints 命名空间包括以下用于训练作业和终端节点实例的指标。
指标按 1 分钟一次的频率提供。
| 指标 | 描述 |
|---|---|
CPUUtilization |
实例上的容器所使用的 CPU 单位的百分比。该值可以介于 0 和 100 之间，并且乘以 的数量CPUs。 例如，如果有四个 CPUs，则 对于训练作业，该值是实例上的算法容器的 CPU 利用率。 对于批量转换作业，该值是实例上的转换容器的 CPU 利用率。 对于终端节点变体，该值是实例上的主容器和辅助容器的 CPU 利用率的总和。 对于多个实例，每个实例都会报告 CPU 利用率指标。但是，CloudWatch 中的默认视图显示跨所有实例的平均 CPU 利用率。 单位：百分比 |
MemoryUtilization |
实例上的容器所使用的内存的百分比。该值可以介于 0% 和 100% 之间。 对于处理作业，该值是实例上的处理容器的内存利用率。对于训练作业，该值是实例上的算法容器的内存利用率。 对于批量转换作业，该值是实例上的转换容器的内存利用率。 对于终端节点变体，该值是实例上的主容器和辅助容器的内存利用率的总和。 单位：百分比 对于多个实例，每个实例都会报告内存利用率指标。但是，CloudWatch 中的默认视图显示跨所有实例的平均内存利用率。 |
GPUUtilization |
实例上的容器所使用的 GPU 单位的百分比。该值的范围可以在 0 到 100 之间，并且乘以 的数量GPUs。 例如，如果有四个 GPUs，则 对于训练作业，该值是实例上的算法容器的 GPU 利用率。 对于批量转换作业，该值是实例上的转换容器的 GPU 利用率。 对于终端节点变体，该值是实例上的主容器和辅助容器的 GPU 利用率的总和。 对于多个实例，每个实例都会报告 GPU 利用率指标。但是，CloudWatch 中的默认视图显示跨所有实例的平均 GPU 利用率。 单位：百分比 |
GPUMemoryUtilization |
实例上的容器所使用的 GPU 内存的百分比。该值的范围可以在 0 到 100 之间，并且乘以 的数量GPUs。 例如，如果有四个 GPUs，则 对于训练作业，该值是实例上的算法容器的 GPU 内存利用率。 对于批量转换作业，该值是实例上的转换容器的 GPU 内存利用率。 对于终端节点变体，该值是实例上的主容器和辅助容器的 GPU 内存利用率的总和。 对于多个实例，每个实例都会报告 GPU 内存利用率指标。但是，CloudWatch 中的默认视图显示跨所有实例的平均 GPU 内存利用率。 单位：百分比 |
DiskUtilization |
实例上的容器所使用的磁盘空间的百分比。该值可以介于 0% 和 100% 之间。批量转换作业不支持此指标。 对于处理作业，该值是实例上的处理容器的磁盘空间利用率。对于训练作业，该值是实例上的算法容器的磁盘空间利用率。 对于终端节点变体，该值是实例上的主容器和辅助容器的磁盘空间利用率的总和。 单位：百分比 对于多个实例，每个实例都会报告磁盘利用率指标。但是，CloudWatch 中的默认视图显示跨所有实例的平均磁盘利用率。 |
处理作业、训练作业和批量转换作业实例指标的维度
| 维度 | 描述 |
|---|---|
Host |
对于处理作业，此维度的值的格式为 对于训练作业，此维度的值的格式为 对于批量转换作业，此维度的值的格式为 |
Amazon SageMaker Ground Truth 指标
| 指标 | 描述 |
|---|---|
ActiveWorkers |
执行标记作业的私人工作团队的工作人员数量。 单位：无 有效统计数据：Max |
DatasetObjectsAutoAnnotated |
在标记作业中自动注释的数据集对象数。此指标仅在启用自动标记时发出。要查看标记作业进度，请使用 Max 指标。 单位：无 有效统计数据：Max |
DatasetObjectsHumanAnnotated |
在标记作业中人工注释的数据集对象数。要查看标记作业进度，请使用 Max 指标。 单位：无 有效统计数据：Max |
DatasetObjectsLabelingFailed |
在标记作业中未能标记的数据集对象数。要查看标记作业进度，请使用 Max 指标。 单位：无 有效统计数据：Max |
JobsFailed |
失败的标记作业数。要获取失败的标记作业总数，请使用 Sum 统计数据。 单位：无 有效统计数据：Sum、Sample Count |
JobsSucceeded |
成功的标记作业数。要获取成功的标记作业总数，请使用 Sum 统计数据。 单位：无 有效统计数据：Sum、Sample Count |
JobsStopped |
停止的标记作业数。要获取停止的标记作业总数，请使用 Sum 统计数据。 单位：无 有效统计数据：Sum、Sample Count |
TasksAccepted |
工作人员接受的任务总数。 单位：无 有效统计数据：Max |
TasksReturned |
工作人员返回的任务总数。 单位：无 有效统计数据：Max |
TasksSubmitted |
私人工作团队提交/完成的任务数。 单位：无 有效统计数据：Max |
TimeSpent |
私人工作团队完成任务所用的时间。 单位：秒 有效统计数据：Max |
TotalDatasetObjectsLabeled |
在标记作业中成功标记的数据集对象数。要查看标记作业进度，请使用 Max 指标。 单位：无 有效统计数据：Max |
数据集对象指标的维度
| 维度 | 描述 |
|---|---|
LabelingJobName |
筛选标签作业的数据集对象计数指标。 |
Amazon SageMaker 功能存储指标
| 指标 | 描述 |
|---|---|
ConsumedReadRequestsUnits |
在指定时间段内使用的读取单位数。您可以检索特征存储运行时操作及其相应特征组使用的读取单位。 单位：无 有效统计数据：All |
ConsumedWriteRequestsUnits |
在指定时间段内使用的写入单位数。您可以检索特征存储运行时操作及其相应特征组使用的写入单位。 单位：无 有效统计数据：All |
功能存储指标的维度
| 维度 | 描述 |
|---|---|
FeatureGroupName, OperationName |
筛选指定特征组的特征存储运行时操作指标。 |