收集 NVIDIA GPU 指标

您可以使用 CloudWatch 代理从 Linux 服务器收集 NVIDIA GPU 指标。要对此进行设置，请在 CloudWatch 代理配置文件的 metrics_collected 部分中添加 nvidia_gpu 部分。有关更多信息，请参阅 Linux 部分。

此外，该实例必须已经安装 NVIDIA 驱动程序。某些亚马逊机器映像（AMI）上已经预装 NVIDIA 驱动程序。如果没有安装，您可以手动安装该驱动程序。有关更多信息，请参见在 Linux 实例上安装 NVIDIA 驱动程序。

可以收集以下指标。所有这些指标都在没有 CloudWatch Unit 的情况下收集，但是您可以通过向 CloudWatch 代理配置文件添加参数来为每个指标指定单位。有关更多信息，请参阅 Linux 部分。

指标	CloudWatch 的指标名称	描述
`utilization_gpu`	`nvidia_smi_utilization_gpu`	在过去的采样周期内 GPU 上的一个或多个内核运行的时间百分比。
`temperature_gpu`	`nvidia_smi_temperature_gpu`	GPU 核心温度（以摄氏度为单位）。
`power_draw`	`nvidia_smi_power_draw`	上次测量的整个显卡功耗（以瓦为单位）。
`utilization_memory`	`nvidia_smi_utilization_memory`	在过去的样本周期内读取或写入全局（设备）内存的时间百分比。
`fan_speed`	`nvidia_smi_fan_speed`	设备风扇目前预计以最大风扇速度运行的百分比。
`memory_total`	`nvidia_smi_memory_total`	报告的总内存（以 MB 为单位）。
`memory_used`	`nvidia_smi_memory_used`	已使用的内存（以 MB 为单位）。
`memory_free`	`nvidia_smi_memory_free`	空闲内存（以 MB 为单位）。
`pcie_link_gen_current`	`nvidia_smi_pcie_link_gen_current`	当前链接生成。
`pcie_link_width_current`	`nvidia_smi_pcie_link_width_current`	当前链接宽度。
`encoder_stats_session_count`	`nvidia_smi_encoder_stats_session_count`	当前编码器会话数量。
`encoder_stats_average_fps`	`nvidia_smi_encoder_stats_average_fps`	每秒编码帧数的移动平均值。
`encoder_stats_average_latency`	`nvidia_smi_encoder_stats_average_latency`	编码延迟的移动平均值（以微秒为单位）。
`clocks_current_graphics`	`nvidia_smi_clocks_current_graphics`	显卡（着色器）时钟的当前频率。
`clocks_current_sm`	`nvidia_smi_clocks_current_sm`	流式多处理器（SM）时钟的当前频率。
`clocks_current_memory`	`nvidia_smi_clocks_current_memory`	内存时钟的当前频率。
`clocks_current_video`	`nvidia_smi_clocks_current_video`	视频（编码器加解码器）时钟的当前频率。

所有这些指标都使用以下维度收集:

维度	描述
`index`	此服务器上 GPU 的唯一标识符。表示设备的 NVIDIA 管理库（NVML）索引。
`name`	GPU 类型。例如，`NVIDIA Tesla A100`
`host`	服务器主机名。

Javascript 在您的浏览器中被禁用或不可用。

要使用 Amazon Web Services 文档，必须启用 Javascript。请参阅浏览器的帮助页面以了解相关说明。

收集网络性能指标

使用 procstat 插件收集流程指标