View a markdown version of this page

Spark Operator 日志 - Amazon EMR
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Spark Operator 日志

执行 helm install 时，您可以按以下方式定义监控配置：

helm install spark-operator spark-operator \
--namespace namespace \
--set emrContainers.awsRegion=aws_region \
--set emrContainers.monitoringConfiguration.image=log_agent_image_url \
--set emrContainers.monitoringConfiguration.s3MonitoringConfiguration.logUri=S3_bucket_uri \
--set emrContainers.monitoringConfiguration.cloudWatchMonitoringConfiguration.logGroupName=log_group_name \
--set emrContainers.monitoringConfiguration.cloudWatchMonitoringConfiguration.logStreamNamePrefix=log_stream_prefix \
--set emrContainers.monitoringConfiguration.sideCarResources.limits.cpuLimit=500m \
--set emrContainers.monitoringConfiguration.sideCarResources.limits.memoryLimit=512Mi \
--set emrContainers.monitoringConfiguration.containerLogRotationConfiguration.rotationSize=2GB \
--set emrContainers.monitoringConfiguration.containerLogRotationConfiguration.maxFilesToKeep=10 \
--set webhook.enable=true \
--set emrContainers.operatorExecutionRoleArn=operator_execution_role_arn

监控配置

以下是 monitoringConfiguration 下的可用配置选项。

  • 图像（可选）- 日志代理图像 url。ReleaseLabel 如果未提供，将通过 emr 获取。

  • s3 MonitoringConfiguration — 将此选项设置为存档到 Amazon S3。

    • logUri：（必需）：用来存储日志的 Amazon S3 存储桶路径。

    • 以下是上传日志后 Amazon S3 存储桶路径的示例格式。第一个示例显示未启用日志轮换。

      s3://${logUri}/${POD NAME}/operator/stdout.gz
s3://${logUri}/${POD NAME}/operator/stderr.gz

      默认情况下，日志轮换处于启用状态。您可以看到一个轮换的文件（带有递增索引）和一个当前文件（与前一个示例相同）。

      s3://${logUri}/${POD NAME}/operator/stdout_YYYYMMDD_index.gz
s3://${logUri}/${POD NAME}/operator/stderr_YYYYMMDD_index.gz

  • cloud WatchMonitoringConfiguration — 用于设置转发的配置密钥Amazon CloudWatch。

    • log GroupName（必填）-要向其发送Amazon CloudWatch日志的日志组的名称。如果日志组不存在，则会自动创建。

    • log StreamNamePrefix（可选）-您要向其发送日志的日志流的名称。默认值是空字符串。中的格式如下Amazon CloudWatch所示：

      ${logStreamNamePrefix}/${POD NAME}/STDOUT or STDERR

  • s@@ id eCarResources（可选）— 用于在启动的 Fluentd sidecar 容器上设置资源限制的配置密钥。

    • memoryLimit（可选）：内存限制。根据自身需求进行调整。默认值为 512Mi。

    • cpuLimit（可选）：CPU 限制。根据自身需求进行调整。默认值为 500m。

  • 容器 LogRotationConfiguration（可选）-控制容器日志的轮换行为。该功能默认已启用。

    • rotationSize（必需）：指定日志轮换的文件大小。可行值的范围从 2KB 到 2GB 不等。rotationSize 参数的数字单位部分以整数形式传递。由于不支持十进制值，您可以指定 1.5GB 的轮换大小，例如值 1500MB。默认值为 2GB。

    • max FilesToKeep（必填）— 指定轮换后要在容器中保留的最大文件数。最小值为 1，最大值为 50。默认值为 10。

配置 MonitoringC onfiguration 后，你应该能够在 Amazon S3 存储桶Amazon CloudWatch或两者兼而有之地查看 spark 操作员容器日志。对于 Amazon S3 存储桶，需要等待 2 分钟才能刷新第一个日志文件。

要查找日志Amazon CloudWatch，您可以导航到以下位置：CloudWatch> 日志组 > Log group name> Pod name/operator/stderr

或者你可以导航到：CloudWatch> 日志组 > Log group name> Pod name/operator/stdout