重新缩放异常值_WITH_Z_SCORE - Amazon Glue DataBrew
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

重新缩放异常值_WITH_Z_SCORE

根据参数中的设置,返回一个新列,每行中都有一个重新缩放的异常值值。此操作还将 Z 分数归一化应用于线性缩放的数据值,使平均值 (μ) 为 0,标准差 (σ) 为 1。我们建议使用此操作来处理异常值。

参数
  • sourceColumn— 指定可能包含异常值的现有数值列的名称。

  • targetColumn— 指定可能包含异常值的现有数值列的名称。

  • outlierStrategy— 指定用于检测异常值的方法。有效值包括:

    • Z_SCORE— 当一个值与均值的偏差超过标准差阈值时,将其标识为异常值。

    • MODIFIED_Z_SCORE— 当一个值与中位数的偏差超过中位数绝对偏差阈值时,将其标识为异常值。

    • IQR— 当某个值超出列数据的第一个和最后一个四分位数时,将其标识为异常值。四分位数范围 (IQR) 用于衡量中间50%的数据点所在的位置。

  • threshold— 检测异常值时使用的阈值。如果用计算的分数outlierStrategy超过此数字,则该sourceColumn值将被标识为异常值。默认值为 3。

以下示例显示了单个RecipeAction操作的语法。一个配方至少包含一个RecipeStep操作,一个配方步骤至少包含一个配方操作。配方操作会运行您指定的数据转换。一组配方操作按顺序运行以创建最终数据集。

JSON

下面显示了一个使用 JSON 语法作为RecipeStep DataBrew 配方操作示例成员的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 JSON
{ "Action": { "Operation": "RESCALE_OUTLIERS_WITH_Z_SCORE", "Parameters": { "sourceColumn": "name-of-existing-column", "targetColumn": "name-of-new-column", "outlierStrategy": "Z_SCORE", "threshold": "3" } } }

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。

YAML

下面显示了一个使用 YAML 语法作为 DataBrew 配方操作示例RecipeStep成员的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 YAML
- Action: Operation: REMOVE_OUTLIERS Parameters: sourceColumn: name-of-existing-column targetColumn: name-of-new-column outlierStrategy: Z_SCORE threshold: '3'

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。