替换异常值 - Amazon Glue DataBrew
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

替换异常值

根据参数中的设置更新归类为异常值的数据点值。

参数
  • sourceColumn— 指定可能包含异常值的现有数值列的名称。

  • outlierStrategy— 指定用于检测异常值的方法。有效值包括:

    • Z_SCORE— 当一个值与均值的偏差超过标准差阈值时,将其标识为异常值。

    • MODIFIED_Z_SCORE— 当一个值与中位数的偏差超过中位数绝对偏差阈值时,将其标识为异常值。

    • IQR— 当某个值超出列数据的第一个和最后一个四分位数时,将其标识为异常值。四分位数范围 (IQR) 用于衡量中间50%的数据点所在的位置。

  • threshold— 指定检测异常值时要使用的阈值。如果用计算的分数outlierStrategy超过此数字,则该sourceColumn值将被标识为异常值。默认值为 3。

  • replaceType— 指定替换异常值时要使用的方法。有效值包括:

    • WINSORIZE_VALUES— 指定使用最小和最大百分位数来限制值。

    • REPLACE_WITH_CUSTOM

    • REPLACE_WITH_EMPTY

    • REPLACE_WITH_NULL

    • REPLACE_WITH_MODE

    • REPLACE_WITH_AVERAGE

    • REPLACE_WITH_MEDIAN

    • REPLACE_WITH_SUM

    • REPLACE_WITH_MAX

  • modeType— 表示在为时要使用的模态函数replaceType的类型REPLACE_WITH_MODE。有效值包括以下内容:MINMAX、和AVERAGE

  • minValue— 表示使用时trimValue要应用的异常值范围的最小百分位数值。有效范围为 0 — 100。

  • maxValue— 表示使用时trimValue要应用的异常值范围的最大百分位数值。有效范围为 0 — 100。

  • value— 指定使用时要插入的值REPLACE_WITH_CUSTOM

  • trimValue— 指定是移除全部异常值还是部分异常值。此布尔值设置为 wh TRUE e replaceType n 是REPLACE_WITH_NULLREPLACE_WITH_MODE、或WINSORIZE_VALUESFALSE对于所有其他人,则默认为。

    • FALSE— 移除所有异常值

    • TRUE— 移除排名超出和中指定的百分位数上限阈值的异常值。minValue maxValue

以下示例显示了单个RecipeAction操作的语法。一个配方至少包含一个RecipeStep操作,一个配方步骤至少包含一个配方操作。配方操作会运行您指定的数据转换。一组配方操作按顺序运行以创建最终数据集。

JSON

下面显示了一个使用 JSON 语法作为RecipeStep DataBrew 配方示例成员的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 JSON 文件
{ "Action": { "Operation": "REPLACE_OUTLIERS", "Parameters": { "maxValue": "95", "minValue": "5", "modeType": "AVERAGE", "outlierStrategy": "Z_SCORE", "replaceType": "REPLACE_WITH_MODE", "sourceColumn": "name-of-existing-column", "threshold": "3", "trimValue": "TRUE" } } }

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。

YAML

下面显示了一个使用 YAML 语法作为 DataBrew 配方示例成员RecipeStep的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 YAML 文件
- Action: Operation: REMOVE_OUTLIERS Parameters: sourceColumn: name-of-existing-column outlierStrategy: Z_SCORE threshold: '3' replaceType: REPLACE_WITH_MODE modeType: AVERAGE minValue: '5' maxValue: '95' trimValue: 'TRUE'

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。