数据验证任务设置 - Amazon Database Migration Service
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

数据验证任务设置

您可以确保准确地将您的数据从源迁移到目标。如果为任务启用验证,则在为表执行完全加载后,Amazon DMS 立即开始比较源和目标数据。有关任务数据验证、其要求、其数据库支持的范围以及它报告的指标的更多信息,请参阅AmazonDMS 数据验证。有关如何使用任务配置文件设置任务设置的信息,请参阅。任务设置示例.

数据验证设置及其值包括:

  • EnableValidation— 在设置为 true 时,启用数据验证。否则,将为任务禁用验证。原定设置值为 False。

  • ValidationMode— 控制 DMS 将如何根据源表验证目标表中的数据。Amazon DMS为 future 的可扩展性提供了此设置。目前,默认值和唯一有效的值为:ROW_LEVEL.Amazon DMS验证源表和目标表之间的所有行。

  • FailureMaxCount— 指定在暂停任务的验证之前可验证失败的记录的最大数目。默认值是 10,000。如果您希望验证继续而不管验证失败的记录数如何,请将此值设置为大于源中记录数的值。

  • HandleCollationDiff— 当此选项设置为true,验证会考虑在识别要比较的源记录和目标记录时,验证会考虑 PostgreSQL 和 SQL Server 终端节点中的列排序规则差异。否则,将忽略列排序规则中的任何此类差异以进行验证。排序规则可以指示行的顺序,这对于数据验证很重要。将 HandleCollationDiff 设置为 true 可自动解析这些排序规则差异并防止数据验证中出现误报。原设定值为 false

  • RecordFailureDelayInMinutes— 指定报告任何验证失败详细信息之前的延迟时间 (分钟)。

  • RecordFailureDelayLimitInMinutes— 指定报告任何验证失败详细信息之前的延迟。通常,Amazon DMS 使用任务延迟来识别更改的实际延迟,以使其成为目标来防止误报。此设置会覆盖实际延迟值,并允许您在报告任何验证指标之前设置更高的延迟。默认值是 0。

  • RecordSuspendDelayInMinutes— 指定由于中设置的错误阈值而暂停验证表之前的延迟时间(以分钟为单位)FailureMaxCount.

  • SkipLobColumns— 当此选项设置为true、Amazon DMS跳过表中任务验证部分中所有 LOB 列的数据验证。原设定值为 false

  • TableFailureMaxCount— 指定在暂停表的验证之前可验证失败的行的最大行数。默认值是 1,000。

  • ThreadCount— 指定执行线程的数目Amazon DMS验证期间使用。每个线程都选择 not-yet-validated 来自源和目标的数据来进行比较和验证。默认值是 5。如果您将 ThreadCount 设置为更大的数字,则 Amazon DMS 可以更快地完成验证。但是,Amazon DMS 随后将执行更多同步查询,这将消耗源和目标上的更多资源。

  • ValidationOnly— 当此选项设置为true,则该任务执行数据验证而不执行任何数据迁移或复制。原设定值为 false。您无法修改ValidationOnly在创建任务之后设置。

    你必须设置目标表 Prep 模式DO_NOTHING(仅限验证任务的默认值)并设置迁移类型至下列项之一:

    • 满载 — 设置任务迁移类型迁移现有数据中的Amazon DMS控制台。或者,在Amazon DMSAPI 将迁移类型设置为 FULLOAD。

    • CDC — 设置任务迁移类型仅复制数据更改中的Amazon DMS控制台。或者,在Amazon DMSAPI 将迁移类型设置为 CDC。

    无论选择哪种迁移类型,在仅验证任务期间,数据实际上都不会迁移或复制。

    有关更多信息,请参阅 仅验证任务

    重要

    这些区域有:ValidationOnly设置是不可变的。创建任务后,无法对该任务进行修改。

  • ValidationPartialLobSize— 指定是否要对 LOB 列进行部分验证,而不是验证存储在列中的所有数据。当您只迁移 LOB 数据的一部分而不是整个 LOB 数据集时,这可能会发现很有用。该值以 KB 为单位。默认值为 0,这意味着Amazon DMS验证所有 LOB 列数据。例如,"ValidationPartialLobSize": 32意味着Amazon DMS仅验证源和目标中的前 32KB 列数据。

  • PartitionSize— 指定要从源和目标读取以进行比较的记录的批量大小。默认值为 10,000。

  • ValidationQueryCdcDelaySeconds— 对于每次 CDC 更新,第一个验证查询都在源和目标上延迟的时间。当迁移延迟很高时,这可能有助于减少资源争用。仅验证任务会自动将此选项设置为 180 秒。默认值为 0。

例如,以下 JSON 支持使用两倍于默认线程数的线程进行数据验证。它还解释了由 PostgreSQL 终端节点中的列排序规则差异导致的记录顺序差异。此外,它还提供验证报告延迟,以考虑处理任何验证失败所需的额外时间。

"ValidationSettings": { "EnableValidation": true, "ThreadCount": 10, "HandleCollationDiff": true, "RecordFailureDelayLimitInMinutes": 30 }
注意

对于 Oracle 终端节点,Amazon DMS 使用 DBMS_CRYPTO 验证 BLOB。如果您的 Oracle 终端节点使用 BLOB,请授予executeDBMS_CRYPTO 访问 Oracle 终端节点的用户帐户的权限。要执行此操作,请运行以下语句。

grant execute on sys.dbms_crypto to dms_endpoint_user;