Amazon Redshift
数据库开发人员指南
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

分析表

ANALYZE 操作更新查询计划程序用来选择最佳计划的统计元数据。

在大多数情况下,您无需明确运行 ANALYZE 命令。Amazon Redshift 监控对工作负载的更改,并在后台自动更新统计数据。此外,COPY 命令会在将数据加载到空表时自动执行分析。

要明确分析表或整个数据库,请运行 ANALYZE 命令。

自动分析

Amazon Redshift 持续监控您的数据库,并自动在后台执行分析操作。为了最大限度地降低对系统性能的影响,自动分析将在工作负载较轻的时段运行。

默认情况下会启用自动分析。要禁用自动分析,请通过修改集群的参数组来将 auto_analyze 参数设置为 false

为了减少处理时间并提高整体系统性能,Amazon Redshift 将跳过对任何修改程度较小的表的自动分析。

分析操作将跳过具有最新统计数据的表。如果您将 ANALYZE 作为提取、转换和加载 (ETL) 工作流的一部分运行,则自动分析将跳过具有最新统计数据的表。类似地,在自动分析更新表的统计数据后,显式 ANALYZE 将跳过表。

新表数据的分析

默认情况下,COPY 命令会在将数据加载到空表后执行 ANALYZE。无论表是否为空,您都可以通过设置 STATUPDATE ON 来强制执行 ANALYZE。如果您指定 STATUPDATE OFF,则不会执行 ANALYZE。仅表所有者或超级用户才可以运行 ANALYZE 命令,或在 STATUPDATE 设置为 ON 时运行 COPY 命令。

Amazon Redshift 还分析您使用以下命令创建的新表:

  • CREATE TABLE AS (CTAS)

  • CREATE TEMP TABLE AS

  • SELECT INTO

当您对最初加载其数据后未分析的新表运行查询时,Amazon Redshift 将返回一条警告消息。在后续更新或加载后查询表时,不会出现警告。在您对引用未经分析的表的查询运行 EXPLAIN 命令时,将返回相同的警告消息。

在通过将数据添加到非空表来明显更改表的大小时,您可以明确更新统计数据。可以通过运行 ANALYZE 命令或将 STATUPDATE ON 选项用于 COPY 命令来做到这一点。要查看有关自上次执行 ANALYZE 以来插入或删除的行数的详细信息,请查询 PG_STATISTIC_INDICATOR 系统目录表。

您可以将 ANALYZE 命令的范围指定为下列选项之一:

  • 整个当前数据库

  • 单个表

  • 单个表中的一个或多个特定列

  • 有可能在查询中用作谓词的列

ANALYZE 命令将从表中获取行的采样,执行一些计算,并保存生成的列统计数据。默认情况下,Amazon Redshift 将为 DISTKEY 列运行一个采样过程,并为表中所有其他列运行另一个采样过程。如果您希望为一部分列生成统计数据,则可指定一个逗号分隔的列列表。您可以将 ANALYZE 与 PREDICATE COLUMNS 子句一起运行来跳过用作谓词的列。

ANALYZE 操作是资源密集型的,因此仅对实际需要统计数据更新的表和列运行此类操作。您无需定期或按相同的计划分析所有表中的所有列。如果数据发生重大更改,请分析在以下操作中常用的列:

  • 排序和分组操作

  • 联接

  • 查询谓词

为了减少处理时间并提高整体系统性能,对于具有较低的更改行数百分比(由 analyze_threshold_percent 参数决定)的任何表,Amazon Redshift 将跳过 ANALYZE。默认情况下,分析阈值将设置为 10%。可以通过运行 SET 命令来更改当前会话的分析阈值。

不太可能需要频繁分析的列是表示从未被实际查询的事实和度量以及任何相关属性的列(例如,大量 VARCHAR 列)。例如,请考虑 TICKIT 数据库中的 LISTING 表。

select "column", type, encoding, distkey, sortkey from pg_table_def where tablename = 'listing'; column | type | encoding | distkey | sortkey ---------------+--------------------+----------+---------+--------- listid | integer | none | t | 1 sellerid | integer | none | f | 0 eventid | integer | mostly16 | f | 0 dateid | smallint | none | f | 0 numtickets | smallint | mostly8 | f | 0 priceperticket | numeric(8,2) | bytedict | f | 0 totalprice | numeric(8,2) | mostly32 | f | 0 listtime | timestamp with... | none | f | 0

如果此表每天加载了大量新记录,则需要定期分析查询中频繁用作联接键的 LISTID 列。如果 TOTALPRICE 和 LISTTIME 是查询中的常用约束,则可在每个工作日分析这些列和分配键。

analyze listing(listid, totalprice, listtime);

假设应用程序中的卖家和事件变动小得多,且日期 ID 引用仅涵盖两年或三年的一组固定天数。在此情况下,这些列的唯一值将不会发生明显更改。但是,每个唯一值的实例数将平稳增加。

此外,请考虑查询 NUMTICKETS 和 PRICEPERTICKET 度量的频率低于查询 TOTALPRICE 列的频率这种情况。在这种情况下,您可在每个周末对整个表运行一次 ANALYZE 命令,以便更新未每日分析的 5 个列的统计数据:

谓词列

作为指定列列表的便利替代方法,您可以选择仅分析可能用作谓词的列。当您运行查询时,在联接、筛选条件或 group by 子句中使用的任意列将在系统目录中标记为谓词列。当您使用 PREDICATE COLUMNS 子句运行 ANALYZE 时,分析操作仅包括满足以下标准的列:

  • 标记为谓词列的列。

  • 该列为分配键。

  • 该列为排序键的一部分。

如果未将任何表的列标记为谓词,则即使指定了 PREDICATE COLUMNS,ANALYZE 仍将包括所有列。如果未将任何列标记为谓词列,这可能是因为尚未查询表。

在工作负载的查询模式相对稳定时,您可以选择使用 PREDICATE COLUMNS。当查询模式可变并且不同的列频繁用作谓词时,使用 PREDICATE COLUMNS 可能会临时得到过时的统计数据。过时的统计数据会产生不够理想的查询执行计划和长执行时间。不过,当您下次使用 PREDICATE COLUMNS 运行 ANALYZE 时,将包括新的谓词列。

要查看谓词列的详细信息,请使用以下 SQL 创建名为 PREDICATE_COLUMNS 的视图。

CREATE VIEW predicate_columns AS WITH predicate_column_info as ( SELECT ns.nspname AS schema_name, c.relname AS table_name, a.attnum as col_num, a.attname as col_name, CASE WHEN 10002 = s.stakind1 THEN array_to_string(stavalues1, '||') WHEN 10002 = s.stakind2 THEN array_to_string(stavalues2, '||') WHEN 10002 = s.stakind3 THEN array_to_string(stavalues3, '||') WHEN 10002 = s.stakind4 THEN array_to_string(stavalues4, '||') ELSE NULL::varchar END AS pred_ts FROM pg_statistic s JOIN pg_class c ON c.oid = s.starelid JOIN pg_namespace ns ON c.relnamespace = ns.oid JOIN pg_attribute a ON c.oid = a.attrelid AND a.attnum = s.staattnum) SELECT schema_name, table_name, col_num, col_name, pred_ts NOT LIKE '2000-01-01%' AS is_predicate, CASE WHEN pred_ts NOT LIKE '2000-01-01%' THEN (split_part(pred_ts, '||',1))::timestamp ELSE NULL::timestamp END as first_predicate_use, CASE WHEN pred_ts NOT LIKE '%||2000-01-01%' THEN (split_part(pred_ts, '||',2))::timestamp ELSE NULL::timestamp END as last_analyze FROM predicate_column_info;

假设您对 LISTING 表运行以下查询。请注意,LISTID、LISTTIME 和 EVENTID 均用于联接、筛选和 group by 子句中。

select s.buyerid,l.eventid, sum(l.totalprice) from listing l join sales s on l.listid = s.listid where l.listtime > '2008-12-01' group by l.eventid, s.buyerid;

当您查询 PREDICATE_COLUMNS 视图时,如下例中所示,可以看到 LISTID、EVENTID 和 LISTTIME 标记为谓词列。

select * from predicate_columns where table_name = 'listing';
schema_name | table_name | col_num | col_name       | is_predicate | first_predicate_use | last_analyze       
------------+------------+---------+----------------+--------------+---------------------+--------------------
public      | listing    |       1 | listid         | true         | 2017-05-05 19:27:59 | 2017-05-03 18:27:41
public      | listing    |       2 | sellerid       | false        |                     | 2017-05-03 18:27:41
public      | listing    |       3 | eventid        | true         | 2017-05-16 20:54:32 | 2017-05-03 18:27:41
public      | listing    |       4 | dateid         | false        |                     | 2017-05-03 18:27:41
public      | listing    |       5 | numtickets     | false        |                     | 2017-05-03 18:27:41
public      | listing    |       6 | priceperticket | false        |                     | 2017-05-03 18:27:41
public      | listing    |       7 | totalprice     | false        |                     | 2017-05-03 18:27:41
public      | listing    |       8 | listtime       | true         | 2017-05-16 20:54:32 | 2017-05-03 18:27:41

通过允许查询计划程序选择最佳计划,使统计数据保持最新可提高查询性能。Amazon Redshift 在后台自动刷新统计数据,您也可以明确运行 ANALYZE 命令。如果您选择明确运行 ANALYZE,请执行以下操作:

  • 在运行查询之前运行 ANALYZE 命令。

  • 在每次定期加载或更新循环结束时,常规性地对数据库运行 ANALYZE 命令。

  • 对您创建的任何新表和正在进行重大更改的任何现有表或列运行 ANALYZE 命令。

  • 考虑按不同计划对不同类型的表和列运行 ANALYZE 操作,具体取决于它们在查询中的使用和它们的更改倾向。

  • 为节省时间和集群资源,在运行 ANALYZE 时请使用 PREDICATE COLUMNS 子句。

分析操作将跳过具有最新统计数据的表。如果您将 ANALYZE 作为提取、转换和加载 (ETL) 工作流的一部分运行,则自动分析将跳过具有最新统计数据的表。类似地,在自动分析更新表的统计数据后,显式 ANALYZE 将跳过表。