更新类型 - Amazon Athena
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

更新类型

以下是表的架构可能具有的更新类型。我们将介绍每种架构更新类型,并指定哪些数据格式允许在 Athena 中实现这些更新。

重要

本节介绍的架构更新不适用于具有复杂或嵌套数据类型(例如数组和结构)的表。

根据您期望架构的演进方式,选择一种兼容的数据格式,以继续使用 Athena 查询。

我们来考察一个应用程序,该应用程序从 orders 表中读取订单信息,而该表存在两种格式:CSV 和 Parquet。

以下示例用 Parquet 格式创建一个表:

CREATE EXTERNAL TABLE orders_parquet ( `orderkey` int, `orderstatus` string, `totalprice` double, `orderdate` string, `orderpriority` string, `clerk` string, `shippriority` int ) STORED AS PARQUET LOCATION 's3://schema_updates/orders_ parquet/';

以下示例用 CSV 格式创建同样的表:

CREATE EXTERNAL TABLE orders_csv ( `orderkey` int, `orderstatus` string, `totalprice` double, `orderdate` string, `orderpriority` string, `clerk` string, `shippriority` int ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' LOCATION 's3://schema_updates/orders_csv/';

在以下部分中,我们将介绍这些表的更新如何影响 Athena 查询。

将列添加到表的开头或中间

添加列是最常见的架构变化之一。例如,您可以添加新列,用新的数据来充实表。或者,如果一个现有列的源发生了变化,您可以添加一个新列,同时保留该列表的前一版本,以调整依赖它们的应用程序。

要将列添加到表的开头或中间,并继续针对现有表运行查询,请使用 AVRO、JSON 以及 Parquet 和 ORC(如果它们的 SerDe 属性设为按名称读取)。有关信息,请参阅 ORC 和 Parquet 中的索引访问

不要在 CSV 和 TSV 表的开头或中间添加列,因为这些格式取决于排序。如果在这些情况下添加列,分区架构改变将导致架构不匹配的错误。

以下示例展示了如何在 JSON 表的中间添加一列:

CREATE EXTERNAL TABLE orders_json_column_addition ( `o_orderkey` int, `o_custkey` int, `o_orderstatus` string, `o_comment` string, `o_totalprice` double, `o_orderdate` string, `o_orderpriority` string, `o_clerk` string, `o_shippriority` int, ) ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' LOCATION 's3://schema_updates/orders_json/';

在表的末尾添加列

如果您以 Athena 支持的任何格式(如 Parquet、ORC、Avro、JSON、CSV 和 TSV)创建表,则可以在表的末尾添加新的列。对于 Parquet 和 ORC 格式的表,您可以在表的末尾添加列,而不管这些表所使用的索引访问类型。

在以下示例中,将删除现有 Parquet 表,并添加新 Parquet 表,在表的末尾新增 `comment` 列:

DROP TABLE orders_parquet; CREATE EXTERNAL TABLE orders_parquet ( `orderkey` int, `orderstatus` string, `totalprice` double, `orderdate` string, `orderpriority` string, `clerk` string, `shippriority` int `comment` string ) STORED AS PARQUET LOCATION 's3://schema_updates/orders_parquet/';

在以下示例中,将删除现有 CSV 表,并添加新 CSV 表,在表的末尾新增 `comment` 列:

DROP TABLE orders_csv; CREATE EXTERNAL TABLE orders_csv ( `orderkey` int, `orderstatus` string, `totalprice` double, `orderdate` string, `orderpriority` string, `clerk` string, `shippriority` int `comment` string ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' LOCATION 's3://schema_updates/orders_csv/';

删除列

如果表中的列不再包含数据,您可能需要删除它们,或者,您可能需要限制对于列数据的访问。

  • 您可以从 JSON、Avro 表,以及按名称读取的 Parquet 和 ORC 表中删除列。有关信息,请参阅 ORC 和 Parquet 中的索引访问

  • 如果您希望保留已在 Athena 中创建的表,我们不建议从 CSV 和 TSV 表中删除列。删除列会破坏架构,需要您重新创建不包含已删除列的表。

在本示例中,将从 Parquet 表中删除一列`totalprice`并运行查询。在 Athena 中,Parquet 默认是按名称读取的,因此我们省略了指定按名称读取的 SERDEPROPERTIES 配置。请注意,即使更改了架构,以下查询也会成功:

CREATE EXTERNAL TABLE orders_parquet_column_removed ( `o_orderkey` int, `o_custkey` int, `o_orderstatus` string, `o_orderdate` string, `o_orderpriority` string, `o_clerk` string, `o_shippriority` int, `o_comment` string ) STORED AS PARQUET LOCATION 's3://schema_updates/orders_parquet/';

重命名列

有时,您可能需要重命名表列,以便纠正拼写、让列名称含义更清晰或重用现有列以避免列重新排序。

如果将数据存储为 CSV 和 TSV,或 Parquet 和 ORC(配置为按索引读取),则可以将列重新命名。有关信息,请参阅 ORC 和 Parquet 中的索引访问

Athena 会按照架构中的列顺序读取 CSV 和 TSV 数据并以同样的顺序返回。它不会使用列名称来将数据映射到列,因此,如果不中断 Athena 查询,您就可以重命名 CSV 或 TSV 格式列。

在此示例中,在 Parquet 表中将 `o_totalprice` 列重命名为 `o_total_price`,然后在 Athena 中运行查询:

CREATE EXTERNAL TABLE orders_parquet_column_renamed ( `o_orderkey` int, `o_custkey` int, `o_orderstatus` string, `o_total_price` double, `o_orderdate` string, `o_orderpriority` string, `o_clerk` string, `o_shippriority` int, `o_comment` string ) STORED AS PARQUET LOCATION 's3://TBD/schema_updates/orders_parquet/';

对于 Parquet 表而言,以下查询可以运行,但经过重命名的列不会显示数据,因为列是按名称访问的(Parquet 的默认设置)而不是按索引访问的:

SELECT * FROM orders_parquet_column_renamed;

对于 CSV 表的查询看起来类似:

CREATE EXTERNAL TABLE orders_csv_column_renamed ( `o_orderkey` int, `o_custkey` int, `o_orderstatus` string, `o_total_price` double, `o_orderdate` string, `o_orderpriority` string, `o_clerk` string, `o_shippriority` int, `o_comment` string ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' LOCATION 's3://schema_updates/orders_csv/';

对于 CSV 表而言,以下查询可以运行,并将显示所有列的数据,包括经过重新命名的列:

SELECT * FROM orders_csv_column_renamed;

重新排序列

只有表的数据格式是按名称读取的,才可以将列重新排序,例如 JSON 或默认为按名称读取的 Parquet。如有需要,也可以将 ORC 设为按名称读取。有关信息,请参阅 ORC 和 Parquet 中的索引访问

以下示例演示如何将列重新排序:

CREATE EXTERNAL TABLE orders_parquet_columns_reordered ( `o_comment` string, `o_orderkey` int, `o_custkey` int, `o_orderpriority` string, `o_orderstatus` string, `o_clerk` string, `o_shippriority` int, `o_orderdate` string ) STORED AS PARQUET LOCATION 's3://schema_updates/orders_parquet/';

更改列的数据类型

有时,您可能需要更改列类型,因为原先的类型已无法容纳所需量的信息,例如,当 ID 列超过 INT 数据类型的大小时,它就必须改为 BIGINT 数据类型。

更改列的数据类型具有以下限制:

  • 只有特定数据类型可以转换为其他数据类型。有关可以更改的数据类型,请参阅本部分中的表。

  • 对于 Parquet 和 ORC 格式的数据,如果表未进行分区,您将无法更改列的数据类型。

    对于 Parquet 和 ORC 格式的分区表,一个分区的列类型可以不同于另一个分区的列类型,而且 Athena 将 CAST 为所需的类型(如果可能)。有关更多信息,请参阅避免带有分区的表出现架构不匹配错误

重要

我们强烈建议您在执行数据类型转换时,先测试和验证一下您的查询。如果 Athena 无法将数据类型从原始数据类型转换为目标数据类型,CREATE TABLE 查询可能失败。

下表列出了您可以更改的数据类型:

兼容的数据类型
原始数据类型 可用的目标数据类型
STRING BYTETINYINTSMALLINTINTBIGINT
BYTE TINYINTSMALLINTINTBIGINT
TINYINT SMALLINTINTBIGINT
SMALLINT INTBIGINT
INT BIGINT
FLOAT DOUBLE

在以下示例中,将 orders_json 表的 `o_shippriority` 列的数据类型更改为 BIGINT

CREATE EXTERNAL TABLE orders_json ( `o_orderkey` int, `o_custkey` int, `o_orderstatus` string, `o_totalprice` double, `o_orderdate` string, `o_orderpriority` string, `o_clerk` string, `o_shippriority` BIGINT ) ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' LOCATION 's3://schema_updates/orders_json';

以下查询可成功运行,与更改数据类型前的原始 SELECT 查询类似:

Select * from orders_json LIMIT 10;