使用示例数据测试 Firehose 流
您可以使用 Amazon Web Services Management Console 提取模拟的股票代码数据。该控制台在您的浏览器中运行脚本,以将示例记录放入您的 Firehose 流中。这能让您测试 Firehose 流的配置,而无需生成测试数据。
下面是模拟数据的一个示例:
{"TICKER_SYMBOL":"QXZ","SECTOR":"HEALTHCARE","CHANGE":-0.05,"PRICE":84.51}
请注意,当您的 Firehose 流传输数据时,会产生标准 Amazon Data Firehose 费用,但在生成数据时不会产生任何费用。要停止产生这些费用,您可以随时从控制台停止示例数据流。
先决条件
在您开始之前,请先创建 Firehose 流。有关更多信息,请参阅 教程:从控制台创建 Firehose 流。
使用 Amazon S3 进行测试
执行以下步骤,将 Amazon Simple Storage Service(Amazon S3)作为目的地测试 Firehose 流。
要使用 Amazon S3 测试 Firehose 流
-
在 https://console.aws.amazon.com/firehose/
中打开 Firehose 控制台。 -
选择活跃的 Firehose 流。在开始发送数据之前,Firehose 流必须处于活动状态。
-
在使用演示数据进行测试下,选择开始发送演示数据即可生成示例股票代码数据。
-
按照屏幕上的说明验证是否正在将数据传输到 S3 存储桶。请注意,根据存储桶的缓冲配置,可能需要几分钟时间,新对象才能显示在您的存储桶中。
-
在测试完成后,选择停止发送演示数据即可停止产生使用费用。
使用 Amazon Redshift 进行测试
执行以下步骤,将 Amazon Redshift 作为目的地以测试 Firehose 流。
要使用 Amazon Redshift 测试 Firehose 流
-
Firehose 流要求 Amazon Redshift 集群中存在一个表。通过 SQL 接口连接到 Amazon Redshift,并运行以下语句以创建一个接受示例数据的表。
create table firehose_test_table ( TICKER_SYMBOL varchar(4), SECTOR varchar(16), CHANGE float, PRICE float );
-
在 https://console.aws.amazon.com/firehose/
中打开 Firehose 控制台。 -
选择活跃的 Firehose 流。在开始发送数据之前,Firehose 流必须处于活动状态。
-
编辑 Firehose 流的目的地详细信息以指向新创建的
firehose_test_table
表。 -
在使用演示数据进行测试下,选择开始发送演示数据即可生成示例股票代码数据。
-
按照屏幕上的说明验证是否正在将数据传输到您的表。请注意,根据缓冲配置,可能需要几分钟时间,新行才能显示在您的表中。
-
在测试完成后,选择停止发送演示数据即可停止产生使用费用。
-
编辑 Firehose 流的目的地详细信息以指向另一个表。
-
(可选)删除
firehose_test_table
表。
使用 OpenSearch Service 进行测试
执行以下步骤,将 Amazon OpenSearch Service 作为目的地以测试 Firehose 流。
要使用 OpenSearch Service 测试 Firehose 流
-
在 https://console.aws.amazon.com/firehose/
中打开 Firehose 控制台。 -
选择活跃的 Firehose 流。在开始发送数据之前,Firehose 流必须处于活动状态。
-
在使用演示数据进行测试下,选择开始发送演示数据即可生成示例股票代码数据。
-
按照屏幕上的说明验证数据是否已传输到您的 OpenSearch Service 域。有关更多信息,请参阅《Amazon OpenSearch Service 开发人员指南》中的在 OpenSearch Service 域中搜索文档。
-
在测试完成后,选择停止发送演示数据即可停止产生使用费用。
使用 Splunk 进行测试
执行以下步骤,以便将 Splunk 作为目的地以测试 Firehose 流。
要使用 Splunk 测试 Firehose 流
-
在 https://console.aws.amazon.com/firehose/
中打开 Firehose 控制台。 -
选择活跃的 Firehose 流。在开始发送数据之前,Firehose 流必须处于活动状态。
-
在使用演示数据进行测试下,选择开始发送演示数据即可生成示例股票代码数据。
-
检查是否正在将数据传输到 Splunk 索引。Splunk 中的示例搜索词为
sourcetype="aws:firehose:json"
和index="
。有关如何在 Splunk 中搜索事件的更多信息,请参阅 Splunk 文档中的搜索手册name-of-your-splunk-index
"。 如果测试数据未出现在您的 Splunk 索引中,请检查您的 AmazonS3 存储桶中是否有失败事件。另请参阅数据未传输到 Splunk。
-
在完成测试时,请选择 Stop sending demo data 以停止产生使用费用。
使用 Apache Iceberg 表进行测试
执行以下步骤,将 Apache Iceberg 表作为目的地以测试 Firehose 流。
要使用 Apache Iceberg 表测试 Firehose 流
-
在 https://console.aws.amazon.com/firehose/
中打开 Firehose 控制台。 -
选择活跃的 Firehose 流。在开始发送数据之前,Firehose 流必须处于活动状态。
-
在使用演示数据进行测试下,选择开始发送演示数据即可生成示例股票代码数据。
-
按照屏幕上的说明验证是否正在将数据传输到您的 Apache Iceberg 表。请注意,根据存储桶的缓冲配置,可能需要几分钟时间,新对象才能显示在您的存储桶中。
-
如果测试数据未出现在您的 Apache Iceberg 表中,则请检查您的 AmazonS3 存储桶中是否有失败事件。
-
在完成测试时,请选择 Stop sending demo data 以停止产生使用费用。