本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
OpenSearch 针对 Amazon OpenSearch 服务进行了优化的存储
针对 Amazon S OpenSearch ervice 的 OpenSearch 优化实例系列是一种经济实惠的解决方案,用于存储大量数据。拥有 OR1 实例的域使用 Amazon Elastic Block Store(Amazon gp3
EBS)io1
或卷作为主存储,并在数据到达时同步复制到 Amazon S3。这种存储结构提供更高的索引吞吐量和较高的耐久性。 OpenSearch 优化型实例系列还支持在发生故障时自动恢复数据。有关 OR1 实例类型选项的信息,请参阅当前一代实例类型。
如果您要运行有大量索引的运营分析工作负载,例如日志分析、可观测性或安全分析,则可以受益于 OR1 实例更好的性能和计算效率。此外, OR1实例提供的自动数据恢复功能也可提高域的整体可靠性。
OpenSearch 服务向 Amazon 发送与存储相关的 OR1 指标。 CloudWatch有关可用指标的列表,请参阅 OR1 指标。
OR1 实例可按需使用,也可使用预留实例定价,对于在 Amazon EBS 和 Amazon S3 中预置的实例和存储按小时收费。
限制
将 OR1 实例用于域时,请注意以下限制。
-
新创建的域必须运行 2.11 及更高 OpenSearch 版本。
-
现有的域必须运行 2.15 及 OpenSearch 更高版本。
-
域必须启用静态加密。有关更多信息,请参阅 Amazon S OpenSearch ervice 中的静态数据加密。
-
如果您的域使用专用主节点,则这些节点必须使用 Graviton 实例。有关专用主节点的更多信息,请参阅 Amazon Ser OpenSearch vice 中的专用主节点。
-
OR1 实例上的索引刷新间隔必须为 10 秒或更长。 OR1 实例的默认刷新间隔为 10 秒。
进行微调以提高摄取吞吐量
为了使 OR1 实例获得最佳的索引吞吐量,建议您执行以下操作:
-
使用大批量大小来提高缓冲区利用率。建议的大小为 10 MB。
-
使用多个客户端来提高并行处理性能。
-
活动主分片数量的设置要与数据节点的数量相匹配,从而尽可能提高资源利用率。
OpenSearch 优化后的实例与其他实例有何不同
OpenSearch 优化型实例与非优化型实例的区别如下:
-
对于 OpenSearch 优化型实例,仅在主分片上创建索引。
-
如果 OpenSearch 优化型实例配置了副本,则显示的索引创建速率可能低于实际水平。例如,假设有一个主分片和一个副本分片,则当实际索引创建速率为 2000 时,索引创建速率可能显示为 1000。
-
OpenSearch 优化型实例在发送到远程源之前会执行缓冲操作。这会导致摄取延迟更高。
注意
该
IndexingLatency
指标不受影响,因为该指标不包括同步 translog 的时间。 -
副本分片相比主分片可能有几秒的延迟。您可以使用 A
ReplicationLagMaxTime
mazon CloudWatch 指标监控延迟
与 UltraWarm存储有何 OR1 不同
OpenSearch Service 提供的 UltraWarm 实例以经济高效的方式存储大量只读数据。两者都在 OR1 本地将 UltraWarm 数据存储在 Amazon EBS 中,并远程将数据存储在 Amazon S3 中。但是, UltraWarm 实例 OR1 之间存在以下几个重要的区别:
-
OR1 实例在本地和远程存储中都保存了一份数据。而 UltraWarm 对于,数据主要保存在远程存储中,从而降低存储成本。根据您的使用模式,可以将数据移动到本地存储。
-
OR1 实例处于活动状态,可以接受读取和写入操作,而在您手动将数据移回热存储之前, UltraWarm 实例上的数据是只读的。
-
UltraWarm 依靠索引快照来保证数据的持久性。 OR1 与此相对,实例在幕后执行复制和恢复。如果索引为红色, OR1 实例将自动从 Amazon S3 中的远程存储中恢复缺失的分片。恢复时间因要恢复的数据量而异。
有关 UltraWarm 存储的更多信息,请参阅UltraWarm Amazon OpenSearch 服务的存储空间。
为域配置实 OR1 例
使用 Amazon Web Services Management Console 或 Amazon Command Line Interface (Amazon CLI) 创建新域时,您可以为数据节点选择 OR1 实例。您可以使用现有的工具来创建索引和查询数据。
-
导航到亚马逊 OpenSearch 服务控制台,网址为https://console.amazonaws.cn/aos/
。 -
在左侧导航窗格中,选择 域。
-
选择创建域。
-
在数据节点数量部分中,展开实例系列菜单并选择OpenSearch 已优化。
-
选择实例类型和其他存储设置。
-
在 “加密” 部分中,确保选中 “启用静态数据加密”。
-
配置域的其余部分,然后选择 “创建”。
要使用配置使用 OR1 存储空间的域 Amazon CLI,您必须在中提供特定 OR1 实例类型大小的值InstanceType
。
以下示例创建一个 OR1 实例大小为的域2xlarge
并启用静态加密。
aws opensearch create-domain \ --domain-name
test-domain
\ --engine-version OpenSearch_2.11 \ --cluster-config "InstanceType=or1.2xlarge.search,InstanceCount=3,DedicatedMasterEnabled=true,DedicatedMasterType=r6g.large.search,DedicatedMasterCount=3" \ --ebs-options "EBSEnabled=true,VolumeType=gp3,VolumeSize=200" \ --encryption-at-rest-options Enabled=true \ --advanced-security-options "Enabled=true,InternalUserDatabaseEnabled=true,MasterUserOptions={MasterUserName=test-user
,MasterUserPassword=test-password
}" \ --node-to-node-encryption-options Enabled=true \ --domain-endpoint-options EnforceHTTPS=true \ --access-policies '{"Version":"2012-10-17","Statement":[{"Effect":"Allow","Principal":{"AWS":"*"},"Action":"es:*","Resource":"arn:aws:es:us-east-1
:account-id
:domain/test-domain
/*"}]}'