性能 - Amazon Storage Gateway
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

Amazon S3 文件网关文档已移至什么是 Amazon S3 文件网关

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

性能

在本部分中,您可以找到有关 Storage Gateway 性能的信息。

文件网关的性能指导

在本部分中,您可以找到为文件网关 VM 预配置硬件的指南。表中列出的实例配置是示例,仅供参考。

注意

您的性能可能因主机平台配置和网络带宽而异。

对于 Amazon EC2 实例,如果您的 S3 存储桶中有超过 500 万个对象,并且您使用的是通用型固态硬盘卷,则在启动期间,您的网关必须具有 350 GiB 的最小根 EBS 卷才能实现可接受的性能。有关如何增加卷大小的信息,请参阅使用弹性卷修改 EBS 卷(控制台)

以下是文件网关配置示例。

Linux 客户端上的文件网关性能

示例配置 协议 写入吞吐量(文件大小 1 GB) 缓存命中量 缓存缺少读取吞吐量

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:512 GiB 缓存,io1,1,500 预配置 IOPS

最低网络性能:10Gbps

CPU:16 个 vCPU | RAM:32 GB

推荐用于 Linux 的 NFS 协议

NFSv3-1 个线程 110 MiB/ 秒(0.92 Gbps) 590 MiB/s (4.9 Gbps) 310 Mib/秒(2.6 Gbps)
NFSv3-8 个线程 160 MiB/s (1.3 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)
NFSv4-1 个线程 130 MiB/秒(1.1 Gbps) 590 MiB/s (4.9 Gbps) 295 MiB/s (2.5 Gbps)
NFSv4-8 个线程 160 MiB/s (1.3 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)
SMBV3-1 个线程 115 MiB/s (1.0 Gbps) 325 兆比/秒(2.7 Gbps) 255 Mib/秒(2.1 Gbps)
SMBV3-8 个线程 190 兆比/秒(1.6 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)

存储网关硬件设备

最低网络性能:10Gbps

NFSv3-1 个线程 265 MiB/s (2.2 Gbps) 590 MiB/s (4.9 Gbps) 310 Mib/秒(2.6 Gbps)
NFSv3-8 个线程 385 Mib/秒(3.1 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)
NFSv4-1 个线程 310 Mib/秒(2.6 Gbps) 590 MiB/s (4.9 Gbps) 295 MiB/s (2.5 Gbps)
NFSv4-8 个线程 385 Mib/秒(3.1 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)
SMBV3-1 个线程 275 兆比/秒(2.4 Gbps) 325 兆比/秒(2.7 Gbps) 255 Mib/秒(2.1 Gbps)
SMBV3-8 个线程 455 MiB/s (3.8 Gbps) 590 MiB/s (4.9 Gbps) 350 MiB/s (2.8 Gbps)

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:4 x 2 TB NVME 缓存磁盘

最低网络性能:10Gbps

CPU:32 个 vCPU | RAM:244 GB

推荐用于 Linux 的 NFS 协议

NFSv3-1 个线程 300 MiB/s (2.5 Gbps) 590 MiB/s (4.9 Gbps) 325 兆比/秒(2.7 Gbps)
NFSv3-8 个线程 585 MiB/s (4.9 Gbps) 590 MiB/s (4.9 Gbps) 580 MiB/s (4.8 Gbps)
NFSv4-1 个线程 350 MiB/s (3.0 Gbps) 590 MiB/s (4.9 Gbps) 340 MiB/s (2.9 Gbps)
NFSv4-8 个线程 575 MiB/s (4.8 Gbps) 590 MiB/s (4.9 Gbps) 575 MiB/s (4.8 Gbps)
SMBV3-1 个线程 230 MiB/s (1.9 Gbps) 325 兆比/秒(2.7 Gbps) 245 MiB/s (2.0 Gbps)
SMBV3-8 个线程 585 MiB/s (4.9 Gbps) 590 MiB/s (4.9 Gbps) 580 MiB/s (4.8 Gbps)

Windows 客户端上的文件网关性能

示例配置 协议 写入吞吐量(文件大小 1 GB) 缓存命中量 缓存缺少读取吞吐量

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:512 GiB 缓存,io1,1,500 预配置 IOPS

最低网络性能:10Gbps

CPU:16 个 vCPU | RAM:32 GB

建议用于 Windows 的中小型企业协议

SMBV3-1 个线程 150 MiB/s (1.3 Gbps) 180 MiB/s (1.5 Gbps) 20 MiB/s (0.2 Gbps)
SMBV3-8 个线程 190 兆比/秒(1.6 Gbps) 350 MiB/s (2.8 Gbps) 195 兆比/秒(1.6 Gbps)
NFSv3-1 个线程 95 MiB/s (0.8 Gbps) 130 MiB/秒(1.1 Gbps) 20 MiB/s (0.2 Gbps)
NFSv3-8 个线程 190 兆比/秒(1.6 Gbps) 330 MiB/s (2.8 Gbps) 190 兆比/秒(1.6 Gbps)

存储网关硬件设备

最低网络性能:10Gbps

SMBV3-1 个线程 230 MiB/s (1.9 Gbps) 255 Mib/秒(2.1 Gbps) 20 MiB/s (0.2 Gbps)
SMBV3-8 个线程 835 MiB/s (7.0 Gbps) 475 MiB/s (4.0 Gbps) 195 兆比/秒(1.6 Gbps)
NFSv3-1 个线程 135 Mib/秒(1.1 Gbps) 185 MiB/秒(1.6 Gbps) 20 MiB/s (0.2 Gbps)
NFSv3-8 个线程 545 MiB/ 秒(4.6 Gbps) 470 MiB/s (4.0 Gbps) 190 兆比/秒(1.6 Gbps)

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:4 x 2 TB NVME 缓存磁盘

最低网络性能:10Gbps

CPU:32 个 vCPU | RAM:244 GB

建议用于 Windows 的中小型企业协议

SMBV3-1 个线程 230 MiB/s (1.9 Gbps) 265 MiB/s (2.2 Gbps) 30 MiB/s (0.3 Gbps)
SMBV3-8 个线程 835 MiB/s (7.0 Gbps) 780 MiB/s (6.5 Gbps) 250 MiB/秒(2.1 Gbps)
NFSv3-1 个线程 135 Mib/秒 (1.1. Gbps) 220 MiB/s (1.8 Gbps) 30 MiB/s (0.3 Gbps)
NFSv3-8 个线程 545 MiB/ 秒(4.6 Gbps) 570 MiB/s (4.8 Gbps) 240 MiB/s (2.0 Gbps)

磁带网关的性能指南

在本部分中,您可以找到为磁带网关 VM 预配置硬件的配置指南。表中列出的 Amazon EC2 实例大小和类型是示例,仅供参考。

  • 文件网关是对象存储缓存。文件网关的性能特征与文件服务器的性能特征不同。

  • 当工作负载为多线程(或涉及多个客户端)时,File Gateway 可以最佳扩展。许多基本的文件管理工具都是单线程的,包括 Windows 资源管理器、拷贝或 cp 命令以及没有 /mt 开关的机器拷贝。这些工具将无法充分利用 File Gateway 的可扩展性。

  • 为了获得最佳性能结果,应通过添加线程和/或客户端来扩展工作负载

  • 使用多个线程传输大文件(每个文件数十或数百 MiB)时,可以实现最高吞吐量 MiB/秒。

  • 由于创建新文件的开销,传输许多小文件将导致比使用大文件的同一工作负载更低的 MIB/秒吞吐量。

  • 为了在传输小文件时获得最佳性能,您应该使用多个线程和/或客户端。

  • 我们建议您测量小文件传输率files-per-second,而不是每秒 MIB,因为文件创建开销主导了这样的工作负载。

配置 写入吞吐量 Gbps 从缓存读取的吞吐量 Gbps 向亚 Amazon Web Services 云吞吐量读取 Gbps

主机平台:Amazon EC2 实例 — c5.4xlarge

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:50 GB,io1 SSD,2000 IOPS

上传缓冲区磁盘:450 GB,io1 SSD,2000 IOPS

CPU:16 个 vCPU | RAM:32 GB

到云的网络带宽:10Gbps

2.3 4.0 1.7

主机平台:存储网关硬件设备

缓存磁盘:2.5 TB

上传缓冲区磁盘:2 TB

CPU:20 个核心 | RAM:128GB

到云的网络带宽:10Gbps

2.3 4.2 1.4

主机平台:实例 — c5d.9xlarge

根磁盘:80 GB,io1 SSD,4,000 IOPS

缓存磁盘:900 GB NVMe 磁盘

上传缓冲区磁盘:900 GB NVMe 磁盘

CPU:36 个 vCPU | RAM:72 GB

到云的网络带宽:10Gbps

5.2 8.2 2.0
注意

此性能是通过同时使用 1 MB 块大小和 3 个磁带驱动器来实现的。

您的性能可能因主机平台配置和网络带宽而异。

要提高磁带网关的读写吞吐量性能,请参阅优化 iSCSI 设置让磁带驱动器使用更大的数据块在备份软件中优化虚拟磁带驱动器的性能

优化网关性能

您可以在下面找到有关如何优化网关性能的信息。向网关添加资源以及向应用程序服务器添加资源是这些指导的基础。

在网关中添加资源

您可以使用以下一种或多种方法在网关中添加资源以优化网关性能。

使用更高性能的磁盘

要优化网关性能,您可以添加高性能磁盘,如固态硬盘 (SSD) 和 NVMe 控制器。您还可以直接从存储区域网络 (SAN) 而不是 Microsoft Hyper-V NTFS 将虚拟磁盘连接到 VM。更高的磁盘性能通常可带来更大的吞吐量和更多的每秒输入/输出操作 (IOPS) 次数。

要测量吞吐量,请将 ReadBytesWriteBytes 指标与 Samples Amazon CloudWatch 统计数据结合使用。例如,5 分钟的采样周期内的 Samples 指标的 ReadBytes 统计数据除以 300 秒可以得出 IOPS。一般来说,查看网关的这些指标时,应注意低吞吐量和低 IOPS 趋势,以便显示与磁盘相关的瓶颈。有关网关指标的更多信息,请参见 测量磁带网关和Amazon

注意

CloudWatch 指标不可用于所有网关。有关网关指标的信息,请参阅监控 Storage Gateway

添加 CPU 资源到您的网关主机

网关主机服务器的最低要求是四个虚拟服务器。要优化网关性能,请确认分配给网关 VM 的四个虚拟处理器由四个内核提供支持。此外,还要确认您没有超额预订主机服务器的 CPU。

在将额外的 CPU 添加到网关主机服务器时,将会增加网关的处理能力。通过执行该操作,您的网关可以并行处理将应用程序中的数据存储到本地存储以及将该数据上传到 Amazon S3 的过程。更多 CPU 还可帮助确保在主机与其他 VM 共享时您的网关获得足够的 CPU 资源。提供足够的 CPU 资源通常能取得增加吞吐量的效果。

Storage Gateway 支持在网关主机服务器中使用 24 个 CPU。您可以使用 24 个 CPU 以显著提高网关性能。我们建议您对网关主机服务器使用以下网关配置:

  • 24 个 CPU。

  • 文件网关预留 RAM 的 16 GiB 预留 RAM

    对于卷网关和磁带网关,您的硬件应分配以下 RAM:

    • 16 GiB 的预留 RAM,用于缓存大小不超过 16 TiB 的网关

    • 32 GiB 的预留 RAM,用于缓存大小为 16 TiB 到 32 TiB 的网关

    • 48 GiB 的预留 RAM,用于缓存大小为 32 TiB 至 64 TiB 的网关

  • 磁盘 1 附加到半虚拟化控制器 1,将按如下方式用作网关缓存:

    • 使用 NVMe 控制器的 SSD。

  • 磁盘 1 附加到半虚拟化控制器 2,将按如下方式用作网关上传缓冲区:

    • 使用 NVMe 控制器的 SSD。

  • 磁盘 3 附加到半虚拟化控制器 2,将按如下方式用作网关上传缓冲区:

    • 使用 NVMe 控制器的 SSD。

  • 在虚拟机网络 1 上配置网络适配器 1:

    • 使用 VM 网络 1 并添加 VMXnet3 (10 Gbps) 以用于提取。

  • 在虚拟机网络 2 上配置网络适配器 2:

    • 使用 VM 网络 2 并添加 VMXnet3 (10 Gbps) 以用于连接到 Amazon。

使用独立物理磁盘支持网关虚拟磁盘

在预置网关磁盘时,我们强烈建议您不要为使用相同底层物理存储磁盘的上传缓冲区和缓存存储预置本地磁盘。例如,对于 VMware ESXi,底层物理存储资源表示为数据存储。部署网关 VM 时,您可选择用来存储 VM 文件的数据存储。在预置虚拟磁盘时(例如,作为上传缓冲区),您可以将虚拟磁盘存储在与 VM 相同的数据存储中,也可以将其存储在不同的数据存储中。

如果您有多个数据存储,则强烈建议为要创建的每个类型的本地存储选择一个数据存储。仅由一个底层物理磁盘支持的数据存储可能会导致性能下降。例如,在使用此类磁盘同时支持网关设置中的缓存存储和上传缓冲区时。同样,由性能不太高的 RAID 配置(如 RAID 1)支持的数据存储可能会导致性能下降。

更改卷配置

对于卷网关,如果您发现向网关添加更多的存储卷降低了到网关的吞吐量,则应考虑将存储卷添加到其他网关。具体而言,如果卷用于高吞吐量应用程序,则应考虑为高吞吐量应用程序另行创建网关。但一般而言,您不应该将一个网关用于所有的高吞吐量应用程序,另一个网关用于所有的低吞吐量应用程序。要测量卷吞吐量,请使用 ReadBytesWriteBytes 指标。

有关这些指标的更多信息,请参阅 衡量您的应用程序和网关间的性能。

优化 iSCSI 设置

您可以优化 iSCSI 启动程序上的 iSCSI 设置,以实现更高的 I/O 性能。我们建议为 MaxReceiveDataSegmentLengthFirstBurstLength 选择 256 KiB,为 MaxBurstLength 选择 1 MiB。有关配置 iSCSI 设置的更多信息,请参阅自定义 iSCSI 设置

注意

这些建议的设置可以实现更出色的整体性能。但是,优化性能所需的具体 iSCSI 设置因您使用的备份软件而异。有关详细信息,请参阅备份软件文档。

让磁带驱动器使用更大的数据块

对于磁带网关,磁带驱动器的默认块大小为 64 KB。但是,您可以将块大小增加到最多 1 MB 以提高 I/O 性能。

您选择的块大小取决于备份软件支持的最大块大小。我们建议您在备份软件中将磁带驱动器的块大小尽可能设置为较大的值。但是,该块大小不能大于网关支持的最大大小 (1 MB)。

磁带网关协商虚拟磁带驱动器的块大小,以自动与备份软件中设置的值相匹配。在备份软件中增加块大小时,我们建议您还要检查这些设置,以确保主机启动程序支持新的块大小。有关更多信息,请参阅备份软件的文档。有关特定网关性能指南的更多信息,请参阅性能

在备份软件中优化虚拟磁带驱动器的性能

您的备份软件可以同时备份磁带网关上的最多 10 个虚拟磁带驱动器上的数据。我们建议您在备份软件中配置备份作业,以在磁带网关上同时使用至少 4 个虚拟磁带驱动器。在备份软件同时将数据备份到多个虚拟磁带时,您可以实现更高的写入吞吐量。

向应用程序环境添加资源

提高应用程序服务器和网关之间的带宽

要优化网关性能,请确保应用程序和网关之间的网络带宽可满足您的应用程序需求。您可以使用ReadBytesWriteBytes用于衡量总数据吞吐量的网关指标。有关这些指标的更多信息,请参阅 测量磁带网关和Amazon

对于您的应用程序,请将测得的吞吐量与所需的吞吐量进行比较。如果测得吞吐量小于预期吞吐量,那么如果网络是瓶颈,提高应用程序和网关间的带宽可改善性能。同样地,您可以增加 VM 和本地磁盘之间的带宽 (如果它们不是直接连接的)。

向应用程序环境添加 CPU 资源

如果您的应用程序可以使用额外的 CPU 资源,则添加更多 CPU 可以帮助您的应用程序扩展其 I/O 负载。

将 VMware vSphere High Availability 与 Storage Gateway 结合使

Storage Gateway 通过一组与 VMware vSphere High Availability (VMware HA) 集成的应用程序级运行状况检查,在 VMware 上提供高可用性。此方法有助于保护存储工作负载免受硬件、管理程序或网络故障的影响。它还有助于防止软件错误,例如连接超时和文件共享或卷不可用。

通过此集成,部署在本地 VMware 环境中或 VMware Cloud on Amazon 中的网关将自动从大多数服务中断中恢复。此操作通常在 60 秒内完成,并且不会丢失数据。

要将 VMware HA 与 Storage Gateway 结合使用,请执行下面列出的步骤。

配置您的 vSphere VMware HA 集群

如果您尚未创建 VMware 集群,请先创建一个。有关如何创建 VMware 集群的信息,请参阅 VMware 文档中的创建 vSphere HA 集群

接下来,将 VMware 集群配置为与 Storage Gateway 结合使用。

配置 VMware 集群

  1. 在 VMware vSphere 的 Edit Cluster Settings (编辑集群设置) 页面上,确保为 VM 和应用程序监控配置 VM 监控。为此,请设置下面列出的选项:

    • 主机故障响应重新启动 VM

    • 主机隔离的响应关闭并重新启动 VM

    • 具有 PDL 的数据存储Disabled (已禁用)

    • 具有 APD 的数据存储Disabled (已禁用)

    • VM 监控VM 和应用程序监控

    有关示例,请参阅下面的屏幕截图。

    
                        编辑集群设置
  2. 通过调整以下值来微调集群的敏感度:

    • 故障间隔— 在此间隔之后,如果未收到 VM 检测信号,则将重新启动 VM。

    • 最短的正常— 在 VM 开始监控 VM 工具的检测信号之后,集群等待的时间。

    • 每个 VM 的最大重置次数— 集群在最大重置时段内重启 VM 的最大次数。

    • 最长重置时段— 计算每个 VM 的最大重置次数的时段。

    如果您不确定要设置的值,请使用以下示例设置:

    • Failure interval (故障间隔)30

    • Minimum uptime (最短正常运行时间)120

    • Maximum per-VM resets (每个 VM 的最大重置次数)3

    • Maximum resets time window (最长重置时段)1 小时

如果您在集群上运行了其他 VM,则可能需要专门为您的 VM 设置这些值。在从 .ova 部署 VM 之前,无法执行此操作。有关设置这些值的更多信息,请参阅 (可选)为集群上的其他 VM 添加覆盖选项

下载适用于您的网关类型的 .ova 映像

使用以下过程可下载 .ova 映像。

下载适用于您的网关类型的 .ova 映像

部署网关

在已配置的集群中,将 .ova 映像部署到集群的主机之一。

部署网关 .ova 映像

  1. 将 .ova 映像部署到集群中的主机之一。

  2. 确保为根磁盘和缓存选择的数据存储对集群中的所有主机可用。在 VMware 或本地环境中部署存储网关 .ova 文件时,将磁盘描述为半虚拟化 SCSI 磁盘。但是,如果您在 VMware 中使用 PVSCSI 适配器类型为磁盘创建,则Amazon管理控制台返回无法读取磁盘。为了解决这个问题,请对磁盘使用 “LSI Logic SAS” 适配器类型Amazon管理控制台实际上可以看到磁盘并能够继续进行部署。

(可选)为集群上的其他 VM 添加覆盖选项

如果您在集群上运行了其他 VM,则可能需要专门为每个 VM 设置集群值。

为集群上的其他 VM 添加覆盖选项

  1. 在 VMware vSphere 中的 Summary (摘要) 页面上,选择您的集群以打开集群页面,然后选择 Configure (配置)

  2. 选择 Configuration (配置) 选项卡,然后选择 VM Overrides (VM 覆盖)

  3. 添加新的 VM 覆盖选项以更改每个值。

    有关覆盖选项,请参阅下面的屏幕截图。

    
                        覆盖集群设置

激活网关

在部署适用于网关的 .ova 后,激活网关。有关每个网关类型的不同之处的说明。

激活网关

测试您的 VMware High Availability 配置

激活网关后,请测试您的配置。

测试 VMware HA 配置

  1. 在下面打开 Storage Gateway 控制台https://console.aws.amazon.com/storagegateway/home.

  2. 在导航窗格上,选择 Gateways (网关),然后选择要针对 VMware HA 测试的网关。

  3. 对于 Actions (操作),请选择 Verify VMware HA (验证 VMware HA)

  4. 在显示的 Verify VMware High Availability Configuration (验证 VMware High Availability 配置) 框中,选择 OK (确定)

    注意

    测试 VMware HA 配置将重新启动网关 VM 并中断与网关的连接。该测试可能需要几分钟才能完成。

    如果测试成功,则控制台中网关的详细信息选项卡中将显示 Verified (已验证) 状态。

  5. 请选择 Exit(退出)。

您可以在亚马逊中找到有关 VMware HA 事件的信息。CloudWatch日志组。有关更多信息,请参阅用获取文件网关运行状况日志 CloudWatch 日志组