Lambda 函数扩展

并发是您的 Amazon Lambda 函数同时处理的正在进行的请求数。对于每个并发请求，Lambda 会预置单独的执行环境实例。当您的函数收到更多请求时，Lambda 会自动处理执行环境数量的扩展，直到您达到账户的并发限制。默认情况下，Lambda 为您的账户提供的单区域所有函数总并发上限为 1000。为了支持您的特定账户需求，您可以申请增加限额，并配置函数级并发控制，这样您的关键函数就不会节流。

本主题介绍了 Lambda 中的并发和函数横向缩减。在本主题结束时，您将能够了解如何计算并发、如何可视化两个主要的并发控制选项（预留类和预置类）、估计适当的并发控制设置，以及查看用于进一步优化的指标。

了解和可视化并发

Lambda 调用一个安全和隔离的执行环境中的函数。要处理请求，Lambda 必须先初始化执行环境（Init 阶段），然后再使用它来调用您的函数（Invoke 阶段）：

上图使用矩形表示单个执行环境。当函数收到其第一个请求（由带标签 1 的黄色圆圈表示）时，Lambda 会创建一个新的执行环境并在 Init 阶段在主处理程序之外运行代码。然后，Lambda 在 Invoke 阶段运行函数的主处理程序代码。在整个过程中，此执行环境繁忙，无法处理其他请求。

当 Lambda 处理完第一个请求后，此执行环境就可以处理针对同一函数的其他请求。对于后续请求，Lambda 无需重新初始化环境。

在上图中，Lambda 重复使用执行环境来处理第二个请求（由带标签 2 的黄色圆圈表示）。

到目前为止，我们只关注您的执行环境的单个实例（即并发为 1）。实际上，Lambda 可能需要并行预置多个执行环境实例来处理所有传入请求。当您的函数收到新请求时，可能会发生以下两种情况之一：

例如，让我们来看看当您的函数收到 10 个请求时会发生什么：

在上图中，每个水平平面代表一个执行环境实例（标记为从 A 到 F）。以下是 Lambda 处理每个请求的方式：

随着您的函数收到更多的并发请求，Lambda 会纵向扩展响应中的执行环境实例的数量。以下动画跟踪一段时间内的并发请求数：

通过将之前的动画冻结在六个不同的时间点，我们得到下图：

在上图中，我们可以在任何时间点绘制一条垂直线，并计算与该直线相交的环境数量。这为我们提供了该时间点的并发请求数。例如，时间 t1 处有 3 个处于活动状态的环境在处理 3 个并发请求。此模拟中的最大并发请求数发生在时间 t4，此时有 6 个处于活动状态的环境处理 6 个并发请求。

总而言之，函数并发是它同时处理并发请求的数目。为了应对函数并发的增加，Lambda 预置了更多的执行环境实例以满足请求需求。

如何计算并发

通常，系统的并发是指同时处理多个任务的能力。在 Lambda 中，并发是您的函数同时处理的正在进行的请求数。一种衡量 Lambda 函数并发的快速而实用的方法是使用以下公式：

Concurrency = (average requests per second) * (average request duration in seconds)

并发不同于每秒的请求数。例如，假设您的函数平均每秒接收 100 个请求。如果平均请求持续时间为 1 秒，那么并发确实也是 100：

Concurrency = (100 requests/second) * (1 second/request) = 100

但是，如果平均请求持续时间为 500 毫秒，则并发为 50：

Concurrency = (100 requests/second) * (0.5 second/request) = 50

实际上，并发为 50 意味着什么？ 如果平均请求持续时间为 500 毫秒，则可以将函数的实例视为每秒能够处理 2 个请求。然后，您的函数需要 50 个实例才能处理每秒 100 个请求的负载。并发为 50 意味着 Lambda 必须预置 50 个执行环境实例才能在没有任何节流的情况下高效处理此工作负载。以下是用方程式表示这种情况的方法：

Concurrency = (100 requests/second) / (2 requests/second) = 50

如果您的函数收到的请求数是原来的两倍（每秒 200 个请求），但只需要一半的时间来处理每个请求（250 毫秒），则并发仍为 50：

Concurrency = (200 requests/second) * (0.25 second/request) = 50

Concurrency = (5,000 requests/second) * (0.020 seconds/request) = 100

Concurrency = (5,000 requests/second) / (50 requests/second) = 100

预留并发和预置并发。

默认情况下，您的账户有某个区域内的所有函数的并发上限，该上限为 1000。您的函数按需共享这个拥有 1000 个并发的并发池。如果您用尽了可用的并发，您的函数将节流（即它开始丢弃请求）。

您的某些函数可能比其他函数更重要。因此，您可能需要配置并发设置，以确保关键函数获得所需的并发。有两种并发控制：预留并发和预置并发。

预留并发

若想保证您的函数在任何时候都有一定数量的并发可用，请使用预留并发。

预留并发是您要分配给函数的最大并发实例数。当将预留并发提供给函数时，任何其他函数都不可以使用该并发。换言之，设置预留并发会影响可用于其他函数的并发池。没有预留并发的函数共享剩余的非预留并发池。

配置预留并发将计入您的账户总并发上限。为函数配置预留并发不收取任何费用。

为了更好地理解预留并发，请细看下图：

在此图中，此区域中的所有函数的账户并发限制为默认限制 1000。假设您有两个关键函数 function-blue 和 function-orange，它们通常会预估获得很高的调用量。您决定将 400 个单位的预留并发分配给 function-blue，将 400 个单位的预留并发分配给 function-orange。在此示例中，您账户中的所有其他函数必须共享剩余的 200 个单位的非预留并发。

该图有 5 个兴趣点：

在此示例中，请注意，预留并发具有以下效果：

要管理函数的预留并发设置，请参阅 配置预留并发。

预配置并发

您可以使用预留并发来定义为 Lambda 函数预留的最大执行环境数。但是，这些环境都不会进行预先初始化。因此，您的函数调用可能需要更长的时间，因为 Lambda 必须先初始化新环境，然后才能使用它来调用您的函数。当初始化花费的时间超过预期时，这称为冷启动。为了减少冷启动，您可以使用预置并发。

预置并发是您要分配给函数的预初始化执行环境的数量。如果您在函数上设置预置并发，Lambda 会初始化该执行环境数量，以便它们准备好立即响应函数请求。

当使用预置并发时，Lambda 仍会在后台回收执行环境。但是，在任何给定时间，Lambda 始终确保预初始化环境的数量等于您的函数预置并发设置的值。这种行为与预留并发不同，在预留并发中，Lambda 可能会在不活动时段后完全终止环境。当您使用预留并发而不是预置并发来配置函数时，下图通过比较单个执行环境的生命周期来说明这一点。

该图有四个兴趣点：

为了更好地了解预置并发，请细看下图：

在此图中，您的账户并发限制为 1,000。您决定将 400 个单位的预置并发量分配给 function-orange。您账户中的所有函数，包括 function-orange，都可以使用剩余的 600 个单位的非预留并发。

该图有 5 个兴趣点：

前面的示例仅考虑了预置并发。实际上，您可以设置函数的预置并发和预留并发。如果您有一个函数可以处理恒定的调用负载，但是在周末经常出现流量峰值，那么您可以这样做。在这种情况下，您可以使用预置并发来设置基准环境数量以在工作日处理请求，并使用预留并发来处理周末的流量峰值。请细看以下图：

在此图中，假设您为 function-orange 配置了 200 个单位的预置并发和 400 个单位的预留并发。由于您配置了预留并发，因此 function-orange 无法使用 600 个单位的非预留并发中的任何一个。

该图有 5 个兴趣点：

预留并发和预置并发均计入您的账户并发限制和区域限额。换言之，分配预留和预置并发会影响可用于其他函数的并发池。配置预置并发会让您的 Amazon 账户产生费用。

要管理函数的预置并发设置，请参阅配置预置并发。要根据计划或应用程序利用率使预置并发扩缩自动化，请参阅使用 Application Auto Scaling 管理预置并发。

对比预留并发和预置并发。

下表总结并对比了预留并发和预置并发。

并发限额

对于可跨区域中所有函数使用的并发的总量，Lambda 可设置限额。这些限额分为两个级别：

对于最初的流量突增，您的函数在一个区域中的累积并发可以达到 500 到 3000 之间的初始级别。

如果您的账户并发限制低于突增并发限制，Lambda 会根据您的账户并发来限制您的突增并发。例如，如果您的账户限制为 1000，则美国东部（弗吉尼亚州北部）的函数的突增并发为 1000。

在初始突增之后，您函数的并发可按每分钟增加 500 个实例的速度扩展。有关突增并发的更多信息，请参阅 突增并发。

准确估计所需并发

如果您的函数当前正在提供流量，则可以使用 CloudWatch 指标轻松查看其并发指标。具体而言，ConcurrentExecutions 指标显示了您账户中每个函数的并发调用数。

从图中可以看出，此函数平均处理 5 到 10 个并发请求，峰值通常为 20 个请求。假设您的账户中还有许多其他函数。如果此函数对您的应用程序至关重要，并且您不希望丢弃任何请求，则可以使用 20 作为预留并发设置。

请注意，您也可以使用以下公式计算并发：

Concurrency = (average requests per second) * (average request duration in seconds)

您可以使用 Invocation 指标估算每秒的平均请求数，并使用 Duration 指标估计平均请求持续时间（以秒为单位）。有关更多信息，请参阅 使用 Lambda 函数指标。

并发指标

您可以使用以下指标监控您的 Lambda 函数并发。