Lambda 函数扩展

并发是您的 Amazon Lambda 函数同时处理的正在进行的请求数。对于每个并发请求，Lambda 会预置单独的执行环境实例。当您的函数收到更多请求时，Lambda 会自动处理执行环境数量的扩展，直到您达到账户的并发限制。默认情况下，Lambda 为您的账户提供的单区域所有函数总并发上限为 1000。为了支持您的特定账户需求，您可以申请增加限额，并配置函数级并发控制，这样您的关键函数就不会节流。

本主题介绍了 Lambda 中的并发和函数横向缩减。在本主题结束时，您将能够了解如何计算并发、如何可视化两个主要的并发控制选项（预留类和预置类）、估计适当的并发控制设置，以及查看用于进一步优化的指标。

了解和可视化并发

Lambda 调用一个安全和隔离的执行环境中的函数。要处理请求，Lambda 必须先初始化执行环境（Init 阶段），然后再使用它来调用您的函数（Invoke 阶段）：

上图使用矩形表示单个执行环境。当函数收到其第一个请求（由带标签 1 的黄色圆圈表示）时，Lambda 会创建一个新的执行环境并在初始化阶段在主处理程序之外运行代码。然后，Lambda 在 Invoke 阶段运行函数的主处理程序代码。在整个过程中，此执行环境繁忙，无法处理其他请求。

当 Lambda 处理完第一个请求后，此执行环境就可以处理针对同一函数的其他请求。对于后续请求，Lambda 无需重新初始化环境。

在上图中，Lambda 重复使用执行环境来处理第二个请求（由带标签 2 的黄色圆圈表示）。

到目前为止，我们只关注您的执行环境的单个实例（即并发为 1）。实际上，Lambda 可能需要并行预置多个执行环境实例来处理所有传入请求。当您的函数收到新请求时，可能会发生以下两种情况之一：

例如，让我们来看看当您的函数收到 10 个请求时会发生什么：

在上图中，每个水平平面代表一个执行环境实例（标记为从 A 到 F）。以下是 Lambda 处理每个请求的方式：

随着您的函数收到更多的并发请求，Lambda 会纵向扩展响应中的执行环境实例的数量。以下动画跟踪一段时间内的并发请求数：

通过将之前的动画冻结在六个不同的时间点，我们得到下图：

在上图中，我们可以在任何时间点绘制一条垂直线，并计算与该直线相交的环境数量。这为我们提供了该时间点的并发请求数。例如，时间 t1 处有 3 个处于活动状态的环境在处理 3 个并发请求。此模拟中的最大并发请求数发生在时间 t4，此时有 6 个处于活动状态的环境处理 6 个并发请求。

总而言之，函数并发是它同时处理并发请求的数目。为了应对函数并发的增加，Lambda 预置了更多的执行环境实例以满足请求需求。

如何计算并发

通常，系统的并发是指同时处理多个任务的能力。在 Lambda 中，并发是您的函数同时处理的正在进行的请求数。一种衡量 Lambda 函数并发的快速而实用的方法是使用以下公式：

Concurrency = (average requests per second) * (average request duration in seconds)

并发不同于每秒的请求数。例如，假设您的函数平均每秒接收 100 个请求。如果平均请求持续时间为 1 秒，那么并发确实也是 100：

Concurrency = (100 requests/second) * (1 second/request) = 100

但是，如果平均请求持续时间为 500 毫秒，则并发为 50：

Concurrency = (100 requests/second) * (0.5 second/request) = 50

实际上，并发为 50 意味着什么？ 如果平均请求持续时间为 500 毫秒，则可以将函数的实例视为每秒能够处理 2 个请求。然后，您的函数需要 50 个实例才能处理每秒 100 个请求的负载。并发为 50 意味着 Lambda 必须预置 50 个执行环境实例才能在没有任何节流的情况下高效处理此工作负载。以下是用方程式表示这种情况的方法：

Concurrency = (100 requests/second) / (2 requests/second) = 50

如果您的函数收到的请求数是原来的两倍（每秒 200 个请求），但只需要一半的时间来处理每个请求（250 毫秒），则并发仍为 50：

Concurrency = (200 requests/second) * (0.25 second/request) = 50

Concurrency = (5,000 requests/second) * (0.2 seconds/request) = 1,000

Concurrency = (5,000 requests/second) / (5 requests/second) = 1,000

并发与每秒的请求数

如上一节中所述，并发不同于每秒的请求数。在处理平均请求持续时间小于 100 毫秒的函数时，这是一项特别重要的区别。

通常，执行环境的每个实例每秒最多可以处理 10 个请求。此限制适用于同步按需函数以及使用预置并发的函数。由于您不熟悉此限制，则可能会对为何此类函数在某些场景中会遇到节流感到困惑。

例如，考虑一个平均请求持续时间为 50 毫秒的函数。在每秒 200 个请求时，以下是此函数的并发：

Concurrency = (200 requests/second) * (0.05 second/request) = 10

根据此结果，您可能预计只需 10 个执行环境实例即可处理此负载。但是，每个执行环境每秒只能处理 10 次执行。这意味着在 10 个执行环境中，您每秒只能处理 200 个请求总数中的 100 个请求。此函数会受到节流。

教训是，在为函数配置并发设置时，需要同时考虑并发和每秒请求数。在这种情况下，您的函数需要 20 个执行环境，即使它的并发只有 10 个也是如此。

Concurrency = (3,000 requests/second) * (0.02 seconds/request) = 60

预留并发和预置并发。

默认情况下，您的账户有某个区域内的所有函数的并发上限，该上限为 1000。您的函数按需共享这个拥有 1000 个并发的并发池。如果您用尽了可用的并发，您的函数将节流（即它开始丢弃请求）。

您的某些函数可能比其他函数更重要。因此，您可能需要配置并发设置，以确保关键函数获得所需的并发。有两种并发控制：预留并发和预置并发。

预留并发

若想保证您的函数在任何时候都有一定数量的并发可用，请使用预留并发。

预留并发是您要分配给函数的最大并发实例数。当将预留并发提供给函数时，任何其他函数都不可以使用该并发。换言之，设置预留并发会影响可用于其他函数的并发池。没有预留并发的函数共享剩余的非预留并发池。

配置预留并发将计入您的账户总并发上限。为函数配置预留并发不收取任何费用。

为了更好地理解预留并发，请细看下图：

在此图中，此区域中的所有函数的账户并发限制为默认限制 1000。假设您有两个关键函数 function-blue 和 function-orange，它们通常会预估获得很高的调用量。您决定将 400 个单位的预留并发分配给 function-blue，将 400 个单位的预留并发分配给 function-orange。在此示例中，您账户中的所有其他函数必须共享剩余的 200 个单位的非预留并发。

该图有 5 个兴趣点：

在此示例中，请注意，预留并发具有以下效果：

要管理函数的预留并发设置，请参阅 配置预留并发。

预配置并发

您可以使用预留并发来定义为 Lambda 函数预留的最大执行环境数。但是，这些环境都不会进行预先初始化。因此，您的函数调用可能需要更长的时间，因为 Lambda 必须先初始化新环境，然后才能使用它来调用您的函数。当 Lambda 必须初始化新环境才能执行调用时，这称为冷启动。为了减少冷启动，您可以使用预置并发。

预置并发是您要分配给函数的预初始化执行环境的数量。如果您在函数上设置预置并发，Lambda 会初始化该执行环境数量，以便它们准备好立即响应函数请求。

当使用预置并发时，Lambda 仍会在后台回收执行环境。但是，在任何给定时间，Lambda 始终确保预初始化环境的数量等于您的函数预置并发设置的值。这种行为与预留并发不同，在预留并发中，Lambda 可能会在不活动时段后完全终止环境。当您使用预留并发而不是预置并发来配置函数时，下图通过比较单个执行环境的生命周期来说明这一点。

该图有四个兴趣点：

为了更好地了解预置并发，请细看下图：

在此图中，您的账户并发限制为 1,000。您决定将 400 个单位的预置并发量分配给 function-orange。您账户中的所有函数，包括 function-orange，都可以使用剩余的 600 个单位的非预留并发。

该图有 5 个兴趣点：

前面的示例仅考虑了预置并发。实际上，您可以设置函数的预置并发和预留并发。如果您有一个函数可以处理恒定的调用负载，但是在周末经常出现流量峰值，那么您可以这样做。在这种情况下，您可以使用预置并发来设置基准环境数量以在工作日处理请求，并使用预留并发来处理周末的流量峰值。请细看以下图：

在此图中，假设您为 function-orange 配置了 200 个单位的预置并发和 400 个单位的预留并发。由于您配置了预留并发，因此 function-orange 无法使用 600 个单位的非预留并发中的任何一个。

该图有 5 个兴趣点：

预留并发和预置并发均计入您的账户并发限制和区域限额。换言之，分配预留和预置并发会影响可用于其他函数的并发池。配置预置并发会让您的 Amazon 账户产生费用。

要管理函数的预置并发设置，请参阅配置预置并发。要根据计划或应用程序利用率使预置并发扩缩自动化，请参阅使用 Application Auto Scaling 管理预置并发。

Lambda 如何分配预置并发

配置后，预置并发并不会立即生效。Lambda 会在一两分钟的准备时间后开始分配预配置并发。特别是，Lambda 可以同时预置 500 到 3000 个执行环境，具体取决于区域。此次最初突增之后，无论在哪个区域，Lambda 每分钟都会额外分配 500 个环境，直到请求完成。

例如，假设您的账户并发限制为 10000。此外，假设在美国东部（弗吉尼亚州北部）上午 10:00，您为一个函数配置了 5000 个单位的预置并发。以下是 Lambda 可能分配预置并发单位的方式：

在上图中：

当您提交分配预置并发的请求时，在 Lambda 完全完成分配之前，您无法访问任何这些环境。例如，在前面的场景中，在 10:05 之前，您的所有请求都无法使用预置的并发，因为此时 Lambda 会完全完成对您的 5000 个执行环境请求的分配。

对比预留并发和预置并发。

下表总结并对比了预留并发和预置并发。

并发限额

对于可跨区域中所有函数使用的并发的总量，Lambda 可设置限额。这些限额分为两个级别：

要检查您的当前账户级别并发限额，请使用 Amazon Command Line Interface（CLI）运行以下命令：

aws lambda get-account-settings

您应该会看到类似如下输出：

{
    "AccountLimit": {
        "TotalCodeSize": 80530636800,
        "CodeSizeUnzipped": 262144000,
        "CodeSizeZipped": 52428800,
        "ConcurrentExecutions": 1000,
        "UnreservedConcurrentExecutions": 900
    },
    "AccountUsage": {
        "TotalCodeSize": 410759889,
        "FunctionCount": 8
    }
}

ConcurrentExecutions 是您的账户级别的总并发限额。UnreservedConcurrentExecutions 是您仍然可以分配给函数的预留并发。

对于最初的流量突增，您的累积并发可以达到 500 到 3000 之间的级别，具体取决于区域：

在初始突增增加之后，Lambda 会根据以下规则继续纵向扩展您的函数：

有关更多信息，请参阅突增并发。如果您需要突增并发限制，请通过 Amazon Web Services Support 进一步查询。服务限额目前不支持更改突增限制。