使用带 Amazon Neuron 的 DLAMI
Amazon Neuron SDK 的一个典型工作流程是,在编译服务器上编译以前经过训练的机器学习模型。之后,将构件分发给 Inf1 实例以供执行。Amazon Deep Learning AMIs(DLAMI) 预装了在使用 Inferentia 的 Inf1 实例中编译和运行推理所需的一切。
以下部分说明如何将 DLAMI 与 Inferentia 结合使用。
Amazon Neuron SDK 的一个典型工作流程是,在编译服务器上编译以前经过训练的机器学习模型。之后,将构件分发给 Inf1 实例以供执行。Amazon Deep Learning AMIs(DLAMI) 预装了在使用 Inferentia 的 Inf1 实例中编译和运行推理所需的一切。
以下部分说明如何将 DLAMI 与 Inferentia 结合使用。