Amazon EMR
Amazon EMR 版本指南
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 Amazon AWS 入门

使用 Spark 创建集群

以下过程会在 EMR 控制台中使用通过 Quick Options (快速选项) 安装的 Spark 来创建集群。使用 Advanced Options (高级选项) 进一步自定义您的集群设置,并且使用步骤执行模式以编程方式安装应用程序,然后执行您作为步骤提交的自定义应用程序。利用这些高级选项之一,您可以选择使用 AWS Glue 作为您的 Spark SQL 元存储。参阅 使用 AWS Glue Data Catalog作为 Spark SQL 的元存储 了解更多信息。

启动安装了 Spark 的集群

  1. 通过以下网址打开 Amazon EMR 控制台:https://console.amazonaws.cn/elasticmapreduce/

  2. 选择 Create cluster (创建集群) 以使用 Quick Create (快速创建)

  3. 对于 Software Configuration (软件配置),选择 Amazon 版本 emr-5.20.0 或更高版本。

  4. 对于 Select Applications (选择应用程序),选择 All Applications (所有应用程序)Spark

  5. 根据需要选择其他选项,然后选择 Create cluster (创建集群)

    注意

    要在创建集群时配置 Spark,请参阅配置 Spark

使用 AWS CLI 启动安装了 Spark 的集群

  • 使用下面的命令创建集群:

    aws emr create-cluster --name "Spark cluster" --release-label emr-5.20.0 --applications Name=Spark \ --ec2-attributes KeyName=myKey --instance-type m4.large --instance-count 3 --use-default-roles

注意

包含了 Linux 行继续符 (\) 以提高可读性。可以在 Linux 命令中删除或使用它们。对于 Windows,请删除它们或将其替换为脱字号 (^)。

使用 适用于 Java 的开发工具包 启动安装了 Spark 的集群

通过 SupportedProductConfig 中使用的 RunJobFlowRequest 指定 Spark 作为应用程序。

  • 下面的实例显示如何通过 Java 使用 Spark 创建集群:

    AmazonElasticMapReduceClient emr = new AmazonElasticMapReduceClient(credentials); Application sparkApp = new Application() .withName("Spark"); Applications myApps = new Applications(); myApps.add(sparkApp); RunJobFlowRequest request = new RunJobFlowRequest() .withName("Spark Cluster") .withApplications(myApps) .withReleaseLabel("emr-5.20.0") .withInstances(new JobFlowInstancesConfig() .withEc2KeyName("myKeyName") .withInstanceCount(1) .withKeepJobFlowAliveWhenNoSteps(true) .withMasterInstanceType("m4.large") .withSlaveInstanceType("m4.large") ); RunJobFlowResult result = emr.runJobFlow(request);