使用 Amazon S3 提高 Spark 性能 - Amazon EMR
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

使用 Amazon S3 提高 Spark 性能

Amazon EMR 提供一些功能,有助于优化使用 Spark 查询、读取和写入保存在 Amazon S3 中的数据的性能。

S3 Select 可通过将处理“向下推送”到 Amazon S3 来提高某些应用程序中 CSV 和 JSON 文件的查询性能。

经 EMRFS S3 优化的提交程序是 OutputCommitter 类的替代项,该程序使用 EMRFS 的分段上传功能,提高使用 Spark SQL、DataFrame 和 Datasetss 向 Amazon S3 写入 Parquet 文件的性能。