静态网站建设教程,建设一个企业网站多少钱,酒店微网站建设,网站建设工目录
1 概述 2 发展
3 Spark和Hadoop
4 Spark核心模块 1 概述 Apache Spark是一个快速、通用、可扩展的分布式计算系统#xff0c;最初由加州大学伯克利分校的AMPLab开发。 Spark可以处理大规模数据处理任务#xff0c;包括批处理、迭代式算法、交互式查询和流处理等。Spa…目录
1 概述 2 发展
3 Spark和Hadoop
4 Spark核心模块 1 概述 Apache Spark是一个快速、通用、可扩展的分布式计算系统最初由加州大学伯克利分校的AMPLab开发。 Spark可以处理大规模数据处理任务包括批处理、迭代式算法、交互式查询和流处理等。Spark支持多种编程语言包括Java、Scala、Python和R等。Spark的核心概念是弹性分布式数据集Resilient Distributed Dataset简称RDD它是一个分布式的内存抽象可以让开发者在内存中高效地处理数据。 Spark还提供了许多高级工具包括Spark SQL、Spark Streaming、MLlib机器学习库和GraphX图处理库这些工具可以让开发者更方便地处理数据和构建分布式应用程序。
Spark 是一种由 Scala 语言开发的快速、通用、可扩展的大数据分析引擎Spark Core 中提供了 Spark 最基础与最核心的功能Spark SQL 是Spark 用来操作结构化数据的组件。通过 Spark SQL用户可以使用SQL 或者 Apache Hive 版本的 SQL 方言HQL来查询数据。Spark Streaming 是 Spark 平台上针对实时数据进行流式计算的组件提供了丰富的处理数据流的API。2 发展
2009 年Spark 诞生于伯克利大学的AMPLab 实验室2010 年伯克利大学正式开源了 Spark 项目2013 年 6 月Spark 成为了 Apache 基金会下的项目2014 年 2 月Spark 以飞快的速度成为了 Apache 的顶级项目2015 年至今Spark 变得愈发火爆大量的国内公司开始重点部署或者使用 Spark
3 Spark和Hadoop Hadoop 的 MR 框架和Spark 框架都是数据处理框架那么我们在使用时如何选择 Hadoop MapReduce 由于其设计初衷并不是为了满足循环迭代式数据流处理因此在多并行运行的数据可复用场景如机器学习、图挖掘算法、交互式数据挖掘算法中存在诸多计算效率等问题。所以 Spark 应运而生Spark 就是在传统的MapReduce 计算框架的基础上利用其计算过程的优化从而大大加快了数据分析、挖掘的运行和读写速度并将计算单元缩小到更适合并行计算和重复使用的RDD 计算模型。机器学习中 ALS、凸优化梯度下降等。这些都需要基于数据集或者数据集的衍生数据反复查询反复操作。MR 这种模式不太合适即使多 MR 串行处理性能和时间也是一个问题。数据的共享依赖于磁盘。另外一种是交互式数据挖掘MR 显然不擅长。而Spark 所基于的 scala 语言恰恰擅长函数的处理。Spark 是一个分布式数据快速分析项目。它的核心技术是弹性分布式数据集Resilient Distributed Datasets提供了比MapReduce 丰富的模型可以快速在内存中对数据集进行多次迭代来支持复杂的数据挖掘算法和图形计算算法。Spark 和Hadoop 的根本差异是多个作业之间的数据通信问题 : Spark 多个作业之间数据通信是基于内存而 Hadoop 是基于磁盘。Spark Task 的启动时间快。Spark 采用 fork 线程的方式而 Hadoop 采用创建新的进程的方式。Spark 只有在 shuffle 的时候将数据写入磁盘而 Hadoop 中多个 MR 作业之间的数据交互都要依赖于磁盘交互Spark 的缓存机制比HDFS 的缓存机制高效。
经过上面的比较可以看出在绝大多数的数据计算场景中Spark 确实会比 MapReduce 更有优势。但是Spark 是基于内存的所以在实际的生产环境中由于内存的限制可能会由于内存资源不够导致 Job 执行失败此时MapReduce 其实是一个更好的选择所以 Spark 并不能完全替代 MR。
4 Spark核心模块 Spark Core
Spark Core 中提供了 Spark 最基础与最核心的功能Spark 其他的功能如Spark SQL Spark StreamingGraphX, MLlib 都是在 Spark Core 的基础上进行扩展的
Spark SQL
Spark SQL 是Spark 用来操作结构化数据的组件。通过 Spark SQL用户可以使用 SQL或者Apache Hive 版本的 SQL 方言HQL来查询数据。
Spark Streaming
Spark Streaming 是 Spark 平台上针对实时数据进行流式计算的组件提供了丰富的处理数据流的API。
Spark MLlib
MLlib 是 Spark 提供的一个机器学习算法库。MLlib 不仅提供了模型评估、数据导入等额外的功能还提供了一些更底层的机器学习原语。
Spark GraphX
GraphX 是 Spark 面向图计算提供的框架与算法库。
