当前位置:首页>开发>正文

spark必知必会的基本概念

2023-04-27 19:47:01 互联网 未知 开发

spark必知必会的基本概念?

spark必知必会的基本概念

Spark,是一种通用的大数据计算框架,I正如传统大数据技术Hadoop的MapReduce、Hive引擎,以及Storm流式实时计算引擎等,

Spark包含了大数据领城常见的各种计算框架:比如Spark Core用于离线计算,Spark SQL用于交互式查询,Spark Streaming用于实时流式计算,Spark MILlib用于机器学习,Spark GraphX用于图计算。

Spark主要用于大数据的计算,而Hadoop以后主要用于大数据的存储(比如HDFS、Hive,HBase等),以及资源调度(Yarn)。

Spark Hadoop的组合,是未来大数据领域最热门的组合,也是最有前景的组合

最新文章