如何进行spark-shell的学习

如何进行spark-shell的学习，针对这个问题，这篇文章详细介绍了相对应的分析和解答，希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

创新互联是一家专注于网站建设、网站制作与策划设计,济宁网站建设哪家好?创新互联做网站,专注于网站建设10多年,网设计领域的专业建站公司;建站业务涵盖:济宁等地区。济宁做网站价格咨询:028-86922220

今天我就给大家介绍一下spark-shell的的应用

spark-shell是spark的一种运行脚本。它已经初始化了sparkContext(sc)和SparkSesssion(Spark)

大家可以到spark的安装路径下

bin/spark-shell

出现上图就说明正确。下面就可以操作spark了

注意spark用的是scala语言

val text = sc.textFile("/usr/wordcount.txt")

text.count()

运行结果如果所示。注意这里我们是加载的本地文件，不是hdfs文件

下面我们对hdfs文件进行操作。写出wordcount程序

首先，先上传文件到hdfs

./hdfs dfs -put /usr/a.txt /user/spark

然后对数据进行操作

 val text = sc.textFile("hdfs://192.168.153.11:9000/user/spark/a.txt")

val counts = text.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)

 counts.saveAsTextFile("hdfs://192.168.153.11:9000/user/spark/wordcount")

下面一个也是计算PI的demo

关于如何进行spark-shell的学习问题的解答就分享到这里了，希望以上内容可以对大家有一定的帮助，如果你还有很多疑惑没有解开，可以关注创新互联行业资讯频道了解更多相关知识。