如何进行spark-shell的学习，针对这个问题，这篇文章详细介绍了相对应的分析和解答，希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。
今天我就给大家介绍一下spark-shell的的应用
spark-shell是spark的一种运行脚本。它已经初始化了sparkContext(sc)和SparkSesssion(Spark)
大家可以到spark的安装路径下
bin/spark-shell
出现上图就说明正确。下面就可以操作spark了
注意spark用的是scala语言
val text = sc.textFile("/usr/wordcount.txt")
text.count()
运行结果如果所示。注意这里我们是加载的本地文件，不是hdfs文件
下面我们对hdfs文件进行操作。写出wordcount程序
首先，先上传文件到hdfs
./hdfs dfs -put /usr/a.txt /user/spark
然后对数据进行操作
val text = sc.textFile("hdfs://192.168.153.11:9000/user/spark/a.txt")
val counts = text.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)
counts.saveAsTextFile("hdfs://192.168.153.11:9000/user/spark/wordcount")
下面一个也是计算PI的demo
关于如何进行spark-shell的学习问题的解答就分享到这里了，希望以上内容可以对大家有一定的帮助，如果你还有很多疑惑没有解开，可以关注亿速云行业资讯频道了解更多相关知识。
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
