成都创新互联网站制作重庆分公司

IDEA中怎么利用Maven创建一个Scala项目

IDEA中怎么利用Maven创建一个Scala项目,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

创新互联建站网站建设服务商,为中小企业提供成都网站制作、做网站、外贸营销网站建设服务,网站设计,网站改版维护等一站式综合服务型公司,专业打造企业形象网站,让您在众多竞争对手中脱颖而出创新互联建站

创建一个 Scala 的 WordCount 程序

第一步:IntelliJ IDEA下安装 Scala 插件

安装完 Scala 插件完成

第二步:Maven 下 Scala 下的项目创建

正常创建 Maven 项目(不会的看另一篇 Maven 配置)

第三步:Scala 版本的下载及配置

通过Spark官网下载页面http://spark.apache.org/downloads.html 可知“Note: Starting version 2.0, Spark is built with Scala 2.11 by default.”,建议下载Spark2.2对应的 Scala 2.11。

登录Scala官网http://www.scala-lang.org/,单击download按钮,然后再“Other Releases”标题下找到“下载2.11.0

根据自己的系统下载相应的版本 接下来就是配置Scala 的环境变量(跟 jdk 的配置方法一样)

输入 Scala -version 查看是否配置成功 会显示 Scala code runner version 2.11.0 – Copyright 2002-2013, LAMP/EPFL

选择自己安装 Scala 的路径

第四步:编写 Scala 程序

将其他的代码删除,不然在编辑的时候会报错

配置 pom.xml文件

在里面添加一个 Spark

 2.11.0  2.2.1   org.apache.spark   spark-core_2.11   ${spark.version}  

具体的 pom.xml 内容

4.0.0 cn.spark Spark 1.0-SNAPSHOT 2008  2.11.0  2.2.1     scala-tools.org   Scala-Tools Maven2 Repository   http://scala-tools.org/repo-releases       org.scala-lang   scala-library   ${scala.version}       org.apache.spark   spark-core_2.11   ${spark.version}       junit   junit   4.4   test       org.specs   specs   1.2.5   test    src/main/scala  src/test/scala        org.scala-tools    maven-scala-plugin                     compile       testCompile                       ${scala.version}          -target:jvm-1.5                org.apache.maven.plugins    maven-eclipse-plugin         true          ch.epfl.lamp.sdt.core.scalabuilder              ch.epfl.lamp.sdt.core.scalanature              org.eclipse.jdt.launching.JRE_CONTAINER      ch.epfl.lamp.sdt.launching.SCALA_CONTAINER                    org.scala-tools    maven-scala-plugin         ${scala.version}        

编写 WordCount 文件

package cn.sparkimport org.apache.spark.{SparkConf, SparkContext}/** * Created by hubo on 2018/1/13 */object WordCount { def main(args: Array[String]) {  var masterUrl = "local"  var inputPath = "/Users/huwenbo/Desktop/a.txt"  var outputPath = "/Users/huwenbo/Desktop/out"  if (args.length == 1) {   masterUrl = args(0)  } else if (args.length == 3) {   masterUrl = args(0)   inputPath = args(1)   outputPath = args(2)  }  println(s"masterUrl:$masterUrl, inputPath: $inputPath, outputPath: $outputPath")  val sparkConf = new SparkConf().setMaster(masterUrl).setAppName("WordCount")  val sc = new SparkContext(sparkConf)  val rowRdd = sc.textFile(inputPath)  val resultRdd = rowRdd.flatMap(line => line.split("\\s+"))   .map(word => (word, 1)).reduceByKey(_ + _)  resultRdd.saveAsTextFile(outputPath) }}

var masterUrl = “local”

local代表自己本地运行,在 hadoop 上运行添加相应地址

看完上述内容,你们掌握IDEA中怎么利用Maven创建一个Scala项目的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联行业资讯频道,感谢各位的阅读!


新闻名称:IDEA中怎么利用Maven创建一个Scala项目
本文网址:http://cxhlcq.com/article/psegje.html

其他资讯

在线咨询

微信咨询

电话咨询

028-86922220(工作日)

18980820575(7×24)

提交需求

返回顶部