共計 1258 個字符,預計需要花費 4 分鐘才能閱讀完成。
丸趣 TV 小編給大家分享一下 spark1.4 Windows local 調試環(huán)境如何搭建,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
spark1.4 Windows local 調試環(huán)境搭建總結
1.scala 版本 scala-2.10.4 官方推薦 scala-2.11.7【不推薦,非 sbt 項目、需要后加載】
2.spark 版本 spark-1.4.0-bin-hadoop2.6.tgz
3.hadoop 3.1 版本 hadoop-2.6.0.tar.gz 3.2 環(huán)境變量 HADOOP_HOME=E:/ysg.tools/spark/hadoop-2.6.0 或 System.setProperty(hadoop.home.dir , E:\ysg.tools\spark\hadoop-2.6.0 3.3winutils.exe
winutils.exe 拷貝至 spark/hadoop-2.6.0/bin
文件下載地址 http://files.cnblogs.com/files/yjmyzz/hadoop2.6%28×64%29V0.2.zip
4.idea 新建 NO-SBT 項目
libraties 增加 scala sdk
spark-1.4.0-bin-hadoop2.6\lib\spark-assembly-1.4.0-hadoop2.6.0.jar
spark.test.iml 先加載 spark-assembly-1.4.0-hadoop2.6.0 再加載 scala-sdk-2.11.7
?xml version= 1.0 encoding= UTF-8 ?
module type= JAVA_MODULE version= 4
component name= NewModuleRootManager inherit-compiler-output= true
exclude-output /
content url= file://$MODULE_DIR$
sourceFolder url= file://$MODULE_DIR$/src isTestSource= false /
/content
orderEntry type= inheritedJdk /
orderEntry type= sourceFolder forTests= false /
orderEntry type= library name= spark-assembly-1.4.0-hadoop2.6.0 level= project /
orderEntry type= library name= scala-sdk-2.11.7 level= project /
/component
/module
以上是“spark1.4 Windows local 調試環(huán)境如何搭建”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注丸趣 TV 行業(yè)資訊頻道!