久久精品人人爽,华人av在线,亚洲性视频网站,欧美专区一二三

spark1.4 Windows local調試環(huán)境如何搭建

140次閱讀
沒有評論

共計 1258 個字符,預計需要花費 4 分鐘才能閱讀完成。

丸趣 TV 小編給大家分享一下 spark1.4 Windows local 調試環(huán)境如何搭建,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

spark1.4 Windows local 調試環(huán)境搭建總結

1.scala 版本 scala-2.10.4 官方推薦 scala-2.11.7【不推薦,非 sbt 項目、需要后加載】

2.spark 版本 spark-1.4.0-bin-hadoop2.6.tgz

3.hadoop 3.1 版本 hadoop-2.6.0.tar.gz 3.2 環(huán)境變量 HADOOP_HOME=E:/ysg.tools/spark/hadoop-2.6.0 或 System.setProperty(hadoop.home.dir , E:\ysg.tools\spark\hadoop-2.6.0 3.3winutils.exe

winutils.exe 拷貝至 spark/hadoop-2.6.0/bin

文件下載地址 http://files.cnblogs.com/files/yjmyzz/hadoop2.6%28×64%29V0.2.zip

4.idea 新建 NO-SBT 項目

libraties  增加  scala sdk 
spark-1.4.0-bin-hadoop2.6\lib\spark-assembly-1.4.0-hadoop2.6.0.jar

spark.test.iml 先加載 spark-assembly-1.4.0-hadoop2.6.0 再加載 scala-sdk-2.11.7

?xml version= 1.0  encoding= UTF-8 ? 
 module type= JAVA_MODULE  version= 4 
  component name= NewModuleRootManager  inherit-compiler-output= true 
  exclude-output / 
  content url= file://$MODULE_DIR$ 
  sourceFolder url= file://$MODULE_DIR$/src  isTestSource= false  / 
  /content 
  orderEntry type= inheritedJdk  / 
  orderEntry type= sourceFolder  forTests= false  / 
  orderEntry type= library  name= spark-assembly-1.4.0-hadoop2.6.0  level= project  / 
  orderEntry type= library  name= scala-sdk-2.11.7  level= project  / 
  /component 
 /module

以上是“spark1.4 Windows local 調試環(huán)境如何搭建”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注丸趣 TV 行業(yè)資訊頻道!

正文完
 
丸趣
版權聲明:本站原創(chuàng)文章,由 丸趣 2023-08-25發(fā)表,共計1258字。
轉載說明:除特殊說明外本站除技術相關以外文章皆由網(wǎng)絡搜集發(fā)布,轉載請注明出處。
評論(沒有評論)
主站蜘蛛池模板: 东乡县| 来宾市| 卢氏县| 江陵县| 平顺县| 夏河县| 巴楚县| 靖宇县| 威宁| 高唐县| 赣榆县| 尉氏县| 武冈市| 财经| 枣阳市| 锦屏县| 利川市| 揭西县| 白山市| 庆安县| 农安县| 玉环县| 陆川县| 临安市| 密云县| 迁西县| 广昌县| 曲阳县| 广丰县| 繁峙县| 定安县| 临汾市| 河北区| 凤凰县| 定陶县| 茶陵县| 西乌珠穆沁旗| 漳平市| 黄骅市| 榕江县| 金门县|