久久精品人人爽,华人av在线,亚洲性视频网站,欧美专区一二三

如何構(gòu)建Spark集群

157次閱讀
沒有評論

共計 767 個字符,預(yù)計需要花費 2 分鐘才能閱讀完成。

這篇文章主要講解了“如何構(gòu)建 Spark 集群”,文中的講解內(nèi)容簡單清晰,易于學習與理解,下面請大家跟著丸趣 TV 小編的思路慢慢深入,一起來研究和學習“如何構(gòu)建 Spark 集群”吧!

從控制臺我們可以看見有兩個 DataNode,此時我們點擊“Live Nodes”查看一下其信息:

從控制臺中看到了我們的兩個 Datanode 節(jié)點 SparkWorker1 和 SparkWorker2,這正是我們預(yù)期中的!

第三步:啟動 yarn 集群

使用 jps 命令可以發(fā)現(xiàn) SparkMaster 機器上啟動了 ResourceManager 進程:

而在 SparkWorker1 和 SparkWorker2 上則分別啟動了 NodeManager 進程:

在 SparkMaster 上訪問 http://SparkMaster:8088  可以通過 Web 控制臺查看 ResourceManager 運行狀態(tài):

在 SparkMaster 上訪問 http://SparkWorker1:8042  可以通過 Web 控制臺查看 SparkWorker1 上的 NodeManager 運行狀態(tài):

在 SparkMaster 上訪問 http://SparkWorker2:8042  可以通過 Web 控制臺查看 SparkWorker2 上的 NodeManager 運行狀態(tài):

接下來使用“mr-jobhistory-daemon.sh”來啟動 JobHistory Server:

啟動后可以通過 http://SparkMaster:19888  在 Web 控制臺上看到 JobHistory 中的任務(wù)執(zhí)行歷史信息:

感謝各位的閱讀,以上就是“如何構(gòu)建 Spark 集群”的內(nèi)容了,經(jīng)過本文的學習后,相信大家對如何構(gòu)建 Spark 集群這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是丸趣 TV,丸趣 TV 小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!

正文完
 
丸趣
版權(quán)聲明:本站原創(chuàng)文章,由 丸趣 2023-08-16發(fā)表,共計767字。
轉(zhuǎn)載說明:除特殊說明外本站除技術(shù)相關(guān)以外文章皆由網(wǎng)絡(luò)搜集發(fā)布,轉(zhuǎn)載請注明出處。
評論(沒有評論)
主站蜘蛛池模板: 贡山| 紫云| 横山县| 长春市| 徐水县| 二连浩特市| 紫云| 崇文区| 平遥县| 平顺县| 大城县| 九龙坡区| 合水县| 万州区| 邵阳县| 宁乡县| 石家庄市| 中山市| 河津市| 合肥市| 东城区| 苏尼特右旗| 富川| 泰和县| 峨山| 高雄市| 卓资县| 兰考县| 义乌市| 九寨沟县| 鸡泽县| 衡山县| 响水县| 广德县| 汪清县| 新乐市| 汉沽区| 永登县| 上思县| 上高县| 正镶白旗|