久久精品人人爽,华人av在线,亚洲性视频网站,欧美专区一二三

如何將實時計算Flink與自身環境打通

165次閱讀
沒有評論

共計 2182 個字符,預計需要花費 6 分鐘才能閱讀完成。

這期內容當中丸趣 TV 小編將會給大家帶來有關如何將實時計算 Flink 與自身環境打通,文章內容豐富且以專業的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

如何使用實時計算 Flink 搞定數據處理難題?下面將介紹如何實時計算 Flink 與自身環境打通。

一、運行作業的 Jar 如何存儲在 OSS 上

在 VVP 平臺有兩種方法可以上傳作業的 jar。

方法一,借助 VVP 提供的資源上傳功能,可以直接使用這個功能對 Jar 進行上傳目前該功能支持 200 兆以內的 Jar 包上傳。使用時,直接在創建作業的時候選擇上傳的 jar 包就可以了,演示如下:

● 進入到 VVP 平臺,點擊左側資源上傳功能,然后在打開頁面點擊右上角的上傳資源,選擇要上傳的 Jar 包,完成上傳;

● 上傳成功后,點擊左側創建作業,完善作業名等信息。在 Jar URI 欄,下拉選擇剛剛上傳的 Jar 包,點擊確定完成創建作業,然后啟動即可使用。

方法二,直接在 OSS 的控制臺上面,將要使用的 Jar 上傳上去,然后使用 OSS 是提供的 Jar 鏈接來行使用。使用的時候也比較簡單,直接使用 OSS 提供的 Jar 鏈接,演示如下:

● 打開 OSS 控制臺,選擇在創建 VVP 時候使用的 Bucket,再選擇目錄,點擊上傳文件,上傳時可以將它的權限設置為公共讀,點擊上傳文件即完成;
● 使用時,OSS 控制臺上點擊已上傳包右側的“詳情”,獲取該 Jar 包的 URL 鏈接。

● 創建作業時,將 jar 包的 URL 的鏈接填入 Jar URI。

需要注意,OSS 詳情頁面提供的鏈接是公網訪問的,開通的 VVP 并不能直接訪問公網,所以在創建作業使用 HTTPS 的時候,需要使用 VPC 訪問的 endpoint,這樣才能正常的啟動作業。

如果想用公網獲取一個 HTTPS 的鏈接,怎么操作呢?可以首先對 VVP 進行公網打通,簡單來說步驟如下:

● 首先,創建一個 NAT 網關。創建時選擇“組合購買 ERP”,然后選擇區域并補充名稱等信息,然后綁定彈性公網 IP,完成創建;
● 其次,創建 SNAT 條目。創建好 NAT 之后,點擊“創建 SNAT 條目”,在彈窗選擇交換機并補充名稱信息,完成創建。

完成上述兩個步驟,該 VVP 實例就已經打通公網,在創建 Deployment 時就可以直接使用 https 公網可訪問的 jar 包了。

二、在 VVP 平臺上 Flink 如何與典型數據源進行交互

介紹如何通過 SQL 以及 connectors 與外部的一些數據存儲系統進行交互,以 SLS,Kafka 作為數據源讀寫數據為例。

(實操演示)點擊 SQL 編輯器,創建一個 Datagen Table,它是用于數據的隨機生成的,然后點擊運行。然后再點擊生成一個 SLS Table,補充所需參數信息,然后點擊創建完成。

創建完成后,寫入 SQL 語句,比如 insert into sls select id, name from datagen,然后另存后點擊運行,創建 Deployment 并啟動。

當作業成功運行后,在 SLS 上查詢數據。說明 datagen 已經生成數據并成功寫入 SLS。

類似的,我們可以按照上面的步驟從 SLS 讀數據然后寫入 Kafka:

● 在 vvp 的 sql 編輯器頁面創建一個 Kafka table
● 用 SQL 語法從 SLS 讀取數據寫入 Kafka 中并啟動
● 作業運行成功后,即開始從 SLS 讀數據寫入 Kafka 中

三、如何將 VVP 平臺上 Flink 的指標打入外部 Metrics 系統

接下介紹如果想把運行作業的指標放入到一些系統當中去,并進行指標觀測。VVP 提供了兩種方法:

方法一,VVP 默認的將 Flink 作業指標打入到 arms,不需要額外的處理,直接運行作業之后,就能通過指標按鈕看到。

方法二,如果自己有指標系統,想把 Flink 的作業指標打入到自己的系統里,主要有兩點:首先保證 VVP 上作業與自己指標系統網絡的連通性;其次在 Flink conf 中配置好相應的 metrics reporter。在創建作業過程中,進行 metric 配置。

例:使用 premetheus 的 pushGateway 方式,所以 reporter class 就選擇 org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter。按上圖所示配置 pushGateway 的 port 和 host,Metric reporter 就配置完成了。作業啟動成功后在配置好的 grafana 大盤上查看指標。

四、如何將 Flink 作業日志打入到外部系統

如果在作業運行中,突然運行失敗,我們想要查看運行失敗作業的日志,就需要把 Flink 作業的日志保存下來。在 VVP 平臺為這個目的提供了兩種方案,將 Logs 寫入 OSS 中或 SLS 中,簡單來說,在創建作業的時候,在 Log 配置項里面配置一些 Log 參數。

方法一,將日志寫入 OSS 中。在創建作業的時候,在高級配置中的 Log 配置里,選擇使用用戶自定義,然后將(幫助文檔)里面的配置放在自定義的配置中去,再將一些參數換成 OSS 的必要參數就可以了。

需要查看日志時,可以通過幫助文檔的指導,找到日志存放的文件,然后點擊下載查看。

方法二,將日志寫入 SLS 中。與方法一類似,只是 LOG 配置項稍有差異;下載和查看方法與方法一一致。

上述就是丸趣 TV 小編為大家分享的如何將實時計算 Flink 與自身環境打通了,如果剛好有類似的疑惑,不妨參照上述分析進行理解。如果想知道更多相關知識,歡迎關注丸趣 TV 行業資訊頻道。

正文完
 
丸趣
版權聲明:本站原創文章,由 丸趣 2023-08-16發表,共計2182字。
轉載說明:除特殊說明外本站除技術相關以外文章皆由網絡搜集發布,轉載請注明出處。
評論(沒有評論)
主站蜘蛛池模板: 志丹县| 德惠市| 乌鲁木齐市| 维西| 扶余县| 新建县| 鞍山市| 固镇县| 阳城县| 丘北县| 来凤县| 保康县| 和硕县| 普宁市| 浮梁县| 乐至县| 孝义市| 孝昌县| 罗甸县| 东城区| 台州市| 确山县| 扎鲁特旗| 武川县| 石泉县| 措美县| 渝中区| 什邡市| 普宁市| 京山县| 永济市| 阜宁县| 宁蒗| 泰和县| 基隆市| 青浦区| 白朗县| 元朗区| 肇庆市| 海丰县| 邢台市|