取消
顯示的結果
而不是尋找
你的意思是:

我如何查看和更改SparkConf設置如果SparkContext (sc)已經提供給我嗎?

cfregly
貢獻者
5回複5

cfregly
貢獻者

從集群選項卡上,選擇一個集群並查看火花UI。

環境選項卡顯示當前引發配置設置。

這裏有一個詳盡的清單的火花配置參數:https://spark.apache.org/docs/latest/configuration.html

SparkContext
為你提供在筆記本UI,因此你不能改變這些值在你筆記本上的代碼。一次
SparkConf
傳遞給
SparkContext
構造函數,是克隆和不能改變的值。這是一個引發限製。

有一點要注意的是,磚已經調整了火花到最常見的工作負載運行在特定的EC2實例類型中使用磚雲。

換句話說,你不應該更改這些默認值在極端情況下除外。更改這些默認值,請聯係磚雲支持。

如果您正在使用SqlContext或HiveContext,您可以使用HiveQL手動設置配置屬性

設置鍵=值
命令
spark.sql。*
從這個列表屬性,例如:https://spark.apache.org/docs/latest/sql-programming-guide.html配置

然而,這些配置值覆蓋給集群中的其他用戶可能會導致問題。

JonathanSpooner
新的貢獻者二世

嗨,我可以知道你是怎麼處理elasticsearch的配置嗎?我也向elasticsearch流數據。

集群中有一個“火花”選項卡創建頁麵,可以添加配置集群開始前。

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map