取消
顯示的結果
而不是尋找
你的意思是:

如何保障所有集群,然後開始運行代碼嗎

Leodatabricks
貢獻者

當有節點緩慢,有時工作需要調整其數量的集群達到所需數量的節點。有什麼方法可以確保沒有代碼運行之前所有節點都安全嗎?謝謝你!

14日回複14

有一個選項來關閉,優化功能呢?當一些工人被添加後,我經曆了一些奇怪的連接丟失問題的讀/寫數據時在運行代碼。一切工作當所有節點都在開始工作之前做好了準備。

BilalAslamDbrx
尊敬的貢獻者二世
尊敬的貢獻者二世

@Leo包我認為你說的話是“我如何保證我的工作不能開始,直到所有的工人在火花集群中的節點都準備”?如果這是你想要的,設置集群大小如5工人和禁用自動定量。這種方式,磚將確保所有工人準備提交代碼前。

謝謝你的澄清。這正是我的意思。我不使用自動定量,因為我已經提交一份工作運行所需數量的工人節點。從我的觀察來看,即使一些工人沒有準備好,集群將開始一旦一個像樣的工作節點的數量。磚的描述顯示的一些節點采取更長的時間變得比其他人好,並已跳過為了疏通集群啟動”。我的問題我需要確保所有工人節點準備然後運行代碼。

匿名
不適用

你為什麼需要所有的工人開始在同一時間嗎?

Manoj12421
重視貢獻二世

如果你想讓你的工人準備提交代碼前就設置集群大小7、3工人和禁用自動定量

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map