問題
您的作業運行失敗由於觀察非典型誤差而節流錯誤消息。
Cluster was unreachable during run原因:xxx-xxxxxx-xxxxxxx is throttle, because observed非典型錯誤
導致
這個集群上的作業向Apache Spark驅動程序節點返回了太多的大結果。
結果,司機服務耗盡內存,集群變得不可訪問。
調用.collect或,告訴API。
解決方案
的值可以減少集群上的工作負載或增加spark.memory.chauffeur.size.
司機服務與Spark驅動運行在同一主機上。當為chauffeur服務分配更多內存時,用於Spark驅動程序的總內存將減少。
設置的值spark.memory.chauffeur.size:
- 在工作空間中打開集群配置頁麵。
- 點擊編輯.
- 擴大高級選項.
- 輸入的值spark.memory.chauffeur.size以MB為單位火花配置字段。
- 點擊確認並重啟.