筆記本上執行代碼驅動程序來實現並行您隻需要創建火花dataframe與你的列表。
作為@Werner Stinckens說你可以一起運行多個筆記本也在這種情況下,你不會使用列表隻是為了每一個筆記本通過1參數從你的列表:
多處理。池進口ThreadPool my_params =[“歐盟”,“摩根”,“亞太地區”)池= ThreadPool(4) #匹配cpu核心池。地圖(λmy_param: run_notebook (“my_notebook”, 3600年,{“my_widget”: my_param}), my_params)
您可以轉換列表dataframe和注冊表/視圖將可以從所有的筆記本