取消
顯示的結果
而不是尋找
你的意思是:

閱讀大量從火花CSV文件

Srikanth_Gupta_
價值貢獻

在試圖讀100 gb的csv。gz文件從火花永遠正在讀,最好選擇讀這個文件速度是什麼?

1回複1

sean_owen
尊敬的貢獻者二世
尊敬的貢獻者二世

問題的一部分是,. gz文件不是可剝離。如果你有一個巨大的100 gb . gz文件,它隻能處理一個任務。你能改變你的輸入使用可剝離壓縮bz2嗎?它會工作得更好。

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map