數據磚寫性能

[rami1]

我有一個要求重播攝入從著陸數據並建立銀表。我試圖寫三角洲文件從原始Avro文件位於著陸區。原始文件都位於基於日期的文件夾。我目前使用流從文件讀取數據和寫入δZ順序文件。

問題是,每天是8 - 10小時(大約2000萬條記錄)。任何指針如何我可以可以提高性能嗎?一些我能想到的是:我可以使用批處理讀而不是流?使用鑲花而不是δ?

任何其他的嗎?

提前感謝你的幫助