取消
顯示的結果
而不是尋找
你的意思是:

動態分區覆蓋為三角洲表

SamCallister
新的貢獻者二世

火花支持動態分區覆蓋為拚花表通過設置配置:

spark.conf.set (“spark.sql.sources.partitionOverwriteMode”、“動態”)

之前寫一個分區表。與達美表出現你需要手動指定哪個分區覆蓋

replaceWhere
https://docs.www.eheci.com/delta/delta-batch.html overwrite-using-dataframes

df。寫.format(“δ”).mode .option(“覆蓋”)(“replaceWhere”、“日期> = ' 2017-01-01 '和日期< = 2017-01-31”).save(“/δ/事件”)

δ有無論如何覆蓋分區表,而不必手動指定哪個分區應該覆蓋?

8回答說8

匿名
不適用

有更新嗎?我也注意到,配置spark.sql.sources。partitionOverwriteMode並不影響三角洲表。我能理解,我們堅持spark.databricks.optimizer動態覆蓋分區。dynamicPartitionPruning但隻有當用作連接鍵。

它會有用使用.option (“partitionOverwriteMode”、“動態”)插入覆蓋聲明

ChristianHofste
新的貢獻者二世

我仍在等待更新……

Rajeswari
新的貢獻者二世

我麵臨著同樣的問題。有一個更新/建議解決方案如何覆蓋Delta文件分區動態嗎?

OndrejHavlicek
新的貢獻者二世

似乎有一些不願意實現這個:

https://github.com/delta-io/delta/issues/348

但是有一個開放的公關:

https://github.com/delta-io/delta/pull/371

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map