取消
顯示的結果
而不是尋找
你的意思是:

引發結構流,一個聚合與水印DF Append模式三角洲表不寫最近的聚合三角洲表即使穿越邊界水位標誌。這是造成數據損失

KKDataEngineer
新的貢獻者三世

團隊,

我在一個獨特的問題。我不確定我的理解是錯誤的或與火花,這是一個錯誤。

  1. 我正在讀一個從事件流中心(提取)
  2. 旋轉和聚合以上dataframe(轉換)。這是一個有水印的聚合。
  3. 寫聚合三角洲表APPEND模式觸發。

然而,最近發表的消息事件中心不寫三角洲即使脫落的水印。

我使用相同的eventtimestamp列在窗口和水印。

我的理解是應該插入的數據差值表後“Eventtime馬克斯”(最新消息)+水印。

這是造成數據丟失。

此外,所有事件的記憶存儲必須衝到水池前停止流標誌著優雅的關閉。

請建議。

0回答0
歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map