光子和UDF效率

[Dekova]

當使用JVM引擎,Scala udf勝過Python udf因為數據不需要轉移到Python環境中進行處理。如果我理解的含義使用光子c++引擎,任何處理,需要在JVM (Scala udf)或在Python環境中(Python和熊貓udf)需要數據序列化和/或轉移進行處理。

我的理解正確嗎?做Scala udf失去性能優勢當使用光子c++引擎?

[werners1 · Accepted solution]

光子不支持udf:
https://learn.microsoft.com/en-us/azure/databricks/runtime/photon的局限性

當創建一個UDF,光子將不會被使用。