取消
顯示的結果
而不是尋找
你的意思是:

磚任務Python輪:訪問JobID & runID嗎?

GGG_P
新的貢獻者三世

我使用Python(作為Python輪應用程序)

我的工作使用部署和運行dbx

我定義的一些磚的工作流程使用Python輪任務

一切工作正常,但我有問題來提取“databricks_job_id”&“databricks_run_id”日誌/監控的目的。

我用來定義{{job_id}}&{{run_id}}參數在“筆記本任務”或其他任務類型,其工作正常。

但Python輪我無法定義論文:

與Python輪任務,基本上參數是字符串數組:

[" / dbfs /共享/ dbx /項目/ myproject / 66655665 aac24e748d4e7b28c6f4d624 /工件/ myparameter.yml”、“dbfs /共享/ dbx /項目/ conf / myproject / 66655665 aac24e748d4e7b28c6f4d624 /工件”)

添加“{{job_id}}“&”{{run_id}}“在這個數組不工作…

你有什麼好主意嗎?不想使用任何REST API在我的工作量來提取這些id…

我猜我不能使用dbutils /筆記本上下文有閃IDs因為我不使用任何筆記本電腦……

2回答2

匿名
不適用

@Gregoire口感:

您可以使用dbutils模塊檢索作業ID和運行Python輪應用程序從內部ID。這裏是如何做到這一點的一個例子:

從pyspark。sql請求進口SparkSession進口進口json進口操作係統#獲取當前SparkSession火花= SparkSession.builder.getOrCreate() #獲得磚工作的ID和從環境變量job_id運行ID = os.environ.get (“DATABRICKS_JOB_ID”) run_id = os.environ.get (DATABRICKS_RUN_ID) #打印作業ID和運行ID日誌/監測目的打印(f“磚工作ID: {job_id}”)打印(f“磚運行ID: {run_id}”)

然後您可以將這段代碼添加到您的Python輪任務ID和提取工作運行ID和用於日誌/監測目的。

注意,環境變量DATABRICKS_JOB_ID和DATABRICKS_RUN_ID由磚自動設置當您運行工作,所以你不需要傳遞參數。

GGG_P
新的貢獻者三世

嘿,Suteja,

謝謝你的回應,但unfortunalty,它不使用環境變量。

null值的變量?

你知道我應該使用哪個DBR ?

關於這個環境變量或任何文檔嗎?

謝謝你!

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map