2016-11-09 27 views
2

作爲Luigi管道的一部分,我們希望通知使用POST請求等待正在計算的數據的微服務。如何在Luigi中創建非持久性任務?

到目前爲止,我們使用的是RunAnywayTarget,但如果我們以比數據更改速度快的速度啓動Luigi,則會出現問題。所以我的問題是,

什麼是最好的模式來創建一個任務,在管道中做一些事情,但不會創建任何數據,比如對REST服務執行POST請求,發送消息給Kafka等等...?

我知道我可以創建一個沒有輸出的任務來執行run方法中的請求,但是如果由於某種原因最終服務在第一次運行期間失敗,應該如何重新運行此NotificationTask?依賴關係將在那裏,它不會再運行。

回答

0

我會繼續爲該任務創建一個唯一的輸出,即使該輸出未在您的進一步處理中使用。這只是具有特定輸入集的任務已成功完成的標記。你可以做一個簡單的FileTarget,一個PostgresTarget等。

相關問題