0
我開發了一個應用程序,我們必須從一個大型表格處理超過500萬條記錄。我們使用了spring批處理遠程分區,它工作正常。具有多個表格的彈簧批量遠程分區
我現在必須使用相同的工作,並調整它爲多個表創建分區。每個分區都有表名和最小和最大記錄,因此從服務器知道哪個表必須讀取數據並準備文件。
我的問題是,這是可以做的事情,如果是的話,那麼是否有任何樣品在github上。
謝謝
我開發了一個應用程序,我們必須從一個大型表格處理超過500萬條記錄。我們使用了spring批處理遠程分區,它工作正常。具有多個表格的彈簧批量遠程分區
我現在必須使用相同的工作,並調整它爲多個表創建分區。每個分區都有表名和最小和最大記錄,因此從服務器知道哪個表必須讀取數據並準備文件。
我的問題是,這是可以做的事情,如果是的話,那麼是否有任何樣品在github上。
謝謝
是的,這是可以做到的。您需要實施自己的Partitioner
來處理爲每個表/行範圍創建ExecutionContexts
的邏輯。
一對夫婦良好的資源優勢:
Partitioner
接口文檔:http://docs.spring.io/spring-batch/apidocs/org/springframework/batch/core/partition/support/Partitioner.html
謝謝Michael。我確實在春季開發人員頻道觀看了視頻,因此我的第一次實施非常順利。所以非常感謝你的春季深潛。 – user509755 2015-04-01 17:39:12
在嘗試使用適當的分區信息對我的兩個表進行分區的自定義分區程序之後,我面臨着從屬端的問題。我的奴隸定製讀者正在從步驟執行中讀取信息,但它正在處理相同的問題並進入無限循環。我必須返回什麼來告訴aggegator該分區已成功處理? – user509755 2015-04-05 15:55:02
'ItemReader'必須返回'null'來表示輸入已經耗盡。如果該步驟正常退出,則Spring Batch(特別是「StepExecutionRequestHandler」)將處理其餘部分。 – 2015-04-06 15:11:04