3
任何人都可以請指出這是什麼激活的批掛有許多個星期的原因,從來沒有被處理?非常感謝。星火流:長時間排隊/主動批次
我的猜測是沒有足夠的執行者,多的工人/執行器就能解決問題?或者Spark對其任務調度程序中的不同批次分配優先級?
但這裏的情況是,最近才批(六月底)得到成功處理,但在5月批仍在排隊。
我只是檢查我的星火設置,調度策略是FIFO
spark.scheduler.mode FIFO
任何人都可以請指出這是什麼激活的批掛有許多個星期的原因,從來沒有被處理?非常感謝。星火流:長時間排隊/主動批次
我的猜測是沒有足夠的執行者,多的工人/執行器就能解決問題?或者Spark對其任務調度程序中的不同批次分配優先級?
但這裏的情況是,最近才批(六月底)得到成功處理,但在5月批仍在排隊。
我只是檢查我的星火設置,調度策略是FIFO
spark.scheduler.mode FIFO
事實證明,在主節點是瓶頸。
主節點內存不足,然後也許調度無法處理速度不夠快。
解決方案:更改主節點成爲一個更強大的EC2實例
我運行一個虛擬機有1個vCPU這是造成積壓 – devl